При каких значениях m и n вектор a(3, -7, m) будет коллинеарен вектору b(6, n, 4)?

для векторов a(3,-7,m) и b(6,n,4)
n = -14,
m = 2

Для избавления от иррациональности в знаменателе необходимо вначале проанализировать знаменатель.
Если знаменатель представляет собой выражение вида , то необходимо домножить и числитель, и знаменатель на этот корень (основное свойство дроби)
Если знаменатель представляет собой выражение вида или , то числитель и знаменатель необходимо домножить на сопряжённое выражение (для первого: на ; для второго выражения на ), сведя числитель к формуле разности квадратов. Это алгоритм для квадратных корней. Для корней больше 2 степени сопряжённые ищутся иначе и по другим формулам.

Приведение к наименьшему общему знаменателю (НОЗ) 
Чтобы привести несколько дробей к наименьшему общему знаменателю, надо:

1) найти наименьшее общее кратное знаменателей этих дробей, оно и будет их наименьшим общим знаменателем;

2) разделить наименьший общий знаменатель на знаменатели данных дробей, т. е. найти для каждой дроби дополнительный множитель;

3) умножить числитель и знаменатель каждой дроби на ее дополнительный множитель.

12 и 16
12=3*4
16=4*4

НОК 3*4*4=48
48:12=4 48:16=3
11*4=44 13*3=39
44/48 и 39/48