Выражение 1)5√12 - 2√48 + 2√27 2)0, 1√5m - √0, 45m + 2√80m √- это корень

1) = 5√(2² * 3) - 2√(4² * 3) + 2√(3² * 3) = 10√3 - 8√3 + 6√3 = 8√3
2) = 0,1√5m - √(0,3² * 5)m + 2√(4² * 5)m = 0,1√5m - 0,3√5m + 8√5m = 7,8√5m

Есть, конечно, стандартная формула, для решения  квадратного уравнения, но она ничего не объясняет. Легко воспроизвести ее вывод и на этом примере.
x^2-2(2b-a)|2+ (2b-a)^2-(2b-a)^2+(2a+b)=0
Это мы дополнили квадратный трехчлен до полного квадрата и получили то же самое уравнение, которое теперь перепишем так:
(x-(2b-a))^2=(2b-a)^2-(2a+b)
Уравнение имеет действительные решения только если правая часть больше нуля ( это называют дискриминантом, который для данного уравнения так выглядит).
Чтобы потом было легко разобраться когда он больше нуля, его тоже надо дополнить до полного квадрата. Но об этом позже. Обозначим его буквой D.
В общем случае , если  D больше 0, есть два решения нашего уравнения.
Они выглядят так:
x1=(2b-a)+sqrt(D)
x2=(2b-a)-sqrt(D)
Здесь sqrt - корень квадратный.
Исследование вопроса, когда  D больше нуля обычно входит в задачу.
Т.е. надо бы найти область значений b и a при которых  D  больше нуля. Здесь я упрощений не вижу и так бы и написал, что дав корня х1 и х2 - решения уравнения, если  D больше 0.
 

Второе уравнение умножаем на 2
получим: 2ху = 56
и складываем оба уравнения, получаем формулу квадрат суммы...
ху = 28
(х+у)^2 = 121
система
т.е. х+у = 11          или          х+у = -11
      ху = 28                            ху = 28
теперь можно выразить х или у и подставить в другое уравнение
х = 11-у          или          х = -11-у
11у - у^2 - 28 = 0           -11у - у^2 - 28 = 0
y^2 - 11y +28 = 0           y^2 + 11y +28 = 0
по т.Виета
y1 = 4  (x1 = 7)              y3 = -4   (x3 = -7)
y2 = 7  (x2 = 4)              y4 = -7   (x4 = -4)