Представьте в виде произведения выражение: (b-5) ^3+125 и (а -b)^3 +(a+b) мне нужно не тупо ответ , а именно обьяснение. прямо пишитеэто надо умножить на это и тд не могу понять тему "сумма и разность кубов".

Сумма и разность кубов - это выражения которые раскладываются на множители. Это делается так:

Формулы нужно запомнить. Под a и b могут быть абсолютно любые выражения - хоть числовые, хоть буквенные.

Теперь к самому заданию:
Нужно подогнать под формулы и разложить.

То есть мы сделали замену a = b - 5, b = 5 и разложили в соответствии с формулой. Так же и со вторым:

ОДЗ
{x²-x-3>0
{2x²+x-3>0
{x²-2≠0
1)x²-x-3>0
D=1+12=13
x1=(1-√13)/2 U x2=(1+√13)/2
x<(1-√13)/2 U x>(1+√13)/2
2)2x²+x-3>0
D=1+24=25
x1=(-1-5)4=-1,5 U x=(-1+5)/4=1
x<-1,5 U x>1
3)x²-2≠0
x²≠2
x≠-√2 U x≠√2
x∈(-∞;-1,5) U ((1+√13)/2;∞)
log(3)[(x²-x-3)(2x²+x-3)/(x²-2)²]≥log(3)(9/4)
[(x²-x-3)(2x²+x-3)/(x²-2)²]≥9/4
[(x²-x-3)(2x²+x-3)/(x²-2)²]-9/4≥0
(8x^4+4x³-12x²-8x³-4x²+12x-24x²+-12x+36-9x^4+36x²-36)/4(x²-2)²≥0
(-x^4-4x³-4x²)/4(x²-2)²≥0
-x²(x²+4x+4)/4(x²-2)²≥0
x²(x+2)²/4(x²-2)²≤0
x=0∉ОДЗ
x=-2∉ОДЗ
ответ нет решения

Есть простые решения этой задачи, но они используют векторное или смешанное произведение векторов, а также формулу для расстояния от точки до плоскости. Вкратце, уравнение плоскости можно получить, если сосчитать определитель третьего порядка, в первой строке которого стоят x, y, z; во второй - координаты вектора a; в третьей -координаты вектора b, и приравнять его к нулю Получится уравнение 
x+2y+3z=0. 
Формула, по которой находят расстояние от точки M_0(x_0;y_0;z_0) до плоскости Ax+By+Cz+D=0, выглядит так:

|Ax_0+By_0+Cz_0+D|/√(A^2+B^2+C^2)

В нашем случае получается |3+2-6|/√(1+4+9)=1/√14.

Но если хочется решить задачу более домашними методами, скажем, ограничивая себя скалярным произведением (оно же входит в школьную программу), то получается вот что. Координаты произвольной точки M на плоскости (совпадающие с координатами радиус-вектора этой точки; давайте вообще не будем различать точку и ее радиус-вектор) получаются из координат векторов a и b с линейной комбинации: αa+βb=(2α+β;-α+β;-β), а тогда вектор  
AM будет иметь координаты AM(2α+β-3;-α+β-1;-β+2). Надо подобрать α и β так, чтобы AM был перпендикулярен плоскости, тогда его длина даст расстояние от M до плоскости. Перпендикулярность плоскости равносильна перпендикулярности векторам a и b, что проверяется с скалярного произведения. Получаем систему двух линейных уравнений, из которой находим α и β:

(AM,a)=5α+β-5=0
(AM,b)=α+3β-6=0,

откуда α=9/14; β=25/14.
Подставляя найденный значения α и β в вектор AM, получаем
AM=(1/14)(1,2,3)⇒|AM|=(1/14)√(1^2+2^2+3^2)=√14/14.

ответ: √14/14