При каком значении параметра m сумма квадратов корней уравнения x^2+(m-1)x+m^2-1.5=0 наибольшая?

D=(m-1)²-4(m²-1,5)=m²-2m+1-4m²+6=-3m²-2m+7≥0
D1=4+84=88
m1=((-1-√22)/3 U m2=(-1+√22)/3
m∈((-1-√22)/3;(-1+√22)/3)
x1+x2=1-m
x1*x2=m²-1,5
x1²+x2²=(x1+x2)²-2x1*x2=(1-m)²-2(m²-1,5)=1-2m+m²-2m²+3=-m²-2m+4
f(m)=-m²-2m+4
f`(m)=-2m-2=0
-2m=2
m=-1
           +                  _
(-1)
                   max
f(-1)=-1+2+4=5
ответ и m=-1 сумма квадратов корней будет наибольшей

1) Cosx = t
3t² - 5t -8 = 0
D = 121
t₁ = 16/6                       t₂ = -1
Cosx = 16/6                 Сosx = -1
нет решений               x = π + 2πk , k ∈ Z
2) 8(1 - Sin²x) -14Sinx +1 = 0
 8 - 8Sin²x -14Sinx +1 = 0
-8Sin²x -14Sinx +9 = 0
Sinx = t
-8t² -14t +9 = 0
решаем по чётному коэффициенту:
t = (7 +-√(49 +72))/(-8) = (7 +-11)/(-8)
t₁ = 1/2                                        t₂ =-18/8
Sinx = 1/2                                   Sinx = -18/8
x = (-1)ⁿπ/6 + nπ, n ∈ Z               нет решений.
3)5sin^2x+14 sinxcosx+8cos^2x=0 | : Сos²x ≠ 0
   5tg²x + 14tgx +8 = 0
tgx = t
5t² +14t +8 = 0
t = (-7 +-√(49 -40))/5 = (-7 +- 3)/5
t₁ = -2                                         t₂ = -4/5
tgx = -2                                       tgx = -4/5
x = -arctg2 + nπ, n ∈ Z               x = -arctg 4/5 + πk , k∈Z
4)2tgx-9ctgx +3=0 | * tgx 
   2tg²x - 9 +3tgx = 0
tgx = t
2t² + 3t -9 = 0
D = 81
t = (-3 +-9)/4
t₁ = -3                                          t₂ = 6/4 = 1,5
tgx = -3                                        tgx = 1,5
x = -arctg3 + πk , k ∈ Z                 x = arctg1,5 + πn , n ∈Z
5) sin^2x-5cos^2x=2sin2x
Sin²x - 5Cos²x - 4SinxCosx = 0 | : Cos²x ≠0
tg²x - 5 - 4tgx = 0
по т. Виета 
tgx = 5                      или                tgx = -1
x = arctg5 + πk , k ∈ Z                    x = -π/4 + πn , n ∈Z
6) 5cos2x+5=8sin2x-6sin^2x
    5( 1 - 2Sin²x) + 5 = 16SinxCosx - 6Sin²x
     5 - 10 Sin²x +5 -16SinxCosx +6Sin²x = 0
-4Sin²x - 16SinxCosx +10*1 = 0
-4Sin²x - 16SinxCosx +10(Sin²x + Cos²x) = 0
-4Sin²x -16SinxCosx +10Sin²x +10Cos²x= 0
6Sin²x -16SinxCosx + 10Cos²x = 0 
3Sin²x - 8SinxCosx +5Cos²x = 0 | : Cos²x≠0
3tg²x - 8tgx +5 = 0
tgx = (4 +-√1)/3
tgx = 4/3                                 или           tgx = 1
x = arctg4/3 + πk , k ∈ Z                          x  = π/4 + πn , n ∈Z

Во-первых определимся с понятием : что такое область определения функции?
Область определения функции- это значения аргумента ("х"), при которых значения функции имеют смысл( существуют)
Короче говоря, нас спрашивают: какие "х" можно брать, чтобы значение функции можно было вычислить. А мы ведь умные(правда?) и знаем, что: 1) делить на 0 нельзя;2) корень квадратный из отрицательного числа не существуют , ну и т.д.
а) у = √(х +3)(9 -х) 
У нас как раз квадратный корень. А это значит, что 
(х+3)(9-х) ≥ 0.                  Решаем это неравенство методом интервалов.Ищем нули множителей.
х+3 = 0, ⇒ х = -3
9 -х = 0,⇒ х = 9
-∞      -3        9          +∞
       -        +          +           это знаки (х +3)
       +        +          -           это знаки  (9 -х)
                               Это решение неравенства
ответ: х∈ [ -3; 9] 
б) у = (5х³ -2х)/√(х² -11х +28)
Рассуждаем аналогично.
числитель существует ( можно посчитать значение) при любом "х"
в знаменателе стоит квадратный корень. Он существует только при неотрицательных "х", но он стоит в знаменателе (делить на 0 нельзя)
Значит, нам предстоит решить неравенство: 
х² - 11х +28 > 0
По т. Виета ищем корни
х₁=4,  х₂ = 7
ответ: х∈(-∞; 4)∪(7; +∞)