сор по алгебре ​ представте в виде многочлена

Cos²x -cosx -2 > 0 ;  * * * замена   cosx =t  ; |t|≤1 * * *
t² -t -2 >0 ;
(t+1)(t -2) >0 ;
    +         -          +
 (-1) 2

t∈( -∞ ; -1) U (2 ; ∞) . ⇒ cosx  ∈ ( -∞ ; -1) U (2 ; ∞)  невозможно .

ответ: x ∈  ∅ .

sin²x - 2sinx -3 < 0  ;  замена  sinx =t  ; |t|≤1 * * *
t² -2t -3 < 0 ;
(t+1)(t -3) <0 ;
    +          -          +
 (-1) 3
t∈( -1;3)  ⇒ sinx   ∈ ( -1; 3)  учитывая  что sinx ≤1 получается
sinx   ∈ ( -1; 1] .

ответ:   для всех  x ≠ - π/2 +2πk  , k∈Z.

x ∈ R  \  {. -π/2 +2πk  , k∈Z } 

Воспользуемся   тем что:
(ln(2x^2-4x+11))'=(4x-4)/2x^2-4x+11
Тогда преобразуем наш интеграл:
1/4 int((4x-4)/(2x^2-4x+11)   +4/(2x^2-4x+11)) выделим  в знаменателе  2 слагаемого   полный квадрат:
2x^2-4x+11=2(x-1)^2+9=(√(2/9)*(x-1))^2+1)*9
имееМ:
1/4*ln(2x^2-4x+11)+1/4 *4/9int(1/1+(√(2/9)(x-1))^2
Тк   arctg(√(2/9)*(x-1))'= √(2/9)/1+(√(2/9)*(x-1))^2 
То  преобразовав  2 интеграл так;
1/4*4/9*√(9/2)*int(√(2/9)/1+(√(2/9)*(x-1))^2)=1/3√2*arctg(√2(x-1)/3)
Откуда наш интеграл:
ln(2x^2-4x+11)/4  +arctg(√2(x-1)/3)/3√2+c
Посмотрите на всякий случай операции  с константами там я мог  ошибится.k