На координатной плоскости х0у укажите множество точек (х; у), координаты которых удовлетворяют неравенству х^2> ху !

То есть множество точек следующее:
В левой полуплоскости (x<0):
    Точки, лежащие выше прямой y=x
В правой полуплоскости (x>0):
    Точки, лежащие ниже прямой y=x

Прямые x=y и x=0 в множество не входят (так как знак строгий)

График в приложении

Я думаю так:
сумма квадратов двух чисел - всегда неотрицательна.
А когда сумма двух неотрицательных чисел равна нулю? А когда каждое из слагаемых равно нулю.
1)(x^2-1)^2=0
2)(x^2-6x-7)^2=0
Решим первое уравнение:
(x^2-1)^2=0
Квадрат числа равен нулю, когда само число равно нулю, значит:
x^2-1=0
(x-1)(x+1)=0
x=-1 U x=1
2)(x^2-6x-7)^2=0
x^2-6x-7=0
D=(-6)^2-4*1*(-7)=64
x1=(6-8)/2=-1
x2=(6+8)/2=7
Итак, мы получили три корня: -1; 1; 7.
Необходима проверка.
После проверки получаем, что уравнению удовлетворяет только
х=-1

Итак , по условию нам нужно решить уравнение и выписать меньший из корней в ответ
Перейдем непосредственно к решению:
(-5x-3)(2x-1)=0
Перемножив получим:
-10x^2+5x-6x+3=0
Выполним возможное упрощение и получим: 
-10x^2-x+3=0
D=b^2-4ac=1+120=121
x1=(-b+√D)/2a=(1+11)/-20=12/-20=-0,6
x2=(-b-√D)2a=(1-11)/-20=10/-20=-0,5
А вот теперь поломаем голову, -0.5 будет большим корнем , но к нулю будет он ближе , но -0.6 меньший корень , но к нулю он дальше , но именно -0.6 нам и нужно записать в ответ как меньший корень