Задайте уравнением вида y=kx +b прямую, проходящую через точки Е(3;-7) и F (1;-1) y=?

Задание можно переформулировать так: при каких значениях параметра a уравнение (ctg²x+6)/(4ctgx+2)=a не имеет решений. 
ОДЗ: ctgx≠-1/2
ctg²x+6=a(4ctgx+2)
ctg²x-4a*ctgx+6-2a=0
ctgx=t
t²-4at+6-2a=0
D=16a²-4(6-2a)=16a²+8a-24
Для того чтобы квадратное уравнение не имело решений дискриминант должен быть отрицателен:
16a²+8a-24<0
a∈(-3/2; 1)
Это не полное решение. Теперь нужно проверить будет ли t=-1/2 - корень не попадающий в одз- решением уравнения при каких нибудь a, ведь если этот корень будет еще и единственным, то такие а нам подходят. Для этого просто подставляем в уравнение -1/2 вместо t и убеждаемся что такого не будет, а значит этот случай далее рассматривать не надо.
ответ: -3/2<a<1

Легко видеть,что х=1,у=1 -решение системы.
Покажем, что других решений нет.
Пусть х и у одного знака и не равны 0. Тогда понятно, что первое уравнение имеет 1 целочисленный корень (все слагаемые положительны).

Преобразуем первое уравнение:
x^2+(x+0,5у)^2-0,25у^2+9y^2=12
x^2+(x+0,5у)^2+8,75y^2=12

Очевидно, что если х или у равен 1,или -1, то значение другой переменной не может быть по модулю больше 1. Первому уравнению удовлетворяет пара х=-1,у=-1, но она не удовлетворяет второму уравнению.
Остается проверить х=0 или у=0 и убедиться, что таких решений нет.