A) проходит ли прямая 5x-12y=29 через точку а(20; 6)? через точку в(-11; -7)? б) принадлежит ли прямой 8x+7y=56 точка а(3, 5; 4)? точка в(-7; 15)?

Решение смотри в приложении

Пусть сторона квадрата х см, тогда длина прямоугольника (3х) см, а ширина прямоугольника - (х - 5) см.

Т.к. площадь квадрата находят по формуле  S = а², где а - сторона квадрата,  о площадь данного квадрата равна (х²) см².

А т.к площадь прямоугольника находят по формуле S = a · b, где a и b - длина и ширина прямоугольника, то площадь данного прямоугольника будет равна S = 3х · (х - 5) = 3х² - 15х (см²).

Т.к. площадь квадрата на 50 см² меньше площади прямоугольника,  то составим и решим уравнение:

3x² - 15х = x² + 50,

3x² - x² - 15x - 50 = 0,

2x² - 15x - 50 = 0,

D = (-15)² - 4 · 2 · (-50) = 225 + 400 = 625 ; √625 = 25,

x₁ = (15 + 25)/(2 · 2) = 40/4 = 10,

x₂ = (15 - 25)/(2 · 2) = -10·/4 = -2,5 - не подходит по условию задачи.

Значит, сторона квадрата равна 10 см.

ответ: 10 см.

1-ый случай, когда a>0, b>0, тогда точка A лежит в 1-ой координатной четверти. Следовательно, точка B лежит в 3-ей координатной четверти и не принадлежит графику функции y=x^2, так как это парабола, и обе ее ветви лежат в 1-ой и 2-ой к.четвертях.
2-ой случай, когда a>0, b<0, тогда точка A лежит в 4-ой координатной четверти. Этого не может быть, так как ветви параболы по условию находятся в 1 и 2-ой к.ч.
3-ий случай, когда a<0, b>0, тогда точка A лежит в 2-ой координатной четверти. Следовательно, точка B лежит в 4-ой координатной четверти и не  принадлежит графику функции y=x^2.
4-ый случай, когда a<0, b<0, тогда точка A лежит в 3-ей к.ч. Этого не может быть, так как ветви параболы по условию находятся в 1 и 2-ой к.ч.

Если тебя не просят рассматривать случаи с различными знаками a и b, то доказательство идет другое. 
Координаты точки A имеют положительные знаки, отсюда следует, что она находится в первой координатной четверти.
Координаты точки B имеют отрицательные знаки, отсюда следует, что она лежит в 3-ей координатной четверти, а значит, она не может принадлежать графику функции. Это будет отчетливо видно, если ты посмотришь на график этой функции.