Найди координаты вершины параболы y=−2, 5x2−2x.

a=-2.5 ветви вниз

А(m;n)

m=-b/2a=2/-5=-0.4

n(-0.4)=-2.5*(-0.4)^2-2*(-0.4)=-0.4+0.8=0.4

A(-0.4;0.4)-вершина

y=0

-2.5x^2-2x=0

D=b^2-4ac=(-2)^2-4*(-2.5)*0=4-0=4

x(1)=-b-/2a=2-2/-5=0  

x(2)=-b+/2a=2+2/-5=4/-5=-0.8

x=0

y=-2.5*0^2-2*0=0

А(-0,4;0.4) ; x(1) ; x(2) ; y - координаты

(а+1)во 2 степени-(2а+3)во 2 степени=0
Нужно раскрыть скобки по формулам сокращенного умножения 
Сначала раскроем (а+1)во второй степени,получится 
а в квадрате +2а+1
Дальше рассмотрим оставшиеся,то есть -(2а+3)во второй степени
-(4а в квадрате +12а+9 )
Раскроем скобки и получится
-4а в квадрате -12а-9 
В итоге получилось 
а в квадрате +2а+1-4а в квадрате -12а-9 
Находим подобные и получается
-3 а в квадрате -10 а -8=0
Теперь решаем дискриминантом 
Д(дискриминант)=корню из четырех ,то есть двум
А1= -2 целые одна третья 
А2= -1

Второе уравнение решается аналогично 
25 с в квадрате +80с +64 -с в квадрате +20с-100=0
Что-бы было удобней вычитать Д сократим все на два,и получится
6с в квадрате+25с-9=0
Д=корень из 841 =29
С1=1/3
С2=11/3=3 целых 2/3

1-ый случай, когда a>0, b>0, тогда точка A лежит в 1-ой координатной четверти. Следовательно, точка B лежит в 3-ей координатной четверти и не принадлежит графику функции y=x^2, так как это парабола, и обе ее ветви лежат в 1-ой и 2-ой к.четвертях.
2-ой случай, когда a>0, b<0, тогда точка A лежит в 4-ой координатной четверти. Этого не может быть, так как ветви параболы по условию находятся в 1 и 2-ой к.ч.
3-ий случай, когда a<0, b>0, тогда точка A лежит в 2-ой координатной четверти. Следовательно, точка B лежит в 4-ой координатной четверти и не  принадлежит графику функции y=x^2.
4-ый случай, когда a<0, b<0, тогда точка A лежит в 3-ей к.ч. Этого не может быть, так как ветви параболы по условию находятся в 1 и 2-ой к.ч.

Если тебя не просят рассматривать случаи с различными знаками a и b, то доказательство идет другое. 
Координаты точки A имеют положительные знаки, отсюда следует, что она находится в первой координатной четверти.
Координаты точки B имеют отрицательные знаки, отсюда следует, что она лежит в 3-ей координатной четверти, а значит, она не может принадлежать графику функции. Это будет отчетливо видно, если ты посмотришь на график этой функции.