Решите уравнение, используя замену неизвестного: (x^2-2x)^2-2(x-1)^2-1=0

(x² - 2x)² -2(x - 1)² - 1 = 0
(x² - 2x)² - 2(x² - 2x + 1) - 1 = 0
 Пусть x² - 2x = t, тогда получаем
t² - 2(t + 1) - 1 = 0
t² - 2t - 3 = 0
 По т. Виета:
t1 = -1
t2 = 3
  Возвращаемся к замене
x² - 2x = -1
x² - 2x + 1 = 0
(x - 1)² = 0
x=1

x² - 2x = 3
x² - 2x - 3 = 0
x=-1
x=3

ответ: ±1; 3

Не уверенна что формула верная



Программа на Руби

for n in -10000..10000
    for k in 0..1000
        p [n,k] if 10*n + 5 == k*k
    end
end

Вывод
[2, 5]
[22, 15]
[62, 25]
[122, 35]
[202, 45]
[302, 55]
[422, 65]
[562, 75]
[722, 85]
[902, 95]
[1102, 105]
[1322, 115]
[1562, 125]
[1822, 135]
[2102, 145]
[2402, 155]
[2722, 165]
[3062, 175]
[3422, 185]
[3802, 195]
[4202, 205]
[4622, 215]
[5062, 225]
[5522, 235]
[6002, 245]
[6502, 255]
[7022, 265]
[7562, 275]
[8122, 285]
[8702, 295]
[9302, 305]
[9922, 315]

т.е. подразумевается что есть и другие решения, если расширять диапазон

Исследование точек экстремума функции проведём по первой производной функции. Первая производная равна y'(x)=3*x²-6*x, её значения равны нулю х1=0 (производная меняет знак с + на минус, так что эта точка - точка локального максимума) х2=2 (производная меняет знак с минуса на =, так что эта точка - точка локального минимума).
По второй производной исследуем выпуклости и вогнутости. Вторая производная y''(x)=6*x-6, она равна нулю при х3=1, при отрицательной производной у функции выпуклость вверх, при положительной - выпуклость вниз. Графики функций прилагаются.