Внеси множитель под знак корня

 y = f(x)
  f'(x) = (x^2 + 10x + 25)' * (2x - 10) + (x^2 + 10x + 25) * (2x - 10)' + 9' =
  = (2x + 10 + 0) * (2 - 0) + (x^2 + 10x + 25) * (2 - 0) + 0 =
  = 2*(2x+10) + 2(x+5)^2 = 4(x+5) + 2(x+5)^2 = 2(x+5)(2 + x + 5) =
  = 2(x+5)(7+x) - производная нашей функции, приравниваем её к нулю:
  2(x+5)(7+x) = 0
  x+5 = 0 и 7+x = 0
  x = -5 x = -7
 Отмечаем полученные корни на координантной прямой: 
      +                -                    +                    x  
  оо> 
                -7                  -5 
 Точка максимума - это x=-7, так как производная f'(x) возрастает до -7, а потом убывает. Точка x=-5 - точка минимума.
  y=(-7+5)^2(-7-5) + 9 = 4*(-12) + 9 = -48 + 9 = -39
Получается, что в точке (-5;-39) эта функция достигает своего максимума.