Какой из углов прямоугольного треугольника LMK является прямым, если ML^2=MK^2-KL2?

Обозначим сторону квадрата в основании пирамиды за х.
Площадь основания So = x².
Высота Н = √((6√3)²-(x√2/2)²) = √(108-(x²/2)) = √(216-x²)/√2.
Объём пирамиды V = (1/3)SoH = (1/3)x²*√(216-x²)/√2 = x²*√(216-x²)/3√2.
Находим производную функции объёма:

Для нахождения экстремума приравняем производную нулю. Для этого достаточно приравнять числитель нулю.
-х(х²-144) = 0,
х = 0 (это значение отбрасываем, объём Vmin = 0).
х²-144 = 0
х = +-√144 = +-12.

Vmax = (1/3)*12²*√(108-(144/2)) = (1/3)*144*√36 = 144*6/3 = 288 куб.ед.