Окно имеет форму прямоугольника, который сверху заканчивается правильным треугольником. периметр окна равен l . каковы должны быть размеры окна, чтобы оно пропускало наибольшее кол-во света?

Размеры прямоугольника
а - высота b - ширина
размеры треугольника
b - все стороны
L = 2*a+3*b
S = a*b+b^2*корень(3)/4

из первого равенства a=(L-3b)/2
S = a*b+b^2*корень(3)/4= b*(L-3b)/2+b^2*корень(3)/4
S(b) =  b*(L-3b)/2+b^2*корень(3)/4 - функция от переменной b
найдем производную по b и приравняем нулю - найдем экстремум
S`(b) =  (L-3b)/2-3*b/2+2*b*корень(3)/4=0
S`(b) =  (L-6*b+b*корень(3))/2=0
b=L/(6-корень(3)) =L*(6+корень(3))/33
a=(L-3b)/2=(L-3*L*(6+корень(3))/33)/2=L*(5-корень(3))/22

ответ
а= L*(5-корень(3))/22 - высота прямоугольника
b=L*(6+корень(3))/33 - ширина окна

1) 3x² + 9 - 12x + x² = 0
4x² - 12x + 9 = 0
D = b² - 4ac = 144 - 16×9 = 0
x = -b/2a
x = 12/8
x = 1,5

2) 5x² + 1 - 6x + 4x² = 0
9x² - 6x + 1 = 0
D = b² - 4ac = 36 - 36×1 = 0
x = -b/2a
x = 6/18
x = 1/3

3) x² + 2x - 3 = 0
D = b² -4ac = 4 - 4×(-3) = 26 = 4²
x1 = ( - 2 + 4) / 2 = 1
x2 = ( - 2 - 4) / 2 = - 3

4) x² + 3x -4 = 0
D = b²- 4ac = 9 - 4×(-4) = 25 = 5²
x1 = ( - 3 + 5) / 2 = 1
x2 = ( - 3 - 5) / 2 = - 4

5) x² - 5x + 4 = 0
D = b² - 4ac = 25 - 4×4 = 9 = 3²
x1 =( 5 + 3) / 2 = 4
x2 = ( 5 - 3) / 2 = 1

6) x² - 4x + 3 = 0
D = b - 4ac = 16 - 4×3 = 4 = 2²
x1 = ( 4 + 2) / 2 = 3
x2 = ( 4 - 2) / 2 = 1

7) 2x² + x - 3x - 4 = 0
2x² - 2x - 4 = 0
x² - x - 2 = 0
D = b² - 4ac = 1 - 4×(-2) = 9 = 3²
x1 = ( 1 + 3) / 2 = 2
x2 = ( 1 - 3) / 2 = - 1

8) 2x² - 3x - 4x + 3 = 0
2x² - 7x + 3 = 0
D = b²- 4ac = 49 - 8×3 = 25 = 5²
x1 = ( 7 + 5) / 4 = 3
x2 = ( 7 - 5)/ 4 = 0,5

Ширина окантовки  k см . 
Площадь картины с окантовкой (см. приложение) :
(16 + k + k)×(11 + k + k)  = 300  
( 16 + 2k )×( 11 + 2k) = 300
16 × 11 + 16×2k  + 2k×11 + 2k×2k  = 300
176 + 32k  + 22k   + 4k²  = 300
4k² + 54k  + 176  - 300  = 0
4k²  + 54k   - 124 = 0
2×(2k²  + 27k  - 62) = 0            |÷2
2k²  + 27k  - 62  = 0
D = 27² - 4×2×(-62) = 729 +496 = 1225 = 35²
D>0 - два корня уравнения
k₁ =  ( - 27  - 35)/(2×2) = -62/4 = - 15,5  - не удовлетворяет условию задачи, т.к. ширина - неотрицательная величина.
k₂ = ( - 27 + 35) / (2×2) = 8/4 = 2  (см)  ширина окантовки

ответ:  2 см.
Не получается  496....