Векторы, ответ отмечен, мне нужно решение

везде над векторами черта.

согласно условия 2аb+а²+b²=15²; а²-2аb+в²=9², сложим равенства, получим 2а²+2b²=225+81;

2*(a²+b²)=306;⇒(a²+b²)=306/2; b²=153-5128=64*2;  b=√(64*2)=8√2

если обозначить отрезки от вершин до точек касания х1 х2 х3 х4 х5, а сторону а, то

х1 + х2 = а;

х2 + х3 = а;

х3 + х4 = а;

х4 + х5 = а;

х5 + х1 = а;

вычитая, например, второе из первого, получаем х1 = х3; а если вычесть из пятого первое, то x2 = x5; третье и четвертое дают х3 = х5; второе и третье х2 = х4; вообще-то мы уже доказали, что все отрезки, на которые делит вписанная окружность стороны пятиугольника, равны между собой. Отсюда автоматически следует равенство всех углов пятиугольника (интересно, мысль сработает?).

Поэтому окружность можно вписать только в правильный пятиугольник. 

1. Окружность можно вписать только в ПРАВИЛЬНЫЙ пятиугольник.

2. ПРАВИЛЬНЫЙ пятиугольник или пентагон - это пятиугольник, ВСЕ СТОРОНЫ и

    ВСЕ УГЛЫ которого равны между собой.

3. Величина углов правильного пятиугольника составляет:

    а=(n-2)/n*180град.=3/5*180=108 градусов

4. Все диагонали правильного пятиугольника равны между собой.Вместе они

    образуют пятиконечную звезду,называемую пентаграммой.

ответ:в пятиугольник можно вписать окружность, если все его стороны равны и каждый угол этого пятиугольника равен 108 градусов,то есть в правильный пятиугольник.