Известно что угол между прямыми a и b равен α. Hа прямой α лежит отрезок AB. Найдите проекцию отрезка AB на прямую b​.

Раз уж первую задачу решили правильно, её расписывать не буду.
2) В прямоугольном треугольнике катет равен среднему пропорциональному гипотенузы и проекции этого катета на гипотенузу. Другими словами, квадрат катета равен произведению гипотенузы на проекцию катета.
АВ²=АН·АС=10·40=400,
АВ=20 - это ответ.

3) Точка, равноудалённая от сторон треугольника является центром вписанной в него окружности. Он, в свою очередь, лежит на пересечении биссектрис треугольника, значит АО - биссектриса угла АВС. ∠АВС=2∠АВО=2·39=78°.
В тр-ке АОС ∠ОАС+∠ОСА=(∠ВАС+∠ВСА)/2=(180-∠АВС)/2=(180-78)/2=51°.
∠АОС=180-(∠ОАС+∠ОСА)=180-51=129° - это ответ.

PS. Так как точка О не является центром описанной вокруг треугольника окружности, нельзя говорить о том, что угол АВС вписанный и, тем более, что угол АОС центральный и что он равен двум вписанным.

Пусть высота проведенная из прямого угла А (треугольника АBC) будет обозначена АК. Тогда ВК является проекцией стороны АВ на гипотенузу ВС, а КС -проекцией АС на гипотенузу. Согласно формулам : АВ=√ВК*ВС и АС=√КС*ВС.
Мы знаем соотношение катетов АВ и АС = 6:5, значит надо составить пропорцию  АВ/АС=√ВК*ВС/√КС*ВС,  ВС сокращается и получаем , что ВК/КС=(АВ/АС)^2=36/25
Зная ,что ВК больше КС на 11см, получаем ВК=КС+11, подставим в предыдущую формулу, получим 
(КС+11)/КС=36/25
25(КС+11)=36КС
25КС+275=36КС
11КС=275
КС=25см
ВК=25+11=36см, значит гипотенуза ВС=ВК+КС=25+36=61см
Отве: 61см