Где в прямоугольном треугольнике находится альфа?

Косинус это альфа. Косинусом острого угла прямоугольного треугольника называется отношение прилежащего катета к гипотенузе)

думаю всё понятно

Так как по условию АМ = МС, то абсцисса точки С находится как точка пересечения окружности с центром в точке М радиусом АМ с прямой у = 6.
Длина отрезка АМ = √(3-(6))²+(-1+3)²) = √(81+4) = √85.
Составляем уравнение окружности (х-3)²+(у+1)² = 85.
Ордината точки нам известна у = 6, подставляем её в уравнение и находим неизвестную величину р = х:
х² - 6х + 9 + (6 + 1)² = 85.
Получаем квадратное уравнение х² - 6х + 9 -27 = 0.
Квадратное уравнение, решаем относительно x: 
Ищем дискриминант:D=(-6)^2-4*1*(-27)=36-4*(-27)=36-(-4*27)=36-(-108)=36+108=144;
Дискриминант больше 0, уравнение имеет 2 корня:
x_1=(√144-(-6))/(2*1)=(12-(-6))/2=(12+6)/2=18/2=9;
x_2=(-√144-(-6))/(2*1)=(-12-(-6))/2=(-12+6)/2=-6/2=-3.
Это и есть 2 значения параметра р:
р₁ = 9,
р₂ = -3.

Место старта  H

                                     I

                      12,6км    IК (конец пути)

                                     I                                                    I  5,6км

                                     II 

                                                        24 км 

Соедини точки Н и точку К  (это и будет искомое расстояние).

Наверху получим прямоугольный треугольник, у которого

вертикальный катет = 12,6 - 5,6 = 7 (км) 

горизонтальный катет = 24 км

гипотенуза НК, которую будем искать  по теореме Пифагора:

НК^2 = 7^2 + 24^2 = 49 + 576 = 625

HK = 25

ответ: на расстоянии 25 км от места старта находится яхта.