Построить угол, косинус которого равен 5/8.

Если гипотенуза АВ параллельна оси Ох, то точки А и В - противоположные.
A(-x1; y1); B(x1; y1); |AB| = 2x1
Точка С лежит между ними. C(x2; y2); -x1 < x2 < x1
|AC|^2 = (x2+x1)^2 + (y1-y2)^2
|BC|^2 = (x2-x1)^2 + (y1-y2)^2
По теореме Пифагора
|AC|^2 + |BC|^2 = |AB|^2
(x2+x1)^2 + (y1-y2)^2 + (x2-x1)^2 + (y1-y2)^2 = 4x1^2
x2^2 + 2x1*x2 + x1^2 + 2(y1-y2)^2 + x2^2 - 2x1*x2 + x1^2 - 4x1^2 = 0
2x2^2 + 2(y1-y2)^2 - 2x1^2 = 0
x2^2 + (y1-y2)^2 - x1^2 = 0
 (y1 - y2)^2 = x1^2 - x2^2
Вспомним, что это парабола y = x^2, и y1 = x1^2; y2 = x2^2
(x1^2 - x2^2)^2 = x1^2 - x2^2
Число равно своему квадрату, значит, оно равно 0 или 1.
(x1^2 - x2^2) = (y1 - y2) = 0 или 1
Но 0 разность ординат точек А и С равняться не может, значит, 
y1 - y2 = 1
Но разность ординат - это и есть высота треугольника.

Задача не стоит своих балов, имхо). 
Красный - высота. K и F - точки касания. AO - расстояние по условию. OF, OK - радиусы. Для очень придирчивых - вся основа решения, т.е. после введения углов, лежит в плоскости AS1S. Из треугольника AOF: a/2=sqrt6. Тогда a=2sqrt6. Это сторона основания. Тогда AH=2sqrt6*sin60*=3sqrt2
S1F=(3sqrt2)/3=sqrt2
OS1=1
угол AOS1=k
угол AOK= l
угол KOS=b
cos(k)=OS1/AO=1/3
cos(l)=OK/AO=sqrt3/3
b=pi-arccosk-arccosl
cosb=cos(pi-arccos(k)-arccos(l))= -cos(arccos(k)+arccos(l))
Есть формула подсчета этого: arccos(k)+arccos(l)=arccos(k*l-sqrt(1-k^2)*sqrt(1-l^2)), где k+l >0
Я не буду приводить расчеты, тут все подставляется. cos(b)=(4-sqrt3)/9 = OK/OS. Отсюда находится OS. Вся высота пирамиды = OS+OS1 = (4+8sqrt3)/(4-sqrt3).
P.S. sqrt - квадратный корень из