В четырехугольнике АВСD нет параллельных сторон. Где находятся такие точки М, что АМ = ВМ, СМ = DМ ? Сколько может быть таких точек?

Высота равнобедренного треугольника, проведенного к основанию 6, делит основание пополам. ( cм. рисунок в приложении)
Высота разбивает равнобедренный треугольник на два прямоугольных с гипотенузой 5 см и катетом 3 см. Второй катет 4 см ( по теореме Пифагора, это египетский треугольник) 
S=6·4/2=12 кв. ед
Вершина пирамиды проектируется в центр описанной окружности
(см. рисунок, три прямоугольных треугольника равны по катету ( высота пирамиды - общая  и острому углу)
r=S/p=12/(5+5+6)/2=24/16=3/2=1,5
H=r·tg60°=1,5·√3=3√3/2 

Вообще, это надо рисовать, иначе нифига непонятно (ну и про учебник присоединюсь к Эго Фризу) 
Итак, что мы имеем: треугольник АВС, где угол А=90 градусов, и высота АD делит его на два прямоугольных треугольника. 
Начнем с того, что попроще: треугольник ADB (угол D=90 градусов) , катет AD=12, гипотенуза АВ=20, по теореме Пифагора 20^2=12^2+DB^2 
Таким образом, сторона DB=16 
Теперь рассмотрим второй треугольник, получившийся при делении большого треугольника высотой: 
CDA, где угол D =90 градусов. 
Катет AD=12, катет DC=X, гипотенуза AC=Y 
По все той же теореме Пифагора получаем: 
Y^2=12^2+X^2 
Теперь рассмотрим исходный треугольник АВС 
Катет АВ=20, катет АС=Y (смотри выше) , гипотенуза СВ=X+16 
По теореме Пифагора получаем: 
20^2+Y^2=(X+16)^2 => Y^2=X^2+32X+256-400 => Y^2=X^2+32X-144 
подставляем в уравнение Y^2=12^2+X^2 выраженное значение Y, получаем: 
X^2+32X-144=12^2+X^2 
32X=288 
X=9 

Таким образом, гипотенуза ВС=16+9=25 
Катет АС=15 
Косинус угла С равен отношению прилежащего катета к гипотенузе, т. е. cos C= AC/CB=15/25=3/5