Гострокутним, прямокутним чи топокутним є трикутник, сторони якого дорівнюють 3 см, 5 см, 7 см ?

В треугольнике против большего угла лежит большая сторона...
только угол против стороны в 7 см может быть или тупым или прямым)))
запишем теорему косинусов для стороны, равной 7
7² = 3² + 5² - 2*3*5*cos(a)
если угол тупой---косинус получится отрицательным числом,
для прямого угла cos(90°) = 0
для острого угла косинус число положительное)))
cos(a) = (9+25 - 49) / (6*5)
можно даже до конца не считать...
очевидно, что треугольник тупоугольный)))

См. ПЕРВЫЙ чертеж.  На нем все обозначения. 
q^2 = R^2 - (m/2)^2;
p^2 = r^2 - (m/2)^2;
Отсюда
(2*m)^2 + (q - p)^2 = (R + r)^2; (это просто теорема Пифагора)
4*m^2 + q^2 + p^2 - 2*q*p = R^2 + r^2 + 2*R*r;
4*m^2 + R^2 + r^2 - m^2/2 - R^2 - r^2 - 2*R*r = 2*q*p; (свожу подобные и делю на 2);
(7/4)*m^2 - R*r = q*p; (это возводится в квадрат);
(49/16)*m^4 - 2*(7/4)*m^2*R*r + R^2*r^2 = (R^2 -m^2/4)*(r^2 - m^2/4) = 
= R^2*r^2 - (1/4)*m^2*(R^2 + r^2) + m^2/16; (ясно, что свободные от неизвестного m слагаемые выпадают, и степень понижается :));
3*m^2 = (7/2)*R*r - (R^2 + r^2)/4;
Собственно, это ответ. Его можно "переписывать" в каких-то иных формах, например, так
m = (√3/6)*√(16*R*r - (R + r)^2); 
сути это не меняет.
Почему эта задача вызвала такие моральные затруднения, я не понимаю.
Арифметику проверяйте! :)

Мне захотелось показать несколько простых ЧУДЕС, которые зарыты в этом условии. См. ВТОРОЙ рисунок, он немного отличается от первого. Семь отличий искать не надо :). Проведена общая внутренняя касательная до пересечения с прямой. Она делит средний (из трех равных) отрезок на части x и m - x; отрезок касательной t;
Ясно, что x*(x + m) = t^2 = (m - x)*(m - x + m);
откуда легко найти x = m/2; 
то есть общая внутренняя касательная делит средний отрезок пополам.
Это уже НЕЧТО, но есть и дальше :) 
r^2 + t^2 = p^2 + (x + m/2)^2 = r^2 - m^2/4 + m^2; 
t^2 = (3/4)^m^2;
t = m*√3/2; 
к сожалению, это не сильно в поиске m :);

Это верно для  произвольного 4 угольника (трапеция частный   случай):

Проведем диагональ x.

Запишем неравенство  треугольника abx: a+b>x ;

Запишем  неравенство треугольника cdx : c+x>d ;

Сложим  эти неравенства почленно:  a+b+c+x>x+d .

Откуда: a+b+c>d .

Таким образом , любая сторона четырехугольника  меньше суммы трех других его сторон , что  ,соответственно, справедливо и для трапеции.

Ну наверное самые  любознательные  спросят :,,А верно   ли это  для произвольного многоугольника?'' Таки  да это так :) . Но вот как это доказать? Пусть  эта задача останется вам.Дам  небольшую подсказку : примените  похожий   метод  как  для 4  угольника ,используя   метод математической индукции. Удачи!