Само решение написано с красной строки, остальное (кроме ОДЗ) - пояснения.
ОДЗ: т.к. знаменатель не равен 0,
1) 
2) 
3) 
Здесь задание на применение формулы разности квадратов, которая выглядит следующим образом:
.
Перенесем все для удобства в левую часть.
Теперь приведем две первые дроби к общему знаменателю
.
Запишем их в одну общую дробь.
Заметим, что в знаменателе вычитаемого тоже есть формула разности квадратов, т.е. 
В уменьшаемом раскроем скобки в числителе с формул квадрата разности и квадрата суммы:
1) 
2) 
Раскроем скобки в числителе первой дроби еще раз и упростим получившееся выражение.

Теперь перенесем вычитаемое в правую часть и решим уравнение пропорцией.
(в последней строке скобки должна быть не {, а [, редактор не позволяет их поставить, к сожалению)Оба корня не подходят по ОДЗ => решений нет,
∈∅
ответ:
∈∅.
Поделитесь своими знаниями, ответьте на вопрос:
вынесем за скобки а в знаменателе и приведем дроби к общему знаменателю а*(а-5b)*(a+5b)=a*(a²-25b²)
((a+5b)*(a+5b)-(a-5b)*(a-5b))/(a*(a²-25b²))=((a+5b)²-(a-5b)²)/(a*(a²-25b²))=
((a+5b-a+5b)*(a+5b+a-5b))/(a*(a²-25b²))=(10b*2a)/(a*(a²-25b²))=
20b/(a²-25b²)
a²-b²=(a-b)(a+b) - 'это разность квадратов, ее использовал при решении. можно было воспользоваться двумя другими формулами, а именно
(a±b)²=a²±2ab+b²
отсюда второй
((a+5b)*(a+5b)-(a-5b)*(a-5b))/(a*(a²-25b²))=((a+5b)²-(a-5b)²)/(a*(a²-25b²))=
(a²+10аb+b²-a²+10аb-b²))/(a*(a²-25b²))=(10аb*2)/(a(a²-25b²))=
20b/(a²-25b²)
ответ 20b/(a²-25b²)