11/30+7/25= (дробь не сокращай):

97/150

Пошаговое объяснение:

Среднее арифметическое - это сумма всех чисел, делённая на их количество.
Пусть х - четвёртое число, тогда
(х - 0,2) - первое число
3х - пятое число
1,5 * (х - 0,2) = (1,5х - 0,3) - второе число
1,5х - 0,3 + 7,2 = (1,5х + 6,9) - третье число 
Уравнение: х + х - 0,2 + 3х + 1,5х - 0,3 + 1,5х + 6,9 = 20,864 * 5
                    8х + 6,4 = 104,32
                    8х = 104,32 - 6,4
                    8х = 97,92
                    х = 97,92 : 8
                    х = 12,24 - четвёртое число
                    12,24 - 0,2 = 12,04 - первое число
                    3 * 12,24 = 36,72 - пятое число
                    1,5 * 12,24 - 0,3 = 18,06 - второе число
                    1,5 * 12,24 + 6,9 = 25,26 - третье число
ответ: числа 12,04; 18,06; 25,26; 12,24 и 36,72 соответственно.

Проверка: (12,04 + 18,06 + 25,26 + 12,24 + 36,72) : 5 = 20,864
                   104,32 : 5 = 20,864
                    20,864 = 20,864

Для того, чтобы умножить две десятичные дроби необходимо уметь умножать "обычные" числа.

Чтобы умножить 0,63 на 51,2 необходимо умножить 63 на 512. Для решения столбиком, удобнее записать 512 * 63. Поэтому 0,63 мы записываем под 51,2.

Дальше умножаем как обычно.

Последний шаг - поставить запятую. Для этого нужно сосчитать сколько цифр после запятой в данных числах. В 0,63 у нас две цифры (6 и 3), а в числе 51,2 - одна (2). Считаем сколько вместе: 2 + 1 = 3. Значит, в ответе после запятой должно быть 3 цифры.

Всё.

Столбик на фото.