Av b * (a * b) сделайте логическую связку

Объём переданного файла составляет 28800 бит/сек * 1 мин 20 сек = 28800 бит/сек * 80 сек = 2304000 бит

Изображение состоит из 600 * 400 = 240000 пикселей, значит, на 1 пиксель отводилось 2304000/240000 = 9,6 бит

Получилось нецелое количество бит. Это может означать, например, что использовалось какое-то сжатие данных: при кодировании, принятом в школьных задачах, на каждый пиксель отводится одинаковое целое число бит.

Оценить количество цветов в палитре можно по-разному:

– округлить количество бит на пиксель вниз (9 бит), тогда в палитре 2^9 = 512 цветов

– не округлять, в палитре 2^9,6 = 776 цветов

– округлить вверх (10 бит), в палитре 2^10 = 1024 цвета

Программа составлена для условия m∈[2,k], n∈[1;k], m>n

CLS
INPUT "k=", k
FOR m = 2 TO k
   FOR n = 1 TO m - 1
      a = m ^ 2 - n ^ 2: b = 2 * m * n: c = m ^ 2 + n ^ 2
      PRINT m, n, a, b, c
   NEXT n
NEXT m
END

Тестовое решение:
k=5
2             1             3             4             5
3             1             8             6             10
3             2             5             12            13
4             1             15            8             17
4             2             12            16            20
4             3             7             24            25
5             1             24            10            26
5             2             21            20            29
5             3             16            30            34
5             4             9             40            41