Докажите, что если f - убывающая функция, a g - возрастающая функция, то y=f(g(x)) - убывающая функция

Т.к. по условию g(..) это возрастающая функция, то
x1<x2, => g(x1)<g(x2).
Т.к. f(..) по условию это убывающая функция, то z1<z2 => f(z1)>f(z2).
Положим z1=g(x1) и z2=g(x2), тогда
g(x1)<g(x2) => f(g(x1))>f(g(x2).
Итак, x1<x2 => f(g(x1))>f(g(x2)), а это значит, что функция f(g(..)) является убывающей по определению убывающей функции.

A(2 ; 4) 4=2^2 точка А принадлежит
B(3  ;6) 6<3^2 точка B не принадлежит
C(4 ; 8) 8<4^2 точка C не принадлежит
D(-3 ; 9) 9= (-3)^2 точка D принадлежит
R(0,5 ; 0,25) 0,25=0,5^2 точка R принадлежит  
S(1,2 ; 2,4) 2,4>1,2^2 точка S не принадлежит
E(1,5 ; 3) 3>1,5^2 точка Е не принадлежит
F(-2,5 ; 6,25) 6,25= (-2,5)^2 точка F принадлежит 
K(1\2 ; 1\4) 1/4=1/2^2 точка K принадлежит
P(2\3 ; 4\9) 4/9=2/3^2 точка P принадлежит
L(-5\7 ; 25\49) 25/49= (-5/7)^2 точка L принадлежит
M(-11\12 ; -121\144) -121/144< (-11/22)^2 точка M не принадлежит

Можно по определению. 
Посмотреть в учебнике или поискать в интернете формулы для среднего арифметического и дисперсии. Только надо искать в разделе математической статистики, а не теории вероятности. 

Что сделать - надо посмотреть, что можно вынести за скобку или за знак суммы. 
Например - в сумме для среднего каждое число по условию увеличили на 3 и умножили на 2. 
Значит каждое Xi стало 2*(Xi+3) 
Задача состоит в том, чтобы сумму таких чисел выразить через сумму самих этих чисел: 
Σ 2*(Xi+3) = 2*(X1+3) + 2*(X2+3) + .+2*(Xn+3) = 2*(X1+X2+...+Xn) + 2*3*n = 2*ΣXi + 6*n 

Провести это рассуждение для формулы для среднего - и можно выразить Мновое через Мстарое. А Мстарое известно - 8. 

Аналогично надо сообразить как преобразуется формула для дисперсии. 

В конечном итоге, конечно, можно просто знать как влияют на среднее и на дисперсию общие аддитивные и мультипликативные члены. Ну так вывести эту закономерноть - лучший выучить.