ДАЮ 50 Б R=26 OM, I1=I2=I3=1, 5A, U1=6B, U2=18B, U3=15B

Закон преломления  sin(A)/sin(B) = n2/n1, где А – угол падения;  В – угол преломления;  n1 – показатель преломления среды, из которой идет луч (из воздуха);   n2- показатель преломления среду в которую идет луч (в стекло). По условию задачи В = А/2. Тогда имеем sin(A)/sin(А/2) = n2/n1. Или sin(A)/sin(А/2) = n2/n1. В задаче не задан n2, и остается только гадать, какое стекло имеется в виду. А для различных стекол n2 лежит в очень широком диапазоне. Предположим, что n2 = 1,5.  Тогда имеем, что sin(A)/sin(А/2) = 1,5/1 = 1,5. Или sin(A)/√{(1-cosA)/2} = 1,5. Отсюда имеем 2sin²(A)/(1-cosA) = (1,5)²= 2,25. cosA =√{1-sin²(A)}. Тогда имеем sin²(A)/(1-√{1-sin²(A)}) = 1,125. Или sin²(A) = 1,125(1-√{1-sin²(A)}. Проведя алгебраические преобразования, получим {(sin²(A)/(1,125)}² - 2sin²(A)/1,125 +sin²(A) = 0. Решая это уравнение относительно sin²(A), получим, что sin²(A) = 1,125²{(2/1,125)-1} = 0,984375.  И sinA = 0,9921567. Угол А – угол падения равен 82,82 градуса. Такого ответа нет, в предлагаемых вариантах, но ведь n2 не был задан. Я его взял наобум.  

В момент соударения у лёгкого шара была некоторая скорость V. Т.к. его масса составляет четверть от общей массы двух шаров, то скорость центра масс в этот момент равна V/4;
а скорость тяжёлого шара в системе центра масс равна  -V/4. После соударения скорость тяжёлого в системе центра масс шара поменяет направление на обратное, а в лабораторной системе отсчёта она станет равной  V/4+V/4=V/2. То есть вдвое меньшей, чем обладал лёгкий шар.
 Т.к. кинетическая энергия пропорциональна квадрату скорости, то тяжёлый шар поднимется только на четверть радиуса, то есть на 12.5 см.