При делении часного (х) и остатка(у) от деления числа 65 на 12

65/12
Частное Х = 5
Остаток У = 5

12,45

Объяснение (см. также на приложенном скрине):

1) старшие два разряда числа X равны 10, потому что в числе Y эти разряды равны нулю, а логическая сумма (операция ИЛИ) равна 10 (чтобы получить единицу- хотя бы один из входных разрядов должен быть равен единице;  ну а ноль можно получить только если оба они равны нулю).

2) Во втором разряде чисел X и Y должен стоять ноль (т.к. лог. сумма равна нулю).

3) Так как в числе X должно быть четыре единицы в разрядах, то проставляем оставшиеся три (т.к. других свободных разрядов для них нет).

4) Находим оставшиеся разряды числа Y по логическому произведению (операция И) и разрядам числа X (чтобы получить единицу- оба входных разряда должны быть равны единице, чтобы получить ноль- хотя бы один из них должен быть равен нулю).

Получили:

Переводим в десятичную систему счисления:

Записываем, как указано в задании (в порядке возрастания, через запятую, без пробела):  12,45

Паскаль АВС:

Program Ikiru;
uses crt;
var
  y,x:real;
begin
  writeln('*** Alphaeus is thinking... ***');
  writeln('***          OK             ***');
  writeln(); writeln();
    write('Введите Х '); readln(x);
    if (sin(3*x)=0) or (ln(1+x*x)=0) or (cos(x)<=0)
      then
        writeln('Функция Y для этого значения Х не определена')
      else
        begin
          y:=2*(cos(3*x)/sin(3*x))-ln(cos(x))/ln(1+x*x);
          writeln('y=',y:8:2);
        end;
end.

Пояснения:
write('Введите Х '); readln(x);
  - программа просит пользователя ввести х
if (sin(3*x)=0) or (ln(1+x*x)=0) or (cos(x)<=0)
  - проверка существования функции (функция ctgХ не существует, если sinX=0, ln берется только от неотрицательных значений, в знаменателе дроби не может быть 0)
Если хотя бы одно из условий не выполняется,  выводится ссобщение о том, что функция для этого значения не определена.
Если все проверки пройдены, программа вычисляет значение функции Y и выводит его на экран.