Как вести эту формулу в Excel

Не совсем понял о какой таблице речь.

Представляем буквы числами от 0 до 4. А-0, Р-1, У-2, К-3, О-4

получается список на первом месте которого 00000, а на последнем 44444

Переводим последнее число из пятеричной системы счисления в десятеричную и прибавляем единицу (т.к. отсчет начинается с нуля, а нумерация с 1)

Получаем: Всего 3125 комбинаций

По той же логике на 517 месте стоит число 516.

Переводим его в пятеричную систему - 04031

Подставляем вместо цифр буквы.

Под номером 517 находится комбинация  - АОАКР

Теперь обратное, вместо букв цифры - 32143

Переводим в десятичную систему и прибавляем 1.

Курок находится под номером 2174

// PascalABC.NET 3.0, сборка 1164 от 11.02.2016
function gcd(a,b:integer):integer;
// Нахождение НОД
var
  i: longint;
begin
  while b <> 0 do begin
    a := a mod b;
    i := b; b := a; a := i
    end;
  Result:=a
end;

begin
  var a:=ReadInteger('a=');
  var b:=ReadInteger('b=');
  var nod:=gcd(a,b);
  if nod>1 then
    WritelnFormat('Дробь сократима: {0}/{1}={2}/{3}',
    a,b,a div nod,b div nod)
  else WritelnFormat('Дробь {0}/{1} несократима',a,b)
end.

Тестовое решение:
a= 23541
b= 335160
Дробь сократима: 23541/335160=59/840