с подробным описанием заранее

Если достаточно координат концов лучей звезды, то такая задача аналогична задаче поворота отрезка вокруг точки на заданный угол.
Для пятиконечной звезды угол равен 72 градуса.
Поместим центр окружности, в которую вписана звезда, в начало координат.
Пусть обозначим её точкой А (0;0).
Верхняя вершина звезды - точка В (0; R) - R задаётся координатой "у" точки В.
Далее по формулам (против часовой стрелки с плюсом, против - с минусом) указываем угол поворота.
X = x1+(x2-x1)*cos(A)-(y2-y1)*sin(A).
Y = y1+(x2-x1)*sin(A)+(y2-y1)*cos(A).

Для примера в приложении радиус дан 5.

Если "Точка S розміщена на однаковій відстані 5 см від сторін рівнобічної трапеції", то её проекция на плоскость этой трапеции является центром окружности. вписанной в трапецию.

У трапеции, описанной около окружности, сумма боковых сторон равна сумме оснований.

Боковая сторона равна (3+12)/2 = 15/2 = 7,5 см.

Радиус окружности равен половине высоты трапеции Н, которую находим из прямоугольного треугольника, образованного боковой стороной, её проекцией на основание и высотой.
Н = √(7,5² - ((12-3)/2)²) = √ (56.25 -20.25) = √36 = 6.
r = H/2 = 6/2 = 3 см.

Расстояние от заданной точки до плоскости трапеции равно:
L = √(5² - r²) = √(25 - 9) = √16 = 4 см.