Найти объём правильной 10-угольной призмы, у которой каждое ребро равно а.

Не уверен ну наверно так Объем призмы находится по формуле: V=Sосн*H
Основанием правильной n-угольной призмы, при n=3, является правильный треугольник, площадь которого находится по формуле 
Так как каждое ребро равно а, то и высота H=a. Тогда объем равен 

Так как четырехугольник ABCD вписан в окружность, а диагонали AC и BC перпендикулярны, то эти диагонали делят заданный четырёхугольник на 4 прямоугольных треугольника.
Эти треугольники попарно подобны (по вертикальным углам при пересечении диагоналей) по равенству двух вписанных углов, опирающихся на равные дуги.

Обозначим точку пересечения диагоналей Е, центр описанной около четырёхугольника окружности О.

Из подобия треугольников АВЕ и ДЕС следует АЕ:ЕД = 3:4.
Примем коэффициент подобия у.
Тогда 8² = (3у)² + (4у)²,
9у² + 16у² = 64,
25у² = 64,
у = √(64/25) = 8/5.
Получаем: АЕ = 3х = 24/5 = 4,8.
                 ДЕ = 4х = 32/5 = 6,4.

Угол АВД как вписанный равен (1/2) центрального угла АОД.
Синус  (1/2) центрального угла АОД равен (8/2)/(17/2) = 4/8,5 =  0,470588. Угол АBД равен  0,489957 радиан или 28,07249°.
Косинус угла ЕАД = 4,8/8 =  0,6.
Угол ЕАД = 0,927295 радиан или 53,1301°.
Угол АДЕ = 90° -  53,1301 =  36,8699°.
По теореме синусов находим АB = AD*sin АДЕ / sin АBД =
 = 8*0,6/ 0.470588 = 10,2.

Сторона ДС по заданию равна (4/3) АВ = (4/3)*10,2 = 13,6.

ВЕ = √10,2²-4,8²) = √( 104.04 - 23.04) = √81 = 9.
СЕ = √(13,6²-6,4²) = √( 184.96 - 40.96) = √144 = 12.
ВС = √(9²+12²) = √(81+144) = √= 15.

Как известно, квадрат диагонали прямоугольного параллелепипеда равен сумме квадратов всех его измерений (это - трехмерный аналог теоремы Пифагора; если у Вас хорошая фантазия, подумайте, какая формула позволяет найти диагональ четырехмерного параллелепипеда, пятимерного,..., бесконечномерного. Чтобы Вы не подумали, что я сошел с ума, наберите в интернете "Равенство Парсеваля", и Вы узнаете, что человечество давно все это придумало).

Возвращаясь в наше унылое трехмерное пространство, пишем
d^2=7^2+6^2+6^2=121=11^2⇒d=11

ответ:  11