Книжный магазин закупает у издатля книги по оптовой цене 50 руб, за экземпляры какое наибольшее количество этих книг можно купить в магазине на 1300 руб, если наценка магазина составляет

новая стоимость одной книги составит  50*1,7 =85 руб

1300 : 85 = 15 (ост. 25)

ответ : можно купить 15 экземпляров книг

А давайте порассуждаем. Пусть дан N-угольник, причём, ВЫПУКЛЫЙ N-угольник. Пронумеруем его вершины по k от 1 до N. 
Очевидно, что каждая сторона многоугольника связывает две соседние вершины, так ведь? Это означает, что если мы возьмём k-ую вершину, то у неё есть два ближайших соседа - это (k+1)-ая вершина и (k-1)-ая. и с этими соседями k-ая вершина связана двумя сторонами многоугольника. Пока понятно, надеюсь? 
ну а дальше просто. единственный выпуклый многоугольник, который не имеет диагоналей, - это треугольник, так ведь? у треугольника все вершины связаны сторонами треугольника, и никакими другими прямыми линиями мы не можем связать вершины. 
следовательно, для подсчёта количества диагоналей в выпуклом N-угольнике надо вычесть количество треугольников (каждый из которых построен по соседним k, k+1 и k-1 вершинам) из общего количества прямых линий, которые мы можем провести от k-ой вершины до всех остальных N-1 вершин. 
Количество треугольников посчитать несложно - оно равно количеству вершин, т. е. N штук треугольников. Теперь посчитаем количество прямых линий от k-ой вершины до остальных N-1 вершин. Очевидно, что оно равно N-1 прямых линий (с учётом сторон N-угольника) .тогда для N вершин имеем 
N * ( N - 1 ) (1) 
штук прямых линий. теперь учтём, что каждую такую линию мы посчитали дважды (когда проводили её от k-ой вершины к m-ой и снова от m-ой вершины к k-ой) и поделим выражение (1) пополам: 
N * ( N - 1 ) / 2. 
ну вот, а теперь из этого вычтем кол-во треугольников, получим кол-во диагоналей Ld: 
Ld = N * ( N - 1 ) / 2 - N = ( N * N - N - 2 * N ) / 2 = N * ( N - 3 ) / 2. 

для вашего случая, когда Ld = 77, получаем квадратное уравнение: 
N * N - 3 * N - 154 = 0 
N = ( 3 + sqrt ( 9 + 4 * 154 ) ) / 2 = 14.

А давайте порассуждаем. Пусть дан N-угольник, причём, ВЫПУКЛЫЙ N-угольник. Пронумеруем его вершины по k от 1 до N. 
Очевидно, что каждая сторона многоугольника связывает две соседние вершины, так ведь? Это означает, что если мы возьмём k-ую вершину, то у неё есть два ближайших соседа - это (k+1)-ая вершина и (k-1)-ая. и с этими соседями k-ая вершина связана двумя сторонами многоугольника. Пока понятно, надеюсь? 
ну а дальше просто. единственный выпуклый многоугольник, который не имеет диагоналей, - это треугольник, так ведь? у треугольника все вершины связаны сторонами треугольника, и никакими другими прямыми линиями мы не можем связать вершины. 
следовательно, для подсчёта количества диагоналей в выпуклом N-угольнике надо вычесть количество треугольников (каждый из которых построен по соседним k, k+1 и k-1 вершинам) из общего количества прямых линий, которые мы можем провести от k-ой вершины до всех остальных N-1 вершин. 
Количество треугольников посчитать несложно - оно равно количеству вершин, т. е. N штук треугольников. Теперь посчитаем количество прямых линий от k-ой вершины до остальных N-1 вершин. Очевидно, что оно равно N-1 прямых линий (с учётом сторон N-угольника) .тогда для N вершин имеем 
N * ( N - 1 ) (1) 
штук прямых линий. теперь учтём, что каждую такую линию мы посчитали дважды (когда проводили её от k-ой вершины к m-ой и снова от m-ой вершины к k-ой) и поделим выражение (1) пополам: 
N * ( N - 1 ) / 2. 
ну вот, а теперь из этого вычтем кол-во треугольников, получим кол-во диагоналей Ld: 
Ld = N * ( N - 1 ) / 2 - N = ( N * N - N - 2 * N ) / 2 = N * ( N - 3 ) / 2. 

для вашего случая, когда Ld = 77, получаем квадратное уравнение: 
N * N - 3 * N - 154 = 0 
N = ( 3 + sqrt ( 9 + 4 * 154 ) ) / 2 = 14.