Поставил на окружности несколько точек. затем он измерил все расстояния между этими точками. получилось не более 50 различных чисел. какое наибольшее количество точек он мог поставить?

Рассмотрим одну из отмеченных точек.
Заметим, что на определённом расстоянии R от неё может быть не более двух точек, т.к. каждая такая точка лежит на двух окружностях: на исходной и на окружности с центром в выбранной точке и радиусом R, - а две окружности пересекаются не более чем в двух точках.
Так как всего расстояний не более 50, то точек, не считая выбранной, не более 100, а всего не более 101.

Если точки стоят в вершинах правильного 101-угольника, то расстояний 50, а больше точек не может быть по доказанному.

Значит, наибольшее количество точек равно 101.

Еще один вариант решения.
Чтобы ИЗМЕРИТЬ расстояние между двумя точками, надо провести между ними прямую и измерить длину отрезка между этими точками.
Геометр, расставляя точки на окружности получил вписанный многоугольник.
Формула КОЛИЧЕСТВА диагоналей многоугольника:
K=n*(n-3)/2.
Расположив, к примеру, 5 точек на окружности, он получил пятиугольник с 5 диагоналями, да еще 5 сторон - итого 10 отрезков, которые он измерил.
Предположим, что все отрезки разные. Значит, для получения 10 разных чисел он расставил 5 точек.
Но предположим, что многоугольник получился правильным.
И тогда мы увидим, что РАЗНЫХ чисел у геометра получилось только 2 это 1 сторона (все стороны равны) и 1 диагональ (все остальные равны измеренной уже диагонали).
Получилось так потому, что правильный n-угольник имеет n осей симметрии, проходящих через его центр.
Если n - четно, то оси симметрии правильного многоугольника содержат
противоположные вершины.
Если n - нечетно, то осями симметрии правильного многоугольника являются прямые, каждая из которых проходит через вершину многоугольника перпендикулярно противолежащей ей стороне.
Проведем ось симметрии для нашего 5-угольника. Она пройдет через вершину многоугольника перпендикулярно противолежащей ей стороне.
Рассмотрим отрезки по одну из сторон оси симметрии. Это две стороны 5-угольника и диагональ. Стороны равны, значит имеем 2 разных измерения из 10 возможных.
Остальные повторяют значения уже измеренных расстояний. Значит геометр может расставить дополнительные точки на окружности.
Предположим, он добавил еще две точки так , чтобы получился правильный 7-угольник, у которого ось симметрии так же пройдет через вершину многоугольника и середину противоположной стороны.
Геометр получил 3 разных отрезка по одну из сторон оси симметрии - одну сторону и две разных диагонали. Все остальные измерения расстояний приведут к повторению уже полученных трех разных величин.
Итак, построив правильный 7-угольник, он получил 3 разных отрезка или наоборот, чтобы получить 3 разных числа (отрезка) ему пришлось построить правильный 7-угольник.
Теперь мы можем сказать, что получили формулу для отрезков РАЗНОЙ длины в правильном многоугольнике: О=(n-1)/2, или наоборот,
n=2*O+1 - формулу для определения количества максимально возможных точек на окружности для получения заданного числа разных отрезков (чисел при измерении), где О - максимальное количество РАЗНЫХ по величине отрезков.
Тогда для получения 50 РАЗНЫХ отрезков геометр может расположить на окружности  2*50+1=101 точку, построив ПРАВИЛЬНЫЙ 101-угольник.
И это будет максимальное число точек, так как любое равенство двух отрезков при измерении уменьшает количество разных отрезков на 1.
ответ: максимальное количество точек на окружности для получения 50 разных чисел (отрезков) равно 101.

P.S. Для пояснения многословных рассуждений приведены рисунки для трех случаев расположения точек на окружности.

Четырёхугольник будет прямоугольником, т.к. его стороны параллельны диагоналям  (по свойству средней линии треугольника), а диагонали ромба взаимно перпендикулярны и являются биссектрисами его углов.

Стороны прямоугольника будут равны 1/2 его диагоналей (по свойству средней линии треугольника). Т.к. один угол ромба 120 град., то другой будет 180-120=60 град., следовательно, меньшая диагональ - 4 см, 1/2 большей диагонали находим по Т.Пифагора   √4² -2²= √12=2√3 (см). Т.е стороны прямоугольника  2 см и 2√3 см, следовательно, S=2·2√3= 4√3 (см²)  

Соединим последовательно точки, лежащие на окружности, а точку А  ещё с центром О. 

∆ АОH - прямоугольный, АО - гипотенуза=R, ОН - 0,5R по условию. 

соs∠AOH=0,5R/R=0,5. Это косинус  60°. 

АО=ВО=R ⇒ в ∆АОВ углы при АВ  равны 60°, и 

∆ АОВ- равносторонний. Аналогично ∆ ВОС - равносторонний. 

Дуга АВ=центральному углу АОВ=60°

Дуга ВС=дуге АВ=60°.

Центральные ∠АОD=∠COD=∠АОС=120° как суммы углов, равных 60°. Следовательно. дуга АD=дуге CD=120°

В четырехугольнике  АВСD - ∠BAD=∠BCD=90° -  опираются на диаметр. 

∠АВС=2•60°=120°

∠АDС=половине центрального ∠АОС:2=120:2=60°

Дуги:АВ=BC=60°,  CD=AD=120°