В треугольнике с вершинами в точках А (3; 3), В (-5; -2), С (1; -3) , найдите косинус угла А

Пусть градусная мера одной части будет х.
Тогда дуга АВ содержит 3х,  дуга ВС - 4х и  АС-5х. 
Окружность содержит 360°, ⇒
3х+4х+5х=360° ⇒
х=30°
1) Дуга АВ равна: 30°*3=90° На нее опирается  вписанный угол АСВ⇒
По свойству градусной величины вписанного угла он равен половине этой дуги:
90°:2=45°
2) Дуга ВС равна 30°*4=120°
На эту дугу опирается вписанный угол САВ;  он равен её половине:
120°:2=60°
3)Дуга АС равна  30°*5=150°
На эту дугу опирается угол АВС, и он  равен её половине:
150°:2=75°
Углы треугольника АВС равны половинам градусных мер дуг, на которые они опираются: ∠С=45°, ∠ А= 60°, ∠ В=75° 

Нужно делить на СООТВЕТСТВУЮЩУЮ сторону треугольника. Если дано, что треугольники АВС и ОРТ, подобны, то вначале надо определить какие стороны являются соответствующими (и то же самое с углами: соответствующие углы у подобных треугольников равны). Как правило в учебниках, при записи подобных треугольников соответствие определяется по положению буквы в записи треугольника. Хотя, в новых учебниках это явно не сказано. Например, если сказано, что треугольники АВС и ОРТ подобны, то подразумевается, что угол А равен углу О, угол В равен Р, и С равен Т. И тогда стороне АВ соответствует  сторона ОР, стороне ВС соответствует РТ и стороне АС соответствует OТ. Т.е. при такой записи, будет AB/OP=BC/PT=AC/OT. И в вашей задаче, если AB=8, то чтобы определить коэффициент подобия, надо знать длину именно ОР. И если сказано, что она 4, то да, треугольник ABC подобен треугольнику ОРТ с коэффициентом подобия 2.