Провести прямую, соединяющую точку пересечения прямых 11x-17y-9=0 , 12x+13y-5=0 с началом координат.

Обозначим книги: А, Б,В,Г. 
1) Б+В+Г=42
 2) А+В+Г=40
 3) А+Б+Г= 38
 4) А+Б+В= 36

Сложим 1)+2)+3)+4) - получим, что 3А+3Б+3В+3Г=156
3(А+Б+В+Г)=156 и тогда
 А+Б+В+Г=156:3=52 (руб, стоят ВСЕ ЧЕТЫРЕ книги).

Теперь просто:
- поскольку  "все книги без первой стоят 42 р", то первая стоит  52-42=10 (руб).
- поскольку  "все книги без второй стоят 40 р", то вторая стоит  52-40=12 (руб).
- поскольку  "все книги без третьей стоят 38 р", то третья стоит  52-38=14 (руб).
- поскольку  "все книги без четвертой стоят 36 р", то четвертая стоит  52-36=16 (руб).

Проверка: вместе 10+12+14+16=52. ВЕРНО!