Látom jó vagy matekból, elég lesz csak röviden mondani:

A derékszögű háromszög oldalai a=3, b=4, ezért c=5
Ebből az a) kérdés kijön: F = k ·Q²/c²
(Persze méterbe át kell váltani c-t)

A háromszög magasságát nevezzük m-nek, m=a·b/c = 2,4 (a háromszög területe T = a·b/2 = c·m/2, ebből jött ki)
A magasság az átfogót p és q darabokra osztja. A befogótétellel p és q kiszámolható:
p = a²/c = 1,8
q = b²/c = 3,2
(Gondolom tanultátok a befogótételt; ha nem, akkor az m,p,a háromszög hasonló a b,a,c-vel, illetve az m,q,b is hasonló az a,b,c-vel, ebből kijön.)

A fizika része:

A golyók tömegei m₁ és m₂. (Az m₁ van az 'a' hosszú kötél végén, mondjuk bal oldalon)
m₁-re ható erők:
- F balra vízszintesen
- G₁ = m₁·g lefelé függőlegesen.
- valamekkora kötélerő jobbra felfelé
Ennek a háromnak az eredője nulla kell legyen, mert nyugalomban van a test.
F és G₁ eredője kötélirányú kell legyen, az 'a' meghosszabbítása. (Ez ugye tiszta, miért? Csak akkor lehet F  és G₁ vektoriális eredője a kötélerő ellentettje.)
Ezért az F,G₁ erőkből felrajzolt derékszögű háromszög hasonló az m,p,a háromszöggel:
F/G₁ = p/m
(m itt nem tömeg természetesen, hanem a magasság hossza.)
Ebből kijön G₁, abból m₁
Hasonlóan a másik oldalon:
F/G₂ = q/m