Hmm, honnan van az a képlet? Az a gyanúm, hogy az egy másik feladat megoldása a könyvben. Nem egy olyan képlet, amit meg kell tanulni (gondolom nem is tudnád fejből, túl bonyolult ahhoz. Én se ismerem.)

Ha az a feladat, hogy annak a képletnek az ismeretében oldd meg ezt a feladatot, akkor persze fel lehet használni, de az a képlet nem vízszintesen az x-et adja meg, hanem függőlegesen azt a Δ magasságot, ami az eredeti fénysugárnak a távolsága az A ponttól.

Szóval nagyon valószínű, hogy NEM ezzel a képlettel kell megoldani. Ha mégis azzal kellene, akkor így lehet megtippelni, hogy a 4 megoldási lehetőség közül melyik lehet az: (le is lehetne vezetni odáig, de nincs hozzá kedvem.)
- A második ábrából leolvasható az, hogy `Δ/x=cos\ α`, tehát `x=Δ/(cos\ α)`. Ezért a képlet így módosul:
`x=d·(sin\ α)/(cos\ α)(1-(cos\ α)/sqrt(n^2-sin^2α))`
- A számlálóban lévő koszinuszt is le kellene vinni a nevezőbe:
`x=d·(sin\ α)/(cos\ α)(1-1/sqrt(n^2/(cos^2α)-(sin^2α)/(cos^2α)))`
- Na most `d=H` és `tg\ α=(2H)/H=2`:
`x=2H(1-1/sqrt(n^2/(cos^2α)-4))`

A `2H` miatt a válasz a B vagy D lehet, a `-4` miatt pedig csak a D jöhet szóba.
De ez nem levezetés, ez csak gyors tipp!

-------------------
Szóval szerintem egyáltalán nem ez a járható út, le kell vezetni rendesen az egészet a `(sin\ α)/(sin\ β)=n` Snellius–Descartes-törvény segítségével. Ezt a képletet az előzővel ellentétben kell tudni! Rajzold be, hogy hol van az α és a β, aztán próbáld meg.

Itt van az ábrám

Egész jó az ábra, de az α nem 60 fok; az nem egy szabályos háromszög fele. Szóval:
`sin\ α=(2H)/(sqrt((2H)^2+H^2))=2/sqrt5`
A β is csak majdnem jó, nem jól számoltad ki a Pitagoraszt:
`sin\ β=(2H-x)/sqrt((2H-x)^2+H^2)=(2H-x)/sqrt(5H^2-4Hx+x^2)`

Kicsit kevesebbet kell írni, ha a számlálót és a nevezőt is osztjuk `H`-val és bevezetjük a `z=x/H` ismeretlent (gyakorlatilag ez azt jelenti, mintha lekicsinyítenénk az ábrát úgy, hogy `H=1` legyen)
`sin\ β=(2-x/H)/sqrt(5-4 x/H+x^2/H^2)=(2-z)/sqrt(5-4z+z^2)`

`(sin\ α)/(sin\ β)=n`
`sin\ α=n·sin\ β`
`2/sqrt5=n·(2-z)/sqrt(5-4z+z^2)`
Ebből kell kifejezni `z`-t (aztán a végén majd szorozzuk `H`-val, az lesz `x`)
Innen már csak matek az egész:
`2sqrt(5-4z+z^2)=sqrt5·n·(2-z)`
Emeljünk négyzetre (`x < 2H`, vagyis `z < 2`, ezért a jobb oldal pozitív, négyzetre emelhetünk.)
`4(5-4z+z^2)=5n^2·(4-4z+z^2)`
`20-16z+4z^2=20n^2-20n^2z+5n^2z^2`
Egy oldalra rendezve:
`0=(5n^2-4)z^2-(20n^2-16)z+(20n^2-20)`
`(5n^2-4)z^2-4(5n^2-4)z+(20n^2-20)=0`
Osszunk `(5n^2-4)`-gyel, hogy egyszerűbb legyen a másodfokú kifejezés:
`z^2-4z+(20n^2-20)/(5n^2-4)=0`
Aztán a megoldóképlet:
`z_(1,2)=(4+-sqrt(4^2-4(20n^2-20)/(5n^2-4)))/2=2+-sqrt(4-(20n^2-20)/(5n^2-4))`
A gyök alatti érték 4-nél kisebb, vagyis a gyök maga 2-nél kisebb pozitív érték. Mivel `z` nem lehet nagyobb 2-nél, a gyököt ki kell vonni belőle (a plusz-os matekos megoldás nem jó fizikában)
`z=2-sqrt(4-(20n^2-20)/(5n^2-4))`
A gyök alatt érdemes kicsit átrendezgetni:
`z=2-sqrt(4-(20n^2-16-4)/(5n^2-4))=2-sqrt(4-(4-4/(5n^2-4)))=2-sqrt(4/(5n^2-4))`
`z=2-2/sqrt((5n^2-4))=2(1-1/sqrt(5n^2-4))`
Már csak `x`-et kell csinálni belőle, vagyis szorozni kell `H`-val (hisz `x=H·z`)
`x=2H·(1-1/sqrt(5n^2-4))`