Az első esetben fel tudsz rajzolni egy derékszögű háromszöget, ahol az átfogó hossza `r+R`, a két befogó hossza pedig `R` és `2R-r`, így Pitagorasz tétele szerint:

`R² + (2R-r)² = (R+r)²`, ezt megoldod `r`-re, az eredményt `R` függvényében kapod meg.

A másodikat írom.
Nem tudom, hogy van-e egyszerűbb megoldás. Én ezt a két derékszögű háromszöget találtam, amivel meg lehet oldani. Annyit kell tenni, hogy felírod a Pitagorasz-tételt, és a két egyenlet segítségével ki jön.
Kék: `(R-2δ)^2=x^2+δ^2`
Piros: `(r+δ)^2=x^2+(r-δ)^2`
A jelölések: a keresett kör sugara: `δ`, illetve bevezettem egy `x`-et, ez ismeretlen érték.
Elvégzed a négyzetre emeléseket, mindkettőt x-re rendezed, és egyenlővé teszed a két egyenletet.
Nem oldottam meg végig, de úgy nézett ki, hogy kijön.