Legyen n az eredeti sokszög oldalainak száma. Egy konvex sokszögnek n oldala van, és n átlója is, amelyeket az általános szabállyal, az "n * (n-3) / 2" képlettel számolhatunk ki.

Amikor egy két csúcsán áthaladó egyenessel levágjuk a sokszöget, két új konvex sokszöget kapunk. Legyen a levágás után az egyik sokszög oldalainak száma k és a másiké m.

Ebben az esetben a k sokszögnél az átlók száma az "k * (k-3) / 2" lesz, és a m sokszögnél az átlók száma pedig az "m * (m-3) / 2" lesz.

A feladatban adott, hogy a két levágott sokszög átlóinak összege 116-tal kevesebb, mint az eredeti sokszög átlóinak száma, tehát:

(k * (k-3) / 2) + (m * (m-3) / 2) = (n * (n-3) / 2) - 116

Mivel a sokszög oldalainak száma n, ezért a levágott sokszög oldalainak száma az eredeti oldalak számából levonva: k + m = n.

Most, hogy rendelkezünk a két egyenlettel, megoldhatjuk a rendszert.

Az egyenletekből a kifejezést kifejezhetjük a két ismeretlen mennyiség (k és m) függvényében:

k = n - m

Helyettesítsük be az első egyenletbe:

((n - m) * (n - m - 3) / 2) + (m * (m - 3) / 2) = (n * (n - 3) / 2) - 116

Egyszerűsítve és rendezve az egyenletet:

(n^2 - 7n + 6m + 6) + (m^2 - 3m) = n^2 - 3n - 232

n^2 - 7n + 6m + 6 + m^2 - 3m = n^2 - 3n - 232

n^2 - m^2 + 4n - 9m + 238 = 0

A feladatban adott, hogy a sokszög konvex, tehát az oldalak száma (n) legalább 3. Vegyük ezt figyelembe és nézzük meg a választási lehetőségeket:

1. Kezdjük az egyszerű esettel, ahol n = 3:

(3^2 - m^2) + 4 * 3 - 9m + 238 = 0

9 - m^2 + 12 - 9m + 238 = 0

-m^2 - 9m + 259 = 0

Ez a másodfokú egy

enlet nem ad egész megoldást, tehát az n = 3 nem lehet megoldás.

2. Most nézzük az n = 4 esetet:

(4^2 - m^2) + 4 * 4 - 9m + 238 = 0

16 - m^2 + 16 - 9m + 238 = 0

-m^2 - 9m + 270 = 0

Ez a másodfokú egyenlet nem ad egész megoldást, tehát az n = 4 sem lehet megoldás.

3. Tovább folytatva az n = 5 esettel:

(5^2 - m^2) + 4 * 5 - 9m + 238 = 0

25 - m^2 + 20 - 9m + 238 = 0

-m^2 - 9m + 283 = 0

Ez a másodfokú egyenlet nem ad egész megoldást, tehát az n = 5 sem lehet megoldás.

4. Nézzük az n = 6 esetet:

(6^2 - m^2) + 4 * 6 - 9m + 238 = 0

36 - m^2 + 24 - 9m + 238 = 0

-m^2 - 9m + 298 = 0

Ez a másodfokú egyenlet nem ad egész megoldást, tehát az n = 6 sem lehet megoldás.

5. Próbáljuk meg az n = 7 esetet:

(7^2 - m^2) + 4 * 7 - 9m + 238 = 0

49 - m^2 + 28 - 9m + 238 = 0

-m^2 - 9m + 315 = 0

Ez a másodfokú egyenlet nem ad egész megoldást, tehát az n = 7 sem lehet megoldás.

6. Végül, nézzük az n = 8 esetet:

(8^2 - m^2) + 4 * 8 - 9m + 238 = 0

64 - m^2 + 32 - 9m + 238 = 0

-m^2 - 9m + 334 = 0

Ez a másodfokú egyenlet megoldása: m = 1 és m = -334. Az m = -334 megoldás nem értelmezhető, mivel a sokszög oldalainak száma nem lehet negatív.

Tehát az n = 8 az egyetlen megoldás, ami azt jelenti, hogy egy 8 oldalú sokszöget vágtunk le.