Én szerintem itt ha az alapnak az `ABC` oldalt választjuk, akkor először is a térfogathoz ezt kell maximalizálni, mivel a térfogat az alapszor a magasság osztva hárommal. Vagyis az oldalait a legnagyobbnak választjuk: `AB=5", "BC=6", "AC=8`. A magasságot pedig úgy tudjuk maximalizálni, hogy ha először is `DA=4`. A probléma csakis a `DB`-vel és a `DC`-vel van. Viszont mivel a gúla egyik oldaléle, a `DA` fixen 4 lehet maximum, ezért a magasság is maximum csak ennyi lehet, vagyis akkor maximális a gúla magassága, hogy ha ez az oldalél pont merőleges az alapra. Ekkor a `DAB` és a `DAC` oldallapok derékszögű háromszögek, vagyis
`AB^2+DA^2=DB^2 => DB=sqrt(5^2+4^2) = sqrt(25+16) = sqrt 41 ~~ "6,403"`

`AC^2+DA^2=DC^2 => DC=sqrt(8^2+4^2) = sqrt(64+16) = 4 sqrt 5 ~~ "8,944"`

Ez a feltételek szerint nem lehetséges, de mivel ezek a maximumok, tehát ezektől az értékektől távolodva csökken a térfogat, így az ehhez legközelebbi értékek a maximálisak, vagyis `DB=7` és `DC=9`.

Ekkor
`s = (5+6+8)/2 = "9,5"`
`T_a = sqrt("9,5"("9,5"-5)("9,5"-6)("9,5"-8)) = (3 sqrt 399)/4 ~~ "14,981"`

`m_o = (2T_o)/(BC) = (2sqrt(11*5*4*2))/6 = (2 sqrt 110)/3`
`x = sqrt(DB^2-m_o^2) = sqrt(49-"48,"dot 8) = 1/3`
`alpha = cos^"-1"((5^2+6^2-8^2)/(2*5*6)) ~~ "92,866°"`
`y = sqrt(5^2+(1/3)^2-2*5*1/3*cos alpha) = sqrt(910)/6`
`h = (2T_h)/(y) = sqrt("459 905 810")/"5 460" ~~ "3,928"`

`V = (T_a*h)/3 = sqrt("3 744 947 310")/"3 120" ~~ "19,614"`

Én szerintem. De ez talán túl nyilvánvaló megoldás. Nem tudom. Talán hibás következtetéseket vontam le.

Érdekes, hogy a maximum az elvileg `8sqrt6 ~~ "19,596"`, viszont nekem ennél is több jött ki a térfogatra Gondolom valamit elszámoltam...