Deriváljuk x és y szerint a függvényt:

dx/d f(x;y)=2xy-3y
dy/d f(x;y)=x²-3x+9y²

Ott lesz szélsőértéke, ahol ezek egyszerre egyenlőek 0-val, tehát a

2xy-3y=0 }
x²-3x+9y²=0 } egyenletrendszert kell megoldanunk. Az első egyenletből érdemes kiemelni y-t:

y*(2x-3)=0, ennek vagy y=0 esetén, vagy 2x-3=0, tehát x=3/2 esetén van megoldása, ezeket beírjuk külön-külön a második egyenletbe, és végigszámoljuk.

Rantnad válasza jó elindulás, bár nem dx/d a differenciál-operátor jele, hanem d/dx. És persze itt parciális deriválásról van szó, tehát igaziból ∂/∂x-nek kell jelölni azt, amit Rantnad kiszámolt.

Rantnad válasza lényegében azt mondja, hogy azok az "érdekes" helyek, ahol a függvény gradiense nulla, és kiszámolta a gradiens két komponensét, vagyis a ∂f/∂x és ∂f/∂y függvényeket.

Viszont ezek az "érdekes" helyek (stacionárius pontoknak szoktuk nevezni) nem feltétlenül lokális szélsőérték-helyek, ezeket még ellenőrizni kell a második deriváltakkal (Hesse mátrixnak hívják).

Szóval az első derivált (gradiens) nulla értékéből Rantnad azt hozta ki, hogy ezek a stacionárius pontok:
∂f/∂x = 0 → y = 0 vagy x = 3/2
Tovább számolom:
a) y = 0
∂f/∂y = x² - 3x + 9·0² = 0 → x₁ = 0, x₂ = 3

b) x = 3/2
∂f/∂y = 3²/2² - 3·3/2 + 9·y² = 0 → y₁ = 1/2, y₂ = -1/2

Tehát ebben a 4 (x;y) pontban lesz 0 a gradiens:
v₁=(0;0), v₂=(3;0), v₃=(3/2;1/2), v₄=(3/2;-1/2)

Most ezt mindet ellenőrizni kell a másodikderivált-próbával. Ehhez ki kell számolni a Hesse mátrixot, vagyis a második deriváltakból összeállított mátrixot:
[∂²f/∂x²    ∂²f/∂x∂y]
[∂2f/∂y∂x   ∂²f/∂y²]

Ez lesz:
∂²f/∂x² = ∂/∂x (2xy-3y) = 2y
∂²f/∂y² = ∂/∂y (x²-3x+9y²) = 18y
∂²f/∂x∂y = ∂/∂y (2xy-3y) = 2x-3
A negyediket, vagyis ∂²f/∂y∂x-et nem is kell kiszámolni, mert tuti, hogy megegyezik ∂²f/∂x∂y-nal, de ellenőrzésképpen kiszámolhatjuk:
∂²f/∂y∂x = ∂/∂x (x²-3x+9y²) = 2x-3
Tényleg ugyanaz lett...

Ez lett tehát a H mátrix:
[2y     2x-3]
[2x-3  18y ]

A mátrix determinánsát is kell kiszámolni a próbához, vagyis a főátló szorzatából ki kell vonni a mellékátló szorzatát (2×2-es mátrixnál persze):
D(x,y) = 2y·18y - (2x-3)² = 36y² - 4x² + 12x - 9

Végül a négy stacionárius pontot mindet be kell helyettesíteni D-be valamint a mátrix bal felső elemébe (ami most H₁₁(x,y) = 2y), és ez alapján kell dönteni. 2×2-es mátrixnál így lehet dönteni:
- Ha D(x,y) > 0 és H₁₁(x,y) > 0, akkor (x,y)-ban lokális minimum van
- Ha D(x,y) > 0 és H₁₁(x,y) < 0, akkor (x,y)-ban lokális maximum van
- Ha D(x,y) < 0, akkor nincs (x,y)-ban szélsőérték (nyeregpont van ott)
- Ha D(x,y) = 0, akkor ezzel a próbával nem tudunk semmit se mondani, valami mást kell kitalálnunk

Több lehetőség nincs, nem lehet olyan, hogy D>0 és H₁₁ = 0 (mert ha H₁₁ nulla, akkor D ≤ 0 lehet csak, ez könnyen belátható).

Ezeket a próbákat már nem számolom végig, nézd meg mind a 4 pontot.