Csatolom, egy 9 ismeretlenes egyenletrendszert kell már csak megoldani.
De lehet van ennél egyszerűbb megoldás is.

Gondolom a determinánst kell kiszámolni, így a bal oldali mátrix 1-et a jobb oldali 5-t ér.
Ha jól látom az egyenlet akkor erre módosul:
1*x=5 azaz x=5.

Ha az ismeretlen egy mátrix (valószínűleg az), akkor a mátrixosztás szabályai alapján kell eljárni:
(http://www.wikihow.com/Divide-Matrices)
Így a mátrix:
3 3/5 -7/5
1 6/5 1/5
-1 -4 -2

Ha mindkét oldalt megszorzod balról a bal oldali mátrix inverzével, akkor a bal oldalon gyakorlatilag x mátrix marad, jobb oldalon pedig az eredmény.
Az inverz mátrix:
-6 26 7
5 -19 -5
-1 4 1

Így az eredménymátrix:
-25 19 61
19 -14 -43
-4 3 9

Az előző megoldás a tökéletes megoldást tartalmazza.

Az egyenlet amit meg kell oldanod így néz ki:
A*x=B
Ezt szorzod be balról A inverzével:
A-1*A*x=A-1*B
Tudjuk, hogy A-1*A=1 (egységmátrix) definíció szerint, ezért:
x=A-1*B

Egy mátrix inverzének kiszámításának több módja is van:
1. Gauss-Jordan eliminációval:
Gondolom ismered a Gauss elimináció módszerét, írd fel balra a mátrixodat jobb oldalra pedig az egységmátrixot. Aztán pofozgasd addig, amíg bal oldalt meg nem jelenik az egységmátrix, jobb oldalt pedig akkor a mátrix inverzét látod.
2. Adjungált számításával:
Wikipédián is megtalálod a leírását, hogyan tudod kiszámolni egy mátrix adjungáltját, igazából minden elem helyére be kell írnod a hozzá tartozó aldeterminánst, aztán sakktábla szabály szerint megfordítani a fele elem előjelét, ezután pedig transzponálni.
Ahhoz, hogy az inverzt megkapd, az adjungált mátrixot kell leosztani az eredeti mátrix determinánsával, és kész is vagy.

Egyébként pedig ajánlom az octave, vagy matlab, vagy matemathica, python programokat, amelyekkel ez egy-két pillanat alatt megtehető.