X=1
Y=2
Most nem nagyon tudom leírni a magyarázatot de ez a megoldás

A második egyenletből emeljünk ki y-t:

y*(-1+2x)+2x=4, vonjunk ki 1-et mindkét oldalból:
y*(2x-1)+2x-1=3, ekkor ki tudunk emelni 2x-1-et is:
(2x-1)*(y+1)=3

Ha az egész számok halmazán keressük a megoldást, akkor elmondhatjuk, hogy a bal oldalon két egész szám szorzata van, tehát akkor lehet megoldás, hogyha a szorzótényezők 3 osztói. 3 kétféleképpen írható fel két egész szám szorzataként: 3*1 és (-3)*(-1), tehát összesen 4 egyenletrendszert kell megoldanunk:

1. 2x-1=1 és y+1=3, ekkor x=1 és y=2, ezeket beírjuk az első egyenletbe: 1+2*2+3*1*2=1 tehát ez jó megoldás lesz.

2. 2x-1=3 és y+1=1, ekkor x=2 és y=0, ekkor az elsőben 2+2*0+3*2*0=2, ez sem jó.

3. 2x-1=-1 és y+1=-3, tehát x=0 és y=-4, ekkor 0+2*(-4)+3*0*(-4)=-8 ez nem lesz jó.

4. 2x-1=-3 és y+1=-1, így x=-2 és y=-2, tehát -2+2*(-2)+3*(-2)*(-2)=6, ez sem jó.

Tehát az egész számok halmazán 1 megoldás van: x=1, y=2.

Ha nem csak az egész számok halmazán mozgunk, akkor ebből az egyenletből y=3/(2x-1) -1-et kapjuk, ezt beírjuk y helyére az első egyenletben:

x + 2*(3/(2x-1) -1) + 3x * (3/(2x-1) -1) = 11, kibontjuk a zárójeleket:
x + 6/(2x-1) - 2 + 9x/(2x-1) - 3x = 11, szorzunk a nevezővel:
2x² - x + 6 - 4x + 2 + 9x - 6x² + 3x = 22x-11, összevonunk:
-4x²+7x+8=22x-11, majd redukáljuk a jobb oldalt 0-ra:
-4x²-15x+19=0, ennek megoldásai megoldóképlettel x₁=1, x₂=-19/4, ekkor y₁=2-t már láttuk, y₂=3/(2*(-19/4)-1) -1=-9/7.