Lehet, hogy már késő, de hátha jól jön még:

1)
Olyan alakra kell hozni, hogy (x-valami)² + (y-másvalami)² = sugár²
Mert akkor valami lesz a középpont x koordinátája, másvalami az y koordinátája, a jobb oldalon meg sugár lesz a sugár.

Az x-esek: x²+10x
Ebből (x+5)² tud kijönni, ami x²+10x+25, majd le kell vonni 25-öt
Az y-osok: y²-2y
Ebbőlmeg (y-1)², ami y²-2y+1, majd le kell vonni 1-et
Vagyis:
x²+y²+10x-2y+17 = [(x+5)² - 25] + [(y-1)² - 1] + 17
= (x+5)² + (y-1)² - 9 = 0
(x+5)² + (y-1)² = 9
(x+5)² + (y-1)² = 3²

Ha pedig ilyen alakban van, erről simán le lehet olvasni az adatokat:
Kör középpontja (-5; 1) pont
Sugara: 3

2)
A kör középpontja a két pont átlaga lesz:
x: (-5+1)/2 = -2
y: (2+4)/2 = 3
Vagyis a középpont az O(-2; 3) pont.

A sugár: mondjuk O és A távolsága. Ez Pitagorasszal számolható:
r² = ((-2) - (-5))² + (3 - 2)² = 3²+1¹ = 10

Az egyenlet:
(x-(-2))² + (y - 3)² = 10
(x+2)² + (y - 3)² = 10

2.b)
Csak be kell helyettesíteni a pontot a kör egyenletébe. Ha igaz lesz az egyenlet, illeszkedik a pont.

(x+2)² + (y - 3)² = (-5 + 2)² + (-1 - 3)² = (-3)²+(-4)² = 9+16 = 25
Ez nem 10, tehát nem illeszkedik.

3)
Van két egyenlet. Ha az egyenletrendszernek van megoldása, akkor a megoldás az a pont lesz, ami kielégíti mindkét egyenletet, vagyis a két alakzat metszéspontja. Ha nincs megoldás, akkor nem metszi az egyenes a kört.

(x-5)² + (y-2)² = 16
6x - 2y = 4 → y = 3x-2
---
(x-5)² + (3x-2 - 2)² = 16
(x-5)² + (3x-4)² = 16
x² - 10x + 25 + 9x² - 24x + 16 = 16
10x² - 34x + 25 = 0
Ennek a diszkriminánsa: b²-4ac = 34²-4·10·25 = 34²-1000
Mivel 34² > 1000, a diszkrimináns pozitív, a másodfokú egyenletnek 2 megoldása lesz. (Nem kell kiszámolni, de akár ki is számolhatod a két gyököt.)
Ez azt jelenti, hogy az egyenes metszi a kört.