Du solltest erstmal zeige, dass \( \varphi \) ein Ringhomomorphismus ist, also dass
$$ \varphi(1) = \overline 1 \\ \varphi( (a+b\sqrt5) + (c+d\sqrt 5)) = \varphi( a + b\sqrt 5) + \varphi( c + d \sqrt 5) \\ \varphi( (a+b\sqrt5) \cdot (c+d\sqrt 5)) = \varphi( a + b\sqrt 5) \cdot \varphi( c + d \sqrt 5) $$
Danach ist die Aussage gar nicht mehr so schwierig. zz. \( \ker \varphi = \langle 4 - \sqrt 5 \rangle \).
Zu "\(\supseteq\)" :Für \( x \in \langle 4 - \sqrt 5 \rangle\), etwa \( x = r \cdot (4-\sqrt 5) \) mit \( r \in \mathbb Z[\sqrt 5] \), dann ist $$ \varphi(x) = \varphi(r \cdot (4-\sqrt 5)) = \varphi(r) \cdot \varphi(4 - \sqrt 5) $$
Es reicht also hierfür nachzurechnen, dass \( \varphi(4 - \sqrt 5) = 0 \).
Zu "\(\subseteq\)": Sei \( a + b\sqrt 5 \in \ker \varphi \), dann ist \( \varphi(a+b \sqrt 5) = \overline{a+4b} = \overline 0 \), das heißt \( a+4b \equiv 0 \mod (11) \) bzw. dass \( a+4b \) durch \( 11 \) teilbar ist.
Der Hinweis gibt dir den Ansatz schon vor: Du sollst zeigen, dass \( a + b \sqrt 5 \) durch \( 4 - \sqrt 5 \) teilbar ist, du suchst also ein \( c + d \sqrt 5 \in \mathbb Z[\sqrt 5] \) s.d. $$ a + b\sqrt 5= (4-\sqrt 5)(c + d\sqrt 5) = (4c - 5d) + (-c + 4d)\sqrt 5$$
Vergleich der Koeffizienten liefert \( a = 4c-5d \) und \( b = -c + 4d \). Das ist ein LGS mit 2 Gleichungen und 2 Variablen. Zeige, dass es eine ganzzahlige Lösung hat. Dafür brauchst du \( 11 | a + 4b \).