Setze \(|AB|=x\).
Dann gilt für die Höhe im Dreieck \(ABC\) (und somit für den Radius des Kreises)
\(r=\frac{x}{2}\sqrt{3}\).
Wegen \(|MA'|=\frac{x}{2}\) gilt weiter
\(|A'C|=r-\frac{x}{2}=\frac{x}{2}(\sqrt{3}-1).\)
Da \(AA'\) die Diagonale eines Quadrats mit der Seitenlänge \(\frac{x}{2}\) ist, gilt
\(|AA'|=\frac{x}{2}\sqrt{2}\).
Insgesamt folgt also
\(\frac{|AA'|}{|A'C|}=\frac{\frac{x}{2}\sqrt{2}}{\frac{x}{2}(\sqrt{3}-1)}=\frac{\sqrt{2}(\sqrt{3}+1)}{2}=\frac{1}{2}\left(\sqrt{6}+\sqrt{2}\right)\).
Nach Korrektur der Aufgabe:
Setze \(M(0|0)\) und \(|AB|=t\). Daraus folgt \(r=\frac{t}{2}\sqrt{3}\). Dann gelten
\(g_{AA'}\colon y=x+\frac{t}{2}\) und \(k_M\colon x^2+y^2=\frac{3}{4}t^2\).
Wir bestimmen die Koordinaten von \(D\) über die Schnittpunktbestimmung von \(g_{AA'}\) und \(k_M\).
Mit \(y=x+\frac{t}{2}\) in \(k_M\) erhält man die Gleichung
\(x^2+\frac{t}{2}x-\frac{1}{4}t^2=0\)
mit den Lösungen
\(x_{1,2}=-\frac{t}{4}\pm \frac{\sqrt{5}}{4}t=\frac{\pm\sqrt{5}-1}{4}t\).
Mit der größeren der beiden Lösungen hat \(D\) also die Koordinaten \(D(\frac{\sqrt{5}-1}{4}t|\frac{\sqrt{5}+1}{4}t)\).
Es gilt nun
\(|A'D|=\sqrt{2\left(\frac{\sqrt{5}-1}{4}t\right)^2}=\frac{\sqrt{2}(\sqrt{5}-1)}{4}t\).
Mit \(|AA'|=\frac{t}{2}\sqrt{2}\) (vergleiche oben) folgt schlussendlich
\(\frac{|AA'|}{|A'D|}=\frac{\frac{t}{2}\sqrt{2}}{\frac{\sqrt{2}(\sqrt{5}-1)}{4}t}=\frac{1}{\frac{\sqrt{5}-1}{2}}=\frac{\sqrt{5}+1}{2}.\)
