Vektorrechnungen hatte ich nicht.
Es geht auch komplizierter:
Wenn beim rechten Winkel der Ursprung des Koordinatensystems (mit horizontaler Achse a und vertikaler Achse b) ist, dann hat der Kreis die Gleichung
(a-10)2 + (b-5)2 = 52
und die Hypotenuse die Gleichung
b = -18/x * a + 18
Wenn man den Berührpunkt (oder die Schnittpunkte) der beiden haben will, dann löst man dieses Gleichungssystem beispielsweise nach a auf und erhält
\(\displaystyle a=\frac{2\left(-\frac{3 \sqrt{-4 x^{2}+130 x-675}}{x}+\frac{117}{x}+5\right)}{\frac{324}{x^{2}}+1} \)
\(\displaystyle a=\frac{2\left(\frac{3 \sqrt{-4 x^{2}+130 x-675}}{x}+\frac{117}{x}+5\right)}{\frac{324}{x^{2}}+1} \)
Da es zwei Schnittpunkte geben kann aber nur einen Berührpunkt, müssen die beiden Lösungen gleich sein, und das sind sie genau dann, wenn der Wurzelausdruck gleich Null ist, weil dann das Vorzeichen vor dem Bruch keinen Einfluss mehr hat.
\(-4x^2+130x-675=0\) hat die Lösungen
\(\displaystyle x_{\text{1,2}}=\frac{65 \mp 5 \sqrt{61}}{4} \)
wobei der Wert mit dem Minus die gesuchte Lösung ist und der Wert mit dem Plus, wie in meinem Kommentar unter der Frage erwähnt, die Tangente an die andere Kreisseite ergeben würde...