Aloha :)
Nach der Produktregel gilt:$$\operatorname{grad}f(\vec x)=\operatorname{grad}\left(\frac{\left<\vec x,\mathbf A\vec x\right>}{\left\|\vec x\right\|^2}\right)=\operatorname{grad}\left(\frac{1}{\|\vec x\|^2}\right)\cdot\left<\vec x,\mathbf A\vec x\right>+\frac{1}{\|\vec x\|^2}\cdot\operatorname{grad}\left(\left<\vec x,\mathbf A\vec x\right>\right)$$$$\phantom{\operatorname{grad}f(\vec x)}=\frac{-2\vec x}{\|\vec x\|^4}\left(\vec x\cdot\mathbf A\cdot\vec x\right)+\frac{1}{\|\vec x\|^2}\left(\mathbf A\cdot\vec x+\mathbf A^T\cdot\vec x\right)$$Wegen der Symmetrie \(\mathbf A=\mathbf A^T\) gilt weiter:$$\operatorname{grad} f(\vec x)=\frac{-2\vec x}{\|\vec x\|^4}\left(\vec x\cdot\mathbf A\cdot\vec x\right)+\frac{2}{\|\vec x\|^2}\cdot\mathbf A\cdot\vec x=\frac{2}{\|x^2\|}\left(-\vec x^0\cdot(\vec x^0\cdot\mathbf A\cdot\vec x)+\mathbf A\cdot\vec x\right)$$Dieser Gradient soll gleich dem Nullvektor sein. Daher muss die Projektion von \(\mathbf A\cdot\vec x\) auf \(\vec x\) gleich \(\mathbf A\cdot\vec x\) sein. Das ist hier genau für die Eigenvektoren der Fall, da \(\vec x\ne0\) vorausgesetzt wurde.
Um unsere Vermutung zu prüfen, sei \(\vec x\) nun ein Eigenvektor von \(\mathbf A\). Dann gibt es ein \(\lambda\in\mathbb R\) mit \(\mathbf A\cdot\vec x=\lambda\cdot\vec x\) und unser Gradient wird zu:$$\operatorname{grad}f(\vec x)=\frac{2}{\|x^2\|}\left(-\vec x^0\cdot(\vec x^0\cdot\lambda\cdot\vec x)+\lambda\cdot\vec x\right)=\frac{2}{\|x^2\|}\left(-\vec x^0\cdot(\lambda\cdot\|\vec x\|)+\lambda\cdot\vec x\right)$$$$\phantom{grad f(\vec x)}=\frac{2}{\|x^2\|}\left(-\lambda\cdot\vec x+\lambda\cdot\vec x\right)=\vec 0$$
Die gesuchten Punkte sind also alle Eigenvektoren der Matrix \(\mathbf A\).
