Aloha :)
Der Trick bei der \(a\) ist, dass du die Punkte \((x|y)\) mit \(t\) parametrisierst:$$\binom{x}{y}=\binom{\cos t}{\sin t}\quad;\quad t\in[0|2\pi]$$Denn dafür ist die Randbedingung direkt erfüllt:$$x^2+y^2=\cos^2t+\sin^2t=1$$Setzt du diese Parametrisierung nun in \(f(x;y)\) ein, kommt eine Funktion heraus, die nur noch von \(t\) abhängt:$$f(x,y)=f(\sin t;\cos t)=\sin^2t\cdot(\cos t+1)\eqqcolon h(t)$$Die "neue" Funktion \(h(t)\) hängt nur noch von einer Variablen \(t\) ab, sodass die Extremwerte schnell gefunden sind:
$$h'(t)=2\sin t\cos t\cdot(\cos t+1)-\sin^3t=2\sin t\cos^2t+2\sin t\cos t-\sin^3t$$$$\phantom{h'(t)}=2\sin t\left(\cos^2t+2\cos t-\sin^2t\right)=2\sin t\,(2\cos^2t+2\cos t-1)$$$$\phantom{h'(t)}=4\sin t\,\left(\cos^2t+\cos t-\frac{1}{2}\right)=4\sin t\,\left(\cos^2t+\cos t+\frac{1}{4}-\frac{3}{4}\right)$$$$\phantom{h'(t)}=4\sin t\,\left(\left(\cos t+\frac{1}{2}\right)^2-\frac{3}{4}\right)$$$$\phantom{h'(t)}=4\sin t\,\left(\left(\cos t+\frac{1}{2}\right)-\frac{\sqrt3}{2}\right)\left(\left(\cos t+\frac{1}{2}\right)+\frac{\sqrt3}{2}\right)$$$$\phantom{h'(t)}=4\sin t\,\left(\cos t-\frac{\sqrt3-1}{2}\right)\left(\cos t+\frac{1+\sqrt3}{2}\right)$$Innerhalb des Intervalls \([0|2\pi]\) finden wir also als mögliche Kandidaten für ein Extremum die Nullstellen der Sinus-Funktion. Allerdings ist die Funktion für \(t=0\) und \(t=2\pi\) nicht differenzierbar, sodass hieraus nur \(t_1=\pi\) als möglicher Kandidat für ein Extremum folgt. Die erste Klammer liefert zwei weitere Nullstellen \(t_2\) und \(t_3\). Die letzte Klammer liefert keine Nullstelle, weil \(|\cos t|\le1\) ist. Insgesamt haben wir zwei Kandidaten für Extremwerte:$$t_1=\pi\quad;\quad t_2=\arccos\left(\frac{\sqrt3-1}{2}\right)\approx1.196062\quad;\quad t_3=2\pi-t_2\approx5,087123$$
~plot~ sin(x)*sin(x)*(cos(x)+1) ; [[0|2pi|0|1,3]] ~plot~
Wenn du die Werte in die zweite Ableitung einsetzt, solltest du die Maxima bei \(t_2,t_3\) und das Minimum bei \(t_1\) bestätigt kriegen. Da hier nach allen globalen Extremstellen gesucht ist, musst du die beiden Randpunkte für \(t=0\) bzw. \(t=2\pi\) noch separat betrachten:$$h(0)=0\quad;\quad h(2\pi)=0$$
