Aloha :)
Wir suchen die kritischen Punkte der Funktion$$f(x;y)=x^3y^2(1-x-y)$$
Diese finden wir an den Punkten, wo der Gradient verschwindet:$$\binom{0}{0}\stackrel!=\operatorname{grad}f(x;y)=\binom{3x^2y^2(1-x-y)+x^3y^2\cdot(-1)}{2x^3y(1-x-y)+x^3y^2\cdot(-1)}\implies\left\{\begin{array}{r}3x^2y^2(1-x-y)=x^3y^2\\2x^3y(1-x-y)=x^3y^2\end{array}\right.$$Es fällt sofort auf, dass beide Forderungen erfüllt sind, wenn \(x\cdot y=0\) ist.
Für den Fall, dass \(x\cdot y\ne0\) ist, können wir beide Terme vereinfachen:$$\left\{\begin{array}{r}3(1-x-y)=x &\implies3-3x-3y=x & \implies4x+3y=3\\2(1-x-y)=y &\implies 2-2x-2y=y&\implies2x+3y=2\end{array}\right\}\implies x=\frac12\;;\;y=\frac13$$
Damit können wir die (unendliche) Menge von kritischen Punkten angeben:$$K=\{(x;y)\in\mathbb R^2\,\big|\,x=0\;\lor\;y=0\}\cup\left\{\left(\frac12\,\bigg|\,\frac13\right)\right\}$$
