Aloha :)
Deine Gleichungen stimmen:$$V=x^2y\to\text{Max!}\quad;\quad x^2+4xy=100$$Die Nebenbedingung kannst du nach \(y\) umstellen:$$y=\frac{100-x^2}{4x}$$Damit erhältst du das Volumen \(V=V(x)\) in Abhängigkeit von \(x\):$$V(x)=x^2\cdot\frac{100-x^2}{4x}=x\cdot\frac{100-x^2}{4}=25x-\frac{x^3}{4}$$Die Ableitungen sind:$$V'(x)=25-\frac{3}{4}x^2$$$$V''(x)=-\frac{3}{2}x$$Die Nullstelle der ersten Ableitung bzw. der Kandidat für ein Extremum liegt bei:
$$0\stackrel{!}{=}V'(x)=25-\frac{3}{4}x^2\;\;\Leftrightarrow\;\;x^2=\frac{100}{3}\;\;\Leftrightarrow\;\;x=\frac{10}{\sqrt3}$$Beachte, dass \(x>0\) gelten muss, weil es eine Länge ist. Wir prüfen die Art des Extremums:
$$V''\left(\frac{10}{\sqrt3}\right)=-\frac{3}{2}\cdot\frac{10}{\sqrt3}=-5\sqrt3<0\quad\Rightarrow\quad\text{Maximum!}$$Fehlt nur noch \(y\):$$y=\frac{{100}-\frac{100}{3}}{4\cdot\frac{10}{\sqrt3}}=\frac{200}{3\cdot4\cdot\frac{10}{\sqrt3}}=\frac{5}{\sqrt3}$$Die gesuchten Maße sind daher:$$x=\frac{10}{\sqrt3}\quad;\quad y=\frac{5}{\sqrt3}$$
