1) die Zerlegung sieht ja so aus   (600-x) + x 
und das Produkt... ist  p(x) =  ( 600 - x) * x^2 
und dann berechnest du ( mit p  ' (x) = 0 etc. )das Max. der Funktion.
2) die Fläche kannst du mit A = x*y berechnen.
und für y dann den Funktionsterm einsetzen.
Schon hast du wieder eine Funktion von x, deren Max gesucht.
3) Die Fläche ist 2r*h  + r^2 * pi / 2 
und der Umfang 2h + r*pi ( ohne Fußboden ??!!) 
wegen 2h + r*pi= 20 hast du   2h = 20 - r*pi 
h = 10 - r*pi/2 
das einsetzen in 2r*h  + r^2 * pi / 2 gibt eine Funktion von r 
und davon bestimmst du das Max.