Mach mal eine Skizze:
Rechteck hat die Breite a und die Höhe b
Also Halbkreis mit r = a/2 
also Umfang = b + Halbkreislänge + b = 2b + 1/2* 2 * r * pi
                            =  2b + pi *a/2 
wegen u=100 gilt    100 = 2b + pi *a/2  also b= 50-a*pi/4
Für die Fläche gilt   A= a*b + Halbkreisfläche  =  a*b  + 1/2*  r^2*pi  =  a*b =  1/2 * (a/2 )* pi
Jetzt für b das Ergebnis von oben einsetzen, dann hast du für A eine Gleichung mit a als einziger Variable.
also A(a) = ..................    Dann mit A ' (a) = 0 und A ' '(a) < 0 das Maximum bestimmen.