Das erste ist nur mehrfache Anwendung der Produktregel, beweis du am besten
über vollst Induktion.
b) Mit deiner Formel
∑ (n über k) f(k)g(n-k) , für k = 0 bis n. 
und f = x^2 und g = e^x bleibt von den 100 Summanden nicht viel übrig, weil ab der 3. Ableitung
bei f(n) immer 0 rauskommt.
also ist die 100te Ableitung
(100 über 0)*x^2*e^x + (100 über 1) * 2x *e^x  + (100 über 2) * 2 *e^x +0+0+0+0..
e^x * (   (100 über 0)*x^2 + (100 über 1) * 2x   + (100 über 2) * 2 *e^x ) 
= e^x * ( x^2 +  200x  + 9900 )