Aloha :)
Dein Ergebnis kann nicht stimmen, weil darin der Radius \(R\) noch als Variable auftaucht. Tatsächlich ist die Fläche \(F\) und damit der Radius \(R\) eindeutig bestimmt.
Wir brauchen zuerst eine geeignete Parametrisierung der Fläche \(F\). Dazu wählen wir für \(x\) und \(y\) Polarkoordinaten. Die \(z\)-Komponente ist dann durch die Bedingungen für \(F\) vorgegeben:$$\vec r=\begin{pmatrix}x\\y\\z\end{pmatrix}=\begin{pmatrix}x\\y\\\frac{9}{4}(x^2+y^2)\end{pmatrix}=\begin{pmatrix}r\cos\varphi\\r\sin\varphi\\\frac{9}{4}r^2\end{pmatrix}\quad;\quad r\in\left[0;\frac43\right]\quad;\quad\varphi\in[0;2\pi]$$
Das gesuchte Integral ist damit:$$I=\int\limits_{\partial F}\vec A(\vec r)\,d\vec r=\oiint\limits_F\operatorname{rot}\vec A\,d\vec F=\int\limits_{r=0}^{4/3}\,\int\limits_{\varphi=0}^{2\pi}\operatorname{rot}\vec A\cdot\left(\frac{\partial\vec r}{\partial r}\times\frac{\partial\vec r}{\partial \varphi}\right)\,dr\,d\varphi$$Wir berechnen die Komponenten:
$$\operatorname{rot}\vec A=\begin{pmatrix}\partial_x\\\partial_y\\\partial_z\end{pmatrix}\times\begin{pmatrix}3y\\-xz\\yz^2\end{pmatrix}=\begin{pmatrix}z^2+x\\0\\-z-3\end{pmatrix}=\begin{pmatrix}\frac{81}{16}r^4+r\cos\varphi\\0\\-\frac{9}{4}r^2-3\end{pmatrix}$$$$\frac{\partial\vec r}{\partial r}\times\frac{\partial\vec r}{\partial \varphi}=\begin{pmatrix}\cos\varphi\\\sin\varphi\\\frac{9}{2}r\end{pmatrix}\times\begin{pmatrix}-r\sin\varphi\\r\cos\varphi\\0\end{pmatrix}=\begin{pmatrix}-\frac{9}{2}r^2\cos\varphi\\[0.5ex]-\frac{9}{2}r^2\sin\varphi\\r\cos^2\varphi+r\sin^2\varphi\end{pmatrix}=\begin{pmatrix}-\frac{9}{2}r^2\cos\varphi\\[0.5ex]-\frac{9}{2}r^2\sin\varphi\\r\end{pmatrix}$$
und setzen sie in das Integral ein:$$I=\int\limits_{r=0}^{4/3}\,\int\limits_{\varphi=0}^{2\pi}\left(-\frac{9}{2}r^2\cos\varphi\left(\frac{81}{16}r^4+r\cos\varphi\right)-\frac94r^3-3r\right)\,dr\,d\varphi$$$$\phantom{I}=-\int\limits_{r=0}^{4/3}\,\int\limits_{\varphi=0}^{2\pi}\left(\frac{729}{32}r^6\cos\varphi+\frac{9}{2}r^3\cos^2\varphi+\frac{9}{4}r^3+3r\right)\,dr\,d\varphi$$$$\phantom{I}=-\int\limits_{r=0}^{4/3}\left(\frac{9}{2}r^3\cdot\pi+\frac{9}{4}r^3\cdot2\pi+3r\cdot2\pi\right)\,dr=-\int\limits_0^{4/3}\left(9\pi r^3+6\pi r\right)\,dr$$$$\phantom{I}=-3\pi\int\limits_0^{4/3}\left(3r^3+2r\right)\,dr=-3\pi\left[\frac{3r^4}{4}+r^2\right]_0^{4/3}=-\frac{112}{9}\pi$$
