Aloha :)
Wir parametrisieren zuerst einen Ortsvektor \(\vec r\), der die Menge \(\Omega\) abtastet. Wegen der Symmetrie des Problems wählen wir dafür Zylinerkoordinaten:$$\vec r=\begin{pmatrix}r\cos\varphi\\r\sin\varphi\\z\end{pmatrix}\quad;\quad dV=r\,dr\,d\varphi\,dz\quad;\quad r\in[0;\infty)\;;\;\varphi\in[0;2\pi]\;;\;z\in(-\infty;\infty)$$Die Bedingungen in$$\Omega=\{(x;y;z)\in\mathbb R^3\,\big|\,x^2+y^2<1\,;\;\sqrt{x^2+y^2}-1<z<\sqrt{1-x^2-y^2}\}$$können die Intervalle für \(r\), \(\varphi\) oder \(z\) einschränken:$$x^2+y^2=(r\cos\varphi)^2+(r\sin\varphi)^2=r^2(\cos^2\varphi+\sin^2\varphi)=r^2\stackrel{!}{<}1\implies r\in[0;1)$$$$\sqrt{x^2+y^2}-1<z<\sqrt{1-x^2-y^2}\implies r-1<z<\sqrt{1-r^2}\implies z\in(r-1;\sqrt{1-r^2})$$Der Integrand wird in Zylinderkoordinaten zu:$$f(x;y;z)=x^2+y^2=r^2$$
Damit können wir das Integral wie folgt formulieren:$$I=\int\limits_{r=0}^1\;\int\limits_{\varphi=0}^{2\pi}\int\limits_{z=r-1}^{\sqrt{1-r^2}}\underbrace{r^2}_{f(x;y;z)}\cdot\underbrace{r\,dr\,d\varphi\,dz}_{dV}=\int\limits_{r=0}^1\left(\;\int\limits_{\varphi=0}^{2\pi}d\varphi\int\limits_{z=r-1}^{\sqrt{1-r^2}}dz\right)r^3\,dr$$$$\phantom{I}=\int\limits_{r=0}^12\pi\left(\sqrt{1-r^2}-(r-1)\right)r^3\,dr=2\pi\int\limits_{r=0}^1r^3\sqrt{1-r^2}\,dr-2\pi\int\limits_{r=0}^1(r^4-r^3)\,dr$$$$\phantom{I}=2\pi\cdot\frac{2}{15}-2\pi\left(-\frac{1}{20}\right)=2\pi\left(\frac{8}{60}+\frac{3}{60}\right)=\frac{11}{30}\,\pi$$
