Aloha :)
Für \(x\ne0\) ist \(f(x)\) differenzierbar, denn wir können die Ableitung bestimmen:$$f'(x)=2x\sin\left(\frac1x\right)-\cos\left(\frac1x\right)$$und die Ableitung ist für alle \(x\ne0\) definiert.
An der Stelle \(x=0\) prüfen wir die Differenzierbarkeit über die Existenz des Grenzwertes des Differenzenquotienten:$$f'(0)=\lim\limits_{x\to0}\frac{f(x)-f(0)}{x-0}=\lim\limits_{x\to0}\frac{x^2\sin\left(\frac1x\right)-0}{x}=\lim\limits_{x\to0}\left(x\sin\left(\frac1x\right)\right)=0$$Der Grenzwert \(0\) folgt aus folgender Überlegung:$$\left|\sin\left(\frac1x\right)\right|\le1\implies |x|\cdot\left|\sin\left(\frac1x\right)\right|\le|x|\implies \left|x\sin\left(\frac1x\right)\;\right|\le|x|\stackrel{(x\to0)}{\to}\,0$$
Die Funktion ist also über ganz \(\mathbb R\) differenzierbar und es gilt:$$f'(x)=\left\{\begin{array}{c}2x\sin\left(\frac1x\right)-\cos\left(\frac1x\right)&\text{für }x\ne0\\[1ex]0 &\text{für }x=0\end{array}\right.$$
Damit die Ableitung \(f'(x)\) stetig in \(0\) ist, muss ihr Grenzwert für \(x\to0\) gleich dem Funktionswert bei \(x=0\) sein. Jedoch gilt:$$\phantom=\lim\limits_{x\to0}\left(2x\sin\left(\frac1x\right)-\cos\left(\frac1x\right)\right)\stackrel{?}{=}\left\{\begin{array}{cl}\lim\limits_{n\to\infty}\left(2x_n\sin\left(\frac{1}{x_n}\right)-\cos\left(\frac{1}{x_n}\right)\right)&\text{für }x_n=\frac{1}{n\cdot2\pi}\\[2ex]\lim\limits_{n\to\infty}\left(2x_n\sin\left(\frac{1}{x_n}\right)-\cos\left(\frac{1}{x_n}\right)\right)&\text{für }x_n=\frac{1}{n\cdot2\pi+\frac\pi2}\end{array}\right\}$$$$=\left\{\begin{array}{cl}\lim\limits_{n\to\infty}\left(\frac{1}{n\pi}\sin\left(n\,2\pi\right)-\cos\left(n\,2\pi\right)\right)\\[2ex]\lim\limits_{n\to\infty}\left(\frac{1}{n\pi+\frac\pi4}\sin\left(n\,2\pi+\frac\pi2\right)-\cos\left(n\,2\pi+\frac\pi2\right)\right)\end{array}\right\}=\left\{\begin{array}{r}-1\\[2ex]0\end{array}\right.$$
Der Grenzwert \(\lim\limits_{x\to0}f'(x)\) exisitiert nicht, weil unterschiedliche Wege \((x_n=\frac{1}{n\cdot2\pi})\) und \((x_n=\frac{1}{n\cdot2\pi+\frac\pi2})\) zu unterschiedlichen Häufungspunkten führen. Daher ist die Ableitung \(f'(x)\) an der Stelle \(x=0\) nicht stetig.
