Hallo,
nehmen wir an, eine solche Funktion g : R→R mit (g∘g)(x)=−x existiere. Ohne Einschränkung der Allgemeinheit nehmen wir an, dass g(x)<x. Wir definieren die Funktion f : R→R mit f(x) : =g(x)−x. Die Funktion f ist als Komposition zweier stetiger und monotoner Abbildungen ebenfalls wieder stetig und monoton. Es gilt
(f∘g)(x)=f(g(x))=g(g(x))−g(x)=−x−g(x).
Also (f∘g)(x)={>0,<0,x<0x>0.
Nach dem Zwischenwertsatz gibt es also ein x~∈R mit f(x~)=0. Das würde bedeuten, dass g(x~)=x~ gelten muss für ein bestimmtes x~∈R. Daraus folgt wiederum
(g∘g)(x~)=g(g(x~))=Zwischenwertsatzg(x~)=Zwischenwertsatzx~.
Das ist jedoch ein Widerspruch zu unserer Annahmne, dass (g∘g)(x)=−x gelten soll. □