Bei dieser Aufgabe komme ich nicht mehr weiter und währe froh um Hilfe :)
Wenn O die orthogonalen Matrizen bezeichnet, dann steht das dort
https://de.wikipedia.org/wiki/Orthogonale_Matrix#Diagonalisierbarkeit