Hier kannst du das verallgemeinerte Liouville-Theorem benutzen. Du hast
(x′y′)=(F1(x,y)F2(x,y))=F(x,y)
Sei nun A(0)=2 die Fläche des gegebenen Rechteck. Dann gilt für die zeitliche Entwicklung A(t)
A(t)=A(0)e∫0tdivx,yF(x,y)dτ
Nun ist divx,yF(x,y)=log(t2+1)−2log(t2+1)=−log(t2+1)
Dies gilt übrigens auch für das inhomogene System. Es wird nur die Divergenz bzgl. x,y gebildet.
Jetzt musst du nur noch −∫0tlog(τ2+1)dτ ausrechnen und einsetzen. Das überlass ich dir.
Zur Überprüfung des Integrals siehe zum Beipiel hier.