Vorab: man überlege sich (z.B. anhand Primfaktorzerlegung), dass
eine ganze Zahl, die ein Quadrat rationaler Zahlen ist, auch ein
Quadrat ganzer Zahlen ist. Kann man auch mit Lemma von Gauss
begründen.
1. und 2.:
Es sei (u,v,w) eine nichttriiale rationale Lösung von
aX2+bY2=Z2, also au2+bv2=w2.
1. Fall: w=0:
Ist nun u=0, dann hat man bv2=w2, also v=0
und b=(w/v)2, also nach der Vorab-Betrachtung ist b
das Quadrat einer ganzen Zahl und daher erst recht ein Quadrat mod a.
Wegen der Quadratfreiheit von b ist das nur möglich,
wenn b=1 ist und w=±v=0
a ist als ganze Zahl trivialerweise ein Quadrat mod b=1,
da a≡02=0 mod 1.
Ebenso verfährt man mit v=0.
Kommst du nun alleine weiter ?