Wenn wir mal das Gauß-Verfahren bis zur Zeilenstufenform anwenden, erhalten wir.
(a^2 - 3)·x - y + z = 1
x + z = a
y + 5·z = 0
II ; III + I
x + z = a
x·(a^2 - 3) + 6·z = 1
II' - 6I'
x·(a^2 - 9) = 1 - 6·a --> x = (1 - 6·a)/(a^2 - 9)
Das hier bis auf das Vorzeichen die Determinante im Nenner steht, ist übrigens nicht nur ein komischer Zufall. Man kann natürlich das Gleichungssystem auch direkt mit dem Determinantenverfahren lösen. Allerdings geht das mit dem Additionsverfahren mittels Gauß doch sehr schnell.
Mit der letzten Zeile solltest du jetzt Fallunterscheidungen machen können. Also für welche Werte von a es keine, eine oder unendlich viele Lösungen gibt. Dann solltest du danach auch Lösungen nennen können.
Willst du das einmal probieren? Wenn du nicht weiter kommst, sag auch gerne Bescheid, wo dann genau die Probleme liegen.