In der 3. Zeile der Matrix ist was falsch.
Die 4 muss wohl eine 2 sein.
Dann nimmst du die 3. Zeile mal -5 und addierst das zu der 2.
das gibt   (mit L statt Lambda)
1    L               -3         -13 
0    2+3L          0         - 30
0    - 1 -L         2           12 
und dann beginnst du mit der 2. Zeile und
einer Fallunterscheidung:  Für L = - 2 / 3  
gibt es keine Lösung.  
Ansonsten aber   x2 = -30 / ( 2+3a)  
Das in die 3. eingesetzt gibt gibt x3 = (3a - 3) / ( 3a +2 ) 
und oben dann  x1 = -35 / ( 2+3a)