Wenn deine Umformungen stimmen, ist rang=4 ja
nur richtig, falls nicht gilt -4p-10=0.
Also für p=-2,5 ist dann rang=3.
Allerdings ist was falsch:
\( \left(\begin{array}{cccc} 1 & 2 & -1 & 3 \\ 1 & 4 & 3 & 11 \\ 1 & 3 & 2 & p \\ 2 & 5 & 1 & 9 \end{array} \right)\)
Richtig bis
\(\left(\begin{array}{cccc} 1 & 2 & -1 & 3 \\ 0 & 2 & 4 & 8 \\ 0 & 1 & 3 & p-3 \\ 2 & 5 & 1 & 9 \end{array}\right)\)
Dann aber
\(\left(\begin{array}{cccc} 1 & 2 & -1 & 3 \\ 0 & 2 & 4 & 8 \\ 0 & 1 & 3 & p-3 \\ 0 & 1 & 3 & 3 \end{array}\right)\)
Jetzt siehst du schon: Für p=6 sind die beiden letzten Zeilen gleich. dann ist
also Rang=3, ansonsten Rang = 4.