Schau mal dort:
https://de.wikipedia.org/wiki/Definitheit#Definitheit_von_Matrizen
Also brauchst du nur die Eigenwerte.
Dazu rechnest du  ( wenn A die Matrix ist)
det ( A -x*E ) = 0 
also bei der ersten   -x^3 +6x^2 +6x -56 = 0 
bzw   x^3 - 6x^2  - 6x  + 56 = 0
kannst du raten   x=4 und Polynomdivision
( x^3 - 6x^2  - 6x  + 56) : ( x-4 ) = x^2 - 2x - 14 
also Eigenwerte  4    ;  1 + wurzel(15 )  ;   1  - wurzel ( 15 ) 
also 2 positive und einen neg. Eigenwert , also indefinit.
etc.