In den Spalten der Matrix stehen immer die Bilder der Basisvektoren.
Also bei f  Matrix A = 
3   1    0    0  
0   0    0    1
1   2   -1    0
und bei g Matrix  B = 
1     2     3
2     2     2 
3     2     1
Dann hat  gof die Matrix  B * A =
6      7   -3    2
8      6    -2   2
10   5    -1    2 
und das in Koordinaten, da musst du nur diese Matrix mit dem 
Vektor ( x1 ; x2 ;x3 ; x4 ) ^T multiplizieren und hast 
g o f ( x1 ; x2 ;x3 ; x4 ) =  ( 6x1 + 7x2 - 3x3 + 2x4 ; 8x1 + 6x2 ......-x3 + 2x4 ) ^T