wie genau bist du auf die matrix von a gekommen?Da hänge ich etwas. 
dazu musst du den Vektor (x1,x2) in der Form a*v + b*w darstellen, 
weil du halt f(v) und f(w) kennst. wenn du dann f(a*v + b*w) ausrechnen 
willst, brauchst du nur (wegen der Linearität der Abb.) 
a*f(v + b*f(w)zu rechnen.
(x1,x2) =a*v + b*w= ( a+b  ,  a-b) bekommst du a= 0,5(x1+x2)  und b= o,5 (x1-x2) 
also ist f(x1,x2)=  0,5(x1+x2) *f(v) +o,5 (x1-x2)*f(w) 
das musst du einfach mal ausrechnen, gibt dann 
(0,5x1 + 1,5x2 , 1,5x1 + 0,5x2)
 
                   
 mit M = 0.5   1.5 
            1.5    0,5 
 
ist das dann aber auch   M * (x1,x2)
 
Ist bei a richtig also bei f(3v+5w) = 3*2*v + 5 * (-w) =6v-5w= 
das da x1 = 1 rauskommt und x2= 11 ??    JA!