Du musst nur prüfen, ob   (1,0,1) , (0,1,1) , (1,-1,0)  linear unabh. sind.
Das sind sie nicht !   Denn 
 1* (1,0,1)  +  -1* (0,1,1)  =   (1,-1,0) 
Wenn es also eine lin. Abb dieser Art gibt, dann muss gelten
 f(   (1,0,1) - (0,1,1) )    =    f  (1,-1,0)   also wegen linear 
 f(   (1,0,1) - f (0,1,1) )    =    f  (1,-1,0)   mit deinen Zahlen
 (2,1,4)  -   (-1,2,0)   =(3,-1,4)  Das stimmt also. 
Dann kannst du     (1,0,1) , (0,1,1) zu einer Basis von IR
3 ergänzen, 
etwa   durch  ( 0;0;1)  und legst für diesen letzten Basisvektor auch
etwas fest ( ist egal was) etwa  f(0;0;1) = (0;0;0) 
Dann hast du   f(1;0,0) = f ( ( 1;0;1) - ( 0;0;1)) 
 =  (2,1,4) -  (0;0;0) =  (2,1,4)und f(0;1;0) = f(  ( 0;1;1) - ( 0;0;1))  
=   (-1,2,0)  -  (0;0;0) =   (-1,2,0)
Also ist die Matrix dieser Abb.  =  
2     -1     0
1      2     0
4      0     0