a)  mach ich in Polarkoordinaten. 
     x  =  r  cos  (  ß  )         (  1a  )
     y  =  r  sin  (  ß  )       (  1b  )
   Dann folgt ( mit dem ===> Sinusteorem )
   f  (  x  ;  y  )  =  f  (  r  ;  ß  )  =  r  sin  (  2ß  )      (  1c  )
    Der Winkel ist zwar beschränkt, hat aber im Ursprung keinen definierten Grenzwert.  Die Winkelabhängigkeit wird aber unterdrückt durch  r  ===>  0  ;  wirhaben Grenzwert  Null .
   In b setze ich als Steigungsmaß
     m  :=  y / x     (  2a  )
                                                        2 - m ²
   f  (  x  ;  y  )  =  f  (  m  )  =        -------------------           (  2b  )
                                                        3 m ² + 1
     Damit stellt sich ( 2b ) heraus als ( eindeutige ) Funktion von m ;   m ist  aber im Ursprung nicht definiert.
   Zur c) kann ich dir nur schreiben, was mir so einfällt.  Würd mich echt intressieren, wer bessere Ideen vorzuweisen hat.
   Ich seh grad;  du bist ja der " Maser "  Oder doch der Laser?  In seinem " Jim Knopf "  erfand ja Michael Ende den  "  Saser  "  (  "  Tal der Dämmerung  "  )   (  Ein " Laser mit Phononen harrt übrigens noch der Erfindung. )
   Najaa; ich meine.  Schreib mir halt mal, was dein Assistent  sülzt. Vielleicht hat der ja echt  eine brillante Idee.  
   Zunächst mal würde ich dein Ding umformen mit dem Sinusteorem:
 sin ( x y ² + x ² y ) =  sin ( x y ² ) cos ( x ² y ) + cos ( x y ² ) sin ( x ² y )      (  3a  )
    weil die Kosinusterme sind ja völlig unkritisch; die gehen gegen Eins.  Beschränken wir uns auf den ersten Term; auf den linkesten Sinusfaktor und führen wieder Substitution ( 2a ) durch:
                            sin ( x ³  m )
     lim  =  lim    --------------------------        (  3b  )
                          x ²  ( 1 + m  ²  )
     Die Klammer im Nenner ist wieder  völlig unkritisch und kann daher unberücksichtigt bleiben;    Grenzwert  ( 3b )  bilden wir mit der Krankenhausregel
                    sin ( x ³  m )
     lim        -----------------------    =         (   3c   )
                           x  ² 
                 3 x  ²  m  + x  ³  ( dm/dx )
   =  lim   ---------------------------------------    cos ( ... )     (  3d  )
                             2  x
    Ich will das jetzt nicht mehr so ausführlich schreiben;  in ( 3d ) sieht man schon
   1)  Das x im Nenner kürzt sich weg
   2)  Der Kosinusterm geht gegen Eins.
   Per Saldo geht also deine Funktion gegen Null.