Ich beziehe mich auf die Antwort von Lu (meine Ergänzungen rot):
(II) x/y = a/(2b)  
(II)'   x = (ay)/(2b)
Nun in der ersten Gleichung y durch diesen Bruch ersetzen.
Doppelbruch vereinfachen... (I) hat jetzt nur noch eine Unbekannte. 
2b/ay + 1/y = (a+2b)/4ab oder auf dem Hauptnenner: (2b+a)/ay = (a+2b)/4ab 
Daraus folgt unmittelbar ay = 4ab oder y = 4b und dann x = 2a
Irgendwann (später) kannst du dann noch "mal y" rechnen und kommst vermutlich auf eine quadratische Gleichung für y. Das hat Lu offensichtlich nicht zu Ende gerechnet.