Du fängst also an und willst diese Ungleichung zeigen:
a2≤(a+b2ab)2
da a und b positiv sind gilt dies genau dann wenn
a≤a+b2ab
ein wenig umformen
a(a+b)≤2ab
⇔a2≤ab
⇔a≤b
also stimmt die Gleichung, und Gleichheit gilt, wenn a = b.
Jetzt gehst du über und zeigst die nächste Ungleichung
(a+b2ab)2≤ab usw..