Hier muss man eindeutig das Einsetzungverfahren benutzen.   Da b in allen drei Gleichungen vorhanden ist ,löst man nach  a und c auf und setzt  es dann in die 3. Gleichung ein.
a*b=20    ⇒a=20/b
b*c=12     ⇒c=12/b
(20/b)+(12/b)+b=12     |mit b multiplizieren
20+12+b²=12b           | -12b
b²-12b+32=0              |faktorisieren
(b-4)*(b-8)=0             es gibt 2 lösungen für b :   b=4  und b=8 
bei b=4    a=5, c=3     löst alle Gleichungen richtig
b=8   ist nicht lösbar