Achtung: Enthält Fehler. Kommentare auch ansehen.
f(x) = (a - 1)/3·x3 - a·x 
Mache 1. Fall x = √(a/(a - 1))
y = (a-1)/3 * (√(a/(a - 1)))^2 
a) Falls zudem a> 1
y = (a-1)/3 * (a/(a-1)) = a/3 
b) Falls 1 > a ≥ 0. 
y = (a-1)/3 * (a/-(a-1)) = -a/3, in diesem Fall existiert aber die blaue Lösung gar nicht.
c) Falls a ≤ 0.
y = (a-1)/3 * (-a/-(a-1)) = a/3 
Zusammenfassung 1. Fall: Falls a ≥ 0 oder a<-1,
P(  √(a/(a - 1)) , a/3) 
Nun bitte erst mal nachprüfen und dann noch den 2. Fall durchrechnen.