vermutlich ist gemeint, dass bei R rechte Winkel sind, also RQ die Höhe in dem Dreieck ist.
Dazu wären zwei Sachen zu prüfen:
1.  RQ * OP = 0     ( das heiße die sind senkrecht zueinander ) 2.  OQ+ QR =  x*OP  ( das hieße :  wenn man von O über Q nach R geht, landet man
wirklich auf der Seite OP.Das kann man ja nachrechnen:
zu 1.  .  RQ * OP   
= 1/(a
2 +b
2) * (   (a
2 +b
2)*c  - (ac+bd) *a    ;    (a
2 +b
2)*d - (ac+bd) *b )    *  (  a ; b ) 
= 1/(a
2 +b
2) * (   (a
2 +b
2)*c*a  - (ac+bd) *a*a    +    (a
2 +b
2)*d*b - (ac+bd) *b*b )  
= 1/(a
2 +b
2) * (   (a
2 +b
2)*c*a    +    (a
2 +b
2)*d*b    - (ac+bd) *a*a   - (ac+bd) *b*b )  
= 1/(a
2 +b
2) * (   (a
3*c +b
2*c*a    +    a
2d*b   +   b
2*d*b    -a
3*c - bd *a*a   - acbb  -  bd*b*b )  
In der großen Klammer heben sich alle gegenseitig auf, also gibt es 0.
zu 2: halt auch nachrechnen.
b)  Länge von RQ zum Quadrat gibt  
= 1/(a
2 +b
2) * (   (a
2 +b
2)*c  - (ac+bd) *a    ;    (a
2 +b
2)*d - (ac+bd) *b )     *   1/(a
2 +b
2) * (   (a
2 +b
2)*c  - (ac+bd) *a    ;    (a
2 +b
2)*d - (ac+bd) *b ) 
   = (1/(a
2 +b
2))
2 * (   (a
2 +b
2)*c  - (ac+bd) *a    )
2   +  ( (a
2 +b
2)*d - (ac+bd) *b ) 
2   
   = (1/(a
2 +b
2))
2 * (   ((a
2 +b
2)*c)
2  -2  (a
2 +b
2)*c (ac+bd) *a  + ( (ac+bd) *a  )
2             +  ( (a
2 +b
2)*d )
2    -2(a
2 +b
2)*d * (ac+bd) *b   +   ((ac+bd) *b ) 
2     )
usw. gibt dann wohl  (ad-bc)2 / (a2 +b2)  und weil dann noch die 
Wurzel zu ziehen ist, also das gewünschte Ergebnis.
c) A = 0,5 * g * h  hier also 
A = 0,5 * |OP| * | RQ| = 0,5* √(a2+b2)*  |ad-bc| / √(a2 +b2) = 0,5* |ad-bc|