Der Normalenvektor ist dann [20 56 63]? 
Mit welcher unsinnigen Rechnung kommst du denn darauf ? 
es gibt das Skalarprodukt von Vektoren. Das ergibt aber eine reelle Zahl und kein Vektor.
AB = B - A = [4, 7, 9] - [5, 8, 7] = [-1, -1, 2]
Du kannst auch ein Vielfaches nehmen weils eventuell schöner ist
n = [1, 1, -2]