f(x, y) = - 3·x + y + 7·x2 + 5·y2 - 5·x2·y - x·y2 - 4·y3
f'(x, y) = [- 10·x·y + 14·x - y2 - 3, - 5·x2 - 2·x·y - 12·y2 + 10·y + 1]
f''(x, y) = [14 - 10·y, - 10·x - 2·y; - 10·x - 2·y, - 2·x - 24·y + 10]
f''(2, 0) = [14, -20; -20, 6]
Da hat sich bei dir also ein kleiner Fehler eingeschlichen.