Hier eine geometrische Interpretation im \(\mathbb R^n\) mit dem herkömmlichen Skalarprodukt (also der Euklidischen Norm).
Sei \(e = (1,\ldots , 1)\in \mathbb R^n\) und weiter sei \(y \in \mathbb R^n\). Zum Beispiel kann \(y_i = ix_i\) sein (also völlig Schnuppe, welche Koordinaten man hat).
Dann ist
\(\sum_{i=1}^n(y_i - b)^2 = ||y - be ||_2^2\)
Wir suchen also im von \(e\) aufgespannten Unterraum den Punkt, der am nächsten an \(y\) liegt.
Das ist aber genau die orthogonale Projektion von \(y\) auf diesen Unterraum.
Die orthogonalen Projektionen von \(y\) auf den von \(e\) aufgespannten Unterraum kann man einfach mit dem Skalarprodukt berechnen:
\(\left(y\cdot\frac e{||e||_2}\right)\frac e{||e||_2} = \frac{y\cdot e}{||e||_2^2}e = be\)
Also
\(b= \frac{y\cdot e}{||e||_2^2} = \frac{\sum_{i=1}^ny_i}{n}= \frac 1n\sum_{i=1}^ny_i\)
