Kleinst-Quadrat Schätzer berechnen

Question

Die KQ-Schätzer für β₀ und β₁ bei der einfachen linearen Regression sind gegeben
durch: β'₀ = y^- - β'₁ x^-   und   β'₁ = s_xy  / s_x²

Nehmen Sie an, wir modellieren ein einfaches lineares Regressionsmodell ohne intercept, also ohne β_0:  

y₁ = β₁ x_i + e_i

Bestimmen sie den Kleinst-Quadratschätzer β^~₁ für dieses Modell durch Minimieren von

\( \sum\limits_{i=0}^{n}{(yi-β1xi)^2} \)

und zeigen Sie dass β^~₁ nur dann mit dem obigen Schätzer β'₁ übereinstimmt, wenn y^- =  β^~₁x^-, wenn also β'₀ = 0.

β' .... Schätzer

y^-.... Mittelwert

e ... Residuen

Comments

ziemlich unleserlich, das Ganze hier

Answer 1

Aus dem Modell $$  F(\alpha_1) = \sum_{i=1}^n \left( y_i - \alpha_1 x_i \right)^2 \rightarrow \text{Minimal}  $$ folgt

$$  \alpha_1 = \frac{ \sum_{i=1}^n x_i y_i }{ \sum_{i=1}^n x_i^2 } $$

Wenn \( \alpha_1 = \beta_1 \) gelten soll, muss gelten

$$ \frac{ \sum_{i=1}^n x_i y_i } { \sum_{i=1}^n x_i^2 } = \frac{ s_{xy} } { s_x^2 } = \frac{ \sum_{i=1}^n (x_i-\overline{x} )  (y_i-\overline{y} ) } {\sum_{i=1}^n (x_i -\overline{x} )^2 } =  \frac{ \sum_{i=1}^n x_i y_i - n \overline{x} \overline{y}  } { \sum_{i=1}^n x_i^2 - n \overline{x}^2  } $$

Das bedeutet aber, es gilt

$$  \frac{ \sum_{i=1}^n x_i y_i } { \sum_{i=1}^n x_i^2 } = \frac{ \overline{y} } { \overline{x} }  $$ und daraus folgt $$ \beta_0 = 0 $$