Güte der Modellanpassung; Overall-F-Test

• Ähnlich wie bei der einfachen linearen Regression (vgl. Abschnitt 2.5.3) gilt auch bei der multiplen linearen Regression
  • die Quadratsummen-Zerlegung

    $$\sum_{i=1}^n (Y_i-\overline Y)^2=\sum_{i=1}^n (\widehat Y_i-\overline Y)^2+\sum_{i=1}^n (Y_i-\widehat Y_i)^2$$ (74)

    
    
    der ,,Gesamtstreuung'' $\sum_{i=1}^n (Y_i-\overline Y)^2$ in die sogenannte ,,erklärte Streueung'' $\sum_{i=1}^n (\widehat Y_i-\overline Y)^2$ und die ,,Reststreuung'' $\sum_{i=1}^n (Y_i-\widehat Y_i)^2$, wobei
    $$\widehat Y_i=\widehat\beta_1+\widehat\beta_2 x_{i2}+\ldots+\widehat\beta_m x_{im}\,,$$    bzw.$$\qquad\overline Y=\frac{Y_1+\ldots+Y_n}{n}\;.$$

  • Für den Quotienten

    $$R^2=\frac{\displaystyle\sum\limits_{i=1}^n\bigl(\widehat Y_i-\overline Y\bigr)^2}{\displaystyle\sum\limits_{i=1}^n\bigl( Y_i-\overline Y\bigr)^2}$$ (75)

    
    
    von erklärter Streuung und Gesamtstreuung ergibt sich aus (74), dass
    $$0\le R^2\le 1\,.$$

  • Das sogenannte Bestimmtheitsmaß $R^2$ ist eine Maßzahl für die Anpassungsgüte der geschätzten Regressionshyperebene $\widehat Y({\mathbf{x}})=\widehat\beta_1+\widehat\beta_2 x_{2}+\ldots+\widehat\beta_m x_{m}$ an die beobachteten Werte $y_1,\ldots,y_n$ der Zielvariablen $Y_1,\ldots,Y_n$.

  
  

• Beachte 
  • Der in (71) betrachtete t-Test dient lediglich zur Verifizierung der statistischen Signifikanz von einzelnen Einflussfaktoren.
  • Man kann jedoch einen (simultanen) F-Test konstruieren, um die statistische Signifikanz von sämtlichen Einflussfaktoren gleichzeitig zu prüfen.
  • Dabei wird die Hypothese $H_0:\beta_2=\beta_3=\ldots=\beta_m=0$ (gegen die Alternative $H_1:\beta_j\not=0$ für ein $j\in\{2,\ldots,m\}$) getestet.
  • Unter $H_0$ gilt nämlich

    $$T=\frac{n-m}{m-1}\;\frac{R^2}{1-R^2}\;\sim\;{\rm F}_{m-1,\,n-m}\,,$$ (76)

    
    
    wobei $R^2$ die in (75) gegebene Maßzahl ist.
  • Die Hypothese $H_0:\beta_2=\beta_3=\ldots=\beta_m=0$ wird abgelehnt, falls $T>\,{\rm F}_{m-1,\,n-m,\,\gamma}$.

  
  

• Beispiel (vgl. L. Fahrmeir, R. Künstler, I. Pigeot, G. Tutz (2000) Statistik. Springer, Berlin, S. 485 ff.)