t-Tests und Konfidenzintervalle für Regressionskonstante und Regressionskoeffizienten

• Zusätzlich zu den Modellannahmen, die bisher in Abschnit 3.3 gemacht wurden, setzen wir nun voraus, dass die zufälligen Störgrößen $\varepsilon _1,\ldots,\varepsilon _n$ normalverteilt sind. Wegen (53) gilt somit

  $$\varepsilon _i\sim\,{\rm N} (0,\sigma^2)\,, \qquad\forall\, i=1,\ldots,n\,.$$ (68)

  
  

• Ähnlich wie bei den t-Tests, die in Abschnitt 3.1.3 für das einfache lineare Regressionsmodell betrachtet wurden, können wir dann Hypothesen über einzelne Komponenten des Parametervektors ${\boldsymbol{\beta}}=(\beta_1,\ldots,\beta_m)$ testen:
  • Um einen hypothetischen Wert $\beta_{0,j}$ der $j$-ten Komponente $\beta_j$ des Parametervektors ${\boldsymbol{\beta}}=(\beta_1,\ldots,\beta_m)$ zu testen, betrachten wir dabei die Testgröße

    $$T_j=\frac{ \widehat\beta_j-\beta_j }{S\sqrt{x^{jj}}}\;\sim \,{\rm t}_{n-m}\,,$$ (69)

    
    
    wobei $x^{jj}$ die $(j,j)$-te Eintragung der (inversen) Matrix $({\mathbf{X}}^\top{\mathbf{X}})^{-1}$ bezeichnet; $j\in\{1,\ldots,m\}$.
  • Beim Test der Hypothese $H_0:\beta_j=\beta_{0,j}$ zum Niveau $1-\gamma\in(0,1)$ (gegen die Alternative $H_1:\beta_j\not=\beta_{0,j}$) wird die Nullhypothese $H_0$ abgelehnt, falls

    $$\frac{\bigl\vert\widehat\beta_j-\beta_{0,j}\bigr\vert}{S\sqrt{x^{jj}}}>\, {\rm t}_{n-m,1-(1-\gamma)/2}\,,$$ (70)

    
    
    wobei ${\rm t}_{n-m,1-(1-\gamma)/2}$ das $(1-(1-\gamma)/2)$-Quantil der t-Verteilung mit $n-m$ Freiheitsgraden bezeichnet.

• Beachte 
  • Für $j\in\{2,\ldots,m\}$ ist der Test der Hypothese $H_0:\beta_j=0$ (gegen die Alternative $H_1:\beta_j\not=0$) von besonderem Interesse, weil damit verifiziert werden kann, inwieweit die Zielvariablen $Y_1,\ldots,Y_n$ statistisch signifikant von dem $(j-1)$-ten Einflussfaktor abhängen.
  • Bei diesem Test auf Signifikanz des $(j-1)$-ten Einflussfaktors wird die Nullhypothese $H_0$ abgelehnt, falls

    $$\frac{\bigl\vert\widehat\beta_j\bigr\vert}{S\sqrt{x^{jj}}}>\, {\rm t}_{n-m,1-(1-\gamma)/2}\,.$$ (71)

    
    

  • Außerdem ergibt sich aus (69) das folgende Konfidenzintervall für $\beta_j$ zum Niveau $\gamma\in(0,1)$:

    $$\widehat\beta_j- \,{\rm t}_{n-m,1-(1-\gamma)/2}\,S\sqrt{x^{jj}}<\beta_j< \widehat\beta_j+ \,{\rm t}_{n-m,1-(1-\gamma)/2}\,S\sqrt{x^{jj}}\,.$$ (72)

    
    

• Beispiel 
  • Für den bereits in Abschnitt 3.3.2 betrachteten Spezialfall von zwei Einflussfaktoren, d.h. $m=3$, lassen sich die in (69) betrachteten Testgrößen $T_2$ und $T_3$ in der folgenden Form schreiben:

    $$T_2=\frac{\widehat\beta_2-\beta_2}{\displaystyle S\sqrt{\frac{ c_{33}}{c_{22}c_{33}-c_{23}^2}}}\;\sim\,{\rm t}_{n-3} \qquad T_3=\frac{\widehat\beta_3-\beta_3}{\displaystyle S\sqrt{\frac{ c_{22}}{c_{22}c_{33}-c_{23}^2}}}\;\sim\,{\rm t}_{n-3}\,,$$ (73)

    
    
    wobei die Größen $c_{ij}$ und $S$ $=\sqrt{S^2}$ in (58) bzw. (62) gegeben sind.
  • Wir betrachten nun erneut den in Abschnitt 3.3.2 gegebenen Beispiel-Datensatz und prüfen, ob die Zielvariable ,,Stahlausbeute'' statistisch signifikant von den beiden technologischen Einflussfaktoren ,,Anzahl der bisherigen Abstiche'' und ,,Schefelgehalt'' des Produktionsprozesses abhängt.
  • Mit anderen Worten: Wir verifizieren die Hypothesen
       $$\mbox{$H_0:\beta_2=0$\ (versus $H_0:\beta_2\not=0$)}$$   bzw.   $$\mbox{$H_0:\beta_3=0$\ (versus $H_0:\beta_3\not=0$).}$$$$$$

  • In Abschnitt 3.3.2 hatten wir gezeigt, dass
    $$\beta_2=-1.695\,,\quad\widehat\beta_3=0.146\,,\quad S=20.28\,,\quad c_{22}=3995\,,\quad c_{33}=326\,,\quad c_{23}=155\,.$$

  • Durch Einsetzen in (73) ergeben sich nun unter $H_0:\beta_2=0$ bzw. $H_0:\beta_3=0$ die folgenden ,,Testwerte'' zum Niveau $1-\gamma=0.05$:
    $$T_2=-5.23$$   bzw.$$\qquad T_3=0.13\,.$$

  • Weil $\vert T_2\vert=5.23>2.07={\rm t}_{23,\,0.975}$ gilt, wird die Null-Hypothese $H_0:\beta_2=0$ verworfen, d.h., die Qualitätskennzahl ,,Stahlausbeute'' hängt statistisch signifikant von dem ersten technlogischen Einflussfaktor ,,Anzahl der bisherigen Abstiche'' ab.
  • Andererseits gilt $\vert T_3\vert=0.13<2.07={\rm t}_{23,\,0.975}$, d.h., die Abhängigkeit der Qualitätskennzahl ,,Stahlausbeute'' von dem zweiten technlogischen Einflussfaktor ,,Schwefelgehalt'' ist statistisch nicht gesichert.
  • Aus (73) ergeben sich darüber hinaus die Konfidenzintervalle $(-2.366,\,-1.024)$ und $(-2.201,\, 2.493)$ für $\beta_2$ bzw. $\beta_3$, wenn dabei das Konfidenzniveau $\gamma=0.950$ betrachtet wird.