F-Test der ANOVA-Nullhypothese

• Wir betrachten das reparametrisierte Modell der einfaktoriellen Varianzanalyse, d.h., die Designmatrix ${\mathbf{X}}$ sei die in (13) gegebene $n\times (k+1)$ Matrix mit ${ {\rm rg}}({\mathbf{X}})=k<m=k+1$, wobei

  
  

  $${\mathbf{X}}=\left(\begin{array}{ccccccc} 1 & 1 & 0 & 0 &\ldots &... ...dots & &\vdots & \vdots 1 & 0 & 0 & 0 & \ldots & 0 & 1 \end{array}\right) ,$$ (82)

  
  
  und der Parametervektor ${\boldsymbol {\beta }}$ hat die Form ${\boldsymbol{\beta}}=(\mu,\alpha_1,\ldots,\alpha_k)^\top$.
• Getestet werden soll, ob die Stufen des Einflussfaktors signifikant sind, d.h., wir testen die ANOVA-Nullhypothese $H_0:\alpha_1=\ldots=\alpha_k$ (gegen die Alternative $H_1:\alpha_i\not=\alpha_j$ für ein Paar $i,j\in\{1,\ldots,k\}$ mit $i\not=j$). Dabei nutzen wir den allgemeinen Testansatz von Theorem 3.15 bzw. Theorem 3.16.
• Eine äquivalente Formulierung der Nullhypothese $H_0:\alpha_1=\ldots=\alpha_k$ ist gegeben durch

  $$H_0:\alpha_1-\alpha_2=0, \ldots, \alpha_1-\alpha_k=0 \qquad H_0:{\mathbf{H}}{\boldsymbol{\beta}}={\mathbf{o}} ,$$ (83)

  
  
  wobei ${\mathbf{H}}$ eine $(k-1)\times(k+1)$ Matrix ist mit

  $${\mathbf{H}}=\left(\begin{array}{ccccccc} 0 & 1 & -1 & 0 & \ldots... ... 0 & 0 & \ldots & -1 & 0 0 & 1 & 0 & 0 & \ldots & 0 & -1 \end{array}\right)$$ (84)

  
  

• Es ist klar, dass ${\mathbf{H}}$ eine Matrix mit vollem Zeilenrang ${ {\rm rg}}({\mathbf{H}})=k-1$ ist. Aus Theorem 3.10 ergibt sich außerdem, dass sämtliche Komponenten $\alpha_1-\alpha_2, \ldots, \alpha_1-\alpha_k$ des Vektors ${\mathbf{H}}{\boldsymbol{\beta}}$ schätzbare Funktionen von ${\boldsymbol {\beta }}$ sind.
• Mit anderen Worten: Die Matrix ${\mathbf{H}}$ genügt den Bedingungen von Theorem 3.15 bzw. Theorem 3.16, so dass zur Verifizierung der Hypothese $H_0:{\mathbf{H}}{\boldsymbol{\beta}}={\mathbf{o}}$ die in Theorem 3.16 betrachtete Testgröße
  $$T_{\mathbf{H}}=\frac{(SSE_H-SSE)/(k-1)}{SSE/(n-k)}$$
  verwendet werden kann, wobei sich die in (74) bzw. (75) definierten Quadratsummen $SSE$ und $SSE_H$ wie folgt bestimmen lassen.
• Zur Erinnerung: In Abschnitt 3.2.1 hatten wir gezeigt, dass eine verallgemeinerte Inverse von ${\mathbf{X}}^\top{\mathbf{X}}$ gegeben ist durch (35), d.h.

  
  

  $$\bigl({\mathbf{X}}^\top{\mathbf{X}}\bigr)^-=\left(\begin{array}{r... ...{n} & 0 & 0 & 0 & \ldots & 0 & \displaystyle\frac{1}{n_k} \end{array}\right) .$$ (85)

  
  

• Hieraus und aus (82) folgt, dass
  $$\overline{\boldsymbol{\beta}}=\bigl({\mathbf{X}}^\top{\mathbf{X}}... ...t} , \ldots , \overline Y_{k \cdot}-\overline Y_{\cdot \cdot}\bigr)^\top$$
  bzw.
  $${\mathbf{X}}\overline{\boldsymbol{\beta}}={\mathbf{X}}\bigl({\mat... ...line Y_{k \cdot} , \ldots , \overline Y_{k \cdot}}_{n_k} \Bigr)^\top .$$

• Somit ergibt sich für die Quadratsumme $SSE=({\mathbf{Y}}-{\mathbf{X}}\overline{\boldsymbol{\beta}})^\top({\mathbf{Y}}-{\mathbf{X}}\overline{\boldsymbol{\beta}})$, dass

  $$SSE=\sum\limits_{i=1}^k\sum\limits_{j=1}^{n_i}\Bigl(Y_{ij}-\overline Y_{i \cdot}\Bigr)^2 .$$ (86)

  
  

Beachte

 

• Wegen der speziellen Gestalt (82) der Designmatrix ${\mathbf{X}}$ lässt sich die Formel (86) auch direkt aus der Tatsache herleiten, dass $\overline {\boldsymbol {\beta }}$ ein KQ-Schätzer ist. Und zwar gilt
  

  $$SSE = ({\mathbf{Y}}-{\mathbf{X}}\overline{\boldsymbol{\beta}})^\top({\m... ...bf{X}}{\boldsymbol{\beta}})^\top({\mathbf{Y}}-{\mathbf{X}}{\boldsymbol{\beta}})$$

  $$= \sum\limits_{i=1}^k \Bigl\{\min\limits_{x\in\mathbb{R}}\; \sum\li... ...s_{i=1}^k \sum\limits_{j=1}^{n_i}\Bigl(Y_{ij}-\overline Y_{i \cdot}\Bigr)^2 .$$

  
  

• Außerdem ergibt sich aus der Bemerkung am Ende von Abschnitt 3.3.2, dass
  $$SSE_H=({\mathbf{Y}}-{\mathbf{X}}\ove... ...Theta_H}\bigl\vert{\mathbf{Y}}-{\mathbf{X}}{\boldsymbol{\beta}}\bigr\vert^2\,,$$
  wobei $\Theta_H=\{{\boldsymbol{\beta}}\in\mathbb{R}^{k+1}:\,{\mathbf{H}}{\boldsymbol{\beta}}={\bf o}\}$ und $\{{\mathbf{X}}{\boldsymbol{\beta}}:\,{\boldsymbol{\beta}}\in\Theta_H\}\subset\mathbb{R}^n$ die Menge derjenigen $n$-dimensionalen Vektoren ist, für die sämtliche Komponenten gleich sind.
• Somit gilt

  $$SSE_H=\min\limits_{x\in\mathbb{R}} \sum\limits_{i=1}^k\sum\limits... ...=1}^k\sum\limits_{j=1}^{n_i}\bigl(Y_{ij}-\overline Y_{\cdot \cdot}\bigr)^2 ,$$ (87)

  
  
  weil der Mittelwert $\overline Y_{\cdot \cdot}$ die Quadratsumme $\sum_{i=1}^k\sum_{j=1}^{n_i}\bigl(Y_{ij}-x\bigr)^2$ minimiert.
• Hieraus und aus (86) folgt, dass
  $$SSE_H-SSE=\sum\limits_{i=1}^k\sum\limits_{j=1}^{n_i}\bigl(Y_{ij}-... ...s_{i=1}^{k} n_i\bigl(\overline Y_{i\cdot}- \overline Y_{\cdot\cdot}\bigr)^2 ,$$
  wobei sich die letzte Gleichheit aus der Quadratsummenzerlegung
  $$\sum\limits_{i=1}^k\sum\limits_{j=1}^{n_i}\bigl(Y_{ij}-\overline ... ...mits_{i=1}^{k} n_i\bigl(\overline Y_{i\cdot}- \overline Y_{\cdot\cdot}\bigr)^2$$
  ergibt, vgl. die Formel (9) in Theorem 3.1.
• Für die in Theorem 3.16 betrachtete Testgröße $T_{\mathbf{H}}$ gilt also, dass

  $$T_{\mathbf{H}}=\frac{(SSE_H-SSE)/(k-1)}{SSE/(n-k)}=\frac{(n-k)\su... ...1}^{n_i}\Bigl(Y_{ij}-\overline Y_{i \cdot}\Bigr)^2}\sim {\rm F}_{k-1,n-k} .$$ (88)