F-Test der ANOVA-Nullhypothese; einfaktorielle Varianzanalyse

• Wir betrachten zunächst das reparametrisierte Modell der einfaktoriellen Varianzanalyse, d.h., die Designmatrix ${\mathbf{X}}$ sei die in (7) gegebene $n\times (k+1)$ Matrix mit ${\,{\rm rg}}({\mathbf{X}})=k<m=k+1$, wobei

  
  

  $${\mathbf{X}}=\left(\begin{array}{ccccccc} 1 & 1 & 0 & 0 &\ldots &... ...dots & &\vdots & \vdots\\ 1 & 0 & 0 & 0 & \ldots & 0 & 1 \end{array}\right)\,,$$ (76)

  
  
  und der Parametervektor ${\boldsymbol {\beta }}$ hat die Form ${\boldsymbol{\beta}}=(\mu,\alpha_1,\ldots,\alpha_k)^\top$.
• Getestet werden soll die Hypothese $H_0:\alpha_1=\ldots=\alpha_k$ (gegen die Alternative $H_1:\alpha_i\not=\alpha_j$ für ein Paar $i,j\in\{1,\ldots,k\}$ mit $i\not=j$). Dabei nutzen wir den allgemeinen Testansatz von Theorem 4.13 bzw. Theorem 4.14.
• Eine äquivalente Formulierung der Nullhypothese $H_0:\alpha_1=\ldots=\alpha_k$ ist gegeben durch

  $$H_0:\alpha_1-\alpha_2=0,\,\ldots,\,\alpha_1-\alpha_k=0 \qquad H_0:{\mathbf{H}}{\boldsymbol{\beta}}={\mathbf{o}}\,,$$ (77)

  
  
  wobei ${\mathbf{H}}$ eine $(k-1)\times(k+1)$ Matrix ist mit

  $${\mathbf{H}}=\left(\begin{array}{ccccccc} 0 & 1 & -1 & 0 & \ldots... ... 0 & 0 & \ldots & -1 & 0 \\ 0 & 1 & 0 & 0 & \ldots & 0 & -1 \end{array}\right)$$ (78)

  
  

• Es ist klar, daß ${\mathbf{H}}$ eine Matrix mit vollem Zeilenrang ${\,{\rm rg}}({\mathbf{H}})=k-1$ ist. Außerdem ergibt sich aus Theorem 4.7, daß sämtliche Komponenten $\alpha_1-\alpha_2,\,\ldots,\,\alpha_1-\alpha_k$ des Vektors ${\mathbf{H}}{\boldsymbol{\beta}}$ schätzbare Funktionen von ${\boldsymbol {\beta }}$ sind.
• Mit anderen Worten: Die Matrix ${\mathbf{H}}$ genügt den Bedingungen von Theorem 4.13 bzw. Theorem 4.14, so daß zur Verifizierung der Hypothese $H_0:{\mathbf{H}}{\boldsymbol{\beta}}={\mathbf{o}}$ die in Theorem 4.14 betrachtete Testgröße
  $$T_{\mathbf{H}}=\frac{(SSE_H-SSE)/(k-1)}{SSE/(n-k)}$$
  verwendet werden kann, wobei sich die in (68) bzw. (69) definierten Quadratsummen $SSE$ und $SSE_H$ wie folgt bestimmen lassen.
• Zur Erinnerung: In Abschnitt 4.2.1 hatten wir gezeigt, daß eine verallgemeinerte Inverse von ${\mathbf{X}}^\top{\mathbf{X}}$ gegeben ist durch (28), d.h.

  
  

  $$\bigl({\mathbf{X}}^\top{\mathbf{X}}\bigr)^-=\left(\begin{array}{r... ...{n} & 0 & 0 & 0 & \ldots & 0 & \displaystyle\frac{1}{n_k} \end{array}\right)\,.$$ (79)

  
  

• Hieraus und aus (76) folgt, daß
  $$\overline{\boldsymbol{\beta}}=\bigl({\mathbf{X}}^\top{\mathbf{X}}... ...\,,\,\ldots\,,\,\overline Y_{k\,\cdot}-\overline Y_{\cdot\,\cdot}\bigr)^\top$$
  bzw.
  $${\mathbf{X}}\overline{\boldsymbol{\beta}}={\mathbf{X}}\bigl({\mat... ...e Y_{k\,\cdot} \,,\,\ldots\,,\,\overline Y_{k\,\cdot}}_{n_k} \Bigr)^\top\,.$$

• Somit ergibt sich für die Quadratsumme $SSE=({\mathbf{Y}}-{\mathbf{X}}\overline{\boldsymbol{\beta}})^\top({\mathbf{Y}}-{\mathbf{X}}\overline{\boldsymbol{\beta}})$, daß

  $$SSE=\sum\limits_{i=1}^k\sum\limits_{j=1}^{n_i}\Bigl(Y_{ij}-\overline Y_{i\,\cdot}\Bigr)^2\,.$$ (80)

  
  

Beachte

 

• Wegen der speziellen Gestalt (76) der Designmatrix ${\mathbf{X}}$ läßt sich die Formel (80) auch direkt aus der Tatsache herleiten, daß $\overline{\boldsymbol{\beta}}$ ein MKQ-Schätzer ist. Und zwar gilt
  

  $$SSE = ({\mathbf{Y}}-{\mathbf{X}}\overline{\boldsymbol{\beta}})^\top({\m... ...bf{X}}{\boldsymbol{\beta}})^\top({\mathbf{Y}}-{\mathbf{X}}{\boldsymbol{\beta}})$$

  $$= \sum\limits_{i=1}^k \Bigl\{\min\limits_{x\in\mathbb{R}}\; \sum\li... ...s_{i=1}^k \sum\limits_{j=1}^{n_i}\Bigl(Y_{ij}-\overline Y_{i\,\cdot}\Bigr)^2\,,$$

  
  
  wobei die Gültigkeit der letzten Gleichheit beispielsweise so wie in Übungsaufgabe WR-8.3 gezeigt werden kann.
• Die Größe $SSE/(n-k)$ stimmt mit der gepoolten Stichprobenvarianz $S_p^2$ überein, die in Abschnitt 2.2.3 betrachtet wurde, vgl. die Definitionsgleichung (2.58).

• Außerdem ergibt sich aus der Bemerkung am Ende von Abschnitt 4.3.3, daß
  $$SSE_H=({\mathbf{Y}}-{\mathbf{X}}\ove... ...heta_H}\bigl\Vert{\mathbf{Y}}-{\mathbf{X}}{\boldsymbol{\beta}}\bigr\Vert^2\,,$$
  wobei $\{{\mathbf{X}}{\boldsymbol{\beta}}:\,{\boldsymbol{\beta}}\in\Theta_H\}\subset\mathbb{R}^n$ die Menge derjenigen $n$-dimensionalen Vektoren ist, für die sämtliche Komponenten gleich sind.
• Somit gilt

  $$SEE_H=\min\limits_{x\in\mathbb{R}} \sum\limits_{i=1}^k\sum\limits... ...=1}^k\sum\limits_{j=1}^{n_i}\bigl(Y_{ij}-\overline Y_{\cdot\,\cdot}\bigr)^2 \,,$$ (81)

  
  
  weil der Mittelwert $\overline Y_{\cdot\,\cdot}$ die Quadratsumme $\sum_{i=1}^k\sum_{j=1}^{n_i}\bigl(Y_{ij}-x\bigr)^2$ minimiert, vgl. Übungsaufgabe WR-8.3.
• Hieraus und aus (80) folgt, daß
  $$SSE_H-SSE=\sum\limits_{i=1}^k\sum\limits_{j=1}^{n_i}\bigl(Y_{ij}-... ...{i=1}^{k} n_i\bigl(\overline Y_{i\cdot}- \overline Y_{\cdot\cdot}\bigr)^2\,,$$
  wobei sich die letzte Gleichheit aus der in Theorem 2.13 hergeleiteten Quadratsummenzerlegung (2.74) ergibt.
• Für die in Theorem 4.14 betrachtete Testgröße $T_{\mathbf{H}}$ gilt also, daß
  $$T_{\mathbf{H}}=\frac{(SSE_H-SSE)/(k-1)}{SSE/(n-k)}=\frac{(n-k)\su... ...^{n_i}\Bigl(Y_{ij}-\overline Y_{i\,\cdot}\Bigr)^2}\sim\,{\rm F}_{k-1,n-k}\,.$$

Beachte

$\;$ Der hieraus resultierende Test der Hypothese $H_0:{\mathbf{H}}{\boldsymbol{\beta}}={\mathbf{o}}$ stimmt mit dem in Abschnitt 2.2.4 konstruierten F-Test der ANOVA-Nullhypothese $H_0:\theta_1=\ldots=\theta_k$ überein.