Zweifaktorielle Varianzanalyse

• Wir modifizieren nun das in Abschnitt 2.2 eingeführte Modell der einfaktoriellen Varianzanalyse und nehmen an, daß die Zielvariablen $Y_1,\ldots,Y_n$ von zwei Einflußfaktoren abhängen.
• Dabei zerlegen wir die Zufallsstichprobe ${\mathbf{Y}}=(Y_1,\ldots,Y_n)^\top$ in $k_1\cdot k_2$ Teilstichproben $(Y_{i_1i_2j},\, j=1,\ldots,n_{i_1i_2})$, wobei $n_{i_1i_2}>1$ für alle $i_1=1,\ldots,k_1$ bzw. $i_2=1,\ldots,k_2$ und
  $$\sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2} n_{i_1i_2}=n\,,$$

• Wir nehmen an, daß die Stichprobenvariablen, die zu einundderselben Klasse gehören, jeweils den gleichen Erwartungswert $\theta_{i_1i_2}$ haben.
• Mit anderen Worten: Wir nehmen an, daß

  $$Y_{i_1i_2j}=\theta_{i_1i_2}+\varepsilon _{i_1i_2j}\,,\qquad \forall\,i_1=1,\ldots,k_1,\;i_2=1,\ldots,k_2,\; j=1,\ldots,n_{i_1i_2}\,,$$ (8)

  
  
  wobei
  • $\theta_{i_1i_2}\in\mathbb{R}$ (unbekannte) Parameter sind,
  • die Störgrößen $\varepsilon _{i_1i_2j}:\Omega\to\mathbb{R}$ unkorreliert sind mit

    $${\mathbb{E}\,}\varepsilon _{i_1i_2j}=0\,,\qquad{\rm Var\,}\vareps... ...igma^2 \,,\qquad \forall\,i_1=1,\ldots,k_1,\;i_2=1,\ldots,k_2,\; j=1,\ldots,n_i$$ (9)

    
    

  • und die Varianz $\sigma^2>0$ ebenfalls ein unbekannter Modellparameter ist.

Beachte

 

• Die Darstellung (8) der Stichprobenvariablen $Y_{i_1i_2j}$ führt zu der gleichen Art eines linearen Modells, wie es in Fall 1 von Abschnitt 4.1.1 betrachtet wurde.
• Die Nummern $i_1=1,\ldots,k_1$ bzw. $i_2=1,\ldots,k_2$ der Klassen $(Y_{i_1i_2j},\, j=1,\ldots,n_{i_1i_2})$ werden erneut als Stufen des jeweiligen Einflußfaktors gedeutet.
• Die Designmatrix ${\mathbf{X}}$ hat dabei die Dimension $n\times(k_1\cdot k_2)$ und den vollen Spaltenrang $k_1\cdot k_2$.

Wir betrachten eine ähnliche Reparametrisierung der Erwartungswerte $\theta_{i_1i_2}$ wie in Abschnitt 4.1.1.

• Dabei betrachten wir lediglich den sogenannten balancierten Fall, d.h., wir setzen zusätzlich voraus, daß sämtliche $k_1\cdot k_2$ Teilstichproben $(Y_{i_1i_2j},\, j=1,\ldots,n_{i_1i_2})$ identische Stichprobenumfänge besitzen.
• Es gelte also $n_{i_1i_2}=r$ für alle $i_1=1,\ldots,k_1$ und $i_2=1,\ldots,k_2$, wobei $r=n/(k_1k_2)$.

• Sei nun $\mu\in\mathbb{R}$, und für alle $i_1\in\{1,\ldots,k_1\}$ und $i_2\in\{1,\ldots,k_2\}$ seien $\alpha^{(1)}_{i_1}\in\mathbb{R}$, $\alpha^{(2)}_{i_2}\in\mathbb{R}$ und $\alpha_{i_1i_2}\in\mathbb{R}$ reelle Zahlen, so daß

  $$\theta_{i_1i_2}=\mu+\alpha^{(1)}_{i_1}+\alpha^{(2)}_{i_2}+\alpha_{i_1i_2} \,,\qquad\forall\,i_1=1,\ldots,k_1,\; i_2=1,\ldots,k_2$$ (10)

  
  
  und

  $$\sum\limits_{i_1=1}^{k_1} \alpha^{(1)}_{i_1}=\sum\limits_{i_2=1}^... ...ts_{i_1=1}^{k_1}\alpha_{i_1i_2}= \sum\limits_{i_2=1}^{k_2}\alpha_{i_1i_2} =0\,.$$ (11)

  
  

• Dann läßt sich die Zufallsstichprobe ${\mathbf{Y}}$ in der Form ${\mathbf{Y}}={\mathbf{X}}{\boldsymbol{\beta}}+{\boldsymbol{\varepsilon }}$ darstellen, wobei
  • die Designmatrix ${\mathbf{X}}$ gegeben ist durch eine Matrix der Dimension $n\times(1+k_1+k_2+k_1k_2)$, deren Eintragungen nur aus Nullen und Einsen bestehen und die keinen vollen Rang hat, und wobei
  • der Parametervektor ${\boldsymbol {\beta }}$ die folgende Form hat:
    $${\boldsymbol{\beta}}=\bigl(\mu,\alpha^{(1)}_1,\ldots, \alpha^{(1... ...,\ldots, \alpha^{(2)}_{k_2},\alpha_{11},\ldots,\alpha_{k_1k_2}\bigr)^\top\,.$$

Beachte

 

• Die linearen Nebenbedingungen (11) an die Komponenten des Parametervektors ${\boldsymbol {\beta }}$ bewirken, ähnlich wie bei dem in Abschnitt 4.1.1 betrachteten Modell der einfaktoriellen Varianzanalyse, daß die Darstellung (10) - (11) der Erwartungswerte $\theta_{11},\ldots,\theta_{k_1k_2}$ eindeutig ist, vgl. Übungsaufgabe 10.1b.
• Dabei kann
  • $\mu$ als allgemeines Mittel der Erwartungswerte ${\mathbb{E}\,} Y_{i_1i_2j}$ der Stichprobenvariablen $Y_{i_1i_2j}$ aufgefaßt werden,
  • $\alpha^{(1)}_{i_1}$ wird Haupteffekt der $i_1$-ten Stufe des ersten Einflußfaktors genannt,
  • $\alpha^{(2)}_{i_2}$ heißt Haupteffekt der $i_2$-ten Stufe des zweiten Einflußfaktors, und
  • $\alpha_{i_1i_2}$ heißt Wechselwirkung zwischen den Stufen $i_1$ und $i_2$ der Stufenkombination $(i_1,i_2)$.

Zur Konstruktion von Schätzern für die Modellparameter $\mu$, $\alpha^{(1)}_{i_1}$, $\alpha^{(2)}_{i_2}$ bzw. $\alpha_{i_1i_2}$ verwenden wir, ähnlich wie in Abschnitt 2.2, die folgende Notation: Sei

$$Y_{i_1\cdot\cdot}=\sum\limits_{i_2=1}^{k_2}\sum\limits_{j=1}^r Y_... ...s_{j=1}^r Y_{i_1i_2j}\,,\qquad Y_{i_1 i_2\cdot}=\sum\limits_{j=1}^r Y_{i_1i_2j}$$ (12)

bzw.

$$\overline Y_{i_1\cdot\cdot}=\frac{1}{rk_2}\; Y_{i_1\cdot\cdot}\,,... ...imits_{i_1=1}^{k_1} \sum\limits_{i_2=1}^{k_2}\sum\limits_{j=1}^r Y_{i_1i_2j}\,.$$ (13)

Theorem 4.1   $\;$ Es gilt

$${\mathbb{E}\,}\overline Y_{\cdot\cdot\cdot}=\mu\,,\quad{\mathbb{E... ...\overline Y_{i_1\cdot\cdot}-\overline Y_{\cdot\,i_2\cdot}\bigr)=\alpha_{i_1i_2}$$ (14)

für beliebige $i_1=1,\ldots,k_1$, $i_2=1,\ldots,k_2$, d.h., durch $\overline Y_{\cdot\cdot\cdot}$, $\overline Y_{i_1\cdot\cdot}- \overline Y_{\cdot\cdot\cdot}$, $\overline Y_{\cdot\,i_2\cdot}- \overline Y_{\cdot\cdot\cdot}$ und $\overline Y_{\cdot\cdot\cdot}+\overline Y_{i_1i_2\cdot}-\overline Y_{i_1\cdot\cdot}-\overline Y_{\cdot\,i_2\cdot}$ sind erwartungstreue Schätzer für die Modellparameter $\mu$, $\alpha^{(1)}_{i_1}$, $\alpha^{(2)}_{i_2}$ bzw. $\alpha_{i_1i_2}$ gegeben .

Beweis

 

• Aus der Definitionsgleichung von $\overline Y_{\cdot\cdot\cdot}$ in (13) ergibt sich, daß
  

  $${\mathbb{E}\,}\overline Y_{\cdot\cdot\cdot} = \frac{1}{rk_1k_2}\;\sum\limits_{i_1=1}^{k_1} \sum\limits_{i_2=1}^{k_2}\sum\limits_{j=1}^r {\mathbb{E}\,}Y_{i_1i_2j}$$

  $$= \frac{1}{k_1k_2}\;\sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2} \theta_{i_1i_2}$$

  $$= \mu + \frac{1}{k_1k_2}\;\sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2}\bigl( \alpha^{(1)}_{i_1}+\alpha^{(2)}_{i_2}+\alpha_{i_1i_2}\bigr)=\mu\,.$$

  
  
  wobei sich die letzte Gleichheit aus den Reparametrisierungsbedingungen (11) ergibt.
• Die anderen drei Teilaussagen in (14) lassen sich auf analoge Weise beweisen.
  
  $\Box$

Beachte

 

• Die Bedingungen (11), d.h. die Annahme, daß der Parametervektor ${\boldsymbol {\beta }}$ zu einem linearen Unterraum des $\mathbb{R}^{1+k_1+k_2+k_1k_2}$ gehört, spielen eine zentrale Rolle im Beweis von Theorem 4.1.
• Dabei werden die Aussagen von Theorem 4.1 als Erwartungstreue der betrachteten Schätzer bezüglich dieses eingeschränkten Parameterraumes interpretiert.
• Falls jedoch zugelassen wird, daß ${\boldsymbol {\beta }}$ ein beliebiger Vektor der Dimension $n\times(1+k_1+k_2+k_1k_2)$ ist, dann gibt es keinen MKQ-Schätzer für ${\boldsymbol {\beta }}$, der gleichzeitig erwartungstreu ist, vgl. Abschnitt 4.2.1.

Wir diskutieren nun noch die folgende Quadratsummenzerlegung, vgl. auch Theorem 2.13, wo ein ähnliches Resultat für das einfaktorielle Varianzanalyse-Modell hergeleitet wurde.

Theorem 4.2   $\;$ Es gilt

$$\sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2} \sum\limits_{j=1}^r\bigl(Y_{i_1i_2j}- \overline Y_{\cdot\cdot\cdot}\bigr)^2 = rk_2 \sum\limits_{i_1=1}^{k_1} \bigl(\overline Y_{i_1\cdot\cdot}-... ...1}^{k_2}\sum\limits_{j=1}^r \bigl(Y_{i_1i_2j}-\overline Y_{i_1i_2\cdot}\bigr)^2$$

$$+ \;r \sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2} \bigl(\o... ...t\cdot}-\overline Y_{\cdot\, i_2\cdot}+\overline Y_{\cdot\cdot\cdot}\bigr)^2\,.$$ (15)

Beweis

$\;$ Mit der in (12) bzw. (13) eingeführten Notation gilt

$${ \sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2} \sum\limits_{j=1}^r\Bigl(Y_{i_1i_2j}- \overline Y_{\cdot\cdot\cdot}\Bigr)^2}$$

$$= \sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2}\sum\limits_{j=... ...ot}-\overline Y_{\cdot\, i_2\cdot}+\overline Y_{\cdot\cdot\cdot}\bigr) \Bigr)^2$$

$$= \sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2}\sum\limits_{j=... ...1}^{k_2}\sum\limits_{j=1}^r \Bigl(Y_{i_1i_2j}-\overline Y_{i_1i_2\cdot}\Bigr)^2$$

$$+ \sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2}\sum\limits_{... ...dot}-\overline Y_{\cdot\, i_2\cdot}+\overline Y_{\cdot\cdot\cdot}\Bigr)^2 +R\,,$$

wobei genauso wie im Beweis von Theorem 2.13 gezeigt werden kann, daß die Summe $R$ der gemischten Produkte gleich Null ist.

$\Box$

Beachte

 

• Die Quadratsumme auf der linken Seite von (15) kann als eine Maßzahl für die (Gesamt-) Variabilität der Stichprobenvariablen $\{Y_{i_1i_2j},\, i_1=1,\ldots,k_1,\,i_1=2,\ldots,k_2,\, j=1,\ldots,r\}$ aufgefaßt werden.
• Die ersten beiden Qúadratsummen auf der rechten Seite von (15) sind Maßzahlen für die Variabilität zwischen den Stufen des ersten bzw. zweiten Einflußfaktors, während die dritte Quadratsumme auf der rechten Seite von (15) eine Maßzahl für die Variabilität innerhalb der Stufenpaare $(i_1,i_2)$ der beiden Einflußfaktoren ist, die sogenannte Reststreuung.
• Die vierte Quadratsumme auf der rechten Seite von (15) ist eine Maßzahl für die Wechselwirkungen zwischen den Komponenten der Stufenpaare $(i_1,i_2)$ der beiden Einflußfaktoren.
• Mit ähnlichen Überlegungen wie im Beweis von Theorem 4.1 kann man zeigen, daß eine geeignet normierte Version der Reststreuung ein erwartungstreuer Schätzer der Varianz $\sigma ^2$ der Störgrößen ist.
• Und zwar gilt

  $${\mathbb{E}\,}S^2=\sigma^2\,,$$ (16)

  
  
  wobei
  $$S^2=\frac{1}{k_1k_2(r-1)}\;\sum\limits_{i_1=1}^{k_1} \sum\limits... ...2}\sum\limits_{j=1}^r\Bigl( Y_{i_1i_2j}-\overline Y_{i_1i_2\cdot}\Bigr)^2\,.$$