Zweifaktorielle Varianzanalyse

• Wir modifizieren nun das in Abschnitt 3.1.1 eingeführte Modell der einfaktoriellen Varianzanalyse und nehmen an, dass die Zielvariablen $Y_1,\ldots,Y_n$ von zwei Einflussfaktoren abhängen.
• Dabei zerlegen wir die Zufallsstichprobe ${\mathbf{Y}}=(Y_1,\ldots,Y_n)^\top$ in $k_1\cdot k_2$ Teilstichproben $(Y_{i_1i_2j}, j=1,\ldots,n_{i_1i_2})$, wobei $n_{i_1i_2}>1$ für alle $i_1=1,\ldots,k_1$ bzw. $i_2=1,\ldots,k_2$ und
  $$\sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2} n_{i_1i_2}=n ,$$

• Wir nehmen an, dass die Stichprobenvariablen, die zu einundderselben Klasse gehören, jeweils den gleichen Erwartungswert $\theta_{i_1i_2}$ haben.
• Mit anderen Worten: Wir nehmen an, dass

  $$Y_{i_1i_2j}=\theta_{i_1i_2}+\varepsilon _{i_1i_2j} ,\qquad \forall i_1=1,\ldots,k_1,\;i_2=1,\ldots,k_2,\; j=1,\ldots,n_{i_1i_2} ,$$ (15)

  
  
  wobei $\theta_{i_1i_2}\in\mathbb{R}$ (unbekannte) Parameter und die Störgrößen $\varepsilon _{i_1i_2j}:\Omega\to\mathbb{R}$ unkorreliert sind mit

  $${\mathbb{E} }\varepsilon _{i_1i_2j}=0 ,\qquad{\rm Var }\vareps... ...\qquad \forall i_1=1,\ldots,k_1,\;i_2=1,\ldots,k_2,\; j=1,\ldots,n_{i_1i_2} .$$ (16)

  
  

Beachte

 

• Die Darstellung (15) der Stichprobenvariablen $Y_{i_1i_2j}$ führt zu der gleichen Art eines linearen Modells, wie es in Fall 1 von Abschnitt 3.1.2 betrachtet wurde.
• Die Nummern $i_1=1,\ldots,k_1$ bzw. $i_2=1,\ldots,k_2$ der Klassen $(Y_{i_1i_2j}, j=1,\ldots,n_{i_1i_2})$ werden erneut als Stufen des jeweiligen Einflussfaktors gedeutet.
• Die Designmatrix ${\mathbf{X}}$ hat dabei die Dimension $n\times(k_1\cdot k_2)$ und den vollen Spaltenrang $k_1\cdot k_2$.

Außerdem betrachten wir eine ähnliche Reparametrisierung der Erwartungswerte $\theta_{i_1i_2}$ wie in Abschnitt 3.1.2.

• Dabei diskutieren wir hier lediglich den so genannten balancierten Fall, d.h.,
  • wir setzen zusätzlich voraus, dass sämtliche $k_1\cdot k_2$ Teilstichproben $(Y_{i_1i_2j}, j=1,\ldots,n_{i_1i_2})$ identische Stichprobenumfänge besitzen.
  • Es gelte also $n_{i_1i_2}=r$ für alle $i_1=1,\ldots,k_1$ und $i_2=1,\ldots,k_2$, wobei $r=n/(k_1k_2)$.
• Sei $\mu\in\mathbb{R}$, und für alle $i_1\in\{1,\ldots,k_1\}$ und $i_2\in\{1,\ldots,k_2\}$ seien $\alpha^{(1)}_{i_1}\in\mathbb{R}$, $\alpha^{(2)}_{i_2}\in\mathbb{R}$ und $\alpha_{i_1i_2}\in\mathbb{R}$ reelle Zahlen, so dass

  $$\theta_{i_1i_2}=\mu+\alpha^{(1)}_{i_1}+\alpha^{(2)}_{i_2}+\alpha_{i_1i_2} ,\qquad\forall i_1=1,\ldots,k_1,\; i_2=1,\ldots,k_2$$ (17)

  
  
  und

  $$\sum\limits_{i_1=1}^{k_1} \alpha^{(1)}_{i_1}=\sum\limits_{i_2=1}^... ...ts_{i_1=1}^{k_1}\alpha_{i_1i_2}= \sum\limits_{i_2=1}^{k_2}\alpha_{i_1i_2} =0 .$$ (18)

  
  

• Dann lässt sich die Zufallsstichprobe ${\mathbf{Y}}$ in der Form ${\mathbf{Y}}={\mathbf{X}}{\boldsymbol{\beta}}+{\boldsymbol{\varepsilon }}$ darstellen, wobei
  • die Designmatrix ${\mathbf{X}}$ gegeben ist durch eine Matrix der Dimension $n\times(1+k_1+k_2+k_1k_2)$, deren Eintragungen nur aus Nullen und Einsen bestehen und die keinen vollen Rang hat.
  • Der Parametervektor ${\boldsymbol {\beta }}$ hat somit die folgende Form:
    $${\boldsymbol{\beta}}=\bigl(\mu,\alpha^{(1)}_1,\ldots, \alpha^{(1)... ..._1,\ldots, \alpha^{(2)}_{k_2},\alpha_{11},\ldots,\alpha_{k_1k_2}\bigr)^\top .$$

Beachte

 

• Die linearen Nebenbedingungen (18) an die Komponenten des Parametervektors ${\boldsymbol {\beta }}$ bewirken, ähnlich wie bei dem in Abschnitt 3.1.2 betrachteten Modell der einfaktoriellen Varianzanalyse, dass die Darstellung (17) - (18) der Erwartungswerte $\theta_{11},\ldots,\theta_{k_1k_2}$ eindeutig ist.
• Dabei kann
  • $\mu$ als allgemeines Mittel der Erwartungswerte ${\mathbb{E} } Y_{i_1i_2j}$ der Stichprobenvariablen $Y_{i_1i_2j}$ aufgefasst werden,
  • $\alpha^{(1)}_{i_1}$ wird Haupteffekt der $i_1$-ten Stufe des ersten Einflussfaktors genannt,
  • $\alpha^{(2)}_{i_2}$ heißt Haupteffekt der $i_2$-ten Stufe des zweiten Einflussfaktors, und
  • $\alpha_{i_1i_2}$ heißt Wechselwirkung zwischen den Stufen $i_1$ und $i_2$ der Stufenkombination $(i_1,i_2)$.

Zur Konstruktion von Schätzern für die Modellparameter $\mu$, $\alpha^{(1)}_{i_1}$, $\alpha^{(2)}_{i_2}$ bzw. $\alpha_{i_1i_2}$ verwenden wir die folgende Notation: Sei

$$Y_{i_1\cdot\cdot}=\sum\limits_{i_2=1}^{k_2}\sum\limits_{j=1}^r Y_... ...s_{j=1}^r Y_{i_1i_2j} ,\qquad Y_{i_1 i_2\cdot}=\sum\limits_{j=1}^r Y_{i_1i_2j}$$ (19)

bzw.

$$\overline Y_{i_1\cdot\cdot}=\frac{1}{rk_2}\; Y_{i_1\cdot\cdot} ,... ...imits_{i_1=1}^{k_1} \sum\limits_{i_2=1}^{k_2}\sum\limits_{j=1}^r Y_{i_1i_2j} .$$ (20)

Theorem 3.3   $\;$ Es gilt

$${\mathbb{E} }\overline Y_{\cdot\cdot\cdot}=\mu ,\quad{\mathbb{E... ...\overline Y_{i_1\cdot\cdot}-\overline Y_{\cdot i_2\cdot}\bigr)=\alpha_{i_1i_2}$$ (21)

für beliebige $i_1=1,\ldots,k_1$, $i_2=1,\ldots,k_2$, d.h., durch $\overline Y_{\cdot\cdot\cdot}$, $\overline Y_{i_1\cdot\cdot}- \overline Y_{\cdot\cdot\cdot}$, $\overline Y_{\cdot i_2\cdot}- \overline Y_{\cdot\cdot\cdot}$ und $\overline Y_{\cdot\cdot\cdot}+\overline Y_{i_1i_2\cdot}-\overline Y_{i_1\cdot\cdot}-\overline Y_{\cdot i_2\cdot}$ sind erwartungstreue Schätzer für die Modellparameter $\mu$, $\alpha^{(1)}_{i_1}$, $\alpha^{(2)}_{i_2}$ bzw. $\alpha_{i_1i_2}$ gegeben .

Beweis

$\;$ Aus der Definitionsgleichung von $\overline Y_{\cdot\cdot\cdot}$ in (20) ergibt sich, dass

$${\mathbb{E} }\overline Y_{\cdot\cdot\cdot} = \frac{1}{rk_1k_2}\;\sum\limits_{i_1=1}^{k_1} \sum\limits_{i_2=1}^... ...{1}{k_1k_2}\;\sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2} \theta_{i_1i_2}$$

$$= \mu + \frac{1}{k_1k_2}\;\sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2}\bigl( \alpha^{(1)}_{i_1}+\alpha^{(2)}_{i_2}+\alpha_{i_1i_2}\bigr)=\mu ,$$

wobei sich die letzte Gleichheit aus den Reparametrisierungsbedingungen (18) ergibt. Die anderen drei Teilaussagen in (21) lassen sich auf analoge Weise beweisen.

$\Box$

Beachte

 

• Die Bedingungen (18), d.h. die Annahme, dass der Parametervektor ${\boldsymbol {\beta }}$ zu einem linearen Unterraum des $\mathbb{R}^{1+k_1+k_2+k_1k_2}$ gehört, spielen eine wesentliche Rolle im Beweis von Theorem 3.3.
• Dabei können die Aussagen von Theorem 3.3 als Erwartungstreue der betrachteten Schätzer bezüglich dieses eingeschränkten Parameterraumes interpretiert werden.
• Wenn jedoch zugelassen wird, dass ${\boldsymbol {\beta }}$ ein beliebiger Vektor der Dimension $1+k_1+k_2+k_1k_2$ ist, dann gibt es keinen KQ-Schätzer für ${\boldsymbol {\beta }}$, der gleichzeitig erwartungstreu ist, vgl. die Diskussion am Ende von Abschnitt 3.2.1.

Das folgende Resultat enthält eine Quadratsummenzerlegung, vgl. auch die Theoreme 2.9 und 3.1.

Theorem 3.4   $\;$ Es gilt

$$\sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2} \sum\limits_{j=1}^r\bigl(Y_{i_1i_2j}- \overline Y_{\cdot\cdot\cdot}\bigr)^2 = rk_2 \sum\limits_{i_1=1}^{k_1} \bigl(\overline Y_{i_1\cdot\cdot}-... ...1}^{k_2}\sum\limits_{j=1}^r \bigl(Y_{i_1i_2j}-\overline Y_{i_1i_2\cdot}\bigr)^2$$

$$+ \;r \sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2} \bigl(\o... ...t\cdot}-\overline Y_{\cdot i_2\cdot}+\overline Y_{\cdot\cdot\cdot}\bigr)^2 .$$ (22)

Beweis

$\;$ Mit der in (19) bzw. (20) eingeführten Notation gilt

$${ \sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2} \sum\limits_{j=1}^r\Bigl(Y_{i_1i_2j}- \overline Y_{\cdot\cdot\cdot}\Bigr)^2}$$

$$= \sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2}\sum\limits_{j=... ...ot}-\overline Y_{\cdot i_2\cdot}+\overline Y_{\cdot\cdot\cdot}\bigr) \Bigr)^2$$

$$= \sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2}\sum\limits_{j=... ...1}^{k_2}\sum\limits_{j=1}^r \Bigl(Y_{i_1i_2j}-\overline Y_{i_1i_2\cdot}\Bigr)^2$$

$$+ \sum\limits_{i_1=1}^{k_1}\sum\limits_{i_2=1}^{k_2}\sum\limits_{... ...dot}-\overline Y_{\cdot i_2\cdot}+\overline Y_{\cdot\cdot\cdot}\Bigr)^2 +R ,$$

wobei ähnlich wie im Beweis von Theorem 3.1 gezeigt werden kann, dass die Summe $R$ der gemischten Produkte gleich Null ist.

$\Box$

Beachte

 

• Die Quadratsumme auf der linken Seite von (22) kann als eine Maßzahl für die (Gesamt-) Variabilität der Stichprobenvariablen $\{Y_{i_1i_2j}, i_1=1,\ldots,k_1, i_2=1,\ldots,k_2, j=1,\ldots,r\}$ aufgefasst werden.
• Die ersten beiden Quadratsummen auf der rechten Seite von (22) sind Maßzahlen für die Variabilität zwischen den Stufen des ersten bzw. zweiten Einflussfaktors, während die dritte Quadratsumme auf der rechten Seite von (22) eine Maßzahl für die Variabilität innerhalb der Stufenpaare $(i_1,i_2)$ der beiden Einflussfaktoren ist, die so genannte Reststreuung.
• Die vierte Quadratsumme auf der rechten Seite von (22) ist eine Maßzahl für die Wechselwirkungen zwischen den Komponenten der Stufenpaare $(i_1,i_2)$ der beiden Einflussfaktoren.
• Mit ähnlichen Überlegungen wie im Beweis von Theorem 2.5 kann man zeigen, dass eine geeignet normierte Version der Reststreuung ein erwartungstreuer Schätzer der Varianz $\sigma ^2$ der Störgrößen ist.
• Und zwar gilt ${\mathbb{E} }S^2=\sigma^2$, wobei
  $$S^2=\frac{1}{k_1k_2(r-1)}\;\sum\limits_{i_1=1}^{k_1} \sum\limits_... ...k_2}\sum\limits_{j=1}^r\Bigl( Y_{i_1i_2j}-\overline Y_{i_1i_2\cdot}\Bigr)^2 .$$