Beispiele: Tests auf Poisson-Verteilung bzw. Normalverteilung

$\chi ^2$-Anpassungstest auf Poisson-Verteilung

 

• Mit Hilfe von Theorem 5.3 soll durch die Beobachtung der (unabhängigen und identisch verteilten) Zufallsvariablen $X_1,\ldots,X_n$ zunächst geprüft werden, ob die Verteilung $P$ von $X_i$ zur Familie der Poisson-Verteilungen gehört.
• Sei also $\Theta=(0,\infty)$ mit ${\boldsymbol{\theta}}=\lambda$, und sei $\{P_{\boldsymbol{\theta}},\,{\boldsymbol{\theta}}\in\Theta\}=\{\,{\rm Poi}(\lambda),\,\lambda>0\}$ die Familie der Poisson-Verteilungen.
• Wir betrachten die folgenden $r$ Klassen $\{0\},\{1\},\ldots,\{r-2\}$ und $\{r-1,r,r+1,\ldots\}$, d.h.
  $$(a_1,b_1]=(-\infty,0],\quad(a_2,b_2]=(0,1],\quad\ldots \quad(a_{r-1},b_{r-1}=(r-3,r-2],\quad(a_r,b_r]=(r-2,\infty)\,.$$

• Die Wahrscheinlichkeiten $p_j(\lambda)=\mathbb{P}_\lambda(a_j<X_1\le b_j)$ sind dann gegeben durch

  $$p_j(\lambda)=\frac{\lambda^{j-1}}{(j-1)!}\;e^{-\lambda}\quad\forall\, j=1,\ldots,r-1 \qquad p_r(\lambda)=\sum\limits_{i=r}^\infty\frac{\lambda^{i-1}}{(i-1)!}\;e^{-\lambda}$$ (47)

  
  

• Gemäß (33) genügt jeder Maximum-Likelihood-Schätzer $\widehat\lambda$ für $\lambda$, der aus den gruppierten Daten gewonnen wird, der Gleichung

  $$\sum\limits_{j=1}^r Z_j(x_1,\ldots,x_n)\;\frac{\displaystyle\frac{d}{d\lambda}\; p_j(\lambda)}{p_j(\lambda)}=0\,.$$ (48)

  
  

• Dabei ergibt sich aus (47), daß
  $$\frac{\displaystyle \frac{d}{d\lambda}\; p_j(\lambda)}{p_j(\lamb... ...!}}{\displaystyle \sum\limits_{i=r}^\infty\frac{\lambda^{i-1}}{(i-1)!}} \,.$$

• Hieraus und aus (48) folgt, daß der ML-Schätzer $\widehat\lambda$ der folgenden Gleichung genügt:
  $$\sum\limits_{j=1}^{r-1} Z_j(x_1,\ldots,x_n)\;\Bigl(\frac{j-1}{\l... ...}{\displaystyle \sum\limits_{i=r}^\infty\frac{\lambda^{i-1}}{(i-1)!}}\;=0\,.$$

• Für jedes $n$ gibt es ein $r_0=r_0(n)\in\mathbb{N}$, so daß $Z_r(x_1,\ldots,x_n)=0$ für jedes $r>r_0$. Hieraus folgt, daß für $r\to\infty$
  $$\widehat\lambda_n=\widehat\lambda(x_1,\ldots,x_n)\to\overline x_n=\frac{1}{n}\;\sum\limits_{i=1}^n x_i\,.$$

• Bei einer hinreichend großen Anzahl $r$ von Klassen $\{0\},\,\{1\},\,\ldots,\,\{r-2\},\,\{r-1,r,r+1,\ldots\}$ bildet also das Stichprobenmittel $\overline x_n$, das eine ML-Schätzung für $\lambda$ im ungruppierten Poisson-Modell ist, eine gute Näherung für die ML-Schätzung $\widehat\lambda_n$ für $\lambda$ im gruppierten Poisson-Modell.
• Die Nullhypothese $H_0: P\in\{\,{\rm Poi}(\lambda),\,\lambda>0\}$ wird abgelehnt, falls
  $$\widehat T_n(x_1,\ldots,x_n)=\sum\limits _{j=1}^r\;\frac{\bigl(Z... ...\ldots,x_n)\bigr)^2}{n \widehat p_j(x_1,\ldots,x_n)} >\chi^2_{r-2,\gamma}\,,$$
  wobei $\widehat p_j(x_1,\ldots,x_n)=p_j(\overline x_n)$ mit der in (47)) gegebenen Funktion $p_j:(0,\infty)\to[0,1]$ und der Schätzung $\overline x_n$ für $\lambda$.

$\chi ^2$-Anpassungstest auf Normalverteilung

 

• Sei nun $\Theta=\mathbb{R}\times (0,\infty)$ mit ${\boldsymbol{\theta}}=(\mu,\sigma^2)^\top$, und sei $\{P_{\boldsymbol{\theta}},\,{\boldsymbol{\theta}}\in\Theta\}=\{\,{\rm N}(\mu,\sigma^2),\,\mu\in\mathbb{R},\sigma^2>0\}$ die Familie der (eindimensionalen) Normalverteilungen.
• Die Wahrscheinlichkeiten $p_j({\boldsymbol{\theta}})=\mathbb{P}_{\boldsymbol{\theta}}(a_j<X_1\le b_j)$ sind dann gegeben durch

  $$p_j({\boldsymbol{\theta}})=\int\limits_{a_j}^{b_j}f(x;{\boldsymbol{\theta}})\,dx\,, \mbox{wobei $\displaystyle f(x;{\boldsymbol{\theta}})=\frac{1}{\sigma\sqrt{2\pi}}\; \exp\Bigl(-\,\frac{(x-\mu)^2}{2\sigma^2}\,\Bigr)$.}$$ (49)

  
  

• Gemäß (33) genügt jeder Maximum-Likelihood-Schätzer $\widehat{\boldsymbol{\theta}}=(\widehat\mu,\widehat\sigma^2)^\top$ für ${\boldsymbol{\theta}}=(\mu,\sigma^2)^\top$, der aus den gruppierten Daten gewonnen wird, dem Gleichungssystem

  $$\sum\limits_{j=1}^r Z_j(x_1,\ldots,x_n)\;\frac{\int\limits_{a_j}^... ...dsymbol{\theta}})\,dx}{\int\limits_{a_j}^{b_j}f(x;{\boldsymbol{\theta}})\,dx}=0 \mbox{für $i=1,2$.}$$ (50)

  
  

• Dabei ergibt sich aus (49), daß
  $$\frac{\partial}{\partial\mu} f(x;{\boldsymbol{\theta}})=\frac{x-\mu}{\sigma^2}\;f(x;{\boldsymbol{\theta}})$$   bzw.$$\qquad \frac{\partial}{\partial\sigma^2} f(x;{\boldsymbol{\thet... ...symbol{\theta}})\Bigl((\sigma^2)^{-3/2}+ (\sigma^2)^{-5/2}(x-\mu)^2\Bigr)\,.$$

• Hieraus und aus (50) folgt, daß der ML-Schätzer $\widehat{\boldsymbol{\theta}}=(\widehat\mu,\widehat\sigma^2)^\top$ dem folgenden Gleichungssystem genügt:
  $$\sum\limits_{j=1}^r Z_j(x_1,\ldots,x_n)\;\frac{\int\limits_{a_j}... ...dx}{\int\limits_{a_j}^{b_j}f(x;{\boldsymbol{\theta}})\,dx}\; -n\sigma^2=0\,.$$

• Die erste Gleichung dieses Gleichungssystems ist äquivalent mit
  $$\sum\limits_{j=1}^r Z_j(x_1,\ldots,x_n)\;\frac{\int\limits_{a_j}... ...\boldsymbol{\theta}})\,dx}\;-\mu\sum\limits_{j=1}^r Z_j(x_1,\ldots,x_n)=0\,.$$

• Der ML-Schätzer $\widehat{\boldsymbol{\theta}}=(\widehat\mu,\widehat\sigma^2)^\top$ genügt deshalb dem Gleichungssystem
  $$\widehat\mu=\frac{1}{n}\;\sum\limits_{j=1}^r Z_j(x_1,\ldots,x_n)... ...ma^2)\,dx}{\int\limits_{a_j}^{b_j} f(x;\widehat\mu,\widehat\sigma^2)\,dx}\,,$$
  das sich bei einer hinreichend großen Anzahl $r$ von Klassen $(a_1,b_1],\ldots,(a_r,b_r]$ wie folgt näherungsweise lösen läßt:

  $$\widehat\mu\approx \frac{1}{n}\;\sum\limits_{j=1}^r c_jZ_j(x_1,\l... ...rox \frac{1}{n}\;\sum\limits_{j=1}^r (c_j-\widehat\mu)^2 Z_j(x_1,\ldots,x_n)\,,$$ (51)

  
  
  wobei $c_1=b_1$, $c_r=b_{r-1}$ der rechte bzw. linke Endpunkt der ersten bzw. $r$-ten Klasse und $c_j=(b_{j-1}+b_j)/2$ die Klassenmittelpunkte für $j=2,\ldots,r-1$ sind.
• Die Nullhypothese $H_0: P\in\{\,{\rm N}(\mu,\sigma^2),\,\mu\in\mathbb{R},\sigma^2>0\}$ wird nun abgelehnt, falls
  $$T_n(x_1,\ldots,x_n)=\sum\limits _{j=1}^r\;\frac{\bigl(Z_j(x_1,\l... ...\ldots,x_n)\bigr)^2}{n \widehat p_j(x_1,\ldots,x_n)} >\chi^2_{r-3,\gamma}\,,$$
  wobei $\widehat p_j(x_1,\ldots,x_n)=p_j(\widehat\mu,\widehat\sigma^2)$ mit der in (49)) gegebenen Funktion $p_j:\mathbb{R}\times(0,\infty)\to[0,1]$ und der in (51) gegebenen Schätzung $(\widehat\mu,\widehat\sigma^2)$ für $(\mu,\sigma^2)$.

Beachte

 

• Die Näherungslösung (51) des Gleichungssystems (50) sollte nur dann verwendet werden, wenn die Anzahl $r$ der Klassen hinreichend groß ist.
• Dies setzt einen hinreichend großen Stichprobenumfang $n$ voraus.
• Mit anderen Worten: Falls der Stichprobenumfang $n$ klein ist, dann ist der $\chi ^2$-Anpassungstest auch aus diesem Grund nicht geeignet, um die Hypothese der Normalverteiltheit zu verifizieren.
• Ein alternativer Test auf Normalverteilung ist der folgende Shapiro-Wilk-Test, der auch bei kleinem Stichprobenumfang $n$ zu akzeptablen Ergebnissen führt.

Shapiro-Wilk-Test auf Normalverteilung

 

• Mit dem Shapiro-Wilk-Test können ebenfalls die Hypothesen
  $$H_0: P\in\{\,{\rm N}(\mu,\sigma^2),\,\mu\in\mathbb{R},\sigma^2>0\... ...qquad H_1: P\not\in\{\,{\rm N}(\mu,\sigma^2),\,\mu\in\mathbb{R},\sigma^2>0\}$$
  verifiziert werden.
• Hierfür werden die Ordnungsstatistiken $X_{(1)},\ldots,X_{(n)}$ der (unabhängigen und identisch verteilten) Zufallsvariablen $X_1,\ldots,X_n$ betrachtet, die bereits in Abschnitt I.1.4 eingeführt worden sind.
• Zur Erinnerung: Die Ordnungsstatistiken sind eine Klasse von Stichprobenfunktionen, die mit Hilfe der folgenden Abbildung $\varphi:\mathbb{R}^n\to\mathbb{R}^n$ definiert werden:

  $$(x_1,\ldots,x_n)\to(x_{(1)},\ldots,x_{(n)})=\varphi(x_1,\ldots,x_n)\,,$$ (52)

  
  
  wobei für jedes $i\in\{1,\ldots,n\}$

  $$x_{(i)}=\min\bigl\{x_j:\char93 \{k:x_k\le x_j\}\ge i\bigr\}\,.$$ (53)

  
  

• Dabei ist die in (52) und (53) gegebene Abbildung $\varphi:\mathbb{R}^n\to\mathbb{R}^n$ ist eine Permutation der Komponenten des Vektors $(x_1,\ldots,x_n)$, so daß
  $$x_{(1)}\le x_{(2)}\le\ldots\le x_{(n)}\,.$$

• Für jedes $\omega\in\Omega$ sei
  $$(X_{(1)}(\omega),\ldots,X_{(n)}(\omega))=\varphi\bigl(X_1(\omega),\ldots,X_n(\omega)\bigr)$$
  die in (52) und (53) gegebene (meßbare) Permutation von $(X_{1}(\omega),\ldots,X_{n}(\omega))$, so daß

  $$X_{(1)}(\omega)\le\ldots\le X_{(n)}(\omega)\,.$$ (54)

  
  

• Die auf diese Weise definierten Zufallsvariablen $X_{(1)},\ldots,X_{(n)}:\Omega\to\mathbb{R}$ heißen die Ordnungsstatistiken von $(X_1,\ldots,X_n)$.
• Als Teststatistik $\widetilde T(X_1,\ldots,X_n)$ wird dabei das Quadrat eines empirischen Korrelationskoeffizienten betrachtet, d.h.

  $$\widetilde T(X_1,\ldots,X_n)=\frac{\Bigl(\sum\limits_{i=1}^n\bigl... ...m\limits_{i=1}^n\bigl(X_{(i)}-\overline X_n\bigr)^2\sum\limits_{i=1}^n h_i^2}\;$$ (55)

  
  
  wobei der Vektor ${\mathbf{h}}=(h_1,\ldots,h_n)^\top$ folgendermaßen definiert wird.
• Die Motivation für die Wahl dieser Teststatistik ist die Tatsache, daß sich die Ordnungsstatistiken $X_{(1)},\ldots,X_{(n)}$ unter $H_0: P\in\{\,{\rm N}(\mu,\sigma^2),\,\mu\in\mathbb{R},\sigma^2>0\}$ wie folgt darstellen lassen
• Für jedes $i=1,\ldots,n$ gilt nämlich
  $$X_{(i)}=\mu+\sigma\alpha_i+\varepsilon _i\,,$$
  wobei $\alpha_i={\mathbb{E}\,}X_{(i)}$ der Erwartungswert der $i$-ten Ordnungsstatistik und ${\boldsymbol{\varepsilon }}=(\varepsilon _1,\ldots,\varepsilon _n)\sim\,{\rm N}({\mathbf{o}},\sigma^2{\mathbf{K}})$ ein normalverteilter Zufallsvektor ist, dessen Kovarianzmatrix $\sigma^2{\mathbf{K}}$ positiv definit (und damit invertierbar) ist.
• Dabei wird dann ${\mathbf{h}}^\top={\boldsymbol{\alpha}}^\top{\mathbf{K}}^{-1}$ gesetzt, wobei ${\boldsymbol{\alpha}}=(\alpha_1,\ldots,\alpha_n)^\top$.

Beachte

 

• Man kann zeigen, daß
  $$\overline {\mathbf{h}}=\frac{1}{n}\sum\limits_{i=1}^n h_i=0\,,$$
  d.h., die in (55) definierte Teststatistik $\widetilde T(X_1,\ldots,X_n)$ ist das Quadrat eines empirischen Korrelationskoeffizienten.
• Die Verteilung von $\widetilde T(X_1,\ldots,X_n)$ ist somit auf dem Intervall $[0,1]$ konzentriert. Sie läßt sich (näherungsweise) durch Simulation bestimmen.
• Die Nullhypothese $H_0: P\in\{\,{\rm N}(\mu,\sigma^2),\,\mu\in\mathbb{R},\sigma^2>0\}$ wird abgelehnt, falls $\widetilde T(X_1,\ldots,X_n)<q_{n,\gamma}$, wobei $q_{n,\gamma}$ das $\gamma$-Quantil der Verteilung von $\widetilde T(X_1,\ldots,X_n)$ bezeichnet.