Verteilung von Stichprobenmittel und Stichprobenvarianz

• Wir bestimmen nun die (gemeinsame) Verteilung des Stichprobenmittels $\overline X_n$ und der Stichprobenvarianz $S_n^2$ bei normalverteilten Stichprobenvariablen $X_1,\ldots,X_n$.
• Zunächst zeigen wir, dass $\overline X_n$ und $S_n^2$ unabhängig sind.

Theorem 1.10   Sei $(X_1,\ldots,X_n)$ eine normalverteilte Zufallsstichprobe mit $X_i\sim$ N $(\mu,\sigma^2)$. Dann sind $\overline X_n$ und $S_n^2$ unabhängige Zufallsvariablen.

Beweis

 

• Zur Erinnerung: Mit der Schreibweise $X_i^\prime = X_i-\mu$ gilt

  $$\overline X_n=\frac{1}{n}\sum\limits_{i=1}^nX_i^\prime+\mu \qquad S_n^2=\frac{1}{n-1}\sum\limits_{i=1}^n (X_i^\prime-\overline{X_n^\prime})^2\,.$$ (34)

  
  

• Wegen Theorem 1.8 können (und werden) wir deshalb o.B.d.A. voraussetzen, dass $\mu=0$ und $\sigma^2=1$, d.h. $X_i\sim$ N$(0,1)$.
• Um die Unabhängigkeit von $\overline X_n$ und $S_n^2$ zu zeigen, nutzen wir die Tatsache, dass sich die Stichprobenvarianz $S_n^2$ wie folgt darstellen lässt:
  

  $$S_n^2 = \frac{1}{n-1}\Bigl((X_1-\overline X_n)^2+\sum\limits_{i=2}^n (X_i-\overline X_n)^2\Bigr)$$

  $$= \frac{1}{n-1}\Bigl(\Bigl(\sum\limits_{i=2}^n (X_i-\overline X_n)\Bigr)^2+\sum\limits_{i=2}^n (X_i-\overline X_n)^2\Bigr)\,,$$

  
  
  wobei sich die letzte Gleichheit aus der Identität $\sum_{i=1}^n (X_i-\overline X_n)=0$ ergibt.
• Die Stichprobenvarianz $S_n^2$ ist also eine Funktion des Zufallsvektors $\bigl(X_2-\overline X_n,\ldots,X_n-\overline X_n\bigr)$, d.h., es gilt

  $$S_n^2=\varphi\bigl(X_2-\overline X_n,\ldots,X_n-\overline X_n\bigr)\,,$$ (35)

  
  
  wobei

  $$\varphi(x_2,\ldots,x_n)=\frac{1}{n-1}\Bigl(\Bigl(\sum\limits_{i=2}^n x_i\Bigr)^2+\sum\limits_{i=2}^n x_i^2\Bigr)\,.$$ (36)

  
  

• Wir zeigen nun zunächst, dass der Zufallsvektor $\bigl(X_2-\overline X_n,\ldots,X_n-\overline X_n\bigr)$ unabhängig von $\overline X_n$ ist.
• Wegen der Unabhängigkeit und N$(0,1)$-Verteiltheit der Stichprobenvariablen $X_1,\ldots,X_n$ ist die (gemeinsame) Dichte $f_X(x_1,\ldots,x_n)$ des Zufallsvektors $X=(X_1,\ldots,X_n)$ gegeben durch
  $$f_X(x_1,\ldots,x_n)=\frac{1}{(2\pi)^{n/2}}\;\exp\Bigl(-\frac{1}{2... ...m\limits_{i=1}^n x_i^2\Bigr)\,,\qquad\forall (x_1,\ldots,x_n)\mathbb{R}^n\,.$$

• Wir betrachten die lineare Abbildung $\varphi:\mathbb{R}^n\to\mathbb{R}^n$ mit
  $$\varphi_1(x)=\overline x_n\,,\quad \varphi_2(x)=x_2-\overline x_n\,,\quad\ldots,\quad\varphi_n(x)=x_n-\overline x_n\,.$$

• Für die Umkehrabbildung $\varphi^{-1}:\mathbb{R}^n\to\mathbb{R}^n$ gilt dann für jedes $y=(y_1,\ldots,y_n)\in \mathbb{R}^n$
  $$\varphi^{-1}_1(y)=y_1-\sum\limits_{i=2}^n y_i\,,\quad \varphi^{-1}_2(y)=y_1+y_2\,,\quad\ldots,\quad\varphi^{-1}_n(y)=y_1+y_n\,.$$

• Für die Jacobi-Determinante der Abbildung $\varphi:\mathbb{R}^n\to\mathbb{R}^n$ bzw. der Umkehrabbildung $\varphi^{-1}:\mathbb{R}^n\to\mathbb{R}^n$ gilt
  $$\det\Bigl(\frac{\partial\varphi_i}{\partial x_j}(x_1,\ldots,x_n)\Bigr)= \frac{1}{n}$$
  für jedes $(x_1,\ldots,x_n)\in \mathbb{R}^n$ bzw.
  $$\det \Bigl(\displaystyle\frac{\partial\varphi_i^{-1}}{\partial y_j}(y_1,\ldots,y_n)\Bigr)=n$$
  für jedes $(y_1,\ldots,y_n)\in \mathbb{R}^n$.
• Aus Theorem 1.9 ergibt sich somit für die Dichte $f_{\bigl(\overline X_n,X_2-\overline X_n,\ldots,X_n-\overline X_n\bigr)}(y_1,\ldots,y_n)$ des Zufallsvektors
  $$\bigl(\overline X_n,X_2-\overline X_n,\ldots,X_n-\overline X_n\bigr)=\varphi(X_1,\ldots,X_n)$$
  die folgende Darstellungsformel.
• Für jedes $(y_1,\ldots,y_n)\in \mathbb{R}^n$ gilt
  

  $${\hspace{-1cm} f_{\bigl(\overline X_n,X_2-\overline X_n,\ldots,X_... ...y_i\bigr)^2\Bigr)\;\exp\Bigl(-\frac{1}{2}\sum\limits_{i=2}^n (y_i+y_1)^2\Bigr)}$$

  $$= \Bigl(\Bigl(\frac{n}{2\pi}\Bigr)^{1/2}\exp\Bigl(-\frac{1}{2}\,n y... ...(\sum\limits_{i=2}^n y_i^2+\Bigl(\sum\limits_{i=2}^n y_i\Bigr)^2\Bigr)\Bigr)\,.$$

  
  

• Wegen dieser Produktdarstellung der Dichte $f_{\bigl(\overline X_n,X_2-\overline X_n,\ldots,X_n-\overline X_n\bigr)}(y_1,\ldots,y_n)$ ergibt sich nun aus Theorem 1.7, dass $\bigl(X_2-\overline X_n,\ldots,X_n-\overline X_n\bigr)$ unabhängig von $\overline X_n$ ist.
• Wegen (35) ergibt sich somit aus Theorem 1.8, dass auch die Zufallsvariablen $S_n^2$ und $\overline X_n$ unabhängig sind.
  
  $\Box$

Theorem 1.11   Sei $(X_1,\ldots,X_n)$ eine normalverteilte Zufallsstichprobe mit $X_i\sim$ N $(\mu,\sigma^2)$ für $i\in\{1,\ldots,n\}$. Dann gilt

$$\mbox{$\overline X_n\sim$\ {\rm N}$(\mu,\sigma^2/n)$}$$ (37)

und

$$\frac{(n-1)S_n^2}{\sigma^2}\sim\chi^2_{n-1}\,.$$ (38)

Beweis

 

• Aus Theorem WR-3.14 (bzw. aus dessen vektorieller Version in Theorem 1.9) ergibt sich, dass
     $$\mbox{$\displaystyle\frac{X_i}{n}\sim$\ N$(\mu/n,\sigma^2/n^2)$}$$$$$$
  für jedes $i\in\{1,\ldots,n\}$, vgl. auch das Beispiel in Abschnitt WR-3.4.2.
• Weil mit $X_1,\ldots,X_n$ auch die Zufallsvariablen $X_1/n,\ldots,X_n/n$ unabhängig sind, ergibt sich nun aus der Faltungsstabilität der Normalverteilung (vgl. Korollar WR-3.2), dass
     $$\mbox{$\overline X_n=\displaystyle\frac{X_1}{n}+\ldots+\frac{X_n}{n}\sim$ N$(\mu,\sigma^2/n)$.}$$$$$$

• Damit ist (37) bewiesen.
• Um (38) zu beweisen, betrachten wir die Identität
  

  $$\sum\limits ^n_{i=1}(X_{i}-\mu )^{2} = \sum ^{n}_{i=1}((X_{i}-\overline X_n)+(\overline X_n-\mu ))^{2}$$

  $$= \sum ^{n}_{i=1}(X_{i}-\overline X_n)^{2}+2(\overline X_n-\mu ) \c... ...nderbrace{\sum ^{n}_{i=1}(X_{i}-\overline X_n)}_{=0} +n(\overline X_n-\mu )^{2}$$

  $$= \sum ^{n}_{i=1}(X_{i}-\overline X_n)^{2}+n(\overline X_n-\mu )^{2}\,.$$

  
  

• Weil die Zufallsvariablen $\sigma^{-1}(X_1-\mu),\ldots,\sigma^{-1}(X_n-\mu)$ unabhängig und N$(0,1)$-verteilt sind, ergibt sich somit aus der Definition der $\chi ^2$-Verteilung, dass

  $$\underbrace{\sum ^{n}_{i=1}\Bigl(\frac{X_{i}-\mu }{\sigma }\Bigr... ... \frac{\sqrt{n}(\overline X_n-\mu )}{\sigma }\Bigr) ^{2}}_{\sim \chi^{2}_1}\,.$$ (39)

  
  

• Wegen Theorem 1.10 sind die beiden Summanden RS$_1$ und RS$_2$ auf der rechten Seite dieser Gleichung unabhängig.
• Wegen Theorem WR-5.18 gilt deshalb für die charakteristische Funktion $\varphi_{\rm LS}(t)$ der linken Seite LS von (39), dass
  $$\varphi_{\rm LS}(t)=\varphi_{\rm RS_1}(t)\varphi_{\rm RS_2}(t)$$
  für jedes $t\in\mathbb{R}$, wobei $\varphi_{\rm RS_i}(t)$ die charakteristische Funktion von RS$_i$ bezeichnet.
• Aus Theorem 1.5 folgt somit, dass für jedes $t\in\mathbb{R}$
  

  $$\varphi_{\rm RS_1}(t) = \frac{\varphi_{\rm LS}(t)}{\varphi_{\rm RS_2}(t)}$$

  $$= \frac{1}{\bigl(1-2{\rm i}\,t\bigr)^{(n-1)/2}}\,.$$

  
  

• Die erneute Anwendung von Theorem 1.5 und des Eindeutigkeitssatzes für charakteristische Funktionen (vgl. Korollar WR-5.5) ergibt nun, dass
  $$\frac{(n-1)S_n^2}{\sigma^2}={\rm RS_1}\sim\chi^2_{n-1}\,.$$
  
   
    $\Box$