Stichprobenvarianz

Wir untersuchen nun die Frage, wie die Varianz $\sigma^2=$   Var $X_i$ der Stichprobenvariablen $X_i$ aus den beobachteten Daten $x_1,\ldots,x_n$ bestimmt werden kann. Dabei gehen wir ähnlich wie in Abschnitt 5.1.2 vor.

• Wir betrachten die Stichprobenfunktion $\varphi:\mathbb{R}^n\to\mathbb{R}$ mit

  $$\varphi(x_1,\ldots,x_n)=\frac{1}{n-1}\sum_{i=1}^n (x_i-\overline x_n)^2\,,$$ (8)

  
  
  wobei $\overline x_n$ in (1) gegeben ist.
• Die in (8) eingeführte Größe wird Stichprobenvarianz der (konkreten) Stichprobe $(x_1,\ldots,x_n)$ genannt und mit $s_n^2$ bezeichnet.

Definition 5.6

$\;$ Die Zufallsvariable

$$S_n^2=\frac{1}{n-1}\sum_{i=1}^n (X_i-\overline X_n)^2\,,$$ (9)

heißt Stichprobenvarianz der Zufallsstichprobe $(X_1,\ldots,X_n)$.

Theorem 5.7

$\;$ Es gilt

$${\mathbb{E}\,}S_n^2=\sigma^2\,.$$ (10)

Falls ${\mathbb{E}\,}(X_i^4)<\infty$ für $i=1,\ldots,n$, dann gilt außerdem

$$S_n^2=\frac{1}{n}\Bigl(\mu_4-\frac{n-3}{n-1}\sigma^4\Bigr)\;,$$ (11)

wobei $\mu_4={\mathbb{E}\,}(X_i^4)$ und $\sigma^4=($Var $X_i)^2$ das 4-te Moment bzw. die quadrierte Varianz der Stichprobenvariablen $X_i$ bezeichnen.

Beweis

 

• Wir zeigen nur die Gültigkeit von (10). Die Gültigkeit von (11) ergibt sich durch ähnliche Überlegungen.
• Aus der Definitionsgleichung (9) von $S_n^2$ ergibt sich, daß
  

  $$S_n^2 = \frac{1}{n-1}\sum_{i=1}^n (X_i-\overline X_n)^2$$

  $$= \frac{1}{n-1}\sum_{i=1}^n (X_i^2-2X_i\overline X_n+\overline X_n^2)$$

  $$= \frac{1}{n-1}\Bigl(\sum_{i=1}^n X_i^2-n\overline X_n^2\Bigr)\,.$$

  
  

• Wegen der Linearität des Erwartungswertes (vgl. Formel (4.15)) folgt hieraus, daß
  

  $${\mathbb{E}\,}S_n^2 = \frac{1}{n-1}\Bigl(\sum_{i=1}^n {\mathbb{E}\,}(X_i^2)-n{\mathbb{E}\,}(\overline X_n^2)\Bigr)$$

  $$= \frac{1}{n-1}\Bigl(\sum_{i=1}^n \bigl( X_i+({\mathbb{E}\,} X_i)^2\bigr) -n\bigl( \overline X_n+({\mathbb{E}\,}\overline X_n)^2\bigr) \Bigr)$$

  $$= \frac{1}{n-1}\Bigl(n (\sigma^2+\mu^2) -n\bigl( \frac{\sigma^2}{n}+\mu^2\bigr)\Bigr)$$

  $$= \sigma^2\,,$$

  
  
  wobei sich das vorletzte Gleichheitszeichen aus (3) und (4) ergibt.
• Damit ist (10) bewiesen.

Beachte

 

• Weil die Stichprobenvarianz $S_n^2$ den Erwartungswert $\sigma^2$ hat (vgl. (10)), kann $S_n^2$ als ein geeigneter Schätzer der (im allgemeinen unbekannten) Modellcharakteristik $\sigma^2$ angesehen werden.
• Wegen (10) wird bei der Schätzung von $\sigma^2$ durch $S_n^2$ kein systematischer Fehler begangen.

Neben den Formeln (10) und (11) für Erwartungswert und Varianz des Stichprobenvarianz $S_n^2$ sind erneut weitere Aussagen über die Verteilung von $S_n^2$ bzw. über deren asymptotisches Verhalten für große $n$ von Interesse.

Aus dem starken Gesetz der großen Zahlen (vgl. Theorem 4.22) bzw. aus dem zentralen Grenzwertsatz (vgl. Theorem 4.24) ergibt sich

Theorem 5.8

$\;$ Es gilt

$$P\Bigl(\lim\limits _{n\to\infty} S_n^2 =\sigma^2\Bigr)=1\,.$$ (12)

Falls ${\mathbb{E}\,}(X_i^4)<\infty$ für $i=1,\ldots,n$, dann gilt außerdem

$$\lim\limits _{n\to\infty}P\Bigl(\sqrt{n} \frac{S_n^2 -\sigma^2}{\sqrt{\mu_4-\sigma^4}}\le x\Bigr)=\Phi(x)$$ (13)

für jedes $x\in\mathbb{R}$, wobei $\Phi(x)$ die Verteilungsfunktion der Standardnormalverteilung ist.

Beweis

 

• Wir zeigen nur die Gültigkeit von (12). Die Herleitung von (13) erfordert Hilfsmittel, die über den Rahmen dieser einführenden Vorlesung hinausgehen.
• Im Beweis von Theorem 5.7 hatten wir gezeigt, daß

  $$S_n^2=\frac{1}{n-1}\Bigl(\sum_{i=1}^n X_i^2-n\overline X_n^2\Bigr)\,.$$ (14)

  
  

• Außerdem kann man zeigen, daß die Unabhängigkeit und identische Verteiltheit der Stichprobenvariablen $X_1,\ldots,X_n$ impliziert, daß auch die Zufallsvariablen $X_1^2,\ldots,X_n^2$ unabhängig und identisch veteilt sind.
• Deshalb ergibt sich aus dem starken Gesetz der großen Zahlen (vgl. Theorem 4.22), daß mit Wahrscheinlichkeit 1
  $$\lim\limits _{n\to\infty}\frac{1}{n}\sum\limits _{i=1}^\infty X_i^2={\mathbb{E}\,}(X_i^2)$$
  und
  

  $$\lim\limits _{n\to\infty} \overline X_n^2 = \lim\limits _{n\to\infty}\Bigl(\frac{1}{n}\sum\limits _{i=1}^\infty X_i\Bigr)^2$$

  $$= \Bigl(\lim\limits _{n\to\infty}\frac{1}{n}\sum\limits _{i=1}^\infty X_i\Bigr)^2$$

  $$= ({\mathbb{E}\,}X_i)^2\,.$$

  
  

• Hieraus und aus (14) ergibt sich (12).