Definition und elementare Eigenschaften

• Man kann sich leicht überlegen, dass für jeden Vektor $(x_1,\ldots,x_n)\in \mathbb{R}^n$ die in (61) definierte Abbildung

  $$x\to\varphi_x(x_1,\ldots,x_n)$$ (62)

  
  
  die Eigenschaften einer Verteilungsfunktion hat.
• Die in (62) gegebene Abbildung wird deshalb empirische Verteilungsfunktion der (konkreten) Stichprobe $(x_1,\ldots,x_n)$ genannt.

Dies führt zu der folgenden Begriffsbildung.

Definition

$\;$ Die Abbildung $\,\widehat F_n:\mathbb{R}\times\Omega\to[0,1]$ mit

$$\,\widehat F_n(x,\omega)=\frac{\char93 \{i:\,1\le i\le n,\, X_i(\omega)\le x\}}{n}$$ (63)

heißt empirische Verteilungsfunktion der Zufallsstichprobe $(X_1,\ldots,X_n)$.

Beachte

 

• Die in (63) gegebene Abbildung kann man als eine Familie $\{\,\widehat F_n(x),\, x\in\mathbb{R}\}$ von Zufallvariablen $\,\widehat F_n(x):\Omega\to[0,1]$ auffassen.
• Eine solche Familie von Zufallsvariablen wird empirischer Prozess genannt. Empirische Prozesse bilden eine spezielle Klasse stochastischer Prozesse, d.h., eine Familie von Zufallsvariablen, die über einunddemselben Wahrscheinlichkeitsraum definiert sind.

Theorem 1.17   Für jedes $x\in\mathbb{R}$ gilt:

1.

Die Zufallsvariable $n\,\widehat F_n(x)$ ist binomialverteilt mit den Parametern $n$ und $p=F(x)$, d.h., es gilt

$$P(n\,\widehat F_n(x)=k)={n\choose k}(F(x))^k(1-F(x))^{n-k}\,,\qquad\forall\,k\in\{0,1,\ldots,n\}\,.$$ (64)

2.

Insbesondere gilt

$${\mathbb{E}\,}\,\widehat F_n(x)=F(x) \qquad{\rm Var\,}\,\widehat F_n(x)= \frac{F(x)(1-F(x))}{n}\;.$$ (65)

3.

Mit Wahrscheinlichkeit $1$ gilt

$$\lim\limits _{n\to\infty}\,\widehat F_n(x)= F(x)\,.$$ (66)

4.

Falls $0<F(x)<1$, dann gilt außerdem für jedes $y\in\mathbb{R}$

$$\lim\limits _{n\to\infty}P\Bigl(\sqrt{n} \frac{\,\widehat F_n(x)-F(x)}{\sqrt{F(x)(1-F(x))}}\le y\Bigr)=\Phi(y)\,,$$ (67)

wobei $\Phi(y)$ die Verteilungsfunktion der Standardnormalverteilung ist.

Beweis

 

• So wie in Abschnitt 1.4 deuten wir das Ereignis $\{X_i\le x\}$ als ,,Erfolg'' und das Ereignis $\{X_i> x\}$ als ,,Misserfolg''.
• Aus der Definitionsgleichung (63) der empirischen Verteilungsfunktion $\,\widehat F_n$ ergibt sich somit, dass wir die Zufallsvariable $n\,\widehat F_n(x)$ als die Anzahl der Erfolge beim $n$-maligen Münzwurf mit den identischen Erfolgswahrscheinlichkeiten $a_1=a_2=\ldots=a_n=F(x)$ auffassen können, vgl. Beispiel 2 in Abschnitt WR-3.2.2.
• Hieraus ergibt sich, dass $n\,\widehat F_n(x)$ binomialverteilt ist mit $n\,\widehat F_n(x)\sim$ Bin$(n,F(x))$.
• Damit ist (64) bewiesen.
• Aus den Formeln für den Erwartungswert bzw. die Varianz der Binomialverteilung ergibt sich nun die Gültigkeit von (65), vgl. jeweils Beispiel 1 in den Abschnitten WR-4.1.1 bzw. WR-4.2.2.
• Aus der Definitionsgleichung (63) der empirischen Verteilungsfunktion $\,\widehat F_n$ folgt außerdem, dass
  $$n\,\widehat F_n(x)=\sum\limits_{i=1}^n Y_i\,,$$
  wobei
  $$Y_i=\left\{\begin{array}{ll} 1\,, & \mbox{falls $X_i\le x$,}\\ 0\,, & \mbox{falls $X_i> x$.} \end{array}\right.$$

• Wegen dieser Darstellungsmöglichkeit von $n\,\widehat F_n(x)$ als Summe von $n$ unabhängigen und identisch (Bernoulli-) verteilten Zufallsvariablen $Y_i$ mit ${\mathbb{E}\,}Y_i= F(x)$ ergibt sich (66) unmittelbar aus dem starken Gesetz der großen Zahlen; vgl. Theorem WR-5.15.
• Mit der gleichen Begründung ergibt sich (67) unmittelbar aus dem zentralen Grenzwertsatz für Summen von unabhängigen und identisch verteilten Zufallsvariablen; vgl. Theorem WR-5.16.
  
  $\Box$

Beachte

$\;$ Weil die Zufallsvariable $\,\widehat F_n(x)$ den Erwartungswert $F(x)$ hat (vgl. (65)), kann $\,\widehat F_n(x)$ als ein geeigneter Schätzer von $F(x)$ angesehen werden.