Verteilungsfunktion; absolutstetige Zufallsvariablen

Sei $(\Omega ,\mathcal{F},P)$ ein beliebiger Wahrscheinlichkeitsraum und $X:\Omega\to\mathbb{R}$ eine beliebige Zufallsvariable.

Definition

$\;$ Die Funktion $F_{X}:\mathbb{R}\rightarrow [0,1]$ mit $F_{X}(x)= P (X\leq x)$ heißt Verteilungsfunktion von $X$.

Wir diskutieren nun zunächst einige Eigenschaften von Verteilungsfunktionen.

Theorem 3.3   Sei $X:\Omega\to\mathbb{R}$ eine beliebige Zufallsvariable und $F_{X}:\mathbb{R}\rightarrow [0,1]$ ihre Verteilungsfunktion. Dann gilt

1.

Asymptotisches Verhalten im Unendlichen:

$$F_X(-\infty ):=\underset {x\rightarrow -\infty }{\lim }F_X(x)=0\,,\qquad F_X(\infty ):=\underset {x\rightarrow \infty }{\lim }F_X(x)=1\,,$$ (6)

2.

Monotonie:

$$F_X(x)\leq F_X(x+h)\qquad\forall x\in \mathbb{R}\textrm{ und }h\geq 0,$$ (7)

3.

Rechtsstetigkeit: $F_X(x)$ ist rechtsseitig stetig, d.h. für jede Folge $\left\{ h_{n}\right\}$ mit $h_{n}\geq 0$ und $\underset {n\rightarrow \infty }{\lim }h_{n}=0$ gilt

$$\underset {n\rightarrow \infty }{\lim }F_X(x+h_{n}) =F_X(x)\qquad\forall x\in \mathbb{R}\,.$$ (8)

Beweis

$\;$

Zu 2.

Weil $(-\infty,x]\subset(-\infty,x+h]$, ergibt sich aus Teilaussage 2 von Theorem 2.1, dass

$$F_X(x)=P_X((-\infty,x])\le P_X((-\infty,x+h])=F_X(x+h)\,.$$

Zu 1.

Wir zeigen nur die erste Teilaussage von (6). Wegen der Monotonie von $F_X$ können wir o.B.d.A. annehmen, dass $x$ monoton gegen $-\infty$ konvergiert. Aus Korollar 2.2 ergibt sich dann, dass

$$\underset {x\rightarrow -\infty }{\lim }F_X(x) = \underset {x\rightarrow -\infty }{\lim }P_X((-\infty,x])$$

$$= P_X\bigl(\bigcap\limits_{x\le 0}(-\infty,x]\bigr)$$

$$= P_X(\emptyset)=0\,.$$

Der Beweis der zweiten Teilaussage von (6) verläuft analog.

Zu 3.

Ähnlich wie im Beweis von Teilaussage 1 ergibt sich aus Korollar 2.2, dass

$$\underset {n\rightarrow \infty }{\lim }F_X(x+h_n) = \underset {n\rightarrow \infty }{\lim }P_X((-\infty,x+h_n])$$

$$= P_X\bigl(\bigcap\limits_{n\ge 1}(-\infty,x+h_n]\bigr)$$

$$= P_X((-\infty,x])$$

$$= F_X(x)\,.$$

 
  $\Box$

Beachte

 

1. Mit Hilfe der Verteilungsfunktion $F_{X}$ lassen sich auch die folgenden Wahrscheinlichkeiten ausdrücken
   $$P(a\leq X\leq b),\quad P(a<X\leq b),\quad P(a<X<b),\quad P(a\leq X<b),$$
   denn es gilt beispielsweise
   

   $$P(a\leq X\leq b) = P(\{X\leq b\}\setminus\{ X<a\})$$

   $$= P(X\leq b)-P(X<a)$$

   $$= F_X(b)-\underset{h\downarrow 0}{\lim}F_X(a-h)\,.$$

   
   

2. Im allgemeinen gilt jedoch nicht $F_X(a)=\underset{h\downarrow 0}{\lim}F_X(a-h)$, sondern

   $$F_X(a)=\underset{h\downarrow 0}{\lim}F_X(a-h)+P(X=a)\,,$$ (9)

   
   
   denn
   

   $$P(X=a) = P\bigl(\bigcap\limits_{n=1}^\infty\{a-n^{-1}<X\le a\}\bigr)$$

   $$= \lim\limits_{n\to\infty}P(a-n^{-1}<X\le a)$$

   $$= \lim\limits_{n\to\infty}\bigl(P(X\le a)-P(X\le a-n^{-1})\bigr)$$

   $$= F_X(a)-\lim\limits_{n\to\infty} F_X(a-n^{-1})\,.$$

   
   

3. In Theorem 3.3 wurde gezeigt, dass
   • Verteilungsfunktionen monotone und beschränkte Funktionen sind.
   • Hieraus folgt, dass Verteilungsfunktionen für jedes $\varepsilon>0$ nur endlich viele Sprungstellen besitzen können, deren Sprunghöhen größer als $\varepsilon$ sind.
   • Insgesamt können Verteilungsfunktionen also höchstens abzählbar viele Sprungstellen besitzen.
4. Für die Verteilungsfunktion $F_{X}$ einer diskreten Zufallsvariablen $X$ gilt für jedes $x\in\mathbb{R}$:
   

   $$F_{X}(x) = P(X\leq x)$$

   $$= P\Bigl(\bigcup\limits_{k:\, x_{k}\leq x} \{ X=x_{k}\} \Bigr)$$

   $$= \sum\limits_{k:\, x_{k}\leq x} P( X=x_{k})$$

   $$= \sum\limits _{k:\,x_{k}\leq x}p_k\,,$$

   
   
   wobei $p_k=P(X=x_k)$.
5. Die Verteilungsfunktion $F_{X}$ einer diskreten Zufallsvariablen $X$ ist eine sogenannte Treppenfunktion, d.h. eine stückweise konstante Funktion mit der Sprunghöhe $p_k$ im Punkt $x_k$.

Theorem 3.4   Sei $X:\Omega\to\mathbb{R}$ eine beliebige Zufallsvariable. Dann wird die Verteilung $P_X$ von $X$ durch die Verteilungsfunktion $F_{X}$ von $X$ eindeutig bestimmt.

Beweis

$\;$

• Betrachten zwei beliebige Zufallsvariablen $X,Y:\Omega\to\mathbb{R}$ und
• nehmen an, dass ihre Verteilungsfunktionen übereinstimmen, d.h.,

  $$F_X(x)=F_Y(x)\qquad \forall x\in\mathbb{R}\,.$$ (10)

  
  

• Zu zeigen ist, dass dann

  $$P_X(B)=P_Y(B)\qquad \forall B\in\mathcal{B}(\mathbb{R})\,.$$ (11)

  
  

• Sei $\mathcal{G}=\{(a,b]:\, -\infty<a\le b<\infty\}$ das System aller links-offenen und rechts-abgeschlossenen Intervalle in $\mathbb{R}$.
• Es ist klar, dass $\mathcal{G}$ ein $\pi$-System ist.
• Aus (10) und
  $$P_X((a,b])=F_X(b)-F_X(a)=F_Y(b)-F_Y(a)=P_Y((a,b])$$
  folgt, dass (11) für jedes $B\in\mathcal{G}$ gilt.
• Außerdem kann man sich leicht überlegen, dass (11) auch für jedes $B\in d(\mathcal{G})$ gilt.
• Aus Theorem 3.2 folgt nun, dass (11) für jedes $B\in \sigma(\mathcal{G})=\mathcal{B}(\mathbb{R})$ gilt.
  
  $\Box$

Definition

$\;$ Die Zufallsvariable $X:\Omega\to\mathbb{R}$ (bzw. ihre Verteilung) heißt absolutstetig, falls die Verteilungsfunktion $F_X$ von $X$ die folgende Integraldarstellung

$$F_{X}(x)=\int\limits _{-\infty }^{x}f_X(y)\, dy\qquad \forall x\in\mathbb{R}$$ (12)

besitzt, wobei $f_X:\mathbb{R}\to[0,\infty)$ eine (Lebesgue-integrierbare) Funktion mit nichtnegativen Werten ist, die Dichte (bzw. Wahrscheinlichkeitsdichte) von $X$ genannt wird. Das Integral in (12) wird im allgemeinen als Lebesgue-Integral aufgefasst.

Die Verteilungsfunktion $F_X$ (und damit auch die Verteilung $P_X$) einer absolutstetigen Zufallsvariablen $X$ wird in dem folgenden Sinne eindeutig durch die Dichte $f_X$ bestimmt.

Theorem 3.5    

1.

Die Zufallsvariable $X:\Omega\to\mathbb{R}$ ist genau dann absolutstetig, wenn sich die Verteilung $P_X$ von $X$ darstellen lässt in der Form:

$$P_{X}(B)=\int\limits _B f_X(y)\, dy\qquad \forall B\in\mathcal{B}(\mathbb{R})\,.$$ (13)

2.

Die Zufallsgrößen $X,Y:\Omega\to\mathbb{R}$ seien absolutstetig. Es gilt $P_X=P_Y$ genau dann, wenn

$$f_X(x)=f_Y(x)$$ (14)

für fast alle $x\in\mathbb{R}$, d.h., $(\ref{ein.dic.for})$ gilt für alle $x\in\mathbb{R}\setminus B$, wobei die (Borelsche) ,,Ausnahmemenge'' $B\subset\mathbb{R}$ das Lebesgue-Maß 0 hat.

Beweis

 

• Die Hinlänglichkeit der Bedingung (13) ist offensichtlich, denn es genügt, in (13) die spezielle Borel-Menge $B=(-\infty,x]$ einzusetzen, um (12) zu erhalten.
• Die Notwendigkeit der Bedingung (13) ergibt sich aus (12) und aus dem eineindeutigen Zusammenhang zwischen Verteilung und Verteilungsfunktion, vgl. Theorem 3.4.
• Die Notwendigkeit und Hinlänglichkeit von Bedingung (14) ergibt sich aus den allgemeinen (Eindeutigkeits-) Eigenschaften von Lebesgue-Integralen, vgl. die Vorlesung Analysis III.
  
  $\Box$

Beachte

 

1. Bei vielen Anwendungen ist die Dichte $f_X$ eine (zumindest stückweise) stetige Funktion. Das Integral in der Definitionsgleichung (12) ist dann ein uneigentliches Riemann-Integral.
2. Falls $X$ absolutstetig ist, dann hat die Verteilungsfunktion $F_X$ keine Sprünge, d.h., $F_{X}$ ist eine (im üblichen Sinne) stetige Funktion. Hieraus und aus (9) folgt insbesondere, dass

   $$P(X=x)=0 \qquad\forall x\in\mathbb{R}\,.$$ (15)

   
   

3. Die Verteilungsfunktion $F_X$ einer absolutstetigen Zufallsvariablen $X$ ist jedoch im allgemeinen nicht überall differenzierbar. Und zwar ist $F_X$ dort nicht differenzierbar, wo die Dichte $f_X$ Sprungstellen hat.

Beispiele

$\;$ Um die Verteilung einer absolutstetigen Zufallsvariablen $X$ zu beschreiben, genügt es, die Dichte $f_X$ zu betrachten, weil durch $f_X$ die Verteilungsfunktion $F_X$ und damit auch die Verteilung $P_X$ von $X$ eindeutig bestimmt wird.

1. Normalverteilung N $(\mu,\sigma^2)$ mit den Parametern $\mu\in\mathbb{R}$ und $\sigma^2>0$:

   $$f_X(x)=\frac{1}{\sigma \sqrt{2\pi }} \exp \left(\displaystyle-\frac{(x-\mu )^{2}}{2\sigma ^{2}}\right)\qquad\forall x\in\mathbb{R}$$ (16)

   
   
   Spezialfall: Standardnormalverteilung N$(0,1)$. Dann nimmt die Dichte $f_X(x)$ in (16) die folgende Form an:

   $$f_X(x)=\frac{1}{\sqrt{2\pi }}\exp \left(\displaystyle -\frac{x^{2}}{2}\right)\qquad\forall x\in\mathbb{R}$$ (17)

   
   

2. Exponentialverteilung Exp$(\lambda)$ mit Parameter $\lambda>0$:
   $$f_X(x)=\left\{ \begin{array}{ll} \lambda e^{-\lambda x}, & \mbox{falls $x\geq 0$}\\ 0\,, & \mbox{falls $x<0$} \end{array}\right.$$

3. Gleichverteilung U$(a,b)$ mit den Parametern $a,b\in\mathbb{R}$, wobei $a<b$:
   $$f_X(x)=\left\{ \begin{array}{ll}\displaystyle \frac{1}{b-a}\;, & \mbox{falls $a\leq x\leq b$}\\ 0 & \mbox{sonst} \end{array}\right.$$

Beachte

 

• Absolutstetige Verteilungen treten oft als (asymptotische) Näherungslösungen auf.
• So lässt sich beispielsweise die Binomialverteilung mit den Parametern $n$ und $p$ durch die Standardnormalverteilung approximieren, falls $n$ groß ist. Dies ist der folgende zentrale Grenzwertsatz von DeMoivre-Laplace.

Theorem 3.6   Für beliebige $p\in(0,1)$ und $a,b\in\mathbb{R}$ mit $a<b$ gilt

$$\lim_{n\to\infty}P\Bigl(a<\frac{X_n-np}{\sqrt{np(1-p)}}\le b\Bigr) =P(a<X\le b)\,,$$ (18)

wobei $X_n$ binomialverteilt (mit den Parametern $n$ und $p$) und $X$ standardnormalverteilt ist.

Der Beweis von Theorem 3.6 wird zunächst weggelassen und später, in Abschnitt 5.3 der Vorlesung, in einem allgemeineren Zusammenhang nachgeholt.

Beachte

 

• Wenn für die Schranken $a$ und $b$ in (18)
  $$a=\frac{k-1-np}{\sqrt{n\,p(1-p)}}$$   und$$\qquad b=\frac{k-np}{\sqrt{n\,p(1-p)}}$$
  eingesetzt wird, dann ergibt sich aus (18), dass für große $n$
  

  $$P(X_n=k) \approx P\Bigl(\frac{k-1-np}{\sqrt{n\,p(1-p)}}<X\le \frac{k-np}{\sqrt{n\,p(1-p)}}\Bigr)$$

  $$\approx \frac{1}{\sqrt{n\,p(1-p)}}\; f_X\Bigl(\frac{k-np}{\sqrt{n\,p(1-p)}}\Bigr)$$

  
  
  für jedes $k=0,1,\ldots,n$, wobei $f_X$ die in (17) gegebene Dichte der Standardnormalverteilung ist.
• Die Näherungsformel

  $$P(X_n=k) \approx \frac{1}{\sqrt{n\,p(1-p)}}\; f_X\Bigl(\frac{k-np}{\sqrt{n\,p(1-p)}}\Bigr)$$ (19)

  
  
  wird im Internet durch zahlreiche JAVA-Applets illustriert, vgl. beispielsweise
  http://medweb.uni-muenster.de/institute/imib/lehre/skripte/biomathe/bio/binorm.html
  wobei in diesem Applet die rechte Seite von (19) durch eine blaue Kurve dargestellt wird (und das Symbol $N$ anstelle von $n$ benutzt wird).