Anwendungsbeispiele

1. Buffonsches Nadelexperiment 
   • Betrachten das System
     $$K=\{(x,y):\,(x,y)\in\{\ldots,-1,0,1,\ldots\} \times\mathbb{R}\}\subset\mathbb{R}^2$$
     von parallelen und äquidistanten (vertikalen) Geraden in der euklidischen Ebene $\mathbb{R}^2$; vgl. auch Abschnitt 2.5.
   • Werfen eine Nadel mit der Länge 1 ,,willkürlich'' in die Ebene $\mathbb{R}^2$, wobei mit ,,willkürlich'' das folgende stochastische Modell gemeint ist.
   • Betrachten zwei Zufallsvariablen $S$ und $T$, die die zufällige Lage der Nadel beschreiben, wobei
     • $S$ der (orthogonale) Abstand des Nadelmittelpunktes zur nächsten linksliegenden Nachbargeraden von $K$ ist,
     • $T$ der Winkel ist, den die Nadel zum Lot auf die Geraden von $K$ bildet, und
     • die Zufallsvariablen $S$ und $T$ unabhängig und gleichverteilt seien auf den Intervallen $[0,1]$ bzw. $[-\pi/2,\pi/2]$.
   • Bestimmen die Wahrscheinlichkeit des Ereignisses
     $$A=\Bigl\{0<S<\frac{1}{2}\,\cos T\Bigr\}\cup\Bigl\{1-\frac{1}{2}\,\cos T<S<1\Bigr\}\,,$$
     dass die willkürlich geworfene Nadel eine der Geraden von $K$ schneidet.
   • Es gilt
     

     $$P(A) = P\Bigl(0<S<\frac{1}{2}\,\cos T\Bigr)+P\Bigl(1-\frac{1}{2}\,\cos T<S<1\Bigr)$$

     $$= \frac{1}{\pi}\int\limits _{-\pi/2}^{\pi/2} P\Bigl(0<S<\frac{1}{2}... ...}{\pi}\int\limits _{-\pi/2}^{\pi/2} P\Bigl(1-\frac{1}{2}\,\cos t<S<1\Bigr)\, dt$$

     $$= \frac{1}{\pi}\int\limits _{-\pi/2}^{\pi/2} \frac{1}{2}\,\cos t\, dt +\frac{1}{\pi}\int\limits _{-\pi/2}^{\pi/2} \frac{1}{2}\,\cos t\, dt$$

     $$= \frac{1}{\pi}\int\limits _{-\pi/2}^{\pi/2} \cos t\, dt =\frac{2}{\pi}\;.$$

     
     

   • Aus der Gleichung $P(A)=2/\pi$ ergibt sich nun eine Methode zur experimentellen Bestimmung der Zahl $\pi$, die auf dem Gesetz der großen Zahlen beruht.
   • Seien $(S_1,T_1),\ldots,(S_n,T_n)$ unabhängige und identisch verteilte Zufallsvektoren (mit der gleichen Verteilung wie $(S,T)$), die wir als das Ergebnis von $n$ (unabhängig durchgeführten) Nadelexperimenten auffassen.
   • Dann sind $X_1,X_2,\ldots,X_n$ mit
     $$X_i=\left\{\begin{array}{cc} 1\,, &\mbox{falls $S_i<\frac{1}{2}\cos T_i$ oder $1-\frac{1}{2}\cos T_i<S_i$}\\ 0 & \mbox{sonst} \end{array}\right.$$
     unabhängige und identisch verteilte Zufallsvariablen mit dem Erwartungswert ${\mathbb{E}\,}X_i=2/\pi$.
   • Aus Theorem 5.15 ergibt sich also, dass das arithmetische Mittel $Y_n=n^{-1}\sum\limits _{i=1}^n X_i$ fast sicher gegen die Zahl $2/\pi$ strebt.
   • D.h., für große $n$ ist $2/Y_n$ mit hoher Wahrscheinlichkeit eine gute Näherung der Zahl $\pi$.

   
   

2. Computer-Algorithmus zur Bestimmung von $\pi$ 
   • Ein einfacher Algorithmus zur Monte-Carlo-Simulation der Zahl $\pi$ hängt mit dem folgenden geometrischen Sachverhalt zusammen.

   • Betrachten das Quadrat
     $$B=[-1,1]\times[-1,1]\subset\mathbb{R}^2$$
     und den Kreis
     $$C=\{(x,y):\, (x,y)\in B,\, x^2+y^2<1\}\,.$$

   • Werfen einen Punkt willkürlich in die Menge $B$.
   • D.h., wir betrachten zwei unabhängige Zufallsvariablen $S$ und $T$, die jeweils gleichverteilt auf dem Intervall $[-1,1]$ sind.
   • Bestimmen die Wahrscheinlichkeit des Ereignisses
     $$A=\{(S,T)\in C\}=\{S^2+T^2<1\}\,,$$
     dass der ,,zufällige Punkt'' $(S,T)$ in $C\subset B$ liegt.
   • Es gilt
     $$P(A)=P(S^2+T^2<1)=\frac{\vert C\vert}{\vert B\vert}=\frac{\pi}{4}\;,$$
     wobei $\vert B\vert$, $\vert C\vert$ den Flächeninhalt von $B$ bzw. $C$ bezeichnet.
   • Ähnlich wie beim Buffonschen Nadelexperiment ergibt sich nun aus der Gleichung $P(A)=\pi/4$ eine weitere Methode zur experimentellen Bestimmung der Zahl $\pi$, die auf dem Gesetz der großen Zahlen beruht und die sich leicht implementieren lässt.
   • Seien $(S_1,T_1),\ldots,(S_n,T_n)$ unabhängige und identisch verteilte Zufallsvektoren (mit der gleichen Verteilung wie $(S,T)$), die wir als das Ergebnis von $n$ (unabhängig durchgeführten) Experimenten auffassen.
   • Dann sind $X_1,X_2,\ldots,X_n$ mit
     $$X_i=\left\{\begin{array}{cc} 1\,, &\mbox{falls $S_i^2+T_i^2<1$}\\ 0 & \mbox{sonst} \end{array}\right.$$
     unabhängige und identisch verteilte Zufallsvariablen mit dem Erwartungswert ${\mathbb{E}\,}X_i=\pi/4$.
   • Aus Theorem 5.15 ergibt sich also, dass das arithmetische Mittel $Y_n=n^{-1}\sum\limits _{i=1}^n X_i$ fast sicher gegen die Zahl $\pi/4$ strebt.
   • D.h., für große $n$ ist $4Y_n$ mit hoher Wahrscheinlichkeit eine gute Näherung der Zahl $\pi$.
   • Beachte: Bei der Implementierung dieser Monte-Carlo-Simulation kann man wie folgt vorgehen.
     • Erzeuge $2n$ auf $[0,1]$ gleichverteilte Pseudozufallszahlen $z_1,\ldots,z_{2n}$ mit einem Zufallszahlengenerator.
     • Setze $s_i=2z_i-1$ und $t_i=2z_{n+i}-1$ für $i=1,\ldots,n$.
     • Setze
       $$x_i=\left\{\begin{array}{cc} 1\,, &\mbox{falls $s_i^2+t_i^2<1$}\\ 0 & \mbox{sonst} \end{array}\right.$$

     • Berechne $4(x_1+\ldots+x_n)/n$.
   • Ein JAVA-Applet, mit dem dieses Simulationsverfahren selbst durchgeführt werden kann, findet man beispielsweise auf der Internet-Seite:
     http://www.fh-friedberg.de/users/jingo/mathematics/piSimulation/piberechnung.html

   
   

3. Numerische Berechnung von Integralen durch Monte-Carlo-Simulation 
   • Sei $\varphi:[0,1]\to[0,1]$ eine stetige Funktion.
   • Mittels Monte-Carlo-Simulation soll der Wert des Integrals $\int_0^1\varphi(x)\, dx$ bestimmt werden.
   • Seien $X_1,X_2,\ldots:\Omega\to\mathbb{R}$ unabhängige und identisch verteilte Zufallsvariable, die auf dem Intervall $[0,1]$ gleichverteilt sind.
   • Außerdem sei $Z_k= \varphi(X_k)$ für jedes $k=1,2,\ldots$.
   • Wegen Theorem 3.18 sind dann auch $Z_1,Z_2,\ldots$ unabhängige und identisch verteilte Zufallsvariable,
   • und es gilt
     $${\mathbb{E}\,}Z_1 = \int\limits_0^1 \varphi(x) f_{X_1}(x)\, dx = \int\limits_0^1 \varphi(x)\, dx\,.$$

   • Aus dem starken Gesetz der großen Zahlen (vgl. Theorem 5.15) ergibt sich nun, dass für $n\to\infty$
     $$\frac{1}{n}\sum\limits_{k=1}^n Z_k\stackrel{{\rm f.s.}}{\longrightarrow}\int\limits_0^1 \varphi(x)\, dx\,.$$

   • D.h., für große $n$ ist $\frac{1}{n}\sum_{k=1}^n Z_k$ mit hoher Wahrscheinlichkeit eine gute Näherung des Integrals $\int_0^1\varphi(x)\, dx$.
   • Beachte: Bei der Implementierung dieser Monte-Carlo-Simulation kann man wie folgt vorgehen.
     • Erzeuge $n$ auf $[0,1]$ gleichverteilte Pseudozufallszahlen $x_1,\ldots,x_n$ mit einem Zufallszahlengenerator.
     • Setze $z_k= \varphi(x_k)$ für $k=1,\ldots,n$
     • Berechne $\frac{1}{n}\sum_{k=1}^n z_k$.

   
   

4. Probabilistischer Beweis des Approximationssatzes von Weierstrass 
   • Sei $\varphi:[0,1]\to[0,1]$ eine stetige (und somit beschränkte) Funktion.
   • Mit Hilfe des starken Gesetzes der großen Zahlen (vgl. Theorem 5.15) zeigen wir, dass sich die Funktion $\varphi$ gleichmäßig durch Polynome approximieren lässt.
   • Seien $X_1,X_2,\ldots:\Omega\to\mathbb{R}$ unabhängige und identisch verteilte Zufallsvariablen mit $X_k\sim$ Bin$(1,p)$, wobei $0\le p\le 1$.
   • Aus Theorem 5.15 folgt dann, dass $Y_n\stackrel{{\rm f.s.}}{\longrightarrow}p$, wobei $Y_n=\frac{1}{n}(X_1+\ldots+ X_n)$.
   • Wir zeigen nun, dass darüber hinaus für $n\to\infty$

     $${\mathbb{E}\,}\varphi(Y_n)\to \varphi(p)$$ (34)

     
     
     gleichmäßig in $p\in[0,1]$ gilt.
   • Für $\varepsilon>0$ sei $\delta>0$ so gewählt, dass $\vert\varphi(x)-\varphi(p)\vert<\varepsilon$, falls $\vert x-p\vert\le\delta$.
   • Mit der Schreibweise $b=\sup_{x\in[0,1]}\varphi(x)$ gilt dann die Abschätzung
     

     $$\vert{\mathbb{E}\,}(\varphi(Y_n)- \varphi(p))\vert \le {\mathbb{E}\,}\vert\varphi(Y_n)- \varphi(p)\vert$$

     $$= {\mathbb{E}\,}\bigl(\vert\varphi(Y_n)- \varphi(p)\vert{1\hspace{-... ..._n)- \varphi(p)\vert{1\hspace{-1mm}{\rm I}}_{\{\vert Y_n-p\vert>\delta\}}\bigr)$$

     $$\le \varepsilon + 2b P(\vert Y_n-p\vert>\delta)$$

     $$\le \varepsilon + 2b \varepsilon\,,$$

     
     
     wobei sich die letzte Ungleichung aus der Tschebyschew-Ungleichung (4.72) ergibt.
   • Denn wegen (4.72) gilt (gleichmäßig in $p\in[0,1]$)
     $$P(\vert Y_n-p\vert>\delta)\le\frac{p(1-p)}{n\delta^2}\le\frac{1}{n\delta^2}\le\varepsilon$$
     für jedes hinreichend große $n\in\mathbb{N}$.
   • Damit ist (34) bewiesen, weil $\varepsilon>0$ beliebig klein gewählt werden kann.
   • Weil $nY_n$ binomialverteilt ist, gilt

     $${\mathbb{E}\,}\varphi(Y_n)=\sum\limits_{k=0}^n\varphi(k/n){n\choose k}p^k(1-p)^{n-k}\,,$$ (35)

     
     
     und diese Polynome in $p\in[0,1]$ konvergieren wegen (34) gleichmäßig in $p\in[0,1]$ gegen $\varphi(p)$.
   • Beachte: Die Polynome in (35) werden Bernstein-Polynome genannt.

   
   

5. Eine Anwendung in der Zahlentheorie 
   • Wir betrachten den Wahrscheinlichkeitsraum $(\Omega,\mathcal{F},P)=([0,1],\mathcal{B}([0,1]),P)$, wobei $P$ die Gleichverteilung auf $\mathcal{B}([0,1])$ sei.
   • Die Dezimalbruchentwicklung
     $$\omega=0.x_1x_2x_3\ldots$$
     ist (bis auf eine abzählbare Ausnahmemenge) für fast jedes $\omega\in[0,1]$ eindeutig festgelegt.
   • Dabei heißt $\omega\in[0,1]$ normal, wenn in der Dezimalbruchentwicklung
     $$\omega=0.x_1x_2x_3\ldots$$
     jede endliche Ziffernfolge $a=(a_1,\ldots,a_k)$ mit der relativen Häufigkeit $10^{-k}$ vorkommt.
   • Wir zeigen, dass fast jede Zahl $\omega\in[0,1]$ normal ist,
   • d.h., dass für jedes $k\in\mathbb{N}$ und für jedes $a\in(0,1,\ldots,9)^k$

     $$\lim\limits_{n\to\infty}\frac{1}{n}\sum\limits_{i=1}^n {1\hspace{-1mm}{\rm I}}_{\{a\}}(x_i,x_{i+1},\ldots,x_{i+k-1})=10^{-k}$$ (36)

     
     
     für fast jedes $\omega=0.x_1x_2x_3\ldots$ gilt.
   • Sei $X_i(\omega)=x_i$ die $i$-te Ziffer in der Dezimalbruchentwicklung von $\omega$.
   • Weil für jedes $m\ge 1$ und jedes $b=(b_1,\ldots,b_m)\in(0,\ldots,9)^m$ die Menge
     $$\{X_1=b_1,\ldots,X_m=b_m\}\subset[0,1]$$
     ein Intervall der Länge $10^{-m}$ ist, gilt
     $$P(X_1=b_1,\ldots,X_m=b_m)=10^{-m}=P(X_1=b_1)\ldots P(X_m=b_m)\,.$$

   • Deshalb sind $X_1,X_2,\ldots$ unabhängige und identisch verteilte Zufallsvariable, deren Verteilung die (diskrete) Gleichverteilung auf $\{0,1,\ldots,9\}$ ist.
   • Aus Theorem 5.15 ergibt sich dann sofort die Gültigkeit von (36) für $k=1$.
   • Sei nun $k>1$.
   • Für $a=(a_1,\ldots,a_k)$, für $j\in\{1,\ldots,k\}$ und für $i\ge 0$ setzen wir
     $$Z_i^{(j)}(\omega)={1\hspace{-1mm}{\rm I}}_{\{X_{ik+j}=a_1,\ldots,X_{ik+j+k-1}=a_k\}}(\omega)\,.$$

   • Für jedes $j\in\{1,\ldots,k\}$ sind $Z_1^{(j)},Z_2^{(j)},\ldots$ unabhängige (wegen Theorem 3.18) und identisch verteilte Zufallsvariablen mit
     $$P(Z_i^{(j)}=1)=P(X_{ik+j}=a_1,\ldots,X_{ik+j+k-1}=a_k)=10^{-k}$$
     und somit ${\mathbb{E}\,}Z_i^{(j)}=10^{-k}$.
   • Aus Theorem 5.15 ergibt sich also, dass

     $$\lim\limits_{n\to\infty}\frac{1}{n}\sum\limits_{i=1}^n Z_i^{(j)}(\omega)=10^{-k}$$ (37)

     
     
     für jedes $\omega\in[0,1]\setminus B_j(a)$, wobei $B_j(a)\in\mathcal{B}([0,1])$ eine Ausnahmemenge ist mit

     $$P(B_j(a))=0\,.$$ (38)

     
     

   • Für jedes $k\ge 1$ gibt es nur endlich viele $a$ und endlich viele $j$.
   • Weil deshalb
     $$B=\bigcup\limits_{k,a,j} B_j(a)$$
     die Vereinigung von abzählbar vielen Mengen ist, ergibt sich aus (38), dass auch $P(B)=0$.
   • Wegen (37) gilt nun
     $$\lim\limits_{n\to\infty}\frac{1}{n}\sum\limits_{i=1}^n {1\hspace{-1mm}{\rm I}}_{\{a\}}(x_{ik+j},\ldots,x_{ik+j+k-1}) =10^{-k}$$
     für beliebige $\omega=0.x_1x_2\ldots\in B^c$, $k\ge 1$, $a=(a_1,\ldots,a_k)$ und $j\in\{1,\ldots,k\}$.
   • Hieraus folgt, dass
     $$\lim\limits_{n\to\infty}\frac{1}{n}\sum\limits_{i=1}^n {1\hspace{-1mm}{\rm I}}_{\{a\}}(x_i,\ldots,x_{i+k-1}) =10^{-k}$$
     für beliebige $\omega=0.x_1x_2\ldots\in B^c$, $k\ge 1$ und $a\in(0,1,\ldots,9)^k$.

   
   

6. Erneuerungsprozesse 
   • Seien $X_1,X_2,\ldots:\Omega\to(0,\infty)$ unabhängige und identisch verteilte Zufallsvariable, die nur positive Werte annehmen können; $0<\mu={\mathbb{E}\,}X_1<\infty$.
   • Die Zufallsvariable $X_n$ kann man als Modell für die zufällige Zeitdauer deuten, die zwischen dem $(n-1)$-ten und $n$-ten Eintreten eines biologischen, ökonomischen oder technischen Systems in einen bestimmten (kritischen) Systemzustand vergeht.
   • Im Englischen spricht man dann von interoccurrence time.
   • Beispielsweise kann $X_n$ die zufällige Zeitdauer zwischen dem $(n-1)$-ten und $n$-ten Ausfallzeitpunkt eines technischen Systems sein.
   • Falls das System unmittelbar nach jedem Ausfall vollständig repariert wird, dann kann man $S_n=X_1+\ldots+X_n$ als den $n$-ten Erneuerungszeitpunkt des Systems auffassen.
   • Für jedes $t\ge 0$ ist $N(t)=\sum_{n=1}^\infty {1\hspace{-1mm}{\rm I}}_{\{S_n\le t\}}$ die zufällige Anzahl von Erneuerungen im Intervall $(0,t]$.
   • Die Familie $\{N(t),\,t\ge 0\}$ von Zufallsvariablen heißt Erneuerungszählprozess.
   • Aus Theorem 5.15 folgt, dass mit Wahrscheinlichkeit 1

     $$\lim\limits_{t\to\infty}\frac{N(t)}{t}=\mu^{-1}\,.$$ (39)

     
     

   • Dies ergibt sich aus den folgenden Überlegungen.
   • Für jedes $t>0$ gilt

     $$P(N(t)<\infty)=1\,,$$ (40)

     
     
     denn aus Theorem 5.15 folgt, dass $\lim_{n\to\infty} S_n=\infty$ mit Wahrscheinlichkeit 1.
   • Beachte. Man kann (40) auch auf direktem Wege beweisen, denn es gilt
     

     $$P(N(t)=\infty) = P(S_n\le t,\,\forall n\ge 1)$$

     $$\le P(X_{k(n-1)+1}+\ldots+X_{kn}\le t,\,\forall n\ge 1)$$

     $$= \lim\limits_{m\to\infty}\prod_{n=1}^m P(X_{k(n-1)+1}+\ldots+X_{kn}\le t)$$

     $$= \lim\limits_{m\to\infty} \bigl(P(X_1+\ldots+X_k\le t)\bigr)^m=0\,,$$

     
     
     weil $P(X_1+\ldots+X_k\le t)<1$ für jedes hinreichend große $k\in\mathbb{N}$.
   • Außerdem ist $N(t,\omega)$ für jedes $\omega \in \Omega$ monoton nichtfallend in $t\ge 0$, d.h., der Grenzwert $\lim_{t\to\infty}N(t,\omega)$ existiert für jedes $\omega \in \Omega$.
   • Darüber hinaus gilt mit Wahrscheinlichkeit 1

     $$\lim_{t\to\infty}N(t)=\infty\,,$$ (41)

     
     
     weil
     

     $$P\Bigl(\lim\limits_{t\to\infty}N(t)<\infty\Bigr) = \lim\limits_{k\to\infty}P\Bigl(\lim\limits_{t\to\infty}N(t)<k\Bigr)$$

     $$= \lim\limits_{k\to\infty}\lim\limits_{t\to\infty}P(N(t)<k)$$

     $$= \lim\limits_{k\to\infty}\lim\limits_{t\to\infty}P(S_k>t)$$

     $$\le \lim\limits_{k\to\infty}\lim\limits_{t\to\infty} \bigl(P(X_1>k^{-1}t)+\ldots+P(X_k>k^{-1}t)\bigr)=0\,.$$

     
     

   • Aus Theorem 5.15 folgt also, dass mit Wahrscheinlichkeit 1

     $$\lim\limits_{t\to\infty}\frac{S_{N(t)}}{N(t)}=\mu\;.$$ (42)

     
     

   • Außerdem gilt für beliebige $t\ge 0$ und $n\in\mathbb{N}$

     $$\{N(t)=n\}=\{S_n\le t<S_{n+1}\}\,.$$ (43)

     
     

   • Folglich gilt $S_{N(t)}\le t<S_{N(t)+1}$ bzw.
     $$\frac{S_{N(t)}}{N(t)}\le\frac{t}{N(t)}\le \frac{S_{N(t)+1}}{N(t)+1}\frac{N(t)+1}{N(t)}\qquad\forall t\ge X_1\,.$$

   • Hieraus und aus (42) ergibt sich nun die Gültigkeit von (39).