Inversionsmethode

• Als eine Grundlage zur Erzeugung von Pseudozufallszahlen $x_1,x_2\ldots$, die als Realisierungen von Zufallsvariablen $X_1,X_2\ldots$ aufgefasst werden können,
  • deren Verteilungsfunktion $F:\mathbb{R}\to[0,1]$ eine beliebige monoton nichtfallende und rechtsseitig stetige Funktion ist mit $\lim_{x\to-\infty} F(x)=0$ und $\lim_{x\to\infty} F(x)=1$,
  • kann die folgende Eigenschaft der verallgemeinerten Inversen $F^{-1}$ von $F$ verwendet werden.
• Zur Erinnerung
  • Sei $F:\mathbb{R}\to[0,1]$ eine beliebige Verteilungsfunktion. Dann heißt die Funktion $F^{-1}:(0,1]\to\mathbb{R}\cup\{\infty\}$ mit

    $$F^{-1}(y)=\inf\{x:\, F(x)\ge y\}$$ (9)

    
    
    die verallgemeinerte inverse Funktion der Verteilungsfunktion $F$ (bzw. der zugehörigen Verteilung).
  • Für beliebige $x\in\mathbb{R}$ und $y\in(0,1)$ gilt

    $$y\le F(x) \qquad F^{-1}(y)\le x\,,$$ (10)

    
    
    vgl. Lemma WR-4.1.

Theorem 3.4    

• Sei $U_1,U_2,\ldots$ eine Folge von unabhängigen und $(0,1]$-gleichverteilten Zufallsvariablen, und sei $F:\mathbb{R}\to[0,1]$ eine beliebige Verteilungsfunktion.
• Dann sind die Zufallsvariablen $X_1,X_2,\ldots$ mit $X_i=F^{-1}(U_i)$ für jedes $i=1,2,\ldots$ unabhängig und besitzen die Verteilungsfunktion $F$.

Beweis

 

• Die Unabhängigkeit von $X_1,X_2,\ldots$ ergibt sich unmittelbar aus dem Transformationssatz für unabhängige Zufallsvariablen, vgl. Theorem WR-3.18.
• Außerdem ergibt sich aus (10), dass für beliebige $x\in\mathbb{R}$ und $i\in\mathbb{N}$
  $$P(X_i\le x)=P\bigl(F^{-1}(U_i)\le x\bigr) \stackrel{(\ref{equ.gen.dan})}{=} P\bigl(U_i\le F(x)\bigr)=F(x)\,.$$
  
   
    $\Box$
  
  
  

Beispiele

 

• Wir diskutieren nun einige Beispiele, die verdeutlichen,
  • wie Theorem 3.4 genutzt werden kann, um Pseudozufallszahlen $x_1,x_2\ldots$ zu erzeugen,
  • die als Realisierungen von unabhängigen Zufallsvariablen $X_1,X_2\ldots$ mit einer vorgegebenen Verteilungsfunktion $F:\mathbb{R}\to[0,1]$ aufgefasst werden können.
• Wir sprechen dann kurz von $F$-verteilten Pseudozufallszahlen $x_1,x_2\ldots$,
  • obwohl die empirische Veteilungsfunktion $\widehat F_n$ der (konkreten) Stichprobe $x_1,\ldots,x_n$
  • selbst für große $n$ natürlich nur näherungsweise mit $F$ übereinstimmt.
• Dabei kann Theorem 3.4 nur dann direkt angewendet werden, wenn
  • sich die verallgemeinerte inverse Funktion $F^{-1}$ von $F$ explizit (d.h. durch eine geschlossene Formel) bestimmen lässt,
  • was jedoch eher eine Ausnahmesituation ist.

1. Exponentialverteilung
   • Sei $\lambda>0$ und $F:\mathbb{R}\to[0,1]$ die Verteilungsfunktion der Exp$(\lambda)$-Verteilung mit
     $$F(x)=\left\{\begin{array}{ll} 1-e^{-\lambda x}\,, &\mbox{falls $x\ge 0$,}\\ 0\,, &\mbox{falls $x<0$.} \end{array}\right.$$

   • Dann gilt $F^{-1}(u)=-\lambda^{-1}\log (1-u)$ für jedes $u\in(0,1]$.
   • Gemäß Theorem 3.4 gilt also
     • für die Zufallsvariable $X=-\lambda^{-1}\log U\sim$ Exp$(\lambda)$, falls $U$ und somit auch $1-U$ in $(0,1]$ gleichverteilte Zufallsvariablen sind,
     • und die Pseudozufallszahlen $x_1,\ldots,x_n$ mit
       $$x_i=-\;\frac{\log u_i}{\lambda}$$   $$\mbox{für $i=1,\ldots,n$}$$$$$$
       können als Realisierungen von unabhängigen und Exp$(\lambda)$-verteilten Zufallsvariablen aufgefasst werden,
     • falls $u_1,\ldots,u_n$ die Realisierungen von unabhängigen, in $(0,1]$ gleichverteilten Zufallsvariablen $U_1,\ldots,U_n$ sind.

   
   

2. Erlang-Verteilung
   • Sei $\lambda>0$ und $r\in\mathbb{N}$, und sei $F:\mathbb{R}\to[0,1]$ die Verteilungsfunktion der Erlang-Verteilung, d.h. der $\Gamma(\lambda,r)$-Verteilung mit

     $$F(x)=\left\{\begin{array}{ll} \int\limits_0^x\displaystyle\frac{\... ...\;dv\,, &\mbox{falls $x\ge 0$,}\\ 0\,, &\mbox{falls $x<0$.} \end{array}\right.$$ (11)

     
     

   • Dann lässt sich die verallgemeinerte inverse Funktion $F^{-1}$ von $F$ nicht explizit bestimmen, und somit kann Theorem 3.4 nicht direkt angewendet werden.
   • In Abschnitt 1.3.1 der Vorlesung ,,Statistik I'' hatten wir jedoch gezeigt, dass $X_1+\ldots+X_r\sim\Gamma(\lambda,r)$, falls die Zufallsvarialen $X_1,\ldots,X_r$ unabhängig und Exp$(\lambda)$-verteilt sind.
   • Gemäß Theorem 3.4 können also
     • die Pseudozufallszahlen $y_1,\ldots,y_n$ mit
       $$y_i=x_{r(i-1)+1}+\ldots+ x_{ri}=-\;\frac{\log \bigl(u_{r(i-1)+1}\cdot\ldots\cdot u_{ri}\bigr)}{\lambda}\qquad \mbox{für $i=1,\ldots,n$}$$
       als Realisierungen von unabhängigen und $\Gamma(\lambda,r)$-verteilten Zufallsvariablen aufgefasst werden,
     • falls $u_1,\ldots,u_{rn}$ die Realisierungen von unabhängigen, in $(0,1]$ gleichverteilten Zufallsvariablen $U_1,\ldots,U_{rn}$ sind.
     • Für $\lambda=1/2$ können die Pseudozufallszahlen $y_1,\ldots,y_n$ somit insbesondere als Realisierungen von unabhängigen und $\chi^2_{2r}$-verteilten Zufallsvariablen aufgefasst werden.

   
   

3. Normalverteilung
   • Zur Erzeugung von normalverteilten Pseudozufallszahlen gibt es beispielsweise den folgenden Box-Muller-Algorithmus, der ebenfalls exponentialverteilte Pseudozufallszahlen mit in die Überlegungen einbezieht.
   • Die Zufallsvariablen $U_1,U_2$ seien unabhängig und im Intervall $(0,1]$ gleichverteilt.
     • Gemäß Theorem 3.4 ist dann $X=-2\log U_1$ eine Exp$(1/2)$-verteilte Zufallsvariable, und
     • der Zufallsvektor $(Y_1,Y_2)$ mit
       $$Y_1=\sqrt{X}\cos(2\pi U_2)\,,\qquad Y_2=\sqrt{X}\sin(2\pi U_2)$$
       ist N $({\mathbf{o}},{\mathbf{I}})$-verteilt, d.h. $Y_1$, $Y_2$ sind unabhängige und N$(0,1)$-verteilte Zufallsvariablen,
     • denn für beliebige $y_1,y_2\in\mathbb{R}$ gilt
       

       $$P(Y_1\le y_1,\, Y_2\le y_2) = P\Bigl(\sqrt{-2\log U_1}\cos(2\pi U_2)\le y_1,\, \sqrt{-2\log U_1}\sin(2\pi U_2)\le y_2\Bigr)$$

       $$= \frac{1}{2}\;\int\limits_0^1\int\limits_0^\infty {1\hspace{-1mm}{... ...sqrt{x}\cos(2\pi u)\le y_1,\, \sqrt{x}\sin(2\pi u)\le y_2\Bigr)e^{-x/2}\,dx\,du$$

       $$= \frac{1}{2\pi}\;\int\limits_{-\infty}^{y_2}\int\limits_{-\infty}^{y_1} e^{-(v^2+w^2)/2}\,dv\,dw$$

       $$= \frac{1}{\sqrt{2\pi}}\;\int\limits_{-\infty}^{y_1} e^{-v^2/2}\,dv\; \frac{1}{\sqrt{2\pi}}\;\int\limits_{-\infty}^{y_2} e^{-w^2/2}\,dw\,,$$

       
       
       wobei sich die vorletzte Gleichheit mit der Substitution
       $$v=\sqrt{x}\cos(2\pi u)\,,\qquad w=\sqrt{x}\sin(2\pi u)$$
       ergibt, deren Funktionaldeterminante gleich $\pi$ ist.
   • Die Pseudozufallszahlen $y_1,\ldots,y_{2n}$ mit

     $$y_{2k-1}=\sqrt{-2\log u_{2k-1}}\cos(2\pi u_{2k})\,,\qquad y_{2k}=\sqrt{-2\log u_{2k-1}}\sin(2\pi u_{2k})$$ (12)

     
     
     • können somit als Realisierungen von unabhängigen und N$(0,1)$-verteilten Zufallsvariablen aufgefasst werden,
     • falls $u_1,\ldots,u_{2n}$ die Realisierungen von unabhängigen und im Intervall $(0,1]$ gleichverteilten Zufallsvariablen $U_1,\ldots,U_{2n}$ sind.
   • Für beliebige $\mu\in\mathbb{R}$ und $\sigma^2>0$ können dann die Pseudozufallszahlen $y^\prime_1,\ldots,y^\prime_{2n}$ mit $y_i^\prime=\sigma(y_i+\mu)$ als Realisierungen von unabhängigen und N $(\mu,\sigma^2)$-verteilten Zufallsvariablen aufgefasst werden.

     
     

   • Beachte 
     • Ein schnellerer Algorithmus zur Erzeugung von normalverteilten Pseudozufallszahlen ergibt sich,
     • wenn zusätzlich die im folgenden Abschnitt 3.2.3 diskutierte Akzeptanz- und Verwerfungsmethode angewendet wird,
     • weil dann die (relativ zeitaufwendige) Berechnung der trigonometrischen Funktionen in (12) vermieden werden kann.