Charakteristische Funktionen

Charakteristische Funktionen sind ein wichtiges analytisches Hilfsmittel in der Stochastik, insbesondere bei der Herleitung des zentralen Grenzwertsatzes für Summen von unabhängigen, jedoch nichtnotwendig identisch verteilten Zufallsvariablen; vgl. die Abschnitte 5.3.4 und 5.3.5.

• In diesem Zusammenhang betrachten wir Funktionen, die Werte in der Menge $\mathbb{C}$ der komplexen Zahlen annehmen.
• Für jedes $z=x+{\rm i}\,y\in\mathbb{C}$ bezeichne dabei $\mathcal{R}z=x$ bzw. $\mathcal{I}z=y$ den Realteil bzw. den Imaginärteil von $z$.
• Außerdem sei $\overline z=x-{\rm i}\,y\in\mathbb{C}$ die zu $z=x+{\rm i}\,y\in\mathbb{C}$ konjugiert komplexe Zahl.
• Es gilt $\overline{z}=z$ genau dann, wenn $\mathcal{I}z=0$, d.h., wenn $z\in\mathbb{R}$.
• Der Betrag $\vert z\vert$ von $z\in\mathbb{C}$ ist gegeben durch
  $$\vert z\vert=\sqrt{x^2+y^2}\,,$$
  d.h. $\vert z\vert^2=z\overline z$.
• Eine wichtige Rolle spielt die komplexe Exponentialfunktion $e^{{\rm i}\,t}$, die gegeben ist durch $e^{{\rm i}\,t}=\cos t+{\rm i}\,\sin t$ für jedes $t\in\mathbb{R}$.
• Dabei gilt für jedes $t\in\mathbb{R}$
  $$e^{-{\rm i}\,t}=\overline{e^{{\rm i}\,t}}\,,\qquad \vert e^{{\rm i}\,t}\vert= 1$$
  und für beliebige $z,z^\prime\in\mathbb{C}$
  $$e^{z+z^\prime}=e^{z}e^{z^\prime}\,.$$

• Außerdem gilt die Taylor-Reihenentwicklung

  $$e^{{\rm i}\,t}=\sum\limits_{n=0}^\infty \frac{({\rm i}\,t)^n}{n!} \qquad\forall t\in\mathbb{R}\,.$$ (77)

  
  

Definition

$\;$ Sei $X:\Omega\to\mathbb{R}$ eine beliebige Zufallsvariable. Die charakteristische Funktion $\varphi_X:\mathbb{R}\to\mathbb{C}$ von $X$ ist dann gegeben durch

$$\varphi_X(t)={\mathbb{E}\,}e^{{\rm i}\,tX}=\int\limits_{-\infty}^\infty e^{{\rm i}\, tx} \, dF_X(x)\,,$$ (78)

wobei das Integral als Lebesgue-Stieltjes-Integral aufgefasst wird.

Beachte

 

• Der Erwartungswert ${\mathbb{E}\,}e^{{\rm i}\,tX}$ der Zufallsvariablen $e^{{\rm i}\,tX}:\Omega\to\mathbb{C}$ in (78) wird jeweils separat für den Realteil bzw. den Imaginärteil gebildet, d.h.
  $${\mathbb{E}\,}e^{{\rm i}\,tX}=\int\limits_{-\infty}^\infty \cos(tx) \, dF_X(x)+{\rm i}\,\int\limits_{-\infty}^\infty \sin(tx) \, dF_X(x)\,.$$

• Weil die Funktionen $\sin:\mathbb{R}\to[-1,1]$ und $\cos:\mathbb{R}\to[-1,1]$ beschränkt und stetig sind, ist der Erwartungswert ${\mathbb{E}\,}e^{{\rm i}\,tX}$ für jede Zufallsvariable $X:\Omega\to\mathbb{R}$ wohldefiniert, ohne dass es einer zusätzlichen Integrierbarkeitsbedingung bedarf.

Wir zeigen zunächst einige elementare Eigenschaften von charakteristischen Funktionen.

Theorem 5.17   Sei $X:\Omega\to\mathbb{R}$ eine beliebige Zufallsvariable, und seien $a,b\in\mathbb{R}$ beliebige reelle Zahlen. Dann gilt:

1.

Für jedes $t\in\mathbb{R}$ ist

$$\vert\varphi_X(t)\vert\le \varphi_X(0)=1$$ (79)

und

$$\varphi_X(-t)=\overline{\varphi_X(t)}\,.$$ (80)

2.

Die charakteristische Funktion $\varphi_X:\mathbb{R}\to\mathbb{C}$ ist gleichmäßig stetig.

3.

Für die charakteristische Funktion $\varphi_Y$ von $Y=aX+b$ gilt

$$\varphi_Y(t)=e^{{\rm i}\,tb}\varphi_X(at)\qquad\forall t\in\mathbb{R}\,.$$ (81)

Beweis

 

• Die Gültigkeit von (79) ergibt sich aus der Jensen-Ungleichung (4.71), denn für jedes $t\in\mathbb{R}$ gilt
  

  $$\vert\varphi_X(t)\vert^2 = \Bigl\vert\int\limits_{-\infty}^\infty \cos(tx) \, dF_X(x)+{\rm i}\, \int\limits_{-\infty}^\infty \sin(tx) \, dF_X(x)\Bigr\vert^2$$

  $$= \Bigl(\int\limits_{-\infty}^\infty \cos(tx) \, dF_X(x)\Bigr)^2+\Bigl(\int\limits_{-\infty}^\infty \sin(tx) \, dF_X(x)\Bigr)^2$$

  $$\le \int\limits_{-\infty}^\infty \cos^2(tx) \, dF_X(x)+\int\limits_{-\infty}^\infty \sin^2(tx) \, dF_X(x)$$

  $$= \int\limits_{-\infty}^\infty \bigl((\cos^2(tx)+\sin^2(tx)\bigr) \, dF_X(x) =1\qquad\Bigl(=\varphi_X(0)\Bigr)\,.$$

  
  

• Die Gleichung (80) ergibt sich auf ähnliche Weise, denn es gilt für jedes $t\in\mathbb{R}$
  

  $$\varphi_X(-t) = {\mathbb{E}\,}e^{-{\rm i}\,tX}$$

  $$= \int\limits_{-\infty}^\infty \cos(-tx) \, dF_X(x)+{\rm i}\, \int\limits_{-\infty}^\infty \sin(-tx) \, dF_X(x)$$

  $$= \int\limits_{-\infty}^\infty \cos(tx) \, dF_X(x)-{\rm i}\, \int\limits_{-\infty}^\infty \sin(tx) \, dF_X(x)$$

  $$= \overline{{\mathbb{E}\,}e^{{\rm i}\,tX}}=\overline{\varphi_X(t)}\,.$$

  
  

• Außerdem gilt für beliebige $t,h\in\mathbb{R}$
  

  $$\vert\varphi_X(t+h)-\varphi_X(t)\vert = \vert{\mathbb{E}\,}e^{{\rm i}\,(t+h)X}-{\mathbb{E}\,}e^{{\rm i}\, tX}\vert$$

  $$= \vert{\mathbb{E}\,}\bigl(e^{{\rm i}\,tX}(e^{{\rm i}\,hX}-1)\bigr)\vert$$

  $$\le {\mathbb{E}\,}\bigl(\vert e^{{\rm i}\,tX}\vert \vert e^{{\rm i}\,hX}-1\vert\bigr)$$

  $$= {\mathbb{E}\,}\vert e^{{\rm i}\,hX}-1\vert\,.$$

  
  

• Hieraus ergibt sich die gleichmäßige Stetigkeit von $\varphi_X$, weil wegen des Satzes von Lebesgue über die beschränkte Konvergenz
  $$\lim\limits_{h\to 0}{\mathbb{E}\,}\vert e^{{\rm i}\,hX}-1\vert= 0\,.$$

• Für die charakteristische Funktion $\varphi_Y$ von $Y=aX+b$ gilt
  $$\varphi_Y(t)={\mathbb{E}\,}e^{{\rm i}\,t(aX+b)} ={\mathbb{E}\,}\b... ...{{\rm i}\,tb}{\mathbb{E}\,}e^{{\rm i}\,taX} = e^{{\rm i}\, tb}\varphi_X(at)\,.$$
  
   
    $\Box$
  
  
  

Beispiel

 

• Sei $X$ eine N $(\mu,\sigma^2)$-verteilte Zufallsvariable; $\mu\in\mathbb{R}$, $\sigma^2>0$.
• Dann gilt

  $$\varphi_X(t)=e^{{\rm i}\,t\mu}e^{-\sigma^2t^2/2}\qquad\forall t\in\mathbb{R}\,.$$ (82)

  
  

• Wegen (81) genügt es zu zeigen, dass

  $$\varphi_X(t)=e^{-t^2/2}\qquad\forall t\in\mathbb{R}\,,$$ (83)

  
  
  falls $\mu=0$ und $\sigma^2=1$.
• Sei also $X$ nun eine N$(0,1)$-verteilte Zufallsvariable.
• Dann gilt

  $${\mathbb{E}\,}(X^{2n-1})=0$$ (84)

  
  
  und

  $${\mathbb{E}\,}(X^{2n})= \frac{1}{\sqrt{2\pi}} \int\limits_{-\infty}^\infty x^{2n} e^{-x^2/2}\, dx=\frac{(2n)!}{2^n n!}$$ (85)

  
  
  für jedes $n\in\mathbb{N}$; vgl. Übgungsaufgabe 13.1.
• Aus der Taylor-Reihenentwicklung (77) und aus (84)-(85) ergibt sich nun, dass
  

  $$\varphi_X(t) = {\mathbb{E}\,}e^{{\rm i}\,tX}$$

  $$= \frac{1}{\sqrt{2\pi}} \int\limits_{-\infty}^\infty e^{{\rm i}\,tx}e^{-x^2/2}\, dx$$

  $$= \frac{1}{\sqrt{2\pi}} \int\limits_{-\infty}^\infty \sum\limits_{n=0}^\infty \frac{({\rm i}\,tx)^n}{n!}e^{-x^2/2}\, dx$$

  $$= \sum\limits_{n=0}^\infty \frac{({\rm i}\, t)^n}{n!}\frac{1}{\sqrt{2\pi}} \int\limits_{-\infty}^\infty x^n e^{-x^2/2}\, dx$$

  $$= \sum\limits_{n=0}^\infty \frac{({\rm i}\, t)^{2n}(2n)!}{(2n)!2^n n!}$$

  $$= \sum\limits_{n=0}^\infty \Bigl(-\,\frac{t^2}{2}\Bigr)^n\,\frac{1}{n!}=e^{-t^2/2}\,.$$

  
  

• Damit ist (83) und folglich auch (82) bewiesen.

Wir leiten nun eine einfache Formel für die charakteristische Funktion von Summen von unabhängigen Zufallsvariablen her.

Theorem 5.18   Seien $X,Y:\Omega\to\mathbb{R}$ unabhängige Zufallsvariablen. Dann gilt für jedes $t\in\mathbb{R}$

$$\varphi_{X+Y}(t)=\varphi_{X}(t)\varphi_{Y}(t)\,.$$ (86)

Beweis

$\;$ Weil $X$ und $Y$ unabhängig sind, sind wegen Theorem 3.18 auch die Zufallsvariablen $\cos(tX)$ und $\cos(tY)$, $\sin(tX)$ und $\sin(tY)$ bzw. $\sin(tX)$ und $\cos(tY)$ jeweils unabhängig, und für jedes $t\in\mathbb{R}$ gilt somit

$$\varphi_{X+Y}(t) = {\mathbb{E}\,}e^{{\rm i}\,t(X+Y)} = {\mathbb{E}\,}\bigl(e^{{\rm i}\,tX}e^{{\rm i}\,tY}\bigr)$$

$$= {\mathbb{E}\,}\bigl((\cos(tX)+{\rm i}\,\sin(tX))(\cos(tY)+{\rm i}\, \sin(tY))\bigr)$$

$$= {\mathbb{E}\,}\bigl(\cos(tX)\cos(tY)-\sin(tX)\sin(tY)$$

$$\hspace{1cm} +{\rm i}\,\sin(tX)\cos(tY)+{\rm i}\,\cos(tX) \sin(tY)\bigr)$$

$$= {\mathbb{E}\,}\cos(tX){\mathbb{E}\,}\cos(tY)-{\mathbb{E}\,}\sin(tX){\mathbb{E}\,}\sin(tY)$$

$$\hspace{1cm} +{\rm i}\, {\mathbb{E}\,}\sin(tX){\mathbb{E}\,}\cos(tY)+{\rm i}\,{\mathbb{E}\,}\cos(tX) {\mathbb{E}\,}\sin(tY)$$

$$= {\mathbb{E}\,}(\cos(tX)+{\rm i}\,\sin(tX)){\mathbb{E}\,}(\cos(tY)+{\rm i}\,\sin(tY)) =\varphi_{X}(t)\varphi_{Y}(t)\,.$$

 
  $\Box$

In Theorem 5.19 beweisen wir eine nützliche Umkehrformel für charakteristische Funktionen. Hierfür benötigen wir die folgende trigonometrische Identität.

Lemma 5.10   Für jedes $c\in\mathbb{R}$ gilt

$$\int\limits_0^\infty \frac{\sin(cx)}{x}\, dx=({\rm sgn\,} c)\,\frac{\pi}{2}\;,$$ (87)

wobei

$${\rm sgn\,} c=\left\{\begin{array}{rl} 1 \,,&\mbox{falls $c>0$,}\... ... &\mbox{falls $c=0$,}\\ [1\jot] -1\,, &\mbox{falls $c<0$.} \end{array}\right.$$

Einen Beweis von Lemma 5.10 kann man beispielsweise in dem Buch von K.L. Chung (A Course in Probability Theory, Academic Press, New York 1974) finden.

Theorem 5.19   Sei $X:\Omega\to\mathbb{R}$ eine beliebige Zufallsvariable mit der Verteilungsfunktion $F_X$. Für beliebige Stetigkeitspunkte $a,b\in\mathbb{R}$ von $F_X$ mit $a<b$ gilt

$$P(a<X<b)=\lim\limits_{c\to\infty}\frac{1}{2\pi}\int\limits_{-c}^c\frac{e^{-{\rm i}\, ta}-e^{-{\rm i}\,tb}}{{\rm i}\,t}\,\varphi_X(t)\, dt\,,$$ (88)

wobei $\varphi_X:\mathbb{R}\to\mathbb{C}$ die charakteristische Funktion von $X$ ist.

Beweis

 

• Für beliebige $a,b,c\in\mathbb{R}$ mit $a<b$ und $c>0$ gilt
  

  $$\frac{1}{2\pi}\int\limits_{-c}^c\frac{e^{-{\rm i}\,ta}-e^{-{\rm i}\, tb}}{{\rm i}\,t}\,\varphi_X(t)\, dt = \int\limits_{-\infty}^\infty\Bigl( \frac{1}{2\pi}\int\limits_{-c}^c\frac{e^{{\rm i}\,t(x-a)}-e^{{\rm i}\, t(x-b)}}{{\rm i}\,t}\, dt\Bigr)\, dF_X(x)$$

  $$= \int\limits_{-\infty}^\infty\Bigl( \frac{1}{\pi}\int\limits_0^c\f... ..., dt- \frac{1}{\pi}\int\limits_0^c\frac{\sin (t(x-b))}{t}\, dt \Bigr)\, dF_X(x)$$

  
  

• Wegen Lemma 5.10 ist die Funktion $\varphi:[0,\infty)\to\mathbb{R}$ mit
  $$\varphi(x)=\frac{1}{\pi}\int\limits_0^x\frac{\sin (t(x-a))}{t}\, dt$$
  beschränkt für jedes $a\in\mathbb{R}$.
• Aus dem Satz von Lebesgue über die beschränkte Konvergenz ergibt sich also, dass
  

  $${ \lim\limits_{c\to\infty}\frac{1}{2\pi}\int\limits_{-c}^c\frac{e^{-{\rm i}\, ta}-e^{-{\rm i}\,tb}}{{\rm i}\,t}\,\varphi_X(t)\, dt}$$

  $$= \lim\limits_{c\to\infty} \int\limits_{-\infty}^\infty\Bigl( \frac... ..., dt- \frac{1}{\pi}\int\limits_0^c\frac{\sin (t(x-b))}{t}\, dt \Bigr)\, dF_X(x)$$

  $$= \int\limits_{-\infty}^\infty\Bigl( \frac{1}{\pi}\lim\limits_{c\to... ...limits_{c\to\infty}\int\limits_0^c\frac{\sin (t(x-b))}{t}\, dt \Bigr)\, dF_X(x)$$

  $$= \int\limits_{-\infty}^\infty\Bigl( \frac{1}{\pi}\int\limits_0^\in... ...rac{1}{\pi}\int\limits_0^\infty\frac{\sin (t(x-b))}{t}\, dt \Bigr)\, dF_X(x)\,.$$

  
  

• Aus Lemma 5.10 ergibt sich nun, dass
  

  $${ \lim\limits_{c\to\infty}\frac{1}{2\pi}\int\limits_{-c}^c\frac{e^{-{\rm i}\, ta}-e^{-{\rm i}\,tb}}{{\rm i}\,t}\,\varphi_X(t)\, dt}$$

  $$= \int\limits_{(-\infty,a)}\Bigl(\frac{1}{\pi}\frac{-\pi}{2}-\frac{... ... dF_X(x)+\int\limits_{\{a\}}\Bigl(0-\frac{1}{\pi}\frac{-\pi}{2}\Bigr)\, dF_X(x)$$

  $$+\int\limits_{(a,b)}\Bigl(\frac{1}{\pi}\frac{\pi}{2}-\frac{1}{\pi}\frac{-\pi}{2}\Bigr)\, dF_X(x)$$

  $$+ \int\limits_{\{b\}}\Bigl(\frac{1}{\pi}\frac{\pi}{2}-0\Bigr)\, d... ...ty)}\Bigl(\frac{1}{\pi}\frac{\pi}{2}-\frac{1}{\pi}\frac{\pi}{2}\Bigr)\, dF_X(x)$$

  $$= \int\limits_{(a,b)}\Bigl(\frac{1}{\pi}\frac{\pi}{2}-\frac{1}{\pi}\frac{-\pi}{2}\Bigr)\, dF_X(x)$$

  $$= P(a<X<b)\,,$$

  
  
  wobei sich die vorletzte Gleichheit aus der Annahme ergibt, dass $a$ und $b$ Stetigkeitspunkte von $F_X$ sind.
  
  $\Box$

Beachte

 

• Aus Theorem 5.19 ergibt sich der folgende Eindeutigkeitssatz für charakteristische Funktionen.
• D.h., die Verteilung $P_X$ einer Zufallsvariablen $X$ ist eindeutig durch die charakteristische Funktion $\varphi_X$ von $X$ bestimmt.

Korollar 5.5   Seien $X,Y:\Omega\to\mathbb{R}$ beliebige Zufallsvariablen. Dann gilt $X\stackrel{{\rm d}}{=}Y$, falls

$$\varphi_X(t)=\varphi_Y(t)\qquad\forall\, t\in\mathbb{R}\,.$$ (89)

Beweis

 

• Aus (89) und aus Theorem 5.19 ergibt sich, dass

  $$F_X(b)-F_X(a)=F_Y(b)-F_Y(a)\,,$$ (90)

  
  
  falls $a$ und $b$ Stetigkeitspunkte von $F_X$ und $F_Y$ sind.
• Weil jede Verteilungsfunktion höchstens abzählbar unendlich viele Sprungstellen hat, gibt es eine Folge $\{a_n\}$ von Stetigkeitspunkten von $F_X$ und $F_Y$ mit $a_n\to-\infty$.
• Hieraus und aus (90) folgt dass für jeden Stetigkeitspunkt $b$ von $F_X$ und $F_Y$
  $$F_X(b)=F_Y(b)\,.$$

• Damit gilt auch $F_X(x)=F_Y(x)$ für jedes $x\in\mathbb{R}$, weil $F_X$ und $F_Y$ rechtsstetige Funktionen sind.
• Wegen des eineindeutigen Zusammenhanges zwischen Verteilung und Verteilungsfunktion (vgl. Theorem 3.4) ergibt sich hieraus die Behauptung.
  
  $\Box$

Aus Theorem 5.19 ergibt sich schließlich der folgende Stetigkeitssatz für charakteristische Funktionen.

Theorem 5.20   Seien $X,X_1,X_2,\ldots:\Omega\to\mathbb{R}$ beliebige Zufallsvariablen. Es gilt $X_n\stackrel{{\rm d}}{\longrightarrow}X$ genau dann, wenn

$$\lim\limits_{n\to\infty}\varphi_{X_n}(t)=\varphi_X(t)\qquad\forall\, t\in\mathbb{R}\,.$$ (91)

Beweis

 

• Die Notwendigkeit der Behauptung ergibt sich unmittelbar aus dem Kriterium der Verteilungskonvergenz, das in Theorem 5.7 hergeleitet wurde.
• Denn für jedes $t\in\mathbb{R}$ sind $\cos(tx)$ und $\sin(tx)$ stetige und beschränkte Funktionen in $x$.
• Wegen Theorem 5.7 folgt also aus $X_n\stackrel{{\rm d}}{\longrightarrow}X$, dass für jedes $t\in\mathbb{R}$
  

  $$\varphi_{X_n}(t) = {\mathbb{E}\,}\cos(tX_n)+{\rm i}\,{\mathbb{E}\,}\sin(tX_n)$$

  $$\to {\mathbb{E}\,}\cos(tX)+{\rm i}\,{\mathbb{E}\,}\sin(tX)$$

  $$= \varphi_{X}(t)\,.$$

  
  

• Um die Hinlänglichkeit der Bedingung zu beweisen, zeigen wir zunächst, dass

  $$F_{X_n}(b)-F_{X_n}(a)\to F_X(b)-F_X(a)$$ (92)

  
  
  für alle $a,b\in\mathbb{R}$ mit $a<b$ gilt, die Stetigkeitspunkte von $F_{X_n}$ für jedes $n\in\mathbb{R}$ und Stetigkeitspunkte von $F_{X}$ sind.
• Für solche $a,b\in\mathbb{R}$ ergibt sich aus der Umkehrformel (88) in Theorem 5.19, dass
  

  $$F_X(b)-F_X(a) = \lim\limits_{c\to\infty}\frac{1}{2\pi}\int\limits_{-c}^c\frac{e^{-{\rm i}\, ta}-e^{-{\rm i}\,tb}}{{\rm i}\,t}\,\varphi_X(t)\, dt$$

  $$= \lim\limits_{c\to\infty}\frac{1}{2\pi}\int\limits_{-c}^c\frac{e^{... ...i}\,tb}}{{\rm i}\,t}\,\Bigl(\lim\limits_{n\to\infty}\varphi_{X_n}(t)\Bigr)\, dt$$

  $$= \lim\limits_{n\to\infty}\lim\limits_{c\to\infty}\frac{1}{2\pi}\in... ...}^c\frac{e^{-{\rm i}\, ta}-e^{-{\rm i}\,tb}}{{\rm i}\,t}\,\varphi_{X_n}(t)\, dt$$

  $$= \lim\limits_{n\to\infty}\bigl(F_{X_n}(b)-F_{X_n}(a)\bigr)\,,$$

  
  
  wobei sich die vorletzte Gleichheit aus dem Satz von Lebesgue über die beschränkte Konvergenz und die letzte Gleichheit durch die erneute Anwendung der Umkehrformel (88) in Theorem 5.19 ergibt.
• Weil dann (92) für alle $a,b\in\mathbb{R}$ mit $a<b$ bis auf höchstens abzählbar unendlich viele Ausnahmepunkte gilt, ergibt sich genauso wie im ersten Teil des Beweises von Theorem 5.7, dass (92) auch für alle $a,b\in\mathbb{R}$ mit $a<b$ gilt, die Stetigkeitspunkte von $F_{X}$ sind.
  
  $\Box$

Wir betrachten nun noch den Zusammenhang zwischen den Momenten und der charakteristischen Funktion von Zufallsvariablen. Dabei zeigen wir, wie die charakteristische Funktion in eine Taylor-Reihe entwickelt werden kann.

Theorem 5.21   Sei $X:\Omega\to\mathbb{R}$ eine beliebige Zufallsvariable mit der Verteilungsfunktion $F_X$. Falls ${\mathbb{E}\,}(\vert X\vert^n)<\infty$ für ein $n\in\mathbb{N}$, dann gilt:

1.

Die charakteristische Funktion $\varphi_X$ von $X$ ist $n$-mal stetig differenzierbar, und

2.

für jedes $k\in\{1,\ldots,n\}$

$$\varphi_X^{(k)}(t)=\int\limits_{-\infty}^\infty({\rm i}\,x)^k e^{{\rm i}\, tx}\, dF_X(x)\qquad\forall t\in\mathbb{R}$$ (93)

bzw.

$${\mathbb{E}\,}(X^k)=\frac{\varphi_X^{(k)}(0)}{{\rm i}\,^k}\;.$$ (94)

3.

Außerdem gilt die Taylor-Reihenentwicklung

$$\varphi_X(t)=\sum\limits_{k=0}^n\frac{({\rm i}\, t)^k}{k!}{\mathb... ...\rm i}\, t)^n}{n!}{\mathbb{E}\,}\varepsilon_n(t)\qquad\forall t\in\mathbb{R}\,,$$ (95)

wobei $\varepsilon_n(t):\Omega\to\mathbb{R}$ eine Zufallsvariable ist mit $\vert\varepsilon_n(t)\vert\le 3\vert X\vert^n$ für jedes $t\in\mathbb{R}$ und $\lim_{t\to 0}{\mathbb{E}\,}\varepsilon_n(t)=0$.

Beweis

 

• Aus ${\mathbb{E}\,}(\vert X\vert^n)<\infty$ und aus der Ljapunow-Ungleichung (4.67) folgt, dass ${\mathbb{E}\,}(\vert X\vert^k)<\infty$ für jedes $k\in\{1,\ldots,n\}$.
• Außerdem gilt für beliebige $t,h\in\mathbb{R}$ mit $h\not=0$

  $$\frac{\varphi_X(t+h)-\varphi_X(t)}{h}={\mathbb{E}\,}\Bigl(e^{{\rm i}\,tX}\; \frac{e^{{\rm i}\,hX}-1}{h}\Bigr)\,.$$ (96)

  
  

• Weil für beliebige $h,x\in\mathbb{R}$
  $$\Bigl\vert\frac{e^{{\rm i}\,hx}-1}{h}\Bigr\vert\le \vert x\vert$$
  und weil ${\mathbb{E}\,}\vert X\vert<\infty$ gilt, ergibt sich aus (96) und aus dem Satz von Lebesgue über die beschränkte Konvergenz, dass
  

  $$\lim\limits_{h\to 0} \frac{\varphi_X(t+h)-\varphi_X(t)}{h} = {\mathbb{E}\,}\Bigl(e^{{\rm i}\, tX}\;\lim\limits_{h\to 0} \frac{e^{{\rm i}\, hX}-1}{h}\Bigr)$$

  $$= {\mathbb{E}\,}\bigl(({\rm i}\,X)e^{{\rm i}\,tX}\bigr)$$

  $$= \int\limits_{-\infty}^\infty ({\rm i}\,x) e^{{\rm i}\,tx}\, dF_X(x)\,.$$

  
  

• Damit ist (93) bzw. (94) für $k=1$ bewiesen.
• Der Beweis von (93) bzw. (94) für jedes $k\in\{1,\ldots,n\}$ erfolgt nun mittels vollständiger Induktion.
• Um (95) zu beweisen, betrachten wir die folgende Taylor-Reihenentwicklung von $\cos$ bzw. $\sin$.
• Für jedes $x\in\mathbb{R}$ gilt
  $$e^{{\rm i}\,x}=\cos x+{\rm i}\,\sin x=\sum\limits_{k=0}^{n-1}\fra... ...ac{({\rm i}\,x)^n}{n!}\,\bigl(\cos (\theta_1x)+{\rm i}\,\sin (\theta_2x)\bigr)$$
  mit $\vert\theta_1\vert,\vert\theta_2\vert\le 1$.
• Hieraus folgt, dass für jedes $t\in\mathbb{R}$
  $${\mathbb{E}\,}e^{{\rm i}\,tX}=\sum\limits_{k=0}^{n-1}\frac{({\rm ... ..., t)^n}{n!}\,\bigl({\mathbb{E}\,}(X^n)+{\mathbb{E}\,}\varepsilon_n(t)\bigr)\,,$$
  wobei

  $$\varepsilon_n(t)=X^n\bigl(\cos (\Theta_1 tX)+{\rm i}\,\sin (\Theta_2 tX)-1\bigr)$$ (97)

  
  
  und $\Theta_1,\Theta_2:\Omega\to\mathbb{R}$ Zufallsvariablen sind mit $P(\vert\Theta_1\vert,\vert\Theta_2\vert\le 1)=1$.
• Aus (97) ergibt sich, dass für jedes $t\in\mathbb{R}$
  $$\varepsilon_n(t)\le 3\vert X\vert^n\,.$$

• Hieraus und aus dem Satz von Lebesgue über die majorisierte Konvergenz folgt, dass $\lim_{t\to 0}{\mathbb{E}\,}\varepsilon_n(t)=0$.
• Damit ist (95) bewiesen.
  
  $\Box$

Beachte

 

• Mit Hilfe der Eigenschaften charakteristischer Funktionen, die in den Theoremen  5.18, 5.20 und 5.21 bewiesen wurden, kann nun der zentrale Grenzwertsatz in Theorem 5.16 für Summen von unabhängigen und identisch verteilten Zufallsvariablen ohne weiteres hergeleitet werden.
• Zur Erinnerung: In Theorem 5.16 hatten wir gezeigt, dass für jede Folge $X_1,X_2,\ldots:\Omega\to\mathbb{R}$ von unabhängigen und identisch verteilten Zufallsvariablen mit ${\mathbb{E}\,}(X_1^2)<\infty$ und ${\rm Var\,}X_1>0$ gilt:

  $$\lim\limits _{n\to\infty}P\Bigl(\frac{(X_1+\ldots+X_n)-n\mu}{\sigma\sqrt{n}} \le x\Bigr)=\Phi(x)\qquad\forall x\in\mathbb{R}\,,$$ (98)

  
  
  wobei $\mu={\mathbb{E}\,}X_k$ und $\sigma^2={\rm Var\,}X_k$ für jedes $k\in\mathbb{N}$.
• Weil ${\mathbb{E}\,}(X_k-\mu)=0$ und ${\rm Var\,}\bigl((X_k-\mu)/\sigma\bigr)=1$ können wir o.B.d.A. beim Beweis von Theorem 5.16 voraussetzen, dass ${\mathbb{E}\,}X_k=0$ und ${\rm Var\,}X_k=1$, indem wir die Gültigkeit von Theorem 5.16 zunächst für die (unabhängigen und identisch verteilten) Zufallsvariablen $X^\prime_k=(X_k-\mu)/\sigma\bigr)$ zeigen.
• Sei also
  $${\mathbb{E}\,}X_k=0$$   und$$\qquad{\rm Var\,}X_k=1\,.$$

• Aus Theorem 5.21 ergibt sich dann, dass für beliebige $t\in\mathbb{R}$ und $n\in\mathbb{N}$
  $$\varphi_{X_k/\sqrt{n}}(t)=1-\frac{t^2}{2n}+o\Bigl(\frac{1}{n}\Bigr)\,.$$

• Aus Theorem 5.18 ergibt sich nun, dass für $S_n=X_1+\ldots+X_n$
  $$\varphi_{S_n/\sqrt{n}}(t)=\Bigl(1-\frac{t^2}{2n}+o\Bigl(\frac{1}{n}\Bigr)\Bigr)^n\,,$$
  wobei $o(n^{-1})/n^{-1}\to 0$ für $n\to\infty$. Hieraus folgt, dass
  $$\lim\limits_{n\to\infty}\varphi_{S_n/\sqrt{n}}(t)=e^{-t^2/2}\qquad\forall t\in\mathbb{R}\,.$$

• Aus Theorem 5.20 ergibt sich somit, dass
  $$\lim\limits_{n\to\infty} P\Bigl(\frac{S_n}{\sqrt{n}}\le x\Bigr)=\Phi(x)\qquad\forall x\in\mathbb{R}\,.$$
  
   
    $\Box$