Multiplikationsformel und Kovarianz

Beachte

 

• Seien $X_1,\ldots,X_n:\Omega\to\mathbb{R}$ beliebige Zufallsvariable mit ${\mathbb{E}\,}(\vert X_i\vert^n)<\infty$ für jedes $i\in\{1,\ldots,n\}$.
• Man kann zeigen, daß dann ${\mathbb{E}\,}\vert X_1\ldots X_n\vert<\infty$.
• Der Erwartungswert ${\mathbb{E}\,}(X_1\ldots\ X_n)$ des Produktes $X_1\ldots X_n$ heißt gemischtes Moment der Zufallsvariablen $X_1,\ldots,X_n$.

Zunächst diskutieren wir die folgende Multiplikationsformel für den Erwartungswert des Produktes von $n$ unabhängigen Zufallsvariablen.

Theorem 4.7

$\;$ Seien $X_1,\ldots,X_n:\Omega\to\mathbb{R}$ beliebige Zufallsvariable mit ${\mathbb{E}\,}(\vert X_i\vert^n)<\infty$ für jedes $i\in\{1,\ldots,n\}$. Falls $X_1,\ldots,X_n$ unabhängig sind, dann gilt

$${\mathbb{E}\,}\Bigl(\prod\limits^n_{i=1}X_i\Bigr) =\prod\limits^n_{i=1}{\mathbb{E}\,}X_i \,.$$ (19)

Beweis

 

• Wir zeigen die Gültigkeit von (19) nur für die beiden (grundlegenden) Fälle, daß $X$ diskret bzw. absolutstetig ist.
• Die Komponenten des Zufallsvektors $X=(X_1,\ldots,X_n)$ seien unabhängige Zufallsvariable.
• Falls $X$ diskret ist, dann gibt es für jedes $i\in\{1,\ldots,n\}$ eine abzählbare Menge $C_i$ mit $P(X_i\in C_i)=1$.
• Darüber hinaus gilt $P(X=C)=1$, wobei $C=C_1\times\ldots\times C_n$ eine abzählbare Teilmenge des $R^n$ ist.
• Aus (13) ergibt sich dann für $\varphi(x)=x_1\cdot\ldots\cdot x_n$
  

  $${\mathbb{E}\,}\Bigl(\prod^n_{i=1}X_i\Bigr) = \sum_{x\in C} \varphi(x)P(X=x)$$

  $$= \sum_{x_1\in C_1}\ldots\sum_{x_n\in C_n} x_1\cdot\ldots\cdot x_n P(X_1=x_1,\ldots,X_n=x_n)$$

  $$\stackrel{(3.\ref{unab.dis})}{=} \sum_{x_1\in C_1}\ldots\sum_{x_n\in C_n} x_1\cdot\ldots\cdot x_n P(X_1=x_1)\ldots P(X_n=x_n)$$

  $$= \Bigl(\sum\limits_{x_1\in C_1}x_1 P\bigl(X_1=x_1\bigr)\Bigr)\ldots \Bigl(\sum\limits_{x_n\in C_n}x_n P\bigl(X_n=x_n\bigr)\Bigr)$$

  $$= \prod\limits^n_{k=1}{\mathbb{E}\,}X_k\,.$$

  
  

• Falls $X$ absolutstetig ist, dann ergibt sich (19) auf völlig analoge Weise aus (14).

Korollar 4.8

$\;$ Seien $X_1,\ldots,X_n:\Omega\to\mathbb{R}$ unabhängige Zufallsvariable mit ${\mathbb{E}\,}(X_i^2)<\infty$ für jedes $i\in\{1,\ldots,n\}$. Dann gilt

$$(X_1+\ldots+X_n)= X_1+\ldots+ X_n\,.$$ (20)

Beweis

$\;$

• Wir zeigen die Gültigkeit von (20) zunächst für den Fall $n=2$.
• Aus (15), (16) und (19) ergibt sich, daß
  

  $$(X_1+X_2) \stackrel{(\ref{var.alt})}{=} {\mathbb{E}\,}\bigl((X_1+X_2)^2\bigr)-\bigl({\mathbb{E}\,}(X_1+X_2)\bigr)^2$$

  $$\stackrel{(\ref{lin.erw})}{=} \Bigl({\mathbb{E}\,}(X_1^2)+2{\mathbb{E}\,}(X_1X_2)+{\mathbb{E}\,... ...hbb{E}\,}X_1)^2+2{\mathbb{E}\,}X_1{\mathbb{E}\,}X_2+({\mathbb{E}\,}X_2)^2\Bigr)$$

  $$\stackrel{(\ref{mul.for})}{=} {\mathbb{E}\,}(X_1^2)-({\mathbb{E}\,}X_1)^2+{\mathbb{E}\,}(X_2^2) -({\mathbb{E}\,}X_2)^2$$

  $$\stackrel{(\ref{var.alt})}{=} X_1+ X_2\,.$$

  
  

• Für beliebiges $n\in\mathbb{N}$ ergibt sich die Gültigkeit von (20) mittels vollständiger Induktion.

Wir diskutieren nun Eigenschaften des gemischten Momentes ${\mathbb{E}\,}(X_1X_2)$ von zwei beliebigen (nicht notwendig unabhängigen) Zufallsvariablen $X_1,X_2$.

In diesem Zusammenhang führen wir zunächst die Begriffe der Kovarianz und des Korrelationskoeffizienten ein.

Definition 4.9

$\;$ Seien $X_1,X_2$ beliebige Zufallsvariable mit ${\mathbb{E}\,}(X_i^2)<\infty$ für $i=1,2$.

• Der Erwartungswert ${\mathbb{E}\,}\bigl((X_1-{\mathbb{E}\,}X_1)(X_2-{\mathbb{E}\,}X_2)\bigr)$ heißt die Kovarianz von $X_1$ und $X_2$.
  Schreibweise: Cov $(X_1,X_2)={\mathbb{E}\,}\bigl((X_1-{\mathbb{E}\,}X_1)(X_2-{\mathbb{E}\,} X_2)\bigr)$
• $X_1,X_2$ heißen unkorreliert, falls Cov $(X_1,X_2)=0$.
• Falls Var $X_1>0$ und Var $X_2>0$, dann heißt die Größe

  $$\varrho(X_1,X_2)= \frac{\text{Cov\,}(X_1,X_2)}{\sqrt{\text{Var\,}X_1\cdot\text{Var\,}X_2}}$$ (21)

  
  
  der Korrelationskoeffizient von $X_1,X_2$.

Beachte

 

• Es ist klar, daß Kovarianz und Korrelationskoeffizient die folgende Symmetrieeigenschaft besitzt:

  $$(X_1,X_2)= (X_2,X_1)\,,\qquad \varrho(X_1,X_2)=\varrho(X_2,X_1)\,.$$ (22)

  
  

• Außerdem gilt

  $$(X,X)= X\,,\qquad \varrho(X,X)=1\,.$$ (23)

  
  

Darüber hinaus gelten weitere nützliche Rechenregeln und Abschätzungen für Kovarianz bzw. Korrelationskoeffizient.

Theorem 4.10

$\;$ Seien $X_1,X_2$ beliebige Zufallsvariable mit ${\mathbb{E}\,}(X_i^2)<\infty$ für $i=1,2$. Dann gilt

$$(X_1,X_2)={\mathbb{E}\,}(X_1X_2)-{\mathbb{E}\,}X_1{\mathbb{E}\,}X_2$$ (24)

und für beliebige Zahlen $a,b,c,d\in\mathbb{R}$

$$(aX_1+b,cX_2+d)=a\,c\, (X_1,X_2)\,.$$ (25)

Außerdem gilt die Cauchy-Schwarzsche Ungleichung

$$\vert{\mathbb{E}\,}(X_1, X_2)\vert\leq \sqrt{{\mathbb{E}\,}(X_1^2){\mathbb{E}\,}(X_2^2)}\,,$$ (26)

und

$$\vert (X_1, X_2)\vert\leq \sqrt{\text{Var\,}X_1\text{Var\,}X_2}\,.$$ (27)

Beweis

 

• Die Formel (24) ergibt sich unmittelbar aus (15), denn es gilt
  

  $$(X_1,X_2) = {\mathbb{E}\,}\bigl((X_1-{\mathbb{E}\,}X_1)(X_2-{\mathbb{E}\,} X_2\bigr)$$

  $$= {\mathbb{E}\,}\bigl(X_1X_2-X_1{\mathbb{E}\,}X_2-X_2{\mathbb{E}\,}X_1+{\mathbb{E}\,}X_1{\mathbb{E}\,} X_2\bigr)$$

  $$\stackrel{(\ref{lin.erw})}{=} {\mathbb{E}\,}(X_1X_2)-{\mathbb{E}\,}X_1{\mathbb{E}\,}X_2\,.$$

  
  

• Die Formel (25) ergibt sich durch eine ähnliche einfache Rechnung aus (15).
• Wir zeigen nun die Gültigkeit der Ungleichung (26).
• Falls ${\mathbb{E}\,}(X_1^2)=0$, dann gilt $P(X_1=0)=1$ und somit auch ${\mathbb{E}\,}(X_1X_2)=0\le \sqrt{{\mathbb{E}\,}(X_1^2){\mathbb{E}\,}(X_2^2)}$.
• Sei jetzt ${\mathbb{E}\,}(X_1^2)>0$. Dann gilt für jede Zahl $a\in\mathbb{R}$
  

  $$\le {\mathbb{E}\,}\bigl((a\,X_1+X_2)^2) = {\mathbb{E}\,}\bigl(a^2\,X_1^2+2a\,X_1X_2+X_2^2\bigr)$$ 0

  $$= a^2\,{\mathbb{E}\,}(X_1^2)+2a\,{\mathbb{E}\,}(X_1X_2)+{\mathbb{E}\,}(X_2^2)\,.$$

  
  

• Durch beidseitige Multiplikation mit ${\mathbb{E}\,}(X_1^2)$ bzw. quadratische Ergänzung ergibt sich hieraus, daß
  

  $$\le a^2\,\bigl({\mathbb{E}\,}(X_1^2)\bigr)^2+2a\,{\mathbb{E}\,}(X_1^2){\mathbb{E}\,}(X_1X_2)+ {\mathbb{E}\,}(X_1^2){\mathbb{E}\,}(X_2^2)$$ 0

  $$= \bigl(a\,{\mathbb{E}\,}(X_1^2)+{\mathbb{E}\,}(X_1 X_2)\bigr)^2 +{\mathbb{E}\,}(X_1^2){\mathbb{E}\,}(X_2^2)-\bigl({\mathbb{E}\,}(X_1X_2)\bigr)^2\,.$$

  
  

• Hieraus folgt (26) für $a=-{\mathbb{E}\,}(X_1X_2)/{\mathbb{E}\,}(X_1^2)$.
• Die Gültigkeit von (27) ergibt sich unmittelbar aus (26), wenn in (26) die Zufallsvariablen $X_1$ bzw. $X_2$ durch $X_1-{\mathbb{E}\,}X_1$ bzw. $X_2-{\mathbb{E}\,}X_2$ ersetzt werden.

Korollar 4.11

 

1. Falls $X_1$ und $X_2$ unabhängig sind, dann gilt

   $$(X_1,X_2)=0\,.$$ (28)

   
   
   d.h., $X_1$ und $X_2$ sind unkorreliert.
2. Falls Var $X_1>0$ und Var $X_2>0$, dann gilt

   $$-1\le\varrho(X_1,X_2)\le 1\,.$$ (29)

   
   

Beweis

 

• Aus (19) und (24) ergibt sich unmittelbar die Gültigkeit von (28).
• Aus (27) und aus der Definitionsgleichung (21) des Korrelationskoeffizienten ergeben sich die Ungleichungen in (29).

Beachte

$\;$ Die Aussage 1 in Korollar 4.11 läßt sich nicht umkehren, denn aus der Unkorreliertheit zweier Zufallsvariablen $X_1$ und $X_2$ folgt im allgemeinen nicht, daß $X_1$ und $X_2$ unabhängig sind.

Beispiel

$\;$ (zweimaliger Münzwurf)

• Seien $Y_1,Y_2:\Omega\to\{0,1\}$ zwei unabhängige (und identisch verteilte) Zufallsvariablen, die nur die beiden Werte 0 oder 1 annehmen können, mit
  $$P(Y_i=j)=\left\{\begin{array}{ll} \frac{1}{2}\,,&\mbox{falls $j=1$,}\\ \frac{1}{2}\,,&\mbox{falls $j=0$,} \end{array}\right.$$
  für $i=1,2$.
• Man kann sich leicht überlegen, daß dann die Zufallsvariablen $X_1=Y_1+Y_2$ und $X_2=Y_1-Y_2$ zwar unkorreliert, jedoch nicht unabhängig sind.
• Denn es gilt ${\mathbb{E}\,}X_1=1$, ${\mathbb{E}\,}X_2=0$ und ${\mathbb{E}\,}(X_1X_2)=0$. Andererseits gilt
  $$P(X_1=0,X_2=0)=\frac{1}{4}\qquad\not=\qquad \frac{1}{4}\,\frac{1}{2}=P(X_1=0)P(X_2=0)\,.$$