Bedingte Erwartung und bedingte Wahrscheinlichkeit

Als Hilfsmittel benötigen wir die Begriffe der bedingten Erwartung bzw. der bedingten Wahrscheinlichkeit bezüglich einer beliebigen Teil-$\sigma$-Algebra $\mathcal{G}\subset\mathcal{F}$ der Ereignis-$\sigma$-Algebra $\mathcal{F}$ des zugrundeliegenden Wahrscheinlichkeitsraumes $(\Omega,\mathcal{F},P)$.

• Zur Illustration betrachten wir zunächst den folgenden (elementaren) Spezialfall.
  • Die $\sigma$-Algebra $\mathcal{G}=\sigma(A_1,\ldots,A_n)$ sei eine endliche Familie von Teilmengen von $\Omega$, die durch die Mengen $A_1,\ldots,A_n\in\mathcal{F}$ generiert wird, wobei $\bigcup_{i=1}^n A_i=\Omega$ und $A_i\cap A_j=\emptyset$ für beliebige $i,j\in\{1,\ldots,n\}$ mit $i\not=j$ gelte.
  • Außerdem sei $X:\Omega\to\mathbb{R}$ eine beliebige Zufallsvariable über dem Wahrscheinlichkeitsraum $(\Omega,\mathcal{F},P)$ mit ${\mathbb{E} }\vert X\vert<\infty$.
• Dann ist bedingte Erwartung ${\mathbb{E} }(X\mid\mathcal{G})$ von $X$ bezüglich $\mathcal{G}$ eine Zufallsvariable ${\mathbb{E} }(X\mid\mathcal{G}):\Omega\to\mathbb{R}$, deren (Funktions-) Werte gegeben sind durch

  $${\mathbb{E} }(X\mid\mathcal{G})(\omega)=\sum_{i=1}^n {\mathbb{E}... ... A_i) \;{1\hspace{-1mm}{\rm I}}(A_i)(\omega)\qquad \forall\; \omega\in\Omega ,$$ (1)

  
  
  wobei der bedingte Erwartungswert ${\mathbb{E} }(X\mid A_i)$ gegeben ist durch

  $${\mathbb{E} }(X\mid A_i)=\left\{\begin{array}{ll}\displaystyle \... ...A_i)}\;, & \mbox{falls $P(A_i)>0$,}\ 0 , & \mbox{sonst.} \end{array} \right.$$ (2)

  
  

Beachte

$\;$

• Falls $P(A_i)>0$, dann ist die in (2) gegebene Zahl ${\mathbb{E} }(X \vert A_i)$ der bedingte Erwartungswert von $X$ unter der Bedingung $A_i$, d.h., der Erwartungswert bezüglich der bedingten Verteilung $\{P_{X\mid A_i}(B), B\in\mathcal{B}(\mathbb{R})\}$, wobei
  $$P_{X\mid A_i}(B)=\frac{P(\{X_i\in B\}\cap A_i)}{P(A_i)}\qquad\forall\;B\in\mathcal{B}(\mathbb{R}) .$$

• Von besonderer Wichtigkeit ist der Fall, dass die $\sigma$-Algebra $\mathcal{G}$ durch die Urbilder einer (diskreten) Zufallsvariablen $Y$ erzeugt wird, die nur endlich viele verschiedene Werte mit positiver Wahrscheinlichkeit annimmt:
  • Sei $Y:\Omega\to\{0,1,\ldots,n\}$ eine Zufallsvariable, die nur die Werte $0,1,\ldots,n$ mit positiver Wahrscheinlichkeit annimmt, beispielsweise eine binomialverteilte Zufallsvariable, und
  • sei $\mathcal{G}$ die $\sigma$-Algebra $\sigma(Y)=Y^{-1}(\mathcal{B}(\mathbb{R}))$, d.h., die kleinste (endliche) Teil-$\sigma$-Algebra von $\mathcal{F}$, die die Urbilder $Y^{-1}(0),Y^{-1}(1),\ldots, Y^{-1}(n)$ enthält,
  • dann wird die bedingte Erwartung ${\mathbb{E} }(X\mid\mathcal{G})$ auch mit dem Symbol ${\mathbb{E} }(X\mid Y)$ bezeichnet (und bedingte Erwartung von $X$ bezüglich $Y$ genannt).
• Sei $\omega\in\Omega$, so dass $Y(\omega)=i$. Dann ist der Funktionswert ${\mathbb{E} }(X\vert Y)(\omega)$ der Zufallsvariablen ${\mathbb{E} }(X\vert Y)$ gegeben durch den bedingten Erwartungswert
  $${\mathbb{E} }(X\mid Y)(\omega)={\mathbb{E} }(X\mid Y=i) ,$$
  wobei ${\mathbb{E} }(X\mid Y=i)$ eine Kurzschreibweise ist für ${\mathbb{E} }(X\mid \{Y=i\})$.
• Die bisher erläuterte Vorgehensweise bei der Definition der bedingten Erwartung ${\mathbb{E} }(X\vert\mathcal{G})$ bezüglich einer (Teil-) $\sigma$-Algebra $\mathcal{G}\subset\mathcal{F}$ kann auch dann beibehalten werden,
  • wenn $\mathcal{G}$ aus abzählbar unendlich vielen Teilmengen von $\Omega$ besteht,
  • d.h., wenn $\mathcal{G}$ beispielsweise durch die Urbilder einer Poisson-verteilten Zufallsvariablen erzeugt wird,
  • wobei dann lediglich die endliche Summe in (1) durch eine unendliche Summe ersetzt werden muss.
• Die folgenden Eigenschaften der bedingten Erwartung ${\mathbb{E} }(X\vert Y)$ ergeben sich unmittelbar aus der Definitionsgleichungen (1) und (2):
  • Die Zufallsvariable ${\mathbb{E} }(X\vert Y):\Omega\to\mathbb{R}$ ist $(\mathcal{G}, \mathcal{B}(\mathbb{R}))$-messbar.
  • Für beliebige $A\in\mathcal{G}$ gilt

    $$\int\limits_A {\mathbb{E} }(X\vert Y)(\omega)P(d\omega)=\int\limits_A X(\omega)P(d\omega) .$$ (3)

    
    

  • Insbesondere gilt ${\mathbb{E} }({\mathbb{E} }(X\vert Y))={\mathbb{E} }X$.

Die folgende (allgemeine) Definition der bedingten Erwartung beruht auf dem Satz von Radon-Nikodym der Maß- und Integrationstheorie. Sie enthält die oben betrachteten Definitionsgleichungen (1) und (2) als Spezialfall.

• Sei $X:\Omega\to\mathbb{R}$ eine beliebige Zufallsvariable über dem Wahrscheinlichkeitsraum $(\Omega,\mathcal{F},P)$ mit ${\mathbb{E} }\vert X\vert<\infty$,
• und sei $\mathcal{G}\subset\mathcal{F}$ eine beliebige Teil-$\sigma$-Algebra von $\mathcal{F}$.
• Dann können wir das (endliche) signierte Maß $Q:\mathcal{G}\to\mathbb{R}$ betrachten, wobei

  $$Q(A)=\int\limits_A X(\omega)P(d\omega)\qquad\forall\;A\in\mathcal{G} .$$ (4)

  
  

• Für jedes $A\in\mathcal{G}$ gilt somit die Implikation: $Q(A)=0$, falls $P(A)=0$.
• Mit anderen Worten: Das in (4) definierte signierte Maß $Q$ ist absolutstetig bezüglich der Einschränkung von $P$ auf die Teil-$\sigma$-Algebra $\mathcal{G}$.
• Aus dem Satz von Radon-Nikodym folgt nun, dass es eine $(\mathcal{G},\mathcal{B}(\mathbb{R}))$-messbare Abbildung $Z:\Omega\to\mathbb{R}$ gibt, so dass

  $$\int\limits_A Z(\omega)P(d\omega)=\int\limits_A X(\omega)P(d\omega)\qquad\forall A\in\mathcal{G} ,$$ (5)

  
  
  wobei die Funktionswerte der Abbildung $Z$ mit Wahrscheinlichkeit $1$ eindeutig bestimmt sind.

Defintion

$\;$ Jede $(\mathcal{G},\mathcal{B}(\mathbb{R}))$-messbare Abbildung $Z:\Omega\to\mathbb{R}$, für die (5) gilt, heißt eine Version der bedingten Erwartung von $X$ bezüglich $\mathcal{G}$ und wird mit ${\mathbb{E} }(X\mid\mathcal{G})$ bezeichnet.

Aus der Definitionsgleichung (5) und aus den allgemeinen Rechenregeln für das Lebesgue-Integral ergeben sich die folgenden Eigenschaften der bedingten Erwartung, die wir hier lediglich (ohne Beweis) erwähnen.

Theorem 3.6   Seien $X,Y:\Omega\to\mathbb{R}$ beliebige Zufallsvariablen über $(\Omega,\mathcal{F},P)$ mit

$${\mathbb{E} }\vert X\vert<\infty ,\qquad{\mathbb{E} }\vert Y\vert<\infty ,\qquad{\mathbb{E} }\vert XY\vert<\infty ,$$

und sei $\mathcal{G}\subset\mathcal{F}$ eine beliebige Teil-$\sigma$-Algebra von $\mathcal{F}$. Dann gilt

1.

${\mathbb{E} }(X\mid\{\emptyset,\Omega\})={\mathbb{E} }X, {\mathbb{E} }(X\mid\mathcal{F})=X$,

2.

${\mathbb{E} }(aX+bY\mid\mathcal{G})=a {\mathbb{E} }(X\mid\mathcal{G})+b {\mathbb{E} }(Y\mid\mathcal{G})$ für beliebige $a,b\in\mathbb{R}$,

3.

${\mathbb{E} }(X\mid\mathcal{G})\le{\mathbb{E} }(Y\mid\mathcal{G})$, falls $X\le Y$,

4.

${\mathbb{E} }(XY\mid\mathcal{G})=Y{\mathbb{E} }(X\mid\mathcal{G})$, falls $Y$ eine $(\mathcal{G},\mathcal{B}(\mathbb{R}))$-messbare Zufallsvariable ist,

5.

${\mathbb{E} }\bigl({\mathbb{E} }(X\mid\mathcal{G}_2)\mid\mathcal{G}_1\bigr)={\mathbb{E} }(X\mid\mathcal{G}_1)$, falls $\mathcal{G}_1$ und $\mathcal{G}_2$ Teil-$\sigma$-Algebren von $\mathcal{F}$ sind mit $\mathcal{G}_1\subset\mathcal{G}_2$,

6.

${\mathbb{E} }(X\mid\mathcal{G})={\mathbb{E} }X$, falls die $\sigma$-Algebren $\mathcal{G}$ und $\sigma(X)=X^{-1}(\mathcal{B}(\mathbb{R}))$ unabhängig sind, d.h., falls $P(A\cap A^\prime)=P(A)P(A^\prime)$ für beliebige $A\in\mathcal{G}$ und $A^\prime\in\sigma(X)$.

7.

${\mathbb{E} }\bigl(f(X)\mid \mathcal{G}\bigr)\ge f\bigl({\mathbb{E} }(X\mid \mathcal{G})\bigr)$, falls $f:\mathbb{R}\to\mathbb{R}$ eine konvexe Funktion ist, so dass ${\mathbb{E} }\vert f(X)\vert<\infty$.

Beachte

$\;$ Außerdem sind die folgenden Eigenschaften bzw. Schreib- und Sprechweisen von Interesse.

• Unmittelbar aus der Definitionsgleichung (5) ergibt sich, dass
  • ${\mathbb{E} }\bigl({\mathbb{E} }(X\mid\mathcal{G})\bigr)={\mathbb{E} }X$, wenn $A=\Omega$ gesetzt wird,
  • ${\mathbb{E} }(a\mid\mathcal{G})=a$ für beliebige $a\in\mathbb{R}$ und $\mathcal{G}\subset\mathcal{F}$,
  • ${\mathbb{E} }(Y\mid\mathcal{G})=Y$ für jede $(\mathcal{G},\mathcal{B}(\mathbb{R}))$-messbare Zufallsvariable $Y$.
• Seien $X,Y:\Omega\to\mathbb{R}$ beliebige Zufallsvariablen über $(\Omega,\mathcal{F},P)$ mit ${\mathbb{E} }\vert X\vert<\infty$,
  • und sei $\mathcal{G}=Y^{-1}(\mathcal{B}(\mathbb{R}))$ die Teil-$\sigma$-Algebra von $\mathcal{F}$, die durch die Urbilder von $Y$ erzeugt wird.
  • Dann heißt ${\mathbb{E} }(X\mid\mathcal{G})$ die bedingte Erwartung von $X$ bezüglich $Y$, wobei auch die Schreibweise ${\mathbb{E} }(X\mid Y)$ benutzt wird.
• Wenn es eine Borel-messbare Funktion $g:\mathbb{R}\to\mathbb{R}$ gibt, so dass sich die bedingte Erwartung ${\mathbb{E} }(X\mid Y)$ in der Form ${\mathbb{E} }(X\mid Y)=g(Y)$ darstellen lässt, dann spricht man von regulärer bedingter Erwartung.

Beispiele

 

1. Absolutstetige Zufallsvektoren
   • Sei $(X,Y):\Omega\to\mathbb{R}^2$ ein beliebiger absolutstetiger Zufallsvektor mit der gemeinsamen Dichte $f_{X,Y}:\mathbb{R}^2\to[0,\infty]$ und der Randdichte $f_Y:\mathbb{R}\to[0,\infty]$ von $Y$, wobei $f_Y(y)=\int_\mathbb{R} f_{X,Y}(x,y) {\rm d}x$.
   • Die Funktion $g:\mathbb{R}\to[0,\infty)$ mit $g(y)=\int_\mathbb{R}\vert x\vert f_{X,Y}(x,y) {\rm d}x$ sei beschränkt.
   • Dann ist eine Version der bedingten Erwartung ${\mathbb{E} }(X\mid Y)$ gegeben durch

     $${\mathbb{E} }(X\mid Y)(\omega)=\left\{\begin{array}{ll}\displays... ...Y(Y(\omega))>0$,}\ 0 , & \mbox{falls $f_Y(Y(\omega))=0$.} \end{array}\right.$$ (6)

     
     

2. Funktionale unabhängiger Zufallsvariablen
   • Seien $X,Y:\Omega\to\mathbb{R}$ unabhängige Zufallsvariablen, und sei $g:\mathbb{R}^2\to\mathbb{R}$ eine Borel-messbare Abbildung, so dass die Funktion $g^\prime:\mathbb{R}\to[0,\infty)$ mit $g^\prime(y)={\mathbb{E} }\vert g(X,y)\vert$ beschränkt ist.
   • Dann ist eine Version der bedingten Erwartung ${\mathbb{E} }(g(X,Y)\mid Y)$ gegeben durch

     $${\mathbb{E} }(g(X,Y)\mid Y)=g^{\prime\prime}(Y) ,$$ (7)

     
     
     wobei die Abbildung $g^{\prime\prime}:\mathbb{R}\to\mathbb{R}$ gegeben ist durch $g^{\prime\prime}(y)={\mathbb{E} }g(X,y)$.
3. Funktionale unabhängiger stochastischer Prozesse
   • Seien $\{X_t, t\ge 0\}$ und $\{Y_t, t\ge 0\}$ unabhängige stochastische Prozesse, d.h.,
     • $\{X_t\}$ und $\{Y_t\}$ seien unabhängige Familien von $(\mathcal{F},\mathcal{B}(\mathbb{R}))$-messbaren Abbildungen, und
     • $\mathcal{G}=\sigma\bigl(\bigcup_{t\ge 0} Y_t^{-1}(\mathcal{B}(\mathbb{R}))\bigr)$ sei die durch den Prozess $\{Y_t\}$ erzeugte Teil-$\sigma$-Algebra von $\mathcal{F}$.
     • Sei $g:(\mathbb{R}^\infty)^2\to\mathbb{R}$ eine Borel-messbare Abbildung, so dass die Funktion $g^\prime:\mathbb{R}^\infty\to[0,\infty)$ mit $g^\prime(y)={\mathbb{E} }\vert g(\{X_t\},y)\vert$ beschränkt ist.
   • Für $X=g(\{X_t\},\{Y_t\})$ gilt dann ${\mathbb{E} }\vert X\vert<\infty$, und die bedingte Erwartung ${\mathbb{E} }(X\mid\mathcal{G})$ wird mit dem Symbol ${\mathbb{E} }(X\mid \{Y_t\})$ bezeichnet.
   • Außerdem ist eine Version der bedingten Erwartung ${\mathbb{E} }(X\mid \{Y_t\})$ gegeben durch

     $${\mathbb{E} }(X\mid \{Y_t\})=g^{\prime\prime}(\{Y_t\}) ,$$ (8)

     
     
     wobei die Abbildung $g^{\prime\prime}:\mathbb{R}^\infty\to\mathbb{R}$ gegeben ist durch $g^{\prime\prime}(y)={\mathbb{E} }g(\{X_t\},y)$.

Schließlich erwähnen wir noch kurz den Begriff bedingter Wahrscheinlichkeiten bezüglich $\sigma$-Algebren.

Definition

 

• Sei $A\in\mathcal{F}$ ein beliebiges Ereignis, und sei $\mathcal{G}\subset\mathcal{F}$ eine beliebige Teil-$\sigma$-Algebra von $\mathcal{F}$.
• Dann ist die bedingte Wahrscheinlichkeit $P(A\mid\mathcal{G})$ von $A$ bezüglich $\mathcal{G}$ gegeben durch
  $$P(A\mid\mathcal{G})={\mathbb{E} }({1\hspace{-1mm}{\rm I}}(A)\mid\mathcal{G}) ,$$
  d.h., die Definition bedingter Wahrscheinlichkeiten bezüglich $\sigma$-Algebren wird auf den in (5) definierten Begriff der bedingten Erwartung zurückgeführt.