Tschebyschewsche Ungleichung

In diesem Abschnitt wird die sogenannte Tschebyschewsche Ungleichung diskutiert.

Sie liefert eine obere Schranke für die Wahrscheinlichkeit, daß die Abweichungen $\vert X(\omega)-{\mathbb{E}\,}X\vert$ der Werte $X(\omega)$ einer Zufallsvariablen $X$ von ihrem Erwartungswert ${\mathbb{E}\,}X$ einen vorgegebenen Schwellenwert $\varepsilon>0$ überschreiten.

Theorem 4.17

$\;$ Sei $X:\Omega\to\mathbb{R}$ eine Zufallsvariable mit ${\mathbb{E}\,}(X^2)<\infty$. Dann gilt für jedes $\varepsilon>0$

$$P(\vert X-{\mathbb{E}\,}X\vert>\varepsilon)\leq \frac{\text{Var\,}X}{\varepsilon^2}\;.$$ (40)

Beweis

 

• Wir zeigen die Gültigkeit von (40) nur für die beiden (grundlegenden) Fälle, daß $X$ diskret bzw. absolutstetig ist.
• Falls $X$ diskret ist mit $P(X\in C) =1$ für eine abzählbare Menge $C\subset \mathbb{R}$, dann ergibt sich aus (9) für $\varphi(x)=(x-{\mathbb{E}\,}X)^2$, daß für jedes $\varepsilon>0$
  

  $$X = \sum\limits _{x\in C} (x-{\mathbb{E}\,}X)^2 P(X=x)$$

  $$\ge \sum\limits _{x\in C:\vert x-{\mathbb{E}\,}X\vert>\varepsilon} (x-{\mathbb{E}\,}X)^2 P(X=x)$$

  $$\ge \sum\limits _{x\in C:\vert x-{\mathbb{E}\,}X\vert>\varepsilon} \varepsilon^2 P(X=x)$$

  $$= \varepsilon^2 \sum\limits _{x\in C:\vert x-{\mathbb{E}\,}X\vert> \varepsilon}P(X=x)$$

  $$= \varepsilon^2 P\Bigl( \bigcup\limits _{x\in C}\{X=x,\,\vert x-{\mathbb{E}\,} X\vert>\varepsilon\}\Bigr)$$

  $$= \varepsilon^2 P(\vert X-{\mathbb{E}\,}X\vert>\varepsilon)\,.$$

  
  

• Falls $X$ absolutstetig ist mit der Dichte $f_X$, dann ergibt sich auf analoge Weise aus (10), daß für jedes $\varepsilon>0$
  

  $$X = \int\limits _{-\infty}^\infty (x-{\mathbb{E}\,}X)^2 f_X(x)\, dx$$

  $$\ge \int\limits _{x\in\mathbb{R}:\vert x-{\mathbb{E}\,}X\vert>\varepsilon} (x-{\mathbb{E}\,}X)^2 f_X(x)\, dx$$

  $$\ge \int\limits _{x\in C:\vert x-{\mathbb{E}\,}X\vert>\varepsilon} \varepsilon^2 f_X(x)\, dx$$

  $$= \varepsilon^2 \int\limits _{x\in C:\vert x-{\mathbb{E}\,}X\vert> \varepsilon}f_X(x)\, dx$$

  $$= \varepsilon^2 P(\vert X-{\mathbb{E}\,}X\vert>\varepsilon)\,.$$

  
  

Korollar 4.18

$\;$ Sei $X:\Omega\to\mathbb{R}$ eine Zufallsvariable mit ${\mathbb{E}\,}(X^2)<\infty$. Dann gilt Var $X=0$ genau dann, wenn

$$P(X={\mathbb{E}\,}X)=1\,.$$ (41)

Beweis

 

• Falls Var $X=0$, dann ergibt sich aus (40), daß
  $$P(\vert X-{\mathbb{E}\,}X\vert>\varepsilon)=0$$
  für jedes $\varepsilon>0$.
• Außerdem kann man sich leicht überlegen, daß dann
  $$1-P(X={\mathbb{E}\,}X)=P(\vert X-{\mathbb{E}\,}X\vert>0)=\lim\limits _{\varepsilon\to 0} P(\vert X-{\mathbb{E}\,}X\vert>\varepsilon) =0\,.$$

• Dies impliziert (41).
• Andererseits impliziert (41) die Gültigkeit von $P(X^2=({\mathbb{E}\,}X)^2)=1$, d.h., $X^2$ ist eine diskrete Zufallsvariable.
• Aus der Definitionsgleichung (3) für den Erwartungswert diskreter Zufallsvariablen ergibt sich dann, daß ${\mathbb{E}\,}(X^2)=({\mathbb{E}\,} X)^2$.
• Wegen (16) folgt hieraus, daß Var $X=0$.

Beachte

 

• Die Tschebyschewsche Ungleichung (40) ist nicht an spezielle Annahmen über die Form der Verteilung der Zufallsvariablen $X$ gebunden.
• Der ,,Preis'' hierfür ist, daß (40) in vielen Fällen zu relativ groben Abschätzungen führt.
• Wenn zusätzliche Annahmen über die Verteilung von $X$ gemacht werden, dann lassen sich genauere Abschätzungen herleiten bzw. die Wahrscheinlichkeit $P(\vert X-{\mathbb{E}\,}X\vert>\varepsilon)$ läßt sich explizit bestimmen.

Beispiele

 

1. fehlerbehaftete Messungen 
   • Von einem Meßgerät sei bekannt, daß die Meßergebnisse fehlerbehaftet sind.
   • Die $n$-te Messung einer (unbekannten) Größe $\mu\in\mathbb{R}$ liefere den Wert $\mu+X_n(\omega)$ für $\omega \in \Omega$.
   • Die Meßfehler $X_1,X_2,\ldots$ seien unabhängige und identisch verteilte Zufallsvariable.
   • Über die Verteilung von $X_n$ sei lediglich bekannt, daß

     $${\mathbb{E}\,}X_n=0 X_n= 1\,.$$ (42)

     
     

   • Es soll nun die Frage diskutiert werden, wieviele Messungen erforderlich sind, um mit Hilfe der Tschebyschewschen Ungleichung (40) schlußfolgern zu können, daß das arithmetische Mittel
     $$Y_n=\frac{1}{n}\sum\limits _{i=1}^n(\mu+X_i)$$
     der zufälligen Meßwerte $\mu+X_i$ höchstens mit Wahrscheinlichkeit $0.1$ um mehr als $1$ vom ,,wahren'', jedoch unbekannten Wert $\mu$ abweicht.
   • Aus den Korollaren 4.6. und 4.8 ergibt sich, daß
     $${\mathbb{E}\,}Y_n=\mu$$   und   Var $$Y_n=n^{-1}\,.$$

   • Hieraus und aus der Tschebyschewschen Ungleichung (40) ergibt sich, daß
     $$P(\vert Y_n-\mu\vert>1) \le \frac{1}{n}\;.$$

   • Es gilt also $P(\vert Y_n-\mu\vert>1)\le 0.1$, falls $n^{-1}\le 0.1$.
   • Aus diesen Überlegungen folgt, daß die obengenannten Genauigkeitsvorgaben erfüllt sind, falls $n\ge 10$ Messungen durchgeführt werden.

   
   

2. normalverteilte Meßfehler
   • Es wird nun zusätzlich angenommen, daß die Meßfehler normalverteilt sind, d.h. $X_n\sim$ N$(0,\, 1)$.
   • Man kann zeigen, daß dann $Y_n\sim$ N $(\mu,\, 1/n)$ bzw. $\sqrt{n}(Y_n-\mu)\sim$ N$(0,1)$, vgl. das Beispiel in Abschnitt 3.6.2 bzw. den Kommentar nach Theorem 3.22.
   • Es gilt also
     

     $$P(\vert Y_n-\mu\vert>1) = P(\sqrt{n}\,\vert Y_n-\mu\vert>\sqrt{n})$$

     $$= P(\sqrt{n}\,(Y_n-\mu)<-\sqrt{n})+ P(\sqrt{n}\,(Y_n-\mu)>\sqrt{n})$$

     $$= \Phi(-\sqrt{n})+(1-\Phi(\sqrt{n}))$$

     $$= 2 \bigl(1-\Phi(\sqrt{n})\bigr)\,,$$

     
     
     wobei

     $$\Phi(x)=\int\limits _{-\infty}^x\frac{1}{\sqrt{2\pi}}\exp\Bigl(-\frac{u^2}{2}\Bigr) \, du$$ (43)

     
     
     die Verteilungsfunktion der Standardnormalverteilung ist.
   • Somit ist $P(\vert Y_n-\mu\vert>1)\le 0.1$ genau dann erfüllt, wenn $\Phi(\sqrt{n})\ge 0.95$.
   • Dies gilt dann, wenn $\sqrt{n}\ge 1.645$ bzw. $n\ge 3$.

Beachte

 

• Es gibt keine geschlossene Formel für die Stammfunktion des Integrals in (43).
• Die Werte $\Phi(x)$ der Verteilungsfunktion der Standardnormalverteilung müssen deshalb numerisch berechnet werden.
• Für $x\ge 0$ sind die Werte $\Phi(x)$ in Tabelle 1 gegeben.
• Für $x<0$ erhält man $\Phi(x)$ dann aus der folgenden Symmetrieeigenschaft, die sich unmittelbar aus der Definitionsgleichung (43) ergibt.

Lemma 4.19

$\;$ Für jedes $x\in\mathbb{R}$ gilt

$$\Phi(x)=1-\Phi(-x)\,.$$ (44)