next up previous contents
Nächste Seite: Ungleichung von Cramér-Rao Aufwärts: Güteeigenschaften von Punktschätzern Vorherige Seite: Güteeigenschaften von Punktschätzern   Inhalt


Erwartungstreue; mittlerer quadratischer Fehler

Definition
 
Beachte
$ \;$ Die folgende Sprechweise ist üblich:


Im Fall eines eindimensionalen Parameters $ \theta\in\mathbb{R}$ kann man den MQ-Fehler von $ \,\widehat\theta(X_1,\ldots,X_n)$ wie folgt zerlegen.

Theorem 2.1   Falls $ m=1$, d.h. % latex2html id marker 27156
$ \Theta\subset\mathbb{R}$, dann gilt

$\displaystyle {\mathbb{E}\,}_\theta
 (\bigl(\,\widehat\theta(X_1,\ldots,X_n)-\t...
...s,X_n)
 +\bigl({\rm Bias}_\theta\,
 \,\widehat\theta(X_1,\ldots,X_n)\bigr)^2\,.$ (24)

Falls $ \,\widehat\theta(X_1,\ldots,X_n)$ erwartungstreu ist, dann gilt insbesondere

$\displaystyle {\mathbb{E}\,}_\theta
 (\bigl(\,\widehat\theta(X_1,\ldots,X_n)-\theta\bigr)^2)=
 {\rm Var\,}_\theta\,\widehat\theta(X_1,\ldots,X_n)\,.$ (25)

Beweis
 
Beachte
 
Beispiele
 
  1. $ \;$ Normalverteilte Stichprobenvariablen 
    • Sei $ (X_1,\ldots,X_n)$ eine normalverteilte Zufallsstichprobe mit $ X_i\sim$ N $ (\mu,\sigma^2)$.
    • In den Theoremen 1.1 bzw. 1.3 hatten wir gezeigt, dass $ \overline X_n$ bzw. $ S_n^2$ erwartungstreue Schätzer für $ \mu$ bzw. $ \sigma^2$ sind.
    • Außerdem hatten wir in den Theoremen 1.1 bzw. 1.3 gezeigt, dass die Varianz dieser Schätzer gegeben ist durch

      $\displaystyle {\rm Var\,}_\theta\overline X_n=\frac{\sigma^2}{n}$   bzw.$\displaystyle \qquad
{\rm Var\,}_\theta
(S_n^2)=\frac{1}{n}\Bigl(\mu^\prime_4-\frac{n-3}{n-1}\;\sigma^4\Bigr)\;,
$

      wobei $ \mu_4^\prime={\mathbb{E}\,}\bigl((X_i-\mu)^4\bigr)$; $ \theta=(\mu,\sigma^2)$.
    • Dabei vereinfacht sich die letzte Formel bei normalverteilten Stichprobenvariablen, denn ähnlich wie in Übungsaufgabe 1.2 kann $ \mu_4^\prime$ durch Differenzieren der charakteristischen Funktion der N $ (0,\sigma^2)$-Verteilung bestimmt werden.
    • Hieraus ergibt sich, dass

      $\displaystyle {\rm Var\,}_\theta
(S_n^2)=\frac{2\sigma^4}{n-1}\;.
$

    • In den Abschnitten 2.2.1 bzw.  2.2.2 wurde der folgende (alternative) Schätzer für $ \sigma^2$ konstruiert:

      $\displaystyle \,\widehat\sigma^2(X_1,\ldots,X_n) =
 \frac{1}{n}\sum\limits _{i=1}^n \bigl(X_i-\overline X_n\bigr)^2$

    • Dieser Schätzer ist nicht erwartungstreu, sondern nur asymptotisch erwartungstreu.
    • Für die Varianz von $ \,\widehat\sigma^2(X_1,\ldots,X_n)$ gilt jedoch:

      $\displaystyle {\rm Var\,}_\theta\,\widehat\sigma^2(X_1,\ldots,X_n)=\Bigl(\frac{...
...rac{2(n-1)\sigma^4}{n^2}<\frac{2\sigma^4}{n-1}={\rm Var\,}_\theta
(S_n^2)\,.
$

    • Aus Theorem 2.1 ergibt sich außerdem für den MQ-Fehler von $ \,\widehat\sigma^2(X_1,\ldots,X_n)$ bzw. $ S_n^2$, dass
      $\displaystyle {\mathbb{E}\,}_\theta\bigl((\,\widehat\sigma^2(X_1,\ldots,X_n)-\sigma^2)^2\bigr)$ $\displaystyle =$ $\displaystyle {\rm Var\,}_\theta\,\widehat\sigma^2(X_1,\ldots,X_n)+\bigl({\rm Bias}_\theta\,\,\widehat\sigma^2(X_1,\ldots,X_n)\bigr)^2$  
        $\displaystyle =$ $\displaystyle \frac{2(n-1)\sigma^4}{n^2}+\Bigl(\frac{n-1}{n}\;\sigma^2-\sigma^2\Bigr)^2$  
        $\displaystyle =$ $\displaystyle \frac{(2n-1)\sigma^4}{n^2}$  
        $\displaystyle <$ $\displaystyle \frac{2\sigma^4}{n-1}$  
        $\displaystyle =$ $\displaystyle {\mathbb{E}\,}_\theta\bigl((S_n^2-\sigma^2)^2\bigr)\,.$  

    • Der Schätzer $ \,\widehat\sigma^2(X_1,\ldots,X_n)$ für $ \sigma^2$ hat also einen kleineren MQ-Fehler als $ S_n^2$.
    • Andererseits besteht ein Nachteil des Schätzers $ \,\widehat\sigma^2(X_1,\ldots,X_n)$ darin, dass $ \,\widehat\sigma^2(X_1,\ldots,X_n)$ die Modellvarianz $ \sigma^2$ systematisch unterschätzt.
  2. $ \;$ Bernoulli-verteilte Stichprobenvariablen 
    • Sei nun $ (X_1,\ldots,X_n)$ eine Bernoulli-verteilte Zufallsstichprobe mit $ X_i\sim$ Bin$ (1,p)$.
    • Der Maximum-Likelihood-Schätzer

      $\displaystyle \,\widehat p(X_1,\ldots,X_n)= \overline X_n
$

      für den Parameter $ p$, den wir in Abschnitt 2.2.2 hergeleitet hatten, ist erwartungstreu.
    • Für den MQ-Fehler dieses Schätzers gilt somit, dass

      $\displaystyle {\mathbb{E}\,}_p\bigl( (\,\widehat
 p(X_1,\ldots,X_n)-p)^2\bigr)={\rm Var\,}_p\overline
 X_n=\frac{p(1-p)}{n}\;.$ (26)

    • Außerdem hatten wir in Abschnitt 2.2.3 den Bayes-Schätzer $ \widetilde p(Y)$ für $ p$ konstruiert mit

      $\displaystyle \widetilde p(Y) = \frac{Y+\alpha}{\alpha+\beta+n}\;,\qquad
Y=\sum\limits_{i=1}^n X_i\,.
$

    • Aus Theorem 2.1 ergibt sich für den MQ-Fehler dieses Bayes-Schätzers, dass
      $\displaystyle {\mathbb{E}\,}_p\bigl((\,\widetilde p(Y)-p)^2\bigr)$ $\displaystyle =$ $\displaystyle {\rm Var\,}_p\,\widetilde p
(Y)+\bigl({\rm Bias}_p\,\,\widetilde p(Y)\bigr)^2$  
        $\displaystyle =$ $\displaystyle {\rm Var\,}_p\Bigl(\frac{Y+\alpha}{\alpha+\beta+n}\Bigr)+\Bigl({\mathbb{E}\,}_p\,
\frac{Y+\alpha}{\alpha+\beta+n}-p\Bigr)^2$  
        $\displaystyle =$ $\displaystyle \frac{np(1-p)}{(\alpha+\beta+n)^2}+ \Bigl(
\frac{np+\alpha}{\alpha+\beta+n}-p\Bigr)^2\,.$  

    • Falls keine spezielle a-priori-Information über den Parameter $ p$ vorliegt, dann erscheint es sinnvoll, $ \alpha$ und $ \beta$ so wählen, dass der MQ-Fehler des Bayes-Schätzers $ \widetilde p(Y)$ nicht von $ p$ abhängt.
    • Für $ \alpha=\beta=\sqrt{n/4}$ gilt nämlich (vgl. Übungsaufgabe 6.1), dass

      $\displaystyle {\mathbb{E}\,}_p\bigl((\,\widetilde
 p(Y)-p)^2\bigr)=\frac{n}{4(n+\sqrt{n})^2}\;.$ (27)

    • Aus (26) und (27) ergibt sich dann, dass der MQ-Fehler des Bayes-Schätzers $ \,\widetilde p(Y)$ bei kleinem Stichprobenumfang $ (n\approx 4)$ deutlich kleiner als der MQ-Fehler von $ \overline X_n$ ist (es sei denn, dass $ p$ nahe bei 0 oder 1 liegt).
    • Umgekehrt ist der MQ-Fehler von $ \overline X_n$ bei großem Stichprobenumfang $ (n\approx 400)$ deutlich kleiner als der MQ-Fehler von $ \,\widetilde p(Y)$ (es sei denn, dass $ p$ nahe bei 1/2 liegt).

next up previous contents
Nächste Seite: Ungleichung von Cramér-Rao Aufwärts: Güteeigenschaften von Punktschätzern Vorherige Seite: Güteeigenschaften von Punktschätzern   Inhalt
Ursa Pantle 2004-07-14