In diesem Abschnitt setzen wir erneut voraus, daß der Parameter
eine relle Zahl ist, d.h., es gelte bzw.
.
Definition
Sei
eine Stichprobenfunktion, so daß für
jedes
und
Falls für jede Stichprobenfunktion
mit
die Ungleichung
gilt, dann heißt
bester
erwartungstreuer Schätzer für .
Beachte
Bevor wir zeigen, welche erwartungstreuen Schätzer beste
erwartungstreue Schätzer sind, diskutieren wir zunächst einige
grundlegende Eigenschaften solcher Schätzer.
Als erstes zeigen wir den folgenden Eindeutigkeitssatz für
beste erwartungstreue Schätzer.
Lemma 2.6
Es gibt höchstens einen besten erwartungstreuen Schätzer für
, d.h., falls
ein bester
erwartungstreuer Schätzer für ist, dann ist
mit Wahrscheinlichkeit eindeutig
bestimmt.
Beweis
Wir führen einen indirekten Beweis und nehmen an, daß
ein bester erwartungstreuer Schätzer
für ist und daß es noch einen weiteren besten
erwartungstreuen Schätzer
für
gibt.
Dann ist auch
ein erwartungstreuer Schätzer für , und es gilt
wobei in der letzten Gleichheit die Annahme genutzt wurde, daß
Hieraus folgt, daß die Ungleichung in dieser Rechnung eine
Gleichheit sein muß, weil ansonsten
nicht bester erwartungstreuer Schätzer für wäre.
Mit anderen Worten: Der Korrelationskoeffizient von
und
ist
gleich .
Wegen Theorem WR-4.12 gibt es somit Zahlen
, so daß mit Wahrscheinlichkeit
Aus den Rechenregeln für die Kovarianz (vgl. Theorem WR-4.11)
ergibt sich nun, daß
Weil wir andererseits gezeigt hatten, daß
folgt somit, daß
.
Wegen
ergibt sich hieraus, daß
bzw.
Beachte
Wir leiten nun ein Kriterium dafür her, daß ein erwartungstreuer
Schätzer für bester erwartungstreuer Schätzer ist.
Das ist zunächst ein formales (d.h. nicht direkt nachprüfbares)
Kriterium, welches jedoch bei der Herleitung des Hauptergebnisses
dieses Abschnittes in Theorem 2.5 bzw. bei dessen
Verallgemeinerung in Theorem 2.6 sehr nützlich ist.
Hierfür benötigen wir noch den folgenden Begriff.
Definition
Sei
eine beliebige
Stichprobenfunktion mit
für
jedes
. Falls
für jedes
,
dann sagen wir, daß
ein
erwartungstreuer Schätzer für 0 ist.
Lemma 2.7
Sei
ein erwartungstreuer Schätzer für
mit
Dann ist
genau dann bester
erwartungstreuer Schätzer für , wenn
unkorreliert ist mit jedem
erwartungstreuen Schätzer für 0.
Beweis
Sei
bester erwartungstreuer
Schätzer für , und sei
ein
erwartungstreuer Schätzer für 0.
Für jedes
ist dann auch
ein erwartungstreuer Schätzer für , und es gilt
Wir führen einen indirekten Beweis und nehmen an, daß es ein
gibt, so daß
Dann gibt es ein
, so daß
Hieraus folgt, daß
was im Widerspruch zu der Annahme steht, daß
bester erwartungstreuer Schätzer
für ist.
Also ist
(45)
Damit ist die Notwendigkeit der Bedingung (45)
bweisen.
Es gelte nun (45) für jeden erwartungstreuen
Schätzer
für 0.
Sei
ein anderer erwartungstreuer
Schätzer für mit
Wegen der Identität
ergibt sich aus Theorem WR-4.13, daß
wobei sich die letzte Gleichheit aus (45) ergibt,
weil
ein
erwartungstreuer Schätzer
für 0 ist.
Weil
ergibt sich nun, daß
d.h.,
ist bester erwartungstreuer
Schätzer für .
Mit Hilfe von Lemma 2.7 läßt sich nun das folgende
Ergebnis herleiten, das in der Literatur Satz von
Lehmann-Scheffé genannt wird.
Sei
ein beliebiges
parametrisches Modell mit
, und sei
eine beliebige Stichprobenfunktion,
so daß
ein vollständiger und
suffizienter Schätzer für ist.
Falls
erwartungstreu für
ist und falls
dann ist
bester erwartungstreuer
Schätzer für .
Beweis
Sei
ein vollständiger und
suffizienter Schätzer für , der erwartungstreu für
ist und dessen Varianz für jedes
endlich ist.
Wegen Lemma 2.7 genügt es zu zeigen, daß
unkorreliert ist mit jedem
erwartungstreuen Schätzer
für 0.
Hierfür genügt es zu zeigen, daß
(46)
weil
für jedes
.
Wir benutzen die folgende Formel der totalen Wahrscheinlichkeit:
die sich unmittelbar aus Theorem WR-2.6 ergibt, falls
eine diskrete Zufallsvariable ist
(ansonsten kann man die Gültigkeit dieser Formel mittels
Grenzwertbildung so wie in (40) erklären).
Hieraus folgt, daß
wobei
den Erwartungswert der (bedingten) Verteilung
bezeichnet mit
Weil
suffizient ist, hängt
lediglich von , jedoch nicht von ab, d.h., es gibt
eine (meßbare) Funktion
, so daß
Somit gilt
d.h.
.
Hieraus ergibt sich die Gültigkeit von (46), denn
aus der Formel der totalen Wahrscheinlichkeit folgt, daß