Next: Vollständigkeit
Up: Güteeigenschaften von Punktschätzern
Previous: Ungleichung von Cramér-Rao
  Contents
Suffizienz
Sei
ein beliebiges parametrisches
Modell mit
, und sei
eine
Zufallsstichprobe über dem (kanonischen) Wahrscheinlichkeitsraum
.
- Zur Erinnerung: Unter gewissen Regularitätsbedingungen hatten wir
in Abschnitt 2.3.2 für eine Klasse von
erwartungstreuen Schätzern eine untere Schranke für ihre Varianz,
die sogenannte Ungleichung von Cramér-Rao, hergeleitet; vgl.
Korollar 2.1.
- In Abschnitt 2.3.5 werden wir die Frage untersuchen,
unter welchen Bedingungen erwartungstreue Schätzer mit minimaler
Varianz existieren und welche Eigenschaften solche Schätzer haben.
- In Zusammenhang hiermit wird die Suffizienz von Schätzern eine
wichtige Rolle spielen, wobei diese Eigenschaft intuitiv wie folgt
beschrieben werden kann.
- Man sagt, daß der Schätzer
für
suffizient ist, falls (in einem noch zu präzisierenden Sinne)
sämtliche Information über , die in der Zufallsstichprobe
enthalten ist, auch in
enthalten ist.
- Beachte
-
- Typischerweise erfolgt ein ,,Informationsverlust'' beim Übergang
von
nach
insofern,
daß
- die Funktionswerte der Abbildung
im allgemeinen nicht aus den Funktionswerten der Abbildung
rekonstruiert werden
können.
- Von Suffizienz spricht man, wenn dieser ,,Informationsverlust'' in
einem gewissen (stochastischen) Sinne nicht wesentlich ist.
Wir präzisieren dies zunächst für den diskreten Fall, d.h.,
für jedes
gelte
-
für eine abzählbare Menge
,
die nicht von abhängt, wobei wir mit
die Wahrscheinlichkeitsfunktion von bezeichnen und
o.B.d.A. annehmen, daß
für jedes .
- Dann gilt auch
für jedes
, wobei
die
minimale abzählbare Menge mit dieser Eigenschaft sei, d.h., daß
für jedes
.
- Definition
- Der Schätzer
für
heißt suffizient, falls für beliebige
und
die bedingten Wahrscheinlichkeiten
|
(37) |
nicht von abhängen.
- Beachte
-
Zunächst zeigen wir, daß die Suffizienz bei (bijektiven)
zusammengesetzten Stichprobenfunktionen nicht verloren geht.
Lemma 2.1
Sei
ein suffizienter Schätzer für
, und sei
eine bijektive Borel-meßbare
Abbildung. Dann ist auch
ein
suffizienter Schätzer für
.
- Beweis
-
Für jedes
mit
gilt
wobei der letzte Ausdruck nicht von abhängt, weil
suffizient ist.
- Beachte
-
- Wir leiten nun eine (notwendige und hinreichende) Bedingung für
die Suffizienz von Schätzern her, die sich unmittelbar aus der
Definition dieser Güteeigenschaft ergibt.
- Dabei verwenden wir die abkürzende Schreibweise
für die Wahrscheinlichkeitsfunktion der Zufallsstichprobe
, und
für die Wahrscheinlichkeitsfunktion von
.
Lemma 2.2
Der Schätzer
für
ist genau dann
suffizient, wenn für beliebige
der Quotient
nicht von
abhängt.
- Beweis
-
- Beispiel
- Bernoulli-verteilte Stichprobenvariablen
- Beachte
-
- Die folgende (verallgemeinerte) Fassung von
Lemma 2.2 wird in der Literatur
Faktorisierungssatz von Neyman-Fisher genannt.
- Dieser Faktorisierungssatz beinhaltet eine andere (notwendige und
hinreichende) Bedingung für die Suffizienz, die gegenüber der in
Lemma 2.2 angegebenen Bedingung den Vorteil besitzt,
daß die Wahrscheinlichkeitsfunktion von
nicht explizit berechnet werden muß.
Theorem 2.3
Der Schätzer
für
ist genau dann
suffizient, wenn es Borel-meßbare Funktionen
und
gibt, so daß
|
(38) |
- Beweis
-
- Beispiel
- Poissonverteilte Stichprobenvariablen
Wir betrachten nun den absolutstetigen Fall, d.h.,
- für jedes
gelte
wobei
die Dichte von ist.
- Die Menge
sei die Vereinigung von
endlich vielen Intervallen, die nicht von
abhängen.
- Außerdem sei
eine Stichprobenfunktion, so
daß auch die Verteilung von
absolutstetig ist. Die Dichte
von
sei stetig in .
- Dann gilt
- Um den Begriff der Suffizienz definieren zu können, wird deshalb
ein allgemeineres Konzept für bedingte Wahrscheinlichkeiten
benötigt, als es in Abschnitt WR-2.6 eingeführt worden ist.
- Dabei fassen wir die bedingte Wahrscheinlichkeit
als Grenzwert auf: Falls
|
(39) |
dann setzen wir
|
(40) |
wobei vorausgesetzt wird, daß der Grenzwert existiert. Ansonsten
setzen wir
- Definition
-
Der Schätzer
für heißt
suffizient, falls für beliebige
und
die bedingte Wahrscheinlichkeit
nicht von
abhängt.
- Beachte
-
- Ähnlich wie im diskreten Fall (vgl. Lemma 2.2) kann
man auch im absolutstetigen Fall zunächst eine (hinreichende)
Bedingung für die Suffizienz von Schätzern angeben, die direkt an
die Definition dieser Güteeigenschaft anknüpft.
- Um die Gültigkeit dieser Bedingung überprüfen zu können, ist dabei
jedoch die Kenntnis der Dichte des Schätzers
erforderlich.
Lemma 2.3
Sei
die Dichte der
Zufallsstichprobe
, und
sei die Dichte von
. Falls für beliebige
mit
|
(41) |
der Quotient
nicht von
abhängt, dann ist durch
ein suffizienter
Schätzer für
gegeben.
- Beweis
-
- Beispiele
-
-
Normalverteilte Stichprobenvariablen
-
Exponentialverteilte Stichprobenvariablen
- Beachte
-
- Es ist jedoch oft schwierig, die Dichte des Schätzers
zu bestimmen und die Gültigkeit der in
Lemma 2.3 angegebenen Bedingung nachzuprüfen.
- So wie im diskreten Fall liefert dann die folgende Variante des
Faktorisierungssatzes von Neyman-Fisher eine alternative
(leichter nachprüfbare) Bedingung für die Suffizienz.
Theorem 2.4
Der Schätzer
für
ist genau dann
suffizient, wenn es Borel-meßbare Funktionen
und
gibt, so daß
Der Beweis von Theorem 2.4 geht über den
Rahmen dieser einführenden Vorlesung hinaus; vgl. beispielsweise
Abschnitt 3.3 in H. Pruscha (2000) Vorlesungen über
Mathematische Statistik, Teubner-Verlag, Stuttgart, oder
Abschnitt 2.6 in E.L. Lehmann (1997) Testing Statistical
Hypotheses, 2nd ed., Springer-Verlag, New York.
- Beispiel
- Normalverteilte Stichprobenvariablen
(Fortsetzung)
Next: Vollständigkeit
Up: Güteeigenschaften von Punktschätzern
Previous: Ungleichung von Cramér-Rao
  Contents
Roland Maier
2003-03-06