Güteeigenschaften; punktweise und gleichmäßige Konsistenz

In diesem Abschnitt betrachten wir einige Güteeigenschaften des Kolmogorow-Smirnow-Tests.

Um die (punktweise) Konsistenz des KS-Tests zu zeigen, benötigen wir den Satz von Gliwenko-Cantelli (vgl. Theorem I-1.18), d.h., dass

$$\mathbb{P}_{F_0}\Bigl(\lim\limits_{n\to\infty}\sup\limits_{t\in\mathbb{R}}\;\bigl\vert\widehat F_n(t;X_1,\ldots,X_n)-F_0(t)\bigr\vert=0\Bigr)=1 .$$ (17)

Theorem 5.2   $\;$ Die Verteilungsfunktion $F_0:\mathbb{R}\to[0,1]$ sei stetig. Dann ist der Kolmogorow-Smirnow-Test punktweise konsistent für jede Verteilungsfunktion $F$ der Stichprobenvariablen mit $F\not=F_0$, d.h., es gilt

$$\lim\limits_{n\to\infty}\mathbb{P}_F\bigl(T_n(X_1,\ldots,X_n)>s_{n,1-\alpha}\bigr)=1 .$$ (18)

Beweis

 

• Aus (17) ergibt sich, dass für jedes $F\not=F_0$
  $$\mathbb{P}_F\Bigl(\lim\limits_{n\to\infty}\sup\limits_{t\in\mathbb{R}}\;\bigl\vert\widehat F_n(t;X_1,\ldots,X_n)-F_0(t)\bigr\vert>0\Bigr)=1 .$$

• Hieraus folgt, dass $T_n(X_1,\ldots,X_n)\to\infty$ mit Wahrscheinlichkeit $1$ unter $F\not=F_0$.
• Weil $s_{n,1-\alpha}\to\xi_{1-\alpha}<\infty$ für $n\to\infty$, wobei $\xi_{1-\alpha}$ das $(1-\alpha)$-Quantil der in (11) gegebenen Kolmogorow-Verteilung ist, gilt auch, dass $T_n(X_1,\ldots,X_n)-(s_{n,1-\alpha}-\xi_{1-\alpha})\stackrel{{\rm f.s.}}{\longrightarrow} \infty$ und somit
  

  $$\lim\limits_{n\to\infty} \mathbb{P}_F\bigl(T_n(X_1,\ldots,X_n)>s_{n,1-\alpha}\bigr) = \lim\limits_{n\to\infty}\mathbb{P}_F\bigl(T_n(X_1,\ldots,X_n)- (s_{n,1-\alpha}-\xi_{1-\alpha})>\xi_{1-\alpha}\bigr)$$

  $$= \lim\limits_{n\to\infty}\mathbb{P}_F\bigl(T_n(X_1,\ldots,X_n) >\xi_{1-\alpha}\bigr)\;=\;1 .$$

  
  
  
   
    $\Box$
  
  
  

Beachte

 

• In Verschärfung von Theorem 5.2 kann man zeigen, dass der KS-Test auch gleichmäßig konsistent ist, wenn der Kolmogorow-Abstand

  $$d_K(\Delta_n;F_0)=\inf\limits_{F\in\Delta_n}\sup\limits_{t\in\mathbb{R}}\vert F(t)-F_0(t)\vert$$ (19)

  
  
  zwischen der Familie $\Delta_n$ der alternativen Verteilungsfunktionen und der (hypothetischen) Verteilungsfunktion $F_0$ mit wachsendem Stichprobenumfang $n$ nicht zu schnell gegen 0 konvergiert.
• Hierfür benötigen wir die folgende Verschärfung des Satzes von Gliwenko-Cantelli, die in der Literatur die Ungleichung von Dworetsky-Kiefer-Wolfowitz genannt wird und die wir hier ohne Beweis angeben.

Lemma 5.3   $\;$ Für beliebige $c>0$ und $n\ge 1$ gilt

$$\mathbb{P}_F\Bigl( \sup\limits_{t\in\mathbb{R}}\;\bigl\vert\widehat F_n(t;X_1,\ldots,X_n)-F(t)\bigr\vert>c\Bigr)\le C\exp\bigl(-2nc^2\bigr) ,$$ (20)

wobei $C\le 2$ eine universelle Konstante ist, die nicht von $F$ abhängt.

Beachte

 

• Aus Lemma 5.3 folgt, dass es für jedes $\varepsilon >0$ ein $c^\prime>0$ gibt, das nicht von $F$ abhängt und dass

  $$\inf\limits_{n\ge 1} \mathbb{P}_F\Bigl(\sqrt{n}\;\sup\limits_{t\i... ...hat F_n(t;X_1,\ldots,X_n)-F(t)\bigr\vert\le c^\prime\Bigr)\ge 1-\varepsilon .$$ (21)

  
  

• Um dies zu sehen, genügt es für $\varepsilon \in(0,1)$, den Schwellenwert $c$ in (20) so zu wählen, dass $c=c^\prime/\sqrt{n}$, wobei
  $$c^\prime=\sqrt{-\;\frac{1}{2}\;\log\Bigl(\;\frac{\varepsilon }{C}\;\Bigr)} .$$

• Weil $c^\prime$ nicht von $F$ abhängt, gilt außerdem, dass es für jedes $\varepsilon >0$ ein $c^\prime>0$ gibt, so dass

  $$\inf\limits_{n\ge 1} \mathbb{P}_{F_n}\Bigl(\sqrt{n}\;\sup\limits_... ...t F_n(t;X_1,\ldots,X_n)-F_n(t)\bigr\vert\le c^\prime\Bigr)\ge 1-\varepsilon ,$$ (22)

  
  
  wobei $\{F_n\}$ eine beliebige Folge von Verteilungsfunktionen ist.

Mit diesen Hilfsmitteln können wir die bereits oben erwähnte gleichmäßige Konsistenz-Eigenschaft des KS-Tests für den Fall zeigen, dass der Kolmogorow-Abstand $d_K(\Delta_n;F_0)$ zwischen der Familie $\Delta_n$ der alternativen Verteilungsfunktionen und der (hypothetischen) Verteilungsfunktion $F_0$ mit wachsendem Stichprobenumfang $n$ nicht zu schnell gegen 0 konvergiert.

Theorem 5.3   $\;$ Wenn es eine Folge $\{\delta_n\}$ positiver Zahlen mit $\delta_n\to\infty$ gibt, so dass

$$\sqrt{n}\;d_K(\Delta_n;F_0) \ge \delta_n\qquad\forall n\ge 1 ,$$ (23)

dann gilt

$$\lim\limits_{n\to\infty}\inf\limits_{F\in\Delta_n} \mathbb{P}_F\bigl(T_n(X_1,\ldots,X_n)>s_{n,1-\alpha}\bigr)=1 .$$ (24)

Beweis

 

• Sei $\{\delta_n\}$ eine Folge positiver Zahlen mit $\delta_n\to\infty$, für die (23) gilt, und sei $\{F_n\}$ eine beliebige Folge von Verteilungsfunktionen, so dass für jedes $n\ge 1$

  $$F_n\in\Delta_n \qquad\sqrt{n}\;d_K(F_n;F_0) \ge \delta_n ,$$ (25)

  
  
  wobei $d_K(F_n;F_0)=\sup_{t\in\mathbb{R}}\vert F_n(t)-F_0(t)\vert$.
• Es genügt zu zeigen, dass

  $$\lim\limits_{n\to\infty} \mathbb{P}_{F_n}\bigl(T_n(X_1,\ldots,X_n)>s_{n,1-\alpha}\bigr)=1 .$$ (26)

  
  
  • Aus der Dreiecksungleichung ergibt sich, dass
    $$d_K(F_n,F_0)\le d_K(F_n,\widehat F_n)+d_K(\widehat F_n,F_0) .$$

  • Hieraus und aus (25) folgt, dass
    $$T_n(X_1,\ldots,X_n)\ge \delta_n-\sqrt{n}\;d_K(F_n,\widehat F_n) .$$

  • Folglich gilt

    $$\mathbb{P}_{F_n}\bigl(T_n(X_1,\ldots,X_n)>s_{n,1-\alpha}\bigr)\ge... ...P}_{F_n}\bigl(\sqrt{n}\;d_K(F_n,\widehat F_n)< \delta_n-s_{n,1-\alpha}\bigr) .$$ (27)

    
    

• Weil $s_{n,1-\alpha}\to\xi_{1-\alpha}<\infty$ und somit $\delta_n-s_{n,1-\alpha}\to\infty$ für $n\to\infty$, ergibt sich die Gültigkeit von (26) aus (22) und (27).
  
  $\Box$

Beachte

 

• Die Bedingung (23) ist insbesondere dann erfüllt, wenn $d_K(\Delta_n;F_0) \ge \delta$ für jedes $n\ge 1$ und $\delta>0$ eine Konstante ist, die nicht von $n$ abhängt.
• Wenn $\sqrt{n}\;d_K(F_n;F_0) \ge \delta_n$ und $\delta_n>s_{n,1-\alpha}$, dann ergibt sich aus (27), wobei die rechte Seite dieser Ungleichung mit Lemma 5.3 (für $F=F_n$) weiter nach unten abgeschätzt wird, dass für jedes $n\ge 1$ die folgende (nicht asymptotische) untere Schranke für die Macht des KS-Tests gilt:

  $$\mathbb{P}_{F_n}\bigl(T_n(X_1,\ldots,X_n)>s_{n,1-\alpha}\bigr)\ge 1-2\exp\Bigl(-2(\delta_n-s_{n,1-\alpha})^2\Bigr) .$$ (28)

  
  

• Bei vorgegebenem (endlichem) Stichprobenumfang $n<\infty$ kann die ,,Ablehnungswahrscheinlichkeit'' $\mathbb{P}_{F_0}\bigl(T_n(X_1,\ldots,X_n)>s_{n,1-\alpha}\bigr)$ jedoch kleiner als $\alpha$ sein.

Andererseits kann die (asymptotische) Macht des KS-Tests beliebig klein werden, d.h., beliebig nahe bei $\alpha$ sein, wenn der Kolmogorow-Abstand $d_K(\Delta_n;F_0)$ zwischen der Familie $\Delta_n$ der alternativen Verteilungsfunktionen und der (hypothetischen) Verteilungsfunktion $F_0$ mit wachsendem Stichprobenumfang $n$ hinreichend schnell gegen 0 konvergiert.

Theorem 5.4    

• Sei $\{F_n\}$ eine beliebige Folge von stetigen Verteilungsfunktionen, so dass

  $$\lim\limits_{n\to\infty}\sqrt{n}\;d_K(F_n;F_0)\to 0 .$$ (29)

  
  

• Dann gilt

  $$\limsup\limits_{n\to\infty}\mathbb{P}_{F_n}\bigl(T_n(X_1,\ldots,X_n)>s_{n,1-\alpha}\bigr)\le \alpha .$$ (30)

  
  

Beweis

 

• Aus der Dreiecksungleichung ergibt sich, dass
  $$\mathbb{P}_{F_n}\bigl(T_n(X_1,\ldots,X_n)>s_{n,1-\alpha}\bigr)\le... ...\sqrt{n}\;d_K(\widehat F_n;F_n)+\sqrt{n}\;d_K(F_n;F_0)>s_{n,1-\alpha}\bigr) .$$

• Hieraus und aus (29) ergibt sich die Gültigkeit von (30), weil die Verteilung von $\sqrt{n}\;d_K(\widehat F_n;F_n)$ unter $F_n$ nicht von $n$ abhängt.
  
  $\Box$