Asymptotische Schätzvarianz; mittlerer quadratischer Fehler

Für das in Abschnitt 3.4.2 eingeführte statistische Modell untersuchen wir nun das asymptotische Verhalten der Varianz ${\rm Var\,}\,\widehat\theta_n$, wenn $n\to\infty$.

Theorem 3.19   $\;$ Es gilt

$$\lim\limits_{n\to\infty}\;n\,{\rm Var\,}\,\widehat\theta_n =\sigm... ...g}}({\boldsymbol{\varphi}})({\mathbf{Z}}-{\mathbf{I}}){\boldsymbol{\varphi}}\,,$$ (78)

wobei $\sigma^2=\sum_{i=1}^\ell \pi_i(\varphi_i-\theta)^2$ und ${\mathbf{Z}}=({\mathbf{I}}-({\mathbf{P}}-{\boldsymbol{\Pi}}))^{-1}$ die in $(\ref{def.fun.mat})$ definierte Fundamentalmatrix von ${\mathbf{P}}$ ist.

Beweis

 

• Offenbar gilt

  $$n^2\,{\rm Var\,}\widehat\theta_n = {\mathbb{E}\,} \Bigl(\sum\limi... ...)^2- \Bigl(\sum\limits_{k=0}^{n-1}{\mathbb{E}\,}\varphi({\mathbf{X}}_k)\Bigr)^2$$ (79)

  
  
  und somit
  $$n^2\,{\rm Var\,}\widehat\theta_n = \sum\limits_{k=0}^{n-1}{\mathb... ... \Bigl(\sum\limits_{k=0}^{n-1}{\mathbb{E}\,}\varphi({\mathbf{X}}_k)\Bigr)^2\,.$$

• Wir nutzen nun diese Darstellungsformel, um die Gültigkeit von (78) zunächst für den Fall ${\boldsymbol{\alpha}}_0={\boldsymbol{\pi}}$ zu zeigen.
  • In diesem Fall gilt nämlich, dass
    $$\Bigl(\sum\limits_{k=0}^{n-1}{\mathbb{E}\,} \varphi({\mathbf{X}}_k)\Bigr)^2=(n\theta)^2$$   und$$\qquad \sum\limits_{k=0}^{n-1}{\mathbb{E}\,} \varphi^2({\mathbf{X}}_k)=n\sum\limits_{i=1}^\ell\pi_i\varphi_i^2\,.$$

  • Außerdem ergibt sich dann aus der Stationarität der Markov-Kette $\{{\mathbf{X}}_n\}$, dass
    $$\sum\limits_{0\le k<k^\prime\le n-1}{\mathbb{E}\,}\Bigl( \varphi(... ...k){\mathbb{E}\,} \Bigl(\varphi({\mathbf{X}}_0)\varphi({\mathbf{X}}_k)\Bigr)\,,$$
    wobei
    $${\mathbb{E}\,}\Bigl( \varphi({\mathbf{X}}_0)\varphi({\mathbf{X}}_... ...top {\,{\rm diag}}({\boldsymbol{\varphi}}){\mathbf{P}}^k{\boldsymbol{\varphi}}$$
    und ${\mathbf{P}}^k={\mathbf{P}}^{(k)}=(p_{ij}^{(k)})$ die Matrix der $k$-stufigen Übergangswahrscheinlichkeiten bezeichnet.
  • Hieraus folgt nun insgesamt, dass
    

    $$\frac{1}{n}\; {\rm Var\,}\Bigl(\sum\limits_{k=0}^{n-1}\varphi({\mathbf{X}}_k)\Bigr) = \sum\limits_{i=1}^\ell\pi_i\varphi_i^2+2 {\boldsymbol{\pi}}^\top ... ...its_{k=1}^{n-1}\;\frac{n-k}{n}\;{\mathbf{P}}^k{\boldsymbol{\varphi}} -n\theta^2$$

    $$= \sigma^2+2 {\boldsymbol{\pi}}^\top {\,{\rm diag}}({\boldsymbol{\v... ...bol{\varphi}} -\;\frac{n-1}{2}\;{\boldsymbol{\Pi}}{\boldsymbol{\varphi}}\Biggr)$$

    $$= \sigma^2+2 {\boldsymbol{\pi}}^\top {\,{\rm diag}}({\boldsymbol{\v... ...;\bigl({\mathbf{P}}^k -{\boldsymbol{\Pi}}\bigr)\Biggr){\boldsymbol{\varphi}}\,,$$

    
    

  • wobei in der zweiten Gleichheit die folgende Identität genutzt wurde:
    $$\theta^2={\boldsymbol{\pi}}^\top\,{\,{\rm diag}}({\boldsymbol{\varphi}}){\boldsymbol{\Pi}}{\boldsymbol{\varphi}}\,.$$

  • Hieraus ergibt sich (78), wenn dabei die Darstellungsformel (76) für ${\mathbf{Z}}-{\mathbf{I}}$ berücksichtigt wird.
• Wir zeigen nun noch, dass (78) auch für jede beliebige Anfangsverteilung ${\boldsymbol{\alpha}}$ gilt.
  • Dabei präzisieren wir die Bezeichnungsweise wie folgt: Wir schreiben ${\mathbf{X}}^{({\boldsymbol{\alpha}})}_0,{\mathbf{X}}^{({\boldsymbol{\alpha}})}_1,\ldots$ anstelle von ${\mathbf{X}}_0,{\mathbf{X}}_1,\ldots$ bzw. $\widehat\theta^{({\boldsymbol{\alpha}})}_n$ anstelle von $\widehat\theta_n$.
  • Es genügt zu zeigen, dass

    $$\lim\limits_{n\to\infty}\;n\,\Bigl({\rm Var\,}\,\widehat\theta_n^... ...bol{\pi}})}- {\rm Var\,}\,\widehat\theta_n^{({\boldsymbol{\alpha}})}\Bigr)=0\,.$$ (80)

    
    

  • Hierfür führen wir noch die folgenden Bezeichnungen ein: Für $0<r<n-1$ sei
    $$Y^{(\cdot)}_r=\sum\limits_{k=0}^{r-1}\varphi({\mathbf{X}}^{(\cdot)}_k)$$   und$$\qquad Z^{(\cdot)}_{rn}=\sum\limits_{k=r}^{n-1}\varphi({\mathbf{X}}^{(\cdot)}_k)\,.$$

  • Dann ergibt sich aus (79), dass
    

    $${n^2\,\Bigl({\rm Var\,}\,\widehat\theta_n^{({\boldsymbol{\pi}})}- {\rm Var\,}\,\widehat\theta_n^{({\boldsymbol{\alpha}})}\Bigr)}$$

    $$= \Bigl({\mathbb{E}\,}\bigl(Y^{({\boldsymbol{\pi}})}_r + Z^{({\bold... ...ol{\alpha}})}_r + {\mathbb{E}\,} Z^{({\boldsymbol{\alpha}})}_{rn}\bigr)^2\Bigr)$$

    $$= \Bigl({\mathbb{E}\,}\bigl(Y^{({\boldsymbol{\pi}})}_r\bigr)^2-\big... ...})}_r\bigr)^2 +\bigl({\mathbb{E}\,} Y^{({\boldsymbol{\alpha}})}_r\bigr)^2\Bigr)$$

    $$+2{\mathbb{E}\,}\Bigl(\bigl(Y^{({\boldsymbol{\pi}})}_r-{\mathbb{E... ...})}_{rn}-{\mathbb{E}\,}\bigl(Z^{({\boldsymbol{\alpha}})}_{rn}\bigr)\bigr)\Bigr)$$

    $$+ \Bigl({\mathbb{E}\,}\bigl(Z^{({\boldsymbol{\pi}})}_{rn}\bigr)^2... ...\bigr)^2-\bigl({\mathbb{E}\,} Z^{({\boldsymbol{\alpha}})}_{rn}\bigr)^2\Bigr)\,,$$

    
    
    wobei wir die drei Summanden des letzten Ausdruckes mit $I_r$, $II_{rn}$ bzw. $III_{rn}$ bezeichnen.
  • Der Summand $I_r$ hängt nicht von $n$ ab, weshalb $\lim_{n\to\infty} n^{-1} I_r=0$.
  • Weil der Zustandsraum $E$ endlich ist, gilt für die Konstante $c=\max_{i\in E} \vert\varphi(i)\vert<\infty$, dass
    $$\frac{1}{n}\; II_{rn}\le 4rc\,{\mathbb{E}\,}\Bigl(\;\frac{1}{n}\;... ...-{\mathbb{E}\,}\bigl(Z^{({\boldsymbol{\alpha}})}_{rn}\bigr)\bigr\vert\Bigr)\,.$$

  • Hieraus folgt, dass $\lim_{n\to\infty} n^{-1} II_{rn}=0$ für jedes $r>0$, weil mit Wahrscheinlichkeit $1$
    $$\frac{1}{n}\;\bigl\vert Z^{(\cdot)}_{rn} -{\mathbb{E}\,}\bigl(Z^{(\cdot)}_{rn}\bigr)\bigr\vert\le 2c$$
    für jedes $n>r$ und
    $$\lim\limits_{n\to\infty}\;\frac{1}{n}\;\bigl\vert Z^{({\boldsymbo... ...rn} -{\mathbb{E}\,}\bigl(Z^{({\boldsymbol{\alpha}})}_{rn}\bigr)\bigr\vert=0\,.$$

  • Außerdem gilt für $n>r>0$ die Abschätzung
    

    $$\frac{1}{n}\; III_{rn} \le \frac{1}{n}\;\sum\limits_{i=1}^\ell \Bigl({\mathbb{E}\,}\bigl(Z^{... ...\mathbb{E}\,} Z^{(\delta_i)}_{0,n-r}\bigr)^2 \Bigr) \vert\pi_i-\alpha_{ri}\vert$$

    $$\le \underbrace{\sup\limits_{n>0}\max\limits_{j\in\{1,\ldots,\ell\}}\... ..._{0n}\Bigr)^2}_{<\infty} \,\sum\limits_{i=1}^\ell\vert\pi_i-\alpha_{ri}\vert\,,$$

    
    
    wobei man sich leicht überlegen kann, dass das Supremum endlich ist.
  • Weil die letzte Summe wegen der Ergodizität der Markov-Kette ${\mathbf{X}}^{({\boldsymbol{\alpha}})}_0,{\mathbf{X}}^{({\boldsymbol{\alpha}})}_1,\ldots$ beliebig klein wird, falls $r$ hinreichend groß ist, ist damit die Gültigkeit von (80) bewiesen.
    
    $\Box$

Beachte

 

• Zur Erinnerung
  • Aus Theorem 2.1 des Vorlesungsskriptes ,,Statistik I'' ergibt sich für den mittleren quadratischen Fehler ${\mathbb{E}\,} (\bigl(\,\widehat\theta_n-\theta\bigr)^2)$ des in (70) definierten MCMC-Schätzers $\widehat\theta_n=\widehat\theta({\mathbf{X}}_1,\ldots,{\mathbf{X}}_n)$ für $\theta$, dass

    $${\mathbb{E}\,}(\bigl(\,\widehat\theta_n-\theta\bigr)^2) =\bigl({\mathbb{E}\,}\,\widehat\theta_n-\theta\bigr)^2 +{\rm Var\,}\,\widehat\theta_n\,,$$ (81)

    
    

  • d.h., der MQ-Fehler des MCMC-Schätzers $\widehat\theta_n$ ist die Summe aus quadriertem Bias $({\mathbb{E}\,}\,\widehat\theta_n-\theta)^2$ und Varianz ${\rm Var\,}\,\widehat\theta_n$ des Schätzers $\widehat\theta_n$.
• Die beiden Summanden auf der rechten Seite von (81) konvergieren unterschiedlich schnell gegen 0, wenn $n\to\infty$.
  • In Theorem 3.19 haben wir gezeigt, dass ${\rm Var\,}\,\widehat\theta_n=O(n^{-1})$ gilt.
  • Andererseits ergibt sich aus Theorem 3.18, dass $({\mathbb{E}\,}\,\widehat\theta_n-\theta)^2=O(n^{-2})$.
• Hieraus folgt, dass
  • nicht der Bias ${\mathbb{E}\,}\,\widehat\theta_n-\theta$, sondern die asymptotische Varianz ${\rm Var\,}\,\widehat\theta_n$ des Schätzers $\widehat\theta_n$
  • die entscheidende Rolle bei der asymptotischen Analyse des MQ-Fehlers ${\mathbb{E}\,} (\bigl(\,\widehat\theta_n-\theta\bigr)^2)$ des in (70) definierten MCMC-Schätzers $\widehat\theta$ spielt, wenn $n\to\infty$.
• Mit anderen Worten: Es kann sinnvoll sein, die Simulationsmatrix ${\mathbf{P}}$ so zu wählen,
  • dass die asymptotische Schätzvarianz $\lim_{n\to\infty}n{\rm Var\,}\,\widehat\theta_n$ möglichst klein ist,
  • gegebenenfalls bei einer gewissen Vergrößerung des asymptotischen Bias $\lim_{n\to\infty}n\bigl({\mathbb{E}\,}\,\widehat\theta_n-\theta\bigr)$.

Um diese Problematik näher zu untersuchen, führen wir die folgende Bezeichnung ein: Sei

$$V(\varphi,{\mathbf{P}},{\boldsymbol{\pi}})=\lim_{n\to\infty}n{\rm Var\,}\,\widehat\theta_n\,,$$

wobei $\varphi:E\to\mathbb{R}$ eine beliebige Funktion und $({\mathbf{P}},{\boldsymbol{\pi}})$ ein beliebiges reversibles Paar ist.

Theorem 3.20    

• Seien ${\mathbf{P}}_1=(p_{1,ij})$ und ${\mathbf{P}}_2=(p_{2,ij})$ zwei Übergangsmatrizen auf $E$, so dass $({\mathbf{P}}_1,{\boldsymbol{\pi}})$ und $({\mathbf{P}}_2,{\boldsymbol{\pi}})$ jeweils reversible Paare sind.
  • Für beliebige $i,j\in E$ mit $i\not= j$ gelte $p_{1,ij}\ge p_{2,ij}$,
  • d.h. außerhalb der Hauptdiagonalen seien sämtliche Eintragungen der Übergangsmatrix ${\mathbf{P}}_1$ gleich oder größer als die entsprechenden Eintragungen der Übergangsmatrix ${\mathbf{P}}_2$.
• Dann gilt für jede Funktion $\varphi:E\to\mathbb{R}$

  $$V(\varphi,{\mathbf{P}}_1,{\boldsymbol{\pi}})\le V(\varphi,{\mathbf{P}}_2,{\boldsymbol{\pi}})\,.$$ (82)

  
  

Beweis

 

• Sei ${\mathbf{P}}=(p_{ij})$ eine Übergangsmatrix, so dass das Paar $({\mathbf{P}},{\boldsymbol{\pi}})$ reversibel ist. Es genügt zu zeigen, dass

  $$\frac{\partial}{\partial p_{ij}}\;V(\varphi,{\mathbf{P}},{\boldsymbol{\pi}})\le 0\,, \mbox{$\forall\, i,j\in E$\ mit $i\not= j$.}$$ (83)

  
  

• Aus Theorem 3.19 ergibt sich, dass

  $$\frac{\partial}{\partial p_{ij}}\;V(\varphi,{\mathbf{P}},{\boldsy... ...i}})\;\frac{\partial {\mathbf{Z}}}{\partial p_{ij}}\; {\boldsymbol{\varphi}}\,,$$ (84)

  
  
  wobei ${\mathbf{Z}}$ die in (74) eingeführte Fundamentalmatrix von ${\mathbf{P}}$ ist.
  • Andererseits folgt aus ${\mathbf{Z}}{\mathbf{Z}}^{-1}={\mathbf{I}}$, dass
    $$\Bigl(\frac{\partial {\mathbf{Z}}}{\partial p_{ij}}\Bigr){\mathbf... ...{Z}} \Bigl(\frac{\partial {\mathbf{Z}}^{-1}}{\partial p_{ij}}\Bigr)={\,{\bf0}}$$
    und somit
    $$\frac{\partial {\mathbf{Z}}}{\partial p_{ij}}=-{\mathbf{Z}}\;\frac{\partial {\mathbf{Z}}^{-1}}{\partial p_{ij}}\;{\mathbf{Z}}\,.$$

  • Hieraus und aus (84) ergibt sich, dass

    $$\frac{\partial}{\partial p_{ij}}\;V(\varphi,{\mathbf{P}},{\boldsy... ...tial {\mathbf{Z}}^{-1}}{\partial p_{ij}}\;{\mathbf{Z}}{\boldsymbol{\varphi}}\,.$$ (85)

    
    

• Weil das Paar $({\mathbf{P}},{\boldsymbol{\pi}})$ reversibel ist, ergibt sich aus der in Lemma 3.3 hergeleiteten Darstellungsformel (75) für die Fundamentalmatrix ${\mathbf{Z}}=(z_{ij})$, dass für beliebige $i,j\in E$
  $$\pi_i z_{ij} = \pi_i\delta_{ij}+\sum\limits_{k=1}^\infty \Bigl(\p... ...limits_{k=1}^\infty \Bigl(\pi_jp_{ji}^{(k)}-\pi_j\pi_i\Bigr) = \pi_j z_{ji}\,.$$
  • Hieraus folgt, dass
    

    $${\boldsymbol{\pi}}^\top\, {\,{\rm diag}}({\boldsymbol{\varphi}}){\mathbf{Z}} = \Bigl(\sum\limits_{i=1}^\ell \pi_i\varphi_i z_{i1},\ldots,\sum\limits_{i=1}^\ell \pi_i\varphi_i z_{i\ell}\Bigr)$$

    $$= \Bigl(\pi_1\sum\limits_{i=1}^\ell z_{1i}\varphi_i ,\ldots,\pi_\ell\sum\limits_{i=1}^\ell z_{\ell i }\varphi_i \Bigr)$$

    $$= \bigl({\mathbf{Z}}{\boldsymbol{\varphi}}\bigr)^\top{\,{\rm diag}}({\boldsymbol{\pi}})\,.$$

    
    

  • Somit ergibt sich aus (85), dass

    $$\frac{\partial}{\partial p_{ij}}\;V(\varphi,{\mathbf{P}},{\boldsy... ...{\partial {\mathbf{P}}}{\partial p_{ij}}\;{\mathbf{Z}}{\boldsymbol{\varphi}}\,,$$ (86)

    
    
    wobei in der letzten Gleichheit die Identität
    $$\frac{\partial {\mathbf{Z}}^{-1}}{\partial p_{ij}}=-\;\frac{\partial {\mathbf{P}}}{\partial p_{ij}}$$
    genutzt wurde, die sich unmittelbar aus der Definitionsgleichung (74) von ${\mathbf{Z}}$ ergibt.
• Weil ${\mathbf{P}}=(p_{ij})$ eine stochastische Matrix ist und weil das Paar $({\mathbf{P}},{\boldsymbol{\pi}})$ reversibel ist,
  • sind nur die Eintragungen $p_{ij}$ mit $i<j$ (oder nur die Eintragungen $p_{ij}$ mit $i>j$) frei wählbar,
  • denn für jedes Index-Paar $i,j\in E$ mit $i\not= j$ lassen sich die Eintragungen $p_{ji}$, $p_{ii}$ und $p_{jj}$ wie folgt durch $p_{ij}$ ausdrücken: Es gilt
    $$p_{ji}=\frac{\pi_i}{\pi_j}\;p_{ij}\,,\qquad p_{ii}=c-p_{ij}\,,\qquad p_{jj}=c^\prime-\;\frac{\pi_i}{\pi_j}\;p_{ij}\,,$$
    wobei $c$ und $c^\prime$ Konstanten sind, die nicht von $p_{ij}$ abhängen.
  • Für beliebige $i^\prime,j^\prime\in E$ ist somit die Eintragung $\bigl({\,{\rm diag}}({\boldsymbol{\pi}})(\partial {\mathbf{P}}/\partial p_{ij})\bigr)_{i^\prime,j^\prime}$ des Matrixproduktes ${\,{\rm diag}}({\boldsymbol{\pi}})(\partial {\mathbf{P}}/\partial p_{ij})$ gegeben durch
    $$\Bigl({\,{\rm diag}}({\boldsymbol{\pi}}) \;\frac{\partial {\... ...me)=(j,i)$,}\\ [3\jot] 0\,, &\mbox{sonst.} \end{array}\right.$$

  • Hieraus folgt, dass die Matrix ${\,{\rm diag}}({\boldsymbol{\pi}})(\partial {\mathbf{P}}/\partial p_{ij})$ nichtpositiv definit ist, d.h., für jedes ${\mathbf{x}}\in\mathbb{R}^\ell$ gilt
    $${\mathbf{x}}^\top{\,{\rm diag}}({\boldsymbol{\pi}}) \;\frac{\partial {\mathbf{P}}}{\partial p_{ij}}\;{\mathbf{x}}\le 0\,.$$

  • Aus (86) ergibt sich nun dass für beliebige $i,j\in E$ mit $i\not= j$
    $$\frac{\partial}{\partial p_{ij}}\;V(\varphi,{\mathbf{P}},{\boldsy... ...ial {\mathbf{P}}}{\partial p_{ij}}\;{\mathbf{Z}}{\boldsymbol{\varphi}}\le 0\,.$$

• Damit ist die Gültigkeit von (83) bewiesen.
  
  $\Box$

Beachte

$\;$ Aus Theorem 3.20 folgt insbesondere,

• dass durch die Simulationsmatrix ${\mathbf{P}}$ des Metropolis-Algorithmus (d.h, wenn in (50) die Gleichheit betrachtet wird) die asymptotische Varianz $V(\varphi,{\mathbf{P}},{\boldsymbol{\pi}})$ minimiert wird,
• und zwar in der Klasse aller Metropolis-Hastings-Algorithmen mit einer beliebigen, jedoch fest vorgegebenen ,,potentiellen Übergangsmatrix'' ${\mathbf{Q}}=\bigl(q_{ij}\bigr)$.