Charakteristiken der multivariaten Normalverteilung

• Sei ${\boldsymbol{\mu}}=(\mu_1,\ldots,\mu_n)^\top\in\mathbb{R}^n$ ein beliebiger Vektor, und sei ${\mathbf{K}}=(k_{ij})$ eine symmetrische und positiv definite $n\times n$ Matrix.
• Wir bestimmen zunächst die charakteristische Funktion von normalverteilten Zufallvektoren.
• Zur Erinnerung: Die charakteristische Funktion $\varphi:\mathbb{R}^n\to\mathbb{C}$ eines beliebigen $n$-dimensionalen Zufallsvektors ${\mathbf{X}}=(X_1,\ldots,X_n)^\top:\Omega\to\mathbb{R}^n$ ist gegeben durch

  $$\varphi({\mathbf{t}})={\mathbb{E} }\exp\bigl({\rm i} {\mathbf{t... ...l\Biggr) ,\qquad\forall {\mathbf{t}}=(t_1,\ldots,t_n)^\top\in\mathbb{R}^n .$$ (16)

  
  

Theorem 1.2    

• Der Zufallsvektor ${\mathbf{X}}=(X_1,\ldots,X_n)^\top:\Omega\to\mathbb{R}^n$ sei normalverteilt mit ${\mathbf{X}}\sim {\rm N}({\boldsymbol{\mu}},{\mathbf{K}})$.
• Dann gilt für die charakteristische Funktion $\varphi:\mathbb{R}^n\to\mathbb{C}$ von ${\mathbf{X}}$, dass

  $$\varphi({\mathbf{t}})=\exp\Bigl({\rm i} {\mathbf{t}}^\top{\bolds... ...p{\mathbf{K}}{\mathbf{t}}\Bigr) ,\qquad\forall {\mathbf{t}}\in\mathbb{R}^n .$$ (17)

  
  

Beweis

 

• Aus (13) und (16) folgt, dass
  

  $$\varphi({\mathbf{t}}) = \int\limits_{-\infty}^\infty \ldots \int\limits_{-\infty}^\infty ... ...\sum\limits_{\ell=1}^n t_\ell x_\ell \Biggr) f(x_1,\ldots,x_n) dx_1\ldots dx_n$$

  $$= \frac{1}{(2\pi)^{n/2} (\det {\mathbf{K}})^{1/2}} \int\limits_{-... ...\top {\mathbf{K}}^{-1}({\mathbf{x}}-{\boldsymbol{\mu}})\Bigr) dx_1\ldots dx_n$$

  $$= \frac{\exp({\rm i} {\mathbf{t}}^\top{\boldsymbol{\mu}})}{(2\pi)^... ...{2} {\mathbf{y}}^\top {\mathbf{K}}^{-1}{\mathbf{y}}\Bigr) dy_1\ldots dy_n ,$$

  
  
  wobei sich die letzte Gleichheit mit Hilfe der Substitution ${\mathbf{y}}={\mathbf{x}}-{\boldsymbol{\mu}}$ ergibt, für die die Matrix der partiellen Ableitungen die Einheitsmatrix und somit die Jacobi-Determinante gleich $1$ ist.
• Auf ähnliche Weise wie im Beweis von Theorem 1.1 ergibt sich nun hieraus mit Hilfe der Substitutionen ${\mathbf{y}}={\mathbf{V}}{\mathbf{x}}$ und ${\mathbf{t}}={\mathbf{V}}{\mathbf{s}}$, dass
  

  $$\varphi({\mathbf{t}}) = \frac{\exp({\rm i} {\mathbf{t}}^\top{\boldsymbol{\mu}})}{(2\pi)^... ...athbf{V}}^\top{\mathbf{K}}^{-1}{\mathbf{V}}{\mathbf{x}}\Bigr) dx_1\ldots dx_n$$

  $$= \frac{\exp({\rm i} {\mathbf{t}}^\top{\boldsymbol{\mu}})}{(2\pi)^... ... s_\ell x_\ell - \frac{x_\ell^2}{2\lambda_\ell}\Bigr)\Bigr) dx_1\ldots dx_n$$

  
  
  und somit
  

  $$\varphi({\mathbf{t}}) = \frac{\exp({\rm i} {\mathbf{t}}^\top{\boldsymbol{\mu}})}{(2\pi)^... ...gl( {\rm i} s_\ell x_\ell - \frac{x_\ell^2}{2\lambda_\ell} \Bigr) dx_\ell$$

  $$= \exp({\rm i} {\mathbf{t}}^\top{\boldsymbol{\mu}}) \prod\limits_{... ...{\rm i} s_\ell x_\ell - \frac{x_\ell^2}{2\lambda_\ell} \Bigr) dx_\ell ,$$

  
  
  wobei die Matrix ${\mathbf{V}}$ aus den orthonormalen Eigenvektoren von ${\mathbf{K}}$ besteht und $\lambda_1,\ldots,\lambda_n>0$ die Eigenwerte von ${\mathbf{K}}$ sind mit $\det{\mathbf{K}}=\lambda_1\cdot\ldots\cdot\lambda_n$.
• Nun genügt es zu beachten, dass $\varphi_\ell:\mathbb{R}\to\mathbb{C}$ mit
  $$\varphi_\ell(s)=\int\limits_{-\infty}^\infty \frac{1}{\sqrt{2\pi\lambda_\ell}}\;\exp\Bigl( {\rm i} s x - \frac{x^2}{2\lambda_\ell} \Bigr) dx$$
  die charakteristische Funktion der (eindimensionalen) N $(0,\lambda_\ell)$-Verteilung ist.
• Für diese Funktion hatten wir in Abschnitt WR-5.3.3 gezeigt, dass $\varphi_\ell(s)=\exp\bigl(-\lambda_\ell s^2/2\bigr)$.
• Es gilt somit
  

  $$\varphi({\mathbf{t}}) = \exp({\rm i} {\mathbf{t}}^\top{\boldsymbol{\mu}}) \prod\limits_{... ...u}})\; \exp\Bigl(-\;\frac{\sum\limits_{\ell=1}^n\lambda_\ell s_\ell^2}{2}\Bigr)$$

  $$= \exp({\rm i} {\mathbf{t}}^\top{\boldsymbol{\mu}})\; \exp\Bigl(- \;\frac{{\mathbf{t}}^\top{\mathbf{K}}{\mathbf{t}}}{2}\Bigr) .$$

  
  
  
   
    $\Box$
  
  
  

Mit Hilfe der in Theorem 1.2 hergeleiteten Formel (17) für die charakteristische Funktion lassen sich nun der Erwartungswert und die Kovarianzmatrix von normalverteilten Zufallsvektoren bestimmen.

Korollar 1.1   $\;$ Wenn ${\mathbf{X}}=(X_1,\ldots,X_n)^\top\sim {\rm N}({\boldsymbol{\mu}},{\mathbf{K}})$, dann gilt für beliebige $i,j=1,\ldots,n$

$${\mathbb{E} }X_i=\mu_i , \qquad {\rm Cov }(X_i,X_j)=k_{ij} .$$ (18)

Beweis

 

• Aus (17) folgt, dass

  $$\frac{\partial \varphi({\mathbf{t}})}{\partial t_i}= \Bigl({\rm i} \mu_i-\sum\limits_{\ell=1}^n k_{i\ell} t_\ell\Bigr) \varphi({\mathbf{t}})$$ (19)

  
  
  und

  $$\frac{\partial^2 \varphi({\mathbf{t}})}{\partial t_i\partial t_j}... ...i} \mu_j-\sum\limits_{\ell=1}^n k_{j\ell} t_\ell\Bigr)\varphi({\mathbf{t}}) .$$ (20)

  
  

• Man kann sich leicht überlegen, dass
  $${\mathbb{E} }X_i={\rm i} ^{-1}\;\frac{\partial \varphi({\mathbf{t}})}{\partial t_i}\;\Bigl\vert _{\;{\mathbf{t}}={\mathbf{o}}}\;.$$
  Wegen $\varphi({\mathbf{o}})=1$ ergibt sich nun hieraus und aus (19), dass ${\mathbb{E} }X_i=\mu_i$.
• Außerdem gilt (vgl. Übungsaufgabe 2.3)
  $${\mathbb{E} }(X_iX_j)=-\;\frac{\partial^2 \varphi({\mathbf{t}})}{\partial t_i\partial t_j}\;\Bigl\vert _{\;{\mathbf{t}}={\mathbf{o}}}\;.$$
  Hieraus und aus (20) ergibt sich, dass ${\rm Cov }(X_i,X_j)=k_{ij}$.
  
  $\Box$

Beachte

 

• In Theorem WR-4.14 hatten wir gezeigt, dass die Kovarianzmatrix ${\mathbf{K}}={\mathbf{K}}_{\mathbf{X}}$ eines beliebigen Zufallsvektors ${\mathbf{X}}=(X_1,\ldots,X_n)^\top$ stets symmetrisch und nichtnegativ definit ist.
• In der Definitionsgleichung (13) der Dichte der regulären multivariaten Normalverteilung wird zusätzlich vorausgesetzt, dass die Kovarianzmatrix ${\mathbf{K}}$ positiv definit ist.
• Dabei ist die positive Definitheit von ${\mathbf{K}}$ nicht nur hinreichend, sondern auch notwendig dafür, dass $\det{\mathbf{K}}\not=0$, d.h., dass ${\mathbf{K}}$ invertierbar ist bzw. vollen Rang hat.