Empirische Kovarianz; empirischer Korrelationskoeffizient

1. Empirische Kovarianz
   • Aus dem Streudiagramm des Beispiels, das in Abschnitt 2.4.1 betrachtet wurde, ergibt sich die Vermutung, dass
     • ein Zusammenhang zwischen den Merkmalen ,,Clusterzahl je Traube'' ($X$) und ,,Jahresertrag''($Y$) besteht, denn
     • für wachsende Werte des Merkmals $X$ weist auch das Merkmal $Y$ tendenzmäßig größere Werte auf.

     
     

   • Eine Maßzahl zur Beschreibung eines solchen Zusammenhanges ist die empirische Kovarianz

     $$s^2_{xy}=\frac{1}{n-1}\sum\limits_{i=1}^n(x_i-\overline x_n)(y_i-\overline y_n)$$ (22)

     
     
     der Stichproben $(x_1,\ldots,x_n)$ und $(y_1,\ldots,y_n)$, wobei
     $$\overline x_n=\frac{1}{n}\sum\limits_{i=1}^n x_i\,,\qquad \overline y_n=\frac{1}{n}\sum\limits_{i=1}^n y_i$$
     die Stichprobenmittel von $(x_1,\ldots,x_n)$ bzw. $(y_1,\ldots,y_n)$ bezeichnen.

     
     

   • Beachte 
     • Ein Nachteil des in (22) definierten Zuhammenhangsmaßes besteht darin, dass $s^2_{xy}$ skalenabhängig ist, d.h., von der Größe der Stichprobenwerte $x_1,\ldots,x_n$ bzw. $y_1,\ldots,y_n$ abhängt.
     • Dieser Nachteil wird eliminiert, wenn anstelle der empirischen Kovarianz $s^2_{xy}$ der empirische Korrelationskoeffizient betrachtet wird.

   
   

2. Empirischer Korrelationskoeffizient
   • Die Größe

     $$\rho_{xy}=\frac{\displaystyle\sum\limits_{i=1}^n\Bigl((x_i-\overl... ...line y_n\bigr)^2}}\qquad\Biggl(=\frac{s^2_{xy}}{\sqrt{s^2_{xx}s^2_{yy}}}\Biggr)$$ (23)

     
     
     heißt empirischer Korrelationskoeffizient der Stichproben $(x_1,\ldots,x_n)$ und $(y_1,\ldots,y_n)$, wobei die Stichprobenvarianzen $s^2_{xx}$ und $s^2_{yy}$ gegeben sind durch
     $$s^2_{xx}=\frac{1}{n-1}\sum\limits_{i=1}^n\bigl(x_i-\overline x_n\... ...ad s^2_{yy}=\frac{1}{n-1}\sum\limits_{i=1}^n\bigl(y_i-\overline y_n\bigr)^2\,.$$

   • Man kann zeigen, dass für den in (23) definierten empirischen Korrelationskoeffizienten $\rho _{xy}$ stets

     $$-1\le\rho_{xy}\le 1$$ (24)

     
     
     gilt, wobei
     • $\vert\rho_{xy}\vert$ groß ist, wenn ein Zusammenhang zwischen $X$ und $Y$ besteht, und
     • $\vert\rho_{xy}\vert$ klein ist, wenn $X$ und $Y$ voneinander unabhängig sind.

     
     

   • Insbesondere kann man zeigen, dass
     • $\rho_{xy}=1$, falls sämtliche Punkte $(x_1,y_1),\ldots,(x_n,y_n)$ auf einer Geraden mit positivem Anstieg liegen,
     bzw.
     • $\rho_{xy}=-1$, falls sämtliche Punkte $(x_1,y_1),\ldots,(x_n,y_n)$ auf einer Geraden mit negativem Anstieg liegen.

     
     

   • Der empirische Korrelationskoeffizient $\rho _{xy}$ misst darüber hinaus in dem folgenden Sinne die Stärke des linearen Zusammenhanges zwischen den Ausprägungen/Werten der Merkmale $X$ und $Y$:
     • Je näher die Punkte $(x_1,y_1),\ldots,(x_n,y_n)$ an einer Geraden mit positivem Anstieg liegen, um so näher liegt der empirische Korrelationskoeffizient $\rho _{xy}$ bei $1$, und
     • je näher die Punkte $(x_1,y_1),\ldots,(x_n,y_n)$ an einer Geraden mit negativem Anstieg liegen, um so näher liegt der empirische Korrelationskoeffizient $\rho _{xy}$ bei $-1$.

     
     

   • Eine (grobe) Klassifikation des Zusammenhanges der Merkmale $X$ und $Y$ kann somit wie folgt beschrieben werden:
     • ,,schwacher Zusammenhang'', falls $\vert\rho_{xy}\vert<0.5$,
     • ,,mittlerer Zusammenhang'', falls $0.5\le\vert\rho_{xy}\vert<0.8$,
     • ,,starker Zusammenhang'', falls $\vert\rho_{xy}\vert\ge 0.8$.

   
   

3. Alternative Darstellung des empirischen Korrelationskoeffizienten $\rho _{xy}$
   • Man kann zeigen, dass sich der in (23) definierte empirische Korrelationskoeffizient $\rho _{xy}$ darstellen lässt in der Form

     $$\rho_{xy}=\frac{\displaystyle\sum\limits_{i=1}^n x_iy_i-n\overlin... ...overline x_n^2\Bigr)\Bigr(\sum\limits_{i=1}^n y_i^2-n\overline y_n^2\Bigr)}}\;,$$ (25)

     
     
     wobei diese alternative Darstellung des empirischen Korrelationskoeffizienten $\rho _{xy}$ günstiger für das praktische Rechnen ist.
   • Übungsaufgabe. Bestimmen Sie für die in Abschnitt 2.4.1 betrachteten Daten über den Jahresertrag bzw. die mittlere Clusterzahl je Traube
     • die Stichprobenmittel $\overline x_{12}$ und $\overline y_{12}$ sowie
     • den empirischen Korrelationskoeffizienten $\rho _{xy}$.

   
   

4. Empirischer Korrelationskoeffizient bei binären Daten
   • Außerdem lässt sich für binäre Daten, d.h., falls die Stichprobenwerte $x_1,\ldots,x_n$ und $y_1,\ldots,y_n$ nur 0 oder $1$ sein können, noch eine weitere nützliche Darstellungsformel für den empirischen Korrelationskoeffizienten $\rho _{xy}$ angeben.
   • Mit der in Abschnitt 2.3.1 eingeführten Notation gilt dann

     $$\rho_{xy}=\frac{h_{11}\,h_{22}- h_{12}\,h_{21}}{\sqrt{(h_{11}+h_{12})(h_{11}+h_{21})(h_{12}+h_{22})(h_{21}+h_{22})}}\;,$$ (26)

     
     
     wobei $h_{ij}=h(c_i,d_j)$ für jedes $i=1,\ldots,k_1$ unf für jedes $j=1,\ldots,k_2$ die absolute Häufigkeit bezeichnet, mit der die Kombination $(c_i,d_j)$ der Ausprägungen $c_i\in\{0,1\}$ und $d_j\in\{0,1\}$ in den Stichproben $(x_1,\ldots,x_n)$ bzw. $(y_1,\ldots,y_n)$ auftritt.
   • Beachte 
     • Wenn man die Formeln (18) und (26) miteinander vergleicht, dann erkennt man, dass der $\chi^2$-Koeffizient $T$ und der empirische Korrelationskoeffizient $\rho _{xy}$ bei binären Daten wie folgt zusammenhängen: Es gilt

       $$\rho^2_{xy}=\frac{T}{n}\;.$$ (27)

       
       

     • Wir betrachten nun erneut das in Abschnitt 2.3.1 eingeführte Beispiel mit den Ausprägungen ,,keine Ausbildung'' bzw. ,,Lehre'' für das Merkmal ,,Ausbildungsniveau'' sowie den Ausprägungen ,,mittelfristige Arbeitslosigkeit'' (7-12 Monate) bzw. ,,langfristige Arbeitslosigkeit ($>$ 12 Monate) für das Merkmal ,,Dauer der Arbeitslosigkeit''.
     • Wenn wir dabei die Eintragungen der $2\times 2$-Kontingenztafel (20) in die Darstellungsformel (26) einsetzen, dann ergibt sich, dass
       $$\rho_{xy}= -0.168\,.$$

     • Hieraus und aus (27) ergibt sich darüber hinaus, dass
       $$T=n\rho^2_{xy}=100\cdot0.02826=2.826\,,$$
       was mit dem Ergebnis (21) übereinstimmt, das bereits am Ende von Abschnitt 2.3.3 ermittelt wurde.

   
   

5. Invarianzeigenschaft bei linearer Daten-Transformation
   • Die Deutung des empirischen Korrelationskoeffizienten $\rho _{xy}$ als Maßzahl zur Quantifizierung des (linearen) Zusammenhanges zwischen den Ausprägungen zweier Merkmale $X$ und $Y$ wird auch durch die folgende Invarianzeigenschaft von $\vert\rho_{xy}\vert$ bei linearer Daten-Transformation gestützt.
   • Außer den ursprünglichen Stichprobenwerten $x_1,\ldots,x_n$ bzw. $y_1,\ldots,y_n$ betrachten wir noch die linear transformierten Stichprobenwerte $x^\prime_1,\ldots,x^\prime_n$ bzw. $y^\prime_1,\ldots,y^\prime_n$, wobei $x^\prime_i=\alpha_x+\beta_x x_i$ bzw. $y^\prime_i=\alpha_y+\beta_y y_i$ für jedes $i=1,\ldots,n$ und für gewisse Konstanten $\alpha_x,\alpha_y\in\mathbb{R}$ und $\beta_x,\beta_y\not=0$.
   • Es gilt dann

     $$\rho_{x^\prime y^\prime}=\left\{\begin{array}{ll} \rho_{xy} & \mb... ...alls $\beta_x>0,\,\beta_y<0$\ bzw. $\beta_x<0,\,\beta_y>0$.} \end{array}\right.$$ (28)