Kovarianz

Erklärung

Die Kovarianz beschreibt, wie zwei Zufallsgrößen gemeinsam schwanken:

• $\operatorname{Cov}(X, Y) > 0$: Liegt $X$ über seinem Erwartungswert, tut das meist auch $Y$ (gleichläufig).
• $\operatorname{Cov}(X, Y) < 0$: Große Werte von $X$ gehen eher mit kleinen Werten von $Y$ einher (gegenläufig).
• $\operatorname{Cov}(X, Y) = 0$: $X$ und $Y$ heißen unkorreliert.

Die rechte Form (Verschiebungssatz) folgt durch Ausmultiplizieren und die Linearität des Erwartungswerts. Weitere Eigenschaften:

• $\operatorname{Cov}(X, X) = \operatorname{Var}(X)$
• $\operatorname{Cov}(aX + b, cY + d) = ac\,\operatorname{Cov}(X, Y)$
• $\operatorname{Var}(X + Y) = \operatorname{Var}(X) + \operatorname{Var}(Y) + 2\operatorname{Cov}(X, Y)$

Aus Unabhängigkeit folgt $\operatorname{Cov}(X, Y) = 0$, die Umkehrung gilt nicht.

Für Datenpaare $(x_i, y_i)$ ist die empirische Kovarianz $s_{xy} = \frac{1}{n-1}\sum_{i=1}^{n} (x_i - \bar{x})(y_i - \bar{y})$; manche Bücher teilen durch $n$.

Der Betrag der Kovarianz hängt von den Einheiten ab. Über die Stärke des Zusammenhangs sagt er deshalb wenig; dafür normiert man zum Korrelationskoeffizienten.

Beispiele

$X$ und $Y$ nehmen die Werte $0$ und $1$ an mit $P(0,0) = 0{,}4$, $P(0,1) = 0{,}1$, $P(1,0) = 0{,}1$, $P(1,1) = 0{,}4$. Dann ist $E(X) = E(Y) = 0{,}5$ und $E(XY) = 1 \cdot 1 \cdot 0{,}4 = 0{,}4$:

Die Definition liefert dasselbe: $(-0{,}5)^2 \cdot 0{,}4 + 2 \cdot (-0{,}5)(0{,}5) \cdot 0{,}1 + 0{,}5^2 \cdot 0{,}4 = 0{,}15$.

Datenpaare $(1, 2)$, $(2, 4)$, $(3, 5)$ mit $\bar{x} = 2$, $\bar{y} = \frac{11}{3}$:

Unkorreliert, aber abhängig: $X$ sei gleichverteilt auf $\{-1, 0, 1\}$ und $Y = X^2$. Dann ist $E(X) = 0$ und $E(XY) = E(X^3) = \frac{(-1)^3 + 0^3 + 1^3}{3} = 0$, also $\operatorname{Cov}(X, Y) = 0$, obwohl $Y$ durch $X$ festgelegt ist.

Typische Fehler

• Aus $\operatorname{Cov}(X, Y) = 0$ auf Unabhängigkeit schließen. Das letzte Beispiel zeigt, dass das falsch ist.
• Die Größe der Kovarianz als Stärke des Zusammenhangs deuten. Multipliziert man im Datenbeispiel alle $x$-Werte mit $10$ (etwa durch eine andere Einheit) und alle $y$-Werte mit $3$, wird $s_{xy} = 3 \cdot 10 \cdot 1{,}5 = 45$, der Zusammenhang ist aber derselbe.
• Im Verschiebungssatz $E(X) \cdot E(Y)$ addieren statt abziehen.