Gesetz der großen Zahlen

Oberstufe

\lim_{n \to \infty} P\left(|h_n - p| < \varepsilon\right) = 1

Voraussetzung: $n$ $unabhängige Versuche mit gleicher Trefferwahrscheinlichkeit$ $p,$ $\varepsilon > 0$

$h_n$: relative Häufigkeit der Treffer nach n Versuchen
$p$: Trefferwahrscheinlichkeit bei jedem Versuch
$n$: Anzahl der Versuche
$\varepsilon$: beliebig kleine, aber feste Toleranz

Mit wachsender Versuchszahl liegt die relative Häufigkeit mit immer größerer Wahrscheinlichkeit beliebig nah an p.

Erklärung

Wirft man eine Münze oft, pendelt sich der Anteil „Kopf“ bei $50\,\%$ ein. Das Gesetz der großen Zahlen macht diese Erfahrung genau: Die relative Häufigkeit $h_n$ eines Treffers nähert sich bei vielen unabhängigen Wiederholungen der Wahrscheinlichkeit $p$ .

Genauer: Man gibt eine beliebig kleine Toleranz $\varepsilon$ vor. Die Wahrscheinlichkeit, dass $h_n$ um weniger als $\varepsilon$ von $p$ abweicht, strebt für $n \to \infty$ gegen $1$ . Größere Abweichungen sind also nicht unmöglich, werden aber immer unwahrscheinlicher.

Wie schnell das geht, zeigt die Tschebyscheff-Ungleichung:

P\left(|h_n - p| \geq \varepsilon\right) \leq \frac{p(1-p)}{n \varepsilon^2}

Das Gesetz begründet, warum man Wahrscheinlichkeiten über relative Häufigkeiten schätzen kann. Es sagt aber nichts über einzelne Versuche: Eine Münze „merkt sich“ nicht, wie oft schon Kopf kam.

Beispiele

Eine faire Münze wird $1000$ -mal geworfen, $p = 0{,}5$ , also $p(1-p) = 0{,}25$ . Wie wahrscheinlich weicht der Anteil „Kopf“ um mindestens $0{,}05$ von $0{,}5$ ab?

P\left(|h_{1000} - 0{,}5| \geq 0{,}05\right) \leq \frac{0{,}25}{1000 \cdot 0{,}05^2} = 0{,}1

Der Anteil liegt also mit mindestens $90\,\%$ zwischen $0{,}45$ und $0{,}55$ . Bei $10\,000$ Würfen sinkt die Schranke auf $\frac{0{,}25}{10\,000 \cdot 0{,}05^2} = 0{,}01$ .

Die Standardabweichung der relativen Häufigkeit ist $\sqrt{\frac{p(1-p)}{n}}$ . Sie beträgt bei $100$ Würfen $0{,}05$ und bei $10\,000$ Würfen nur noch $0{,}005$ .

Typische Fehler

Glauben, nach vielen Würfen mit „Zahl“ müsse bald Kopf kommen, „damit es sich ausgleicht“. Die Versuche sind unabhängig; die Wahrscheinlichkeit bleibt bei jedem Wurf $0{,}5$ .
Annehmen, die absolute Abweichung werde kleiner. Die Standardabweichung der Anzahl „Kopf“ wächst von $\sqrt{100 \cdot 0{,}25} = 5$ auf $\sqrt{10\,000 \cdot 0{,}25} = 50$ . Nur der Anteil nähert sich $p$ .
Das Gesetz als Garantie für eine bestimmte Versuchsreihe lesen. Es sagt nur, dass große Abweichungen der relativen Häufigkeit von $p$ immer unwahrscheinlicher werden.

Gesetz der großen Zahlen