Zufallsgrößen: von den Axiomen zum Erwartungswert

„Mit 70 % Wahrscheinlichkeit regnet es.“ Woher kommt so eine Zahl? Es gibt drei klassische Antworten.

Der Laplace-Ansatz zählt: Sind alle Ergebnisse gleich wahrscheinlich, gilt $P(A)=\frac{|A|}{|\Omega |}$. Beim fairen Würfel ist $P(6)=\frac{1}{6}$. Die Voraussetzung wird gern vergessen: Ein Reißnagel hat zwei mögliche Lagen, aber keine davon muss die Wahrscheinlichkeit ½ haben.

Der frequentistische Ansatz misst: Die relative Häufigkeit in einer langen Serie schätzt die Wahrscheinlichkeit. Der Würfel im Bild ist gezinkt; nach 400 Würfen liegt $h(6)\approx 0,25$ und nicht bei $\frac{1}{6}$. Exakt ist dieser Wert nie, er bleibt ein Schätzwert. Umgekehrt kann eine lange Serie eine Laplace-Annahme entlarven: Weicht $h(6)$ dauerhaft von $\frac{1}{6}$ ab, waren die Ergebnisse nicht gleich wahrscheinlich.

Der subjektive Ansatz bewertet: Eine Trainerin gibt ihrer Mannschaft 65 % Siegchance. Dieses Spiel gibt es nur einmal, man kann nichts zählen und nichts wiederholen. Hier zählt der Grad der Überzeugung.

Jeder Ansatz hat seine Grenze: Laplace braucht gleich wahrscheinliche Ergebnisse, die Häufigkeit eine Serie, die sich wiederholen lässt, und ein subjektiver Wert lässt sich nicht nachmessen – zwei Personen dürfen verschieden urteilen.

Alle drei Ansätze liefern Zahlen, die dieselben Rechenregeln erfüllen sollen. Welche das sind, legen wir als Nächstes fest.

Sei $\Omega$ die Ergebnismenge eines Zufallsexperiments; ein Ereignis ist eine Teilmenge von $\Omega$. Eine Zuordnung $P$ heißt Wahrscheinlichkeitsmaß, wenn sie drei Axiome erfüllt (Kolmogorow, 1933):

• Nichtnegativität: $P(A)\ge 0$ für jedes Ereignis $A$.
• Normierung: $P(\Omega )=1$.
• Additivität: Für A und B mit $A\cap B=\varnothing$ gilt $P(A\cup B)=P(A)+P(B)$.

Bei endlich vielen Ergebnissen genügt es, jedem Ergebnis eine Wahrscheinlichkeit zu geben: $P(A)$ ist die Summe der Wahrscheinlichkeiten der Ergebnisse in $A$. Axiom 3 gilt auch für drei oder mehr paarweise unvereinbare Ereignisse.

Im Bild ist $\Omega$ eine Fläche vom Inhalt 1, Ereignisse sind Teilflächen. Ereignisse ohne gemeinsame Ergebnisse liegen nebeneinander, und ihre Flächen addieren sich.

Die Axiome sagen nicht, welche Zahl ein Ereignis bekommt, sondern nur, welche Regeln die Zahlen einhalten müssen. Genau deshalb passt jeder der drei Ansätze darunter.

Jeder der drei Ansätze aus dem letzten Abschnitt erfüllt die Axiome: Relative Häufigkeiten sind nie negativ, ergeben für $\Omega$ den Wert 1 und addieren sich für unvereinbare Ereignisse. Eine Zuordnung, die ein Axiom verletzt, ist keine Wahrscheinlichkeit: Bei $\Omega =\{a,b,c\}$ mit $P(a)=0,5$, $P(b)=0,4$ und $P(c)=0,3$ ist $P(\Omega )=1,2$.

Alle weiteren Rechenregeln folgen aus den drei Axiomen. Man muss sie nicht auswendig lernen, man kann sie herleiten.

Das unmögliche Ereignis. $\Omega$ und $\varnothing$ sind unvereinbar und $\Omega \cup \varnothing =\Omega$. Axiom 3 gibt $P(\Omega )=P(\Omega )+P(\varnothing )$, also $P(\varnothing )=0$. Unmögliche Ereignisse haben also die Wahrscheinlichkeit 0.

Das Gegenereignis. A und Ā sind unvereinbar und zusammen $\Omega$: $1=P(A)+P(\overline{A})$. Also $P(\overline{A})=1-P(A)$, und weil $P(\overline{A})\ge 0$ ist, gilt $P(A)\le 1$. Aus 0,3 Regenwahrscheinlichkeit folgt so 0,7 für „kein Regen“.

Die Vereinigung. Überlappen sich A und B, zählt $P(A)+P(B)$ den Schnitt doppelt:

$$P(A\cup B)=P(A)+P(B)-P(A\cap B)$$

Beispiel: In einer Klasse spielen 60 % Fußball, 40 % Basketball und 25 % beides. Dann spielen 60 + 40 − 25 = 75 % mindestens eine der beiden Sportarten. Ohne den Abzug kämen 100 % heraus, und das wäre falsch.

Die Teilmenge. Liegt $A$ ganz in $B$, ist $B$ die Vereinigung von $A$ und dem Rest $B\setminus A$. Daraus folgt $P(B)=P(A)+P(B\setminus A)\ge P(A)$.

Zahlen zu Ergebnissen

Am Glücksrad zählt nicht die Farbe, sondern die Auszahlung. Eine Zufallsgröße $X$ ordnet jedem Ergebnis eine Zahl zu: Rot ↦ 0 €, Blau ↦ 1 €, Grün ↦ 5 €, Gelb ↦ 10 €. Sie ist eine Zuordnung, keine Wahrscheinlichkeit. Das Rad hat 20 gleich große Felder: 11 rote, 5 blaue, 3 grüne, 1 gelbes. Verschiedene Ergebnisse dürfen denselben Wert haben; die Werte von $X$ heißen $x_1,x_2,\dots$, hier 0, 1, 5 und 10.

$\{X=5\}$ ist das Ereignis aller Ergebnisse mit Auszahlung 5 €, hier Grün. Seine Wahrscheinlichkeit ist eine Zahl: $P(X=5)=\frac{3}{20}=0,15$.

Die Verteilung

Die Wahrscheinlichkeitsverteilung von $X$ nennt jeden Wert mit seiner Wahrscheinlichkeit. Beim Rad: $P(X=0)=0,55$, $P(X=1)=0,25$, $P(X=5)=0,15$, $P(X=10)=0,05$. Die Summe ist 1, denn die Ereignisse $\{X=x\}$ zerlegen $\Omega$. Kontrolle: 0,55 + 0,25 + 0,15 + 0,05 = 1. Stimmt die Summe nicht, ist ein Wert falsch oder fehlt.

Werfen wir zwei Würfel und ist $X$ die Augensumme, sind die Werte 2 bis 12 nicht gleich wahrscheinlich: Für 7 gibt es sechs Paare, für 2 nur (1 | 1). Im Histogramm mit Rechtecksbreite 1 ist die Höhe einer Säule $P(X=x)$ und zugleich ihr Flächeninhalt. Die Gesamtfläche ist 1. Wer „elf Werte, also je 1/11“ sagt, zählt die Werte statt der Paare.

Höchstens k

Oft fragt man nicht nach genau $k$, sondern nach höchstens $k$. Die kumulative Verteilungsfunktion addiert die Einzelwahrscheinlichkeiten bis $k$:

$$F(k)=P(X\le k)=\sum _{x\le k}P(X=x)$$

Bei zwei Würfeln mit der Augensumme $X$ ist $P(X\le 4)=\frac{1}{36}+\frac{2}{36}+\frac{3}{36}=\frac{6}{36}=\frac{1}{6}$. „Höchstens 4“ schließt die 4 ein, „weniger als 4“ nicht: $P(X<4)=F(3)$. Beim Glücksrad ist $F(1)=0,55+0,25=0,8$: Mit Wahrscheinlichkeit 0,8 zahlt das Rad höchstens 1 € aus.

Intervalle und Treppe

Aus $F$ folgt jede Intervallwahrscheinlichkeit: $P(X>k)=1-F(k)$ und $P(a<X\le b)=F(b)-F(a)$. Zum Beispiel ist $P(4<X\le 8)=F(8)-F(4)=\frac{26}{36}-\frac{6}{36}=\frac{5}{9}$.

Der Graph von $F$ ist eine Treppe: Er springt nur an den Werten von $X$, und zwar bei $k$ um $P(X=k)$. Eine Tabelle von $F$ genügt also, um jede Bereichswahrscheinlichkeit auszurechnen. Dazwischen bleibt er waagerecht, und rechts endet er bei 1. Bei der Augensumme 7 springt $F$ von 15/36 auf 21/36, also um 6/36 = $P(X=7)$.

Gewichteter Mittelwert

Was zahlt das Rad im Mittel aus? Nicht $\frac{0+1+5+10}{4}=4$, denn Rot kommt viel öfter als Gelb. Der Erwartungswert gewichtet jeden Wert mit seiner Wahrscheinlichkeit:

$$E(X)=\sum _i{x}_i\cdot P(X=x_i)=0\cdot 0,55+1\cdot 0,25+5\cdot 0,15+10\cdot 0,05=1,5$$

Im Bild ist $E(X)$ der Balancepunkt der Säulen: Dort liegt die Wippe waagerecht. Der Name täuscht: Erwartet wird der Durchschnitt vieler Spiele, nicht das Ergebnis des nächsten. Der Wert 1,50 € kommt beim Rad nie vor, ein Erwartungswert muss also kein möglicher Wert sein. Auch beim Würfel ist $E(X)=3,5$, obwohl es keine 3,5 gibt.

Auf lange Sicht

$E(X)$ sagt nicht voraus, was im nächsten Spiel passiert. Es ist der Wert, um den sich der Durchschnitt vieler Spiele einpendelt: Nach 400 Spielen liegt er bei 1,51 €. Nach fünf Spielen mit wenig Auszahlung ist nichts „fällig“: Jedes Spiel hat dieselbe Verteilung, die alten Spiele werden nur von immer mehr neuen verdünnt.

Verdoppelt das Rad jede Auszahlung und zahlt 1 € dazu, wird aus $X$ die Größe $Y=2X+1$. Dann gilt $E(2X+1)=2\cdot E(X)+1=4$. Allgemein: $E(aX+b)=a\cdot E(X)+b$.

Wie weit streuen die Werte?

Zwei Räder können denselben Erwartungswert haben und doch verschieden wirken: Das eine zahlt fast immer um 3 €, das andere schwankt zwischen 1 € und 5 €. Die Varianz misst die mittlere quadrierte Abweichung vom Erwartungswert $\mu =E(X)$:

$$\mathrm{Var}(X)=\sum _i(x_i-\mu {)}^2\cdot P(X=x_i)$$

Das Quadrat verhindert, dass sich Abweichungen nach oben und unten aufheben, denn ${\sum }_i(x_i-\mu )\cdot P(X=x_i)$ ist immer 0. Die Standardabweichung $\sigma =\sqrt{\mathrm{Var}(X)}$ hat wieder die Einheit von $X$. Die Varianz ist also der Erwartungswert von $(X-\mu {)}^2$. Große Varianz heißt nur: Die Werte liegen weit auseinander. Beim Rad ist $\mathrm{Var}(X)=6,75$ und $\sigma \approx 2,60$ €.

Der Verschiebungssatz

Meist rechnet man bequemer mit $\mathrm{Var}(X)=E(X^2)-{\mu }^2$. Beim Rad ist $E(X^2)=0\cdot 0,55+1\cdot 0,25+25\cdot 0,15+100\cdot 0,05=9$, also $\mathrm{Var}(X)=9-1,5^2=6,75$.

Für die Augensumme zweier Würfel gilt $\mu =7$, $\mathrm{Var}(X)=\frac{35}{6}\approx 5,83$ und $\sigma \approx 2,42$. Im Bild liegen die Säulen 5 bis 9 im Bereich $\mu \pm \sigma$, das sind $\frac{24}{36}\approx 67\%$. Eine große Varianz heißt nur „breit gestreut“, nicht „unfair“. Und Verschieben ändert die Streuung nicht: $\mathrm{Var}(X-c)=\mathrm{Var}(X)$. Vorsicht: $E(X^2)$ und $E(X{)}^2$ sind verschieden; ihre Differenz ist die Varianz und damit nie negativ.

Gewinn statt Auszahlung

Was der Spieler behält, ist der Gewinn $G=X-c$ mit dem Einsatz $c$. Bei 2 € Einsatz nimmt $G$ die Werte −2, −1, 3 und 8 an, mit denselben Wahrscheinlichkeiten wie die Auszahlungen. Für den Mittelwert gilt $E(G)=E(X)-c=1,5-2=-0,5$ €: Im Schnitt verliert der Spieler 50 Cent pro Spiel. Bei $E(G)>0$ läge der Vorteil beim Spieler, bei $E(G)<0$ beim Anbieter.

Ein Spiel heißt fair, wenn $E(G)=0$ ist, wenn also der Einsatz gleich dem Erwartungswert der Auszahlung ist. Hier sind das 1,50 €. „Fair“ heißt nicht „gleiche Gewinnchancen“: Bei 1,50 € Einsatz gewinnt man nur mit Wahrscheinlichkeit 0,2, und das Spiel ist trotzdem fair. Der Erwartungswert ist der Preis, bei dem sich Spieler und Anbieter auf lange Sicht die Waage halten.

Auf lange Sicht

Nach $n$ Spielen erwartet man einen Gesamtgewinn von etwa $n\cdot E(G)$. Bei 2 € Einsatz sind das nach 400 Spielen −200 €. Einzelne Spiele können trotzdem gewinnen, denn die Streuung bleibt: $\sigma (G)=\sigma (X)\approx 2,60$ €.

Fair sagt nur, dass der Gewinn im Mittel 0 ist. Wie stark er um 0 schwankt, beschreibt $\sigma (G)$. Ein unfaires Spiel begünstigt eine Seite, aber nur auf lange Sicht. Wer $E(G)$ kennt, kann also entscheiden, ob er es spielt.