Wahrscheinlichkeitsfunktion

Wahrscheinlichkeitsfunktion eines fairen Würfels. Alle Augenzahlen haben die gleiche Wahrscheinlichkeit 1/6.

Eine Wahrscheinlichkeitsfunktion, auch Zähldichte genannt, ist eine spezielle reellwertige Funktion in der Stochastik. Wahrscheinlichkeitsfunktionen werden zur Konstruktion und Untersuchung von Wahrscheinlichkeitsverteilungen, genauer diskreten Wahrscheinlichkeitsverteilungen verwendet. Dabei kann jeder diskreten Wahrscheinlichkeitsverteilung eine eindeutige Wahrscheinlichkeitsfunktion zugeordnet werden. Umgekehrt definiert jede Wahrscheinlichkeitsfunktion eine eindeutig bestimmte diskrete Wahrscheinlichkeitsverteilung.

In den meisten Fällen werden Wahrscheinlichkeitsfunktionen auf den natürlichen Zahlen definiert. Sie ordnen dann jeder Zahl die Wahrscheinlichkeit zu, dass diese Zahl auftritt. So würde bei der Modellierung eines fairen Würfels die Wahrscheinlichkeitsfunktion den Zahlen von eins bis sechs jeweils den Wert $\frac{1}{6}$ zuordnen und allen anderen die Null.

Aus der Sicht der Maßtheorie handelt es sich bei Wahrscheinlichkeitsfunktionen um spezielle Dichtefunktionen (im Sinne der Maßtheorie) bezüglich des Zählmaßes. Diese werden im allgemeineren Kontext auch Gewichtsfunktionen genannt.

Definition

Zur Konstruktion einer Wahrscheinlichkeitsverteilung

Gegeben sei ein Wahrscheinlichkeitsraum $(\mathrm{\Omega },𝒜,\mathbb{P})$ sowie eine Funktion $f:{\mathbb{N}}_0\to ℝ$ mit folgenden Eigenschaften:

1. $f(i)\in [0,1]$ $\mathrm{\forall }i\in {\mathbb{N}}_0$ sodass $f:\mathrm{\Omega }\to [0,1]\subset ℝ$
2. $\sum _{i\in {\mathbb{N}}_{\mathrm{𝟘}}}f(i)=1$

Die Funktion $f$ ordnet also jeder natürlichen Zahl eine reelle Zahl zwischen null und eins zu und ist normiert in dem Sinne, dass sich die Funktionswerte zu eins aufsummieren.

Dann heißt $f$ eine Wahrscheinlichkeitsfunktion und definiert durch

$P(I\subset \mathrm{\Omega })=P(\{i\in \mathrm{\Omega }\}\subset 𝒜):=\sum _{i\in \mathrm{\Omega }}f(i)$

eine eindeutig bestimmte Wahrscheinlichkeitsverteilung $P$ auf den natürlichen Zahlen ${\mathbb{N}}_0$, versehen mit der Potenzmenge $𝒫({\mathbb{N}}_0)$ als der Sigma-Algebra $𝒜$ (Ereignissystem).

Insbesondere gilt aufgrund der Sigma-Additivität des Wahrscheinlichkeitsmaßes $\mathbb{P}$:

$\mathbb{P}\left(\bigcup _{m=1}^n{A}_m\right)=\sum _{m=1}^n\mathbb{P}(A_m)⟺P(I\subset \mathrm{\Omega })=P(\{i_1,i_2,...,i_n\})=\sum _{m=1}^{n}f(i_m)$

Aus $f(i)=P(X=i)$ folgt des Weiteren:

$\sum _{m=1}^{n}f(i_m)=\sum _{m=1}^{n}P(X=i_m)$

Es ist hierbei zu beachten, dass $P$ als Wahrscheinlichkeitsverteilung lediglich Mengen aus $\mathrm{\Omega }$ als Argumente zulässt, während die Argumente der Wahrscheinlichkeitsfunktion stets durch einzelne natürliche Zahlen als Elemente von $\mathrm{\Omega }$ dargestellt werden. Das Wahrscheinlichkeitsmaß $\mathbb{P}$ hingegen ist definiert als die Abbildung:

$\mathbb{P}:𝒜\to [0,1]\subset ℝ$

Aus Wahrscheinlichkeitsverteilungen abgeleitet

Gegeben sei eine Wahrscheinlichkeitsverteilung $P$ auf den natürlichen Zahlen ${\mathbb{N}}_0$, versehen mit $𝒫({\mathbb{N}}_0)$, und sei $X$ eine Zufallsvariable mit Werten in ${\mathbb{N}}_0$. Dann heißt

$f_P:{\mathbb{N}}_0\to ℝ$

definiert durch

$f_P(i):=P(\{i\})$

die Wahrscheinlichkeitsfunktion von $\mathbb{P}$. Analog heißt

$f_X:{\mathbb{N}}_0\to ℝ$

definiert durch

$f_X(i):=P(X=i)$

die Wahrscheinlichkeitsfunktion von $X$

Beispiele

Eine typische Wahrscheinlichkeitsfunktion ist

$f_{n,p}(k)=\{\begin{array}{cc}(\genfrac{}{}{0ex}{}{n}{k})p^k(1-p{)}^{n-k}& \text{ für }k\in \{0,1,\dots ,n\}\\ 0& \text{ sonst}\end{array}$

für eine natürliche Zahl $n$ und eine reelle Zahl $p\in (0,1)$. Die Normiertheit folgt hier direkt aus dem binomischen Lehrsatz, denn es ist

$\sum _{k=0}^{\mathrm{\infty }}{f}_{n,p}(k)=\sum _{k=0}^n(\genfrac{}{}{0ex}{}{n}{k})p^k(1-p{)}^{n-k}=((1-p)+p{)}^n=1$.

Die so erzeugte Wahrscheinlichkeitsverteilung ist die Binomialverteilung.

Eine weitere klassische Wahrscheinlichkeitsfunktion ist

$f_p(k)=p(1-p{)}^k$ für $k\in \{0,1,2,\dots \}$

und ein $p\in (0,1)$. Hier folgt die Normiertheit aus der geometrischen Reihe, denn es ist

$\sum _{k=0}^{\mathrm{\infty }}{f}_p(k)=p\sum _{k=0}^{\mathrm{\infty }}(1-p{)}^k=\frac{p}{1-(1-p)}=1$.

Die so erzeugte Wahrscheinlichkeitsverteilung ist die Geometrische Verteilung.

Allgemeine Definition

Die Definition lässt sich von den natürlichen Zahlen auf beliebige höchstens abzählbare Mengen ausweiten. Ist $\mathrm{\Omega }$ solch eine Menge und ist

$f:\mathrm{\Omega }\to [0,1]$

mit

$\sum _{i\in \mathrm{\Omega }}f(i)=1$,

so definiert $f$ durch

$P(\{i\}):=f(i)$ für alle $i\in \mathrm{\Omega }$

eine eindeutig bestimmte Wahrscheinlichkeitsverteilung auf $(\mathrm{\Omega },𝒫(\mathrm{\Omega }))$. Ist umgekehrt $P$ eine Wahrscheinlichkeitsverteilung auf $(\mathrm{\Omega },𝒫(\mathrm{\Omega }))$ und $X$ eine Zufallsvariable mit Werten in $\mathrm{\Omega }$, so heißen

$f_P:\mathrm{\Omega }\to [0,1]$ definiert durch $f_P(i):=P(\{i\})$

und

$f_X:\mathrm{\Omega }\to [0,1]$ definiert durch $f_X(i):=P(X=i)$

die Wahrscheinlichkeitsfunktion von $P$ beziehungsweise $X$.

Alternative Definition

Manche Autoren definieren zuerst reelle Folgen $(p_i{)}_{i\in \mathrm{\Omega }}$ mit $p_i\in [0,1]$ für alle $i\in \mathrm{\Omega }$ und

$\sum _{i\in \mathrm{\Omega }}{p}_i=1$

und nennen diese Folgen Wahrscheinlichkeitsvektoren oder stochastische Folgen.

Eine Wahrscheinlichkeitsfunktion wird dann definiert als

$f:\mathrm{\Omega }\to [0,1]$

gegeben durch

$f(i)=p_i$ für alle $i\in \mathrm{\Omega }$

Umgekehrt definiert dann jede Wahrscheinlichkeitsverteilung oder Zufallsvariable auf $\mathrm{\Omega }$ auch eine stochastische Folge/Wahrscheinlichkeitsvektor über $(P(\{i\}){)}_{i\in \mathrm{\Omega }}$ beziehungsweise $(P(X=i){)}_{i\in \mathrm{\Omega }}$

Andere Autoren nennen bereits die Folge $(p_i{)}_{i\in \mathrm{\Omega }}$ eine Zähldichte.

Weitere Beispiele

Typisches Beispiel für Wahrscheinlichkeitsfunktionen auf beliebigen Mengen ist die diskrete Gleichverteilung auf einer endlichen Menge $\mathrm{\Omega }$. Sie besitzt dann per Definition die Wahrscheinlichkeitsfunktion

$f(i)=\frac{1}{|\mathrm{\Omega }|}$ für alle $i\in \mathrm{\Omega }$.

Der Zugang über die stochastischen Folgen erlaubt die folgende Konstruktion von Wahrscheinlichkeitsfunktionen: Ist eine beliebige (höchstens abzählbare) Folge von positiven reellen Zahlen $(a_i{)}_{i\in \mathrm{\Omega }}$ mit Indexmenge $\mathrm{\Omega }$ gegeben, für die

$\sum _{i\in \mathrm{\Omega }}{a}_i<\mathrm{\infty }$

gilt, so definiert man

$c=\sum _{i\in \mathrm{\Omega }}{a}_i$.

Dann ist $(\frac{a_i}{c}{)}_{i\in \mathrm{\Omega }}$ eine stochastische Folge und definiert damit auch eine Wahrscheinlichkeitsfunktion. Betrachtet man zum Beispiel die Folge

$a_k:=\frac{{\lambda }^k}{k!}$ für $k\in \mathbb{N}$,

so ist

$\sum _{k=0}^{\mathrm{\infty }}\frac{{\lambda }^k}{k!}=e^{\lambda }$.

Somit ist die Normierungskonstante $c=e^{\lambda }$ und als Wahrscheinlichkeitsfunktion ergibt sich

$f(k)=e^{-\lambda }\frac{{\lambda }^k}{k!}$.

Dies ist die Wahrscheinlichkeitsfunktion der Poisson-Verteilung.

Bestimmung von Kennzahlen durch Wahrscheinlichkeitsfunktionen

Viele der wichtigen Kennzahlen von Zufallsvariablen und Wahrscheinlichkeitsverteilungen lassen sich bei Existenz der Wahrscheinlichkeitsfunktion direkt aus dieser herleiten.

Erwartungswert

Ist $X$ eine Zufallsvariable mit Werten in $\mathbb{N}$ und Wahrscheinlichkeitsfunktion $f_X$, so ist der Erwartungswert gegeben durch

$𝔼(X)=\sum _{k=0}^{\mathrm{\infty }}k\cdot f_X(k)$.

Er existiert immer, kann aber auch unendlich sein. Ist allgemeiner $\mathrm{\Omega }\subset ℝ$ eine höchstens abzählbare Teilmenge der reellen Zahlen und $X$ eine Zufallsvariable mit Werten in $\mathrm{\Omega }$ und Wahrscheinlichkeitsfunktion $f_X$ so ist der Erwartungswert gegeben durch

$𝔼(X)=\sum _{k\in \mathrm{\Omega }}k\cdot f_X(k)$

falls die Summe existiert.

Varianz

Analog zum Erwartungswert lässt sich auch die Varianz direkt aus der Wahrscheinlichkeitsfunktion herleiten. Sei dazu

$𝔼(X)=\mu$

der Erwartungswert. Ist dann $X$ eine Zufallsvariable mit Werten in $\mathbb{N}$ und Wahrscheinlichkeitsfunktion $f_X$, so ist die Varianz gegeben durch

$\mathrm{Var}(X)=\sum _{k=0}^{\mathrm{\infty }}(k-\mu {)}^2{f}_X(k)$

oder aufgrund des Verschiebungssatzes äquivalent dazu

$\mathrm{Var}(X)=-{\mu }^2+\sum _{k=0}^{\mathrm{\infty }}{k}^2{f}_X(k)$

Entsprechend gilt im allgemeineren Fall einer Zufallsvariable mit Werten in $\mathrm{\Omega }$ (vgl. oben), dass

$\mathrm{Var}(X)=\sum _{k\in \mathrm{\Omega }}(k-\mu {)}^2{f}_X(k)$

Auch hier gelten alle Aussagen nur, wenn die entsprechenden Summen existieren.

Modus

Für diskrete Wahrscheinlichkeitsverteilungen wird der Modus direkt über die Wahrscheinlichkeitsfunktion definiert: Ist $X$ eine Zufallsvariable mit Werten in $\mathbb{N}$ und Wahrscheinlichkeitsfunktion $f$ oder ist $P$ eine Wahrscheinlichkeitsverteilung auf $\mathbb{N}$ mit Wahrscheinlichkeitsfunktion $f$, so heißt $k_{\text{mod}}$ ein Modus oder Modalwert von $X$ oder $P$, wenn

$f(k-1)\le f(k_{\text{mod}})\ge f(k+1)$

ist. Ist etwas allgemeiner eine höchstens abzählbare Menge $\mathrm{\Omega }$ gegeben, deren Elemente $x_k$ in aufsteigender Ordnung sortiert sind, das heißt $\dots <x_{k-1}<x_k<x_{k+1}<\dots$, so heißt ein $x_k$ ein Modus oder Modalwert, wenn

$f(x_{k-1})\le f(x_k)\ge f(x_{k+1})$

gilt.

Eigenschaften und aufbauende Begriffe

Verteilungsfunktionen und Wahrscheinlichkeitsfunktionen

Verteilungsfunktion eines Wahrscheinlichkeitsmaßes, das sich über eine Wahrscheinlichkeitsfunktion definieren lässt. Charakteristischerweise hat die Verteilungsfunktion an der Stelle $i$ einen Sprung um $f(i)=P(\{i\})$ nach oben.

Ist $f$ eine Wahrscheinlichkeitsfunktion auf $\mathbb{N}$, so ist die Verteilungsfunktion des entsprechenden Wahrscheinlichkeitsmaßes gegeben als

$F_P(x)=\sum _{i=0}^{\lfloor x\rfloor }f(i)$.

Dabei bezeichnet $\lfloor \cdot \rfloor$ die Abrundungsfunktion, das heißt $\lfloor x\rfloor$ ist größte ganze Zahl, die kleiner oder gleich $x$ ist.

Ist $f$ auf einer höchstens abzählbaren Teilmenge der reellen Zahlen definiert, also auf $A\subset ℝ$, so ist die Verteilungsfunktion des Wahrscheinlichkeitsmaßes definiert durch

$F_P(x)=\sum _{i\le x}f(i)$.

Beispiel hierfür ist $A=\mathbb{Z}$.

Faltung und Summe von Zufallsvariablen

Für Wahrscheinlichkeitsverteilungen mit Wahrscheinlichkeitsfunktionen kann die Faltung (von Wahrscheinlichkeitsverteilungen) auf die Faltung (von Funktionen) der entsprechenden Wahrscheinlichkeitsfunktionen zurückgeführt werden. Sind $P,Q$ Wahrscheinlichkeitsverteilungen mit Wahrscheinlichkeitsfunktionen $f_P$ und $f_Q$, so ist

$f_{P*Q}=f_P*f_Q$.

Hierbei bezeichnet $P*Q$ die Faltung von $P$ und $Q$ und $f*g$ die Faltung der Funktionen $f$ und $g$. Die Wahrscheinlichkeitsfunktion der Faltung zweier Wahrscheinlichkeitsverteilungen ist somit genau die Faltung der Wahrscheinlichkeitsfunktionen der Wahrscheinlichkeitsverteilungen.

Diese Eigenschaft überträgt sich direkt auf die Summe von stochastisch unabhängigen Zufallsvariablen. Sind zwei stochastisch unabhängige Zufallsvariablen $X,Y$ mit Wahrscheinlichkeitsfunktionen $f_X$ und $f_Y$ gegeben, so ist

$f_{X+Y}=f_X*f_Y$.

Die Wahrscheinlichkeitsfunktion der Summe ist somit die Faltung der Wahrscheinlichkeitsfunktionen der einzelnen Zufallsvariablen.

Wahrscheinlichkeitserzeugende Funktion

Auf $\mathbb{N}$ lässt sich jeder Wahrscheinlichkeitsverteilung eine wahrscheinlichkeitserzeugende Funktion zuordnen. Dies ist ein Polynom oder eine Potenzreihe mit der Wahrscheinlichkeitsfunktion als Koeffizienten. Sie ist somit definiert als

$m_P(t)=\sum _{k=0}^{\mathrm{\infty }}{f}_P(k)t^k$

für die Wahrscheinlichkeitsfunktion $f_P$ einer Wahrscheinlichkeitsverteilung $P$. Die wahrscheinlichkeitserzeugende Funktion einer Zufallsvariable wird analog definiert.

Wahrscheinlichkeitserzeugende Funktionen erleichtern die Untersuchung von und das Rechnen mit Wahrscheinlichkeitsverteilungen. So ist beispielsweise die wahrscheinlichkeitserzeugende Funktion der Faltung zweier Wahrscheinlichkeitsverteilungen genau das Produkt der wahrscheinlichkeitserzeugenden Funktionen der einzelnen Wahrscheinlichkeitsverteilungen. Ebenso finden sich wichtige Kennzahlen wie der Erwartungswert und die Varianz in den Ableitungen der wahrscheinlichkeitserzeugenden Funktionen wieder.

Literatur

• Vorlage:Literatur
• Vorlage:Literatur
• Vorlage:Literatur
• Vorlage:Literatur
• Vorlage:Literatur
• Vorlage:Literatur