Normalverteilung

Vorlage:Infobox Verteilung Die Normal- oder Gauß-Verteilung (nach Carl Friedrich Gauß) ist in der Stochastik ein wichtiger Typ stetiger Wahrscheinlichkeitsverteilungen. Ihre Wahrscheinlichkeitsdichtefunktion wird auch Gauß-Funktion, gaußsche Normalverteilung, gaußsche Verteilungskurve, Gauß-Kurve, gaußsche Glockenkurve, gaußsche Glockenfunktion, Gauß-Glocke oder schlicht Glockenkurve genannt. Sie hat die Form

$f(x)=\frac{1}{\sigma \sqrt{2\pi }}{e}^{-\frac{1}{2}{\left(\frac{x-\mu }{\sigma }\right)}^2},x\in ℝ$

mit dem Erwartungswert $\mu$ und der Standardabweichung $\sigma$.

Die besondere Bedeutung der Normalverteilung beruht unter anderem auf dem zentralen Grenzwertsatz, dem zufolge Verteilungen, die durch additive Überlagerung einer großen Zahl von unabhängigen Einflüssen entstehen, unter schwachen Voraussetzungen annähernd normalverteilt sind.

In der Messtechnik wird häufig eine Normalverteilung angesetzt, um die Streuung von Messwerten zu beschreiben. Die Abweichungen der Messwerte vieler natur-, wirtschafts- und ingenieurwissenschaftlicher Vorgänge vom Erwartungswert lassen sich durch die Normalverteilung in guter Näherung beschreiben (vor allem Prozesse, die in mehreren Faktoren unabhängig voneinander in verschiedene Richtungen wirken).

Zufallsvariablen mit Normalverteilung benutzt man zur Beschreibung zufälliger Vorgänge wie:

• zufällige Streuung von Messwerten,
• zufällige Abweichungen vom Sollmaß bei der Fertigung von Werkstücken,
• Beschreibung der brownschen Molekularbewegung.

Der Erwartungswert kann als Schwerpunkt der Verteilung interpretiert werden. Die Standardabweichung gibt ihre Breite an.

Geschichte

Im Jahre 1733 zeigte Abraham de Moivre in seiner Schrift The Doctrine of Chances im Zusammenhang mit seinen Arbeiten am Grenzwertsatz für Binomialverteilungen eine Abschätzung des Binomialkoeffizienten, die als Vorform der Normalverteilung gedeutet werden kann.

Die für die Normierung der Normalverteilungsdichte zur Wahrscheinlichkeitsdichte notwendige Berechnung des nichtelementaren Integrals

$\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}{e}^{-\frac{1}{2}{t}^2}\mathrm{d}t=\sqrt{2\pi }$

gelang Pierre-Simon Laplace im Jahr 1782 (nach anderen Quellen Poisson).

Im Jahr 1809 publizierte Gauß sein Werk Theoria motus corporum coelestium in sectionibus conicis solem ambientium (Vorlage:DeS Theorie der Bewegung der in Kegelschnitten sich um die Sonne bewegenden Himmelskörper), das neben der Methode der kleinsten Quadrate und der Maximum-Likelihood-Schätzung die Normalverteilung definiert. Wiederum Laplace war es, der 1810 den Satz vom zentralen Grenzwert bewies, der die Grundlage der theoretischen Bedeutung der Normalverteilung darstellt und de Moivres Arbeit am Grenzwertsatz für Binomialverteilungen abschloss.

Adolphe Quetelet erkannte schließlich bei Untersuchungen des Brustumfangs von mehreren tausend Soldaten im Jahr 1845 eine verblüffende Übereinstimmung mit der Normalverteilung und brachte die Normalverteilung in die angewandte Statistik.

Zunächst wurde die Normalverteilung als Fehlergesetz (Law of Error) oder Fehlerkurve (error curve) bezeichnet. Die erste unzweideutige Verwendung der Bezeichnung „Normalverteilung“ für die Verteilung mit der Formulierung „Normal Curve of Distribution“ wird Francis Galton (1889) zugeschrieben. Der Wissenschaftshistoriker Stephen M. Stigler identifizierte drei frühere – vermutlich voneinander unabhängige – Verwendungen des Wortes normal im Zusammenhang mit der später Normalverteilung genannten Verteilung durch Charles S. Peirce (1873), Francis Galton (1877) und Wilhelm Lexis (1877), dabei werden eher die beobachteten Werte oder Teile der beobachteten Werte als „normal“ bezeichnet.

Definition

Eine Zufallsvariable $X$ hat eine Normalverteilung mit Erwartungswert $\mu$ und Standardabweichung $\sigma$ bzw. Varianz ${\sigma }^2$, wobei $\mu ,\sigma \in ℝ,\sigma >0$, oft geschrieben als $X\sim 𝒩(\mu ,{\sigma }^2)$, wenn $X$ die folgende Wahrscheinlichkeitsdichte hat:

$f(x\mid \mu ,{\sigma }^2)=\frac{1}{\sigma \sqrt{2\pi }}{\mathrm{e}}^{-\frac{1}{2}{\left(\frac{x-\mu }{\sigma }\right)}^2}$.

Eine Zufallsvariable, deren Wahrscheinlichkeitsverteilung eine Normalverteilung ist, heißt normalverteilt. Eine normalverteilte Zufallsvariable heißt auch gaußsche Zufallsvariable.

Eine Normalverteilung mit den Parametern $\mu =0$ und ${\sigma }^2=1$ heißt Standardnormalverteilung, standardisierte Normalverteilung oder normierte Normalverteilung. Eine Zufallsvariable, deren Wahrscheinlichkeitsverteilung eine Standardnormalverteilung ist, heißt standardnormalverteilt. Eine standardnormalverteilte Zufallsvariable hat die Dichtefunktion

$\phi (x)=\frac{1}{\sqrt{2\pi }}{\mathrm{e}}^{-\frac{1}{2}{x}^2}$,

siehe auch Fehlerintegral.

Zur mehrdimensionalen Verallgemeinerung siehe Mehrdimensionale Normalverteilung.

Alternative Definition

Alternativ lässt sich die Normalverteilung auch über ihre charakteristische Funktion definieren:

$𝔼\left[{\mathrm{e}}^{\mathrm{i}tX}\right]={\mathrm{e}}^{\mathrm{i}t\mu -\frac{1}{2}{\sigma }^2{t}^2},t\in ℝ.$

Diese Definition erweitert die obige Definition zusätzlich um den Fall ${\sigma }^2=0$.

Eigenschaften

Erwartungswert und Varianz

Ist $X\sim 𝒩(\mu ,{\sigma }^2)$, dann gilt für den Erwartungswert

$\mathrm{E}(X)=\frac{1}{\sqrt{2\pi {\sigma }^2}}\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}x{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}\mathrm{d}x=\mu$

und für die Varianz

$\mathrm{Var}(X)=\frac{1}{\sqrt{2\pi {\sigma }^2}}\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}(x-\mu {)}^2{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}\mathrm{d}x={\sigma }^2$.

Insbesondere ist der Erwartungswert der Standardnormalverteilung $0$, denn für $Z\sim 𝒩(0,1)$ gilt

$\mathrm{E}(Z)=\frac{1}{\sqrt{2\pi }}\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}x{e}^{-\frac{1}{2}{x}^2}\mathrm{d}x=0,$

da der Integrand integrierbar und punktsymmetrisch ist.

Standardisierung

Eine Zufallsvariable $X\sim 𝒩(\mu ,{\sigma }^2)$ wird durch Standardisierung in eine standardnormalverteilte Zufallsvariable $Z=(X-\mu )/\sigma$ überführt.

Verteilungsfunktion

Die Wahrscheinlichkeitsdichte einer normalverteilten Zufallsvariable ist nicht elementar integrierbar, sodass Wahrscheinlichkeiten numerisch berechnet werden müssen. Die Wahrscheinlichkeiten können mithilfe einer Standardnormalverteilungstabelle berechnet werden, die eine Standardform verwendet. Dabei bedient man sich der Tatsache, dass die lineare Transformation einer normalverteilten Zufallsvariablen zu einer neuen Zufallsvariable führt, die ebenfalls normalverteilt ist. Konkret heißt das, wenn $X\sim 𝒩(\mu ,{\sigma }^2)$ und $Y=aX+b$, wobei $a$ und $b$ Konstanten sind mit $a\ne 0$, dann gilt $Y\sim 𝒩(a\mu +b,a^2{\sigma }^2)$. Damit bilden Normalverteilungen eine Lage-Skalen-Familie.

Die Verteilungsfunktion der Normalverteilung ist durch

$F(x)=\frac{1}{\sigma \sqrt{2\pi }}\underset{-\mathrm{\infty }}{\overset{x}{\int }}{e}^{-\frac{1}{2}{\left(\frac{t-\mu }{\sigma }\right)}^2}\mathrm{d}t,x\in ℝ$

gegeben. Die Wahrscheinlichkeit, dass $X\sim 𝒩(\mu ,{\sigma }^2)$ eine Realisierung im Intervall $[a,b]$ hat, ist damit $P(X\in [a,b])=F(b)-F(a)$.

Wenn man durch die Substitution $t=\sigma z+\mu$ statt $t$ eine neue Integrationsvariable $z:=\frac{t-\mu }{\sigma }$ einführt, ergibt sich mit $\mu =0$ und $\sigma =1$ (gemäß dem oben angeführten Linearitätskriterium)

$F(x)=\frac{1}{\sqrt{2\pi }}\underset{-\mathrm{\infty }}{\overset{(x-\mu )/\sigma }{\int }}{e}^{-\frac{1}{2}{z}^2}\mathrm{d}z=\mathrm{\Phi }\left(\frac{x-\mu }{\sigma }\right).$

Dabei ist $\mathrm{\Phi }$ die Verteilungsfunktion der Standardnormalverteilung:

$\mathrm{\Phi }(x)=\frac{1}{\sqrt{2\pi }}\underset{-\mathrm{\infty }}{\overset{x}{\int }}{e}^{-\frac{1}{2}{t}^2}\mathrm{d}t.$

Mit der Fehlerfunktion $\mathrm{erf}$ lässt sich $\mathrm{\Phi }$ darstellen als

$\mathrm{\Phi }(x)=\frac{1}{2}(1+\mathrm{erf}\left(\frac{x}{\sqrt{2}}\right)).$

Funktionsgraph

Der Graph der Dichtefunktion $f(x\mid \mu ,{\sigma }^2)$ bildet eine Gaußsche Glockenkurve und ist achsensymmetrisch mit dem Parameter $\mu$ als Symmetriezentrum, der auch den Erwartungswert, den Median und den Modus der Verteilung darstellt. Vom zweiten Parameter $\sigma$ hängen Höhe und Breite der Wahrscheinlichkeitsdichte ab, die Wendepunkte liegen bei $x=\mu \pm \sigma$.

Der Graph der Verteilungsfunktion $F$ ist punktsymmetrisch zum Punkt $(\mu ;0,5).$ Für $\mu =0$ gilt insbesondere $\phi (-x)=\phi (x)$ und $\mathrm{\Phi }(-x)=1-\mathrm{\Phi }(x)$ für alle $x\in ℝ$.

Als Wahrscheinlichkeitsverteilung ist die Gesamtfläche unter der Kurve gleich $1$. Dass jede Normalverteilung normiert ist, ergibt sich über die lineare Substitution $z=\frac{x-\mu }{\sigma }$:

$\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}\frac{1}{\sigma \sqrt{2\pi }}{e}^{-\frac{1}{2}{\left(\frac{x-\mu }{\sigma }\right)}^2}\mathrm{d}x=\frac{1}{\sqrt{2\pi }}\underset{-\mathrm{\infty }}{\overset{+\mathrm{\infty }}{\int }}{e}^{-\frac{1}{2}{z}^2}\mathrm{d}z=1$.

Für die Normiertheit des letzteren Integrals siehe Fehlerintegral.

Momenterzeugende Funktion und höhere Momente

Die momenterzeugende Funktion der $𝒩(\mu ,{\sigma }^2)$-verteilten Normalverteilung $X$ lautet

$m_X(t)=\exp (\mu t+\frac{{\sigma }^2{t}^2}{2})$.

Nach dem stochastischen Moment 1. Ordnung, dem Erwartungswert, und dem zentralen Moment 2. Ordnung, der Varianz, ist die Schiefe das zentrale Moment 3. Ordnung. Es ist unabhängig von den Parametern $\mu$ und $\sigma$ immer den Wert $0$. Die Wölbung als zentrales Moment 4. Ordnung ist ebenfalls von $\mu$ und $\sigma$ unabhängig und ist gleich $3$. Um die Wölbungen anderer Verteilungen besser einschätzen zu können, werden sie oft mit der Wölbung der Normalverteilung verglichen. Dabei wird die Wölbung der Normalverteilung auf $0$ normiert (Subtraktion von 3); diese Größe wird als Exzess bezeichnet.

Die ersten Momente wie sind folgt:

Ordnung	Moment	zentrales Moment
$k$	$\mathrm{E}(X^k)$	$\mathrm{E}((X-\mu {)}^k)$
0	$1$	$1$
1	$\mu$	$0$
2	${\mu }^2+{\sigma }^2$	${\sigma }^2$
3	${\mu }^3+3\mu {\sigma }^2$	$0$
4	${\mu }^4+6{\mu }^2{\sigma }^2+3{\sigma }^4$	$3{\sigma }^4$
5	${\mu }^5+10{\mu }^3{\sigma }^2+15\mu {\sigma }^4$	$0$
6	${\mu }^6+15{\mu }^4{\sigma }^2+45{\mu }^2{\sigma }^4+15{\sigma }^6$	$15{\sigma }^6$
7	${\mu }^7+21{\mu }^5{\sigma }^2+105{\mu }^3{\sigma }^4+105\mu {\sigma }^6$	$0$
8	${\mu }^8+28{\mu }^6{\sigma }^2+210{\mu }^4{\sigma }^4+420{\mu }^2{\sigma }^6+105{\sigma }^8$	$105{\sigma }^8$

Alle zentralen Momente ${\mu }_n$ lassen sich durch die Standardabweichung $\sigma$ darstellen:

${\mu }_n=\{\begin{array}{cc}0& \text{wenn }n\text{ ungerade}\\ (n-1)!!\cdot {\sigma }^n& \text{wenn }n\text{ gerade}\end{array}$

dabei wurde die Doppelfakultät verwendet:

$(n-1)!!=(n-1)\cdot (n-3)\cdot \dots \cdot 3\cdot 1\mathrm{f}\ddot{\mathrm{u}}\mathrm{r}n\text{ gerade}.$

Auch für $X\sim 𝒩(\mu ,{\sigma }^2)$ kann eine Formel für nicht-zentrale Momente angegeben werden. Dafür transformiert man $Z\sim 𝒩(0,1)$ und wendet den binomischen Lehrsatz an.

$\mathrm{E}(X^k)=\mathrm{E}((\sigma Z+\mu {)}^k)=\sum _{j=0}^k(\genfrac{}{}{0ex}{}{k}{j})\mathrm{E}(Z^j){\sigma }^j{\mu }^{k-j}=\sum _{i=0}^{\lfloor k/2\rfloor }(\genfrac{}{}{0ex}{}{k}{2i})\mathrm{E}(Z^{2i}){\sigma }^{2i}{\mu }^{k-2i}=\sum _{i=0}^{\lfloor k/2\rfloor }(\genfrac{}{}{0ex}{}{k}{2i})(2i-1)!!{\sigma }^{2i}{\mu }^{k-2i}.$

Die mittlere absolute Abweichung ist $\sqrt{\frac{2}{\pi }}\sigma \approx 0,80\sigma$ und der Interquartilsabstand $\approx 1,349\sigma$.

Standardabweichung

Intervalle um $\mu$ bei der Normalverteilung

Aus der Standardnormalverteilungstabelle ist ersichtlich, dass für normalverteilte Zufallsvariablen jeweils ungefähr

68,3 % der Realisierungen im Intervall $\mu \pm \sigma$,

95,4 % im Intervall $\mu \pm 2\sigma$ und

99,7 % im Intervall $\mu \pm 3\sigma$

liegen. Da in der Praxis viele Zufallsvariablen annähernd normalverteilt sind, werden diese Werte aus der Normalverteilung oft als Faustformel benutzt. So wird beispielsweise $\sigma$ oft als die halbe Breite des Intervalls angenommen, das die mittleren zwei Drittel der Werte in einer Stichprobe umfasst.

Realisierungen außerhalb der zwei- bis dreifachen Standardabweichung gelten oft als verdächtig, Ausreißer zu sein. Sie können ein Hinweis auf grobe Fehler der Datenerfassung oder auch auf das Nichtvorhandensein einer Normalverteilung sein. Andererseits liegt bei einer Normalverteilung im Durchschnitt ca. jeder 20. Messwert außerhalb der zweifachen Standardabweichung und ca. jeder 370. Messwert außerhalb der dreifachen Standardabweichung, ohne dass es sich dabei um Ausreißer handelt.

Abhängigkeit der Wahrscheinlichkeit $P(-z\le Z\le z)$ einer standardnormalverteilten Zufallsvariablen $Z$ von $z\in [0,4]$

Abhängigkeit der Wahrscheinlichkeit $P(|Z|>z)$ einer standardnormalverteilten Zufallsvariablen $Z$ von $z\in [0,6]$

Die Wahrscheinlichkeit, dass eine normalverteilte Zufallsvariable $X\sim 𝒩(\mu ,{\sigma }^2)$ einen Wert im Intervall $[\mu -z\sigma ,\mu +z\sigma ]$ annimmt, ist genau so groß, wie die Wahrscheinlichkeit, dass ein standardnormalverteilte Zufallsvariable $Z$ einen Wert im Intervall $[-z,z]$ annimmt, es gilt also

$p=P(X\in [\mu -z\sigma ,\mu +z\sigma ])=P(Z\in [-z,z])$.

Damit können bestimmte Wahrscheinlichkeitsaussagen für Normalverteilungen mit beliebigen Parametern $\mu$ und ${\sigma }^2$ auf die Standardnormalverteilung zurückgeführt werden.

Die Wahrscheinlichkeit $p$ kann alternativ durch die Verteilungsfunktion $\mathrm{\Phi }$ der Standardnormalverteilung oder durch die Fehlerfunktion $\mathrm{erf}$ ausgedrückt werden:

$p=2\mathrm{\Phi }(z)-1=\mathrm{erf}(z/\sqrt{2}).$

Umgekehrt ist zu einer vorgegebenen Wahrscheinlichkeit $p\in (0,1)$ die Stelle $z$, für die $p=P(Z\in [-z,z])$ gilt, durch

$z={\mathrm{\Phi }}^{-1}\left(\frac{p+1}{2}\right)=\sqrt{2}\cdot {\mathrm{erf}}^{-1}(p)$

gegeben.

Wahrscheinlichkeiten für eine standardnormalverteilte Zufallsvariable $Z$

$z$	$P(Z\in [-z,z])$	$P(Z\notin [-z,z])$
0,674490	50 %	50 %
1	68,268 9492 %	31,731 0508 %
1,17741 (Halbwertsbreite)	76,096 8106 %	23,903 1891 %
1,644854	90 %	10 %
2	95,449 9736 %	4,550 0264 %
2,575829	99 %	1 %
3	99,730 0204 %	0,269 9796 %
3,290527	99,9 %	0,1 %
3,890592	99,99 %	0,01 %
4	99,993 666 %	0,006 334 %
4,417173	99,999 %	0,001 %
4,891638	99,9999 %	0,0001 %
5	99,999 942 6697 %	0,000 057 3303 %
5,326724	99,999 99 %	0,000 01 %
5,730729	99,999 999 %	0,000 001 %
6	99,999 999 8027 %	0,000 000 1973 %

Halbwertsbreite

Der Wert der Dichtefunktion der Standardnormalverteilung fällt auf die Hälfte des Maximums, wenn $e^{-t^2/2}=\frac{1}{2}$, also bei $t=\sqrt{2\ln 2}\approx 1,177$. Die Halbwertsbreite ist damit das $2\sqrt{2\ln 2}\approx 2,355$fache der Standardabweichung.

Variationskoeffizient

Aus Erwartungswert $\mu$ und Standardabweichung $\sigma$ der $𝒩(\mu ,{\sigma }^2)$-Verteilung erhält man unmittelbar den Variationskoeffizienten

$\mathrm{VarK}=\frac{\sigma }{\mu }.$

Kumulanten

Die kumulantenerzeugende Funktion ist

$g_X(t)=\mu t+\frac{{\sigma }^2{t}^2}{2}$

Damit ist die erste Kumulante ${\kappa }_1=\mu$, die zweite ist ${\kappa }_2={\sigma }^2$ und alle weiteren Kumulanten verschwinden.

Charakteristische Funktion

Die charakteristische Funktion für eine standardnormalverteilte Zufallsvariable $Z\sim 𝒩(0,1)$ ist

${\psi }_Z(t)=e^{-\frac{1}{2}{t}^2}$.

Für eine Zufallsvariable $X\sim 𝒩(\mu ,{\sigma }^2)$ erhält man daraus mit $X=\sigma Z+\mu$:

${\psi }_X(t)=\mathrm{E}(e^{it(\sigma Z+\mu )})=\mathrm{E}(e^{it\sigma Z}{e}^{it\mu })=e^{it\mu }\mathrm{E}(e^{it\sigma Z})=e^{it\mu }{\psi }_Z(\sigma t)=\exp (it\mu -\frac{1}{2}{\sigma }^2{t}^2)$.

Invarianz gegenüber Faltung

Die Normalverteilung ist invariant gegenüber der Faltung, d. h., die Summe unabhängiger normalverteilter Zufallsvariablen ist wieder normalverteilt (siehe dazu auch unter stabile Verteilungen bzw. unter unendliche teilbare Verteilungen). Somit bildet die Normalverteilung eine Faltungshalbgruppe in ihren beiden Parametern. Eine veranschaulichende Formulierung dieses Sachverhaltes lautet: Die Faltung einer Gaußkurve der Standardabweichung ${\sigma }_a$ mit einer Gaußkurve der Standardabweichung ${\sigma }_b$ ergibt wieder eine Gaußkurve mit der Standardabweichung

${\sigma }_c=\sqrt{{\sigma }_a^2+{\sigma }_b^2}$.

Sind also $X,Y$ zwei unabhängige Zufallsvariablen mit

$X\sim 𝒩({\mu }_X,{\sigma }_X^2),Y\sim 𝒩({\mu }_Y,{\sigma }_Y^2),$

so ist deren Summe ebenfalls normalverteilt:

$X+Y\sim 𝒩({\mu }_X+{\mu }_Y,{\sigma }_X^2+{\sigma }_Y^2)$.

Das kann beispielsweise mit Hilfe von charakteristischen Funktionen gezeigt werden, indem man verwendet, dass die charakteristische Funktion der Summe das Produkt der charakteristischen Funktionen der Summanden ist (vgl. Faltungssatz der Fouriertransformation).

Damit ist jede Linearkombination wieder normalverteilt. Nach dem Satz von Cramér gilt sogar die Umkehrung: Ist eine normalverteilte Zufallsvariable die Summe von unabhängigen Zufallsvariablen, dann sind die Summanden ebenfalls normalverteilt. Man spricht davon, dass die Normalverteilung reproduktiv ist bzw. die Reproduktivitätseigenschaft besitzt.

Die Dichtefunktion der Normalverteilung ist ein Fixpunkt der Fourier-Transformation, d. h., die Fourier-Transformierte einer Gaußkurve ist wieder eine Gaußkurve. Das Produkt der Standardabweichungen dieser korrespondierenden Gaußkurven ist konstant; es gilt die Heisenbergsche Unschärferelation.

Entropie

Eine normalverteilte Zufallsvariable hat die Shannon-Entropie ${\log }_2\left(\sigma \sqrt{2\pi e}\right)$. Sie hat für gegebenen Erwartungswert und gegebene Varianz die größte Entropie unter allen stetigen Verteilungen.

Anwendung

Beispiel zur Standardabweichung

Die Körpergröße des Menschen ist näherungsweise normalverteilt. Bei einer Stichprobe von 1.284 Mädchen und 1.063 Jungen zwischen 14 und 18 Jahren wurde bei den Mädchen eine durchschnittliche Körpergröße von 166,3 cm (Standardabweichung 6,39 cm) und bei den Jungen eine durchschnittliche Körpergröße von 176,8 cm (Standardabweichung 7,46 cm) gemessen.

Demnach lässt obige Schwankungsbreite erwarten, dass 68,3 % der Mädchen eine Körpergröße im Bereich 166,3 cm ± 6,39 cm und 95,4 % im Bereich 166,3 cm ± 12,8 cm haben, also

• 16 % [≈ (100 % − 68,3 %)/2] der Mädchen kleiner als 160 cm (und 16 % entsprechend größer als 173 cm) sind und
• 2,5 % [≈ (100 % − 95,4 %)/2] der Mädchen kleiner als 154 cm (und 2,5 % entsprechend größer als 179 cm) sind.

Für die Jungen lässt sich erwarten, dass 68,3 % eine Körpergröße im Bereich 176,8 cm ± 7,46 cm und 95,4 % im Bereich 176,8 cm ± 14,92 cm haben, also

• 16 % der Jungen kleiner als 169 cm (und 16 % größer als 184 cm) und
• 2,5 % der Jungen kleiner als 162 cm (und 2,5 % größer als 192 cm) sind.

Kontaminierte Normalverteilung

Normalverteilung (a) und kontaminierte Normalverteilung (b)

Von der Verteilung

$P=0,9\cdot 𝒩(\mu ,{\sigma }^2)+0,1\cdot 𝒩(\mu ,(10\sigma {)}^2)$

ist die Standardabweichung $\bar{\sigma }$. Die Verteilung ist optisch kaum von der Normalverteilung zu unterscheiden (siehe Bild), aber bei ihr liegen im Intervall $\mu \pm \bar{\sigma }$ 92,5 % der Werte. Solche kontaminierten Normalverteilungen sind in der Praxis häufig; das genannte Beispiel beschreibt die Situation, wenn zehn Präzisionsmaschinen etwas herstellen, aber eine davon schlecht justiert ist und mit zehnmal so hohen Abweichungen wie die anderen neun produziert.

Gestutzte Normalverteilung

Vorlage:Hauptartikel Bei der gestutzten Normalverteilung ist die Wahrscheinlichkeitsdichte $f$ außerhalb eines Intervalls $[a,b]$ mit $a,b\in ℝ$ gleich Null. Entsprechend erhöht sich $f$ in dem Intervall, so dass das Integral $\underset{a}{\overset{b}{\int }}f=1$ bleibt.

Six Sigma

Vorlage:Hauptartikel Da der Anteil der Werte außerhalb der sechsfachen Standardabweichung mit ca. 2 ppb verschwindend klein wird, gilt ein solches Intervall als gutes Maß für eine nahezu vollständige Abdeckung aller Werte. Das wird im Qualitätsmanagement durch die Methode Six Sigma genutzt, indem die Prozessanforderungen Toleranzgrenzen von mindestens $6\sigma$ vorschreiben. Allerdings geht man dort von einer langfristigen Erwartungswertverschiebung um 1,5 Standardabweichungen aus, sodass der zulässige Fehleranteil auf 3,4 ppm steigt. Dieser Fehleranteil entspricht einer viereinhalbfachen Standardabweichung ($4,5\sigma$). Ein weiteres Problem der $6\sigma$-Methode ist, dass die $6\sigma$-Punkte praktisch nicht bestimmbar sind. Bei unbekannter Verteilung (d. h., wenn es sich nicht ganz sicher um eine Normalverteilung handelt) grenzen zum Beispiel die Extremwerte von 1.400.000.000 Messungen ein 75-%-Konfidenzintervall für die $6\sigma$-Punkte ein.

Beziehungen zu anderen Verteilungsfunktionen

Normalverteilung als Grenzverteilung der Binomialverteilung

Die Binomialverteilung ist eine diskrete Verteilung, die sich aus einer Anzahl an Versuchen $n$ ergibt. Jeder einzelne Versuch hat die Wahrscheinlichkeit eines Erfolges $p$. Die Binomialverteilung $B(k\mid p,n)$ gibt dann die Wahrscheinlichkeit an, dass die $n$ Versuche genau $k$-mal ein Erfolg war, mit $0\le k\le n$.

Durch einen Grenzübergang für $n\to \mathrm{\infty }$ ergeben sich die Dichtefunktion einer Normalverteilung aus der Wahrscheinlichkeitsfunktion der Binomialverteilung (lokaler Grenzwertsatz von Moivre-Laplace) und die Verteilungsfunktion einer Normalverteilung aus der Verteilungsfunktion der Binomialverteilung (globaler Grenzwertsatz von Moivre-Laplace). Dies ist eine Rechtfertigung dafür, die Binomialverteilung mit den Parametern $n$ und $p$ für hinreichend große $n$ durch die Normalverteilung $𝒩(np,np(1-p))$ zu approximieren.

Approximation der Binomialverteilung durch die Normalverteilung

Vorlage:Hauptartikel Die Normalverteilung kann zur Approximation der Binomialverteilung verwendet werden, wenn der Stichprobenumfang hinreichend groß und in der Grundgesamtheit der Anteil der gesuchten Eigenschaft weder zu groß noch zu klein ist (Satz von Moivre-Laplace, zentraler Grenzwertsatz, zur experimentellen Bestätigung siehe auch unter Galtonbrett).

Ist ein Bernoulli-Versuch mit $n$ voneinander unabhängigen Stufen (bzw. Zufallsexperimenten) mit einer Erfolgswahrscheinlichkeit $p$ gegeben, so lässt sich die Wahrscheinlichkeit für $k$ Erfolge allgemein durch $P(X=k)=(\genfrac{}{}{0ex}{}{n}{k})\cdot p^k\cdot (1-p{)}^{n-k},k=0,1,\dots ,n$ berechnen (Binomialverteilung).

Diese Binomialverteilung kann durch eine Normalverteilung approximiert werden, wenn $n$ hinreichend groß und $p$ weder zu groß noch zu klein ist. Als Faustregel dafür gilt $np(1-p)\ge 9$. Für den Erwartungswert $\mu$ und die Standardabweichung $\sigma$ gilt dann:

$\mu =n\cdot p$ und $\sigma =\sqrt{n\cdot p\cdot (1-p)}$.

Damit gilt für die Standardabweichung $\sigma \ge 3$.

Falls diese Bedingung nicht erfüllt sein sollte, ist die Ungenauigkeit der Näherung immer noch vertretbar, wenn gilt: $np\ge 4$ und zugleich $n(1-p)\ge 4$.

Folgende Näherung ist dann brauchbar:

$\begin{array}{cc}P(x_1\le X\le x_2)& =\underset{\mathrm{B}\mathrm{V}}{\underbrace{\sum _{k=x_1}^{x_2}(\genfrac{}{}{0ex}{}{n}{k})\cdot p^k\cdot (1-p{)}^{n-k}}}\\ & \approx \underset{\mathrm{N}\mathrm{V}}{\underbrace{\mathrm{\Phi }\left(\frac{x_2+0,5-\mu }{\sigma }\right)-\mathrm{\Phi }\left(\frac{x_1-0,5-\mu }{\sigma }\right)}}.\end{array}$

Bei der Normalverteilung wird die untere Grenze um 0,5 verkleinert und die obere Grenze um 0,5 vergrößert, um eine bessere Approximation gewährleisten zu können. Dies nennt man auch „Stetigkeitskorrektur“. Nur wenn $\sigma$ einen sehr hohen Wert besitzt, kann auf sie verzichtet werden.

Da die Binomialverteilung diskret ist, muss auf einige Punkte beim Rechnen mit einer binomialverteilten Zufallsvariablen $X$ geachtet werden:

• Der Unterschied zwischen $<$ oder $\le$ (sowie zwischen größer und größer gleich) muss beachtet werden (was ja bei der Normalverteilung nicht der Fall ist). Deshalb muss bei $P(X<x)$ die nächstkleinere natürliche Zahl gewählt werden, d. h.

$P(X<x)=P(X\le x-1)$ bzw. $P(X>x)=P(X\ge x+1)$,

damit mit der Normalverteilung weitergerechnet werden kann.

Zum Beispiel: $P(X<70)=P(X\le 69)$

• Außerdem ist

$P(X\le x)=P(0\le X\le x)$

$P(X\ge x)=P(x\le X\le n)$

$P(X=x)=P(x\le X\le x)$ (unbedingt mit Stetigkeitskorrektur)

und lässt sich somit durch die oben angegebene Formel berechnen.

Der große Vorteil der Approximation liegt darin, dass sehr viele Stufen einer Binomialverteilung sehr schnell und einfach bestimmt werden können.

Beziehung zur Cauchy-Verteilung

Der Quotient von zwei stochastisch unabhängigen $𝒩(0,1)$-standardnormalverteilten Zufallsvariablen ist Cauchy-verteilt.

Beziehung zur Chi-Quadrat-Verteilung

Das Quadrat einer standardnormalverteilten Zufallsvariablen hat eine Chi-Quadrat-Verteilung mit einem Freiheitsgrad. Also: Wenn $Z\sim 𝒩(0,1)$, dann $Z^2\sim {\chi }^2(1)$. Weiterhin gilt: Wenn ${\chi }^2(r_1),{\chi }^2(r_2),\dots ,{\chi }^2(r_n)$ gemeinsam stochastisch unabhängige Chi-Quadrat-verteilte Zufallsvariablen sind, dann gilt

$Y={\chi }^2(r_1)+{\chi }^2(r_2)+\cdots +{\chi }^2(r_n)\sim {\chi }^2(r_1+\cdots +r_n)$.

Daraus folgt mit unabhängig und standardnormalverteilten Zufallsvariablen $Z_1,Z_2,\dots ,Z_n$:

$Y=Z_1^2+\cdots +Z_n^2\sim {\chi }^2(n)$

Weitere Beziehungen sind:

• Die Summe $X_{n-1}=\frac{1}{{\sigma }^2}\sum _{i=1}^n(Z_i-\bar{Z}{)}^2$ mit $\bar{Z}:=\frac{1}{n}\sum _{i=1}^n{Z}_i$ und $n$ unabhängigen normalverteilten Zufallsvariablen $Z_i\sim 𝒩(\mu ,{\sigma }^2),i=1,\dots ,n$ genügt einer Chi-Quadrat-Verteilung $X_{n-1}\sim {\chi }_{n-1}^2$ mit $(n-1)$ Freiheitsgraden.

• Mit steigender Anzahl an Freiheitsgraden (df ≫ 100) nähert sich die Chi-Quadrat-Verteilung der Normalverteilung an.

• Die Chi-Quadrat-Verteilung wird zur Konfidenzschätzung für die Varianz einer normalverteilten Grundgesamtheit verwendet.

Beziehung zur Rayleigh-Verteilung

Der Betrag $Z=\sqrt{X^2+Y^2}$ zweier unabhängiger normalverteilter Zufallsvariablen $X,Y$, jeweils mit Mittelwert ${\mu }_X={\mu }_Y=0$ und gleichen Varianzen ${\sigma }_X^2={\sigma }_Y^2={\sigma }^2$, ist Rayleigh-verteilt mit Parameter $\sigma >0$.

Beziehung zur logarithmischen Normalverteilung

Ist die Zufallsvariable $X$ normalverteilt mit $𝒩(\mu ,{\sigma }^2)$, dann ist die Zufallsvariable $Y=e^X$ logarithmisch-normalverteilt, also $Y\sim ℒ𝒩(\mu ,{\sigma }^2)$.

Die Entstehung einer logarithmischen Normalverteilung ist auf multiplikatives, die einer Normalverteilung auf additives Zusammenwirken vieler Zufallsvariablen zurückführen.

Beziehung zur F-Verteilung

Wenn die stochastisch unabhängigen und normalverteilten Zufallsvariablen $X_1^{(1)},X_2^{(1)},\dots ,X_{n_1}^{(1)}$ und $X_1^{(2)},X_2^{(2)},\dots ,X_{n_2}^{(2)}$ die Parameter

$\mathrm{E}(X_i^{(1)})={\mu }_1,\mathrm{Var}(X_i^{(1)})={\sigma }_1^2\text{für }i=1,\dots ,n_1$

und

$\mathrm{E}(X_i^{(2)})={\mu }_2,\mathrm{Var}(X_i^{(2)})={\sigma }_2^2\text{für }i=1,\dots ,n_2$

besitzen, dann unterliegt die Zufallsvariable

$Y_{n_1-1,n_2-1}:=\frac{{\sigma }_2^2(n_2-1)\sum _{i=1}^{n_1}(X_i^{(1)}-\stackrel{(1)}{\bar{X}}{)}^2}{{\sigma }_1^2(n_1-1)\sum _{j=1}^{n_2}(X_i^{(2)}-\stackrel{(2)}{\bar{X}}{)}^2}$

einer F-Verteilung mit $((n_1-1,n_2-1))$ Freiheitsgraden. Dabei sind

$\stackrel{(1)}{\bar{X}}=\frac{1}{n_1}\sum _{i=1}^{n_1}{X}_i^{(1)},\stackrel{(2)}{\bar{X}}=\frac{1}{n_2}\sum _{i=1}^{n_2}{X}_i^{(2)}$.

Beziehung zur studentschen t-Verteilung

Wenn die stochastisch unabhängigen Zufallsvariablen $X_1,X_2,\dots ,X_n$ identisch normalverteilt sind mit den Parametern $\mu$ und $\sigma$, dann unterliegt die stetige Zufallsvariable

$Y_{n-1}=\frac{\bar{X}-\mu }{S/\sqrt{n}}$

mit dem Stichprobenmittel $\bar{X}=\frac{1}{n}\sum _{i=1}^n{X}_i$, der Stichprobenvarianz $S^2=\frac{1}{n-1}\sum _{i=1}^n(X_i-\bar{X}{)}^2$ und $S:=\sqrt{S^2}$ einer studentschen t-Verteilung mit $(n-1)$ Freiheitsgraden.

Für eine zunehmende Anzahl an Freiheitsgraden nähert sich die studentsche t-Verteilung der Normalverteilung immer näher an. Als Faustregel gilt, dass man ab ca. $df>30$ die studentsche t-Verteilung bei Bedarf durch die Normalverteilung approximieren kann.

Die studentsche t-Verteilung wird zur Konfidenzschätzung für den Erwartungswert einer normalverteilten Zufallsvariable bei unbekannter Varianz verwendet.

Testen auf Normalverteilung

Quantile einer Normalverteilung und einer Chi-Quadrat-Verteilung

Eine χ²-verteilte Zufallsvariable mit 5 Freiheitsgraden wird auf Normalverteilung getestet. Für jeden Stichprobenumfang werden 10.000 Stichproben simuliert und anschließend jeweils 5 Anpassungstests zu einem Niveau von 5 % durchgeführt.

Um zu überprüfen, ob vorliegende Daten normalverteilt sind, können unter anderen folgende Methoden und Tests angewandt werden:

• Chi-Quadrat-Test
• Kolmogorow-Smirnow-Test
• Anderson-Darling-Test (Modifikation des Kolmogorow-Smirnow-Tests)
• Lilliefors-Test (Modifikation des Kolmogorow-Smirnow-Tests)
• Cramér-von-Mises-Test
• Shapiro-Wilk-Test
• Jarque-Bera-Test
• Q-Q-Plot (deskriptive Überprüfung)
• Maximum-Likelihood-Methode (deskriptive Überprüfung)

Die Tests haben unterschiedliche Eigenschaften hinsichtlich der Art der Abweichungen von der Normalverteilung, die sie erkennen. So erkennt der Kolmogorov-Smirnov-Test Abweichungen in der Mitte der Verteilung eher als Abweichungen an den Rändern, während der Jarque-Bera-Test ziemlich sensibel auf stark abweichende Einzelwerte an den Rändern („schwere Ränder“) reagiert.

Beim Lilliefors-Test muss im Gegensatz zum Kolmogorov-Smirnov-Test nicht standardisiert werden, d. h., $\mu$ und $\sigma$ der angenommenen Normalverteilung dürfen unbekannt sein.

Mit Hilfe von Quantil-Quantil-Diagrammen bzw. Normal-Quantil-Diagrammen ist eine einfache grafische Überprüfung auf Normalverteilung möglich.
Mit der Maximum-Likelihood-Methode können die Parameter $\mu$ und $\sigma$ der Normalverteilung geschätzt und die empirischen Daten mit der angepassten Normalverteilung grafisch verglichen werden.

Erzeugung normalverteilter Zufallszahlen

Alle folgenden Verfahren erzeugen standardnormalverteilte Zufallszahlen. Durch lineare Transformation lassen sich hieraus beliebige normalverteilte Zufallszahlen erzeugen: Ist die Zufallsvariable $x\sim 𝒩(0,1)$-verteilt, so ist $a\cdot x+b$ schließlich $𝒩(b,a^2)$-verteilt.

Box-Muller-Methode

Nach der Box-Muller-Methode lassen sich zwei unabhängige, standardnormalverteilte Zufallsvariablen $X$ und $Y$ aus zwei unabhängigen, gleichverteilten Zufallsvariablen $U_1,U_2\sim U(0,1)$, sogenannten Standardzufallszahlen, simulieren:

$X=\cos (2\pi U_1)\sqrt{-2\ln U_2}$

und

$Y=\sin (2\pi U_1)\sqrt{-2\ln U_2}.$

Polar-Methode

Die Polar-Methode von George Marsaglia ist auf einem Computer schneller, da sie keine Auswertungen von trigonometrischen Funktionen benötigt:

1. Erzeuge zwei voneinander unabhängige, im Intervall $[-1,1]$ gleichverteilte Zufallszahlen $u_1$ und $u_2$
2. Berechne $q=u_1^2+u_2^2$. Falls $q=0$ oder $q\ge 1$, gehe zurück zu Schritt 1.
3. Berechne $p=\sqrt{\frac{-2\cdot \ln q}{q}}$.
4. $x_i=u_i\cdot p$ für $i=1,2$ liefert zwei voneinander unabhängige, standardnormalverteilte Zufallszahlen $x_1$ und $x_2$.

Ziggurat-Algorithmus

Der Ziggurat-Algorithmus, der ebenfalls von George Marsaglia entwickelt wurde, ist effizienter als die Box-Muller-Methode. Er ist der voreingestellte Algorithmus, mit dem in Matlab und Octave normalverteilte Zufallszahlen erzeugt werden.

Verwerfungsmethode

Normalverteilungen lassen sich mit der Verwerfungsmethode (siehe dort) simulieren.

Inversionsmethode

Die Normalverteilung lässt sich auch mit der Inversionsmethode berechnen.

Mit der $[-1,1]$-gleichverteilten Verteilung $X$ wird über die Inverse Verteilungsfunktion die Standardnormalverteilung erzeugt:

$Y={𝕖𝕣𝕗}^{-1}\left(\frac{2}{\sqrt{\pi }}X\right)$

Da die inverse Verteilungsfunktion nicht explizit mit elementaren Funktionen darstellbar ist, muss man auf eine komplexere numerische Darstellung zurückgreifen, mit relativ hohem Aufwand. Reihenentwicklungen sind in der Literatur zu finden.

Zwölferregel

Die Zwölferregel liefert keine exakte Normalverteilung, diese wird nur genähert. Der zentrale Grenzwertsatz besagt, dass sich unter bestimmten Voraussetzungen die Verteilung der Summe unabhängig und identisch verteilter Zufallszahlen einer Normalverteilung nähert.

Nach der Zwölferregel wird die Standardnormalverteilung durch die Verteilung der Zufallsvariablen $Y-6$ approximiert, wobei $Y$ die Summe von zwölf stochastisch unabhängigen, im Intervall [0,1] gleichverteilten Zufallszahlen $X_1,\dots ,X_{12}$ ist. Der Erwartungswert von $Y$ ist 6 und die Varianz von $Y$ ist 1, sodass die Zufallsvariable $Y-6$ den Erwartungswert 0 und die Varianz 1 hat. Dies führt für viele Anwendungen zu einer akzeptablen Approximation einer Standardnormalverteilung durch die Verteilung der Zufallsvariablen $Y-6$. Das Verfahren ist allerdings weder effizient noch wird eine echte Normalverteilung erreicht.

Zudem ist die geforderte Unabhängigkeit der zwölf Zufallsvariablen $X_i$ bei den immer noch häufig verwendeten Linearen Kongruenzgeneratoren (LKG) nicht garantiert. Im Gegenteil wird vom Spektraltest für LKG meist nur die Unabhängigkeit von maximal vier bis sieben der $X_i$ garantiert. Für numerische Simulationen ist die Zwölferregel daher sehr bedenklich und sollte, wenn überhaupt, dann ausschließlich mit aufwändigeren, aber besseren Pseudo-Zufallsgeneratoren wie z. B. dem Mersenne-Twister (Standard in Python, GNU R) oder WELL genutzt werden. Andere, sogar leichter zu programmierende Verfahren sind daher der Zwölferregel vorzuziehen.

Anwendungen außerhalb der Wahrscheinlichkeitsrechnung

In der Statistik ist die Normalverteilung eine wichtige Wahrscheinlichkeitsverteilung. Sie wird verwendet zur Modellierung einer Merkmalsverteilung in der Grundgesamtheit und zur Modellierung der Verteilung von Messfehlern. Außerdem entsteht sie als asymptotische Verteilung von Schätzfunktionen und allgemeineren Statistiken, siehe dazu zentrale Grenzwertsätze der Statistik.

Die Normalverteilung lässt sich auch zur Beschreibung nicht direkt stochastischer Sachverhalte verwenden, etwa in der Physik für das Amplitudenprofil der Gauß-Strahlen und andere Verteilungsprofile.

Zudem findet sie Verwendung in der Gabor-Transformation im Bereich der Signal- und Bildbearbeitung.

Siehe auch

• Normalverteilungsmodell
• Additives weißes gaußsches Rauschen
• Lineare Regression

Literatur

• Vorlage:Literatur
• Vorlage:Literatur
• Vorlage:Literatur
• Vorlage:Literatur
• Stephen M. Stigler: The history of statistics: the measurement of uncertainty before 1900. Belknap Series. Harvard University Press, 1986. ISBN 978-0-674-40341-3.
• Vorlage:Literatur

Weblinks

• Anschauliche Erklärung der Normalverteilung mit interaktivem Graphen
• Vorlage:Webarchiv in Visual Basic Classic
• Online-Rechner Normalverteilung
• Santa Cruz Institute for Particle Physics: The Normal Approximation to the Binomial Distribution
• University of Connecticut: Normal approximation to the binomial
• Universität Uppsala: Approximating the Binomial Distribution by the Normal Distribution – Error and Accuracy
• University of Saskatchewan: The Normal Distribution as a Limit of Binomial Distributions