Normalverteilung

Die Normal- oder Gauß-Verteilung (nach Carl Friedrich Gauß) ist ein wichtiger Typ kontinuierlicher Wahrscheinlichkeitsverteilungen. Ihre Wahrscheinlichkeitsdichte wird auch Gauß-Funktion, Gauß-Kurve, Gauß-Glocke oder Glockenkurve genannt.

Die besondere Bedeutung der Normalverteilung beruht unter anderem auf dem zentralen Grenzwertsatz, der besagt, dass eine Summe von $n$ unabhängigen, identisch verteilten Zufallsvariablen im Grenzwert $n\backslash rightarrow\backslash infty$ normalverteilt ist. Das bedeutet, dass man Zufallsvariablen dann als normalverteilt ansehen kann, wenn sie durch Überlagerung einer großen Zahl von Einflüssen entstehen, wobei jede einzelne Einflussgröße einen im Verhältnis zur Gesamtsumme unbedeutenden Beitrag liefert.

Viele natur-, wirtschafts- und ingenieurswissenschaftliche Vorgänge lassen sich durch die Normalverteilung entweder exakt oder wenigstens in sehr guter Näherung beschreiben (vor allem Prozesse, die in mehreren Faktoren unabhängig voneinander in verschiedene Richtungen wirken).

Zufallsgrößen mit Normalverteilung benutzt man zur Beschreibung zufälliger Versuche bei der Bestimmung von Geschwindigkeiten, Messfehlern, Beobachtungsfehlern wie:

• zufällige Beobachtungs- und Messfehler.
• zufällige Abweichungen vom Nennmaß bei der Fertigung von Werkstücken.
• Beschreibung der brownschen Molekularbewegung.

In der Versicherungsmathematik ist die Normalverteilung geeignet zur Modellierung von Schadensdaten im Bereich mittlerer Schadenshöhen.

In der Messtechnik wird häufig eine Normalverteilung angesetzt, die die Streuung der Messfehler beschreibt. Hierbei ist von Bedeutung, wie viele Messpunkte innerhalb einer gewissen Streubreite liegen. Die Standardabweichung $\backslash sigma$ beschreibt die Breite der Normalverteilung. Berücksichtigt man die tabellierten Werte der Verteilungsfunktion gilt näherungsweise folgende Aussage:

• 68,27 % aller Messwerte haben eine Abweichung von höchstens $\backslash sigma$ vom Mittelwert
• 95,45 % aller Messwerte haben eine Abweichung von höchstens $2\; \backslash sigma$ vom Mittelwert
• 99,73 % aller Messwerte haben eine Abweichung von höchstens $3\; \backslash sigma$ vom Mittelwert.

Somit kann neben dem Mittelwert auch der Standardabweichung eine physikalische Bedeutung zugeordnet werden.

Definition

Eine stetige Zufallsvariable $X$ mit der Wahrscheinlichkeitsdichte $f:\backslash R\backslash to\backslash R,\backslash \; x\backslash mapsto\; f(x)$

$f(x)\; =\; \backslash frac\; \{1\}\{\backslash sigma\backslash sqrt\{2\backslash pi\}\}\backslash exp\backslash left(-\backslash frac\; \{1\}\{2\}\; \backslash left(\backslash frac\{x-\backslash mu\}\{\backslash sigma\}\backslash right)^2\backslash right)$

heißt $\backslash mu$-$\backslash sigma$-normalverteilt, auch geschrieben als $X\; \backslash sim\; \backslash mathcal\; N(\backslash mu,\; \backslash sigma^2)$ oder $(\backslash mu,\backslash sigma^2)$-normalverteilt, wobei $\backslash mu$ der Erwartungswert und $\backslash sigma$ die Standardabweichung sind.

Die Verteilungsfunktion der Normalverteilung ist gegeben durch

$F(x)\; =\; \backslash frac\; \{1\}\{\backslash sigma\; \backslash sqrt\{2\backslash pi\}\}\; \backslash int\_\{-\backslash infty\}^x\; \backslash exp\backslash left(-\backslash frac\; \{1\}\{2\}\; \backslash left(\backslash frac\{t-\backslash mu\}\{\backslash sigma\}\backslash right)^2\backslash right)\; \backslash mathrm\{d\}t$.

So sieht die Dichtefunktion der Standardnormalverteilung ($\backslash mu=0,\backslash \; \backslash sigma\; =\; 1$) aus. Angegeben sind die Intervalle im Abstand 1, 2 und 3 Standardabweichungen vom Erwartungswert 0, die rund 68 %, 95,5 % und 99,7 % der Fläche unter der Glockenkurve umfassen. Die gleichen Prozentsätze gelten für alle Normalverteilungen in Bezug auf die entsprechenden Erwartungswerte und Standardabweichungen. Man beachte, dass die Dichte der Normalverteilung nie den Wert Null annimmt, das heißt es gilt $f(x)>0$ für alle reellen $x$.

Die Normalverteilung ist eine Grenzverteilung, die nicht direkt beobachtet werden kann. Die Annäherung verläuft aber mit wachsendem n sehr schnell, so dass schon die Verteilung einer Summe von 30 oder 40 unabhängigen, identisch verteilten Zufallsgrößen einer Normalverteilung recht ähnlich ist.

Die Glockenkurve schmückte, neben dem Portrait von Carl Friedrich Gauß platziert, von 1989 bis 2001 die 10-DM-Banknote der Bundesrepublik Deutschland.

Eigenschaften

Symmetrie

Der Graph der Wahrscheinlichkeitsdichte $f:\backslash R\backslash to\backslash R$ ist eine Gauß'sche Glockenkurve, welche symmetrisch zum Wert von $\backslash mu$ ist und deren Höhe und Breite von $\backslash sigma$ abhängt. Mathematisch ausgedrückt wird diese Symmetrie durch

$f(\backslash mu\; -x)\; =\; f(\backslash mu\; +\; x)$

und

$F(\backslash mu\; -x)\; =\; 1\; -\; F(\backslash mu\; +\; x)$.

Maximalwert und Wendepunkte der Dichtefunktion

Mit Hilfe der ersten und zweiten Ableitung lassen sich der Maximalwert und die Wendepunkte bestimmen. Die erste Ableitung ist

$f\text{'}(x)\; =\; -\backslash frac\{x-\backslash mu\}\{\backslash sigma^2\}\; f(x).$

Das Maximum der Dichtefunktion der Normalverteilung liegt demnach bei $x\_\backslash mathrm\{max\}\; =\; \backslash mu$ und beträgt dort $f\_\backslash mathrm\{max\}\; =\; \backslash frac\; 1\{\backslash sigma\backslash sqrt\{2\backslash pi\}\}.$

Die zweite Ableitung lautet

$f\text{'}\text{'}(x)\; =\; \backslash frac\; 1\{\backslash sigma^2\}\backslash left(\backslash frac\; 1\{\backslash sigma^2\}(x-\backslash mu)^2-1\backslash right)\; f(x).$

Somit liegen die Wendepunkte der Dichtefunktion bei $x=\backslash mu\backslash pm\backslash sigma$.

Normierung

Wichtig ist, dass die gesamte Fläche unter der Kurve gleich 1 ist, also der Wahrscheinlichkeit eines fast sicheren Ereignisses entspricht. Somit folgt, dass, wenn zwei gaußsche Glockenkurven dasselbe $\backslash mu$, aber unterschiedliche $\backslash sigma$-Werte haben, jene Kurve mit dem größeren $\backslash sigma$ breiter und niedriger ist (da ja beide zugehörigen Flächen jeweils den Wert von 1 haben und nur die Standardabweichung (oder „Streuung“) höher ist). Zwei Glockenkurven mit dem gleichen $\backslash sigma$, aber unterschiedlichen $\backslash mu$ haben gleich aussehende Graphen, die jedoch auf der $x$-Achse um die Differenz der $\backslash mu$-Werte zueinander verschoben sind.

Die Normierung lässt sich wie folgt nachweisen:

Wir definieren

$A\; :=\; \backslash lim\_\{x\; \backslash to\; \backslash infty\}\; F(x)\; =\; \backslash frac\; 1\{\backslash sigma\; \backslash sqrt\{2\backslash pi\}\}\; \backslash int\_\{-\backslash infty\}^\backslash infty\; \backslash exp\backslash left(-\backslash frac\; 12\; \backslash left(\backslash frac\{t-\backslash mu\}\backslash sigma\backslash right)^2\backslash right)\; \backslash mathrm\; dt.$

Ist die Verteilung $F$ normiert, so muss $A\; =\; 1$ gelten.

Um das Integral zu vereinfachen, verwenden wir die lineare Substitution $\backslash tau\; =\; \backslash frac\{t-\backslash mu\}\backslash sigma$ und erhalten dann wegen $\backslash tau\text{'}(t)\; =\; \backslash frac\; 1\backslash sigma$

$\backslash begin\{align\}$

A &= \frac 1{\sqrt{2\pi}} \int_{-\infty}^\infty \exp\left(-\frac 12 \tau(t)^2\right) \tau'(t) \mathrm dt\\
  &= \frac 1{\sqrt{2\pi}} \int_{-\infty}^\infty \exp\left(-\frac 12 \tau^2\right) \mathrm d\tau.

\end{align} Wie erwartet ist $A$ unabhängig von den Parametern $\backslash sigma$ und $\backslash mu$. Für die Normiertheit dieses Integrals siehe den Artikel Fehlerintegral.

Berechnung

Da sich das Integral der Wahrscheinlichkeitsdichtefunktion nicht auf eine elementare Stammfunktion zurückführen lässt, wurde für die Berechnung früher meist auf Tabellen zurückgegriffen (siehe dazu die Tabelle der Verteilungsfunktion der Standardnormalverteilung); heutzutage sind entsprechende Zellenfunktionen in üblichen Tabellenkalkulationsprogrammen stets verfügbar. Tabellen wie Zellenfunktionen gelten aber in der Regel nicht für beliebige $\backslash mu$- und $\backslash sigma$-Werte, sondern nur für die Standardnormalverteilung, bei der $\backslash mu=0$ und $\backslash sigma=1$ ist (man spricht auch von einer 0-1-Normalverteilung oder normierten Normalverteilung).

Die Tabellen sind also für die Wahrscheinlichkeitsfunktion $\backslash Phi$ (auch Gauß'sches Fehlerintegral genannt) mit

$\backslash Phi(z)=\backslash frac\; 1\{\backslash sqrt\{2\backslash pi\}\}\; \backslash cdot\; \backslash int\_\{-\backslash infty\}^z\; e^\{-\backslash frac\; 12\; t^2\}\; \backslash mathrm\{d\}t$

ausgelegt. Analog dazu wird die zugehörige normierte Wahrscheinlichkeitsdichtefunktion $f$ mit $\backslash phi$ bezeichnet.

Ist nun eine beliebige $\backslash mu$-$\backslash sigma$-Verteilung gegeben, so muss diese nur in eine Standardnormalverteilung transformiert werden.

Erwartungswert

Die Normalverteilung besitzt den Erwartungswert

$\backslash operatorname\{E\}(X)\; =\backslash frac\{1\}\{\backslash sigma\backslash sqrt\{2\backslash pi\}\}\backslash int\backslash limits\_\{-\backslash infty\}^\{+\backslash infty\}x$

                              \exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)\operatorname{d}x
                            = \mu.

Varianz und Standardabweichung

Die Varianz ergibt sich analog zu

$\backslash operatorname\{Var\}(X)\; =\; \backslash frac\{1\}\{\backslash sigma\backslash sqrt\{2\backslash pi\}\}\backslash int\backslash limits\_\{-\backslash infty\}^\{+\backslash infty\}(x-\backslash mu)^2$

                              \exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)\operatorname{d}x
                            = \sigma^2.

Für die Standardabweichung ergibt sich

$\backslash sqrt\{\backslash operatorname\{Var\}(X)\}\; =\; \backslash sigma$.

Variationskoeffizient

Aus Erwartungswert und Standardabweichung erhält man unmittelbar den Variationskoeffizienten

$\backslash operatorname\{VarK\}(X)\; =\; \backslash frac\{\backslash sigma\}\{\backslash mu\}$.

Schiefe

Die Schiefe besitzt unabhängig von den Parametern $\backslash mu$ und $\backslash sigma$ immer den Wert 0.

Charakteristische Funktion

Die charakteristische Funktion für $X\; \backslash sim\; \backslash mathcal\; N(\backslash mu,\; \backslash sigma^2)$ hat die Form

$\backslash varphi\_X(s)\; =\; \backslash operatorname\; E(\backslash mathrm\; e^\{is(\backslash sigma\; Z\; +\; \backslash mu)\})$

                     = \operatorname E(\mathrm e^{is\sigma Z}\mathrm e^{is\mu})
                     = \mathrm e^{is\mu}\operatorname E(\mathrm e^{is\sigma Z})
                     = \mathrm e^{is\mu}\varphi_Z(\sigma s)
                     = \exp\left(is\mu-\frac{\sigma^2 s^2}2\right)

mit $Z\; \backslash sim\; \backslash mathcal\; N(0,\; 1)$.

Für die Standardnormalverteilung $X\; \backslash sim\; \backslash mathcal\; N(0,1)$ vereinfacht sich die charakteristische Funktion zu

$\backslash begin\{align\}$

\phi_X(s) &= \frac 1{\sqrt{2\pi}}\int\limits_{-\infty}^\infty \mathrm e^{isx} \mathrm e^{-\frac{x^2}2} \operatorname dx\\

         &= \frac 1{\sqrt{2\pi}}\int\limits_{-\infty}^\infty \mathrm e^{-\frac{(x-is)^2}2} \mathrm e^{-\frac{s^2}2} \operatorname dx\\
         &= \frac 1{\sqrt{2\pi}}\mathrm e^{-\frac{s^2}2} \int\limits_{-\infty}^\infty \mathrm e^{-\frac{x^2}2} \operatorname dx\\
         &= \mathrm e^{-\frac{s^2}2}.

\end{align}

Momenterzeugende Funktion

Die momenterzeugende Funktion der Normalverteilung ist

$m\_X(s)\; =\; \backslash exp\backslash left(\backslash mu\; s+\backslash frac\{\backslash sigma^2\; s^2\}2\backslash right)$.

Invarianz gegenüber Faltung

Die Normalverteilung ist invariant gegenüber der Faltung, d. h. die Faltung einer Gaußkurve der Halbwertsbreite $\backslash Gamma\_a$ mit einer Gaußkurve der Halbwertsbreite $\backslash Gamma\_b$ ergibt wieder eine Gaußkurve mit der Halbwertsbreite $\backslash Gamma\_c\; =\; \backslash sqrt\{\backslash Gamma\_a^2\; +\; \backslash Gamma\_b^2\}$.

Anders gesprochen, die Summe unabhängiger normalverteilter Zufallsgrößen ist wieder normalverteilt. Das lässt sich sehr einfach dadurch beweisen, dass die charakteristische Funktion der Summe das Produkt der charakteristischen Funktionen der Summanden ist.

Speziell ist das arithmetische Mittel $n$ unabhängiger und normalverteilter Zufallsgrößen $X\_i\; \backslash sim\; \backslash mathcal\{N\}(\backslash mu\_i,\; \backslash sigma\_i^2)$ wieder eine normalverteilte Zufallsgröße mit $Z\; \backslash sim\; \backslash mathcal\{N\}(\backslash frac\{1\}\{n\}\; \backslash sum\_\{i=1\}^n\; \backslash mu\_i,\; \backslash frac\{1\}\{n^2\}\; \backslash sum\_\{i=1\}^n\; \backslash sigma\_i^2)$.

Nach dem Satz von Cramér gilt sogar die Umkehrung: Ist eine normalverteilte Zufallsgröße die Summe von unabhängigen Zufallsgrößen, dann sind die Summanden ebenfalls normalverteilt.

Die Dichtefunktion der Normalverteilung ist ein Fixpunkt der Fourier-Transformationen, d.h. die Fourier-Transformierte einer Gaußkurve ist wieder eine Gaußkurve. Das Produkt der Standardabweichung dieser korrespondierenden Gaußkurven ist konstant; es gilt die heisenbergsche Unschärferelation.

Entropie

Die Normalverteilung hat die Entropie: $\backslash log\backslash left(\backslash sigma\backslash sqrt\{2\backslash ,\backslash pi\backslash ,e\}\backslash right)\backslash !$.

Da sie für eine gegebene Varianz die größte Entropie unter allen Verteilungen hat, wird sie in der Maximum-Entropie-Methode oft als a-priori-Wahrscheinlichkeit verwendet.

Mehrdimensionale Verallgemeinerung

Das Wahrscheinlichkeitsmaß $\backslash mathcal\{N\}^n(0,1)$ auf $\backslash mathbb\{R\}^n$, das durch die Dichtefunktion

$f:\; \backslash R^n\; \backslash to\; \backslash R,\backslash \; (x\_1,\backslash ldots,x\_n)\backslash \; \backslash longmapsto\; \backslash$

{1 \over \sqrt{(2\pi)^n}} \cdot \exp\left( -{1 \over 2} \sum_{i=1}^n x_i^2 \right)

definiert wird, heißt Standardnormalverteilung der Dimension $n$. Ein Zufallsvektor $X\; =\; (X\_1,\backslash ldots,X\_n)$ ist genau dann standardnormalverteilt auf $\backslash R^n$ , wenn seine Komponenten $X\_1,\backslash ldots,X\_n$ standardnormalverteilt und stochastisch unabhängig sind.

Ein Wahrscheinlichkeitsmaß $P$ auf $\backslash R^n$ heißt $n$-dimensionale Normalverteilung, wenn eine Matrix $A\; \backslash in\; \backslash R^\{n\; \backslash times\; n\}$ und ein Vektor $b\; \backslash in\; \backslash R^n$ existieren, so dass mit der affinen Abbildung $u:\; \backslash R^n\; \backslash to\; \backslash R^n,\backslash \; x\; \backslash mapsto\; Ax+b$ gilt: $u^\{-1\}(P)\; =\; \backslash mathcal\{N\}^n(0,1)$.

Die multivariate Normalverteilung ist die einzige rotationssymmetrische multivariate Verteilung, deren Komponenten stochastisch unabhängig sind.

Die Dichtefunktion der zweidimensionalen Normalverteilung mit einem Korrelationskoeffizienten $\backslash varrho$ ist

$f(x\_1,x\_2)=\backslash frac\{1\}\{2\backslash pi\backslash sigma\_1\backslash sigma\_2\backslash sqrt\{1-\backslash varrho^2\}\}\; \backslash ,\; \backslash cdot\; \backslash ,\; \backslash exp\; \backslash left[\; \backslash left(-\backslash frac\{1\}\{2(1-\backslash varrho^2)\}\backslash right)\; \backslash cdot\; \backslash left(\; \backslash left(\backslash frac\{x\_1-\backslash mu\_1\}\{\backslash sigma\_1\}\backslash right)^2\; -2\backslash varrho\backslash ,\backslash frac\{x\_1-\backslash mu\_1\}\{\backslash sigma\_1\}\backslash ,\backslash frac\{x\_2-\backslash mu\_2\}\{\backslash sigma\_2\}+\; \backslash left(\backslash frac\{x\_2-\backslash mu\_2\}\{\backslash sigma\_2\}\backslash right)^2\backslash right)\backslash right]$

und schließlich im $n$-dimensionalen Fall

$$

f_X(x_1, \ldots, x_n) = \frac

{1}
{(2\pi)^{n/2} \left|\Sigma\right|^{1/2}} \cdot

\exp \left(

-\frac 12
(x-\mu)^\top \Sigma^{-1} (x-\mu)

\right)

mit $|\backslash Sigma|$ als der Determinante der Kovarianzmatrix $\backslash Sigma$.

Beziehungen zu anderen Verteilungsfunktionen

Transformation zur Standardnormalverteilung (z-Transformation)

Ist eine Normalverteilung mit beliebigen $\backslash mu$ und $\backslash sigma$ gegeben, so kann diese durch eine Transformation auf eine $\backslash mathcal\{N\}(0,1)$-Normalverteilung zurückgeführt werden. Dazu wird die Verteilungsfunktion $F(x)$ der allgemeinen Normalverteilung mit $u=\backslash frac\{t-\backslash mu\}\{\backslash sigma\}$ substituiert und die Integralgrenzen werden angepasst:

Nebenrechnung für die Substitution

$\backslash begin\{align\}$ u &= \frac{t-\mu}\sigma\\ \frac{\mathrm du}{\mathrm dt}&= \frac{\mathrm d}{\mathrm dt} \left(\frac{t-\mu}\sigma\right)\\ &= \frac 1\sigma \end{align} $\backslash Rightarrow\; \backslash mathrm\; dt=\backslash mathrm\; du\; \backslash cdot\; \backslash sigma$

$\backslash begin\{align\}$

F(x) &= \frac 1{\sigma \cdot \sqrt{2\pi}} \cdot \int_{-\infty}^x \mathrm e^{-\frac 12 \cdot \left( \frac{t-\mu}{\sigma}\right)^2} \mathrm dt\\

    &= \frac 1{\sigma \cdot \sqrt{2\pi}} \cdot \int_{\frac{-\infty-\mu}\sigma}^{\frac{x-\mu}\sigma} \mathrm e^{-\frac 12 u^2} \mathrm du \cdot \sigma\\
    &= \frac 1{\sqrt{2\pi}} \cdot \int_{-\infty}^{\frac{x-\mu}\sigma} \mathrm e^{-\frac 12 u^2} \mathrm du\\
    &= \Phi \left(\frac{x-\mu}{\sigma}\right)

\end{align}

Wird nun $z:=\; \backslash frac\{x-\backslash mu\}\{\backslash sigma\}$ definiert und $u$ durch $t$ ersetzt, so erhält man die Verteilungsfunktion der Standardnormalverteilung:

$\backslash Phi(z)=\backslash frac\; 1\{\backslash sqrt\{2\backslash pi\}\}\; \backslash cdot\; \backslash int\_\{-\backslash infty\}^z\; \backslash mathrm\; e^\{-\backslash frac\; 12\; t^2\}\; \backslash mathrm\{d\}t$

Geometrisch betrachtet entspricht die durchgeführte Substition einer flächentreuen Transformation der Glockenkurve von $\backslash mathcal\{N\}(\backslash mu;\backslash sigma^2)$ zur Glockenkurve von $\backslash mathcal\{N\}(0;1)$.

Approximation der Binomialverteilung durch die Normalverteilung

Die Normalverteilung kann zur Approximation der Binomialverteilung verwendet werden, wenn der Stichprobenumfang $n$ hinreichend groß und in der Grundgesamtheit der Anteil $p$ der gesuchten Eigenschaft nicht zu klein ist. Als Faustregeln dafür gelten: $np(1-p)\backslash geq\; 9$, was für die Standardabweichung bedeutet: $\backslash sigma\backslash geq\; 3$

Falls diese Bedingung nicht erfüllt sein sollte, ist die Näherung immer noch vertretbar genau, wenn gilt: $np\backslash geq\; 4$ und zugleich $n(1-p)\backslash geq\; 4$.

Allgemeines

Um 1900 postulierte Max Planck das Energiequantum $h\backslash nu$, um die Energieverteilung der Schwarzkörperstrahlung erklären zu können und es wurde daraufhin in vielen anderen Erscheinungen der Natur wiederentdeckt. Der bis dahin geltende Satz 'natura non facit saltus' - die Natur macht keine Sprünge - wurde wirksam widerlegt und zeigt auch, dass viele Phänomene, die oberflächlich für stetig gehalten werden, bei sehr genauer Betrachtung doch nichtstetig bzw. sprunghaft sind.

Die Normalverteilung liefert für diese Vorgänge eine sehr gute Approximation, denn viele endliche Zufallsvariablen sind näherungsweise normalverteilt. Eine in der Natur oft anzutreffende Wahrscheinlichkeitsverteilung ist die Binomialverteilung. Auch sie lässt sich in sehr guter Näherung mit der Normalverteilung beschreiben. Mathematisch wird dies durch den zentralen Grenzwertsatz belegt. Er besagt in diesem Fall, dass sich die nichtstetige Wahrscheinlichkeitsverteilung, die sich aus $n$ voneinander unabhängigen Zufallsgrößen ergibt, mit steigenden $n$ immer besser an die Normalverteilung angleicht. $n$ ist dabei die Anzahl der voneinander unabhängigen Zufallsversuche, von denen jeder einzelne eine Zufallsgröße ergibt.

Ein Beispiel für diese Angleichung der Häufigkeitsverteilung an die Normalverteilung ist folgender Würfelversuch: Gegeben seien zwei normale Würfel, wobei jeder eine Augenzahl von eins bis sechs aufweist. Sie sollen nun $n$ mal geworfen werden, d. h. es werden $n$ voneinander unabhängige Zufallsversuche durchgeführt. Bei jedem Versuch berechnet sich das Ergebnis aus der Gesamtanzahl der geworfenen Augen. Insgesamt werden einige hundert Würfe gemacht, wobei die Anzahl der gleichen Ergebnisse gezählt wird. Diese Häufigkeit kann anschließend in ein Diagramm eingetragen werden. Die resultierende Verteilung ist bei sehr wenigen Würfen rein zufällig, bei sehr hohen $n$ wird sie hingegen der Gauß'schen Glockenkurve (mit dem Erwartungswert von 7) immer ähnlicher, trotzdem ist sie immer noch diskret verteilt (d. h. der Graph besteht aus kleinen Stufen).

Approximation

Ist eine Binomialverteilung (Bernoulli-Versuch) mit $n$ voneinander unabhängigen Stufen (bzw. Zufallsversuchen) mit einer Erfolgswahrscheinlichkeit $p$ gegeben, so lässt sich die Wahrscheinlichkeit für $k$ Erfolge allgemein durch $P(X=k)=\; \{n\; \backslash choose\; k\}\; \backslash cdot\; p^k\backslash cdot\; (1-p)^\{n-k\}$ für $k=0,1,\backslash dots,n$ berechnen.

Für sehr große Werte von $n$ kann diese Binomialverteilung durch eine Normalverteilung approximiert werden (zentraler Grenzwertsatz). Dabei ist

• der Erwartungswert $\backslash mu=n\backslash cdot\; p$
• und die Standardabweichung $\backslash sigma=\backslash sqrt\{n\; \backslash cdot\; p\; \backslash cdot\; (1-p)\; \}$

Ist nun $\backslash sigma\; >\; 3$, dann ist folgende Näherung brauchbar:

$P(x\_1\; \backslash leq\; X\; \backslash leq\; x\_2)\; =\; \backslash underbrace\{\backslash sum\_\{k=x\_1\}^\{x\_2\}\; \{n\; \backslash choose\; k\}\; \backslash cdot\; p^k\backslash cdot\; (1-p)^\{n-k\}\}\_\{\backslash mathrm\{BV\}\}\; \backslash approx\; \backslash underbrace\{\backslash Phi\backslash left(\backslash frac\{x\_2+0,5-\backslash mu\}\{\backslash sigma\}\backslash right)\; -\backslash Phi\backslash left(\backslash frac\{x\_1-0,5-\backslash mu\}\{\backslash sigma\}\backslash right)\}\_\{\backslash mathrm\{NV\}\}\backslash ,$

Bei der Normalverteilung wird die untere Grenze um 0,5 verkleinert und die obere Grenze um 0,5 vergrößert, um eine bessere Approximation bei einer geringen Standardabweichung $\backslash sigma$ gewährleisten zu können. Dies nennt man auch Stetigkeitskorrektur. Nur wenn $\backslash sigma$ einen sehr hohen Wert besitzt, kann auf sie verzichtet werden.

Da die Binomialverteilung diskret ist, muss auf einige Punkte geachtet werden:

• oder $\backslash leq$ (und auch größer und größer gleich) müssen beachtet werden (was ja bei der Normalverteilung nicht der Fall ist). Deshalb muss bei

damit mit der Normalverteilung weitergerechnet werden kann.

z. B.

• Außerdem ist

$P(X\_\{BV\}\; \backslash leq\; x)\; =\; P(0\; \backslash leq\; X\_\{BV\}\; \backslash leq\; x)$

$P(X\_\{BV\}\; \backslash geq\; x)\; =\; P(x\; \backslash leq\; X\_\{BV\}\; \backslash leq\; n)$

$P(X\_\{BV\}\; =\; x)\; =\; P(x\; \backslash leq\; X\_\{BV\}\; \backslash leq\; x)$ (unbedingt mit Stetigkeitskorrektur)

und lässt sich somit durch die oben angegebene Formel berechnen.

Der große Vorteil der Approximation liegt darin, dass sehr viele Stufen einer Binomialverteilung sehr schnell und einfach bestimmt werden können.

Beziehung zur Cauchy-Verteilung

Der Quotient von zwei unabhängigen $\backslash mathcal\{N\}(0,1)$ standardnormalverteilten Zufallsvariablen ist Cauchy-verteilt.

Beziehung zur Chi-Quadrat-Verteilung

• Die Summe $X\_n=Z\_1^2\; +\; \backslash ldots\; +\; Z\_n^2$ von $n$ unabhängigen quadrierten standardnormalverteilten Zufallsvariablen $Z\_i\backslash sim\; \backslash mathcal\{N\}(0,1)\; (i=1,\backslash ldots,n)$ genügt einer Chi-Quadrat-Verteilung $X\_n\backslash sim\backslash chi^2\_n$ mit $n$ Freiheitsgraden.

• Die Summe $X\_\{n-1\}=\backslash frac\{1\}\{\backslash sigma^\{2\}\}\backslash sum\_\{i=1\}^\{n\}\; (Z\_\{i\}-\backslash overline\; Z)^\{2\}$ mit $\backslash overline\; Z:=\backslash frac\{1\}\{n\}\backslash sum\_\{i=1\}^\{n\}\; Z\_i$ von $n$ unabhängigen quadrierten standardnormalverteilten Zufallsvariablen $Z\_i\backslash sim\; \backslash mathcal\{N\}(0,1)\; (i=1,\backslash ldots,n)$ genügt einer Chi-Quadrat-Verteilung $X\_\{n-1\}\backslash sim\backslash chi^2\_\{n-1\}$ mit $n-1$ Freiheitsgraden.

Die Chi-Quadrat-Verteilung wird zur Konfidenzschätzung für die Varianz einer normalverteilten Grundgesamtheit verwendet.

Beziehung zur logarithmischen Normalverteilung

Ist die Zufallsvariable $X$ normalverteilt mit $\backslash mathcal\{N\}(\backslash mu,\backslash sigma^\{2\})$, dann ist die Zufallsvariable $Y=e^\{X\}$ logarithmisch-normalverteilt mit $\backslash mathcal\{LN\}(\backslash mu,\backslash sigma^\{2\})$.

Die Entstehung einer logarithmischen Normalverteilung ist auf multiplikatives, die einer Normalverteilung auf additives Zusammenwirken vieler Zufallsgrößen zurückführen.

Beziehung zur F-Verteilung

Wenn die identischen normalverteilten Zufallsvariablen $X\_1^\{(1)\},\; X\_2^\{(1)\},\; \backslash dots\; ,\; X\_n^\{(1)\}$ und $X\_1^\{(2)\},\; X\_2^\{(2)\},\; \backslash dots\; ,\; X\_n^\{(2)\}$ die Parameter

$E(X\_\{i\}^\{(1)\})=\backslash mu\_\{1\},\; \backslash sqrt\{Var(X\_\{i\}^\{(1)\})\}=\backslash sigma\_\{1\}$

$E(X\_\{i\}^\{(2)\})=\backslash mu\_\{2\},\; \backslash sqrt\{Var(X\_\{i\}^\{(2)\})\}=\backslash sigma\_\{2\}$

mit $\backslash sigma\_\{1\}=\backslash sigma\_\{2\}=\backslash sigma$ besitzen, dann unterliegt die Zufallsvariable

$Y\_\{n\_\{1\}-1,n\_\{2\}-1\}:=\backslash frac\{(n\_\{2\}-1)\backslash sum\backslash limits\_\{i=1\}^\{n\_\{1\}\}(X\_\{i\}^\{(1)\}-\backslash bar^\{(1)\})^\{2\}\}$

                             {(n_{1}-1)\sum\limits_{j=1}^{n_{2}}(X_{i}^{(2)}-\bar^{(2)})^{2}}

einer F-Verteilung mit $((n\_\{1\}-1,n\_\{2\}-1))$ Freiheitsgraden. Dabei sind

$\backslash bar\{X\}^\{(1)\}=\backslash frac\{1\}\{n\_\{1\}\}\backslash sum\_\{i=1\}^\{n\_\{1\}\}X\_\{i\}^\{(1)\}\backslash quad$

\bar{X}^{(2)}=\frac{1}{n_{2}}\sum_{i=1}^{n_{2}}X_{i}^{(2)}.

Beziehung zur Students-t-Verteilung

Wenn die unabhängigen Zufallsvariablen $X\_1,\; X\_2,\; \backslash dots\; ,\; X\_n$ identisch normalverteilt sind mit den Parametern $\backslash mu$ und $\backslash sigma$, dann unterliegt die stetige Zufallsgröße

$Y\_\{n-1\}=\backslash frac\{\backslash bar\{X\}-\backslash mu\}\{\backslash displaystyle\backslash sqrt\{\backslash frac\{\backslash sum\_\{i=1\}^\{n\}(X\_\{i\}-\backslash bar\{X\})^\{2\}\}\{n-1\}\}\}\backslash sqrt\{n\}$

einer Students t-Verteilung mit $(n-1)$ Freiheitsgraden.

Die Students t-Verteilung wird zur Konfidenzschätzung für den Erwartungswert einer normalverteilten Zufallsvariable bei unbekannter Varianz verwendet.

Rechnen mit der Standardnormalverteilung

Bei Aufgabestellungen, bei denen die Wahrscheinlichkeit für normalverteilte Zufallsvariablen durch die Standardnormalverteilung ermittelt werden soll, ist es nicht nötig, die oben angegebene Transformation jedesmal durchzurechnen. Stattdessen wird einfach das Ergebnis der Transformation verwendet, um die Grenzen $x\_1$, $x\_2$ und die Zufallsvariable $X$ auf die Grenzen $z\_1$, $z\_2$ und die Zufallsvariable $Z$ anzugleichen. Somit kann eine $\backslash mathcal\{N\}(\backslash mu;\backslash sigma^2)$ Verteilung durch

$z=\backslash frac\; \{x-\backslash mu\}\{\backslash sigma\}$   beziehungsweise   $Z=\backslash frac\; \{X-\backslash mu\}\{\backslash sigma\}$

zu $\backslash mathcal\{N\}(0;1)$ transformiert werden.

Die Wahrscheinlichkeit für ein Ereignis, welches z. B. innerhalb der Werte $x\_1$ und $x\_2$ (für den Erwartungswert $\backslash mu$ und die Standardabweichung $\backslash sigma$) liegt, ist durch folgende Umrechnung gleich der Wahrscheinlichkeit der Standardnormalverteilung mit den neuen Grenzen $z\_1$ und $z\_2$:

$P(\; x\_1\; \backslash leq\; X\; \backslash leq\; x\_2\; )\; =\; P\backslash left(\; \backslash frac\; \{x\_1-\backslash mu\}\{\backslash sigma\}\; \backslash leq\; Z=\; \backslash frac\; \{X-\backslash mu\}\{\backslash sigma\}\; \backslash leq\; \backslash frac\; \{x\_2-\backslash mu\}\{\backslash sigma\}\backslash right)=\; P(z\_1\; \backslash leq\; Z\; \backslash leq\; z\_2)$

$P$ steht für die englische Bezeichnung „probability“ oder das französische Wort „probabilité“ der Wahrscheinlichkeit.

Grundlegende Fragestellungen

Allgemein gibt die Verteilungsfunktion die Fläche unter der Glockenkurve bis zum Wert $x$ an, d. h. es wird das bestimmte Integral von $-\backslash infty$ bis $x$ berechnet.

Dies entspricht in Aufgabenstellungen einer gesuchten Wahrscheinlichkeit, bei der die Zufallsvariable $X$ kleiner oder kleiner gleich einer bestimmten Zahl $x$ ist. Durch die Verwendung der reellen Zahlen und der Stetigkeit der Normalverteilung macht es keinen Unterschied, ob nun oder $\backslash leq$ verlangt ist,

weil $P(X\; =\; 3)\; =\; \backslash int\_3^3\; f(x)dx\; =\; 0$ und somit .

Dasselbe gilt für größer und größer gleich.

Dadurch, dass $X$ nur kleiner oder größer einer Grenze (oder innerhalb oder außerhalb zweier Grenzen) liegen kann, ergeben sich für Aufgaben bei normalverteilten Wahrscheinlichkeitsberechnungen folgende zwei grundlegende Fragestellungen:

• Wie hoch ist die Wahrscheinlichkeit, dass bei einem Zufallsversuch die normalverteilte Zufallsvariable $Z$ höchstens den Wert $z$ annimmt?

  $P(Z\; \backslash leq\; z)=\backslash Phi(z)$

In der Schulmathematik wird für diese Aussage auch die Bezeichnung Linker Spitz verwendet, da die Fläche unter der Gaußkurve von links bis zur Grenze verläuft. Für $z$ sind auch negative Werte erlaubt, trotzdem haben viele Tabellen der Standardnormalverteilung nur positive Einträge. Durch die Symmetrie der Kurve und der Negativitätsregel des linken Spitz stellt dies aber keine Einschränkung dar:

(Anm.: Das Minus von $z$ wird im folgenden explizit

ausgedrückt, d.h. $-z\; =\; ->z|$, wenn )

$\backslash Phi(-z)=1-\backslash Phi(z)$

• Wie hoch ist die Wahrscheinlichkeit, dass bei einem Zufallsversuch die normalverteilte Zufallsvariable $Z$ mindestens den Wert $z$ annimmt?

$P(Z\; \backslash geq\; z)\; =\; 1\; -\; \backslash Phi(z)$

Analog wird hier oft die Bezeichnung Rechter Spitz verwendet. Ebenso gibt es eine Negativitätsregel:

$P(Z\; \backslash geq\; -z)=\; 1-\; \backslash Phi(-z)=\; 1-(1-\backslash Phi(z))\; =\; \backslash Phi(z)$

(Da jede Zufallsvariable $X$ der allgemeinen Normalverteilung sich in die Zufallsgröße $Z$ der Standardnormalverteilung umwandeln lässt, gelten die Fragestellungen für beide Größen gleichbedeutend.)

Streubereich und Antistreubereich

Der Streubereich gibt die Wahrscheinlichkeit wieder, dass die normalverteilte Zufallsvariable $Z$ Werte zwischen $z\_1$ und $z\_2$ annimmt:

$P(z\_1\; \backslash le\; Z\; \backslash le\; z\_2)\; =\; \backslash Phi(z\_2)\; -\; \backslash Phi(z\_1)$

Beim Sonderfall des symmetrischen Streubereiches ($z\_1=-z\_2$, mit $z\_2>0$) gilt

$\backslash begin\{align\}$

 P(-z\le Z\le z ) &= P (|Z|\le z)\\
                  &= \Phi(z)-\Phi(-z)\\
                  &= \Phi(z)-(1-\Phi(z))\\
                  &= 2\Phi(z)-1.

\end{align}

Hingegen gibt der Antistreubereich die Höhe der Wahrscheinlichkeit an, dass die normalverteilte Zufallsvariable $Z$ Werte außerhalb des Bereichs zwischen $z\_1$ und $z\_2$ annimmt:

$P(Z\backslash le\; z\_1\backslash text\{\; oder\; \}Z\backslash ge\; z\_2)\; =\; \backslash Phi(z\_1)\; +\; (1-\backslash Phi(z\_2)).$

Somit folgt bei einem symmetrischen Antistreubereich

$\backslash begin\{align\}$

 P(Z\le -z\text{ oder }Z\ge z) &= P(|Z|\ge z)\\
                               &=\Phi(-z)+1-\Phi(z)\\
                               &= 1-\Phi(z)+1-\Phi(z)\\
                               &=2-2 \Phi(z)

\end{align}

Streubereiche am Beispiel der Qualitätssicherung

Besondere Bedeutung haben beide Streubereiche z. B. bei der Qualitätssicherung von technischen oder wirtschaftlichen Produktionsprozessen. Hier gibt es einzuhaltende Toleranzgrenzen $x\_1$ und $x\_2$ , wobei es meist einen größten noch akzeptablen Abstand $\backslash epsilon$ vom Erwartungswert $\backslash mu$ (= dem optimalen Sollwert) gibt. $\backslash sigma$ kann hingegen empirisch aus dem Produktionsprozess gewonnen werden.

Wurde $[x\_1;x\_2]=[\backslash mu-\backslash epsilon;\backslash mu+\backslash epsilon]$ als einzuhaltendes Toleranzintervall angegeben, so liegt (je nach Fragestellung) ein symmetrischer Streu- oder Antistreubereich vor.

Im Falle des Streubereiches gilt:

$P(x\_1\; \backslash leq\; X\; \backslash leq\; x\_2)\; =\; P(|X-\backslash mu|\backslash leq\backslash epsilon)=$

$=P(\backslash mu-\backslash epsilon\; \backslash leq\; X\; \backslash leq\; \backslash mu+\backslash epsilon)\; =\; P\backslash left(\backslash frac\{-\backslash epsilon\}\{\backslash sigma\}\; \backslash leq\; Z\; \backslash leq\; \backslash frac\{\backslash epsilon\}\{\backslash sigma\}\backslash right)=$

$=\backslash Phi\backslash left(\backslash frac\{\backslash epsilon\}\{\backslash sigma\}\backslash right)-\backslash Phi\backslash left(\backslash frac\{-\backslash epsilon\}\{\backslash sigma\}\backslash right)=$

$=\; 2\; \backslash cdot\; \backslash Phi\backslash left(\backslash frac\{\backslash epsilon\}\{\backslash sigma\}\backslash right)-1\; =\backslash gamma$

Der Antistreubereich ergibt sich dann aus

$P(|X-\backslash mu|\backslash geq\; \backslash epsilon\; )=\; 1-\backslash gamma$

oder wenn kein Streubereich berechnet wurde durch

$P(|X-\backslash mu|\backslash geq\; \backslash epsilon\; )=2\backslash cdot\backslash left(1-\backslash Phi\backslash left(\backslash frac\{\backslash epsilon\}\; \{\backslash sigma\}\backslash right)\backslash right)=\backslash alpha$ .

Das Ergebnis $\backslash gamma$ ist also die Wahrscheinlichkeit für verkaufbare Produkte, während $\backslash alpha$ die Wahrscheinlichkeit für Ausschuss bedeutet, wobei beides von den Vorgaben von $\backslash mu$, $\backslash sigma$ und $\backslash epsilon$ abhängig ist.

Ist bekannt, dass die maximale Abweichung $\backslash epsilon$ symmetrisch um den Erwartungswert liegt, so sind auch Fragestellungen möglich, bei denen die Wahrscheinlichkeit vorgegeben und eine der anderen Größen zu berechnen ist.

Testen auf Normalverteilung

Um zu testen, ob vorliegende Daten normalverteilt sind, können unter Anderem der Kolmogorov-Smirnov-Test und der Shapiro-Wilk-Tests herangezogen werden. Mit Hilfe von Normal-Quantil-Plot (auch Quantil-Quantil-Plot oder Q-Q-Plot) ist eine einfache grafische Überprüfung auf Normalverteilung möglich.

Simulation normalverteilter Zufallsvariablen

Box-Muller-Methode

Nach der Box-Muller-Methode lässt sich eine standardnormalverteilte Zufallsvariable $X$ aus zwei gleichverteiltenenen Zufallsvariablen $u\_1,u\_2\; \backslash sim\; U(0,1)$, sogenannten Standardzufallszahl, simulieren:

$X=\backslash sqrt\{(-2\backslash ln\; u\_1)\}\backslash ;\backslash cos(2\backslash pi\; u\_2)$

Polar-Methode

Die Polar-Methode von Marsaglia ist auf einem Computer noch schneller, da sie nur einen Logarithmus benutzt:

1. Generiere zwei gleichverteilte Zufallsvariablen $u\_1,u\_2=U(0,1)$
2. Berechne $v=(2u\_1-1)^2+(2u\_2-1)^2$. Falls $v\; \backslash ge\; 1$ wiederhole 1.
3. $x=(2u\_1-1)(-2\backslash log\; v\; /v)^\{1/2\}$

Durch lineare Transformation lassen sich hieraus auch beliebige normalverteilte Zufallszahlen generieren: Ist die Zufallsvariable $X\; \backslash sim\; \backslash mathcal\{N\}(0,1)$-verteilt, so ist aX+b schließlich $\backslash mathcal\{N\}(b,a^2)$-verteilt.

Zwölferregel

Der zentrale Grenzwertsatz besagt, dass sich die Verteilung der Summe unabhängiger identisch verteilter Zufallszahlen einer Normalverteilung nähert.

Ein Spezialfall ist die Zwölferregel, die sich auf die Summe von 12 Zufallszahlen aus einer Gleichverteilung auf dem Intervall [0,1] beschränkt und bereits zu passablen Verteilungen führt.

Stark ins Gewicht fällt die Forderung der Unabhängigkeit der zwölf $X\_i$, die von normalen Pseudozufallszahlen (LKG) nicht garantiert wird. Im Gegenteil wird vom Spektraltest meist nur die Unabhängigkeit von maximal vier bis sieben der $X\_i$ garantiert. Für numerische Simulationen ist die Zwölferregel daher sehr bedenklich. Andere sogar leichter zu programmierende Verfahren sind daher vorzuziehen.

Verwerfungsmethode

Normalverteilungen lassen sich mit der Verwerfungsmethode (s. dort) simulieren.

Inversionsmethode

Selbstverständlich lässt sich die Normalverteilung auch mit der Inversionsmethode berechnen. Da das Fehlerintegral leider nicht explizit mit elementaren Funktionen integrierbar ist, muss man auf Reihenentwicklungen der inversen Funktion für einen Startwert ($a\_1\; ...\; a\_\{14\}$ weiter unten) und anschließende Korrektur mit dem Newtonverfahren zurückgreifen. Dazu werden erf(x) und erfc(x) benötigt, die ihrerseits mit Reihenentwicklungen und Kettenbruchentwicklungen berechnet werden können - insgesamt ein relativ hoher Aufwand. Die notwendigen Entwicklungen sind in der Literatur zu finden William B. Jones, W. J. Thron; Continued Fractions: Analytic Theory and Applications; Addison Wesley, 1980.

Entwicklung des inversen Fehlerintegrals (wegen des Pols nur als Startwert für das Newtonverfahren verwendbar):

$\backslash operatorname\{erf\}^\{-1\}\; \backslash left(\backslash frac\{\backslash sqrt\backslash pi\}2\; x\backslash right)\; =\; x\backslash Bigl(a\_1\; +\; x^2\; \backslash bigl(a\_2\; +\; x^2\; (\backslash dots)\backslash bigr)\backslash Bigr)$

mit den Koeffizienten

$\backslash begin\{align\}$

a_i &=  1,
 \frac 13,
 \frac 7{30},
 \frac {127}{630},
 \frac {4369}{22680},
 \frac {34807}{178200},
 \frac {20036983}{97297200},
 \frac {2280356863}{10216206000},
 \frac {49020204823}{198486288000},\\
& {65967241200001\over 237588086736000},
 {15773461423793767\over 49893498214560000},
 {655889589032992201\over 1803293578326240000},\\
& {94020690191035873697\over 222759794969712000000},
 {655782249799531714375489\over 1329207696584271504000000},\ldots

\end{align}

Simulation mehrdimensionaler normalverteilter Zufallsvektoren

Die Komponenten des Zufallsvektors $X^*$ werden durch standardnormalverteilte Zufallsvariable gefüllt (diese lassen sich mit einem der obigen Verfahren erzeugen). Dann ist der Zufallsvektor

$X\; =\; U\; X^*\; +\; \backslash mu$

eine Realisierung der Normalverteilung mit Erwartungswertvektor $\backslash mu$ und Kovarianzmatrix $\backslash Sigma=U*U^T$. $U$ wird dabei durch die Cholesky-Zerlegung berechnet.

Plausibilisierung:

Erwartungswert:

$E(X)\; =\; E(U\; X^*\; +\; \backslash mu)\; =\; \backslash underbrace\{E(UX^*)\}\_\{=0\}\; +\; E(\backslash mu)\; =\; \backslash mu$

Kovarianz:

$\backslash begin\{align\}$

 \operatorname{cov}(X) &= \frac 1n \sum_{i=1}^n (X_i-\mu) (X_i-\mu)^T\\
                       &= \frac 1n \sum_{i=1}^n U X_i^* X_i^{*T} U^T\\
                       &= U\underbrace{\left(\frac 1n \sum_{i=1}^n X_i^* X_i^{*T} \right)}_{=\operatorname{cov}(X^*)=I} U^T\\
                       &= U U^T\\
                       &= \Sigma

\end{align}

Anwendungen außerhalb der Wahrscheinlichkeitsrechnung

Die Normalverteilung lässt sich auch zur Beschreibung nicht direkt stochastischer Sachverhalte verwenden, etwa in der Physik für das Amplitudenprofil der Gaußstrahlen und andere Verteilungsprofile.

Zudem findet sie Verwendung in der Gabor-Transformation.

Siehe auch

• Additives weißes gaußsches Rauschen
• Wahrscheinlichkeitsnetz
• Statistik

Quellen

Weblinks

• http://www.madeasy.de/2/gauss.htm mit Programmcode in Visual Basic