Normalverteilung

• zufällige Beobachtungs- und Messfehler.
• zufällige Abweichungen vom Nennmaß bei der Fertigung von Werkstücken.
• Beschreibung der Brownschen Molekularbewegung.

Definition

$f(x) = \dfrac {1}{\sigma\sqrt{2\pi}}\exp\braceNT{-\dfrac {1}{2} \braceNT{\dfrac{x-\mu}{\sigma}}^2}$

$F(x) = \dfrac {1}{\sigma \sqrt{2\pi}} \int\limits_{-\infty}^x \exp\braceNT{-\dfrac {1}{2} \braceNT{\dfrac{t-\mu}{\sigma}}^2} \mathrm{d}t$.

$\varphi_{0;1}(x)=\dfrac {1}{\sqrt{2\pi}} \cdot e^{-\dfrac {1}{2} x^2}$

Eigenschaften

Symmetrie

$f(\mu -x) = f(\mu + x)$

$F(\mu -x) = 1 - F(\mu + x)$.

Maximalwert und Wendepunkte der Dichtefunktion

$\dfrac{\operatorname{d}f(x)}{\operatorname{d}x}= -\dfrac{x-\mu}{\sigma^2} f(x)$

$\dfrac{\operatorname{d}^2 f(x)}{\operatorname{d}x^2}= \dfrac 1{\sigma^2}\braceNT{\dfrac 1{\sigma^2}(x-\mu)^2-1} f(x)$

Normierung

$\Phi(z)=\dfrac 1{\sqrt{2\pi}} \cdot \int\limits_{-\infty}^z e^{-\dfrac 12 t^2} \mathrm{d}t$

Erwartungswert

$\operatorname{E}(X) =\dfrac{1}{\sigma\sqrt{2\pi}}\int\limits\limits_{-\infty}^{+\infty}x \exp\braceNT{-\dfrac{(x-\mu)^2}{2\sigma^2}}\operatorname{d}x = \mu$.

Varianz und Standardabweichung

$\operatorname{Var}(X) = \dfrac{1}{\sigma\sqrt{2\pi}}\int\limits\limits_{-\infty}^{+\infty}(x-\mu)^2 \exp\braceNT{-\dfrac{(x-\mu)^2}{2\sigma^2}}\operatorname{d}x = \sigma^2$.

$\sqrt{\operatorname{Var}(X)} = \sigma$.

Variationskoeffizient

$\operatorname{VarK}(X) = \dfrac{\sigma}{\mu}$.

Schiefe

Charakteristische Funktion

$\phi_{X}(s) = \operatorname{E}(e^{is(\sigma X + \mu)}) = \operatorname{E}(e^{is\sigma X}e^{is\mu})$$= e^{is\mu}\operatorname{E}(^{is\sigma X})$$= e^{is\mu}\varphi_{X}(\sigma s) = \exp\braceNT{is\mu-\dfrac{\sigma^2 s^2}2}$.

$\phi_{X}(s)$ $= \dfrac{1}{\sqrt{2\pi}}\int\limits\limits_{-\infty}^\infty e^{isx} e^{-\dfrac{x^2}2} \operatorname{d}x$ $= \dfrac{1}{\sqrt{2\pi}}\int\limits\limits_{-\infty}^\infty e^{-\dfrac{(x-is)^2}2} e^{-\dfrac{s^2}2} \operatorname{d}x$ $= \dfrac{1}{\sqrt{2\pi}}e^{-\dfrac{s^2}2} \int\limits\limits_{-\infty}^\infty e^{-\dfrac{-x^2}2} \operatorname{d}x$ $= e^{-\dfrac{s^2}2}$.

Momenterzeugende Funktion

$m_X(s) = \exp\braceNT{\mu s+\dfrac{\sigma^2 s^2}2}$.

Invarianz gegenüber Faltung

Entropie

$s^2 = \dfrac 1{n- 1} \sum\limits_{i=1}^n{(x_i-\bar{x})^2}$

Mehrdimensionale Verallgemeinerung

Dichte der zweidimensionalen Normalverteilung; die Standardabweichung der zweiten Koordinate Y ist 2, die Korrelation zwischen den Koordinaten 0.7

$f: \R^n \to \R,\ (x_1,\ldots,x_n)$$\mapsto \over{1 }{ \sqrt{(2\pi)^n}} \exp\bigg(-\over{1 }{ 2} \sum\limits_{i=1}^n x_i^2 \bigg)$

$f(x_1,x_2)=\dfrac{1}{2\pi\sigma_1\sigma_2\sqrt{1-\rho^2}} \,$$\cdot \, \exp \ntxbraceL{ \braceNT{-\dfrac{1}{2(1-\rho^2)}} \braceNT{ \braceNT{\dfrac{x_1-\mu_1}{\sigma_1}}^2 -2\rho \, \dfrac{x_1-\mu_1}{\sigma_1} \, \dfrac{x_2-\mu_2}{\sigma_2}+ \braceNT{\dfrac{x_2-\mu_2}{\sigma_2}}^2}}$

$f_X(x_1, \cdots, x_N) = \dfrac {1} {(2\pi)^{N/2} \ntxbraceI{\Sigma}^{1/2}} \exp \braceNT{ -\dfrac 12 (x-\mu)^\top \Sigma^{-1} (x-\mu) }$

Beziehungen zu anderen Verteilungsfunktionen

Transformation zur Standardnormalverteilung (z-Transformation)

$F(x) = \dfrac 1{\sigma \cdot \sqrt{2\pi}} \cdot \int\limits_{-\infty}^x e^{-\dfrac 12 \cdot \braceNT{ \dfrac{t-\mu}{\sigma}}^2} \mathrm{d}t$

$= \dfrac 1{\sigma \cdot \sqrt{2\pi}} \cdot \int\limits_{\dfrac{-\infty-\mu}{\sigma}}^{\dfrac{x-\mu}{\sigma}} e^{-\dfrac 12 u^2} \mathrm{d}u \cdot \sigma$

$= \dfrac 1{\sqrt{2\pi}} \cdot \int\limits_{-\infty}^{\dfrac{x-\mu}{\sigma}} e^{-\dfrac 12 u^2} \mathrm{d}u$

$=\Phi \braceNT{\dfrac{x-\mu}{\sigma}}$

$\Phi(z)=\dfrac 1{\sqrt{2\pi}} \cdot \int\limits_{-\infty}^z e^{-\dfrac 12 t^2} \mathrm{d}t$

Approximation der Binomialverteilung durch die Normalverteilung

Allgemeines

Approximation

• der Erwartungswert $\mu=n\cdot p$
• und die Standardabweichung $\sigma=\sqrt{n\cdot p \cdot q }$

$P(x_1 \leq X \leq x_2) = {\sum\limits_{k=x_1}^{x_2} \chooseNT{n }{ k} \cdot p^k\cdot q^{n-k}}_{\mathrm{BV}}$$\approx {\Phi\braceNT{\dfrac{x_2+0,5-\mu}{\sigma}} -\Phi\braceNT{\dfrac{x_1-0,5-\mu}{\sigma}}}_{\mathrm{NV}}$

• $<$ oder $\leq$ (und auch größer und größer gleich) müssen beachtet werden (was ja bei der Normalverteilung nicht der Fall ist). Deshalb muss bei $P(X_{BV}<x)$ die nächstkleinere natürliche Zahl gewählt werden, d. h.

$P(X_{BV}<x)=P(X_{BV}\leq x-1)$ bzw. $P(X_{BV}>x)=P(X_{BV}\geq x+1)$

damit mit der Normalverteilung weitergerechnet werden kann.

z. B. $P(X_{BV}<70)=P(X_{BV}\leq 69)$

• Außerdem ist

$P(X_{BV} \leq x) = P(0 \leq X_{BV} \leq x)$

$P(X_{BV} \geq x) = P(x \leq X_{BV} \leq n)$

$P(X_{BV} = x) = P(x \leq X_{BV} \leq x)$ (unbedingt mit Stetigkeitskorrektur)

und lässt sich somit durch die oben angegebene Formel berechnen.

Beziehung zur Cauchy-Verteilung

Beziehung zur Chi-Quadrat-Verteilung

• Die Summe $X_n=Z_1^2 + \ldots + Z_n^2$ von $n$ unabhängigen quadrierten standardnormalverteilten Zufallsvariablen $Z_i\sim \mathcal{N}(0,1) (i=1,\ldots,n)$ genügt einer Chi-Quadrat-Verteilung $X_n\sim\chi^2_n$ mit $n$ Freiheitsgraden.
• Die Summe $X_{n-1}=\dfrac{1}{\sigma^{2}}\sum\limits_{i=1}^{n} (Z_{i}-\overline Z)^{2}$ mit $\overline Z:=\dfrac{1}{n}\sum\limits_{i=1}^{n} Z_i$ von $n$ unabhängigen quadrierten standardnormalverteilten Zufallsvariablen $Z_i\sim \mathcal{N}(0,1) (i=1,\ldots,n)$ genügt einer Chi-Quadrat-Verteilung $X_{n-1}\sim\chi^2_{n-1}$ mit $n-1$ Freiheitsgraden.

Beziehung zur logarithmischen Normalverteilung

Beziehung zur F-Verteilung

$E(X_{i}^{(1)})=\mu_{1}, \sqrt{Var(X_{i}^{(1)})}=\sigma_{1}$

$E(X_{i}^{(2)})=\mu_{2}, \sqrt{Var(X_{i}^{(2)})}=\sigma_{2}$

$Y_{n_{1}-1,n_{2}-1}:=\dfrac{(n_{2}-1)\sum\limits\limits_{i=1}^{n_{1}}(X_{i}^{(1)}-\bar{{X}}^{(1)})^{2}} {(n_{1}-1)\sum\limits\limits_{j=1}^{n_{2}}(X_{i}^{(2)}-\bar{{X}}^{(2)})^{2}}$

$\bar{X}^{(1)}=\dfrac{1}{n_{1}}\sum\limits_{i=1}^{n_{1}}X_{i}^{(1)}\quad \bar{X}^{(2)}=\dfrac{1}{n_{2}}\sum\limits_{i=1}^{n_{2}}X_{i}^{(2)}$.

Beziehung zur Students-t-Verteilung

$Y_{n-1}=\dfrac{\bar{X}-\mu}{\sqrt{\dfrac{\sum\limits_{i=1}^{n}(X_{i}-\bar{X})^{2}}{n-1}}}\sqrt{n}$

Rechnen mit der Standardnormalverteilung

$z=\dfrac {x-\mu}{\sigma}$ beziehungsweise $Z=\dfrac {X-\mu}{\sigma}$

$P( x_1 \leq X \leq x_2 ) = P\braceNT{ \dfrac {x_1-\mu}{\sigma} \leq Z= \dfrac {X-\mu}{\sigma} \leq \dfrac {x_2-\mu}{\sigma}}= P(z_1 \leq Z \leq z_2)$

Grundlegende Fragestellungen

weil $P(X = 3) = \int\limits_3^3 f(x)dx = 0$ und somit $P(X<3) = P(X \leq 3)$.

• Wie hoch ist die Wahrscheinlichkeit, dass bei einem Zufallsversuch die normalverteilte Zufallsvariable $Z$ höchstens den Wert $z$ annimmt?

$P(Z \leq z)=\Phi(z)$

In der Schulmathematik wird für diese Aussage auch die Bezeichnung Linker Spitz verwendet, da die Fläche unter der Gaußkurve von links bis zur Grenze verläuft. Für $z$ sind auch negative Werte erlaubt, trotzdem haben viele Tabellen der Standardnormalverteilung nur positive Einträge. Durch die Symmetrie der Kurve und der Negativitätsregel des linken Spitz stellt dies aber keine Einschränkung dar:

(Anm.: Das Minus von $z$ wird im folgenden explizit

ausgedrückt, d.h. $-z = -|z|$, wenn $z<0$)

$\Phi(-z)=1-\Phi(z)$

• Wie hoch ist die Wahrscheinlichkeit, dass bei einem Zufallsversuch die normalverteilte Zufallsvariable $Z$ mindestens den Wert $z$ annimmt?

$P(Z \geq z) = 1 - \Phi(z)$

Analog wird hier oft die Bezeichnung Rechter Spitz verwendet. Ebenso gibt es eine Negativitätsregel:

$P(Z \geq -z)= 1- \Phi(-z)= 1-(1-\Phi(z)) = \Phi(z)$

Streubereich und Antistreubereich

$P(z_1 \leq Z \leq z_2) = \Phi(z_2) - \Phi(z_1)$

$P(-z \leq Z \leq z ) = P (|Z| \leq z) =$

$= \Phi(z)-\Phi(-z) =\Phi(z)-(1-\Phi(z))=$

$=2 \cdot \Phi(z)-1$

$P(Z \leq z_1$ oder $Z \geq z_2) = \Phi(z_1) + (1-\Phi(z_2))$

$P(Z \leq -z$ oder $Z \geq z) = P(|Z| \geq z)=$

$=\Phi(-z)+1-\Phi(z)= 1-\Phi(z)+1-\Phi(z)=$

$=2-2\cdot \Phi(z)$

Streubereiche am Beispiel der Qualitätssicherung

$P(x_1 \leq X \leq x_2) = P(|X-\mu|\leq\epsilon)=$

$=P(\mu-\epsilon \leq X \leq \mu+\epsilon) = P\braceNT{\dfrac{-\epsilon}{\sigma} \leq Z \leq \dfrac{\epsilon}{\sigma}}=$

$=\Phi\braceNT{\dfrac{\epsilon}{\sigma}}-\Phi\braceNT{\dfrac{-\epsilon}{\sigma}}=$

$= 2 \cdot \Phi\braceNT{\dfrac{\epsilon}{\sigma}}-1 =\gamma$

$P(|X-\mu|\geq \epsilon )= 1-\gamma$

$P(|X-\mu|\geq \epsilon )=2\cdot\braceNT{1-\Phi\braceNT{\dfrac{\epsilon} {\sigma}}}=\alpha$ .

Testen auf Normalverteilung

Quantile einer Normalverteilung und einer Chi-Quadrat-Verteilung

Simulation normalverteilter Zufallsvariablen

Box-Muller-Methode

$X=\sqrt{(-2\log u_1)} \, \cos(2\pi u_2)$

Polar-Methode

1. Generiere zwei gleichverteilte Zufallsvariablen $u_1,u_2=U(0,1)$
2. Berechne $v=(2u_1-1)^2+(2u_2-1)^2$. Falls $v \ge 1$ wiederhole 1.
3. $x=(2u_1-1)(-2\log v /v)^{1/2}$

Zwölferregel

Verwerfungsmethode

Inversionsmethode

$\operatorname{erf}^{-1} (\dfrac{\sqrt\pi}{2}x) = x(a_1 + x^2 (a_2 + x^2 (\dots)))$

$a_i= 1, \over{1}{ 3}, \over{7}{ 30}, \over{127}{ 630}, \over{4369}{ 22680}, \over{34807}{ 178200}, \over{20036983}{ 97297200}, \over{2280356863}{ 10216206000}, \over{49020204823}{ 198486288000},$

$\over{65967241200001}{ 237588086736000}, \over{15773461423793767}{ 49893498214560000}, \over{655889589032992201}{ 1803293578326240000},$

$\over{94020690191035873697}{ 222759794969712000000}, \over{655782249799531714375489}{ 1329207696584271504000000},\ldots$

"Offensichtlich" ist das gefährlichste Wort in der Mathematik.

Eric Temple Bell

Wahrscheinlichkeitstheorie

• Zufallsvariablen
• Wahrscheinlichkeitsverteilungen
  • Gleichverteilung
  • Normalverteilung
  • Inverse Normalverteilung
  • Exponentialverteilung
  • Binomialverteilung
  • Poisson-Verteilung
  • Gammaverteilung
  • Chi-Quadrat-Verteilung
  • Erlang-Verteilung
  • F-Verteilung
  • Betaverteilung
• Monte-Carlo-Methode