Hessesche Matrix und hinreichende Bedingungen für lokale Extrema

Sei D⊂RnD\subset\R^n offen und f∈C2(D)f\in C^2(D) zweimal stetig differenzierbar. Die Hessesche Matrix von ff im Punkt x∈Dx\in D ist definiert als die Matrix der zweiten partiellen Ableitungen:
(Hessf)(x):=(∂2f∂xj∂xi)i,j=1n(\mathrm{Hess }f)(x):=\left(\dfrac{\partial^2 f}{\partial x_j \partial x_i} \right)_{i,j=1}^n
Wegen ∂2f∂xj∂xi=∂2f∂xi∂xj\dfrac{\partial^2 f}{\partial x_j \partial x_i}= \dfrac{\partial^2 f}{\partial x_i \partial x_j} (Satz von Schwarz) ist (Hessf)(x)(\mathrm{Hess }f)(x) symmetrisch. Nach dem Satz 16KH hat man f ′′(x)=(Hessf)(x)f\, ''(x)=(\mathrm{Hess }f)(x). Mit f′(x)h=⟨grad⁡f(x),h⟩f'(x)h=\langle \grad f(x),h\rangle und ⟨f′′(x)h,h⟩\langle f''(x)h,h\rangle =⟨Hessf(x)h,h⟩=∑i,j=1n∂2f∂xj∂xihihj =\langle \mathrm{Hess }f(x)h,h\rangle =\sum\limits_{i,j=1}^n \dfrac{\partial^2 f}{\partial x_j \partial x_i}h_ih_j kann Satz 16KO wie folgt geschrieben werden:
 
 

Satz 16KQ

Sei D⊂RnD\subset\R^n offen und f∈C2(D)f\in C^2(D) zweimal stetig differenzierbar. Dann gilt für alle Umgebungen Uε(x)∈DU_\varepsilon (x)\in D und alle h∈Rnh \in\R^n mit x+h∈Uε(x)x+h\in U_\varepsilon(x):
f(x+h)=f(x)+⟨f′(x),h⟩+12⟨f′′(x)h,h⟩+∣∣h∣∣2ρ(h)f(x+h)=f(x) +\langle f'(x),h\rangle +\dfrac{1}{2}\langle f''(x)h,h\rangle +||h||^2\rho(h),
wobei lim⁡h→0ρ(h)=0\lim_{h\rightarrow 0} \rho(h)=0.

Satz 16KR (Hinreichende Bedingung für lokale Extrema)

Sei D⊂RnD\subset\R^n offen und f∈C2(D)f\in C^2(D) zweimal stetig differenzierbar mit (grad⁡f)(x)=f ′(x)=0(\grad f)(x)=f\, '(x)=0. Dann gilt:
  1. Ist f ′′(x)=(Hessf)(x)f\, ''(x)=(\mathrm{Hess }f)(x) positiv definit, so hat ff in xx ein isoliertes lokales Minimum.
  2. Ist f ′′(x)f\, ''(x) negativ definit, so hat die Funktion ff in xx ein isoliertes lokales Maximum.
  3. Ist f ′′(x)f\, ''(x) indefinit, so besitzt ff in xx kein lokales Extremum.

Beweis

(i) und (ii): Die Beweise zu (i) und (ii) können analog geführt werden. Wir beweisen exemplarisch (i). f(x+h)=f(x)+⟨f′(x),h⟩+12⟨f′′(x)h,h⟩+∣∣h∣∣2ρ(h)f(x+h)=f(x)+\langle f'(x),h\rangle +\dfrac{1}{2}\langle f''(x)h,h\rangle +||h||^2\rho(h) =f(x)+12⟨f′′(x)h,h⟩+∣∣h∣∣2ρ(h) =f(x)+\dfrac{1}{2}\langle f''(x)h,h\rangle +||h||^2\rho(h) Da f ′′(x)f\, ''(x) positiv definit, gibt es ein α>0\alpha>0, so dass ⟨f′′(x)h,h⟩≥α∣∣h∣∣22\langle f''(x)h,h\rangle\geq \alpha ||h||_2^2. Man wähle δ>0:∀h:∣∣h∣∣2≤δ\delta>0:\forall h:||h||_2\leq \delta⇒∣ρ(h)∣≤α4 \Rightarrow|\rho(h)| \leq \dfrac{\alpha}{4}. Damit erhält man für 0<∣∣h∣∣2≤δ0<||h||_2\leq \delta: f(x+h)=f(x)+12⟨f′′(x)h,h⟩+∣∣h∣∣22ρ(h) f(x+h)=f(x) +\dfrac{1}{2}\langle f''(x)h,h\rangle +||h||_2^2\rho(h)≥f(x)+12⟨f′′(x)h,h⟩−∣∣h∣∣22∣ρ(h)∣ \geq f(x)+ \dfrac{1}{2} \langle f''(x)h,h\rangle -||h||_2^2|\rho(h)|≥f(x)+α2∣∣h∣∣22−α4∣∣h∣∣22 \geq f(x)+\dfrac{\alpha}{2} ||h||_2^2-\dfrac{\alpha}{4}||h||_2^2=f(x)+α4∣∣h∣∣22>f(x) =f(x)+\dfrac{\alpha}{4}||h||_2^2 >f(x). (iii) Zu zeigen ist, dass in jeder ε\varepsilon-Umgebung Uε(x)U_\varepsilon(x) um xx Werte y′,y′′y', y'' existieren mit f(y′′)<f(x)<f(y′)f(y'')<f(x)<f(y'). f′′(x)f''(x) ist indefinit: ∃ξ∈Rn\{0}:⟨f′′(x)ξ,ξ⟩⎵=:α>0\exists \xi\in\R^n\backslash\{0\}:\underbrace{\langle f''(x)\xi,\xi\rangle}_{ =:\alpha>0}. Für kleine ∣t∣|t| gilt: f(x+tξ)=f(x)+12⟨f′′(x)tξ,tξ⟩+∣∣tξ∣∣22ρ(tξ)f(x+t\xi)=f(x)+\dfrac{1}{2}\langle f''(x)t\xi,t\xi\rangle+||t\xi||_2^2\rho(t\xi) und für hinreichend kleine ∣t∣|t| gilt ∣ρ(tξ)∣≤α41∣∣ξ∣∣22|\rho(t\xi)|\leq\dfrac{\alpha}{4}\dfrac{1}{||\xi||_2^2}. Also hat man f(x+tξ)=f(x)+t22⟨f′′(x)ξ,ξ⟩+t2∣∣ξ∣∣22ρ(tξ)f(x+t\xi)=f(x)+\dfrac{t^2}{2}\langle f''(x)\xi,\xi\rangle +t^2||\xi||_2^2 \rho(t\xi)=f(x)+α2t2+t2∣∣ξ∣∣22ρ(tξ) =f(x)+\dfrac{\alpha}{2}t^2+t^2||\xi||_2^2\rho(t\xi)≥f(x)+α2t2−t2∣∣ξ∣∣22∣ρ(tξ)∣ \geq f(x)+\dfrac{\alpha}{2}t^2-t^2||\xi||_2^2|\rho(t\xi)|≥f(x)+α2t2−α4t2 \geq f(x)+ \dfrac{\alpha}{2}t^2-\dfrac{\alpha}{4}t^2=f(x)+α4t2>f(x) =f(x)+\dfrac{\alpha}{4}t^2 >f(x) für 0<∣t∣≤δ00<|t|\leq\delta_0 Ebenso zeigt man: Ist η∈Rn\eta\in\R^n ein Vektor mit ⟨f′′(x)η,η⟩<0\langle f''(x)\eta,\eta\rangle <0, so gilt für genügend kleine ∣t∣>0|t|>0: f(x+tη)<f(x)f(x+t\eta)<f(x) □\qed

Anwendung auf den Spezialfall n=2

Unabhängige Variablen: x:=x1,y:=x2x:=x_1, y:=x_2 Sei D⊂R2D\subset\R^2 offen, f∈C2(D)f\in C^2(D) zweimal stetig differenzierbar und grad⁡f(ξ,η)=0\grad f(\xi,\eta)=0 , d.h. ∂f∂x(ξ,η)=∂f∂y(ξ,η)=0\dfrac{\partial f}{\partial x}(\xi,\eta)=\dfrac{\partial f}{\partial y}(\xi,\eta)=0 (notwendige Bedingung nach Satz 16KP). f′′=Hessf=(∂2f∂x2∂2f∂y∂x∂2f∂y∂x∂2f∂y2)f''=\mathrm{Hess }f=\begin{pmatrix} \dfrac{\partial^2 f}{\partial x^2} & \dfrac{\partial^2 f}{\partial y \partial x}\\ \dfrac{\partial^2 f}{\partial y \partial x} & \dfrac{\partial^2 f}{\partial y^2} \end{pmatrix} Für eine 2×22\cross 2-Matrix AA gilt: A=(a11a12a12a22){positiv definit⇔a11>0det⁡A=a11a22−a122>0negativ definit⇔a11<0det⁡A=a11a22−a122>0A=\begin{pmatrix} a_{11}&a_{12}\\ a_{12}&a_{22} \end{pmatrix} \begin{cases} \text{positiv definit}\Leftrightarrow a_{11}>0 & \det A =a_{11}a_{22}-a_{12}^2>0\\ \text{negativ definit}\Leftrightarrow a_{11}<0 & \det A=a_{11}a_{22}-a_{12}^2>0 \end{cases} Wir setzen Δ:=det⁡f′′=∂2f∂x2∂2f∂y2−(∂2f∂y∂x)2\Delta:=\det f'' =\dfrac{\partial^2 f}{\partial x^2}\dfrac{\partial^2 f}{\partial y^2} -\left(\dfrac{\partial^2 f}{\partial y \partial x}\right)^2 , so hat
  1. ff ein isoliertes lokales Minimum in (ξ,η)(\xi,\eta) , wenn ∂2f∂x2>0\dfrac{\partial^2 f}{\partial x^2}>0 und Δ>0\Delta>0,
  2. ff ein isoliertes lokales Maximum in (ξ,η)(\xi,\eta) , wenn ∂2f∂x2<0\dfrac{\partial^2 f}{\partial x^2}<0 und Δ>0\Delta>0,
  3. ff kein lokales Extremum, wenn Δ<0\Delta<0.
Für Δ=0\Delta=0 lassen sich im Allgemeinen keine Aussagen treffen.

Beispiele

Für alle Beispiele sei f,g,h:R2→Rf,g,h:\R^2\rightarrow\R.

Lokales Minimum

x2y2.png
f(x,y)=c+x2+y2f(x,y)=c+x^2+y^2 grad⁡f(x,y)\grad f(x,y)=(∂f∂x,∂f∂y) =\left( \dfrac{\partial f}{\partial x},\dfrac{\partial f}{\partial y}\right)=(2x,2y) = (2x,2y) grad⁡f(x,y)=0\grad f(x,y)=0 für (0,0)(0,0). f′′(x,y)=(∂2f∂x2∂2f∂y∂x∂2f∂y∂x∂2f∂y2)f''(x,y)=\begin{pmatrix} \dfrac{\partial^2 f}{\partial x^2}&\dfrac{\partial^2 f}{\partial y \partial x}\\ \dfrac{\partial^2 f}{\partial y\partial x}&\dfrac{\partial^2 f}{\partial y^2} \end{pmatrix}=(2002) = \begin{pmatrix} 2&0\\0&2 \end{pmatrix}, also f′′(0,0)=(2002) f''(0,0)=\begin{pmatrix} 2&0\\0&2 \end{pmatrix} ist positiv definit. Somit besitzt ff in (0,0)(0,0) ein isoliertes lokales Minimum (sogar globales Minimum).

Lokales Maximum

g(x,y)=c−x2−y2g(x,y)=c-x^2-y^2. grad⁡g=(−2x,−2y) \grad g=(-2x,-2y) und (grad⁡g)(0,0)=(0,0)(\grad g)(0,0) =(0,0); g′′(x,y)=(−200−2) g''(x,y)=\begin{pmatrix} -2&0\\0&-2 \end{pmatrix}; a11=−2<0a_{11} = -2<0; det⁡g′′(0,0)=4⇒g \det g''(0,0)=4\Rightarrow g besitzt in (0,0)(0,0) ein isoliertes lokales Maximum.

Kein lokales Extremum

func2.png
h(x,y)=c+x2−y2h(x,y)=c+x^2-y^2; grad⁡h=(2x,−2y) \grad h=(2x,-2y); (grad⁡h)(0,0)=(0,0)(\grad h)(0,0)= (0,0); h′′(x,y)=(200−2)h''(x,y)=\begin{pmatrix} 2&0\\0&-2 \end{pmatrix} det⁡h′′(0,0)=−4<0⇒h\det h''(0,0)=-4<0\Rightarrow h hat in (0,0)(0,0) kein lokales Extremum.

====Semidefinite Matrizen====
Ist die Hessesche Matrix f ′′(x,y)f\, ''(x,y) in einer Nullstelle des Gradienten semidefinit, so lassen sich keine allgemeinen Aussagen treffen.
Für die nachfolgenden Beispiele gilt fi′′(0,0)=(2000)f_i''(0,0)=\begin{pmatrix} 2&0\\0&0 \end{pmatrix} Sei h=(h1h2) h=\begin{pmatrix}h_1\\h_2\end{pmatrix}, dann ist ⟨fi′′(0,0)h,h⟩ \langle f_i''(0,0)h,h\rangle =⟨(2h10),(h1h2)⟩ =\langle \begin{pmatrix}2h_1\\0\end{pmatrix},\begin{pmatrix} h_1\\h_2 \end{pmatrix}\rangle =2h12+0=2h12≥0 =2h_1^2+0=2h_1^2\geq 0. Somit sind die fi′′(0,0)f_i''(0,0) semidefinit.
x2y4.png
f1(x,y)=x2+y4f_1(x,y )=x^2+y^4 grad⁡f1=(2x,4y3) \grad f_1=(2x,4y^3) f1′′(x,y)=(20012y2) f_1''(x,y)=\begin{pmatrix} 2&0\\0&12y^2 \end{pmatrix} f1f_1 hat in (0,0)(0,0) ein isoliertes lokales Minimum.
x2.png
f2(x,y)=x2f_2(x,y) =x^2 grad⁡f2=(2x,0) \grad f_2=(2x,0) f2′′(x,y)=(2 00 0) f_2''(x,y)=\begin{pmatrix} 2\, &0\\0\, &0 \end{pmatrix} f2f_2 hat in (0,0)(0,0) lokales Minimum aber kein isoliertes.
x2y3.png
f3(x,y)=x2+y3f_3(x,y)= x^2+y^3 grad⁡f3=(2x,3y2) \grad f_3=(2x,3y^2) f3′′(x,y)=(2006y) f_3''(x,y)=\begin{pmatrix} 2&0\\0&6y \end{pmatrix} f3f_3 hat in (0,0)(0,0) kein lokales Extremum.

Es gibt keinen Königsweg zur Mathematik.

Euklid

Copyright- und Lizenzinformationen: Diese Seite ist urheberrechtlich geschützt und darf ohne Genehmigung des Autors nicht weiterverwendet werden.
Anbieterkеnnzeichnung: Mathеpеdιa von Тhοmas Stеιnfеld  • Dοrfplatz 25  •  17237 Blankеnsее  • Tel.: 01734332309 (Vodafone/D2)  •  Email: cο@maτhepedιa.dе
Datenschutzerklärung

 

Differentiation