Macierze Jacobiego i Hessego

Pochodne cząstkowe, Jakobiany i Hesjany

Macierzą Jacobiego ${\mathbf{J}}_{\mathrm{f}}$ nazywa się macierz, której elementami $[{\mathbf{J}}_{\mathrm{f}}{]}_{ij},i=1,\dots ,m,j=1,\dots ,n$ są funkcje ${\left[\frac{\partial f_i}{\partial x_j}\right]}_{i,j},$

$$\left[\begin{array}{ccc}\frac{\partial f_1}{\partial x_1}& \dots & \frac{\partial f_1}{\partial x_n}\\ ⋮& \ddots & ⋮\\ \frac{\partial f_m}{\partial x_1}& \dots & \frac{\partial f_m}{\partial x_n}\end{array}\right]=\left[\begin{array}{c}\nabla f_1\\ ⋮\\ \nabla f_m\end{array}\right].$$

Na przykład: Jakobian $2\times 2$
Dla funkcji, $f=[f_1,f_2]:{\mathbb{R}}^2\to {\mathbb{R}}^2,$ takiej że,

• $f_1(x,y)=x^2+x{y}^3,$
• $f_2(x,y)=xy+1$
  jakobian wynosi:

$$\begin{array}{rl}\det {\mathbf{J}}_{\mathrm{f}}& =\left|\begin{array}{cc}\frac{\partial f_1}{\partial x}& \frac{\partial f_1}{\partial y}\\ \frac{\partial f_2}{\partial x}& \frac{\partial f_2}{\partial y}\end{array}\right|=\left|\begin{array}{cc}\frac{\partial (x^2+x{y}^3)}{\partial x}& \frac{\partial (x^2+x{y}^3)}{\partial y}\\ \frac{\partial (xy+1)}{\partial x}& \frac{\partial (xy+1)}{\partial y}\end{array}\right|=\left|\begin{array}{cc}2x+y^3& 3x{y}^2\\ y& x\end{array}\right|\\ & =2x^2+x{y}^3-3x{y}^3=2x^2-2x{y}^3\end{array}.$$

Macierz Hessego

Macierzą Hessego funkcji $f$ w punkcie $x$ nazywamy macierz:

$$H(\mathbf{x}):=\left[\begin{array}{cccc}\frac{{\partial }^{2}f}{\partial x_1^2}(\mathbf{x})& \frac{{\partial }^{2}f}{\partial x_1\partial x_2}(\mathbf{x})& \cdots & \frac{{\partial }^{2}f}{\partial x_1\partial x_n}(\mathbf{x})\\ \frac{{\partial }^{2}f}{\partial x_2\partial x_1}(\mathbf{x})& \frac{{\partial }^{2}f}{\partial x_2^2}(\mathbf{x})& \cdots & \frac{{\partial }^{2}f}{\partial x_2\partial x_n}(\mathbf{x})\\ ⋮& ⋮& \ddots & ⋮\\ \frac{{\partial }^{2}f}{\partial x_n\partial x_1}(\mathbf{x})& \frac{{\partial }^{2}f}{\partial x_n\partial x_2}(\mathbf{x})& \cdots & \frac{{\partial }^{2}f}{\partial x_n^2}(\mathbf{x})\end{array}\right]$$

gdzie, $\frac{{\partial }^{2}f}{\partial x_i\partial x_j}(\mathbf{x}),i,j=1,2,\dots ,n$ - pochodne cząstkowe drugiego rzędu obliczone w punkcie $x$ .

---

1. Symetria macierzy Hessego

Jeśli funkcja $f$ ma ciągłe drugie pochodne (jest klasy $C^2$) w punkcie $\mathbf{x}$, to macierz Hessego jest symetryczna:

$$\frac{{\partial }^{2}f}{\partial x_i\partial x_j}=\frac{{\partial }^{2}f}{\partial x_j\partial x_i}$$

---

2. Punkt krytyczny i jego klasyfikacja (Hesjan)

Punkt $\mathbf{x}$ jest krytyczny, gdy gradient się zeruje:

$$\nabla f(\mathbf{x})=[0,\dots ,0]\iff \frac{\partial f}{\partial x_i}=0$$

W takim punkcie badamy macierz Hessego ($H$):

• $H$ dodatnio określona → minimum lokalne
• $H$ ujemnie określona → maksimum lokalne
• $H$ nieokreślona → punkt siodłowy
• $H$ półokreślona → test nie rozstrzyga (wymagane badanie wyższych rzędów)
  To czy nasz Macierz $H$ jest określona $+-$ sprawdzamy za pomocą kryterium Sylvestera

---

3. Kryterium Sylvestera

Kryterium to wykorzystuje główne minory wiodące (${\Delta }_k$), czyli wyznaczniki podmacierzy $k\times k$ powstałych z pierwszych $k$ wierszy i kolumn macierzy $H$:

$${\Delta }_k=\det \left[\begin{array}{cccc}{a}_{11}& a_{12}& \dots & a_{1k}\\ a_{21}& a_{22}& \dots & a_{2k}\\ ⋮& ⋮& \ddots & ⋮\\ a_{k1}& a_{k2}& \dots & a_{kk}\end{array}\right]$$

Przykładowo:

• ${\Delta }_1=a_{11}$
• ${\Delta }_2=\det \left[\begin{array}{cc}{a}_{11}& a_{12}\\ a_{21}& a_{22}\end{array}\right]=a_{11}{a}_{22}-a_{12}{a}_{21}$

Interpretacja kryterium:

• ${\Delta }_k>0$ dla wszystkich $k$ → minimum
• znaki naprzemienne: ${\Delta }_1<0,{\Delta }_2>0,{\Delta }_3<0,\dots$ → maksimum
• $\det H\ne 0$ i nie zachodzą powyższe → punkt siodłowy
• $\det H=0$ → brak rozstrzygnięcia

---

4. Funkcja dwóch zmiennych

Dla funkcji $f(x,y)$ macierz Hessego ma postać: $H=\left[\begin{array}{cc}{f}_{xx}& f_{xy}\\ f_{yx}& f_{yy}\end{array}\right]$.

Z kryterium Sylvestera wynika, że ${\Delta }_1=f_{xx}$ oraz ${\Delta }_2=\det H$, stąd:

• $\det H>0$ i $f_{xx}>0$ → minimum
• $\det H>0$ i $f_{xx}<0$ → maksimum
• $\det H<0$ → punkt siodłowy
• $\det H=0$ → brak rozstrzygnięcia

---

5. Kryterium wartości własnych

Możemy, również użyć kryterium wartości własnych, które mówi, że:
Dla symetrycznej macierzy Hessego o wartościach własnych ${\lambda }_i$, jeżeli:

• wszystkie ${\lambda }_i>0$ → minimum
• wszystkie ${\lambda }_i<0$ → maksimum
• różne znaki ${\lambda }_i$ → punkt siodłowy
• co najmniej jedna ${\lambda }_i=0$ (pozostałe tego samego znaku) → brak rozstrzygnięcia

---

6. Szybkie podsumowanie

Hesjan	Wartości własne	Wniosek
dodatnio określona	${\lambda }_i>0$	minimum
ujemnie określona	${\lambda }_i<0$	maksimum
nieokreślona	różne znaki	siodło
półokreślona	${\lambda }_i\ge 0$ lub $\le 0$	brak decyzji
zdegenerowana	${\lambda }_i=0$	brak decyzji