４５秒で理解する２変数関数の極値
45秒で何ができる？
ヘッセ行列を理解する
ヘッセ行列$H$は多変数関数における第2次導関数(のようなもの)です。
2変数$f(x,y)$なら$H(x,y)= \begin{eqnarray}
\left(
\begin{array}{cc}
\frac{\partial^2}{\partial x^2}f(x,y) & \frac{\partial^2}{\partial y \partial x}f(x,y)\\
\frac{\partial^2}{\partial x \partial y}f(x,y) & \frac{\partial^2}{\partial y^2}f(x,y)
\end{array}
\right)
\end{eqnarray}
$であり、2階偏導関数の集まりからなっていることからも妥当です。
極小：$f'=0$かつ$f''$が正
極大：$f'=0$かつ$f''$が負
極小：$f_{x_i}=0$かつ$H$が正定値
極大：$f_{x_i}=0$かつ$H$が負定値
※$f_{x_i}=0$は$n$変数関数$f(x_1,x_2,\cdots,x_n)$の変数それぞれでの$f$の偏導関数がすべて$0$という意味
（２変数$f(x,y)$なら$f_x=\frac{\partial}{\partial x}f(x,y)=0,\space f_y=\frac{\partial}{\partial y}f(x,y)=0$）
正定値・負定値ってなんぞや
実数成分の正方対称行列$H$が
「正定値である」$ \Longleftrightarrow H$の左上隅の小行列の行列式がすべて正
「負定値である」$ \Longleftrightarrow -H$が正定値
左上隅の小行列ってなんぞや
例$ \begin{pmatrix}
1 & 2 & 3\\
4 & 5 & 6\\
7 & 8 & 9
\end{pmatrix} $なら、$ \begin{pmatrix}
1
\end{pmatrix} $と$ \begin{pmatrix}
1 & 2 \\
4 & 5
\end{pmatrix} $と$ \begin{pmatrix}
1 & 2 & 3\\
4 & 5 & 6\\
7 & 8 & 9
\end{pmatrix}$
つまり左上を成分に持つ正方行列を取れるだけ取る。（自分自身も含む）
この左上隅の小行列の、行列式がすべて正なら正定値
例では$1$、$1×5-2×4=-3 $、$1×5×9+2×6×7+3×8×4-3×5×7-2×4×9-1×8×6=0$
なので正定値ではない。(負定値でもない。)
※1×1の行列はただの実数と同じ。その行列式は等しくなる。
$H$の左上隅の小行列の行列式がすべて負$ \Longleftrightarrow $負定値
は間違いです。
誤）$ \begin{pmatrix}
-2 & 4 \\
3 & 1
\end{pmatrix} $の左上隅の小行列は、$ \begin{pmatrix}
-2
\end{pmatrix} $と$ \begin{pmatrix}
-2 & 4 \\
3 & 1
\end{pmatrix} $
その行列式は$-2$、$(-2)×1-4×3=-14$ですべて負なので負定値。
正）$ -\begin{pmatrix} -2 & 4 \\ 3 & 1 \end{pmatrix}=\begin{pmatrix} 2 & -4 \\ -3 & -1 \end{pmatrix}$の左上隅の小行列を考えて
$ \begin{pmatrix}
2
\end{pmatrix}
$と$ \begin{pmatrix}
2 & -4 \\
-3 & -1
\end{pmatrix}
$ その行列式は$2$、$2×(-1)-(-4)×(-3)=-14$
よって正定値でも負定値でもない。
例題 ～1変数と2変数の比較～
$f(x)=x^4-6x^2+8x+5$の極値をすべて求めよ。
$f(x)$の極値をとる$x$の値の候補は
$$\frac{d}{dx}f(x)=0 \Longleftrightarrow (x-1)^2(x+2)=0$$
$ \therefore x=1,-2$
であり、
$$\frac{d^2}{dx^2}f(x)=12x^2-12=12(x^2-1)$$
$\therefore f''(1)=0$より$x=0$では極値をとらず、$f''(-2)=36>0$より$x=-2$で極小値をとる。
よって、$f(x)$は$x=-2$で極小値$f(-2)=-19$をとる。
$f(x,y)=x^3+y^3-3xy$の極値をすべて求めよ。
$f(x,y)$の極値をとる$(x,y)$の値の候補は
$$\frac{\partial}{\partial x}f(x,y)=\frac{\partial}{\partial y}f(x,y)=0 \Longleftrightarrow 3x^2-3y=3y^2-3x=0$$
$ \therefore (x,y)=(0,0),(1,1)$
であり、
$$H(x,y)= \begin{eqnarray}
\left(
\begin{array}{cc}
\frac{\partial^2}{\partial x^2}f(x,y) & \frac{\partial^2}{\partial y \partial x}f(x,y)\\
\frac{\partial^2}{\partial x \partial y}f(x,y) & \frac{\partial^2}{\partial y^2}f(x,y)
\end{array}
\right)
\end{eqnarray}
=
\left(
\begin{array}{cc}
6x & -3 \\
-3 & 6y
\end{array}
\right)
$$
$\therefore H(0,0)= \begin{eqnarray}
\left(
\begin{array}{cc}
0 & -3 \\
-3 & 0
\end{array}
\right)
\end{eqnarray} $は
$ det\begin{eqnarray}
\left(
\begin{array}{cc}
0
\end{array}
\right)
\end{eqnarray}=0 $、$ det\begin{eqnarray}
\left(
\begin{array}{cc}
0 & -3 \\
-3 & 0
\end{array}
\right)
\end{eqnarray}=9>0 $より正定値でも負定値でもないので$(0,0)$では極値をとらず、
$H(1,1)= \begin{eqnarray}
\left(
\begin{array}{cc}
6 & -3 \\
-3 & 6
\end{array}
\right)
\end{eqnarray} $は
$ det\begin{eqnarray}
\left(
\begin{array}{cc}
6
\end{array}
\right)
\end{eqnarray}=6>0 $、$ det\begin{eqnarray}
\left(
\begin{array}{cc}
6 & -3 \\
-3 & 6
\end{array}
\right)
\end{eqnarray}=45>0 $より正定値であるので$(1,1)$では極小値をとる。
よって、$f(x,y)$は$(x,y)=(1,1)$で極小値$f(1,1)=-1$をとる。
おわりに
４５秒を謳っていますが、今回は全然3分ぐらいかかりそうなことをお詫び申し上げます。さすがに４５秒じゃ雑になりすぎます。
また、厳密性を欠いている箇所が高々有限個あります。
しっかり理解したい人は教科書などを時間をかけて読んでください。