以下, $n\in\N$ として, $\Omega \subset \R^{n}$ を開集合とする. また, $\R^{n}$ の Euclidノルムを $|\cdot|$ で書き, 全微分可能を単に微分可能と呼ぶことにする. $Du(x)$ で $u$ の $x$ に於ける微分(勾配)を表すことにする.
前回のsemidifferentialに関する記事 の続きについて. ここで, $D^{\pm}u(x)$ の定義と諸性質について確認しておく. $u\in C(\O), \ x \in \O$ に対して,
\begin{align*} ・D^{+}u(x) :&= \Bigg\{ p \in \R^{n} \Bigg| \limsup_{y \to x} \frac{u(y) - u(x) - p\cdot (y-x) }{|y-x|} \leq 0 \Bigg\} \\ &= \biggl\{ D\psi(x) \in \R^{n} \ \Big| \ \Exists \psi \in C^{1}(\Omega) \ {\rm s.t.}\ \\ & \ \quad \qquad \Forall y \in B_{\delta}(x), \ u(y) \leq \psi(y) \ かつ \ u(x)=\psi(x) \biggr\} \end{align*}
・$D^{+}u(x) \neq \emptyset $ かつ $D^{-}u(x) \neq \emptyset $ ならば, $u$ は $x$ で微分可能であり,
\begin{align}
\qquad D^{+}u(x) = D^{-}u(x) =\{Du(x)\}.
\end{align}
$\quad$ が成り立つ.
$D^{-}u(x)$ についても同様に成り立つ. 特に, $u$ が $x$ で微分可能であれば, $D^{+}u(x),D^{-}u(x)$ は共に一点集合で, それは $\{Du(x)\}$ に一致することに注意する.
$n=1,\ u(x)=|x|,\ x \in \R$ とする. この $u$ は原点 $x=0$ で微分不可能である. この $u$ に対して, $D^+u(0),D^-u(0)$ を計算すると,
\begin{align*}
\begin{cases}
&D^{+}u(0) = \emptyset \\
&D^{-}u(0) = [-1,1]
\end{cases}
\end{align*}
となる.
これは, 微分不可能な点 $x=0$ に於いて, 下側から接する滑らかな函数($C^{1}$級)の傾きが -1から1を取り得るとイメージ出来る. 逆に, $x=0$ で上から接するような滑らかな函数は取れないことも分かる.
対称的に, $u(x)=-|x|$ については, $D^{\pm}u(0)$ が逆になる.
$n=1, \ u(x)=\frac{x^{2}}{2}, \ x \in \R$ とする. このとき, $u$ は $\Forall x \in \R$ で微分可能なので, $\Forall x \in \R,$
\begin{align*}
D^{+}u(x) = D^{-}u(x) = \{ x \}
\end{align*}
となる.
$n=2, \alpha \in (0,1]$ とする. $u$ を,
\begin{align*}
u(x,y) = |x|^{\alpha} - |y|^{\alpha}, \quad (x,y) \in \mathbb{R}^{2}.
\end{align*}
と定める. このとき, 点 $(0,0)$ に関して,
\begin{align*}
\begin{cases}
D^{+}u(0,0) = \emptyset \
D^{-}u(0,0) = \emptyset
\end{cases}
\end{align*}
である.
この例は, $u$ が原点 $(0,0)$ に於いて, どの方向からも滑らかな接平面を取れない事を示している.
$D^{+}u(0,0)=\emptyset$ のみ示す. $D^{+}u(0,0)\neq \emptyset$ として矛盾を導く. $(p_1,p_2) \in D^{+}u(0,0)$ とすると, $\Exists \varphi \in C^{1}(\mathbb{R}^{2}) \quad {\rm s.t.}$
\begin{align*}
D\varphi(0,0)=(p_1,p_2), \quad 0=u(0,0)=\varphi(0,0) \ \
かつ \ u(x,y) \leq \varphi(x,y), \ (x,y)\in \mathbb{R}^{2}
\end{align*}
とできる. ここで, $\Forall h\in (0,1)$ に対して,
\begin{align}
\frac{\varphi(h,0)-\varphi(0,0)}{h}
&= \frac{\varphi(h,0)}{h} \nonumber \
&\geq \frac{u(h,0)}{h} \nonumber \
&= \frac{|h|^{\alpha}}{h} \geq \frac{|h|}{h} =1 \nonumber
\end{align}
となる. $h \downarrow 0$ とすると, $p_{1} = \frac{\partial{\varphi}(0,0)}{\partial{x}}$ なので, $p_{1} \geq 1$ が成り立つ.
逆に, $\Forall h \in (-1,0)$ に対して,
\begin{align}
\frac{\varphi(h,0)-\varphi(0,0)}{h}
&= \frac{\varphi(h,0)}{h} \nonumber \
&\leq \frac{u(h,0)}{h} \qquad (h<0 なので) \nonumber \
&= \frac{|h|^{\alpha}}{h} \leq \frac{|h|}{h} =-1 \nonumber
\end{align}
となるので, $h \uparrow 0$ とすると, $p_{1} = \frac{\partial{\varphi(0,0)}}{\partial{x}}$ なので, $p_{1} \leq -1$ が成り立つ.
以上より,
\begin{align*}
p_{1}\geq 1 \quad かつ \quad p_{1} \leq -1
\end{align*}
となり矛盾する. 従って, $D^{+}u(0,0) = \emptyset$ である. $D^{-}u(0,0)$ についても同様に示される.
この $u$ をより一般の多次元に拡張する場合は, $u(x_{1},x_{2},\cdots,x_{n})=|x_{1}|-|x_{2}|+|x_{3}|-\cdots \pm|x_{n}|$ のように符号を変えれば良い.
他にも, 片方が $\emptyset$ で片方が $\R$ になる例や, 片方が $\emptyset$ で片方が一点集合になる例などもあるが, これらは [1,Exam3.1.2] を参照して欲しい. 今回の例を通して, 微分不可能な点がsuper-/subdifferentialの観点からその特徴を見出すことが出来る.