凸関数の定義について

一部のみ証明する。

3が成り立つならば2が成り立つことを証明する。

証明の流れとしては、3が成り立つならば$\mathrm{\nabla }f$は単調であることを証明する。その後、$\mathrm{\nabla }f$が単調であれば2が成り立つことを証明する。

• 3が成り立つならば$\mathrm{\nabla }f$は単調である

$$\begin{array}{rcl}{\int }_0^1(x-y{)}^T{\mathrm{\nabla }}^{2}f(tx+(1-t)y)dt& =& {\int }_0^1{\displaystyle \frac{d}{dt}}\mathrm{\nabla }f(t(x-y)+y)dt\\ & =& \mathrm{\nabla }f(x)-\mathrm{\nabla }f(y)\end{array}$$

$$\begin{array}{rcl}0\le {\int }_0^1(x-y{)}^T{\mathrm{\nabla }}^{2}f(tx+(1-t)y)(x-y)dt& =& ⟨\mathrm{\nabla }f(x)-\mathrm{\nabla }f(y),x-y⟩\end{array}$$

よって、3が成り立つならば$\mathrm{\nabla }f$は単調である。

• $\mathrm{\nabla }f$が単調であれば2が成り立つ

$$\begin{array}{rcl}{\int }_0^1\mathrm{\nabla }f{((y-x)t+x)}^T(y-x)dt& =& {\int }_0^1{\displaystyle \frac{d}{dt}}f((y-x)t+x)dt\\ & =& f(y)-f(x)\end{array}$$

$$f(y)=f(x)+{\int }_0^1\mathrm{\nabla }f{((y-x)t+x)}^T(y-x)dt$$

関数$h(t)$を以下のように定義する。

$$\begin{gathered} h(t):=\mathrm{\nabla }f{((y-x)t+x)}^T(y-x) \\ h(0):=\mathrm{\nabla }f{\left(x\right)}^T(y-x) \end{gathered}$$

$\mathrm{\nabla }f$は単調であるので、
$$⟨\mathrm{\nabla }f((y-x)t+x)-\mathrm{\nabla }f(x),(y-x)t+x-x⟩\ge 0$$

つまり、

$$⟨\mathrm{\nabla }f((y-x)t+x)-\mathrm{\nabla }f(x),(y-x)t⟩\ge 0$$

$t\ge 0$であるので、

$$⟨\mathrm{\nabla }f((y-x)t+x)-\mathrm{\nabla }f(x),y-x⟩\ge 0$$

よって、
$$h(t)-h(0)\ge 0$$

両辺を積分して式変形すれば、
$${\int }_0^{1}h(t)dt\ge {\int }_0^{1}h(0)dt=h(0){\int }_0^{1}dt=h(0)$$

よって、

$$\begin{array}{rcl}f(y)& =& f(x)+{\int }_0^{1}h(t)dt\\ & \ge & f(x)+h(0)\\ & =& f(x)+f{\left(x\right)}^T(y-x)\end{array}$$

よって、$\mathrm{\nabla }f$が単調であれば2が成り立つ。