0

Farkasの補題と線形計画問題の双対定理

131
0
$$\newcommand{A}[0]{\begin{bmatrix} A^t \\ I_m \end{bmatrix}} \newcommand{Ac}[0]{\begin{bmatrix} A \\ -c^t \end{bmatrix}} \newcommand{Act}[0]{\begin{bmatrix} A^t&-c \end{bmatrix}} \newcommand{At}[0]{\begin{bmatrix} A & I_m \end{bmatrix}} \newcommand{bg}[0]{\begin{bmatrix}b\\ -\gamma \end{bmatrix}} \newcommand{bm}[1]{\boldsymbol{#1}} \newcommand{c}[0]{\cdot} \newcommand{en}[1]{\frac{\epsilon}{#1}} \newcommand{eqv}[0]{\Longleftrightarrow} \newcommand{follow}[0]{\Longrightarrow} \newcommand{gep}[1]{\succsim^{#1}} \newcommand{gp}[1]{\succ^{#1}} \newcommand{ip}[2]{\langle{#1},{#2}\rangle} \newcommand{N}[0]{\mathbb{N}} \newcommand{norm}[1]{\Vert{#1}\Vert} \newcommand{p}[0]{\bm{p}} \newcommand{R}[0]{\mathbb{R}} \newcommand{sm}[0]{\sum_{i\in N}} \newcommand{vp}[0]{\varphi} \newcommand{w}[1]{\bm{w}^{#1}} \newcommand{x}[1]{\bm{x}^{#1}} \newcommand{xb}[0]{\bar{x}} \newcommand{xd}[1]{\bm{x}'^{#1}} \newcommand{xdd}[1]{\bm{x}''^{#1}} \newcommand{xl}[0]{\begin{bmatrix}x\\ \lambda \end{bmatrix}} \newcommand{yb}[0]{\bar{y}} \newcommand{yl}[0]{\begin{bmatrix}\yb\\ \lambda \end{bmatrix}} $$
主問題(Principal Problem)

線形計画の主問題(P)は次のように定義される.
\begin{align} \max_{x\in \R^n}\,&\ip{c}{x}\\ s.t.\,Ax&\leq b\\ x&\geq0 \end{align}

双対問題(Dual Problem)

主問題(P)に対する双対問題(D)は次のように定義される.
\begin{align} \min_{y\in\R^m}\,&\ip{b}{y}\\ s.t.\,A^ty&\geq c\\ y&\geq0 \end{align}

Farkasの補題

任意の実$m\times n$行列Aと$b\in\R^m,c\in\R^n $,に対して,
次は二者択一で成り立つ.

  1. $\exists x\in\R^n,\,Ax=b,x\geq0$
  2. $\exists y\in\R^m,\,A^ty\geq0,\ip{b}{y}<0$

まず$1\land2$は成り立たないことを示す.
$(\lnot1\Rightarrow2)$
$1$が成り立たないとする.$S:=\{y\in\R^m\vert\exists x\in\R^n,y=Ax,x\geq0\}$は閉凸集合であることは容易に確かめられる.よって,$b\notin S$であるから 分離超平面定理 より,$\forall y\in S,\ip{a}{b}>\alpha\geq\ip{a}{y}$となるような$a\in\R^m\setminus\{0\}$$\alpha\in\R$が存在する.
証明のイメージ図:ベクトル!FORMULA[14][1120669646][0]はそれぞれ,基底!FORMULA[15][-514627254][0]を行列!FORMULA[16][36647][0]で写したもの. 証明のイメージ図:ベクトル$a_i\,(i=1,\cdots,n)$はそれぞれ,基底$e_i\,(i=1,\cdots,n)$を行列$A$で写したもの.
ここで$0\in S$$y\in S$の任意性により$\ip{a}{b}>\alpha\geq0$なので,$\ip{a}{b}>0$がわかる.

Farkasの補題
  1. $\exists x\in\R^n,\,Ax\leq b, x\geq0$
  2. $\exists y\in\R^m,\,A^ty=0, b^ty<0,y\geq0$

$(1\Rightarrow\lnot2)$
$1\land2$が偽であることを確かめるため,真であると仮定して,背理法を用いる.実際,$0=\ip{x}{A^ty}=\ip{Ax}{y}\leq\ip{b}{y}<0$となって矛盾が生じるので命題は確かめられた.
$(2\Rightarrow \lnot1 )$
$2$すなわち,$\exists y\in\R^m,\,A^ty=0,\ip{b}{y}<0,I_my=y\geq0$を仮定する.ただし,$I_m$$m$次単位行列.
そこで上の仮定から,
\begin{align} &\exists y\in\R^m,\A y\geq0,\ip{b}{y}<0\cdots(*)\text{が従うので,}\\ (*)\eqv&\nexists(x,\lambda)\in\R^n\times\R^m, \A^t\xl=\At\xl=b,\xl\geq0\leftarrow(\because \text{Farkasの補題})\\ \eqv&\nexists(x,\lambda)\in\R^n\times\R^m,Ax+\lambda=b, x\geq0,\lambda\geq0\\ \eqv&\nexists x\in\R^n,Ax\leq b, x\geq0 \end{align}となり,$2$から$\lnot1$が導かれた.$\square$

弱双対定理

$\max(P)\leq\min(D)$が成り立つ.

\begin{align} x^M&:(P)\text{の実行可能解}\\ y^m&:(D)\text{の実行可能解}\\ &\text{と仮定する.このとき,}\\ \max(P)&=\ip{c}{x^M}\\ &\leq\ip{A^ty^m}{x^M}\leftarrow(\because x^M\geq0,A^ty^m\geq c)\\ &=\ip{Ax^M}{y^m}\\ &\leq\ip{b}{y^m}\leftarrow(\because y^m\geq0,Ax^M\leq b)\\ &=\min(D). \end{align} $\square$

こちらは意外と簡単です.

双対定理

主問題も双対問題も実行可能解をもつとすると,
$\max (P)=\min(D)$が成り立つ.

主問題(P)もその双対問題(D)もともに実行可能解をもつと仮定する.このとき弱双対定理から$\max(P)\leq\min(D)$は既知なので,$\max(P)<\min(D)$とならないことを示す.
背理法を用いて$\max(P)<\min(D)=:\gamma$を仮定する.このとき,$\max(P)<\gamma$より,
\begin{align} &\nexists\xb\in\R^n,c^t\xb=\ip{c}{\xb}\geq\gamma,A\xb\leq b,\xb\geq 0\\ \eqv&\nexists\xb\in\R^n,(-c)^t\xb\leq-\gamma,A\xb\leq b,\xb\geq 0\\ \follow&\exists(\yb,\lambda)\in\R^m\times\R,\Ac^t\yl=\Act\yl=0,\\ &\bg^t\yl\geq0,\yl\geq0\\ &(\because\text{Farkasの補題 系})\\ \eqv&\exists\yb\in\R^m,\exists\lambda\in\R,A^t\yb=\lambda c,\ip{b}{\yb}<\lambda\gamma,\yb\geq0,\lambda\geq0\cdots(**) \end{align}が従う.

  1. $\lambda=0$のとき
    \begin{align} (**)\eqv&\exists\yb\in\R^m,A^t\yb=0,\ip{b}{\yb}<0,\yb\geq0\\ \eqv&\nexists x'\in\R^n,Ax'\leq b,x'\geq0\,(\because\text{Farkasの補題 系}) \end{align}
    となって,主問題(P)が実行可能であるということに反する.
  2. $\lambda>0$のとき
    \begin{align} (**)\follow\exists\yb/\lambda\in\R^m,A^t(\yb/\lambda)=c,\ip{b}{\yb/\lambda}&<\gamma\\ &=\max(P)\\ &\leq\min(D)\,(\because\text{弱双対定理}) \end{align}
    が導出され,$\yb/\lambda$が双対問題(D)の実行可能領域にあるので,$\ip{b}{\yb/\lambda}<\min(D)$は矛盾.

したがって(1),(2)両方とも矛盾が生じたので,$\max(P)<\min(D)$は成り立たず,弱双対定理から$\max (P)=\min(D)$が成立.$\square$

投稿日:410
更新日:410
OptHub AI Competition

この記事を高評価した人

高評価したユーザはいません

この記事に送られたバッジ

バッジはありません。
バッチを贈って投稿者を応援しよう

バッチを贈ると投稿者に現金やAmazonのギフトカードが還元されます。

投稿者

k20ku
k20ku
0
275
ゼミのメモ用にやっているので不完全でも投稿しています.すいません

コメント

他の人のコメント

コメントはありません。
読み込み中...
読み込み中