KLダイバージェンスに基づく分布的ロバスト最適化
ポートフォリオ選択問題とロジスティック回帰の分布的ロバスト最適化についてまとめています。式変形でわからないところについてご教示頂ければ幸いです。
ポートフォリオ選択問題
$$ \begin{aligned} \max_{q} \quad & \mathbb{E}_{\mathbb{P}}[f(x,Y)]\\ \textrm{s.t.} \quad & 1^Tx\geq 0\\ & x\geq 0 \end{aligned} $$
$x\in\mathbb{R}^d$ ：ポートフォリオ（決定変数）
$R\in\mathbb{R}^d$：収益率（確率変数）
期待（指数）効用最大化
$$
f(x,R):=\exp(-R^Tx)
$$
定義1のポートフォリオ選択問題の分布的ロバスト最適化は命題1で与えられる。
$$ \begin{aligned} \min_{x}\max_{\mathbb{Q}\in\mathcal{Q}} \quad & \mathbb{E_{Q}}[f(x,Y)]\\ \textrm{s.t.} \quad & 1^Tx\geq 0\\ & x\geq 0 \end{aligned} $$
が以下のように簡略化される。
$$ \begin{aligned} \min_{\lambda,\eta,x} \quad & \epsilon\lambda+\eta+\lambda\sum_{i=1}^{n}p_i\exp\left(\dfrac{\exp(-R_i^Tx)-\eta}{\lambda}-1\right)\\ \textrm{s.t.} \quad & 1^Tx\geq 0\\ & x\geq 0 \\ & (\lambda>0) \end{aligned} $$
下記事の定理1より、$f_j(x,R_i):=\exp(-R_{i}^Tx)$を代入すればよい。
$$ f((x,x_0),(b,a))=\ln(1+\exp(-b(x^Ta+x_0))) $$
$f$:負の対数尤度の1標本分
$(x,x0)$:線形モデルの係数ベクトルと切片項
$a\in\mathbb{R}^d, b\in\{\pm1\}$:線形モデルの説明変数とバイナリクラスラベル
定義2のロジスティック回帰の分布的ロバスト最適化は命題2で与えられる。
$$ \begin{aligned} \min_{x}\max_{\mathbb{Q}\in\mathcal{Q}} \quad & \mathbb{E_{Q}}[f(x,Y)]\\ \end{aligned} $$
が以下のように簡略化される。
$$ \begin{aligned} \min_{\lambda,\eta,x} \quad & \epsilon\lambda +\eta +\lambda\exp\left(-\dfrac{\eta}{\lambda}-1\right)\sum_{i=1}^{n}p_i\exp\left(1+\exp(-b_i(a_i^Tx+x_0))\right)\\ \textrm{s.t.} \quad & (\lambda > 0)\\ \end{aligned} $$
下記事の定理1より、$f((x,x_0),(b_i,a_i))=\ln(1+\exp(-b_i(x^Ta_i+x_0)))$を代入すればよい。
$$ \begin{aligned} \min_{\lambda>0,\eta,x} \quad & \epsilon\lambda +\eta +\lambda\sum_{i=1}^{n}p_i\exp\left(\dfrac{\ln(1+\exp(-b_i(x^Ta_i+x_0)))-\eta}{\lambda}-1\right)\\ \end{aligned} $$
式変形すると、
$$ \begin{aligned} \min_{\lambda>0,\eta,x} \quad & \epsilon\lambda +\eta +\lambda\exp\left(-\dfrac{\eta}{\lambda}-1\right)\sum_{i=1}^{n}p_i \exp\left(\dfrac{\ln(1+\exp(-b_i(x^Ta_i+x_0)))}{\lambda}\right)\\ \end{aligned} $$
式変形すると、(#ここからの式変形がわかりません。)
$$ \begin{aligned} \min_{\lambda>0,\eta,x} \quad & \epsilon\lambda +\eta +\lambda\exp\left(-\dfrac{\eta}{\lambda}-1\right)\sum_{i=1}^{n}p_i \left(1+\exp(-b_i(x^Ta_i+x_0))\right)\\ \end{aligned} $$