Φ-ダイバージェンスはKLダイバージェンスを包含してるよ。

$\varphi (z)=z\ln z-z+1$とおく.

$\sum _i{p}_i\varphi \left({\displaystyle \frac{q_i}{p_i}}\right)$

$=\sum _i{p}_i({\displaystyle \frac{q_i}{p_i}}\ln {\displaystyle \frac{q_i}{p_i}}-{\displaystyle \frac{q_i}{p_i}}+1)$ ($\because$ $\varphi (z)$を代入)

$=\sum _i(q_i\ln {\displaystyle \frac{q_i}{p_i}}-q_i+p_i)$

$=\sum _i{q}_i\ln {\displaystyle \frac{q_i}{p_i}}-\sum _i{q}_i+\sum _i{p}_i$

$=\sum _i{q}_i\ln {\displaystyle \frac{q_i}{p_i}}$ ($\because$ $\sum _i{p}_i=1$, $\sum _i{q}_i=1$, )

$\varphi (z)=z\ln z-z+1$のとき, $\varphi$-ダイバージェンスはKullback-Leiblerダイバージェンスに一致する.