【量子情報理論】フォンノイマンエントロピーとシャノンエントロピーの関係
はじめに
フォン・ノイマンエントロピーとシャノンエントロピー関係について説明する。まずはじめにそれぞれの定義をおさらいしよう。
それぞれの定義
フォン・ノイマンエントロピー$H(\rho)$は密度演算子$\rho$を用いて以下で定義される。
$$
H(\rho):=- \Tr \rho \log \rho
$$
シャノン・エントロピーとは確率変数$X$における確率を$p_i$としたとき以下で定義される。
$$ H(X):=- \sum_i p_i \log p_i $$
それぞれの関係
フォンノイマンエントロピーは量子状態におけるシャノンエントロピーである。実際に密度演算子を固有値分解することでシャノンエントロピーの形式に戻すことができる。
導出過程の確認の前準備(必要な定義や定理の確認)
導出過程に必要な定義や公式について整理する。
密度演算子とは以下を満たす演算子のことである
$$
\rho >0 ,\Tr \rho =1
$$
この密度演算子を固有値分解してあげた形が以下である。
$$ \rho = \sum_i p_i\ketbra{\psi_i}{\psi_i} $$
正規演算子$A=\sum_{k=i}^{d}a_k \ketbra{\phi_k}{\phi_k}$としたとき$f(A)$は
$$
f(A):=\sum_{k=1}^{d}f(a_k) \ketbra{\phi_k}{\phi_k}
$$
になる。
これのイメージとしては関数は固有値にしか反応しないことを意味する。
この演算子の関数より
$\log \rho = \sum_{k=1}^{d}\log (p_i) \ketbra{\phi_k}{\phi_k}$であることに注意する。
トレースの性質としていかが成り立つ。
$$
\Tr (\ket{\psi}\bra{\phi}) = \braket{\phi}{\psi}
$$
導出過程
\begin{align}
H(\rho)&:=- \Tr \rho \log \rho\\
& =- \Tr \sum_{i=1}^d p_i\ketbra{\psi_i}{\psi_i} (\sum_{k=1}^{d}\log (p_k) \ketbra{\psi_k}{\psi_k})\\
&= - \Tr\sum_{i=1}^d \sum_{k=1}^{d} p_i \log (p_k) \ketbra{\psi_i}{\psi_i}
\ketbra{\psi_k}{\psi_k}\\
&= -\Tr \sum_{i=1}^d \sum_{k=1}^{d} p_i\log (p_k) \ket{\psi_i} \braket{\psi_i}{\psi_k} \bra{\psi_k}\\
&=-\Tr \sum_{i=1}^d p_i\log (p_i) \ketbra{\psi_i}{\psi_i}\\
&=- \sum_{i=k}^dp_i \log (p_i) \Tr \ketbra{\psi_i}{\psi_i}\\
&=-\sum_{i=1}^d p_i\log (p_i) \braket{\psi_i}{\psi_i}\\
&=-\sum_{i=1}^d p_i\log (p_i)\\
&= H(X)
\end{align}
したがって、フォンノイマンエントロピーからシャノンエントロピーを導出できた。
