前記事 Peter-Weylの定理 によって、コンパクト群のユニタリ表現は既約表現(有限次元)の直和に分解されることを見ました。今回は左正則表現$L^2(G)$で具体的な直和分解を見ようと思います。それはFourier変換によって記述されます。コンパクト群のHaar測度は全測度が1になるよう規格化しておきます。
$\F:C(G)\ni\xi\longmapsto(\int_G\xi(g)\pi(g)dg)_\pi\in\prod_{\pi\in\hat{G}}\End(\H_\pi)$
ここで、$\hat{G}$とは$G$の既約表現全体の集合であり、$\H_\pi$はその表現空間である。
$\F$は$L^1(G)\to\bigoplus_{\pi\in\hat{G}}\B(\H_\pi)$への縮小線形写像(作用素ノルム1以下)に延び、これは$*$-準同型になる。
ここで、$\B(\H)$とは$\End(\H)$に作用素ノルムを入れたBanach空間であり、Banach空間の直和($c_0$-product)とは直積の中で成分のノルムが0に収束するもの全体のことである。始域終域はどちらも$*$-代数になっている、$L^1(G)$には畳み込み積と$\xi^*(g):=\overline{\xi(g^{-1})}$による$*$-演算が入り、$\B(\H)$には行列積と共役転置が入る。
長々と書きましたが、$G$上の関数を「$\hat{G}$上の関数」に送る写像になっています。しかし、関数と言っても、$\hat{G}$という離散空間の各点の上に行列環$\End(\H_\pi)$が乗っていて、行列値の関数になっています。
$\F$は$L^2(G)\to\int^\oplus_{\hat{G}}\HS(\H_\pi)d\mu(\pi)$というユニタリ(等長全射)に延びる。
普通Hilbert空間の直和は成分毎の内積の総和によって内積が定めてから完備化するが、その総和に重み$\mu(\pi)$を掛けて足しあげたものでの完備化を$\int^\oplus_{\hat{G}}$で書いている。また、$\HS(\H)$とは$\End(\H)$にHilbert-Schmidt内積を入れたHilbert空間である。$\mu(\pi):=d_\pi:=\dim\H_\pi$という重みでの$\hat{G}$上の数え上げ測度を$\mu$と書いている。
$\F$は$G\times G$の両側掛け算による作用と可換である。$L^2(G)$には左右平行移動が、$\HS(\H_\pi)$には左右からの$\pi(g)$の行列積が入る。
左からの$G$作用だけ見ることで、$L^2(G)$の左正則表現は全ての既約表現を含み、その重複度($\HS$という行列の「横方向」)は丁度$d_\pi$になっています。
逆変換は$\bigoplus_{\pi\in\hat{G}}\End(\H_\pi)\ni(T_\pi)\longmapsto\int_{\hat{G}}\Tr(\pi(g)^*T_\pi)d\mu(\pi)\in C(G)$である。
つまりこれがユニタリに延びて$L^2(G)$上の$\F$の逆写像になっていたり、適切なところに制限すると$L^1(G)$上の$\F$の逆変換になっている。
最後に、局所コンパクト可換群との類似と相違点について少し触れます。局所コンパクト可換群の話は「Pontryagin双対」と調べたら色々出てくると思いますが、普通の$\R,\R/\Z$上のFourier変換と同じように$L^1(G),L^2(G)$上に延長され、Riemann-Lebesgueの補題やPlancherelの定理が成立します。その場合$\hat{G}$は離散的にはなりませんが、自然に局所コンパクト可換群となり、各$\H_\pi$は1次元です。Fourier変換の終域はそれぞれ$C_0(\hat{G}),L^2(\hat{G})$になります。$\hat{G}$上のある測度$\mu$が(Plancherelの定理によって)定まり、可換群の場合は$\hat{G}$上のHaar測度になります。
$\sum_{\pi\in\hat{G}}\mu(\pi)\inpro{\F\xi(\pi),\F\eta(\pi)}_{\HS(\H_\pi)}=\inpro{\xi,\eta}_{L^2(G)}$
上の定理2の「等長性」の部分をPlancherelの定理と呼びます。左辺は$\int^\oplus_{\hat{G}}\HS(\H_\pi)d\mu(\pi)$の内積を具体的に書いたものです。
このPlancherelの定理だけ証明しようと思うんですが、その前に上の定理についてコメントをします。大体Follandの抽象調和解析の教科書に載ってるので詳しくはそちらを参照していただきたいです。
定理1で一番難しい部分は$\F$の像が$c_0$-productに入ることだと思います。それ以外のパートはFubiniの定理なり基本的な積分計算でできます(Folland3章あたり)。
前記事
Peter-Weylの定理
で行列要素が$C(G)$で稠密なことを見ましたが、実は(例えば定理3から)それらは$\F$で送ると本当の代数的な直和に入っていることが分かり、あとは稠密性から出ます。
$\F$の等長性だけ言って全射性に触れていませんが、それは行列要素の像が代数的な直和を生成することから分かります。像の稠密性です。
左右掛け算で不変なことはHaar測度の両側不変性から分かります。一般の局所コンパクト群では左不変性しかありません(Haar測度に右掛け算すると謎のスカラー倍が起きる)が、有限測度なのでそのスカラーが1になります。
$\sum_{\pi\in\hat{G}}\mu(\pi)\inpro{\F\xi(\pi),\F\eta(\pi)}_{\HS(\H_\pi)}=\inpro{\xi,\eta}_{L^2(G)}$
Plancherelの定理にて$\F\xi(\pi)=\int_G\xi(g)\pi(g)dg$の積分と内積を交換すると
$\int_G\overline{\xi(g)}\sum_{\pi\in\hat{G}}\mu(\pi)\inpro{\pi(g),\F\eta(\pi)}_{\HS(\H_\pi)}dg=\int_G\overline{\xi(g)}\eta(g)dg$
なので、$\int_G\overline{\xi(g)}$を外して得ます。
計算するだけで示せるんですが、もっと何が起きてるか理解したいと思ったので、やや一人よがりな証明をします。まずは基本的な道具を持ってきます。
前記事 Peter-Weylの定理 でも出てきましたが、一般にHilbert空間の複素スカラー倍を複素共役で捻ったHilbert空間(実ベクトル空間としては全く同じ)を共役空間と呼びます。元の空間に表現が入っていたらその共役にも表現が入り、それを共役表現と呼びます。
Rieszの表現定理によりHilbert空間とその双対空間は同一視されますが、その同一視はスカラー倍をその複素共役に移してしまいます。なので双対空間は元の空間ではなくその共役空間だと思うべきです。
$\H$の共役を$\overline{\H}$と書き、その元を$\overline{\xi}\ (\xi\in\H)$と書きます。$\overline{\xi}+\overline{\eta}:=\overline{\xi+\eta},\overline{\lambda}\ \overline{\xi}:=\overline{\lambda\xi}$によって線形空間となり、$\inpro{\overline{\xi},\overline{\eta}}=\overline{\inpro{\xi,\eta}}$によってHilbert空間になります。$T\in\B(\H)$に対し$\overline{T}\ \overline{\xi}:=\overline{T\xi}$によって$\overline{T}\in\B(\overline{\H})$が定まります。
ここまでで出てきた\overlineはほとんど形式的に載せたもの($\overline{\H}$は集合としては$\H$そのもの)であるが、唯一$\overline{\lambda}$だけ本当に複素共役を表しているから、共役空間とはスカラー倍を捻っただけのHilbert空間です。
$\pi:G\act\H$があったら共役表現$\overline{\pi}:G\act\overline{\H}$は$\overline{\pi}(g):=\overline{\pi(g)}$が定まり、これは行列の言葉では単に成分を全て複素共役しただけのものです。
Hilbert空間$\H,\H'$に対し、$\HS(\H,\H')$と$\H'\otimes\overline{\H}$は自然に同型。
記号の説明だけします。$\HS(\H,\H')$とは$\H$から$\H'$への有限階作用素$T$全体を$\norm{T}_2:=\Tr(T^*T)^{\frac12}$で定まるノルムで完備化した空間であり、Hilbert空間のテンソル積とは代数的なテンソル積の上に$\inpro{(\xi\otimes\xi'),(\eta\otimes\eta')}:=\inpro{\xi,\eta}\inpro{\xi',\eta'}$で定まる内積で完備化した空間です。
$\eta'\otimes\overline{\eta}\in\H'\otimes\overline{\H}$を$\xi\mapsto\inpro{\eta,\xi}\eta'$という$\H\to\H'$の有限階作用素に送ることで等長全射を得ます。
既約表現$\pi,\pi'$に対し、$\hom_G(\H_\pi,\H_{\pi'})$は$\pi\neq\pi'$のとき$0$で$\pi=\pi'$のとき$\C\id$
有限群の場合と同じ証明です。一般に$\hom_G(\H_\pi\otimes\C^n,\H_\pi\otimes\C^m)=\hom_\C(\C^n,\C^m)$みたいになっています。Peter-Weylの定理により任意の表現$G\act\H$は既約表現の直和に分解されますが、その既約成分を抜き出すときに使います。$\hom_G(\H_\pi,\H)$の次元は$\H$の中での$\pi$の重複度です。もっと言えば作用素にベクトルを当てる操作$\H_\pi\otimes\HS_G(\H_\pi,\H)\to\H$は$G$-同変な等長写像で、その像が$\pi$-既約成分です。
$\pi:G\act\H$に対し$L^2(G)\otimes\H_\triv$と$L^2(G)\otimes\H$は表現として同型。$\H_\triv$は$\H$に自明表現を入れた空間であり、$\lambda_G\otimes1$と$\lambda_G\otimes\pi$が同型という意味($\lambda_G$は左正則表現)。
$L^2(G)\otimes\H=L^2(G,\H)$です。右辺は$\H$値の自乗可積分関数全体ですが、難しいことは考えず$C(G,\H)$という連続関数全体の完備化くらいに思っておけば大丈夫です。$L^2(G,\H_\triv)$から$L^2(G,\H)$へ「各点毎に$\pi(x)$を掛けるユニタリ$U$」を考えます。以下の通り表現を保ちます。
$\xymatrix{
L^2(G,\H_\triv)\ni\xi(x)\ar[r]^{U}\ar[d]^{(\lambda_G\otimes1)(g)}& \pi(x)\xi(x)\in L^2(G,\H)\ar[d]_{(\lambda_G\otimes\pi)(g)}\\
\xi(g^{-1}x)\ar[r]^U & \pi(g^{-1}x)\xi(g^{-1}x)
}$
Plancherelの定理を示しますが、その前にもっと弱く、左正則表現が全ての既約表現を(重複度$d_\pi$で)含むことを見ます。$\pi\in\hat{G}$に対し、$\HS(\H_\pi,L^2(G))=\hom(\H_\pi,L^2(G))$の$G$-自明空間($G$作用で固定されるベクトル全体)の次元が$d_\pi$になっていればいいです。$\HS(\H_\pi,L^2(G))=L^2(G)\otimes\overline{\H_\pi}$はFell absorbingから$\lambda_G\otimes1$という表現に同型ですが、$\lambda_G$の$G$-自明空間とは定数関数の1次元だけなので、$\otimes1$分の$\dim\overline{\H_\pi}$が出てきます。
ここで出てきた$G$-自明空間$\overline{\H_\pi}\subset L^2(G)\otimes\overline{\H_\pi}$を使うことで$\F$の等長性を示します。
$\F:C(G)\to\int^\oplus_{\hat{G}}\HS(\H_\pi)d\mu(\pi)$は左$G$掛け算で不変だから$\pi$-既約成分($\pi$と同型な部分表現が張る空間)を$\pi$-既約成分に送る($\pi\in\hat{G}$)。後で分かるように、$C(G)$の$\pi$-既約成分とは単に$\pi$の行列要素が張る空間である。故に等長性は各$\pi$-既約成分間で示せばいい。その取り出し方とは$\H_\pi\otimes\HS_G(\H_\pi,\H)$だから、結局$\F_\pi:\HS_G(\H_\pi,L^2(G))\to\HS_G(\H_\pi,\H_\pi\otimes(\overline{\H_\pi})_\triv)$ という「$\HS$作用素に$\F$を合成する操作」が重み$\mu(\pi)$を除いて等長的であればいい。重み、というのは$\F$の終域の直和は重み付きの直和だったから、ノルムが$d_\pi^{-\frac12}$倍になっていたらOK。
証明前の議論から、この左辺は$\overline{\H_\pi}$であり右辺はSchurの補題から$\overline{\H_\pi}$である。「である」というのは単にHilbert空間としてだけでなく表現としてでもある。$L^2(G)$には右掛け算から来る表現が、$\overline{\H_\pi}_\triv$には$\overline{\pi}$という表現が入るため、$\HS_G(\H_\pi,L^2(G)),\HS_G(\H_\pi,\H_\pi\otimes(\overline{\H_\pi})_\triv)$には$G$の表現が入りこれが$\overline{\pi}$である。以上から$\F_\pi:\overline{\H_\pi}\to\overline{\H_\pi}$がスカラー倍であることが分かったから、これが$d_\pi^{-\frac12}$倍であることを見ればいい。もう$\pi$以外の表現は出てこないので$\H=\H_\pi$と書く。
$\xymatrix{
\overline{\H}\otimes L^2(G)\ar[r]^{1\otimes\F}& \overline{\H}\otimes(\H\otimes\overline{\H}_\triv)\ar[dd]_{G\text{-自明空間}}\\
L^2(G,\overline{\H}_\triv)\ar[u]_{U,\text{各点毎に$\pi$を掛ける}}&\\
\overline{\H}\ar[u]_{G\text{-自明空間}}& \C\id_\H\otimes\overline{\H}
}$
これを具体的に計算すると、$\overline{\xi}\in\overline{\H}$に対し$g\mapsto\overline{\pi(g)\xi}$という$L^2(G,\overline{\H})$の元だと思い、値の$\overline{\H}$の方は無視してFourier変換$\F_\pi$すると$\int_G\overline{\pi(g)\xi}\otimes\pi(g)dg\in\overline{\H}\otimes\H\otimes\overline{\H}$が出てくるが、これが実は$\C\id_\H\otimes\overline{\H}$の元になるということ。ここで$\id_\H\in\overline{\H}\otimes\H$とは正規直交基底$\{e_n\}\subset\H$を使って$\sum_n\overline{e_n}\otimes e_n$のことである。
\begin{align*}
\inpro{\id\otimes\overline{\xi},\int_G\overline{\pi(g)\xi}\otimes\pi(g)dg}&=\int_G\sum_n\overline{\inpro{e_n,\pi(g)\xi}}\Tr\left((e_n\otimes\overline{\xi})^*\pi(g)\right)dg\\
&=\int_G\sum_n\abs{\inpro{e_n,\pi(g)\xi}}^2dg\\
&=\int_G\norm{\pi(g)\xi}^2dg\\
&=1
\end{align*}
$\int_G\overline{\pi(g)\xi}\otimes\pi(g)dg$は$\id\otimes\overline{\xi}$のスカラー倍であり、$\norm{\id\otimes\overline{\xi}}=d_\pi^{\frac12}\norm{\xi}$だから結局$\norm{\int_G\overline{\pi(g)\xi}\otimes\pi(g)dg}=d_\pi^{-\frac12}\norm{\xi}$となり$d_\pi^{-\frac12}$倍が出てきた。