久々に$\TeX$打ちをしたくなったのでちょっと書きます．抽象的でよくわからない群の要素を，複素正則行列に変換することで具体的に扱えるようにしたい！という群の表現論という分野があります．この文脈で群上のFourier変換というものがあることを最近知りました．ここでは有限群に限定しますが，これがみんな知ってる周期関数に対するFourier変換の拡張になってるっぽいことを確認してみたいと思います．
$G$ を有限群とします．
$\mathbb{C}$-線形空間$V$と群準同型$\rho \colon G \rightarrow \mathop{\mathrm{Aut}}_\mathbb{C}(V)$があるとき，組$(\rho, V)$を$G$の（線形）表現といい，$V$を$\rho$の表現空間という．ここで，$\mathop{\mathrm{Aut}}_\mathbb{C}(V)$の群演算は関数合成である．また，$V$の$\mathbb{C}$-線形空間としての次元を表現の次元といい，$\dim \rho$と表す．
単に$\rho$だけで$G$の表現ということもしばしばあり，このときは$\rho$の表現空間を$V_\rho$などと表します．また，$$ g \cdot v = \rho(g)(v) \quad (g \in G, v \in V) $$とおくことで，$G$の表現空間$V$上の表現を定めることは，$\mathbb{C}$-線形空間$V$への左$G$-作用を定めることと同じであることがわかります．こうして$V$を左$G$-加群とみなす立場では，$\rho$を省略して$V$だけで$G$の表現ということもあります．
表現の同値性と既約性を定義します．
$(\rho, V), (\sigma, W)$を$G$の表現とする．このとき，$\mathbb{C}$-線形写像$f \colon V \rightarrow W$が左$G$-加群の準同型であるとき，すなわち任意の$g \in G, v \in V$ に対し$$ f(\rho(g)(v)) = \sigma(g)(f(v)) $$が成立するとき，$f$は$G$-準同型であるといい，その全体を$\mathop{\mathrm{Hom}}_G(V, W)$と表す．特に$f$が可逆ならば$G$-同型であるといい，これが存在するとき$\rho \simeq \sigma$と表す．
$(\rho, V)$を$G$の表現とする．ここで$V$が非自明な$G$-部分加群をもたないとき，すなわち$V$の$\mathbb{C}$-部分線形空間$W$で$$ \rho(g)(W) \subset W \quad (\forall g \in G) $$を満たすものが$\{0\}$か$V$しかないとき，$(\rho, V)$は既約表現であるという．
次に，表現の指標というものを定義します．これには表現の本質的な情報が詰まっていて非常に重要らしいです．
$(\rho, V)$を$G$の表現とする．$g \in G$をとると，線形代数の一般論より$\rho(g) \in \mathop{\mathrm{Aut}}_\mathbb{C}(V)$のトレース$\mathop{\mathrm{tr}} \rho(g) \in \mathbb{C}$が一意に定まる．そこで$\chi_\rho \colon G \rightarrow \mathbb{C}$を$$ G \ni g \mapsto \mathop{\mathrm{tr}} \rho(g) \in \mathbb{C} $$で定義し，表現$\rho$の指標という．特に既約表現の指標を既約指標という．
既約指標について，公式を2つ紹介します．$\hat{G}$を$G$の既約表現の$\simeq$による代表元の集合とし，$\sim$を有限群$G$における共役関係，$C(s)$を$s \in G$の共役類とします．
$\rho, \sigma$を$G$の既約表現とすると，$$ \frac{1}{|G|} \sum_{g \in G} \overline{\chi_\rho(g)} \, \chi_\sigma(g) = \begin{eqnarray} \left\{ \begin{array}{l} 1 & (\rho \simeq \sigma) \\ 0 & (\rho \not\simeq \sigma) \end{array} \right. \end{eqnarray} $$が成立する．
$s,t \in G$に対し，$$ \sum_{\rho \in \hat{G}} \overline{\chi_\rho(s)} \, \chi_\rho(t) = \begin{eqnarray} \left\{ \begin{array}{l} \frac{|G|}{|C(s)|} & (s \sim t) \\ 0 & (s \not\sim t) \end{array} \right. \end{eqnarray} $$が成立する．
$G$から$\mathbb{C}$への写像全体を$\mathcal{L}(G)$とおくと，これは点ごとの和，スカラー倍により$\mathbb{C}$-線形空間になります．これをもとに，有限群上のFourier変換を定義します．
$\mathbb{C}$-線形写像$\mathscr{F} \colon \mathcal{L}(G) \rightarrow \bigoplus_{\rho \in \hat{G}} \mathop{\mathrm{End}}_\mathbb{C}(V_\rho)$を$$ \mathcal{L}(G) \ni \varphi \mapsto \left( \sum_{g \in G} \varphi(g)\rho(g) \right)_\rho \in \bigoplus\limits_{\rho \in \hat{G}} \mathop{\mathrm{End}}\nolimits_\mathbb{C}(V_\rho) $$で定義し，これを$G$上のFourier変換と呼びます．
$\mathbb{C}$-線形写像$\mathscr{F}^{-1} \colon \bigoplus_{\rho \in \hat{G}} \mathop{\mathrm{End}}_\mathbb{C}(V_\rho) \rightarrow \mathcal{L}(G)$を$$ \mathop{\mathrm{End}}\nolimits_\mathbb{C}(V_\rho) \ni \mu_\rho \mapsto \left\{ g \mapsto \frac{1}{|G|} \dim \rho \mathop{\mathrm{tr}} \left( \rho(g^{-1}) \circ \mu_\rho \right) \right\} \in \mathcal{L}(G) $$で定義し，これを$G$上の逆Fourier変換と呼びます．
これらが記号通りに，互いに逆写像になっているか調べます．
上の$\mathscr{F}$と$\mathscr{F}^{-1}$は互いに逆写像である．
任意の$\varphi \in \mathcal{L}(G)$に対し，$$ \begin{align} (\mathscr{F}^{-1} \circ \mathscr{F})(\varphi) &= \mathscr{F}^{-1} \left( \left( \sum_{g \in G} \varphi(g)\rho(g) \right)_\rho \right) \\ &= \left\{ h \mapsto \frac{1}{|G|} \sum_{g \in G} \sum_{\rho \in \hat{G}} \dim \rho \mathop{\mathrm{tr}} \left( \rho(h^{-1}) \circ \varphi(g)\rho(g) \right) \right\} \end{align} $$だが，$$ \begin{align} & \frac{1}{|G|} \sum_{g \in G} \sum_{\rho \in \hat{G}} \dim \rho \mathop{\mathrm{tr}} \left( \rho(h^{-1}) \circ \varphi(g)\rho(g) \right) \\ =& \frac{1}{|G|} \sum_{g \in G} \varphi(g) \sum_{\rho \in \hat{G}} \dim \rho \mathop{\mathrm{tr}} \left( \rho(h^{-1}g) \right) \\ =& \frac{1}{|G|} \sum_{g \in G} \varphi(g) \sum_{\rho \in \hat{G}} \overline{\chi_\rho(1_G)} \, \chi_\rho(h^{-1}g) \\ =& \frac{\varphi(h)}{|G|} |G| = \varphi(h) \end{align} $$ゆえ$(\mathscr{F}^{-1} \circ \mathscr{F})(\varphi) = \varphi$.すなわち$\mathscr{F}^{-1} \circ \mathscr{F} = \mathrm{id}_{\mathcal{L}(G)}$だから，$\mathscr{F}$は単射である．また，$\mathbb{C}$-線形空間としての次元は，$$ \begin{align} \dim_\mathbb{C} \left( \bigoplus_{\rho \in \hat{G}} \mathop{\mathrm{End}}\nolimits_\mathbb{C}(V_\rho) \right) &= \sum_{\rho \in \hat{G}} \left( \dim_\mathbb{C} V_\rho \right)^2 \\ &= \sum_{\rho \in \hat{G}} \overline{\chi_\rho(1_G)} \, \chi_\rho(1_G) \\ &= |G| = \dim_\mathbb{C} \mathcal{L}(G) \end{align} $$となるゆえ，$\bigoplus_{\rho \in \hat{G}} \mathop{\mathrm{End}}_\mathbb{C}(V_\rho) \simeq_\mathbb{C} \mathcal{L}(G)$で，$\mathscr{F}$は全単射．これより$\mathscr{F} \circ \mathscr{F}^{-1} = \mathrm{id}_{\bigoplus_{\rho \in \hat{G}} \mathop{\mathrm{End}}_\mathbb{C}(V_\rho)}$もわかる．$\Box$
次に，畳み込み積というものを定義します．
$\mathcal{L}(G)$上の演算$\ast$を，$\varphi, \psi \in \mathcal{L}(G)$に対し，$$ (\varphi \ast \psi)(g) := \sum_{h \in G} \varphi(h)\psi(h^{-1}g) \quad (\forall g \in G) $$で定める．これを畳み込み積という．
唐突ですが，群環$\mathbb{C}[G]$というものがあります．これは$G$の各元$g \in G$を基底とする$\mathbb{C}$-線形空間です．つまり$\mathbb{C}[G]$は，形式的な和$$
\sum_{g \in G} c_g g \quad (c_g \in \mathbb{C})
$$の全体となっています．これには，$G$の積を$\mathbb{C}$-線形に拡張したものが積として入っています．すなわち，$$
\left( \sum_{g \in G} c_g g \right) \cdot \left( \sum_{h \in G} d_h h \right) = \sum_{g \in G} \sum_{h \in G} c_g d_h gh
$$です．$\varphi \in \mathcal{L}(G)$の$\varphi(g)$を$\mathbb{C}[G]$の$g$成分とみなす対応$$
\varphi \leftrightarrow \sum_{g \in G} \varphi(g)g
$$により$\mathbb{C}$-線形同型$\mathcal{L}(G) \simeq_\mathbb{C} \mathbb{C}[G]$を得ますが，
$$
\left( \sum_{g \in G} c_g g \right) \cdot \left( \sum_{h \in G} d_h h \right) = \sum_{g \in G} \sum_{h \in G} c_g d_h gh = \sum_{h \in G} \left( \sum_{g \in G} c_g d_{g^{-1}h} \right) h
$$なので，$\mathcal{L}(G)$の畳み込み積は$\mathbb{C}[G]$に素朴に定義された積に対応することがわかります．したがって，畳み込み積を$\mathcal{L}(G)$の積とすると，$\mathbb{C}$-多元環の同型$\mathcal{L}(G) \simeq \mathbb{C}[G]$が成立します．
以下の定理は$\mathbb{C}[G]$に移して考えると超簡単ですが，ここでは直接計算して示します．
$\varphi, \psi \in \mathcal{L}(G)$に対し，$$ \mathscr{F}(\varphi \ast \psi) = \mathscr{F}(\varphi) \circ \mathscr{F}(\psi) $$が成り立つ．
$$ \begin{align} \mathscr{F}(\varphi \ast \psi) &= \left( \sum_{g \in G} (\varphi \ast \psi)(g) \rho(g) \right)_\rho \\ &= \left( \sum_{g \in G} \sum_{h \in G} \varphi(h)\psi(h^{-1}g) \rho(g) \right)_\rho \\ &= \left( \sum_{g \in G} \sum_{h \in G} \varphi(h)\psi(g) \rho(hg) \right)_\rho \\ &= \left( \left( \sum_{h \in G} \varphi(h) \rho(h) \right) \circ \left( \sum_{g \in G} \psi(g) \rho(g) \right) \right)_\rho \\ &= \mathscr{F}(\varphi) \circ \mathscr{F}(\psi) \end{align} $$
以上より，成分ごとの関数合成を$\bigoplus_{\rho \in \hat{G}} \mathop{\mathrm{End}}_\mathbb{C}(V_\rho)$の積とすると，$\mathbb{C}$-多元環のとしての同型$$ \mathcal{L}(G) \simeq \mathbb{C}[G] \simeq \bigoplus_{\rho \in \hat{G}} \mathop{\mathrm{End}}\nolimits_\mathbb{C}(V_\rho) $$が成立することがわかります．
最後に，周期関数のFourier変換について簡単に言及します．$G$を加法群$\mathbb{R}/2\pi\mathbb{Z}$とします．これは有限群ではないので，本稿の議論はそのまま適用できません．本来ならば位相を入れて色々考慮しなければなりませんが，そこらへんは雰囲気でやります．$\mathcal{L}(G)$は周期$2\pi$の関数$f \colon \mathbb{R} \rightarrow \mathbb{C}$の全体のことです．実は，$G$の既約（連続）表現は全て1次元で，$$ \rho_n \colon G \ni \theta \mapsto e^{-in\theta} \in \mathbb{C}^{\times} \simeq \mathop{\mathrm{Aut}}\nolimits_\mathbb{C}(\mathbb{C}) \quad (n \in \mathbb{Z}) $$の形に限られることが示せます．$G$は無限群ゆえ和は積分になるから，Fourier変換は，$$ \mathscr{F} \colon \mathcal{L}(G) \ni f \mapsto \left( \int_G f(\theta) e^{-in\theta} d\theta \right)_n \in \prod_{n \in \mathbb{Z}} \mathbb{C} \simeq \prod_{n \in \mathbb{Z}} \mathop{\mathrm{End}}\nolimits_\mathbb{C}(\mathbb{C}) $$となり，Fourier逆変換は，$$ \mathscr{F}^{-1} \colon \prod_{n \in \mathbb{Z}} \mathbb{C} \ni (a_n)_{n \in \mathbb{Z}} \mapsto \left\{ G \ni \theta \mapsto \frac{1}{2\pi} \sum_{n \in \mathbb{Z}} a_n e^{in\theta} \in \mathbb{C} \right\} \in \mathcal{L}(G) $$となります．これは周期関数のFourier変換に他なりません．