分数階Fourier変換(Fractional Fourier transform)の紹介をします.
$f\in L^2(\mathbb{R})$に対し, 1次元のFourier変換を周波数タイプで定義しておきます:
$$
\mathcal{F}[f](\xi)=\int_\mathbb{R} f(x)e^{-2\pi ix\xi}dx.
$$
つまり, $\xi$は周波数(Hz)の性質を持っています. 周波数タイプの$\mathcal{F}$は定数倍のズレがない$L^2(\mathbb{R})$上のユニタリー作用素でした.
また, Fourier変換には以下のような4周期の自己同型性がありました:
$$
\mathcal{I} \longrightarrow \mathcal{F} \longrightarrow \mathcal{P} \longrightarrow \mathcal{I}.
$$
ここで$\mathcal{P}$は時間反転のパリティ作用素です. この矢印の狭間に向かう作用素として分数階Fourier変換(FrFT)を定義しましょう. つまり, FrFTは関数を時間空間と周波数空間の†狭間の世界†に送ります.
あまり難しい話をしても疲れるので, $\mathcal{F}$の固有関数は$\ell$次のHermite-Gauss関数$\psi_\ell$であることを認めておきましょう:
$$
\mathcal{F}[\psi_\ell]=e^{-i\frac{\ell\pi}{2}}\psi_\ell.
$$
ここで, Hermite-Gauss関数とはRodriguesの公式によるHermite多項式
$$
H_\ell(x)=(-1)^\ell e^{x^2}\frac{d^\ell}{dx^\ell}e^{-x^2}$$
を用いて
$$
\psi_\ell(x)=\frac{2^\frac{1}{4}}{\sqrt{2^\ell\ell!}}H_\ell(\sqrt{2\pi}x)e^{-\pi x^2}
$$で定義されるものです.
次の一般化は妥当でしょう.
$a$階のFrFT$\mathcal{F}^a$を
$$
\mathcal{F}^a[\psi_\ell]=\left(e^{-i\frac{\ell\pi}{2}}\right)^a\psi_\ell
$$
を満たすものとして定義する.
この定義だけを見れば, FrFTは固有関数の選び方に依っています. しかし, 実はHermite-Gauss関数系は$L^2(\mathbb{R})$の正規直交基底になっています! 量子論などでHermite多項式の直交性などを見たことがある人にとっては「そうなんだ」となりますが, そうでない人にとっては驚きでしょう.
つまり, 任意の関数$f\in L^2(\mathbb{R})$は
$$
f=\sum_{\ell=0}^\infty c_\ell \psi_\ell,\qquad c_\ell=\int_\mathbb{R}f(x')\overline{\psi_\ell(x')}dx'
$$
と展開することができます. この両辺にFrFT-1の$\mathcal{F}^a$を作用させることで, 形式的に
$$\begin{split}
\mathcal{F}^a[f](x)&=\sum_{\ell=0}^\infty \left\{\int_\mathbb{R}f(x')\overline{\psi_\ell(x')}dx'\right\}\cdot e^{-i\frac{a\ell\pi}{2}}\psi_\ell(x)\\
&=\int_\mathbb{R}f(x')\left(\sum_{\ell=0}^\infty \psi_\ell(x) \overline{\psi_\ell(x')} e^{-i\frac{a\ell\pi}{2}}\right)dx'\\
&=:\int_\mathbb{R}f(x')K(a;x,x')dx'\\
\end{split}
$$
を得ます.
積分核を具体的に計算すれば, 陽なFrFTの定義を得ることができますが, 果たしてこんなものを計算できるのでしょうか?
実は, Mehlerの公式という素晴らしいものが存在していて, これを助けてくれます. Mehler核の証明は省略しますが, 結果として次を得ます.
積分核は以下で表される:
$$
K(a;x,x')=\sqrt{1-i\cot\frac{a\pi}{2}}\exp\left[i\pi \left(\cot \frac{a\pi}{2}x^2-2\csc\frac{a\pi}{2}xx'+\cot\frac{a\pi}{2}{x'}^2\right)\right].
$$
これを用いて,$a$階のFrFTは次で表される:
$$
\mathcal{F}^a[f](x)= \int_\mathbb{R}f(x')K(a;x,x')dx'.
$$
積分核は$a$の値による特異性を持つため, $j$を整数として以下のように場合分けをしておきましょう:
$$
K(a;x,x')=
\begin{cases}
\sqrt{1-i\cot\frac{a\pi}{2}}\exp\left[i\pi \left(\cot \frac{a\pi}{2}x^2-2\csc\frac{a\pi}{2}xx'+\cot\frac{a\pi}{2}{x'}^2\right)\right] & (a\neq 2j),\\
\delta(x-x') & (a=4j),\\
\delta(x+x') & (a=4j\pm2).
\end{cases}
$$
$L^2(\mathbb{R})$でデルタ関数なんて絶対許さないマンは積分核表示をしなければ回避できます. また, 文献によっては$\alpha:= a\pi/2$とし,$\alpha$階で考えることもあります. 根号における偏角を気にするならば$(-\pi/2,\pi/2]$で主値を選びましょう.
通常のFourier変換と一致して欲しい! $K(1;x,x')$を書き下すと
$$
\begin{split}
K(1;x,x')&=\sqrt{1-i\cot\frac{\pi}{2}}\exp\left[i\pi \left(\cot \frac{\pi}{2}x^2-2\csc\frac{\pi}{2}xx'+\cot\frac{\pi}{2}{x'}^2\right)\right]=\exp\left[i\pi \left(-2xx'\right)\right]
\end{split}
$$
となり, 確かに一致しました! ただし, $\cot\pi/2=0$としたことに注意しましょう.