Generalized Hankel Transform

472

記号,分岐を次のように定める。
$C^{\times} = C ∖ {0},$
複素数の偏角 $\arg : C^{\times} \to (- π, π]$
$\sqrt{z} = \sqrt{| z |} \exp (\frac{i}{2} \arg z)$
$z^{α} = | z |^{α} \exp (i α \arg z)$
$\exp u [v] = e^{u v}$
$\det = 1$ の $2 \times 2$ 実行列全体 $S L (2, R)$
$G :$ 整関数で実関数としての制限はSchwartz空間に属するようなもの全体
$G_{e} = {g (x^{2}) | g \in G}$
$β = α + \frac{1}{2}$
$γ = - 2 π i (α + 1)$
$sgn (x) = x / | x |$

Hankel変換はFourier変換の一般化である。Fourier Transform(FT)をLie群構造として一般化するとLinear Canonical Transform(LCT)と呼ばれるMetaplectic群の表現となるのであった。僕はHankel変換を $S L (2, R)$ の普遍被覆群 $\tilde{S L} (2, R)$ の表現として実現する一般化Generalized Hankel Transform(GHT)を思いついた。今回はその計算について得られた結果を示す。前回の記事(Fractional Hankel Transform, FrFT) の続きである。

Bessel関数

$J_{α} (z) = \sum_{n = 0}^{\infty} \frac{{(- 1)}^{n}}{n! Γ (n + α + 1)} {(\frac{z}{2})}^{2 n + α}$

GHT

$\begin{aligned} H_{α} (\begin{array}{cc} M_{11} & M_{12} \\ M_{21} & M_{22} \end{array}) \cdot f (x) \\ = & \frac{e^{γ sgn (M_{21}) / 4}}{| M_{21} |} \int_{0}^{\infty} f (t) \exp \frac{i}{2 M_{21}} [M_{11} x^{2} + M_{22} t^{2}] J_{α} (\frac{x t}{| M_{21} |}) {(\frac{t}{x})}^{α} t d t \\ = & | M_{22} |^{- 1 - α} e^{γ (1 - sgn (M_{22})) / 4} f (M_{11} x) \exp (\frac{i}{2} M_{11} M_{12} x^{2}) (iff M_{21} = 0) \end{aligned}$
$f \in G, M = (\begin{array}{cc} M_{11} & M_{12} \\ M_{21} & M_{22} \end{array}) \in S L (2, R), つまり \det (M) = 1, x > 0$
$M_{21}$ が $0$ か否かで表示が $3$ 行目か $2$ 行目かが変化する。

積構造

$L, M, N \in S L_{2} (R), n_{0}, n_{1}, n_{2}, n_{3} \in Z, ϵ \in {- 1, 0, 1}$
$n_{3} := n_{1} + n_{2} + ϵ$
$ϵ$ が存在して $G$ への作用が一致するという同値類のもとで次の演算子の恒等式が成立する。
$H_{α} (I) \equiv 1$
$e^{γ n_{1}} H_{α} (M) e^{γ n_{2}} H_{α} (N) \equiv e^{γ n_{3}} H_{α} (L)$
$e^{γ n_{0}} H_{α} (M_{0}) (e^{γ n_{1}} H_{α} (M_{1}) e^{γ n_{2}} H_{α} (M_{2})) \equiv (e^{γ n_{0}} H_{α} (M_{0}) e^{γ n_{1}} H_{α} (M_{1})) e^{γ n_{2}} H_{α} (M_{2})$
${(e^{γ n_{0}} H_{α} (M))}^{- 1} \equiv e^{- γ n_{0}} H_{α} (M^{- 1})$

つまり $e^{γ n_{1}} H_{α} (M)$ はLie群 $\tilde{S L} (2, R)$ の $G$ 上の表現である。

証明の概略は以下の通りである。FrFTの微分演算子による表示を使って公式を作り出し、GHTの積分核をHankel変換したときの結果を導出するためにいくつかの公式を用意する。GHTの積分核のHankel変換の式からGHTの積構造の一部を導出して、パラメータの一部を極限で飛ばして退化させる(Lie群的には可解部分群に制限する)操作で一般のGHTの積構造を証明する。

Bessel関数の直交性

$\int_{0}^{\infty} x J_{α} (u x) J_{α} (v x) d x = \frac{δ (u - v)}{u}$

証明は略。Wikipedia "Bessel function "に載っている。

Kummerの

_{1} F_{1}

変換公式

$\begin{array}{r} _{1} F_{1} (\begin{array}{cc} a \\ c \end{array} | z) = e^{z}_{1} F_{1} (\begin{array}{cc} c - a \\ c \end{array} | - z) \end{array}$

証明はNKS君のpdfにあるので略
『超幾何級数I』定理4.1

GHTのLie代数構造

$\begin{aligned} E_{+} = & \frac{i}{2} x^{2} \\ E_{-} = & \frac{i}{2} (\partial^{2} + \frac{2 α + 1}{x} \partial) \\ H = & x \partial + α + 1 \end{aligned}$
とするとこれはLie代数 $s l_{2}$ の表現になっている。

(いまからGHTのLie群構造を証明してからそのLie群のLie代数を求めようとしているのでGHTのなすLie群のLie代数と言うと論理的にまずいので予想とした。)

$E_{r} = E_{-} - E_{+}$ とするとこれは $s l 2$ の自然表現においては回転行列の生成子を指すのであった。前回の記事を踏まえるとこれはFrFTの生成子であり、 $π / 2$ 回転はHTになる。

Weierstrass変換の拡張

$g \in G$
$\begin{aligned} \exp \frac{i}{2} t [\partial^{2} + \frac{2 α + 1}{x} \partial] \cdot g (x^{2}) \\ = & \frac{i^{- α - 1}}{t} \int_{y = 0}^{\infty} g (y^{2}) \exp \frac{i}{2 t} [x^{2} + y^{2}] J_{α} (\frac{x y}{t}) {(\frac{y}{x})}^{α} y d y \end{aligned}$

$β = α + \frac{1}{2}$
Kummerの $_{1} F_{1}$ 変換公式を使う。
$\begin{aligned} \exp \frac{i}{2} t [\partial^{2} + \frac{β (1 - β)}{x^{2}}] \cdot x^{2 n + β} \\ = & \sum_{k = 0}^{n} (2 i t)^{k} \frac{1}{k!} \frac{n!}{(n - k)!} \frac{Γ (α + n + 1)}{Γ (α + n - k + 1)} x^{β + 2 n - 2 k} \\ = & (2 i t)^{n} x^{β} \frac{Γ (α + n + 1)}{Γ (α + 1)} \sum_{k = 0}^{n} \frac{(- 1)^{k} n!}{k! (n - k)! (α + 1)_{k}} {(\frac{i}{2 t} x^{2})}^{k} \\ = & (2 i t)^{n} x^{β} \frac{Γ (α + n + 1)}{Γ (α + 1)}_{1} F_{1} (\begin{array}{c} - n \\ α + 1 \end{array} | \frac{i}{2 t} x^{2}) \\ = & (2 i t)^{n} x^{β} \frac{Γ (α + n + 1)}{Γ (α + 1)} \exp (\frac{i}{2 t} x^{2})_{1} F_{1} (\begin{array}{c} α + n + 1 \\ α + 1 \end{array} | - \frac{i}{2 t} x^{2}) \\ = & (2 i t)^{n} x^{β} \exp (\frac{i}{2 t} x^{2}) \sum_{k = 0}^{\infty} \frac{Γ (α + n + k + 1)}{k! Γ (α + k + 1)} {(- \frac{i}{2 t} x^{2})}^{k} \\ = & (2 i t)^{n} x^{β} \exp (\frac{i}{2 t} x^{2}) \int_{y = 0}^{\infty} e^{- y} \sum_{k = 0}^{\infty} \frac{(- 1)^{k} y^{α + n + k}}{k! Γ (α + k + 1)} {(\frac{i}{2 t} x^{2})}^{k} d y \\ = & (2 i t)^{- α - 1} x^{β} \exp (\frac{i}{2 t} x^{2}) \int_{y = 0}^{\infty} e^{- y / (2 i t)} \sum_{k = 0}^{\infty} \frac{(- 1)^{k} y^{α + n + k}}{k! Γ (α + k + 1)} {(\frac{x}{2 t})}^{2 k} d y \\ = & \frac{i^{- α - 1}}{t} \exp (\frac{i}{2 t} x^{2}) \int_{y = 0}^{\infty} e^{- y^{2} / (2 i t)} \sum_{k = 0}^{\infty} \frac{(- 1)^{k} y^{2 n + β}}{k! Γ (α + k + 1)} {(\frac{x y}{2 t})}^{2 k + α} \sqrt{x y} d y \\ = & \frac{i^{- α - 1}}{t} \int_{y = 0}^{\infty} y^{β + 2 n} \exp \frac{i}{2 t} [x^{2} + y^{2}] J_{α} (\frac{x y}{t}) \sqrt{x y} d y \end{aligned}$
なので $g \in G$ に対して次が成立する。
$\begin{aligned} \exp \frac{i}{2} t [\partial^{2} + \frac{β (1 - β)}{x^{2}}] \cdot g (x^{2}) x^{β} \\ = & \frac{i^{- α - 1}}{t} \int_{y = 0}^{\infty} g (y^{2}) y^{β} \exp \frac{i}{2 t} [x^{2} + y^{2}] J_{α} (\frac{x y}{t}) \sqrt{x y} d y \end{aligned}$
$\begin{aligned} \exp \frac{i}{2} t [\partial^{2} + \frac{2 α + 1}{x} \partial] \cdot g (x^{2}) \\ = & \frac{i^{- α - 1}}{t} \int_{y = 0}^{\infty} g (y^{2}) \exp \frac{i}{2 t} [x^{2} + y^{2}] J_{α} (\frac{x y}{t}) {(\frac{y}{x})}^{α} y d y \end{aligned}$
$\begin{aligned} \exp u [\partial^{2} + \frac{β (1 - β)}{x^{2}}] \cdot g (x^{2}) x^{β} \\ = & \frac{1}{2 u} \int_{y = 0}^{\infty} g (y) \exp \frac{- 1}{4 u} [x^{2} + y^{2}] I_{α} (\frac{x y}{2 u}) \sqrt{x y} d y \end{aligned}$
$\begin{aligned} \exp u [\partial^{2} + \frac{2 α + 1}{x} \partial] \cdot g (x^{2}) \\ = & \frac{1}{2 u} \int_{y = 0}^{\infty} g (y^{2}) \exp \frac{- 1}{4 u} [x^{2} + y^{2}] I_{α} (\frac{x y}{2 u}) {(\frac{y}{x})}^{α} y d y \end{aligned}$

$e^{\frac{π}{2} E_{r}} e^{p E_{+}} e^{- \frac{π}{2} E_{r}} = e^{- p E_{-}}$

$ad (E_{r})$ を次々に $E_{+}$ に作用させると次のようになるから $E_{+} \mapsto - H \mapsto - 2 (E_{+} + E_{-}) \mapsto 4 H \mapsto \dots$

$\begin{array}{l} Ad (e^{t E_{r}}) \cdot E_{+} = e^{t ad (E_{r})} \cdot E_{+} \\ = \frac{1}{2} (E_{+} + E_{-}) \cos 2 t - \frac{1}{2} H \sin 2 t - \frac{1}{2} E_{r} \\ e^{\frac{π}{2} E_{r}} e^{p E_{+}} e^{- \frac{π}{2} E_{r}} = e^{p (- \frac{1}{2} (E_{+} + E_{-}) - \frac{1}{2} E_{r})} = e^{- p E_{-}} \end{array} となる。$

$\begin{aligned} e^{\frac{π}{2} E_{r}} e^{p E_{+}} J_{α} (b x) x^{- α} & = i^{- α - 1} x^{- α} \int_{0}^{\infty} e^{\frac{i}{2} p s^{2}} J_{α} (b s) J_{α} (s x) s d s \\ = \frac{i^{- 2 α}}{p} x^{- α} \exp (- \frac{i}{2 p}) [x^{2} + b^{2}] J_{α} (\frac{b x}{- p}) \end{aligned}$
$(b > 0)$

$\begin{aligned} e^{\frac{π}{2} E_{r}} e^{p E_{+}} J_{α} (b x) x^{- α} \\ = & e^{- p E_{-}} e^{\frac{π}{2} E_{r}} J_{α} (b x) x^{- α} \\ = & i^{- α - 1} x^{- α} \int_{0}^{\infty} e^{\frac{i}{2} p s^{2}} J_{α} (b s) J_{α} (x s) s d s \\ = & e^{- p E_{-}} i^{- α - 1} x^{- α} \int_{0}^{\infty} J_{α} (b s) J_{α} (x s) s d s \\ = & e^{- p E_{-}} i^{- α - 1} x^{- 1 - α} δ (x - b) \\ = & i^{- 2 - 2 α} \frac{x^{- α}}{- p} \int_{0}^{\infty} e^{- \frac{i}{2 p} (x^{2} + y^{2})} J_{α} (\frac{x y}{- p}) δ (y - b) d y \\ = & \frac{i^{- 2 α}}{p} e^{- \frac{i}{2 p} (x^{2} + b^{2})} J_{α} (\frac{b x}{- p}) x^{- α} \end{aligned}$

積の公式(一部))

$H_{α} (M) H_{α} (N) \equiv e^{γ ϵ} H_{α} (L)$
$L = M N, ϵ \in {- 1, 0, 1}, M_{21}, N_{21}, L_{21} \neq 0$ のとき

$M, N, L \in S L (2, R), L = M N$
$M_{21}, N_{21}, L_{21} \neq 0$ とする。
$\begin{aligned} H_{α} (M) H_{α} (N) \cdot f (x) \\ = & \frac{e^{γ sgn (M_{21}) / 4}}{| M_{21} |} \int_{s = 0}^{\infty} \exp \frac{i}{2 M_{21}} [M_{11} x^{2} + M_{22} s^{2}] J_{α} (\frac{s x}{| M_{21} |}) {(\frac{s}{t})}^{α} s d s \\ \times \frac{e^{γ sgn (N_{21}) / 4}}{| N_{21} |} \int_{t = 0}^{\infty} f (t) \exp \frac{i}{2 N_{21}} [N_{11} s^{2} + N_{22} t^{2}] J_{α} (\frac{t x}{| N_{21} |}) {(\frac{t}{x})}^{α} t d t \\ = & \frac{e^{γ sgn (M_{21}) / 4}}{| M_{21} |} \frac{e^{γ sgn (N_{21}) / 4}}{| N_{21} |} \int_{t = 0}^{\infty} f (t) \exp (\frac{M_{11}}{M_{21}} x^{2} + \frac{N_{22}}{N_{21}} t^{2}) {(\frac{t}{x})}^{α} t d t \\ \times \int_{s = 0}^{\infty} \exp [\frac{i}{2} (\frac{M_{22}}{M_{21}} + \frac{N_{11}}{N_{21}}) s^{2}] J_{α} (\frac{x}{| M_{21} |} s) J_{α} (\frac{t}{| N_{21} |} s) s d s \\ = & \frac{e^{γ sgn (M_{21}) / 4}}{| M_{21} |} \frac{e^{γ sgn (N_{21}) / 4}}{| N_{21} |} \int_{t = 0}^{\infty} f (t) \exp (\frac{M_{11}}{M_{21}} x^{2} + \frac{N_{22}}{N_{21}} t^{2}) {(\frac{t}{x})}^{α} t d t \\ \times \frac{M_{21} N_{21}}{L_{21}} \exp \frac{- i}{2 L_{21}} [\frac{N_{21}}{M_{21}} x^{2} + \frac{M_{21}}{N_{21}} t^{2}] J_{α} (- \frac{M_{21} N_{21}}{| M_{21} N_{21} |} \frac{x t}{L_{21}}) \\ = & \exp \frac{γ}{4} [sgn (M_{21}) + sgn (N_{21}) - sgn (\frac{M_{21} N_{21}}{L_{21}})] \int_{t = 0}^{\infty} f (t) J_{α} (\frac{x t}{| L_{21} |}) {(\frac{t}{x})}^{α} t d t \\ \times \exp \frac{i}{2} \frac{M_{21} N_{22} L_{21} t^{2} - M_{21}^{2} t^{2} + M_{11} N_{21} L_{21} x^{2} - N_{21}^{2} x^{2}}{L_{21} M_{21} N_{21}} \\ = & \frac{e^{γ (4 ϵ + sgn (L_{21})) / 4}}{| L_{21} |} \int_{0}^{\infty} f (t) \exp \frac{i}{2 L_{21}} [L_{11} x^{2} + L_{22} t^{2}] J_{α} (\frac{x t}{| L_{21} |}) {(\frac{t}{x})}^{α} t d t \\ = & e^{γ ϵ} H_{α} (L) \cdot f (x) \end{aligned}$
$4 ϵ = sgn (M_{21}) + sgn (N_{21}) - sgn (\frac{M_{21} N_{21}}{L_{21}}) - sgn (L_{21})$
とすれば確かに $ϵ \in {- 1, 0, 1}$ なので補題が満たされている。
$T = sgn (M_{21}) + sgn (N_{21}) - sgn (L_{21})$ とすれば
$4 ϵ \equiv \frac{1}{2} T (9 - T^{2}) \equiv \frac{1}{2} T (1 - T^{2}) \equiv 0 (\mod 4)$

Bessel関数の漸近公式

$J_{α} (z) = \sqrt{\frac{2}{π z}} (\cos (z - \frac{π α}{2} - \frac{π}{4}) + o (1)) (z \to + \infty)$

DLMFより

退化の式

の2行目において $M_{21} \to + 0$ とすれば3行目となる。

$M_{11} > 0 のとき t \mapsto M_{11} x + {\sqrt{M}}_{21} t$ と変数変換すると
$\begin{aligned} lim_{M_{21} \to + 0} H_{α} (M) \cdot f (x) \\ = & lim_{M_{21} \to + 0} \frac{e^{γ sgn (M_{21}) / 4}}{\sqrt{| M_{21} |}} \int_{ー M_{11} / \sqrt{M_{21}}}^{\infty} f (M_{11} x + \sqrt{M_{21}} t) \exp \frac{i}{2 M_{21}} [M_{11} x^{2} + \frac{1 + M_{21} M_{12}}{M_{11}} (M_{11} x + {\sqrt{M}}_{21} t)^{2}] J_{α} (\frac{x (M_{11} x + \sqrt{M_{21}} t)}{| M_{21} |}) {(M_{11} x + \sqrt{M_{21}} t)}^{1 + α} x^{- α} d t \\ = & lim_{M_{21} \to + 0} \frac{1}{\sqrt{M_{21}}} \int_{- \infty}^{\infty} f (M_{11} x) \exp \frac{i}{2 M_{21}} [M_{11} x^{2} + \frac{1 + M_{21} M_{12}}{M_{11}} (M_{11} x + {\sqrt{M}}_{21} t)^{2} - 2 i M_{21} (\frac{x (M_{11} x + \sqrt{M_{21}} t)}{| M_{21} |} - \frac{π α}{2} - \frac{π}{4})] \sqrt{\frac{M_{21}}{2 π x (M_{11} x + \sqrt{M_{21}} t)}} {M_{11}}^{1 + α} x d t \\ = & lim_{M_{21} \to + 0} e^{\frac{i}{2} M_{11} M_{12} x^{2}} f (M_{11} x) e^{γ / 4} \int_{- \infty}^{\infty} \exp \frac{i}{2} [M_{12} \sqrt{M_{21}} x t + M_{22} t^{2}] e^{- \frac{γ}{4} - \frac{π}{4} i} d t \frac{1}{\sqrt{2 π M_{11}}} M_{11}^{α + 1 / 2} \\ = & e^{\frac{i}{2} M_{11} M_{12} x^{2}} M_{11}^{α + 1} f (M_{11} x) \end{aligned}$
となる。複素共役を取ると $M_{21} > 0$ のとき
$\overset{―}{H_{α} (\begin{array}{cc} M_{11} & M_{12} \\ M_{21} & M_{22} \end{array}) \cdot f (x)} = e^{γ / 2} H_{α} (\begin{array}{cc} - M_{11} & M_{12} \\ M_{21} & - M_{22} \end{array}) \cdot \overset{―}{f (x)}$
なので $M_{11} < 0$ の場合も補題の式が成立する。
なお $M \in S L (2, R)$ より $M_{11} = M_{21} = 0$ となることはない。

$H_{α} (M) H_{α} (N) \equiv e^{γ ϵ} H_{α} (L)$

定理の証明に取り掛かる。補題より
$\begin{aligned} H_{α} (M) H_{α} (M)^{- 1} \cdot f (x) \\ = & \frac{e^{γ sgn (M_{21}) / 4}}{| M_{21} |} \int_{s = 0}^{\infty} \exp \frac{i}{2 M_{21}} [M_{11} x^{2} + M_{22} s^{2}] J_{α} (\frac{s x}{| M_{21} |}) {(\frac{s}{t})}^{α} s d s \\ \times \frac{e^{- γ sgn (M_{21}) / 4}}{| M_{21} |} \int_{t = 0}^{\infty} f (t) \exp \frac{- i}{2 M_{21}} [M_{22} s^{2} + M_{11} t^{2}] J_{α} (\frac{t x}{| M_{21} |}) {(\frac{t}{x})}^{α} t d t \\ = & M_{21}^{- 2} \int_{t = 0}^{\infty} f (t) \exp (\frac{M_{11}}{M_{21}} x^{2} - \frac{M_{11}}{M_{21}} t^{2}) {(\frac{t}{x})}^{α} t d t \\ \times \int_{s = 0}^{\infty} J_{α} (\frac{x}{| M_{21} |} s) J_{α} (\frac{t}{| N_{21} |} s) s d s \\ = & | M_{21} |^{- 1} \int_{t = 0}^{\infty} f (t) \exp (\frac{M_{11}}{M_{21}} x^{2} - \frac{M_{11}}{M_{21}} t^{2}) {(\frac{t}{x})}^{α} δ (\frac{t - x}{| M_{21} |}) d t \\ = & f (x) \end{aligned}$
なのでGHTの逆変換の表示が求まった。単射な表現であるから単位元は恒等変換に限る。
$M_{21} = 0$ とすると
$4 ϵ = 1 - sgn (M_{11}) + sgn (N_{21}) - sgn (M_{22} N_{21}) = (1 - sgn (M_{11})) (1 + sgn (N_{21}))$
さらに $N_{21} = 0$ とすると
$4 ϵ = (1 - sgn (M_{11})) (1 - sgn (N_{11}))$
であるから $ϵ \in {- 1, 0, 1}$ である。
演算子 $F$ が関数 $f$ への作用に関して $F_{1} \cdot (F_{2} \cdot f = (F_{1} F_{2}) \cdot f$ という規則を持っているとき
$\begin{aligned} ((F_{0} F_{1}) F_{2}) \cdot f \\ = & (F_{0} F_{1}) \cdot (F_{2} \cdot f) \\ = & F_{0} \cdot (F_{1} \cdot (F_{2} \cdot f)) \\ = & F_{0} \cdot ((F_{1} F_{2}) \cdot f) \\ = & (F_{0} (F_{1} F_{2})) \cdot f \end{aligned}$
で結合律 $(F_{0} F_{1}) F_{2} \equiv F_{0} (F_{1} F_{2})$ を示すことができる。証明の手順を見れば、GHTは結合律を持つ。
結合律から $L_{21} = 0$ の場合も積の式が成立することがわかる。以上より定理の式

$e^{γ n_{1}} H_{α} (M) e^{γ n_{2}} H_{α} (N) \equiv e^{γ n_{3}} H_{α} (L)$
を示したので証明を完了する。

符号に関するまとめをしておく。

$\tilde{S L} (2, R) = Z \times S L_{2} (R)$ を台集合として、次のような群の演算を考える:
$M, N \in S L_{2} (R), ϵ_{1}, ϵ_{2}, ϵ (M, N) \in Z$
$(ϵ_{1}, M) * (ϵ_{2}, N) = (ϵ_{1} + ϵ_{2} + ϵ (M, N), M N)$
このとき、上記の演算は結合律を満たす。
ただし $ϵ = ϵ (M, N) \in {- 1, 0, 1}$ は次の規則から定められる:
$L := M N$
$i f M_{21} \neq 0 \land N_{21} \neq 0 \land L_{21} \neq 0$
$4 ϵ = sgn (M_{21}) + sgn (N_{21}) - sgn (L_{21}) - sgn (M_{21} N_{21} L_{21})$
$e l s e i f M_{21} \neq 0 \land L_{21} \neq 0$
$4 ϵ = (1 + sgn (M_{21})) (1 - sgn (N_{11}))$
$e l s e i f N_{21} \neq 0 \land L_{21} \neq 0$
$4 ϵ = (1 + sgn (N_{21})) (1 - sgn (M_{11}))$
$e l s e i f M_{21} \neq 0 \land N_{21} \neq 0$
$4 ϵ = - (1 - sgn (M_{21})) (1 - sgn (N_{21}))$
$e l s e$

$4 ϵ = (1 - sgn (M_{11})) (1 - sgn (N_{11}))$
$e n d i f$
追記:
上記の規則を簡約化できたかもしれない(ランダム生成の行列による数値的検証しか行っていないが、より簡潔になった)
$λ (x) := x_{11} + x_{21} i,$ 偏角 $\arg (z) \in (- π, π]$
$2 π ϵ (M, N) := \arg (λ (M)) + \arg (λ (N)) - \arg (λ (M N)) - \arg (λ (M) λ (N) / λ (M N))$

上の証明では、演算子の結合律を認めて、導き出された上記の符号規則も結合律を有することが示されている。しかし、上の規則から出発して、結合律を示す方法が分からない(どなたか御存知ですか？)
MATLABでランダム生成の1000万通りの行列に対して、上の規則を検証したが、結合律の破綻は見られなかった(0かどうかの場合分けが発生する以上、近似計算をしている)

岩澤分解によればLie群は可換部分,冪零部分,直交部分のLie環由来の部分群に一意的に分解することができる。 $S L (n, R)$ はEuclid空間 $E$ と直交群 $S O (n)$ を用いて $S L (n, R) ≅ E^{k} \times S O (n)$ と分解できる。基本群に関して
$π_{1} (S L (n, R)) = π_{1} (S O (n)) = \begin{array}{r} {\begin{cases} Z (n = 2) \\ Z_{2} (n > 2) \end{cases} \end{array}$
が成立するので $S L (2, R)$ の普遍被覆群 $\tilde{S L} (2, R)$ は無限被覆となる。
具体的には

$K = {R_{θ} = (\begin{matrix} \cos θ & - \sin θ \\ \sin θ & \cos θ \end{matrix}) \in S L (2, R)},$
$A = {(\begin{matrix} r & 0 \\ 0 & r^{- 1} \end{matrix}) \in S L (2, R) | r > 0},$
$N_{+} = {(\begin{matrix} 1 & x \\ 0 & 1 \end{matrix}) \in S L (2, R) | x \in R,} .$

としたとき、行列をQR分解することで
$S L (2, R) = N_{+} AK$
を導く。 $K$ に対応するのがFractional Hankel Transformである。 $NA$ に対応するのは乗算演算子とスケール変換演算子の合成である。
前回のFrFTの結果を用いると

$\begin{aligned} H_{α} (R_{t}) \cdot g (x^{2}) \\ = & e^{t (E_{-} - E_{+})} \cdot g (x^{2}) \\ = & \int_{0}^{\infty} g (y^{2}) \frac{i^{- 1 - α}}{\sin t} e^{\frac{i}{2} (x^{2} + y^{2}) \cot t} J_{α} (\frac{x y}{\sin t}) {(\frac{y}{x})}^{α} y d y \end{aligned}$

$\begin{aligned} H_{α} (R_{π / 2})^{2} \cdot g (x^{2}) = {(\exp \frac{π}{2} [E_{-} - E_{+}])}^{2} \cdot g (x^{2}) \\ = & i^{- 2 - 2 α} g (x^{2}) = H_{α} (R_{π}) \cdot g (x^{2}) \end{aligned}$

$\begin{array}{r} H_{α} (R_{π})^{2} \cdot g (x^{2}) = e^{γ} g (x^{2}) \end{array}$

$t = ω = π n + θ (θ \in (0, π), n \in Z)$ のとき
$H_{α} (R_{ω}) \cdot g (x^{2}) = e^{γ n / 2} \int_{0}^{\infty} g (y^{2}) \frac{i^{- 1 - α}}{\sin t} e^{\frac{i}{2} (x^{2} + y^{2}) \cot t} J_{α} (\frac{x y}{\sin t}) {(\frac{y}{x})}^{α} y d y$
無限被覆に対応して $e^{γ n}$ という離散的な変数が現れる。 $k \in R, b \in R_{+}, ω \in R$ について
$\begin{aligned} e^{k E_{+}} b^{E_{0}} e^{ω (E_{-} - E_{+})} \cdot g (x^{2}) \\ = & e^{γ n / 2} \int_{0}^{\infty} g (y^{2}) \frac{b i^{- 1 - α}}{\sin t} e^{\frac{i}{2} k x^{2} + \frac{i}{2} (b^{2} x^{2} + y^{2}) \cot t} J_{α} (\frac{b x y}{\sin t}) {(\frac{y}{x})}^{α} y d y \end{aligned}$

となり、すべての係数付きのGHT $e^{γ N} H_{α}$ はこの積分表示で書ける。つまり改めて $\begin{aligned} E_{+} = & \frac{i}{2} x^{2} \\ E_{-} = & \frac{i}{2} (\partial^{2} + \frac{2 α + 1}{x} \partial) \\ H = & x \partial + α + 1 \end{aligned}$
で生成されるLie代数の表現は、Lie群 $\tilde{S L} (2, R)$ の $G_{e}$ 上の表現の微分表現である。このように $G_{e}$ 上のGHTは微分演算子による表示と積分変換による表示の二通りで表せる。しかし微分演算子による表示は $G$ の場合には一般にできない。Weierstrass変換のHankel変換への一般化 $e^{p E_{-}}$ を $x^{M}$ に作用させるとき、 $M$ が偶数でなければ超幾何級数 $_{2} F_{0}$ の無限和が現れて発散してしまう。和が有限で終わるために $M$ が偶数でなければならず、作用させられる空間が $G_{e}$ に限定されてしまう。また、FrFTにおいてもHamiltonian(本質的に $E_{r}$ )の固有関数はLaguerre多項式 $L$ で $L (x^{2})$ で完全となるので奇関数は現れない。 $G_{e}$ に限定されてしまうのは微分演算子による計算を扱うことを試みたとき成約が強すぎてあまり使い物にならないが、一般の $G$ の場合に微分演算子表示によるアプローチは何度かやっても成功しなかった。 $G$ 上で係数付きGHTが $\tilde{S L} (2, R)$ の表現になっているにも関わらず生成子から得られる積分公式が $G_{e}$ でしか適用できないというのは気持ちが悪いと思っているが、ここが今の所ぼくの考察の最前線なので正直良くわからない。証明の中で微分演算子による等式を使ったが、核関数が $G_{e}$ に収まっているので計算がうまくいく。
、とここまで書いたが、2022/2/19日、再考したところ一般化できそうな可能性が見えた。考察を続けたいところである。

具体例について考える。

"The Hankel Transform 9"
に記載されている具体例を紹介する。この文献では
$H_{ν} \cdot f (x) = \int_{0}^{\infty} f (t) J_{ν} (x t) t d t$
と定義されている。今回の記法では
$H_{α} (R_{π / 2}) = e^{γ / 4} x^{- α} H_{α} x^{α}$
$H_{α} (M) \cdot f (x) = \frac{e^{γ sgn (M_{21}) / 4}}{| M_{21} | x^{α}} \exp (\frac{i M_{11} x^{2}}{2 M_{21}}) | M_{21} |^{- x \partial_{x}} H_{α} \cdot \exp (\frac{i M_{22} x^{2}}{2 M_{21}}) f (x)$
となっている。
文献ではこのようなテーブルが与えられている。
Table Table
しかし微分演算子表示で計算出来ているのは関数のクラスが制限されているので、有用な例は(2),(10)である。

$n \in Z, - μ = 2 n + α, \frac{1}{2} < μ < α + 2$ つまり $- n - 1 < α < \frac{1}{2} - 2 n, n \leq 1$ としたとき
$H_{α} (R_{π / 2}) \cdot x^{2 n} = 2^{2 n + 1 + α} e^{γ / 4} \frac{Γ (n + 1 + α)}{Γ (- n)} x^{- 2 - 2 n - 2 α}$
$A = λ - \frac{i M_{22}}{2 M_{21}}$ とすると
$H_{α} (M) \cdot e^{- \frac{λ}{2} x^{2}} = \frac{e^{γ sgn (M_{21}) / 4}}{| M_{21} |^{1 + α}} A^{- α - 1} \exp \frac{x^{2}}{2} [\frac{i M_{11}}{M_{21}} - \frac{1}{A M_{21}^{2}}]$

LCTのときと同様、Weierstrass変換の一般化の部分から

分解公式

$\begin{aligned} H_{α} (M) \\ = & \exp (\frac{M_{11} - 1}{M_{21}} E_{+}) \exp (M_{21} E_{-}) \exp (\frac{M_{22} - 1}{M_{21}} E_{+}) \\ = & \exp (M_{11} M_{12} E_{+}) M_{22}^{- H} (iff M_{21} = 0) \end{aligned}$

が従う。

$\begin{aligned} \exp (- \frac{i}{2} x^{2}) \exp \frac{i}{2} [\partial^{2} + \frac{1}{x} \partial - \frac{α^{2}}{x^{2}}] \exp (- \frac{i}{2} x^{2}) \cdot x^{α} e^{- λ x^{2}} \\ = & \exp (- \frac{i}{2} x^{2}) x^{α} \exp \frac{i}{2} [x^{- α} (\partial^{2} + \frac{1}{x} \partial - \frac{α^{2}}{x^{2}}) x^{α}] \cdot e^{- (\frac{i}{2} + λ) x^{2}} \\ = & \exp (- \frac{i}{2} x^{2}) x^{α} \exp \frac{i}{2} [\partial^{2} + \frac{2 α + 1}{x} \partial] \cdot e^{- (\frac{i}{2} + λ) x^{2}} \\ = & \exp (- \frac{i}{2} x^{2}) x^{α} \sum_{a \geq 0} \sum_{b \geq 0} \frac{1}{a! b!} {(\frac{i}{2})}^{a} {(- \frac{i}{2} - λ)}^{b} {(\partial^{2} + \frac{2 α + 1}{x} \partial)}^{a} \cdot x^{2 b} \\ = & \exp (- \frac{i}{2} x^{2}) x^{α} \sum_{a \geq 0} \sum_{b \geq 0} \frac{1}{a! b!} {(\frac{i}{2})}^{a} {(- \frac{i}{2} - λ)}^{b} 4^{a} \frac{Γ (b + 1 + α)}{Γ (b - a + 1 + α)} \frac{b!}{(b - a)!} x^{2 (b - a)} \\ = & \exp (- \frac{i}{2} x^{2}) x^{α} \sum_{a \geq 0} \sum_{b \geq 0} \frac{1}{a! b!} {(1 - 2 i λ)}^{a} {(- \frac{i}{2} - λ)}^{b} \frac{Γ (b + a + 1 + α)}{Γ (b + 1 + α)} x^{2 b} \\ = & \exp (- \frac{i}{2} x^{2}) x^{α} \sum_{a \geq 0} \sum_{b \geq 0} \frac{1}{a! b!} {(1 - 2 i λ)}^{a} {(- \frac{i}{2} - λ)}^{b} \frac{Γ (b + a + 1 + α)}{Γ (b + 1 + α)} x^{2 b} \\ = & \exp (- \frac{i}{2} x^{2}) x^{α} \sum_{b \geq 0} \frac{x^{2 b}}{b!} {(1 - (1 - 2 i λ))}^{- b - 1 - α} {(- \frac{i}{2} - λ)}^{b} \\ = & i^{- α - 1} \frac{x^{α}}{(2 λ)^{α + 1}} \exp (- \frac{x^{2}}{4 λ}) \end{aligned}$
なので
$e^{- E_{+}} e^{E_{-}} e^{- E_{+}} \cdot e^{- λ x^{2} / 2} = H_{α} (R_{π / 2}) \cdot e^{- λ x^{2} / 2} = (i λ)^{- α - 1} e^{- x^{2} / (2 λ)}$
これは先程の分解公式と具体例の計算で $M = R_{π / 2}$ とした場合に等しい。
つまり、級数と積分表示の2通りで具体例を求めたことになる。