層の特殊化と超局所化

この節では$\mu hom$の構成に向けて，層の特殊化と超局所化という操作を導入します．雑に言うと，特殊化は無限小の錐状集合上の切断を与える層であって，超局所化はマイクロ台を考えたときに出てくる超局所的な障害を与える層のことです．これらはある意味で双対の関係にあって，これはFourier-Sato変換という操作で結びついています．

ここでは最後まで$M$を$X$の余次元$l$の閉部分多様体として，$i:M\hookrightarrow X$で埋め込みをあらわします．このとき，$\tau :T_{M}X\to X$で法束をあらわします．記号を増やさないために$\pi$で射影$T^{\ast }X\to X$の他にも余法束からの射影$T_M^{\ast }X\to M$をあらわします．

層の特殊化

層の特殊化は$X$上の層から法束$T_{M}X$上の層を作り出す操作です．これによって層$F$が与えられたときに，$M$の法方向に無限小の意味で錐状になっている開部分集合$U$（図3を参照）をわたる切断$F(U)$の帰納極限を層として表示することができます．層の特殊化は法変形（または法束への変形）と呼ばれる幾何学的な構成を通して定義されます．

法変形（法束への変形）

ここでは次の条件を満たす多様体$\widetilde{X_M}$と二つの多様体の射$t:\widetilde{X_M}\to \mathbb{R},p:\widetilde{X_M}\to X$の三つ組みを構成します：
(1) $t^{-1}(\mathbb{R}\setminus \{0\})\simeq X\times (\mathbb{R}\setminus \{0\})$,
(2) $t^{-1}(0)\simeq T_{M}X$,
(3) $p^{-1}(X\setminus M)\simeq (X\setminus M)\times (\mathbb{R}\setminus \{0\})$.

この$\widetilde{X_M}$は局所的に構成して，それらを適当な変換で貼り合わせることによって得られます．まず局所的なモデルとして$X={\mathbb{R}}^d$で$M=\{x=(x^{\prime },x^{″})\mid x^{\prime }=(x_1,\dots ,x_l)=\{0{\}}^l\}$の場合を考えます．このときは，
$$\widetilde{X_M}:=\{(x,t)\in {\mathbb{R}}^d\times \mathbb{R}\},t:(x,t)\mapsto t,p:(x,t)\mapsto (t{x}^{\prime },x^{″})$$
と定めれば条件を満たします．一般の場合は次のように局所的なモデルを貼り合わせます．$M=\bigcup _i{U}_i$と開埋め込み${\varphi }_i:U_i\to {\mathbb{R}}^d$で$U_i\cap M={\varphi }_i^{-1}(\{0{\}}^l\times {\mathbb{R}}^{d-l})$となるものを取ります．そして
$$\begin{array}{rl}& V_i:=\{(x,t)\in {\mathbb{R}}^d\times \mathbb{R}\mid (t{x}^{\prime },x^{″})\in {\varphi }_i(U_i)\},\\ & t_{V_i}:V_i\to \mathbb{R},(x,t)\mapsto t,p_{V_i}:V_i\mapsto (x,t)\mapsto (t{x}^{\prime },x^{″})\end{array}$$
と定めます．さらに${\psi }_{ji}:V_i{\times }_{U_i}\to (U_i\cap U_j)\to {\mathbb{R}}^d$を
$${\psi }_{ji}(x,t)=({\psi }_{ji}^{\prime }(x,t),{\psi }_{ji}^{″}(x,t)),(t{\psi }_{ji}^{\prime }(x,t),{\psi }_{ji}^{″}(x,t))={\varphi }_j{\varphi }_i^{-1}(t{x}^{\prime },x^{″})$$
によって定めます（$t=0$のときは${\varphi }_j{\varphi }_i^{-1}(t{x}^{\prime },x^{″})$の最初の$l$成分が消滅するので大丈夫）．こうして$(x_i,t_i)\in V_i$と$(x_j,t_j)\in V_j$を$t_i=t_j$かつ$x_j={\psi }_{ji}(x_i,t_i)$のとき同一視して貼り合わせると$\widetilde{X_M}$が得られます．また各$V_i$への制限を$t_{V_i},p_{V_i}$として$t,p$もwell-definedに定めることが出来ます．このように定めると変換関数を調べることで$t^{-1}(0)$が法束$T_{M}X$と同形になることがチェックできます．

以下の図1は法変形の模式的な図です．$x\in X\setminus M$に対してファイバー$p^{-1}(x)$は$T_{M}X$の無限遠の方に飛んでいきます．
法変形の模式図

ここで得た法変形はFultonのIntersection theoryなどに載っている代数幾何的な法束への変形の実多様体版とみなすことができます．

さて，法変形を使って$M$の近傍で法方向に無限大に引き伸ばす操作を考えてみましょう．$\mathrm{\Omega }:=t^{-1}((0,+\mathrm{\infty }))$を$\widetilde{X_M}$の開部分集合として$j:\mathrm{\Omega }\hookrightarrow \widetilde{X_M}$で埋め込みをあらわし，$\tilde{p}:=p\circ j:\mathrm{\Omega }\to X$と定めます．$s:T_{M}X=\{t=0\}\hookrightarrow \widetilde{X_M}$で法束の埋め込みをあらわします．すると次の多様体の可換図式が得られます：
$$T_{M}Xs\tau \widetilde{X_M}p\mathrm{\Omega }j\tilde{p}MiX.$$

上の模式図でも見たように$M$の近くで法方向に$S$を無限大に引き伸ばしたものが法錐$C_M(S)$になるわけです（図2も参照）． 第3節 の包合性のところで出てきた$C_p(S)$はこれのことでした．図を見れば$S$が部分多様体なら$C_p(S)$が接束$T_{p}S$になることも理解できると思います．
法錐の模式図

特殊化

さて上の法束の構成と似た操作を層に対して行ったものが特殊化です．すなわち$X$上の層$F$を$M$の法方向には無限大に引き伸ばして法束$T_{M}X$上の層に変換したものです．実は$F\in {\mathsf{D}}^{\mathrm{b}}({\mathbb{k}}_X)$に対して，同形$s^{-1}R{j}_{\ast }{\tilde{p}}^{-1}F\simeq s^{!}{j}_{!}{\tilde{p}}^{!}F$が成り立つことがチェックできるので，これを$M$に沿った特殊化と定めます．

ベクトル空間上の層であって${\mathbb{R}}_{>0}$によるファイバーへの作用で不変なものはよく出てくるのでその部分圏の記号を定義しておきましょう．ここでも層の複体と層を区別しないで単に層と呼んでしまうことにします．

この記号を用いると上の定理の(i)は正確には${\nu }_M(F)\in {\mathsf{D}}_{{\mathbb{R}}_{>0}}^{\mathrm{b}}({\mathbb{k}}_{T_{M}X})$であることを述べています．特殊化は函手${\nu }_M:{\mathsf{D}}^{\mathrm{b}}({\mathbb{k}}_X)\to {\mathsf{D}}_{{\mathbb{R}}_{>0}}^{\mathrm{b}}({\mathbb{k}}_{T_{M}X})$を定めます．錐状層に対しては次の同形が成り立っていて計算上いろいろと役立つことがあります．つまり錐状層に対しては射影による順像（固有順像）とゼロ切断による逆像（上付きびっくり）が同形になるということです．

この補題を用いると上記定理1の(iv)の同形において同形$R{\tau }_{\ast }{\nu }_M(F)\simeq {\nu }_M(F){|}_M\simeq F{|}_M$と$R{\tau }_{!}{\nu }_M(F)\simeq R{\mathrm{\Gamma }}_M({\nu }_M(F)){|}_M\simeq R{\mathrm{\Gamma }}_M(F){|}_M$が得られます（$i^{!}\simeq i^{-1}\circ R{\mathrm{\Gamma }}_X$であったことを思い出しましょう）．

多様体の射に対して順像・逆像に関する特殊化の函手的性質も得られますが，ここでは省略します．

Fourier-Sato変換

函数に対する普通のフーリエ変換は${\mathbb{R}}_x^n$上の函数を周波数空間${\mathbb{R}}_{\omega }^n$上の函数に変換するもので，定数倍（と変数の線形変換）を除いて
$$\hat{f}(\omega ):={\int }_{\mathbb{R}}f(x)e^{-\sqrt{-1}⟨x,\omega ⟩}dx$$
で定義されたのでした．これは${\mathbb{R}}_x^n\times {\mathbb{R}}_{\omega }^n$上の函数$e^{-\sqrt{-1}⟨x,\omega ⟩}$を核函数とした積分変換で，適当な意味で${\mathbb{R}}_x^n$上の函数と${\mathbb{R}}_{\omega }^n$上の函数の一対一対応を与えていました．この対応の層理論における類似物は色々と考えられていますが，ここではベクトル束$E$上の錐状層の圏とその双対ベクトル束$E^{\ast }$上の錐状層の圏との間の圏同値を与えるFourier-Sato変換を説明します．あとではFourier-Sato変換は法束$T_{M}X$上の特殊化を変換して余法束$T_M^{\ast }X$上の錐状層を得るために使われます．

$\tau :E\to X$を階数$r$の実ベクトル束として，$\pi :E^{\ast }\to X$でその双対ベクトル束をあらわします．次の引き戻しの図式を考えます：
$$E{\times }_X{E}^{\ast }{p}_1{p}_{2}E\tau E\ast \pi X.$$
普通のフーリエ変換との類似で$E{\times }_X{E}^{\ast }$上の層を使って層の意味での積分変換を考えます．$E{\times }_X{E}^{\ast }$の二つの部分集合$P_{+},P_{-}$を
$$\begin{array}{rl}{P}_{+}& :=\{(v,\xi )\in E{\times }_X{E}^{\ast }\mid ⟨v,\xi ⟩\ge 0\},\\ P_{-}& :=\{(v,\xi )\in E{\times }_X{E}^{\ast }\mid ⟨v,\xi ⟩\le 0\}\end{array}$$
により定めて，$E{\times }_X{E}^{\ast }$上の層${\mathbb{k}}_{P_{\pm }}$を核として使います．つまり$p_1$で$F\in {\mathsf{D}}_{{\mathbb{R}}_{>0}}^{\mathrm{b}}({\mathbb{k}}_E)$を$E{\times }_X{E}^{\ast }$に引き戻して${\mathbb{k}}_{P_{-}}$をテンソルして$p_2$で固有順像を取ることで${\mathsf{D}}_{{\mathbb{R}}_{>0}}^{\mathrm{b}}({\mathbb{k}}_{E^{\ast }})$の対象が得られます．$p_1$と$p_2$，$P_{-}$と$P_{+}$を入れ替えることによって逆の変換も得られます．${\mathbb{k}}_{P_{\pm }}$が通常のフーリエ変換における核函数$e^{\pm \sqrt{-1}⟨x,\omega ⟩}$の類似というわけです．実は$F\in {\mathsf{D}}_{{\mathbb{R}}_{>0}}^{\mathrm{b}}({\mathbb{k}}_E)$に対して，同形
$$R{p_2}_{!}(p_1^{-1}F{)}_{P_{-}}\simeq R{p_2}_{\ast }R{\mathrm{\Gamma }}_{P_{+}}(p_2^{-1}F)\in {\mathsf{D}}_{{\mathbb{R}}_{>0}}^{\mathrm{b}}({\mathbb{k}}_{E^{\ast }})$$
が成り立つことがチェックできます．同様にして$G\in {\mathsf{D}}_{{\mathbb{R}}_{>0}}^{\mathrm{b}}({\mathbb{k}}_{E^{\ast }})$に対して，同形
$$R{p_1}_{!}(p_2^{!}G{)}_{P_{+}}\simeq R{p_1}_{\ast }R{\mathrm{\Gamma }}_{P_{-}}(p_2^{!}G)\in {\mathsf{D}}_{{\mathbb{R}}_{>0}}^{\mathrm{b}}({\mathbb{k}}_E)$$
が成り立ちます．ここで$p_2$は位相的沈めこみなので$p_2^{!}$は相対向き付け層とシフトを除いて$p_2^{-1}$と一致しています．基本的にはシフトを除いて引き戻し・核函数のテンソル・固有順像の合成で積分変換が行われていると考えてよいです．上の同形の何がうれしいかというと，各同形の左辺はもう一つの同形の式の右辺の随伴であることが分かるということです．

さて，このように変換を定めると上で説明した随伴の関係になっていることを用いて次が示せます．

開部分集合上の切断と閉部分集合に台を持つ相対コホモロジーは様々なところで双対の関係になっていました．Fourier-Sato変換によってもこれらが入れ替わるというのが次の命題です．ベクトル束の錐状部分集合が凸であるとは各ファイバーとの共通部分が凸であることをいい，固有であるとは各ファイバーとの共通部分が直線を含まないことをいいます．$E$の部分集合$A$に対して，その双対集合$A^{\circ }$を
$$A^{\circ }:=\{\xi \in E^{\ast }\mid \pi (\xi )\in \tau (A),⟨v,\xi ⟩\ge 0(\mathrm{\forall }v\in {\tau }^{-1}\pi (\xi )\cap A)\}$$
によって定めます．$A^{\circ }$は常に錐状集合になることに注意しましょう．

層の超局所化

層の超局所化は上でも予告していたように特殊化したものをFourier-Sato変換して余接束に持って行ったものとして定義されます．

Fourier-Sato変換の性質と特殊化の性質から超局所化に関する次の主張が得られます．

超局所化は函手${\mu }_M:{\mathsf{D}}^{\mathrm{b}}({\mathbb{k}}_X)\to {\mathsf{D}}_{{\mathbb{R}}_{>0}}^{\mathrm{b}}({\mathbb{k}}_{T_M^{\ast }X})$ともみなします．上の定理5の(ii)で特殊な場合を考えるとマイクロ台を定義したときに現れた超局所的な障害が出てきます．実際，$\phi :X\to \mathbb{R}$を$C^{\mathrm{\infty }}$級函数として$\phi (x_0)=0$なる点$x_0$において$p=d\phi (x_0)\ne 0$であるとしましょう．すると$M={\phi }^{-1}(0)$は$x_0$の近傍で$X$の部分多様体となり，$F\in {\mathsf{D}}^{\mathrm{b}}({\mathbb{k}}_X)$に対して${\mu }_M(F{)}_p$が考えられます．このとき，定理5の(ii)に現れる$Z$の極大なものとして$\{x\in X\mid f(x)\ge 0\}$が取れるので
$$H^n({\mu }_M(F){)}_p\simeq H_{\{x\in X\mid \phi (x)\ge 0\}}^n(F{)}_{\pi (p)}$$
が得られます．この意味で超局所化は方向別の相対コホモロジーを茎として持っている層ということができます．理論を構築するときは族として層を持っていた方がうれしいので超局所化が重宝されるというわけです．

超局所化の台と層のマイクロ台の関係は次のようになっています．証明は基本的には上記定理5の(ii)で見た超局所化の茎の計算によります．

さて，超局所化に関する有用な完全三角があるのでここで説明しておきます．${\mathring{T}}_M^{\ast }X$で$T_M^{\ast }X$からゼロ切断を除いた空間をあらわし，$\mathring{\pi }:=\pi {|}_{{\mathring{T}}_M^{\ast }X}$と定めます．すると，完全三角
$$R\pi R{\mathrm{\Gamma }}_M({\mu }_M(F))\to R{\pi }_{\ast }{\mu }_M(F)\to R{\mathring{\pi }}_{\ast }{\mu }_M(F){|}_{{\mathring{T}}_M^{\ast }X}\to R\pi R{\mathrm{\Gamma }}_M({\mu }_M(F))[1]$$
が得られます．${\mu }_M(F)\in {\mathsf{D}}_{{\mathbb{R}}_{>0}}^{\mathrm{b}}({\mathbb{k}}_{T_M^{\ast }X}$であることから補題2と定理5の(iv)を用いると，同形$R\pi R{\mathrm{\Gamma }}_M({\mu }_M(F))\simeq R{\mathrm{\Gamma }}_M({\mu }_M(F)){|}_M\simeq F{|}_M\otimes {\omega }_{M/X}$が得られます．$R{\pi }_{\ast }{\mu }_M(F)$にも定理5の(iv)を用いると，完全三角
$$F{|}_M\otimes {\omega }_{M/X}\to R{\mathrm{\Gamma }}_M(F){|}_M\to R{\mathring{\pi }}_{\ast }{\mu }_M(F){|}_{{\mathring{T}}_M^{\ast }X}\to (F{|}_M\otimes {\omega }_{M/X})[1]$$
が得られます．しばしば$R{\mathring{\pi }}_{\ast }\mathcal{F}{|}_{{\mathring{T}}_M^{\ast }X}$を単に$R{\mathring{\pi }}_{\ast }\mathcal{F}$と書いてしまいます．

多様体の射に対して順像・逆像に関する超局所化の函手的性質も特殊化のそれを使うと得られますが，ここでは省略します．

まとめ

この節では

• 法変形・層の特殊化
• Fourier-Sato変換
• 層の超局所化

について説明しました．