ここでは順像とは少し異なるやり方で層を押し出す方法を定義します.そこでは固有写像の概念を扱う必要があるのですが,扱いを簡単にするために以下では断らない限り位相空間はすべて局所コンパクトハウスドルフ空間であると仮定します.このとき,連続写像$f \colon X \to Y$が固有であるとは$Y$の任意のコンパクト部分集合$K$に対して逆像$f^{-1}(K)$が$X$のコンパクト部分集合となることでした.連続写像$f \colon X \to Y$に対して,ある$Y$の開被覆$\{U_i\}_{i \in I}$が存在して,任意の$i \in I$に対して$f|_{f^{-1}(U_i)} \colon f^{-1}(U_i) \to U_i$が固有ならば$f$は固有になることがチェックできます.
さて,$f \colon X \to Y$を(固有とは限らない)連続写像とします.このとき,$F \in \Sh(X)$に対して,その順像は$(f_*F)(V):=F(f^{-1}(V))=\Gamma(f^{-1}(V);F)$と定義されたのでした.これを少し細工して,$Y$の開部分集合$V$に対して
$$
(f_!F)(V):=\{ s \in \Gamma(f^{-1}(V);F) \mid \text{$f|_{\supp(s)} \colon \supp(s) \to V$は固有} \}
$$
と定めると,$f_!F$は$f_*F$の部分前層として$Y$上の前層を定めます.上で説明したように固有写像であることは局所的な性質なので,$f_!F$は実際に層になることが分かります.
$f \colon X \to Y$を連続写像,$F \in \Sh(X)$とする.このとき,
$$
(f_!F)(V):=\{ s \in \Gamma(f^{-1}(V);F) \mid \text{$f|_{\supp(s)} \colon \supp(s) \to V$は固有} \}
$$
により定まる$Y$上の層$f_!F \in \Sh(Y)$を$F$の$f$による固有順像と呼ぶ.また,函手$f_! \colon \Sh(X) \to \Sh(Y)$を固有順像函手と呼ぶ.特に,$f=a_X \colon X \to \pt$が一点への写像のとき,
$$
\Gamma_c(X;F):={a_X}_!F=\{ s \in \Gamma(X;F) \mid \text{$\supp(s)$はコンパクト} \}
$$
とあらわし,コンパクト台切断とも呼ぶ.
この函手$f_!$がGrothendieckの六演算の五つ目です.もし$f$が$\Supp(F)$上固有であれば$f_!F \simeq f_*F$であることに注意しましょう.固有順像が順像の部分であることを用いると,連続写像$f \colon X \to Y$に対して,固有順像函手$f_! \colon \Sh(X) \to \Sh(Y)$は左完全函手であることが分かります.また,連続写像$f \colon X \to Y, g \colon Y \to Z$に対して,自然同値$g_! \circ f_! \simeq (g \circ f)_! \colon \Sh(X) \to \Sh(Z)$が成り立ちます.特に,$F \in \Sh(X)$に対して自然な同形
$$
\Gamma_c(Y;f_!F) \simeq \Gamma_c(X;F)
$$
が成り立ちます.$f_!$は左完全函手なのでその導来函手である高次固有順像$R^nf_!$が考えられます.特に$f=a_X \colon X \to \pt$を考えれば,コンパクト台コホモロジー函手$H^n_c(X;\ast) \colon \Sh(X) \to Ab$が得られます.導来函手は$\delta$函手なので層の短完全列に対してコホモロジー長完全列があることにも注意しましょう.普通のコホモロジーの長完全列とコンパクト台コホモロジーの長完全列をうまく使い分けることによって様々なコホモロジーを計算することができます(下の例3も参照).
固有順像の嬉しい性質の一つは茎が計算できることです.順像では茎が計算できないのに固有順像では茎が計算できるのは,切断の台に写像に対する固有性を課して暴れ具合を統制しているからと考えられます.
$f \colon X \to Y$を連続写像,$F \in \Sh(X)$とする.このとき,任意の$y \in Y$に対して,自然な同形
$$
\alpha \colon (f_!F)_y \simto \Gamma_c \left( f^{-1}(y);F|_{f^{-1}(y)} \right)
$$
が存在する.
写像$\alpha$は$i \colon f^{-1}(y) \hookrightarrow X$としたときの$F \to i_*i^{-1}F$から定まるものである.
$\alpha$が単射であることを示す.$V$を$Y$内の$y$の開近傍として$t \in (f_!F)(V)$とする.すると,$t$は$s \in \Gamma(f^{-1}(V);F)$で$f|_{\supp(s)} \colon \supp(s) \to V$が固有であるもので定まる.$\alpha(t)=0$とすると$y \not\in f(\supp(s))$であり,固有写像は閉写像だから,ある$y$の近傍$V'$が存在して$V' \cap f(\supp(s))=\emptyset$となる.ゆえに,$V'$上$t=0$である.
$\alpha$が全射であることを示す.$s \in \Gamma_c \left( f^{-1}(y);F|_{f^{-1}(y)} \right)$として,$K:=\supp(s) \subset f^{-1}(y)$とする.実は,$K$がコンパクトであることから,ある$K \subset U$となる$X$の開部分集合$U$と$t \in \Gamma(U;F)$が存在して$s|_{U \cap f^{-1}(y)}=t|_{U \cap f^{-1}(y)}$となる.$V$を$K$の相対コンパクトな開近傍で$\overline{V} \subset U$を満たすものとすると,$y \not\in f(\overline{V} \cap \supp(t) \setminus V)$となる.よって,$y$の開近傍$W$であって$W \cap f(\overline{V} \cap \supp(t) \setminus V) = \emptyset$となるものが存在する.ゆえに,$s' \in \Gamma(f^{-1}(W);F)$を
$$
\begin{cases}
s'|_{f^{-1}(W) \cap V} = t|_{f^{-1}(W) \cap V} \\
s'|_{f^{-1}(W) \setminus (\supp(t) \cap \overline{V})} = 0
\end{cases}
$$
と定めることが出来る.$\supp(s') \subset f^{-1}(W) \cap \supp(t) \cap \overline{V}$より,$f|_{\supp(s')} \colon \supp(s') \to W$は固有であり,作り方から$s'|_{f^{-1}(y)}=s$を満たす.
次のように固有順像を包含写像に用いることで茎が$0$でない部分を増やさないように全体に延ばすことができます.
$i \colon Z \hookrightarrow X$を局所閉部分集合の包含写像とする.このとき,上の命題より$F \in \Sh(Z)$に対して,同形
$$
(j_!F)_x \simeq
\begin{cases}
F_x & (x \in Z) \\
0 & (x \in X \setminus Z)
\end{cases}
$$
が成り立つ.これは$Z$が開集合であっても成立することに注意せよ($\{x \in X \mid (i_!F)_x \neq 0 \} \subsetneq \Supp(i_!F)$である).開集合の包含写像$j \colon U \hookrightarrow X$と普通の順像$j_*F$に対して一般にはこのような茎の同形は成り立たなかったことを思い出そう.$i_!F$を$F$のゼロ拡張とも呼ぶ.$Z$が閉部分集合の場合は自然に$i_!F \simeq i_*F$である.
上の茎の計算より次が得られます.
$i \colon Z \hookrightarrow X$を局所閉部分集合の包含写像とする.このとき,ゼロ拡張の函手$i_! \colon \Sh(Z) \to \Sh(X)$は完全函手である.
$i \colon Z \hookrightarrow X$を局所閉部分集合の包含写像とする.このとき,(1) $i_!$が完全函手であること,(2) $i_!$が入射的層をc-柔軟層 (c-soft sheaf) にうつすこと,(3) コンパクト台コホモロジーは柔軟分解で計算できることの三つから,$F \in \Sh(Z)$に対して
$$
H^n_c(X;i_!F) \simeq H^n_c(Z;F)
$$
となることが分かる.一般には$f_!$が完全でないので上で$i$を一般の連続写像$f$に取り替えると成立しないが,前節も少し述べたように導来圏とその間の導来函手を考えると正しくなる.
開集合からのゼロ拡張については次の制限との随伴の関係が成り立ちます.
$j \colon U \hookrightarrow X$を開部分集合の包含写像とする.このとき,$F \in \Sh(U), G \in \Sh(X)$に対して自然な同形
$$
\Hom_{\Sh(X)}(j_!F,G) \simeq \Hom_{\Sh(U)}(F,G|_U)
$$
が成り立つ.また,これらに対して自然な同形
$$
\cHom_X(j_!F,G) \simeq j_* \cHom_U(F,j^{-1}G)
$$
が成り立つ.
後半は各開集合で考えれば良いので,前半だけ示す.
$V \subset U$なる開部分集合$V$に対して$(j_!F)(V)=F(V)$なので,層の射$\varphi \colon j_!F \to G$に対して$\{\varphi_V \}_{V \subset U}$は層の射$F \to G|_U$を定める.
逆に,層の射$\psi \colon F \to G|_U$が与えられたとする.このとき,$X$の開部分集合$V$に対して
$$
(j_!F)(V)=\{ s \in F(U \cap V) \mid \text{$\supp(s)$は$V$の閉部分集合} \}
$$
である(雑にいうと$s$の台は$U$の境界からちゃんと離れている).上のように見たとき$s \in (j_!F)(V)$に対して$\psi_{U \cap V}(s) \in G(U \cap V)$の台は$\supp(s)$に含まれているので,$V$の開部分集合$V \setminus \supp(s)$上で$0$として貼り合わせて$G(V)$の切断が作れる.この対応で定まる写像を$\varphi_V \colon (j_!F)(V) \to G(V)$とすると,$\varphi=\{ \varphi_V \}_V$は層の射$j_!F \to G$を定める.
上記の対応は互いに逆なので同形が示せた.
上の随伴を使うと入射的層の開部分集合への制限が入射的であることが次のように分かります.これも随伴がえらい証明です.
$I \in \Sh(X)$を$X$上の入射的層,$U$を$X$の開部分集合とする.このとき,$I|_U \in \Sh(U)$は$U$上の入射的層である.特に,$\cHom(\ast,I) \colon \Sh(X) \to \Sh(X)$は完全函手である.
$j \colon U \hookrightarrow X$を包含写像とする.任意の$U$上の層$F \in \Sh(U)$に対して,上の随伴から
$$
\Hom_{\Sh(U)}(F,I|_U) \simeq \Hom_{\Sh(X)}(j_!F,I)
$$
である.右辺は$F$に対する函手としてみれば,完全函手$j_!$と完全函手$\Hom_{\Sh(X)}(\ast,I)$の合成として完全函手である.したがって,左辺もそうであり,$I|_U$は入射的である.後半は各開集合について考えればよい.
上の補題を使って次も得られます.これは入射的層は脆弱ということの脆弱層への埋め込みを使わない証明にもなっています.
$I \in \Sh(X)$を$X$上の入射的層,$F \in \Sh(X)$を$X$上の層とする.このとき,$\cHom(F,I)$は脆弱層である.特に,$I$は脆弱層である.
$j \colon U \hookrightarrow X$を開部分集合の包含写像とすると,随伴から自然な層の射$j_!F|_U \to F$が得られる.茎を考えるとこの射は単射であるので,完全函手$\Hom(\ast,I)$を施すと$\Hom(F,I) \to \Hom(j_!F|_U, I) \simeq \Hom(F|_U,I|_U)$は全射である.これが$\cHom(F,I)$の制限写像と一致するので,$\cHom(F,I)$は脆弱である.後半は$F=\bbZ_X$とすれば$\cHom(\bbZ_X,I) \simeq I$であることから従う.
次は命題1の相対版で固有基底変換 (proper base change) と呼ばれることもあります.証明は逆像と順像の随伴を使って射を作って,命題1で茎の同形をチェックすることでできます.
位相空間のファイバー積の図式
\begin{xy}
\xymatrix{
X' \ar[r]^-{f'} \ar[d]_-{g'} & Y' \ar[d]^-{g} \\
X \ar[r]_-{f} & Y
}
\end{xy}
すなわち,$X'=X \times_Y Y'=\{ (x,y') \in X \times Y' \mid f(x)=g(y') \}$となるものに対して,自然同値
$$
g^{-1} \circ f_! \simto f'_! \circ g'^{-1} \colon \Sh(X) \to \Sh(Y')
$$
が成り立つ.
固有順像・逆像・テンソル積に関する同形$f_!(F \otimes f^{-1}G) \simeq f_!F \otimes G$(射影公式と呼ばれます)もある条件のもとで成立するのですが,これは導来圏で述べたほうがすっきりするので後回しにします.
さて,少し天下り的ですが次の問いを立ててみましょう.
問:一般の連続写像$f \colon X \to Y$に対して,固有順像函手$f_! \colon \Sh(X) \to \Sh(Y)$の右随伴函手は存在するか?すなわち,函手$f^! \colon \Sh(Y) \to \Sh(X)$(随伴にしたいので$f^!$と書いた)であって,$F \in \Sh(X), G \in \Sh(Y)$に対して自然な同形
$$
\Hom_{\Sh(Y)}(f_!F,G) \simeq \Hom_{\Sh(X)}(F,f^!G)
$$
が成り立つものは存在するか?
これを期待する理由は少なくとも二つあります.
一つ目は開部分集合の包含写像$j \colon U \hookrightarrow X$に対しては右随伴が制限として存在するので,一般にも随伴の存在を期待したいという安直なものです.しかし,もしこれができると一つずつ随伴で解きほぐしてやることでテンソル積・逆像・固有順像の組合せで定義された層に対する演算の右随伴を作ることができます.これは嬉しいことです.
二つ目は積分のようなことをしたいというものです.コンパクトな台を持つ函数があったら積分をしたくなるのが人情というものではないでしょうか?より一般にはファイバー方向にコンパクトな切断をファイバーに沿って積分したくなります.もし上のような右随伴函手が存在すれば,自然な写像$f_!f^!G \to G$が$f$のファイバーに沿った積分と思えそうです.特に一点への写像$f=a_X \colon X \to \pt$と$G=\bbR$を考えれば,$\Gamma_c(X;a_X^!\bbR) \to \bbR$となって積分のような写像ができます.
さて,この問いに対する答えは残念ながら一般にはNoです.Noである理由はやってみると分かるのですが,$f_! \colon \Sh(X) \to \Sh(Y)$が完全ではないことに起因します.実際,局所閉部分集合の包含写像$i \colon Z \hookrightarrow X$に対しては$i_!$は完全で$i^! \colon \Sh(X) \to \Sh(Z)$を作ることができます(開部分集合の包含写像は特殊な場合).これは非常に残念ですが,枠組みを広げることで回避できるというのが上付きびっくりと呼ばれている$f^!$の構成のアイデアです.ある意味で$f_!$が完全に振る舞うような層のクラスに「同形」で取り替えるという操作ができれば議論がうまく進むのですが,これは層のアーベル圏のレベルでは不可能です.しかし,導来圏ではそこでの「同形」で良い層に取り替えることができて$f^!$が作れるのです!こうしてできたものがGrothendieckの六演算の最後の上付きびっくりと呼ばれるものです.これが導来圏の二つ目の良さなのです.詳細についてはまたの機会に説明します.
この節では
について説明しました.