この節では位相空間の間の連続写像$f \colon X \to Y$に関して層を変形させる演算を考えましょう.この連続写像で$X$上の層を押して$Y$上の層を作ったり,$Y$上の層を引き戻して$X$上の層を作ったりします.この操作で別の空間の層を作るので外部演算とも呼ばれたりします.
$f \colon X \to Y$を位相空間の間の連続写像とします.これによって$X$上の層$F \in \Sh(X)$から$Y$上の層$G \in \Sh(Y)$を作ることを考えましょう.このためにはまず$Y$の開部分集合$V$に対して切断を定めなければなりません.$f$は連続なので$f^{-1}(U)$は$X$の開部分集合になるので$G(V):=F(f^{-1}(V))$としてみます.すると,$Y$の開部分集合の組$V \subset V'$に対して$f^{-1}(V) \subset f^{-1}(V')$なので$\rho^F_{f^{-1}(V), f^{-1}(V')} \colon F(f^{-1}(V')) \to F(f^{-1}(V))$が定まっています.これを$\rho^G_{V,V'}$とすれば$F$が前層であることから$G$も前層になることが分かります.さらに$Y$の開部分集合$V$とその開被覆$\{V_i\}_{i \in I}$に対して,$\{f^{-1}(V_i)\}_{i \in I}$が$f^{-1}(V)$の開被覆になること・$G$の制限写像の定義・$F$が層であることから$G$が貼り合わせ条件を満たして層になることが分かります.このやり方で$F \in \Sh(X)$を$f$で押し出すことができました.これを$f_*F$と書きます.$X$上の層の射$\varphi \colon F \to F'$と$Y$の開部分集合$V$に対して,$(f_*\varphi)_V:=\varphi_{f^{-1}(V)} \colon (f_*F)(V) \to (f_*F')(V)$と定めると$f_*\varphi$は$f_*F$から$f_*F'$への層の射となります.$f_*$は射の合成を保つこともチェックできます.
$f \colon X \to Y$を位相空間の間の連続写像,$F \in \Sh(X)$とする.このとき,$Y$の開部分集合$V$に対して$(f_*F)(V):=F(f^{-1}(V))$,開部分集合の組$V \subset V'$に対して$\rho^{f_*F}_{V,V'}:=\rho^F_{f^{-1}(V), f^{-1}(V')}$と定めた層$f_*F$を$F$の$f$による順像または押し出しと呼ぶ.また,函手$f_* \colon \Sh(X) \to \Sh(Y)$を$f$による順像函手と呼ぶ.
一点からなる位相空間を$\pt=\{\pt\}$と書く.$\pt$上の層はその一点の切断を決めれば定まるので,$\Sh(\pt)$はアーベル圏の圏$Ab$と同一視できる.さて,位相空間$X$から$\pt$への連続写像を$a_X \colon X \to \pt$と書く.このとき,$a_X^{-1}(\pt)=X$であることと上の同一視から,$F \in \Sh(X)$に対して自然に${a_X}_*F \simeq \Gamma(X;F)=F(X)$となる.すなわち,${a_X}_* \simeq \Gamma(X;\ast) \colon \Sh(X) \to Ab$である.
$Z$を$X$の閉部分集合として$i \colon Z \hookrightarrow X$を包含写像する.このとき,$F \in \Sh(Z)$に対して$i_*F$の茎は
$$
(i_*F)_x \simeq
\begin{cases}
F_x & (x \in Z) \\
0 & (x \in X \setminus Z)
\end{cases}
$$
を満たす.特にこのときは順像函手$i_* \colon \Sh(Z) \to \Sh(X)$は完全函手である.$Z$が閉点一点で$i_x \colon \{x\} \hookrightarrow X$を包含写像とするとき,$M \in Ab$に対して${i_x}_*M$を摩天楼層とも呼ぶ.一方で,$U$を$X$の開部分集合として$j \colon U \hookrightarrow X$を包含写像とするとき,$F \in \Sh(U)$と$x \in X \setminus U$に対して$(j_*F)_x \simeq 0$は一般には分からない.実際,包含写像$j \colon (0,+\infty) \hookrightarrow \bbR$に対して$(j_*\bbZ_{(0,+\infty)})_0 \simeq \bbZ$である.
ここでは開部分集合の包含写像を$j$,閉部分集合の包含写像を$i$と書く記号法を採用しているが,他の文献では逆の記号法を用いる場合もあるので注意.
定義から次もすぐに分かります.
$f \colon X \to Y, g \colon Y \to Z$を二つの連続写像とするとき,$F \in \Sh(X)$に対して自然に$g_*(f_*F) \simeq (g \circ f)_*F$である.すなわち,函手として自然同値$g_* \circ f_* \simeq (g \circ f)_* \colon \Sh(X) \to \Sh(Z)$が成り立つ.
上の命題から特に連続写像$f \colon X \to Y$と$F \in \Sh(X)$に対して,
$$
\Gamma(Y;f_*F)
\simeq {a_Y}_* f_* F
\simeq {a_X}_* F
\simeq \Gamma(X;F)
$$
が成り立ちます.
$X=Y=\bbC \setminus \{0\}$として$f \colon X \to Y, z \mapsto z^2$とする.このとき,$X$上の定数層$\bbZ_X$の$f$による順像$f_*\bbZ_X$を考えてみる.$Y$内の開円盤$V$に対して$f^{-1}(V)$は$V$二つのコピーの非交和$V \sqcup V$と同じなので$f_*\bbZ|_V \simeq \bbZ^2_V$であることが分かる.このように各点の近傍で定数層と同形になる層のことを局所定数層または局所系と呼ぶ(局所系は各茎に有限性を課すこともある).しかし,$f_*\bbZ_X$は定数層ではない.実際,$\Gamma(Y;f_*\bbZ_X) \simeq \Gamma(X;\bbZ_X) \simeq \bbZ$であるから$f_*\bbZ_X$と$\bbZ^2_Y$は同形ではない(後者の大域切断は$\bbZ^2$).
第3節 で脆弱層というものを定義しました.$F \in \Sh(X)$が脆弱であるとは任意の$X$の開部分集合$U$に対して制限写像$\rho^F_{U,X} \colon F(X) \to F(U)$が全射になることでした.脆弱層の順像も脆弱層になります.
$f \colon X \to Y$を位相空間の間の連続写像,$F \in \Sh(X)$を$X$上の脆弱層とする.このとき,$f_*F \in \Sh(Y)$は$Y$上の脆弱層である.
任意の$Y$の開部分集合$V$に対して$\rho^{f_*F}_{V,Y}=\rho^F_{f^{-1}(V),X}$であるから全射である.
次に連続写像$f \colon X \to Y$によって$Y$上の層$G \in \Sh(Y)$を$X$上に引き戻すことを考えましょう.$X$の開部分集合$U$に対して,$f(U) \subset V$を満たす$Y$の開部分集合$V$を渡るときの$G(V)$の帰納極限
$$
\varinjlim_{f(U) \subset V} G(V)
$$
を対応させて,$X$の開部分集合の組$U \subset U'$に対して帰納極限に誘導される写像$\varinjlim_{f(U') \subset V'} G(V') \to \varinjlim_{f(U) \subset V} G(V)$を制限写像とすれば,これは前層になります.これをここだけの記号で$f^{\vee}G$と書くことにしましょう.残念ながら$f^{\vee}G$は一般には層ではありません.
$Y=\pt$として$a_X \colon X \to \pt$を一点への写像とすると,$a_X^{\vee} \bbZ$は任意の空でない開集合に対して$\bbZ$を返し空でない開集合間の制限写像が恒等写像となる前層なので,これは 第1節 で見た定数前層である.よって,一般には層ではない.
一般に層ではない前層があったらどうするかというのはだんだんわかってきたと思いますが,層化を取ればよいわけです.$f^\vee$の対応は層の射$\varphi \colon G \to G'$に対して前層の射$f^\vee\varphi \colon f^\vee G \to f^\vee G'$を引き起こし,それを層化すれば$(f^\vee\varphi)^+ \colon (f^\vee G)^+ \to (f^\vee G')^+$が引き起こされることにも注意します.
$f \colon X \to Y$を位相空間の間の連続写像,$G \in \Sh(X)$とする.このとき,$X$の開部分集合$U$に対して$(f^\vee F)(U):=\varinjlim_{f(U) \subset V} G(V)$,開部分集合の組$U \subset U'$に対して帰納極限から誘導された写像$\varinjlim_{f(U') \subset V'} G(V') \to \varinjlim_{f(U) \subset V} G(V)$を制限写像$\rho^{f^\vee G}_{U,U'}$と定めた前層$f^\vee$の層化を$f^{-1}G$と書き,$G$の$f$による逆像または引き戻しと呼ぶ.また,函手$f^{-1} \colon \Sh(Y) \to \Sh(X)$を$f$による逆像函手と呼ぶ.
$f$による逆像函手を$f^*$と書く場合もあるが,代数幾何などでは$f^*G$は別の意味$\cO_X \otimes_{f^{-1}\cO_Y} G$($f^{-1}$は我々の定義)に使うことが多いのでこの記号は使わない.
(i) $X$を位相空間として$a_X \colon X \to \pt$を一点への写像とする.このとき,アーベル群$M \in Ab$に対して$a_X^{-1}M \simeq M_X$(定数層)である.実際,$a_X^{\vee} M$は定数前層なのでその層化は定数層$M_X$である.
(ii) $X$を位相空間,$x \in X$として$i_x \colon \{x\} \hookrightarrow X$を包含写像とする.一点からなる空間上の層は$Ab$と同一視されたことを思い出せば,逆像と茎の定義から$F \in \Sh(X)$に対して$i_x^{-1}F \simeq F_x$である.
開部分集合の包含写像$j \colon U \hookrightarrow X$と$F \in \Sh(X)$に対して$j^{-1}F \simeq F|_U$であることが分かります.これに基づいて逆像を使って層の制限の概念を拡張しておきます.
$Z$を位相空間$X$の局所閉部分集合,すなわち開部分集合と閉部分集合の共通部分として,$i \colon Z \hookrightarrow X$を包含写像とする.このとき,$F \in \Sh(X)$に対して,$F|_Z:=i^{-1}F \in \Sh(Z)$と定めて$F$の$Z$への制限と呼ぶ.
例えば$C^0_X|_Z$は$X$内の$Z$の近傍で定義された連続函数の層になります.
逆像に関して重要なことは茎が次のように計算できることです.
$f \colon X \to Y$を位相空間の間の連続写像,$G \in \Sh(Y)$とする.このとき,同形$(f^{-1}G)_x \simeq G_{f(x)}$が成り立つ.
層化は茎を保つので$(f^{-1}G)_x \simeq (f^\vee G)_x$である.ここで$f$の連続性と帰納極限の性質から
$$
(f^\vee G)_x
= \varinjlim_{x \in U} \varinjlim_{f(U) \subset V} G(V)
\simeq \varinjlim_{f(x) \in V} G(V)
= G_{f(x)}
$$
となることが分かる.
$X=Y \times Z$として$p \colon X \to Y$を第一射影とする.このとき,$G \in \Sh(Y)$に対して$(p^{-1}G)_{(y,z)} \simeq G_y$である.すなわち,$p^{-1}G$は$Z$方向に$G$のコピーを並べた$X=Y \times Z$上の層になる.
上で定義した層の逆像と順像は実は随伴の関係になっています.
$f \colon X \to Y$を位相空間の間の連続写像とする.このとき,$F \in \Sh(X), G \in \Sh(Y)$に対して自然な同形
$$
\Hom_{\Sh(X)}(f^{-1}G,F) \simeq \Hom_{\Sh(Y)}(G,f_*F)
$$
が成り立つ.また,これらに対して自然な同形
$$
f_*\cHom_X(f^{-1}G,F) \simeq \cHom_Y(G,f_*F)
$$
も成り立つ.
後半の同形で大域切断を取れば前半が得られるが,後半の同形は前半の議論を各開集合ごとに行えばよいので,前半の概略だけ説明する.層化の普遍性より$\Hom_{\Sh(X)}(f^{-1}G,F) \simeq \Hom_{\PSh(X)}(f^\vee G,F)$であるから,同形
$$
\Hom_{\PSh(X)}(f^{\vee}G,F) \simeq \Hom_{\Sh(Y)}(G,f_*F)
$$
を示せばよい.
前層の射$\varphi \colon f^\vee G \to F$が与えられたとする.すると,任意の$X$の開部分集合$U$に対して$\varphi_U \colon (f^\vee G)(U)=\varinjlim_{f(U) \subset V'} G(V') \to F(U)$が定まっている.一方で$V$を任意の$Y$の開部分集合とすると,$f(f^{-1}(V)) \subset V$だから帰納極限に$G(V) \to \varinjlim_{f(f^{-1}(V)) \subset V'}G(V')$が定まる(これは実質的に層の射$G \to f_*f^{-1}G$を定めている).上で$U=f^{-1}(V)$として合成
$$
G(V) \to \varinjlim_{f(f^{-1}(V)) \subset V'}G(V') \to F(f^{-1}(V))
$$
を考えれば,これは$\psi_V \colon G(V) \to (f_*F)(V)$を与えて$\psi=\{\psi_V\}_{V \subset Y}$は層の射$\psi \colon G \to f_*F$を定めることがチェックできる.
逆に層の射$\psi \colon G \to f_*F$が与えられたとする.つまり,任意の$Y$の開部分集合$V$に対して$\psi \colon G(V) \to (f_*F)(V)=F(f^{-1}(V))$が定まっている.$X$の開部分集合$U$に対して$f(U) \subset V$なる$Y$の開部分集合$V'$を取れば,$U \subset f^{-1}(V')$であるから制限写像$F(f^{-1}(V')) \to F(U)$ある.帰納極限を取れば$\varinjlim_{f(U) \subset V'} F(f^{-1}(V')) \to F(U)$が定まる(これは実質的に層の射$f^{-1}f_* F \to F$を定めている).よって,帰納極限に誘導される写像との合成
$$
\varinjlim_{f(U) \subset V'} G(V') \to \varinjlim_{f(U) \subset V'} F(f^{-1}(V')) \to F(U)
$$
を考えれば,これは$\varphi_U \colon (f^\vee G)(U) \to F(U)$を与えて$\varphi=\{\varphi\}_{U \subset X}$は前層の射$\varphi \colon f^\vee G \to F$を定めることがチェックできる.
これらの対応は互いに逆を与えるので,同形が証明された.
上の随伴,または証明中での構成から,$F \in \Sh(X),G \in \Sh(Y)$に対して標準的な層の射
$$
G \to f_*f^{-1}G, \quad f^{-1}f_*F \to F
$$
が存在します(随伴のunit・counitのこと).随伴の証明はunit・counitの条件を調べる方が簡単かもしれませんが,上では愚直に説明しました.
$X$を位相空間として,$X$に離散位相を入れたものを$\hat{X}$と書き,$p \colon \hat{X} \to X$を標準的な連続写像とします.このとき,$F \in \Sh(X)$に対して$p_*p^{-1}F$は不連続切断の層$[F]$と同形であり,自然な層の射$F \to p_*p^{-1}F \simeq [F]$は$\varepsilon \colon F \to [F]$と同一視されます.このようにして脆弱層への埋め込みを構成することもできます.
随伴を用いると様々なことが系として得られます.
$f \colon X \to Y, g \colon Y \to Z$を二つの連続写像とするとき,$H \in \Sh(Z)$に対して自然に$f^{-1}(g^{-1}H) \simeq (g \circ f)^{-1}H$である.すなわち,函手として自然同値$f^{-1} \circ g^{-1} \simeq (g \circ f)^{-1} \colon \Sh(Z) \to \Sh(X)$が成り立つ.
これを使うと逆像の茎の計算は次のようにも説明できます.$f \colon X \to Y$を位相空間の間の連続写像,$G \in \Sh(X)$とします.$i_x \colon \{x\} \hookrightarrow X$を包含写像としたとき,$(f^{-1}G)_x \simeq i_x^{-1}f^{-1}G \simeq (f \circ i_x)^{-1}G$であって$f \circ i_x$は$i_{f(x)} \colon \{f(x) \} \hookrightarrow Y$と同一視できるので結局$i_{f(x)}^{-1}G \simeq G_{f(x)}$と同形になります.
$f \colon X \to Y$を連続写像とする.このとき,逆像函手$f^{-1} \colon \Sh(Y) \to \Sh(X)$は完全函手であり,順像函手$f_* \colon \Sh(X) \to \Sh(Y)$は左完全函手である.
$f^{-1}$の完全性は命題7の茎の同形から,$f_*$の左完全性は右随伴函手であることから従う.
随伴を使うと順像函手が入射的層を入射的層に送ることも分かります.次の証明は筆者は初めて見たときに随伴って偉いんだなぁと結構感動した記憶があります.
$f \colon X \to Y$を位相空間の間の連続写像として,$I \in \Sh(X)$を入射的層とする.このとき,$f_*I \in \Sh(Y)$も入射的層である.
随伴性から
$$
\Hom_{\Sh(X)}(f^{-1}(\ast),I) \simeq \Hom_{\Sh(Y)}(\ast,f_*I)
$$
が成り立つが,左辺の函手は完全函手の合成だから完全である.よって,右辺も完全であり$f_*I$は入射的である.
連続写像$f \colon X \to Y$に対して順像函手$f_* \colon \Sh(X) \to \Sh(Y)$は左完全でした.左完全函手については 第4節 で右導来函手を定義したので,$n \in \bbZ_{\ge 0}$に対して$f_*$の$n$次の右導来函手$R^n f_* \colon \Sh(X) \to \Sh(Y)$を考えることができます.この$R^nf_*$を高次順像とも呼びます.具体的には$F \in \Sh(X)$に対して入射分解$0 \to F \to I^\bullet$を一つ取り,$f_*I^\bullet$という$\Sh(Y)$における複体の$n$次コホモロジーを$R^nf_*F$とすればよいのでした.高次順像は別の記述もあります.
連続写像$f \colon X \to Y$と$F \in \Sh(X)$に対して,任意の$n \in \bbZ_{\ge 0}$について$R^nf_*F \in \Sh(Y)$は$Y$上の前層
$$
V \mapsto H^n(f^{-1}(V);F)
$$
の層化である.
$F$の入射分解$0 \to F \to I^0 \xrightarrow{d^0} I^1 \xrightarrow{d^1} I^2 \xrightarrow{d^2} \cdots$を一つ取ると,$R^nf_*F \simeq \Ker f_*(d^n)/ \Image f_*(d^{n-1})$(ただし$d^{-1}=0$)であった.右辺は商層の意味なので,これは$Y$上の前層
\begin{align}
V
\mapsto & \ \Ker f_*(d^n)_V / \Image f_*(d^{n-1})_V \\
= & \ \Ker \left( d^n_{f^{-1}(V)} \colon I^n(f^{-1}(V)) \to I^{n+1}(f^{-1}(V)) \right) \Big/ \Image \left(d^{n-1}_{f^{-1}(V)} \colon I^{n-1}(f^{-1}(V)) \to I^n(f^{-1}(V)) \right) \\
= & \ H^n(f^{-1}(V);F)
\end{align}
の層化である.
別の説明として普遍$\delta$函手を使っても以下のように証明できます.$F \in \Sh(X)$に対して$V \mapsto H^n(f^{-1}(V);F)$という$Y$上の前層の層化を対応させる函手を$T^n$と書くと,層化函手が完全函手(例えば茎を見れば分かる)ことから$T^\bullet=\{T^n\}_n$は$\delta$函手となることが分かります.任意の$X$上の入射的層$I \in \Sh(X)$に対して$T^n(I)=0$(層化する前に$0$だから)で$T^0 \simeq f_*$なので導来函手の普遍性によって$R^\bullet f_* \simeq T^\bullet$となります.
さて,連続写像$f \colon X \to Y$と$F \in \Sh(X)$に対して,同形$\Gamma(Y;f_*F) \simeq \Gamma(X;F)$が成り立ったのでした.それでは層係数コホモロジーと高次順像についても同様のことが期待できるでしょうか?答えはそのままではNoですが,スペクトル系列というものを使うというのが一つの手です.詳しくは説明しませんが,
$$
E_2^{p,q}=H^p(Y;R^qf_*F) \Longrightarrow H^{p+q}(X;F)
$$
となるスペクトル系列(Lerayスペクトル系列と呼ばれます)が存在するので,$H^n(X;F)$を高次順像のコホモロジーで計算することはできます.しかし,スペクトル系列などが出てきて何だか複雑ですね.これは完全からのズレをはかるために商空間を取ってコホモロジーを考えたことが原因なのです.そこで「コホモロジーが同じものは同じだとみなしたいが,コホモロジーは取りたくない」という贅沢で矛盾めいた(?)悩みが出てきます.これを実現したのが導来圏という概念なのです!すると,実際にコホモロジーや高次順像などを導来圏に適切に持ち上げてやると合成が簡単に計算できます.これについてはまたの機会に説明しましょう.
この節では
について説明しました.