この節からは層に対する様々な演算について説明したいと思います.これらの演算はGrothendieckの六演算と呼ばれるものの一部で,これらを組み合わせることで層をいろいろな形に変形して様々な結果を引き出すことができます.
まず内部演算と呼ばれる位相空間$X$上の層たちから$X$上の層を作る操作を説明します.以下では$X$を位相空間とします.
まずは内部Homと呼ばれる$\Hom$に関する層を考えます.
$F,G \in \Sh(X)$とする.開集合$U$に対して$\Hom_{\Sh(U)}(F|_U,G|_U)$を対応させる対応は層である.
開集合の組$U \subset V$と$\varphi \in \Hom_{\Sh(V)}(F|_V,G|_V)$に対して,$U$内の開集合だけに対して射を考えることにより$\varphi|_U \in \Hom_{\Sh(U)}(F|_U,G|_U)$が定まるので,これを制限写像とする.これらが前層の条件を満たすことはよい.
貼り合わせ条件を調べる.開集合$U$とその開被覆$\{U_i\}_{i \in I}$および$\varphi_i \in \Hom_{\Sh(U_i)}(F|_{U_i},G|_{U_i})$なる族で$\varphi_i|_{U_i \cap U_j}=\varphi_j|_{U_i \cap U_j}$を満たす族を任意に取る.$\varphi \in \Hom_{\Sh(U)}(F|_U,G|_U)$であって$\varphi|_{U_i}=\varphi_i$となるものを定めたいが,これには$U$の任意の開部分集合$V$に対して$\varphi_V \colon F(V) \to G(V)$を定めなければならない.$s \in F(V)$に対して$\{V \cap U_i\}_{i \in I}$は$V$の開被覆であり,$t_i:=\varphi_{i, V \cap U_i}(s|_{V \cap U_i}) \in G(V \cap U_i)$たちは$t_i|_{V \cap U_i \cap U_j}=t_j|_{V \cap U_i \cap U_j}$を満たす.$G$は層だから$t \in G(V)$が一意的に存在して$t_{V \cap U_i}=t_i$を満たす.$\varphi_V(s):=t$として$\varphi_V \colon F(V) \to G(V)$を定めると$\varphi=\{\varphi_V\}_{V \subset U} \colon F|_U \to G|_U$は制限写像たちと可換になるので層の射$\varphi \in \Hom_{\Sh(U)}(F|_U,G|_U)$である.作り方から任意の$i \in I$に対して$\varphi|_{U_i}=\varphi_i$を満たしている.作り方をたどればこのように作る必要があることも分かるが,一意性を直接見よう.$\psi \in \Hom_{\Sh(U)}(F|_U,G|_U)$もこの条件を満たすならば,任意の$i$に対して$\varphi|_{U_i}=\psi|_{U_i}$であるから,任意の$U$の開部分集合$V$と$s \in F(V)$に対して
$$
\varphi_{V}(s)|_{V \cap U_i}
= \varphi_{V \cap U_i}(s)
= \psi_{V \cap U_i}(s)
= \psi_{V}(s)|_{V \cap U_i}
$$
である.$G$が層であることから$\varphi_V(s)=\psi_V(s)$であり,$s$と$V$は任意だったので結局$\varphi=\psi$である.
$F,G \in \Sh(X)$に対して$U \mapsto \Hom_{\Sh(U)}(F|_U,G|_U)$の対応で定まる層を$\cHom(F,G) \in \Sh(X)$と書く.$\cHom \colon \Sh(X)^\op \times \Sh(X) \to \Sh(X)$を内部Hom函手とも呼ぶ.
$\cHom$のことをsheaf Homと呼んだりもしますが,日本語で適切な訳語があるかは筆者は知りません.$X$上のsheaf Homであることを強調したいときには$\cHom_X$と書くことにします.証明をよく見ると$G$が層であることしか使っていないので$F$は前層でも層$\cHom(F,G)$が定まることが分かりますが,それは使いません.定義から
$$
\Gamma(X;\cHom(F,G)) = \Hom_{\Sh(X)}(F,G)
$$
となります.これはうれしいことで,層の射の集合を調べるにはまず$\cHom$という層を調べればよいからです.層にしてしまうと様々な強力な道具を使って調べることができます.
$F \in \Sh(X)$に対して,$\cHom(\bbZ_X,F) \simeq F$である.連結な開部分集合$U$と$\varphi_U \colon \bbZ_X(U) =\bbZ \to F(U)$に対して$\varphi_U(1) \in F(U)$を対応させる射が同形を引き起こす.
次にテンソル積について考えます.$F,G \in \Sh(X)$として,開集合$U$に対して$F(U) \otimes_\bbZ G(U)$を対応させることを考えてみましょう.すると,$F$と$G$の制限写像により開集合の組$U \subset V$に対して$F(V) \otimes_\bbZ G(V) \to F(U) \otimes_\bbZ G(U)$が定まり,これで前層になることが分かります.残念ながらこの対応は一般には層ではありません.
$X=\{0,1\}$に離散位相を入れて,$F=G=\bbZ_X$を定数層とする.$U=X, U_0=\{0\}, U_1=\{1\}$とすると
$$
F(U) \otimes_\bbZ G(U) = \bbZ^4, \quad F(U_0) \otimes_\bbZ G(U_0) = \bbZ = F(U_1) \otimes_\bbZ G(U_1)
$$
となるので貼り合わせ条件が成り立たない.
そこでこの対応の層化としてテンソル積を定めます.
$F,G \in \Sh(X)$に対して$U \mapsto F(U) \otimes_\bbZ G(U)$の対応で定まる前層の層化を$F \otimes_\bbZ G$と書き,$F$と$G$のテンソル積と呼ぶ.$\otimes_\bbZ \colon \Sh(X)^\op \times \Sh(X) \to \Sh(X)$を内部テンソル積函手とも呼ぶ.
加群のテンソルと同様に層のテンソル積についても結合法則や(可換環上では)交換法則が成り立ちます.
層化が茎を保つことと帰納極限がテンソル積と交換する(両方帰納極限をとっても交換する)ことから次が分かります.
$F,G \in \Sh(X)$と$x \in X$に対して同形$(F \otimes_\bbZ G)_x \simeq F_x \otimes_\bbZ G_x$が成り立つ.
$F \in \Sh(X)$に対して,$\bbZ_X \otimes_\bbZ F \simeq F$である.
上で定義した層のテンソル積とsheaf Homは随伴の関係になっています.今後は記号を簡単にするために,明らかな場合は$\Hom_{\Sh(X)}$を単に$\Hom$と書いたり$\otimes_\bbZ$を単に$\otimes$と書いてしまいます.
$F,G,H \in \Sh(X)$に対して自然な同形
$$
\Hom(F \otimes G, H) \simeq \Hom(F, \cHom(G,H))
$$
が成り立つ.
各開集合$U$に対して
$$
\Hom_{Ab}(F(U) \otimes G(U), H(U))
\simeq
\Hom_{Ab}(F(U), \Hom_{Ab}(G(U),H(U)))
$$
が成り立つ.よって,$U \mapsto F(U) \otimes G(U)$の対応で定まる前層を$F \, \check{\otimes} \, G$と書くと,同形
$$
\Hom_{\PSh(X)}(F \, \check{\otimes} \, G, H) \simeq \Hom(F,\cHom(G,H))
$$
が成り立つことが分かる.ゆえに結論は層化の普遍性から従う.
随伴の性質を使うと次が得られます.
内部テンソル積函手$\otimes \colon \Sh(X) \times \Sh(X) \to \Sh(X)$は右完全であり,内部Hom函手$\cHom \colon \Sh(X)^\op \times \Sh(X) \to \Sh(X)$は左完全である.
この節では
について説明しました.