ここでは層の圏$\Sh(X)$について調べます.
さて$\PSh(X)$は前層の射に対して開集合ごとに核や像を定義することでアーベル圏になるのでした.層の場合にも同じことができるかを見てみましょう.
$\varphi \colon F \to G$を層の射とする.$K(U):=\Ker \varphi_U$と定めると$K$は層である.
開集合の組$U \subset V$に対して,核の普遍性により次の図式を可換にする写像$\Ker \varphi_V \to \Ker \varphi_U$が定まる:
\begin{xy}
\xymatrix{
0 \ar[r] & \Ker \varphi_V \ar[r] \ar@{-->}[d] & F(V) \ar[r] \ar[d] & G(V) \ar[d] \\
0 \ar[r] & \Ker \varphi_U \ar[r] & F(U) \ar[r] & G(U)
}
\end{xy}
これを制限写像として$K$は前層になる.貼り合わせ条件を確かめよう.開集合$U$と$U$の開被覆$\{U_i\}_{i \in I}$に対して$s_i \in K(U_i)$が与えられ任意の$i,j \in I$に対して$s_i|_{U_i \cap U_j}=s_j|_{U_i \cap U_j} \in K(U_i \cap U_j)$を満たすとする.これらを$s_i \in F(U_i)$とみなせば,上の可換図式から$K$の制限写像は$F$のそれと可換なので$F$で貼り合わせ条件の仮定を満たすことが分かる.$F$は層だから,一意的に$s \in F(U)$が存在して任意の$i \in I$に対して$s|_{U_i}=s_i$を満たす.すると,任意の$i \in I$に対して$s_i \in K(U_i)$であったから$\varphi_U(s)|_{U_i}=\varphi_{U_i}(s|_{U_i})=\varphi_{U_i}(s_i)=0$である.$G$は層だから,これは$\varphi_U(s)=0$を意味する.ゆえに$s \in K(U)$である.
層化函手は埋め込み函手$\iota \colon \Sh(X) \to \PSh(X)$の左随伴であった.上の補題は右随伴函手$\iota$が核を保つということからも分かる.
核については開集合ごとに考えることでめでたく層になりましたが,残念なことに像については次の例が示すように一般には層にはなりません.
$X=\bbC$として$X$上の正則函数のなす層$\cO_X$を考える.$f \in \cO_X(U)$に対して$(d/dz)_U(f)=df/dz$と定めると$d/dz \colon \cO_X \to \cO_X$は層の射である(微分は局所的!).$I(U)=\Image (d/dz)_U$とすると,$I$は前層であるが層ではない.
前層であることは上の補題のように普遍性から定まる写像を考えればよい.$U=\bbC \setminus \{0\}, U_0=\bbC \setminus (-\infty,0], U_1=\bbC \setminus [0,+\infty)$とすると$\{U_0,U_1\}$は$U$の開被覆である.$U_0.U_1$は単連結だから$1/z$は$U_0,U_1$上原始函数をもつ.つまり$1/z \in I(U_i) \ (i =0,1)$である.しかし$1/z \not\in I(U)$である.
層の射に対して開集合ごとの像の対応は層ではないですが,我々は前層に対して「一番近い層」を対応される層化という道具を手に入れていたのでした.これを使って層の射の像を定義します.
$\varphi \colon F \to G$を層の射とする.$K(U):=\Ker \varphi_U$で定義した層を$\Ker \varphi$と書き,$\varphi$の核と呼ぶ.さらに,$I(U):=\Image \varphi_U$で定義した前層$I$の層化$I^+$を$\Image \varphi$と書き,$\varphi$の像と呼ぶ.
次は茎を取る函手が完全であることと層化で茎は変わらないことから得られます.
層の射$\varphi \colon F \to G$に対して,$(\Ker \varphi)_x \simeq \Ker \varphi_x, (\Image \varphi)_x \simeq \Image \varphi_x$である.
層化の普遍性から,このように定義した核と像が満たしてほしい普遍性を満たすこともチェックできます.こうして次が分かりました.
$\Sh(X)$はアーベル圏である.
ここで後のために部分層・商層について準備しておきます.
$F,G \in \Sh(X)$とする,$F$が$G$の部分層であるとは任意の開集合$U$に対して$F(U) \subset G(U)$であり任意の開集合の組$U \subset V$$\rho^F_{U,V}=\rho^G_{U,V}|_{F(V)}$であることを言う.単射な層の射$i \colon F \to G$が存在すると言ってもよい.このとき,$G/F$を$U$に$G(U)/F(U)$を対応させる前層の層化として定めて$G$の$F$による商層と呼ぶ.$G/F =\Coker i$と言ってもよい.
層の圏$\Sh(X)$がアーベル圏であることが分かったので次のように層の完全列を考えることができます.
層の射の列$F \xrightarrow{\varphi} G \xrightarrow{\psi} H$が完全であるとは$\Ker \psi = \Image \varphi$を満たすことをいう.さらに長い列が完全であるとは任意の連続する三つの射の列が完全であることをいう.
次は命題1と補題3から従います.
層の射の列$F \xrightarrow{\varphi} G \xrightarrow{\psi} H$が完全$\Leftrightarrow$任意の$x \in X$に対して$F_x \xrightarrow{\varphi_x} G_x \xrightarrow{\psi_x} H_x$が完全.
上の命題は非常に役立つものです.実際,層の列が完全であることを知るには任意の点の近傍だけを見れば良いからです.これを使って次のような層の完全列を得ることができます.
(i) $F$を$G$の部分層とすると$0 \to F \to G \to G/H \to 0$は完全である.
(ii) $X$を$\bbC$の領域とする.このとき正則函数の層$\cO_X$は有理型函数の層$\mathcal M_X$の部分層である.したがって,上の例の特殊な場合として$0 \to \cO_X \to \mathcal M_X \to \mathcal M_X /\cO_x \to 0$は完全である.
(iii) 再び$X$を$\bbC$の領域とする.$\cO^*$を$0$を取らない正則函数のなす層として乗法に関してアーベル群の層とみなす.層の射$\psi \colon \cO_X \to \cO_X^*$を$\psi_U(f):=\exp(2\pi \sqrt{-1} f)$と定めると$0 \to \bbZ_X \to \cO_X \xrightarrow{\psi} \cO_X^* \to 0$は層の完全列である.実際,命題5より完全性を示すには任意の点の十分小さい開円盤での完全性を言えばよいが,このときは$\log$が取れるのでよい.
(iv) $X$を$C^\infty$級多様体として$\mathcal A^k_X \ (k \in \bbZ_{\ge 0})$を$k$次微分形式のなす層とする.外微分の写像$d^k \colon \mathcal A^k_X \to \mathcal A^{k+1}_X$は層の射である.また$\bbR$に付随する定数層$\bbR_X$は$\mathcal A^0_X$の部分層とみなせる.このとき,
$$
0 \to \bbR_X \to \mathcal A^0_X \xrightarrow{d^0} \mathcal A^1_X \xrightarrow{d^1} \mathcal A^2_X \to \cdots
$$
は層の完全列である.実際,命題5より完全性を示すには任意の点の十分小さい開円盤での完全性を言えばよいが,これはポアンカレの補題より正しい.
(v) $P$を正則函数係数の線形微分作用素として層の射$P \colon \cO_X \to \cO_X$とみなす.このとき,$\cO_X \xrightarrow{P} \cO_X \to 0$が完全,すなわち$P$が全射であることは微分方程式$Pf=g$が任意の$g$に対して局所可解であることと同値である.これはCauchy–Kovalevskayaの定理などに現れる状況である.
上の例のように層の列が完全であるという状況はよく起こりチェックが容易いですが,それを$U$上の切断にすると完全かどうか分からなくなってしまいます.実際,上の例の(iii)では$X$が単連結でなければ$\psi_X \colon \cO_X(X) \to \cO^*_X(X)$は全射ではありません.一般に層の射$\varphi \colon F \to G$が全射$\Leftrightarrow$任意の開集合$U$と任意の$t \in G(U)$に対して,$U$の開被覆$\{U_i\}_{i \in I}$が存在して$t|_{U_i} \in \Image \varphi_{U_i}$しか分からないのです.まとめておくと,切断を取る函手については一般には次の左完全性しか分かりません.
任意の開集合$U$に対して,$U$上の切断を与える函手$\Gamma(U;\ast) \colon \Sh(X) \to Ab$は左完全函手である.すなわち,層の完全列$0 \to F \xrightarrow{\varphi} G \xrightarrow{\psi} H \to 0$に対して,$0 \to F(U) \xrightarrow{\varphi_U} G(U) \xrightarrow{\psi_U} H(U)$は完全である.
この命題は命題1と同様の議論で元を取ることで証明できます.別のやり方として埋め込み函手$\iota \colon \Sh(X) \to \PSh(X)$は層化函手の右随伴なので左完全で$\PSh(X)$の完全性は開集合ごとの完全性であることからも従います.
命題の最後$\psi_U$の全射性が分からないのはなんだか悲しいことです.例えば上の例での$(\mathcal M_X/\cO_X)(X)$の元が$\mathcal M_X(X)$で大域的に書けるかや局所的には常に可解な微分方程式$Pf=g$が大域的に解けるかは興味があることだからです.これがいつ全射になるかの条件が分かるようになれば嬉しいですが判定する道具はあるのでしょうか?実はこれが(層係数)コホモロジーというものです.次回やるように左完全でしかなかった列の右側に$H^1(U;F), H^1(U;G), H^1(U;H), H^2(U;F),\dots$と付け足していって
$$
0 \to F(U) \xrightarrow{\varphi_U} G(U) \xrightarrow{\psi_U} H(U) \to H^1(U;F) \to H^1(U;G) \to H^1(U;H) \to H^2(U;F) \to \cdots
$$
が完全になるようにできます.すると,$H^1(U;F)$を見ることで$\psi_U$の「全射でない具合」を見ることができます.嬉しいですね!次節でやりましょう.
この節では
について説明しました.