旗多様体のイメージを持とう　～GL_nの旗多様体のブリュア分解～

旗多様体は、表現論、特に幾何学的表現論において非常に基本的な多様体です。

この記事では、旗多様体の入門として、$G=GL_n$のケースにおいて旗多様体を2通りの方法で定義し、その旗多様体の基本的なアファイン空間への分解方法であるブリュア分解について説明しようと思います。

正確に旗多様体を扱うというよりは、小さい例に触れることで旗多様体のイメージを持とうというのがこの記事のコンセプトになります。

記事の中にたくさん「演習」と書かれていますが、どれも基本的にそこまで難しくないため、解くことをおすすめします。

基本的な線形代数・群論・多様体論は既知のものとします。割と多様体を雑に扱っているのですが、許してください……。

また、この記事では簡単のため複素数体上でのみ考えることとします。以下、線形空間、多様体といった場合、複素線形空間、複素多様体を表すこととします。位相に関しては、ザリスキ位相ではなく、複素多様体の（実多様体としての）位相を考えることにします。

また、ここでは群として$G=GL_n$のみを扱います。これはディンキン図形が$\mathsf{A}$型のケースに相当します。

「旗の集合」としての旗多様体

たとえば、$V$を線形空間としたときに、$V$の射影空間は「$V$の$1$次元部分線形空間全体」と定義されたのを思い出します。また、グラスマン多様体は、「$V$の$k$次元部分線形空間全体」と定義されます。

旗多様体は、この例のように「～～をみたす$V$の部分線形空間全体」と定義されます。

$n=3$のとき、これが確かに「旗」の多様体であることをイメージしてみましょう。
$\mathrm{Fl}_3$の定義を書き下すと次のようになります：
$$\mathrm{Fl}_3=\{0\subset E_1\subset E_2\subset \mathbb{C}^3\mid \dim E_i=i~~(i=1,2)\}.$$
$3$次元空間内に「旗」があり、旗の支点が固定され、その状態で旗を振り回すことをイメージしてみます。

$3$次元空間内の旗

旗の軸が$1$次元部分空間であり、旗の布が軸を含む$2$次元部分空間だと思えば、$0\subset E_1\subset E_2\subset \mathbb{C}^3$なるベクトル空間の組を、「旗だなあ」と思えるのではないでしょうか。（実際に旗多様体を考えるときは、「軸」は半直線ではなく直線であることに注意すべきですが。）

その「旗」としてあり得る「位置全体」が、旗多様体なのだといえます。

さらに小さい例を考えてみます。$n=2$のときは
$$\mathrm{Fl}_2=\{0\subset E_1\subset \mathbb{C}^2\mid \dim E_1=1\}=\mathbb{P}^1$$
です。

旗多様体は、名前の通り多様体の構造をもちます。この記事ではその詳しい内容には立ち入りませんが、たとえば後ほど説明するように旗多様体を、リー群をその閉部分群で割ったものだと思えば、証明できます。

さらに、旗多様体はコンパクトです。射影空間$\mathbb{P}^k$がコンパクトであることを考えればなんとなくそうなりそうな気がすると思います。いろいろな示し方があると思いますが、たとえば、$k=1,2,\dots,n-1$に対し
$$\mathrm{Fl}_n^{(k)}=\{0\subset E_1\subset\dots\subset E_k\subset \mathbb{C}^n\mid \dim E_i=i~~(i=1,2\dots,n-1)\}$$
（標準的な記法ではない）とおけば、
$$\mathrm{Fl}_n=\mathrm{Fl}^{(n-1)}_n\xrightarrow{p_{n-2}}\mathrm{Fl}^{(n-2)}_n\xrightarrow{p_{n-3}}\cdots \xrightarrow{p_{1}}\mathrm{Fl}^{(1)}_n\xrightarrow{p_0}\{\text{1点}\}$$
という、各ファイバーが射影空間であるファイバー束の列を考えられるので、コンパクトです（詳細は省略します）。

剰余類としての旗多様体

$G=GL_n$を、正則な$n\times n$（複素）行列全体のなす群とします。これは複素リー群です。「$n\times n$行列のうち行列式が$0$でないもの全体」とも言えるため、代数多様体の構造もあります。

$G=GL_n$は$\mathbb{C}^n$に左からの掛け算で作用します。

すると、$G$は旗多様体$\mathrm{Fl}_n$にも作用します。$g\in G$, $V\subset \mathbb{C}^n$に対し$gV:=\{g\cdot v\mid v\in V\}$と書くことにすると、$g\in G$, $E_\bullet=(E_i)_{1\leq i\leq n}\in \mathrm{Fl}_n$に対し、$gE_\bullet$が$(gE_i)_{1\leq i\leq n}$で定まります。

以下、作用$G\curvearrowright \mathrm{Fl}_n$を考えます。

$\mathbb{C}^n$の標準基底を$\mathbf{e}_1,\mathbf{e}_2,\dots,\mathbf{e}_n$とし、$i=1,2,\dots,n$に対し、$F_i$を$\mathbf{e}_1,\mathbf{e}_2,\dots,\mathbf{e}_i$で張られる$\mathbb{C}^n$の部分線形空間とします。

このとき、$F_\bullet$の固定部分群
$$\mathrm{Stab}(F_\bullet):=\{g\in G\mid gF_\bullet=F_\bullet\}$$
はなんでしょうか？

任意の$g\in \mathrm{Stab}(F_\bullet)$をとります。まず$gF_1=F_1$なので、$g\mathbf{e}_1$は$\mathbf{e}_1$のスカラー倍である必要があります。すなわち、$g$を行列表示したときの$1$列目は、$1$行目以外の成分は$0$でないといけません。

次に$gF_2=F_2$なので、$g\mathbf{e}_2$は$a\mathbf{e}_1+b\mathbf{e}_2$（$a,b$はスカラー）と書ける必要があります。すなわち、$g$を行列表示したときの$2$列目は、$1,2$行目以外の成分は$0$でないといけません。

これを繰り返すと、$g$は上三角行列である必要があります。逆に$g$が上三角行列で（かつ正則で）あれば$gF_\bullet=F_\bullet$であることが確かめられます。したがって、$\mathrm{Stab}(F_\bullet)$が上三角行列全体のなす群であることがわかりました。これをBorel部分群と呼び、$B$と書きます。まとめると、
$$B:=(G=GL_n\text{の上三角行列全体})=\mathrm{Stab}(F_\bullet)$$
です。

作用$G\curvearrowright \mathrm{Fl}_n$は推移的です。すなわち、任意の$E_\bullet\in \mathrm{Fl}_n$は、ある$g\in G$を用いて$E_\bullet=gF_\bullet$と表されます（演習）。
すると、$gB\in G/B$に$gF_\bullet$を対応させることで、剰余類$G/B$と旗多様体$\mathrm{Fl}_n$の間に一対一対応があることがわかります。これは$B=\mathrm{Stab}(F_\bullet)$からわかりますが、詳細は演習とします。

$B$は$G$の閉部分群なので、$G/B$に多様体の構造が入ります（[小林大島 §6]とか）。その構造が$\mathrm{Fl}_n$のものと対応することの証明は省略します。

まとめると、旗多様体を、「線形空間の列のなす多様体」「剰余類$G/B$」と$2$通りに定義しました。
以下、$\mathrm{Fl}_n$と$G/B$を同一視します。

ここからは、旗多様体の幾何学的な性質に立ち入ることにします。

ワイル群

$\mathfrak{S}_n$を$\{1,2,\dots,n\}$の置換全体の集合とすると、これは群となります。これを$n$次対称群とよびます。
$\sigma\in\mathfrak{S}_n$に対し、行列$A_\sigma$を、$(i,j)$成分を$a_{ij}$とするとき
$$a_{ij}=\begin{cases}1& i=\sigma(j) \\ 0 & i\neq \sigma(j)\end{cases}$$
で定まる行列とします。$A_\sigma \mathbf{e}_i=\mathbf{e}_{\sigma(i)}$であり、写像$\pi_0:\mathfrak{S}_n\to G$を$\pi_0(\sigma)=A_\sigma$で定めると、$\pi_0$は単射な群準同型です（演習）。
$\pi_0$の像をワイル(Weyl)群と呼び、$W$と書くこととします。（この記事では、）ワイル群は$G$の部分群です。

ブリュア分解

いよいよブリュア分解について考えます。

群$G$は旗多様体$\mathrm{Fl}_n=G/B$に左から作用するのでした。
これを$B\subset G$に制限した作用を考えるとき、それによる$\mathrm{Fl}_n=G/B$の軌道分解のことをブリュア(Bruhat)分解とよびます。また、各軌道のことをシューベルト(Schubert)胞体といいます。

抽象的に定義しましたので、これがどういう分解なのか、具体的に見ることにします。

シューベルト胞体はいくつあるか？

まずこれを考えてみることにします。

$G/B$を左$B$作用による軌道で分けるということは、次の同値関係：
$$g_1B\sim g_2B \quad \Longleftrightarrow \quad \exists b\in B,~bg_1B=g_2B$$
で$G/B$を分けることを意味します。ここで剰余類の定義を思い出すと、
$$\exists b\in B,~bg_1B=g_2B \quad \Longleftrightarrow \quad \exists b,b'\in B,~bg_1b'=g_2$$
です。すなわち、$G$の同値関係を
$$g_1\sim g_2 \quad \Longleftrightarrow \quad \exists b,b'\in B,~bg_1b'=g_2$$
で定めるとき、$G$はいくつの同値類に分かれますか？という問題を考えるのと同じです。
（両側剰余類$B\backslash G/B$を考えるとも言えます。）

こう言い換えると、
「任意の$g\in G$に対し、左と右から$B$の元（上三角行列）をうまく掛けることで、できるだけ単純な形にしよう」
という発想が生まれます。

• 右から上三角行列を掛けることは、「列をスカラー倍する」「列を、より右の列にスカラー倍して足す」を繰り返すことと対応し、
• 左から上三角行列を掛けることは、「行をスカラー倍する」「行を、より上の行にスカラー倍して足す」を繰り返すことと対応

していることに注意します。

小さい例でやってみましょう。

これを一般の$G=GL_n$でやってみることを考えます。任意の$G$の元（$n\times n$正則行列）をとります。
次のアルゴリズム（★とよぶことにする）を考えます：

1. まず$1$列目に注目し、一番下にある$0$でない成分が$\tau(1)$行目にあるとします。$1$列目を適当にスカラー倍して、$(\tau(1),1)$成分を$1$にします。次に、$1$列目を右にスカラー倍して足していくことで、より右にある、$\tau(1)$行目にある成分をすべて消すことができます。
2. 次に$2$列目に注目し、一番下にある$0$でない成分が$\tau(2)$行目にあるとします。まず、その成分が$0$でないということは、ステップ1で消されていないということなので、$\tau(1)\neq \tau(2)$であることに注意します。$2$列目を適当にスカラー倍して、$(\tau(2),2)$成分を$2$にします。同様に、$2$列目を右にスカラー倍して足していくことで、より右にある、$\tau(2)$行目にある成分をすべて消すことができます。
3. これを$n$列目まで繰り返していきます。$\tau$が毎回とれることは、正則行列であることからわかります。$\tau$は$1$から$n$の置換になっていることがわかります。
4. $n$行目は、ある$k$が存在して$k$列目だけ$1$、他は$0$になっているはずなので、$n$行目をより上の行にスカラー倍して足すことで、$k$列目の$1$から$n-1$行目までを$0$にします。
5. すると$n-1$行目も、ある$k$が存在して$k$列目だけ$1$、他は$0$になっているはずなので、$n-1$行目をより上の行にスカラー倍して足すことで、$k$列目の$1$から$n-2$行目までを$0$にします。
6. これを$1$行目まで繰り返します。

こうすると、任意の$G$の元から、うまく左右に$B$の元を掛けることで、$W$の元にできることがわかります！
（これは紙に書いて自分で図解してみると、よく実感できると思います。ぜひやってみてください。）

さらに、$w,w'\in W$について、$BwB=Bw'B$ならば$w=w'$であることもわかります（演習）。

したがって、シューベルト胞体、すなわち$G/B$の$B$軌道は、$W\cong \mathfrak{S}_n$の元と一対一対応することがわかります！

$w\in W$に対し、$wB\in G/B$の$B$軌道を$X^\circ_w$と書きます。すなわち、
$$X^\circ_w=\{bwB\in G/B\mid b\in B\}$$
です。

シューベルト胞体はどのような形か？

★のアルゴリズムを$g\in G$について行ったとき、$gB\in X^\circ_w$であることと、$w=\pi_0(\tau)$であることは同値です。

シューベルト胞体$X^\circ_w$がどのような形か見るために、任意の$g\in G$について、$gB=g'B$なる$g'\in G$で、$g'$が「きれいな」形になっているものを選ぶ、ということを考えます。

$w=\pi_0(\tau)$とし、$gB\in X^\circ_w$なる$g\in G$を任意に取ります。$g$に右から$B$の元を掛けていってきれいな形にしたいです。

★のアルゴリズムを3まで行うことを考えます。3までは$B$の元を右からしか掛けていないことに注意してください。得られた行列を$gb$とすると、$gb$は次のような形になっているはずです：
$gb$の形の例

各$i=1,2,\dots,n$について、成分$(\tau(i),i)$に○印をつけることにします。
○印は各行・各列に$1$つずつあることに注意してください。

○印がついた成分は必ず$1$のはずです。

また、○印より真右方向または真下方向にある成分は$0$にならなくてはいけません。
なので、$gb$の、○印がなく$0$でない成分は、
「その真左方向または真上方向に○印がない」
すなわち
「その真右方向・真下方向両方に○印がある」
場所でなければなりません。

逆に、$\tau\in\mathfrak{S}$に対し、$n\times n$のマス目に、

• 各$i=1,2,\dots,n$について成分$(\tau(i),i)$に○印をつけ、
• ○印のないマスについて、真右方向・真下方向両方に○印があるマスは黄色く塗る

ことにします。そして、上のマス目で

• ○印の成分は$1$
• ○印でも黄色でもない成分は$0$

となる$n\times n$行列全体の集合を$Y_w$とします。黄色いマスの個数を$\ell(\tau)$とおくとき、$Y_w\cong \mathbb{C}^{\ell(\tau)}$です。これで$Y_w$に位相を入れることにします。

★のアルゴリズムを3まで行うことで、$X^\circ_w$の点$gB$から、$Y_w$に含まれる行列を得たのでした。
これによって、写像$\phi:X^\circ_w\to Y_w$を定義します。

ここで、この写像がwell-definedであることを確かめる必要があります。$X^\circ_w$の点を$gB$と表すとき、$g$の取り方は$1$通りではないので、$g$の取り方によらず$\phi(g)$が定まることを示さなければなりません。

これは、任意の$b\in B$に対し、$g$から始めても$gb$から始めても、★のアルゴリズムを3まで行った結果が一致することを確かめればよいです。これは演習とします。

逆に、$Y_w$に含まれる行列は正則（演習）なので、写像$\psi:Y_w\to X^\circ_w$が$\psi(g)=gB$で定まります。

$\phi$と$\psi$が互いに逆写像であることはもう簡単に示せるはずです（演習）。
実は$\psi$は位相同型（[Fulton, 演習問題106]）であるので、$X^\circ_w\cong \mathbb{C}^{\ell(\tau)}$がわかりました！

ここで、黄色いマスと、$i< j$かつ$\tau(i)>\tau(j)$なる組$(i,j)$が一対一対応する（演習）ことに注意すると、
$$\ell(\tau)=\#\{i< j\mid \tau(i)>\tau(j)\}$$
がわかります。これによって関数$\ell:\mathfrak{S}_n\to \{0,1,2,\dots\}$（あるいは$\ell:W\to \{0,1,2,\dots\}$）が定まります。これを長さ関数といいます。文脈によっては「転倒数」ということもあります。

以上をまとめると、旗多様体$\mathrm{Fl}_n=G/B$は、$\# W=n!$個のアファイン空間（$\mathbb{C}^k$と同相な空間）に分割できることがわかりました。

シューベルト多様体

$\mathrm{Fl}_n=G/B$における$X^\circ_w$の閉包を$X_w$と書き（$C_w$と書く文献も多い）、シューベルト多様体といいます。名前が紛らわしいですが……。

$X_w$および$X^\circ_w$の境界$\partial X^\circ_w=X_w\setminus X^\circ_w$も$B$の作用で閉じていることに注意すると、いくつかのシューベルト胞体の和集合になることがわかります。

すると、ブリュア分解は旗多様体のCW複体の構造を与えることになります。

いま、胞体はすべて$\mathbb{C}^k$の形で、特に実次元は偶数です。すると胞体チェイン複体・コチェイン複体は偶数次元のところしか生きていないので、微分はすべて$0$になります。そのため、特異ホモロジー・コホモロジーについて
\begin{align*} H_{2i}(G/B,\mathbb{Z})&\cong \mathbb{Z}^k, \quad k=\#\{w\in W\mid \ell(w)=i\}\\ H^{2i}(G/B,\mathbb{Z})&\cong \mathbb{Z}^k, \quad k=\#\{w\in W\mid \ell(w)=\tfrac{n(n+1)}{2}-i\} \end{align*}
となります（実際には上の$2$つの$k$は一致します：演習）。

$W$に半順序を$w\leq w'\iff X^\circ_w\subset X_{w'}$で定めることができます。これを$W$のブリュア順序といい、対称群の言葉で書くこともできます（[Fulton, §10.5]参照）。

シューベルト多様体は一般には滑らかとは限りません。たとえば$n=4$, $(\tau(1),\tau(2),\tau(3),\tau(4))=(4,2,3,1),(3,4,1,2)$のとき、$w=\pi_0(\tau)$とすると、$X_{w}$は特異点をもちます（演習、難）。

この先の話

ここまで旗多様体の入り口の話をしました。

ここでは複素数体、$\mathsf{A}$型のケースを話しましたが、他の体・型でも同じような議論ができます。たとえば[堀田]などを読むと良いです。

旗多様体については話しましたが、それがなぜ表現論で重要なのかについては1つも話せませんでした。
本当にどこにでも現れるので、いくら話しても話しきれないものではありますが……。

たとえば、シューベルト多様体は一般には滑らかとは限らないと書きましたが、「シューベルト多様体がどのように特異か」が、実は表現論的に非常に重要になってきます。

たとえば、シューベルト多様体$X_w$の交差コホモロジー複体（これはおおむね$X_w$を台とする層の複体）とよばれるものを考えたとき、$X_{w'}$における茎のランクとしてKazhdan-Lusztig多項式が現れます。これは表現論でいろいろなところに現れる非常に重要な対象です。たとえば[Achar §7]や『D加群と代数群』などを読むと一端が触れてあります。キーワードとしてHecke環も書いておきます。

また、Borel-Weil理論という、旗多様体の正則直線束の大域切断が、$G$の既約表現になるという理論があります。たとえば[小林大島]を見ると良いです。

他にも、旗多様体の良い部分多様体のコホモロジーにワイル群の表現が入るといったSpringer理論とか……（たとえば[Achar §8]参照）

たくさんの面白い話があるのでぜひ勉強してみてください。

また、これらの勉強を進めるにあたって、手を動かして具体例を計算することが非常に重要になってきます。この記事で書いた具体例がお役に立てれば幸いです。

演習問題

思いついた順。

参考文献

[小林大島]：小林俊行, 大島利雄 - リー群と表現論

難易度：★
分厚い本で、丁寧です。
必要なところだけ読んでいけばよいです。
この記事の内容が気になったら最初に読むべき本かもしれません。

[Fulton]：William Fulton - Young Tableaux

難易度：★★
和訳版あり（『ヤング・タブロー: 表現論と幾何への応用』）。
そんなに簡単な本ではないかも。
かなりself-contained（前提知識をあまり他の本で調べなくてよい）に書かれており、おすすめです。
最近必要になって幾何パートを読みました。

[堀田]：堀田良之 - 線型代数群の基礎

難易度：★★
この記事では複素数体で考えましたが、一般の体でやるとどうなるかが書いてあります。
結局まだ全然ちゃんと読んでないのであまり話せない……

[Achar]：Pramod N. Achar - Perverse Sheaves and Applications to Representation Theory

難易度：★★★
新しい本ですが、幾何学的表現論の教科書の決定版の雰囲気があります。タイトルの通り、偏屈層の理論の表現論への応用が書かれています。
修士1年のときセミナーで読んだ本です。1年で読めたわけではなく、いまでも必要なときに読み続けています。
§6まで幾何学が続いて大変ですが、§7以降、表現論への面白い応用が紹介されています。

ほかに読むべき：

James E. Humphreys - Introduction to Lie Algebras and Representation Theory

難易度：★
リー環の標準的な教科書です。
薄くて良い。

Neil Chriss, Victor Ginzburg - Representation Theory and Complex Geometry

難易度：★★★
幾何学的表現論の定番の教科書らしいです。
全然読めてない。[Achar]が主に構成可能層の話をしているのに対し、この本ではベクトル束の話をしているので、扱っている内容がやや違います。こちらも大事なので読まないといけない。