集合$X$に対して,$\mathfrak{S}(X)$を$X$から$X$への全単射全体とする.$\mathfrak{S}(X)$は合成に関して群となり,これを$X$上の置換群(permutation group)という.
$\mathfrak{S}(\{1,\cdots,n\})=\mathfrak{S}_n$($n$次対称群)である.
$X$を集合,$G$を群とする.
群準同型$\rho:G\to\mathfrak{S}(X)$が与えられたとき,$G$は$X$に(左から)作用する(act)といい$G\curvearrowright X$とかく.このとき,写像
$$a_\rho:G\times X\to X,\ (g,x)\mapsto\rho(g)(x)$$
を$G$の$X$への(左)作用(action),$\rho$を$G$の(左)置換表現(permutation representation)という.
$G\curvearrowright X$のとき,$x\in X,g\in G$に対し,$\rho$を省略して$\rho(g)(x)$を$gx$と表すことが多い.
主に幾何学の文脈では,$G$を変換群(transformation group),$X$を$G$空間($G$-space)という.
定義から次のことがすぐにわかる.
集合$X$と群$G$に対し,次の(1)(2)は等価である:
(1) 置換表現$\rho\colon G\to \mathfrak{S}(X)$,またはその作用$a_\rho$
(2) 写像
$$a\colon G\times X\to X,\;(g,x)\mapsto a(g,x)\eqqcolon gx$$
であって,以下の条件(a)(b)を充たすもの:
(a) $\forall g,h\in G,\forall x\in X,\;g(hx)=(gh)x$
(b) $\forall x\in X,\;1x=x$
(2)の$a$のことを作用と定義することが多い.しかし置換表現による定義の方が群の元が$X$上の変換を引き起こす様子が分かりやすいと思い採用した.
上で定義したものは厳密には「左作用」である.右作用も定義される.
群$G,H$の間の写像$f\colon G\to H$が
$$\forall g,h\in G,\; f(gh)=f(h)f(g)$$
を充たすとき,$f$を反準同型という.
逆元写像$i\colon G\to G,g\mapsto g^{-1}$は反準同型.実際,
$$i(gh)=(gh)^{-1}=h^{-1}g^{-1}=i(h)i(g)$$
$X$を集合,$G$を群とする.
群の反準同型$\rho:G\to\mathfrak{S}(X)$が与えられたとき,$G$は$X$に右から作用するといい$X\curvearrowleft G$とかく.このとき,写像
$$a_\rho:G\times X\to X,\ (g,x)\mapsto\rho(g)(x)$$
を$G$の$X$への右作用(right action),$\rho$を$G$の右置換表現(right permutation representation)という.という.
$X\curvearrowleft G$のとき,$x\in X,g\in G$に対し,$\rho$を省略して$\rho(g)(x)$を$x^g$と表すことが多い.
集合$X$と群$G$に対し,次の(1)(2)は等価である:
(1) 反準同型$\rho\colon G\to \mathfrak{S}(X)$,またはその右作用$a_\rho$
(2) 写像
$$a\colon G\times X\to X,\;(g,x)\mapsto a(g,x)\eqqcolon x^g$$
であって,以下の条件(a)(b)を充たすもの:
(a) $\forall g,h\in G,\forall x\in X,\;(x^g)^h=x^{gh}$
(b) $\forall x\in X,\;1x=x$
右作用を定義したが,実は作用の左右は本質的に区別する必要はない.次は定義からすぐに分かる.
群$G,H$の間の写像$f\colon G\to H$に対して,次は同値.
(1) $f\colon G\to H$が反準同型
(2) $f\colon G^\mathrm{op}\to H$が準同型
(3) $\tilde{f}\coloneqq f\circ i\colon G\to H$が準同型
但し,$i$は$G$の逆元写像である.また$G^\mathrm{op}$は$G$の反転群,つまり積を$g*_\mathrm{op}h=hg$で定めた群である.
右作用と左作用は等価である.実際,上の補題の(1)(3)の対応により,右置換表現$\rho$(及び右作用$a$)と左置換表現$\tilde\rho$(及び左作用$\tilde a$)が自然に対応する.
つまり$\rho$によって$X\curvearrowleft G$のとき,
$$\tilde\rho(g)=\rho(g^{-1}),\ \tilde a(g,x)=a(g^{-1},x)$$
なる$\tilde\rho$によって$G\curvearrowright X$.従って本質的には左右の違いはないので以降「作用」とは左作用を考える.
$G\curvearrowright X$とする.$x\in X$を1つ固定するとき,
$$\Orb_G(x):=\{gx\in X\mid g\in G\}$$
を$x$の$G$軌道($G$-orbit)という.$Gx$ともかく.
$$\Stab_G(x):=\{g\in G\mid gx=x\}\le G$$
を$x$の固定化部分群(stabilizer)やisotoropy群という.$G_x$や$I_G(x)$ともかく.
\begin{align} x\in X^G &\Leftrightarrow\forall g\in G,gx=x\\ &\Leftrightarrow\Orb_G(x)=\{x\}\\ &\Leftrightarrow\Stab_G(x)=G \end{align}
$G\curvearrowright X$とする.$g\in G$に対して,
$$\Fix(g):=\{x\in X\mid gx=x\}$$
を$g$による固定点集合(fixed point set)という.$X^g$ともかく.
$$X^G=\bigcap_{g\in G}\Fix(g)$$
を固定点集合といい,その元を固定点(fixed point)という.
$\exists x\in X,\Orb_G(x)=X$となるとき,$G\curvearrowright X$は推移的(transitive)であるという.
$\forall x\in X,\Stab_G(x)=\{1\}$となるとき,$G\curvearrowright X$は自由(free)であるという.
$G\curvearrowright X$が推移的かつ自由であるとき正則(regular)であるという.
$\rho$が単射のとき,$G\curvearrowright X$は忠実(faithful)であるという.
次は定義からすぐに分かる.
$\rho$による作用$G\curvearrowright X$に関して,
$G\curvearrowright X$が推移的$\Leftrightarrow\forall x,y\in X,\exists g\in G,y=gx$
$G\curvearrowright X$が正則$\Leftrightarrow\forall x,y\in X,\exists! g\in G,y=gx$
$G\curvearrowright X$が忠実$\Leftrightarrow(\rho(g)=\id_X \too g=1)$
$\rho$による作用$G\curvearrowright X$に関して,
$$\Ker{\rho}=\bigcap_{x\in X}\Stab_G(x)$$
\begin{align} \Ker{\rho}&=\{g\in G\mid \rho(g)=\id_X\}\\ &=\{g\in G\mid \forall x\in X,\rho(g)(x)=x\}\\ &=\{g\in G\mid \forall x\in X,g\in\Stab_G(x)\}\\ &=\bigcap_{x\in X}\Stab_G(x) \end{align}
作用が自由なら忠実である.
$\rho$による作用$G\curvearrowright X$が自由だとすると,
$$\Ker{\rho}=\bigcap_{x\in X}\Stab_G(x)=\bigcap_{x\in X}\{1\}=\{1\}$$
証明からわかるように自由は忠実よりはるかに強い条件である.
作用$G\curvearrowright X$が自由であるとき,$g\in G$に対し,
$$\Fix(g)=\{x\in X\mid gx=x\}=
\begin{cases}
X & \text{if $g=1$} \\
\emptyset & \text{if $g\ne 1$}
\end{cases}$$
$$X^G=\bigcap_{g\in G}\Fix(g)= \begin{cases} X & \text{if $G=\{1\}$} \\ \emptyset & \text{if $G\ne\{1\}$} \end{cases} $$
$G\curvearrowright X$とする.$x,y\in X$に対し,
$$x\sim y\ :\Leftrightarrow\ \exists g\in G,y=gx$$
と定めると,これは同値関係であり,
$X/G:=X/{\sim}$を$X$の$G$による軌道空間(orbit space)という.$G$軌道は軌道空間の元である.よって$\sim$の完全代表系$I\subset X$を用いて,
$$X=\bigsqcup_{x\in I}\Orb_G(x)$$
と直和分解でき,これを$X$の軌道分解という.
\begin{align} x\sim y\ &:\Leftrightarrow\ \exists g\in G,y=gx\\ &\Leftrightarrow\ y\in\Orb_G(x)\\ &\Leftrightarrow\ \Orb_G(x)=\Orb_G(y)\\ &\Leftrightarrow\ \Orb_G(x)\cap\Orb_G(y)\ne\emptyset \end{align}
$G\curvearrowright X$とする.$x\in X$に対し,
$$G/\Stab_G(x)\to\Orb_G(x),\ g \Stab_G(x)\mapsto gx$$
はwell-definedな全単射である.特に,
$$(G:\Stab_G(x))=|G|/|\Stab_G(x)|=|\Orb_G(x)|$$
$G/\Stab_G(x)$は左剰余類集合である.一般に$\Stab_G(x)\ntrianglelefteq G$なので$G/\Stab_G(x)$は剰余群ではない.
$G$を有限群とし,$G\curvearrowright X$とすると,
$$|X/G|=\frac{1}{|G|}\sum_{g\in G}|\Fix(g)|$$
各$g$に対する固定点集合の大きさの平均が軌道空間の大きさに一致することを示している.実用的には例えば首飾りの塗分けについて二面体群の作用を考えることでその組合せの総数を求めることができたりする.
$X,Y$を集合,$G$を群とし,$G\curvearrowright X,Y$とする.このとき写像$f\colon X\to Y$が
$$\forall g\in G,\forall x\in X,\;f(gx)=gf(x) $$
を充たすとき,$f$は$G$-同変写像($G$-equivariant map)であるという.
$G\curvearrowright X,Y$の置換表現をそれぞれ$\rho_1,\rho_2$とすると,$f$が$G$-同変である条件は,
$$\forall g\in G,\;f\circ\rho_1(g)=\rho_2(g)\circ f
$$
と表せる.
$G$同変写像$f\colon X\to Y$が全単射であるとき,$f$は$G$同型写像という.このとき$f^{-1}$も$G$同型写像である.2つの$G$集合の間に$G$同型写像が存在するとき,それらは$G$同型であるという.
$G$同型なら,$G$集合としては同じものと見做せる.
$G\curvearrowright X,Y$とする.このとき$G$-同変写像$f\colon X\to Y$は写像
$$\overline{f}\colon X/G\to Y/G,\;\Orb_G(x)\mapsto \Orb_G(f(x))$$
を誘導する.また$f$が$G$同型写像なら$\overline{f}$は全単射である.
$\overline{f}$のwell-definednessを示す.
$\Orb_G(x)=\Orb_G(y)$とすると,$\exists g\in G,y=gx$である.このとき$f(y)=f(gx)=gf(x)$より,$\Orb_G(f(x))=\Orb_G(f(y))$を得る.
また,$f$が$G$同型写像のときは,$\overline{f}^{-1}=\overline{f^{-1}}$となる.