東大の院試(2022B01)を表現論を使って解く
$S_n$を$n$次対称群とする．$\sigma \in S_n,\ A = (a_{ij}) \in M_n(\C)$に対し，$A^{\sigma}$で$(i,j)$成分が$a_{\sigma(i),\sigma(j)}$である行列を表すとし，部分群$G \subset S_n$に対して
\begin{align}
d_n(G) := \dim_{\C} \{ A \in M_n(\C) \mid A^{\sigma} = A, \forall \sigma \in G \}
\end{align}
とする．
- $n \geq 2$に対して$d_n(S_n)$を求めよ
- $n \geq 2$に対して$d_n(A_n)$を求めよ
- $G$が$\{1,2,\cdots,n\}$に推移的に作用するような$S_n$の部分群を動くとき，$d_n(G)$の最大値を求めよ
もちろん表現論なんか使わなくても解けますが(たとえば 藍色日和さんによる解答 など)，表現論で殴ろうと思います．
解答
$[n] := \{ 1, 2, \dots, n \}$とし，$G$の$[n]$への作用に関する置換表現を$V$とおく．問題の$M_n(\C)$は表現としてはテンソル積表現$V \otimes V$であり，$d_n(G)$は$V \otimes V$の自明表現に対応する直和因子の次数なので，$V$の指標を$\chi$とすれば
\begin{align}
d_n(G) = \langle \chi^2, 1_G \rangle = \frac{1}{|G|} \sum_{\sigma \in G} \chi(\sigma)^2
\end{align}
である．ここで，
\begin{align}
\chi(\sigma) = \#\{ i \in [n] \mid \sigma(i) = i \}
\end{align}
は実数なので$d_n(G) = \langle \chi, \chi \rangle$である．(バーンサイドの補題を用いても同じ式が得られる)．$V$の既約分解を
\begin{align}
V \cong \bigoplus_{i} V_i^{\oplus m_i}
\end{align}
とすれば，既約指標の正規直交性から
\begin{align}
d_n(G) = \sum_i m_i^2
\end{align}
である．
(1) $G=S_n$のとき
$S_n$の置換表現$V$は，自明表現$\C_{\triv}$と，ヤング図形$(n-1,1)$に対応する既約表現$V_{(n-1,1)}$の直和
\begin{align}
V \cong \C_{\triv} \oplus V_{(n-1,1)}
\end{align}
である．よって，$d_n(S_n) = 1^2 + 1^2 = 2$．
(2) $G = A_n$のとき
$n = 2$のときは$A_2$は自明群なので$d_2(A_2) = 4$である．$n \geq 3$を考える．交代群の既約表現について，次が知られている．
$n \geq 3$とする．$\lambda$を$n$個の箱をもつヤング図形，$\lambda'$をその転置とし，$S_n$の既約表現$V_{\lambda}$を$A_n$に制限した表現$\Res_{A_n}^{S_n} V_{\lambda}$を考える．
- $\lambda = \lambda'$のとき，$\Res_{A_n}^{S_n} V_{\lambda}$は$A_n$の同じ次元の2つの異なる既約表現に分解する．
- $\lambda \neq \lambda'$のとき，$\Res_{A_n}^{S_n} V_{\lambda}$は$A_n$の既約表現である．
証明
$\chi_{\lambda}$を$V_{\lambda}$の指標とする．既約指標の正規性より，
\begin{align} \langle \chi_{\lambda}, \chi_{\lambda} \rangle_{S_n} &= \frac{1}{|S_n|} \sum_{\sigma \in S_n} |\chi_{\lambda}(\sigma)|^2 \\ &= \frac{1}{2|A_n|} \left(\sum_{\sigma \in A_n} |\chi_{\lambda}(\sigma)|^2 + \sum_{\sigma \not\in A_n} |\chi_{\lambda}(\sigma)|^2 \right) = 1 \end{align}
ヤング図形の転置は符号表現をテンソルすることに対応する．$\epsilon$を$S_n$の符号表現の指標とすれば，$\chi_{\lambda} \epsilon = \chi_{\lambda'}$である．
\begin{align} \langle \chi_{\lambda}, \chi_{\lambda'} \rangle &= \langle \chi_{\lambda}, \chi_{\lambda} \epsilon \rangle_{S_n} \\ &= \frac{1}{|S_n|} \sum_{\sigma \in S_n} \chi_{\lambda}(\sigma) \overline{\chi_{\lambda}(\sigma)\epsilon(\sigma)} \\ &= \frac{1}{2|A_n|} \left(\sum_{\sigma \in A_n} |\chi_{\lambda}(\sigma)|^2 - \sum_{\sigma \not\in A_n} |\chi_{\lambda}(\sigma)|^2 \right) \\ &= \begin{cases} 1 & \text{if $\lambda = \lambda'$} \\ 0 & \text{if $\lambda \neq \lambda'$} \end{cases} \end{align}
これらを連立して解けば
\begin{align} \langle \chi_{\lambda}|_{A_n}, \chi_{\lambda}|_{A_n} \rangle = \frac{1}{|A_n|} \sum_{\sigma \in A_n} |\chi_{\lambda}(\sigma)|^2 = \begin{cases} 2 & \text{if $\lambda = \lambda'$} \\ 1 & \text{if $\lambda \neq \lambda'$} \end{cases} \end{align}
となることから分かる．
$n \geq 4$なら，$(n-1,1) \neq (n-1,1)'$であるから，
\begin{align}
d_n(A_n) = 1^2 + 1^2 = 2
\end{align}
である．$n = 3$のときは$(2,1) = (2,1)'$であるから，$V_{(2,1)}$は$A_3$の同じ次元の2つの異なる既約表現に分解する．よって，
\begin{align}
d_3(A_3) = 1^2 + 1^2 + 1^2 = 3
\end{align}
である．よって，
\begin{eqnarray}
d_n(A_n) = \left\{
\begin{array}{l}
4 & (n = 2) \\
3& (n = 3) \\
2 & (n \geq 4)
\end{array}
\right.
\end{eqnarray}
(3) 一般の場合
$V_i$の次元を$d_i$とする．$m_i \leq d_i$となることを示す．$x \in [n]$を固定し，$G$の$x$の固定化部分群を$H := G_x$とする．$G / H$は$[n]$と全単射があるので，$V$は$H$の自明表現$\C_{\triv}$からの誘導表現$\Ind_{H}^G \C_{\triv}$に等しい．フロベニウスの相互律より，
\begin{align}
\Hom_G(V, V_i) \cong \Hom_H(\C_{\triv}, \Res_{H}^G(V_i))
\end{align}
であるので，両辺の次元を考えれば，
\begin{align}
m_i = \dim \{ v \in V_i \mid \sigma v = v,\ \forall \sigma \in H \} \leq \dim V_i = d_i
\end{align}
である．したがって，
\begin{align}
d_n(G) = \sum_i m_i^2 \leq \sum_i m_i d_i = \dim V = n
\end{align}
である．$G$として$n$次巡回群
\begin{align}
G = \langle (1\ 2\ \cdots\ n)\rangle
\end{align}
を考えれば，$H$は自明群となるので，$m_i = d_i$の等号が成り立ち，$d_n(G) = n$となる．
