対称行列$A \in \mathrm{M}_{n}(\mathbb{R})$に対して,
$$
\mathrm{O}(A) \coloneqq \{T \in \mathrm{M}_{n}(\mathbb{R}) \mid T^{\T}AT = A\}$$
とおく.とくに,
$$
A = E_{p,q} \coloneqq E_{p} \oplus (-E_{q}),\ p,q \geq 1,\ p+q=n$$
のとき,
$$
\mathrm{O}(p,q) \coloneqq \mathrm{O}(E_{p,q})$$
と定める.
$(p,q)=(1,1)$のとき,
$$
\begin{bmatrix}
t_{11} & t_{12} \\ t_{21} & t_{22}
\end{bmatrix} \in \mathrm{O}(1,1) \iff \begin{dcases}
t_{11}^{2} - t_{21}^{2} = 1 \\[2pt]
t_{11}t_{12} = t_{21}t_{22} \\[2pt]
t_{12}^{2} - t_{22}^{2} = -1
\end{dcases}$$
であるから,
$$
\left\{\begin{bmatrix}
\cosh{t} & \sinh{t} \\ \sinh{t} & \cosh{t}
\end{bmatrix} \,\middle|\, t \in \mathbb{R}\right\} \subset \mathrm{O}(1,1)$$
を得る.
$A \in \mathrm{M}_{n}(\mathbb{R})$を対称行列とする.このとき,任意の$P \in \mathrm{GL}_{n}(\mathbb{R})$に対して,
$$
\mathrm{O}(P^{\T}AP) = P^{-1}\mathrm{O}(A)P$$
が成り立つ.
\begin{align} T \in \mathrm{O}(P^{\T}AP) &\iff T^{\T} \cdot P^{\T}AP \cdot T = P^{\T}AP \\ &\iff (PTP^{-1})^{\T} \cdot A \cdot (PTP^{-1}) = A \\ &\iff PTP^{-1} \in \mathrm{O}(A) \\ &\iff T \in P^{-1}\mathrm{O}(A)P. \end{align}
$$ \mathrm{O}(p,q) \cong \mathrm{O}(q,p).$$
$\mathrm{O}(p,q) = \mathrm{O}(-E_{p,q})$であり,
$$
\begin{bmatrix}
& E_{q} \\ E_{p} &
\end{bmatrix} \begin{bmatrix}
-E_{p} & \\ & E_{q}
\end{bmatrix} \begin{bmatrix}
& E_{p} \\ E_{q} &
\end{bmatrix} = \begin{bmatrix}
E_{q} & \\ & -E_{p}
\end{bmatrix}$$
が成り立つので,conjより結論を得る.
$A \in \mathrm{M}_{m}(\mathbb{R})$を対称行列とする.このとき次は同値である:
$E_{m}-A$の固有値がすべて正であることを示せばよい(cf. satakep.161).そこで
$$
(E_{m}-A)x = \alpha x,\ x \neq 0$$
とすると,
$$
Ax = (1-\alpha)x$$
より$1-\alpha$は$A$の固有値なので
$$
1-\alpha < 1 \quad\leadsto\quad 0 < \alpha$$
を得る.
$Ax=\alpha x,\,x\neq 0,\,$とすると,
$$
(E_{m}-A)x = (1-\alpha)x$$
より$1-\alpha$は$E_{m}-A>O_{m}$の固有値なので,
$$
1-\alpha > 0 \quad\leadsto\quad \alpha < 1$$
を得る.
$\mathrm{O}(p,q)$はコンパクトでない.
$T \in \mathrm{O}(p,q)$を
$$
T = \begin{bmatrix}
T_{1} & T_{12} \\ T_{21} & T_{2}
\end{bmatrix},\ T_{1} \in \mathbb{R}^{p \times p},\ T_{12} \in \mathbb{R}^{p \times q},\ T_{21} \in \mathbb{R}^{q \times p},\ T_{2} \in \mathbb{R}^{q \times q}$$
と区分けしたとき,連続写像
$$
\varphi \colon \mathrm{O}(p,q) \to \mathbb{R}^{q \times p};\ T \mapsto T_{21}$$
が全射であることを示せばよい.そこで,$T_{21} \in \mathbb{R}^{q \times p}$とする.
さて,
$$
T \coloneqq \begin{bmatrix}
T_{1} & T_{12} \\ T_{21} & T_{2}
\end{bmatrix} \in \mathrm{M}_{p+q}(\mathbb{R})$$
とおくと,
\begin{align}
T^{\T}E_{p,q}T
&= \begin{bmatrix}
T_{1}^{\T} & T_{21}^{\T} \\ T_{12}^{\T} & T_{2}^{\T}
\end{bmatrix}\begin{bmatrix}
E_{p} & \\ & -E_{q}
\end{bmatrix}\begin{bmatrix}
T_{1} & T_{12} \\ T_{21} & T_{2}
\end{bmatrix} \\
&= \begin{bmatrix}
T_{1}^{\T} & T_{21}^{\T} \\ T_{12}^{\T} & T_{2}^{\T}
\end{bmatrix}\begin{bmatrix}
T_{1} & T_{12} \\ -T_{21} & -T_{2}
\end{bmatrix} \\
&= \begin{bmatrix}
T_{1}^{\T}T_{1} - T_{21}^{\T}T_{21} & T_{1}^{\T}T_{12} - T_{21}^{\T}T_{2} \\
T_{12}^{\T}T_{1} - T_{2}^{\T}T_{21} & T_{12}^{\T}T_{12} - T_{2}^{\T}T_{2}
\end{bmatrix} \\
&= \begin{bmatrix}
E_{p} & O_{p,q} \\ O_{q,p} & -E_{q}
\end{bmatrix} \\
&= E_{p,q}
\end{align}
が成り立つので,$T \in \mathrm{O}(p,q)$を得る.
定義より
$$
T \in \mathrm{O}(p,q) \iff \begin{dcases}
T_{1}^{\T}T_{1} - T_{21}^{\T}T_{21} = E_{p} \\[2pt]
T_{1}^{\T}T_{12} = T_{21}^{\T}T_{2} \\[2pt]
T_{12}^{\T}T_{12} - T_{2}^{\T}T_{2} = -E_{q}
\end{dcases}$$
であるから,$$
\begin{dcases}
T_{1}^{\T}T_{1} = E_{p} + T_{21}^{\T}T_{21} > O_{p} \\[2pt]
T_{2}^{\T}T_{2} = E_{q} + T_{12}^{\T}T_{12} > O_{q}
\end{dcases} \quad\leadsto\quad T_{1} \in \mathrm{GL}_{p}(\mathbb{R}),\ T_{2} \in \mathrm{GL}_{q}(\mathbb{R})$$
が成り立つ.また,コンパクト群$\mathrm{O}(p) \times \mathrm{O}(q)$による連続作用
$$
T \star (P,Q) \coloneqq \begin{bmatrix}
P^{-1}T_{1} & P^{\T}T_{12}Q \\ T_{21} & T_{2}Q
\end{bmatrix}$$
が定まる.明らかに
$$
T \star (P,Q) = T' \implies \varphi(T) = \varphi(T')$$
が成り立つので,全射連続写像$\bar{\varphi} \colon \mathrm{O}(p,q)/(\mathrm{O}(p)\times\mathrm{O}(q)) \to \mathbb{R}^{q \times p}$が誘導される:
$$
\xymatrix{
{\mathrm{O}(p,q)} \ar[rr]^{\varphi} \ar[dd] && {\mathbb{R}^{q \times p}} \\ \\
{\mathrm{O}(p,q)/(\mathrm{O}(p)\times\mathrm{O}(q))} \ar@{.>}[uurr]_{\bar{\varphi}}
}$$
以下,$\bar{\varphi}$が同相写像であることを示す.
$\mathrm{O}(p,q)$の連結成分は
$$
\mathrm{O}(p,q)_{\pm,\pm} \coloneqq \{T \in \mathrm{O}(p,q) \mid \pm\det{T_{1}} > 0,\ \pm\det{T_{2}} > 0\}$$
で与えられる.
$(\pm E_{p})\oplus(\pm E_{q}) \in \mathrm{O}(p,q)_{\pm,\pm} \in \tau(\mathrm{O}(p,q))$であり,
$$
\mathrm{O}(p,q) = \mathrm{O}(p,q)_{+,+} \sqcup \mathrm{O}(p,q)_{+,-} \sqcup \mathrm{O}(p,q)_{-,+} \sqcup \mathrm{O}(p,q)_{-,-}$$
が成り立つので,各$\mathrm{O}(p,q)_{\pm,\pm}$が弧状連結であることを示せばよい.
まづ,$\det\Psi_{1},\det\Psi_{2}>0$より,$\det{T_{1}},\det{T_{2}}$の正負と$\det(\Psi_{1}T_{1}^{-1}),\ \det(\Psi_{2}^{-1}T_{2}) \in \{\pm1\}$の正負とが一致することに注意する.さて,たとえば$T \in \mathrm{O}(p,q)_{+,+}$のとき,連続写像$\gamma_{1} \colon [0,1] \to \mathrm{SO}(p),\,\gamma_{2} \colon [0,1] \to \mathrm{SO}(q)$であって
$$
\gamma_{1}(0)=E_{p},\ \gamma_{1}(1) = \Psi_{1}T_{1}^{-1};\ \gamma_{2}(0)=E_{q},\ \gamma_{2}(1) = \Psi_{2}^{-1}T_{2}$$
なるものを取り(cf. satakep.178),連続写像$\gamma \colon [0,1] \to \mathrm{O}(p,q)_{+,+}$を
$$
\gamma(s) \coloneqq \psi(sT_{21}) \star (\gamma_{1}(s),\gamma_{2}(s))$$
で定めると,
\begin{align}
\gamma(0) &= \psi(O_{q,p}) \star (\gamma_{1}(0),\gamma_{2}(0)) = (E_{p}\oplus E_{q}) \star (E_{p},E_{q}) = E_{p} \oplus E_{q};\\
\gamma(1) &= \psi(T_{21}) \star (\gamma_{1}(1),\gamma_{2}(1)) = \Psi \star (\Psi_{1}T_{1}^{-1},\Psi_{2}^{-1}T_{2}) = T;
\end{align}
が成り立つ.他の場合も同様である.
写像
$$
\mathrm{O}(p,q) \to (\mathrm{O}(p) \times \mathrm{O}(q)) \times \mathbb{R}^{q \times p};\ T \mapsto ((\Psi_{1}T_{1}^{-1},\Psi_{2}^{-1}T_{2}),T_{21})$$
は連続であり,
$$
((P,Q),T_{21}) \mapsto \psi(T_{21}) \star (P,Q)$$
が逆写像を与える:
\begin{align}
T \mapsto ((\Psi_{1}T_{1}^{-1},\Psi_{2}^{-1}T_{2}),T_{21}) \mapsto \begin{bmatrix}
\Psi_{1} & \Psi_{12} \\ T_{21} & \Psi_{2}
\end{bmatrix} \star (\Psi_{1}T_{1}^{-1},\Psi_{2}^{-1}T_{2}) = T; \\[3pt]
((P,Q),T_{21}) \mapsto \psi(T_{21}) \star (P,Q) = \begin{bmatrix}
P^{-1}\Psi_{1} & P^{\T}\Psi_{12}Q \\ T_{21} & \Psi_{2}Q
\end{bmatrix} \mapsto ((P,Q),T_{21}).
\end{align}
よって
$$
\mathrm{O}(p,q) \approx (\mathrm{O}(p)\times\mathrm{O}(q)) \times \mathbb{R}^{q \times p} \simeq \mathrm{O}(p)\times\mathrm{O}(q);\ T \mapsto (\Psi_{1}T_{1}^{-1},\Psi_{2}^{-1}T_{2})$$
が成り立つ.$\mathrm{O}(p),\,\mathrm{O}(q)$はそれぞれ連結成分を二つ持つので(cf. satakep.178),このことからも$\mathrm{O}(p,q)$の連結成分の個数が$4$であることがわかる.
“埋め込み”
$$
\mathrm{O}(p) \times \mathrm{O}(q) \to \mathrm{O}(p,q);\ (P,Q) \mapsto P \oplus Q$$
により,$\mathrm{O}(p,q)$はコンパクト群$\mathrm{O}(p) \times \mathrm{O}(q)$と同型な部分群を持つ.実は,これは“極大”なコンパクト部分群になっている(cf. conrad).
任意の$T \in \mathrm{O}(p,q)$に対して
$$
|\det{T_{1}}| \geq 1,\ |\!\det{T_{2}}| \geq 1$$
が成り立つ.
$T_{1}x = \alpha x,\,\alpha\in\mathbb{C},x\neq 0,\,$とする.このとき,エルミート行列$T_{1}^{\T}T_{1}-E_{p}$について,
$$
T_{1}^{\T}T_{1} = E_{p} + T_{21}^{\T}T_{21} \geq E_{p}$$
より,
$$
0 \leq \langle x,(T_{1}^{\T}T_{1}-E_{p})x \rangle = \langle T_{1}x,T_{1}x \rangle - \langle x,x \rangle = (|\alpha|^{2}-1)\langle x,x \rangle \quad\leadsto\quad |\alpha|^{2}\geq 1$$
が成り立つので,
$$
|\det{T_{1}}| = \prod|\text{eigenvalues}| \geq 1$$
を得る.$|\det{T_{2}}| \geq 1$についても同様である.
任意の$T \in \mathrm{O}(p,q)$に対して
$$
\det{T} = \frac{\det{T_{1}}}{\det{T_{2}}}$$
が成り立つ.
$T^{\T}E_{p,q}T = E_{p,q},\,E_{p,q}^{2}=E_{n}$より
$$
T^{-1} = E_{p,q}T^{\T}E_{p,q} = \begin{bmatrix}
T_{1}^{\T} & -T_{21}^{\T} \\ -T_{12}^{\T} & T_{2}^{\T}
\end{bmatrix}$$
となるので,$T$の$(i,j)$余因子を$\Delta_{i,j}$とおくと,右下のブロックを比較して
$$
\frac{1}{\det{T}}\begin{bmatrix}
\Delta_{p+1,p+1} & \cdots & \Delta_{n,p+1} \\
\vdots && \vdots \\
\Delta_{p+1,n} & \cdots & \Delta_{n,n}
\end{bmatrix} = T_{2}^{\T}$$
を得る(cf. satakep.61定理6).よって,両辺のディターミナントを取ると,Jacobiの公式(cf. satakep.67)より
$$
\frac{1}{(\det{T})^{q}}\cdot(\det{T_{1}})(\det{T})^{q-1} = \det{T_{2}}$$
となるので,
$$
\frac{\det{T_{1}}}{\det{T_{2}}} = \det{T}$$
が成り立つ.
$\mathrm{SO}(p,q) \coloneqq \mathrm{O}(p,q) \cap \mathrm{SL}_{n}(\mathbb{R}) \lhd \mathrm{O}(p,q)$とおくと,
$$
\mathrm{SO}(p,q) = \{T \in \mathrm{O}(p,q) \mid \det{T_{1}}=\det{T_{2}}\} = \mathrm{O}(p,q)_{+,+} \sqcup \mathrm{O}(p,q)_{-,-}$$
が成り立つ.
$S,T \in \mathrm{O}(p,q)$とする.このとき次が成り立つ:
したがって,写像
$$
\mathrm{O}(p,q) \to \mathrm{O}(1)\times\mathrm{O}(1);\ T \mapsto (\sign\det{T_{1}},\sign\det{T_{2}})$$
は全射連続群準同型である.
(1)のみ示す.geq1より
$$
S_{1}T_{1}+S_{12}T_{21} = (ST)_{1} \quad\leadsto\quad |\!\det(S_{1}T_{1}+S_{21}T_{12})| \geq 1$$
であり,$S_{1},T_{1} \in \mathrm{GL}_{p}(\mathbb{R})$より
$$
S_{1}T_{1}+S_{12}T_{21} = S_{1}(E_{p} + S_{1}^{-1}S_{12}T_{21}T_{1}^{-1})T_{1}$$
であるから,
$$
\det(E_{p}+S_{1}^{-1}S_{12}T_{21}T_{1}^{-1}) \geq 0$$
なることを示せばよい.
単位元の連結成分
$$
\mathrm{SO}^{+}(p,q) \coloneqq \mathrm{O}(p,q)_{+,+} = \{T \in \mathrm{O}(p,q) \mid \det{T_{1}}>0,\ \det{T_{2}}>0\}$$
は$\mathrm{O}(p,q)$の正規部分群であり,
$$
\mathrm{SO}^{+}(p,q) = \{T\in\mathrm{O}(p,q) \mid \det{T_{1}}\geq 1,\ \det{T}=1\} = \{T\in\mathrm{O}(p,q) \mid \det{T}=1,\ \det{T_{2}}\geq 1\}$$
が成り立つ.
$\mathrm{SO}^{+}(p,q) < \mathrm{O}(p,q)$なることは,連続写像
$$
\mathrm{SO}^{+}(p,q) \times \mathrm{SO}^{+}(p,q) \to \mathrm{O}(p,q);\ (S,T) \mapsto ST^{-1}$$
の像が$E_{n}$を含む連結集合であることからもわかる(フツーはそうやって示す気がする).同様にして
$$
\forall\,T \in \mathrm{O}(p,q),\ T \cdot \mathrm{SO}^{+}(p,q) \cdot T^{-1} \subset \mathrm{SO}^{+}(p,q),$$
すなわち$\mathrm{SO}^{+}(p,q) \lhd \mathrm{O}(p,q)$がわかる.
$(p,q)=(1,1)$のとき,
$$
\mathrm{SO}^{+}(1,1) = \left\{\begin{bmatrix}
\cosh{t} & \sinh{t} \\ \sinh{t} & \cosh{t}
\end{bmatrix} \,\middle|\, t \in \mathbb{R}\right\}$$
が成り立つ:実際,hypより
$$
\mathrm{SO}^{+}(1,1) \supset \left\{\begin{bmatrix}
\cosh{t} & \sinh{t} \\ \sinh{t} & \cosh{t}
\end{bmatrix} \,\middle|\, t \in \mathbb{R}\right\}$$
であり,逆に$T \in \mathrm{SO}^{+}(1,1)$とし,
$$
t_{21} = \sinh{t},\ t_{12} = \sinh{s}$$
とおくと,
\begin{align}
t_{11}^{2} = 1+t_{21}^{2} = 1+(\sinh{t})^{2} = (\cosh{t})^{2},\ t_{11}>0 &\quad\leadsto\quad t_{11} = \cosh{t};\\
t_{22}^{2} = 1+t_{12}^{2} = 1+(\sinh{s})^{2} = (\cosh{s})^{2},\ t_{22}>0 &\quad\leadsto\quad t_{22}=\cosh{s};
\end{align}
であり,
$$
(\cosh{t})(\sinh{s}) = t_{11}t_{12}=t_{21}t_{22} = (\sinh{t})(\cosh{s}) \quad\leadsto\quad \tanh{s}=\tanh{t}$$
より$s=t$を得る.