問題は, 神戸大数学科のウェブサイト の 令和 6 年度編入試(PDF-file) を参照してください。
$(1)\quad$ $A$の固有多項式は
\begin{align*}
|xE-A|=
\begin{vmatrix}
x&-1&-3\\
0 &x &1\\
-1&0&x\\
\end{vmatrix}
=(x^{3}+1)-3x
=x^{3}-3x+1.
\end{align*}
$(2)\quad$ $f:\mathbb{R}\to{\mathbb{R}}$を
\begin{align*}
f(x)\coloneqq{x^{3}-3x+1\quad (x\in\mathbb{R})}
\end{align*}
で定める。
\begin{align*}
f^{\prime}(x)=3x^{2}-3=3(x-1)(x+1)\quad (x\in\mathbb{R})
\end{align*}
だから, $f$の増減表は以下のようになる。
$f$の増減表
そして, $f(2)=3>0$かつ, $f(-2)=-1<0$だから, $f(x)=0$を満たす任意の実数$x$に対し$-2< x<2.$すなわち
\begin{align*}
-2<\lambda<2.
\end{align*}
$(3)\quad$ $\lambda$を$A$の固有値とする。(2)より
\begin{align*}
\lambda=2\cos{\theta}
\end{align*}
となる$\theta\in(0, \pi)$が存在する。よって, $\lambda$が$A$の固有値ゆえ得られる方程式
\begin{align*}
\lambda^{3}-3\lambda+1=0
\end{align*}
は
\begin{align*}
8\cos^{3}{\theta}-6\cos{\theta}+1=0
\end{align*}
と書き換えられ, 整理すると(両辺2で割ったり, 3倍角の公式を用いたりする)
\begin{align*}
\cos{3\theta}=-\dfrac{1}{2}
\end{align*}
である。これを$\theta\in(0, \pi)$に注意して解くと
\begin{align*}
\theta=\dfrac{2}{9}\pi, \dfrac{4}{9}\pi, \dfrac{8}{9}\pi.
\end{align*}
よって
\begin{align*}
\lambda=2\cos{\dfrac{2}{9}\pi}, 2\cos{\dfrac{4}{9}\pi}, 2\cos{\dfrac{8}{9}\pi}.
\end{align*}