第2問は二次方程式と複素数平面の基本的な入試問題です.
$\theta$ を $0<\theta<\displaystyle\frac{\pi}{4}$ をみたす定数とし,$x$ の $2$次方程式
\begin{equation}
x^2-(4\cos\theta)x +\frac{1}{\tan\theta}=0 \cdots\cdots\cdots (*)
\end{equation}
を考える.以下の問いに答えよ.
$2$次方程式$(*)$が実数解をもたないような $\theta$ の値の範囲を求めよ.
$\theta$ が (1) で求めた範囲にあるとし,$(*)$ の $2$つの虚数解を $\alpha$, $\beta$ とする.ただし,$\alpha$ の虚部は $\beta$ の虚部より大きいとする.複素数平面上の $3$点 A$(\alpha)$, B$(\beta)$, O$(0)$ を通る円の中心を C$(\gamma)$ とするとき,$\theta$ を用いて $\gamma$ を表せ.
点 O, A, C を (2) のように定めるとき,三角形 OAC が直角三角形になるような $\theta$ に対する $\tan\theta$ の値を求めよ.
$x$ の $2$次方程式 $(*)$ の判別式を $D$ とすると,$D<0$ であればよいので,
\begin{align}
\frac{D}{4}
&=(2\cos\theta)^2-\frac{1}{\tan\theta}
=\frac{4\cos^2\theta\sin\theta-\cos\theta}{\sin\theta}
=\frac{\cos\theta(4\sin\theta\cos\theta-1)}{\sin\theta}\\
&=\frac{\cos\theta(2\sin 2\theta-1)}{\sin\theta}<0
\end{align}
である.ここで,$0<\theta<\displaystyle\frac{\pi}{4}$ であるので,$\cos\theta>0$ であることから $2\sin 2\theta-1<0$ すなわち $\sin 2\theta<\displaystyle\frac{1}{2}$ である.よって,$0<2\theta<\displaystyle\frac{\pi}{6}$ すなわち $0<\theta<\displaystyle\frac{\pi}{12}$ である.
$x$ の $2$次方程式 $(*)$ の解を求めると,(1) の条件では
\begin{equation}
x=2\cos\theta\pm\sqrt{(2\cos\theta)^2-\frac{1}{\tan\theta}}
=2\cos\theta\pm i\sqrt{\frac{\cos\theta(1-2\sin 2\theta)}{\sin\theta}}
\end{equation}
$2$ つの解のうち虚部が大きい方が $\alpha$, 小さい方が $\beta$ であるので,
\begin{align}
\alpha&=2\cos\theta + i\sqrt{\frac{\cos\theta(1-2\sin 2\theta)}{\sin\theta}}\\
\beta&=2\cos\theta - i\sqrt{\frac{\cos\theta(1-2\sin 2\theta)}{\sin\theta}}
\end{align}
である.
点 C は $3$点 A, B, O を通る円の中心であるが,$\alpha$, $\beta$ は共役複素数,すなわち,A と B は 実軸に対称であることから,点 C は 実軸上にある.したがって,$\gamma$ は実数である.
$\mathrm{OC}=\mathrm{AC}$ であることから,
\begin{align}
\gamma^2&=(2\cos\theta-\gamma)^2+\frac{\cos\theta(1-2\sin 2\theta)}{\sin\theta}\\
(4\cos\theta)\ \gamma&=4\cos^2\theta+\frac{\cos\theta(1-2\sin 2\theta)}{\sin\theta}\\
\gamma&=\cos\theta+\frac{1-2\sin 2\theta}{4\sin\theta}\\
&=\frac{1-2\sin 2\theta+2\sin 2\theta}{4\sin\theta}\\
&=\frac{1}{4\sin\theta}
\end{align}
である.
三角形 OAC は $\mathrm{OC}=\mathrm{AC}$ の二等辺三角形であることから,三角形 OAC が直角三角形になるとき,$\angle\mathrm{OCA}=\displaystyle\frac{\pi}{2}$ である.よって,$\mathrm{OA}=\sqrt{2}\cdot\mathrm{OC}=\sqrt{2}\gamma$ すなわち \begin{equation}
\mathrm{OA}^2=(2\cos\theta)^2+\frac{\cos\theta(1-2\sin 2\theta)}{\sin\theta}=2\gamma^2=2\left(\frac{1}{4\sin\theta}\right)^2
\end{equation}
である.これを解くと,
\begin{align}
32\sin^2\theta\cos^2\theta+8\sin\theta\cos\theta(1-2\sin 2\theta)&=1\\
8\sin\theta\cos\theta\ (1-2\sin 2\theta+2\sin 2\theta)&=1\\
\sin\theta\cos\theta&=\frac{1}{8}
\end{align}
である.また,
\begin{equation}
(\sin\theta+\cos\theta)^2=(\sin^2\theta+\cos^2\theta)+2\sin\theta\cos\theta=1+\frac{1}{4}=\frac{5}{4}
\end{equation}
であり,$\displaystyle 0<\theta<\frac{\pi}{12}$ より $\sin\theta>0$, $\cos\theta>0$ であるので,
\begin{equation}
\sin\theta+\cos\theta=\frac{\sqrt{5}}{2}
\end{equation}
である.よって,$\sin\theta$, $\cos\theta$ は次の $t$ の $2$次方程式の解である.
\begin{equation}
t^2-\frac{\sqrt{5}}{2}t+\frac{1}{8}=0\ すなわち\ 8t^2-4\sqrt{5}t+1=0
\end{equation}
これを解くと
\begin{equation}
t=\frac{2\sqrt{5}\pm\sqrt{20-8}}{8}=\frac{\sqrt{5}\pm\sqrt{3}}{4}
\end{equation}
となるが,$\displaystyle 0<\theta<\frac{\pi}{12}$ から $0<\tan\theta<1$ すなわち $\cos\theta>\sin\theta$ であるので,
\begin{align}
\sin\theta&=\frac{\sqrt{5}-\sqrt{3}}{4},&
\cos\theta&=\frac{\sqrt{5}+\sqrt{3}}{4}
\end{align}
となる.よって,
\begin{equation}
\tan\theta=\frac{\sin\theta}{\cos\theta}
=\frac{\sqrt{5}-\sqrt{3}}{\sqrt{5}+\sqrt{3}}
=\frac{(\sqrt{5}-\sqrt{3})^2}{5-3}
=\frac{5+3-2\sqrt{15}}{2}
=4-\sqrt{15}
\end{equation}
である.
特にこれといった難しさはないでしょう.教科書レベルではないですが,入試問題としては基本的な部類だと思います.
世の中には上記の解答よりもきれいな解答が多々あると思いますが,私自身は基本的に初見での解答をアップしていますので,むしろ本番向きだと思います.