test3

(1)$a={\displaystyle \frac{(x+y{)}^2}{(1+x^2)(1+y^2)}},b={\displaystyle \frac{(1-xy{)}^2}{(1+x^2)(1+y^2)}}$
$a\geqq 0,b\geqq 0$なので、相加平均と相乗平均の関係から、
$a+b\geqq 2\sqrt{ab}$
$\iff {\displaystyle \frac{x^2+2xy+y^2+1-2xy+x^2{y}^2}{(1+x^2)(1+y^2)}}\geqq 2\left|{\displaystyle \frac{(x+y)(1-xy)}{(1+x^2)(1+y^2)}}\right|$
$\iff {\displaystyle \frac{1}{2}}\geqq \left|{\displaystyle \frac{(x+y)(1-xy)}{(1+x^2)(1+y^2)}}\right|$
より、示された。
等号成立は、$(x+y{)}^2=(1-xy{)}^2$すなわち、$x+y=1-xy$または$x+y=xy-1$のときに限る。

(2)$$\begin{gathered} (1+x^2)(1+y^2)-2(x+y)(1-xy) \\ =(1+2y+y^2)x^2-2(1-y^2)x+1-2y+y^2 \\ =((1+y)x-(1-y){)}^2 \\ =(xy+x+y-1{)}^2\geqq 0 \end{gathered}$$
により、$(1+x^2)(1+y^2)>0$であるから、${\displaystyle \frac{1}{2}}\geqq {\displaystyle \frac{(x+y)(1-xy)}{(1+x^2)(1+y^2)}}$
また、$x$を$-x,y$を$-y$に置き換えた場合の、
$$\begin{gathered} (1+x^2)(1+y^2)+2(x+y)(1-xy) \\ =(xy-x-y-1{)}^2\geqq 0 \end{gathered}$$
により、$(1+x^2)(1+y^2)>0$であるから、${\displaystyle \frac{(x+y)(1-xy)}{(1+x^2)(1+y^2)}}\geqq -{\displaystyle \frac{1}{2}}$
したがって$-{\displaystyle \frac{1}{2}}\leqq {\displaystyle \frac{(x+y)(1-xy)}{(1+x^2)(1+y^2)}}\leqq {\displaystyle \frac{1}{2}}$
より、題意がしたがう。等号成立は$xy+x+y-1=0$または$xy-x-y-1=0$のときに限る。

(3)$x=\tan \alpha ,y=\tan \beta$のとき、
$x+y={\displaystyle \frac{\sin (\alpha +\beta )}{\cos \alpha \cos \beta }},1-xy={\displaystyle \frac{\cos (\alpha +\beta )}{\cos \alpha \cos \beta }},1+x^2={\displaystyle \frac{1}{{\cos }^2\alpha }},1+y^2={\displaystyle \frac{1}{{\cos }^2\beta }}$
これにより、
$$\begin{gathered} \left|{\displaystyle \frac{(x+y)(1-xy)}{(1+x^2)(1+y^2)}}\right|=|\sin (\alpha +\beta )\cos (\alpha +\beta )| \\ ={\displaystyle \frac{1}{2}}|\sin 2(\alpha +\beta )|\leqq {\displaystyle \frac{1}{2}} \end{gathered}$$
である。等号成立は、$\alpha +\beta =\pm {\displaystyle \frac{\pi }{4}}$
すなわち、$$\begin{gathered} \tan (\alpha +\beta )=\pm 1 \\ {\displaystyle \frac{x+y}{1-xy}}=\pm 1 \end{gathered}$$
から(1)と同様。