(1)$a=\dfrac{(x+y)^2}{(1+x^2)(1+y^2)},b= \dfrac{(1-xy)^2}{(1+x^2)(1+y^2)}$
$a\geqq0,b\geqq0$なので、相加平均と相乗平均の関係から、
$a+b\geqq 2\sqrt{ab}$
$\Leftrightarrow \dfrac{x^2+2xy+y^2+1-2xy+x^2 y^2}{(1+x^2)(1+y^2)}\geqq 2\left| \dfrac{(x+y)(1-xy)}{(1+x^2)(1+y^2)} \right|$
$\Leftrightarrow \dfrac{1}{2}\geqq \left| \dfrac{(x+y)(1-xy)}{(1+x^2)(1+y^2)} \right|$
より、示された。
等号成立は、$(x+y)^2=(1-xy)^2$すなわち、$x+y=1-xy$または$x+y=xy-1$のときに限る。
(2)$(1+x^2)(1+y^2)-2(x+y)(1-xy)\\
=(1+2y+y^2)x^2-2(1-y^2)x+1-2y+y^2\\
=((1+y)x-(1-y))^2\\
=(xy+x+y-1)^2\geqq 0$
により、$(1+x^2)(1+y^2)>0$であるから、$\dfrac{1}{2}\geqq \dfrac{(x+y)(1-xy)}{(1+x^2)(1+y^2)}$
また、$x$を$-x,y$を$-y$に置き換えた場合の、
$(1+x^2)(1+y^2)+2(x+y)(1-xy)\\
=(xy-x-y-1)^2\geqq 0$
により、$(1+x^2)(1+y^2)>0$であるから、$\dfrac{(x+y)(1-xy)}{(1+x^2)(1+y^2)}\geqq -\dfrac{1}{2}$
したがって$-\dfrac{1}{2} \leqq \dfrac{(x+y)(1-xy)}{(1+x^2)(1+y^2)}\leqq \dfrac{1}{2}$
より、題意がしたがう。等号成立は$xy+x+y-1=0$または$xy-x-y-1=0$のときに限る。
(3)$x= \tan \alpha, y= \tan \beta$のとき、
$x+y=\dfrac{\sin (\alpha + \beta)}{\cos \alpha \cos \beta},1-xy=\dfrac{\cos (\alpha + \beta)}{\cos \alpha \cos \beta},1+x^2=\dfrac{1}{\cos ^2 \alpha}, 1+y^2=\dfrac{1}{\cos ^2 \beta}$
これにより、
$\left| \dfrac{(x+y)(1-xy)}{(1+x^2)(1+y^2)} \right| =\left| \sin (\alpha + \beta) \cos (\alpha + \beta) \right| \\
=\dfrac{1}{2} \left| \sin 2(\alpha + \beta) \right|\leqq \dfrac{1}{2}$
である。等号成立は、$\alpha + \beta =\pm \dfrac{\pi}{4}$
すなわち、$\tan (\alpha + \beta)=\pm 1\\
\dfrac{x+y}{1-xy} = \pm 1$
から(1)と同様。