問題は, 神戸大数学科のウェブサイト の 令和 4 年度編入試(PDF-file) を参照してください。
$(1)\quad$
\begin{align*}
\dfrac{\partial{f}}{\partial{x}}(x, y)=x+ay, \quad \dfrac{\partial{f}}{\partial{y}}(x, y)=ax+y^{3},
\end{align*}
そして
\begin{align*}
\dfrac{\partial^{2}{f}}{\partial{x^{2}}}(x, y)=1, \quad \dfrac{\partial{f}}{\partial{xy}}(x, y)=\dfrac{\partial{f}}{\partial{yx}}(x, y)=a, \dfrac{\partial^{2}{f}}{\partial{y^{2}}}(x, y)=3y^{2}
\end{align*}
である。ゆえに
\begin{align*}
\dfrac{\partial{f}}{\partial{x}}(x, y)=0かつ, \dfrac{\partial{f}}{\partial{y}}(x, y)=0,
\end{align*}
となるのは
\begin{align*}
(x, y)=(-a^{2}, a), (a^{2}, -a), (0, 0).
\end{align*}
ここで, $a=0$のとき点$(-a^{2}, a)(=(a^{2}, -a)=(0,0))$は, $f$の極小点である。実際, このとき
\begin{align*}
f(x, y)=\dfrac{x^{2}}{2}+\dfrac{y^{4}}{4}>0
\end{align*}
が任意の点$(x, y)$で成り立ち, $f(0,, 0)=0$だからである。
以下$a\neq{0}$で議論する。$f$の点$(x, y)\in\mathbb{R}^{2}$のヘッセ行列を$H(x, y)$とおくと
\begin{align*}
\det(H(-a^{2}, a))=
\begin{vmatrix}
1&a\\
a&3a^{2}
\end{vmatrix}
=2a^{2}>0,
\end{align*}
\begin{align*}
\det(H(-a^{2}, a))=
\begin{vmatrix}
1&a\\
a&3a^{2}
\end{vmatrix}
=2a^{2}>0,
\end{align*}
\begin{align*}
\det(H(0, 0))=
\begin{vmatrix}
1&a\\
a&0
\end{vmatrix}
=-a^{2}<0
\end{align*}
ゆえ, 2点$(-a^{2}, a), (a^{2}, -a)$は$f$の極大点でも極小点でもないが, $(0, 0)$は極小点で$f(0, 0)=0$である。
$(2)\quad $
\begin{align*}
uv=xye^{x^{2}+y^{2}}
\end{align*}
だから
\begin{align*}
\dfrac{\partial}{\partial x}(uv)=ye^{x^{2}+y^{2}}+xye^{x^{2}+y^{2}}\cdot{2x}=ye^{x^{2}+y^{2}}(1+2x^{2}),
\end{align*}
\begin{align*}
\dfrac{\partial}{\partial y}(uv)=xe^{x^{2}+y^{2}}(1+2y^{2}).
\end{align*}
したがって
\begin{align*}
\dfrac{\partial{g}}{\partial x}(x, y)=\cos{(uv)}\cdot\dfrac{\partial}{\partial x}(uv)=\cos{(xye^{x^{2}+y^{2}})}\cdot{ye^{x^{2}+y^{2}}(1+2x^{2})}=ye^{x^{2}+y^{2}}(1+2x^{2})\cos{(xye^{x^{2}+y^{2}})},
\end{align*}
\begin{align*}
\dfrac{\partial{g}}{\partial y}(x, y)=\cos{(uv)}\cdot\dfrac{\partial}{\partial x}(uv)=\cos{(xye^{x^{2}+y^{2}})}\cdot{xe^{x^{2}+y^{2}}(1+2y^{2})}=xe^{x^{2}+y^{2}}(1+2y^{2})\cos{(xye^{x^{2}+y^{2}})},
\end{align*}