整数と二変数二次不定方程式

$(x+2y)(x-y)=7$ より、$(x+2y,x-y)$ は $(1,7),(7,1),(-1,-7),(-7,-1)$ のいずれかである。

$u=x+2y,\ v=x-y$ とすると、$x=(u+2v)/3,\ y=(u-v)/3$ であるから、求める組は

$\displaystyle \boxed{\begin{aligned}(x,y)={}&(5,-2),(3,2),\\&(-5,2),(-3,-2)\end{aligned}}$

である。逆に、これらはすべて元の式を満たす。

二次部分がそのまま積になります。右辺は零でない固定整数なので、整数の二因子には有限個の候補しかありません。ここでは、これが短い出口です。

ただし、$uv=7$ の整数解を求めた段階と、元の整数解を求めた段階は違います。復元式の分母 $3$ で割り切れるかまで確かめます。今回は四組とも戻れましたが、いつもそうなるわけではありません。

また、積が正でも因子が正とは限りません。負どうしの組も必要です。

$y=2$ では $0=3$ となるので不適。$y\ne2$ のとき、

$\displaystyle x=\frac{y^2-1}{y-2}=y+2+\frac{3}{y-2}$

より、$x$ が整数であるための必要十分条件は、$y-2$ が $3$ の約数であることである。

従って $y-2=\pm1,\pm3$。対応する $x$ を求めると、

$\displaystyle \boxed{\begin{aligned}(x,y)={}&(0,-1),(0,1),\\&(8,3),(8,5)\end{aligned}}$

を得る。これらはすべて元の式を満たす。

$y$ については二次ですが、$x$ については一次です。まずこちらを選びます。

分数にしただけでは、$y$ はまだ自由に動いています。分子も分母も $y$ とともに動くため、どの値なら割り切れるかがまだ見えません。そこで割り算を行い、整数部分と余りに分けます。

余りが固定整数 $3$ になったため、割り切れる条件が約数の有限列挙に変わりました。これは「分数を作る」ことではなく、「割り切れる条件を使いやすくする」ための操作です。

なお、最初から $(y-2)(x-y-2)=3$ とまとめても同じです。こちらが見えるなら、その短い書き方で構いません。

$a=b=c=0$ なら $dx+ey+f=0$ という一次の不定方程式です。$d,e$ の少なくとも一方が零でないときは、$|d|,|e|$ の最大公約数で $f$ が割り切れるかが、整数解の存在条件になります。

$d=e=0$ まで成り立つなら、$f=0$ ではすべての整数の組が解、$f\ne0$ では解なしです。

また、式に $x$ が全く現れないなら、まず $y$ の条件を解き、解となる各 $y$ に対して $x$ は任意の整数とします。「変数が消えた」ことと「その変数が $0$ である」ことは違います。

元の式を $y^2+(3-x)y-2x^2-2x+4=0$ と書く。$t=2y+3-x$ と置くと、

$\displaystyle t^2=9x^2+2x-7$

$\displaystyle t\equiv3-x\pmod2$

であり、$(9x+1)^2-(3t)^2=64$ を得る。$t\equiv3-x\pmod2$ より $9x+1$ と $3t$ は同じ偶奇なので、

$\displaystyle \begin{aligned}r&=\frac{9x+1-3t}{2},\\s&=\frac{9x+1+3t}{2}\end{aligned}$

は整数で、$rs=16$。また、

$\displaystyle \begin{aligned}x&=\frac{r+s-1}{9},\\t&=\frac{s-r}{3},\\y&=\frac{x-3+t}{2}\end{aligned}$

である。$16$ の符号を含む約数の組のうち、$r+s\equiv1\pmod9$ を満たすものは、

$\displaystyle \begin{aligned}(r,s)={}&(2,8),(8,2),\\&(-1,-16),(-16,-1),\\&(-4,-4)\end{aligned}$

である。それぞれから整数 $t,y$ が戻り、

$\displaystyle \boxed{\begin{aligned}(x,y)={}&(1,0),(1,-2),\\&(-2,-5),(-2,0),\\&(-1,-2)\end{aligned}}$

を得る。逆に、これらはすべて元の式を満たす。

① まず、どちらの文字について見るか。 $y$ の二次の係数は $-1$ です。式全体の符号を替えれば、二次の係数を $1$ にできます。判別式を比べても、$x$ については $9y^2+28y+36$、$y$ については $9x^2+2x-7$。今回は後者の方が小さい係数で済みます。

② 新しい平方数条件を診断する。 $t^2=9x^2+2x-7$ を得たら、右辺の主要部 $9x^2=(3x)^2$ を見ます。平方どうしの差が定数になれば、約数へ進めそうです。

ただし $(3x+c)^2$ の一次の係数は $6c$ なので、整数 $c$ では $2x$ に合わせられません。ここで「平方完成できない」と止めず、分母を払います。$9$ 倍すれば、$81x^2+18x=(9x+1)^2-1$ となります。

③ 固定積も、もう一度診断する。 二因子は同じ偶奇です。そこで $2$ ずつ取り出すと、積 $64$ が $16$ になり、候補が見やすくなります。

さらに、因子の組から $x$ が戻るためには $r+s\equiv1\pmod9$ が必要です。例えば $(r,s)=(1,16)$ は $rs=16$ を満たしても、$x=16/9$ となるので採用できません。積の方程式の解と、元の整数解は違います。

今回通ったルート：主変数の比較 → 平方数条件 → 主要部と一次項のずれ → 整数倍して平方差 → 偶奇 → 固定積 → 復元。

二次部分は $(2x-y)(x+y)$ です。$u=2x-y,\ v=x+y$ と置くと、$2x-3y=(5u-4v)/3$ なので、元の式は

$\displaystyle 3uv+5u-4v=12$

すなわち $(3u-4)(3v+5)=16$ となります。従って、

$\displaystyle (6x-3y-4)(3x+3y+5)=16$

です。この二因子を $r,s$ とすれば、$x=(r+s-1)/9,\ y=(2s-r-14)/9$。同じ約数の候補から、同じ五組が得られます。

このまとまりが見えたなら、こちらも合理的です。判別式の方法しかなかったわけではありません。判別式の利点は、因子の定数部分を最初から見抜けなくても、平方差を作る方針が立つことです。

$t=2x+y+1$ と置くと、元の式から

$\displaystyle \begin{aligned}t^2&=-3y^2+6y+13\\&=16-3(y-1)^2\end{aligned}$

を得る。よって $(y-1)^2\le16/3$ であり、$y=-1,0,1,2,3$ に限られる。

$y=0,2$ では $t^2=13$ なので不適。$y=-1,3$ では $t=\pm2$、$y=1$ では $t=\pm4$ となる。

$x=(t-y-1)/2$ で戻すと、

$\displaystyle \boxed{\begin{aligned}(x,y)={}&(1,-1),(-1,-1),\\&(1,1),(-3,1),\\&(-1,3),(-3,3)\end{aligned}}$

を得る。逆に、六組はいずれも元の式を満たす。

元の式は一次項が混じるため、二次部分だけの非負性では範囲がすぐに読めません。$x$ をまとめて平方にすると、残る条件は下向きの二次式になり、$y$ の範囲が得られます。

同じ操作を、最初から $4$ 倍して

$\displaystyle (2x+y+1)^2+3(y-1)^2=16$

と書いても構いません。こちらは平方和、模範解答は判別式からの平方数条件ですが、同じ等式を別の向きから読んでいます。

範囲が五個まで絞れたので、ここでは代入が十分軽い処理です。さらに一般的な理論へ進む必要はありません。

$u=2x-3y$ と置くと、$x+2y=u^2$ であるから、

$\displaystyle \begin{aligned}x&=\frac{3u^2+2u}{7},\\y&=\frac{2u^2-u}{7}\end{aligned}$

を得る。$y$ が整数である条件は $u(2u-1)\equiv0\pmod7$、すなわち $u\equiv0,4\pmod7$ である。このとき $x$ も整数になる。

従って、任意の整数 $n$ を用いて、全解は次の二族で表される。

$\displaystyle \boxed{\begin{aligned}x&=21n^2+2n,\\y&=14n^2-n\end{aligned}}$

または

$\displaystyle \boxed{\begin{aligned}x&=21n^2+26n+8,\\y&=14n^2+15n+4.\end{aligned}}$

逆に、前者では $2x-3y=7n$、後者では $2x-3y=7n+4$ となり、いずれも $x+2y=(2x-3y)^2$ を満たす。

左辺に平方のまとまりが見えています。展開して判別式へ進む前に、そのまとまりを $u$ と置きます。すると、元の二文字を戻すための連立一次方程式になります。

ただし、$u$ を任意の整数とするだけでは分母 $7$ が消えません。ここで新しい分子を再診断し、因数 $u(2u-1)$ に合同条件を移します。$7$ が素数なので、$u$ または $2u-1$ が $7$ の倍数です。

展開した式は $4x^2-12xy+9y^2-x-2y=0$ であり、$b^2-4ac=0$。一般論とも一致しますが、それを先に計算する必要はありませんでした。

無限族でも、全解の証明は同じです。元のどの解からも整数 $u$ が作られ、その $u$ は二つの剰余類に限られる。逆に、その二つからは必ず元の解が戻る。この両向きで漏れを防いでいます。

平方の式なので、まず $X\gt 0,\ Y\ge0$ の解を考えればよい。$Y=0$ なら $X=1$。$Y=1$ では $X^2=3$ となり不可能だから、$Y\gt 0$ なら $Y\ge2$ である。

このとき $X^2=2Y^2+1$ より、

$\displaystyle \frac43Y\lt X\le\frac32Y$

が成り立つ。左の不等式は $2Y^2+1\gt (16/9)Y^2$、右の不等式は $Y^2\ge4$ から従う。

そこで $X'=3X-4Y,\ Y'=3Y-2X$ と置くと、$X'\gt 0,\ Y'\ge0$。また $X\gt Y$ だから $Y'\lt Y$ である。先ほどの恒等式、または直接の展開により、$X'^2-2Y'^2=1$ も成り立つ。

従って、$Y\gt 0$ の解から、$Y$ がより小さい非負整数となる解へ進める。非負整数を厳密に減らし続けることはできないので、有限回で $(1,0)$ に到達する。

この操作の逆は

$\displaystyle X=3X'+4Y',\qquad Y=2X'+3Y'$

である。よって、どの $X\gt 0,\ Y\ge0$ の解も、$(1,0)$ から上の漸化式を有限回用いて得られる。

逆に、生成された組が方程式を満たすことは既に確認した。最後に $X,Y$ の符号をそれぞれ戻せば、すべての整数解が得られる。

有理数 $s$ により $b^2-4ac=s^2$ と書けるなら、

$\displaystyle \begin{aligned}\alpha&=\frac{b+s}{2a},\\\beta&=\frac{b-s}{2a}\end{aligned}$

と置くと、

$\displaystyle \begin{aligned}&ax^2+bxy+cy^2\\&\quad=a(x+\alpha y)(x+\beta y)\end{aligned}$

と分解できる。これは恒等式なので、$y=0$ の場合も含んでいる。

逆に $(\alpha x+\beta y)(\gamma x+\eta y)$ と分解できるなら、$a=\alpha\gamma,\ b=\alpha\eta+\beta\gamma,\ c=\beta\eta$ だから、

$\displaystyle b^2-4ac=(\alpha\eta-\beta\gamma)^2$

である。

なお、整数が有理数の平方なら整数の平方でもある。実際、互いに素な整数 $p,q$（$q\gt 0$）を用いて $(p/q)^2$ が整数と書ければ、$q^2$ は $p^2$ を割り切る。互いに素であることから $q=1$ となる。

元の式は $(2x+y-1)(x-2y+3)=0$ と同値である。よって $2x+y-1=0$ または $x-2y+3=0$。

従って、任意の整数 $n$ を用いて、全解は

$\displaystyle \boxed{\begin{gathered}(x,y)=(n,1-2n)\\\text{または}\quad(2n-3,n)\end{gathered}}$

と表される。逆に、この二族は元の式を満たす。

二次部分 $(2x+y)(x-2y)$ に定数を補えるかを見ます。$(2x+y+r)(x-2y+s)$ の一次の係数を合わせると、$r=-1,s=3$ が見つかります。

ここでは、積の右辺が零です。因子は固定の有限個の約数には限られません。二つの一次条件のどちらかを満たせばよいので、無限族が現れます。

一方の因子で割ってしまうと、もう一方の枝を落とします。積が零かどうかは、因数分解の直後に確認します。

元の式は

$\displaystyle (x-y+1)^2-2(y-2)^2=0$

と同値である。$2$ は平方数でないので、整数の平方が別の整数の平方の $2$ 倍になるのは、両方が零のときだけである。

よって $y-2=0,\ x-y+1=0$。従って

$\displaystyle \boxed{(x,y)=(1,2)}$

であり、逆にこの組は元の式を満たす。

$x^2-2xy-y^2=(x-y)^2-2y^2$ というまとまりが見えます。$2x+6y=2(x-y)+8y$ と分ければ、二つの平方の位置を調整できます。

非平方係数 $2$ が残るためPell型に見えますが、右辺は $0$ です。解を生成する議論へ行く前に、この零を処理すれば終わります。

形に名前を付けることより、いまの定数と整数条件を見ることの方が先です。

$(2x+3y)(4x-y)=65$ より、$u=2x+3y,\ v=4x-y$ と置くと $uv=65$。また、

$\displaystyle \begin{aligned}x&=\frac{u+3v}{14},\\y&=\frac{2u-v}{7}\end{aligned}$

である。$uv=65$ なので $u,v$ はともに奇数。従って $u+3v$ は偶数である。

さらに $u+3v\equiv0\pmod7$ なら $u\equiv4v\pmod7$ なので、$2u-v\equiv0\pmod7$ も成り立つ。よって、この合同条件が復元の必要十分条件になる。

符号を含む約数の組を調べると、条件を満たすのは

$\displaystyle \begin{aligned}(u,v)={}&(1,65),(13,5),\\&(-1,-65),(-13,-5)\end{aligned}$

である。従って全解は

$\displaystyle \boxed{\begin{aligned}(x,y)={}&(14,-9),(2,3),\\&(-14,9),(-2,-3)\end{aligned}}$

であり、逆にいずれも元の式を満たす。

因数分解できても、それだけでは半分です。二因子の値を自由な整数として選ぶと、元の $x,y$ が整数にならないものが混じります。

復元に現れた分母は $14$ と $7$ です。まず積が奇数であることから偶奇を処理し、残る $7$ の条件を調べます。分母の二つの条件も、独立に計算し続ける必要はありません。一方から他方が従うことを確認すれば十分です。

たすき掛けが見えにくければ、$b^2-4ac=10^2-4\cdot8\cdot(-3)=196=14^2$ を調べる方法もあります。あるいは、左辺を $(3x+y)^2-(x-2y)^2$ と見ても同じ因子になります。

今回通ったルート：二次部分 → 固定積 → 復元の分母 → 偶奇と合同条件 → 元の整数解。

式は $x,y$ について対称なので、まず $x\le y$ とする。$s=x+y,\ p=xy$ と置くと、

$\displaystyle p^2-3ps+s^2=-11$

である。$p\ge3s$ なら左辺は非負となって矛盾するので、$p\lt 3s$。一方、$x\le y$ より

$\displaystyle \frac{x}{2}\le\frac{xy}{x+y}=\frac ps\lt 3$

であるから、$1\le x\le5$ に限られる。

元の式を $y$ について整理すると、

$\displaystyle \begin{aligned}&(x^2-3x+1)y^2\\&\quad+(-3x^2+2x)y\\&\quad+x^2+11=0\end{aligned}$

となる。

・$x=1$：$y^2+y-12=0$ より、正の解は $y=3$。

・$x=2$：$(y+4)^2=31$ となるので不適。

・$x=3$：$(y-1)(y-20)=0$。$y\ge x$ より $y=20$。

・$x=4$：$5y^2-40y+27=0$。$5$ を法として矛盾する。

・$x=5$：$11y^2-65y+36=0$。また $5y\lt 3(5+y)$ と $y\ge5$ より $y=5,6,7$。この二次式を $4$ を法として見ると $3y(y+1)\equiv0\pmod4$ なので、残るのは $y=7$ のみ。しかし左辺は $120$ となり、これも不適。

よって、$x\le y$ では $(1,3),(3,20)$ に限られる。順序を戻すと、

$\displaystyle \boxed{\begin{aligned}(x,y)={}&(1,3),(3,1),\\&(3,20),(20,3)\end{aligned}}$

である。逆に、これらはすべて正の整数の組で、元の式を満たす。

① 四次式として全部展開する前に、条件が扱う量を見る。 $(xy)^2,(x+y)^2,xy(x+y)$ が並んでいます。和 $s$ と積 $p$ を一文字ずつにすると、$p^2-3ps+s^2=-11$ という二変数二次不定方程式が現れます。

ここで、置換した文字は自由ではありません。例えば $(s,p)=(4,9)$ はこの二次方程式を満たしますが、$x+y=4,\ xy=9$ となる実数 $x,y$ さえ存在しません。$(x-y)^2=s^2-4p$ が負になるからです。

② Pell型が見えても、元の条件を使い直す。 $p$ について判別式を取ると、$5s^2-44$ が平方数になる条件です。さらに変形すれば、

$\displaystyle (2p-3s)^2-5s^2=-44$

となり、一般化Pell型と認識できます。しかし、その全解を求めてから $s,p$ の実現条件を調べるのは、この問題では遠回りです。

元の $x,y$ は正です。$p^2-3ps+s^2\lt 0$ から $p\lt 3s$ がすぐに取れます。これを元の意味へ戻すと、「積を和で割った値が小さい」という情報です。小さい方を $x$ とすれば $p/s\ge x/2$ だから、$x$ 自体が $5$ 以下に抑えられます。

③ 範囲が付いたら、その範囲でいちばん軽い方法へ戻る。 あとは五つの $x$ それぞれで、一変数の二次方程式を診断します。$x=2$ は平方数の間にあること、$x=4$ は $5$ を法とする矛盾、$x=5$ は持ち越した範囲と $4$ を法とする条件です。同じ方法を五回繰り返す必要はありません。

模範解答は、$s,p$ の全解を求めていません。元の $x,y$ から来るものだけを、途中で元の文字に戻って絞っています。最後に得た四組を元の式へ代入することで、置換後の候補が本当に実現することまで確認しています。

今回通ったルート：自然なまとまり → 二変数二次式 → 符号と元の正値条件 → 小さい文字を有限化 → 各二次式を再診断 → 順序と実現の確認。

別の合理的な進み方： $s,p$ という文字を置かず、元の式から直接 $xy\lt 3(x+y)$ を読み取っても同じ上限が出ます。その方が短いと感じるなら、それで構いません。和と積への置換は、この不等式を発見し、Pell型へ進む必要があるか判断するための整理です。

元の式を $x$ または $y$ について二次方程式と見ると、解 $(x,y)$ から

$\displaystyle (3y-x-1,y),\qquad (x,3x-y-2)$

も整数解になる。以下、この二つの置換をそれぞれ $S_x,S_y$ と呼ぶ。どちらも二回施すと元に戻る。

まず、大きい解を小さくする。 $x\gt y\ge3$ のとき、

$\displaystyle P(z)=z^2+(1-3y)z+y^2+2y-2$

と置く。根は $x$ と $x'=3y-x-1$ であり、根の積が $y^2+2y-2\gt 0$ なので $x'\gt 0$。また、

$\displaystyle P(y)=-(y-1)(y-2)\lt 0$

だから、$x'\lt y\lt x$ である。従って $S_x$ により、正の整数解を保ったまま二数の大きい方を小さくできる。

$y\gt x\ge3$ の場合も、

$\displaystyle Q(z)=z^2+(2-3x)z+x^2+x-2$

について $Q(x)=-(x-1)(x-2)\lt 0$、根の積 $x^2+x-2\gt 0$ であるから、$y'=3x-y-2$ は $0\lt y'\lt x\lt y$ を満たす。$x=y\ge3$ は元の式から不可能である。

よって、両方が $3$ 以上の解には、上のいずれかを施して大きい方を厳密に減らせる。この操作を続けると、一方が $1$ または $2$ の解に到達する。

そのような解を元の式で調べると、$(1,1),(2,2),(3,2)$ だけである。$(3,2)$ は $S_x$ で $(2,2)$ へ戻る。また、$(1,1)$ に $S_x$ を施しても同じ組、$S_y$ を施すと $(1,0)$ となるため、ほかの正の整数解が $(1,1)$ に到達することはない。

次に、逆向きに全解を生成する。 二つの数列を $a_0=b_0=2$、

$\displaystyle \begin{aligned}a_{n+1}&=3b_n-a_n-1,\\b_{n+1}&=3a_{n+1}-b_n-2\end{aligned}$

（$n=0,1,2,\ldots$）

で定める。このとき

$S_x$ で $(a_n,b_n)$ から $(a_{n+1},b_n)$ へ、続いて $S_y$ で $(a_{n+1},b_{n+1})$ へ進む。

$b_n\ge a_n\ge2$ なら $a_{n+1}\gt b_n$、さらに $b_{n+1}\gt a_{n+1}$ となるので、これらはすべて正の整数解で、異なる解が無限に得られる。

途中の $(a_{n+1},b_n)$ では、$S_x$ が一つ前へ、$S_y$ が一つ先へ移す。また、$n\ge1$ の $(a_n,b_n)$ では、$S_y$ が一つ前へ、$S_x$ が一つ先へ移す。出発点 $(2,2)$ での $S_y$ は同じ組を与えるだけである。従って、$(2,2)$ から両置換で得られる正の整数解はすべてこの列に含まれる。

前半の降下と合わせて、全解は

$\displaystyle \boxed{(1,1),\quad(a_n,b_n),\quad(a_{n+1},b_n)}$

（$n=0,1,2,\ldots$）である。

① まず、対称式だと思い込まない。 二次部分は $x,y$ に対称ですが、一次項 $x+2y$ は対称ではありません。「$x\le y$ としてよい」とは言えません。大小の二つの場合を、それぞれ扱う必要があります。

小さい値では $(1,1),(2,2),(3,2),(3,5)$ などが見つかります。しかし、これだけでは有限とも無限とも分かりません。見つかった解を終点にせず、互いにどうつながっているかを調べます。

② 判別式から分かることと、なお残ること。 $x$ について見れば、$5y^2-14y+9$ が平方数になる条件です。最高次係数 $5$ が非平方数なので、普通の固定積には進めません。標準化すると

$\displaystyle (5y-7)^2-5(2x-3y+1)^2=4$

です。ただし、ここから一般化Pell型を解くなら、元の正の整数条件まで戻す必要があります。

③ 元の二次式に、まだ使っていない情報がある。 $x$ と $y$ は、どちらについて見ても二次の係数が $1$ です。従って、一方の整数解が分かれば、もう一方の根も整数になります。平方数条件を追い続ける代わりに、この根を使って小さい解を作れないか考えます。

ここが、この問題の追加の着眼です。フローチャートのラベルだけを追えば必ず思いつく、というものではありません。ただし、手掛かりは「二次の係数が $1$」「大きい解の上限が見えない」「一つの解から同じ方程式の別の解が作れる」の三つです。

④ 小さい方の文字を代入して、根の位置を見る。 $x\gt y$ の場合、別の根が $y$ より小さいことを示せれば、二数の大きい方を減らせます。その目的で、$x$ の二次式へ $z=y$ を代入します。そこで $P(y)=-(y-1)(y-2)\lt 0$ が現れ、$y$ が二根の間にあることが分かります。

さらに根の積が正なので、小さい根も正です。「整数である」だけでなく「正の範囲に残る」「本当に小さくなる」まで、元の条件を確認しています。

⑤ 最後に、生成を逆向きの証明と組にする。 降下で到達点を限り、置換が自分自身の逆であることを使って戻ります。こうして初めて、生成された列以外に解がないと言えます。

孤立した $(1,1)$ を除く解は、順に

$\displaystyle \begin{gathered}(2,2),(3,2),(3,5),\\(11,5),(11,26),(66,26),\ldots\end{gathered}$

です。これは解をいくつか並べただけではなく、模範解答の二数列によって、その先をすべて定めた表示です。

今回通ったルート：実験と二次式の比較 → 非平方係数を認識 → 元の二次式へ戻る → 別の根 → 正負と大小を再診断 → 境界まで降下 → 逆生成で全解を証明。

$F(x,y)=x^2+xy-y^2$ と置く。

まず、同じ $y$ 座標を持つ二点が存在しないことを示す。相異なる正の整数 $x_1\lt x_2$ に対し、

$\displaystyle \begin{aligned}F(x_2,y)-F(x_1,y)&=(x_2-x_1)(x_1+x_2+y)\\&\ge4.\end{aligned}$

一方、二点がともに $|F|=1$ を満たすなら、$F(x_1,y),F(x_2,y)$ はいずれも $1$ または $-1$ であるから、その差の絶対値は高々 $2$ である。これは矛盾する。従って、同じ $y$ 座標を持つ点は二つ存在しない。

次に、$|F(x,y)|=1$ を満たす正の整数 $x,y$ について、$x\gt y$ なら

$\displaystyle F(x,y)=x^2+y(x-y)\ge5$

となって矛盾する。従って $x\le y$。等号成立時は $F(x,x)=x^2$ より $(x,y)=(1,1)$ である。

ここで恒等式

$\displaystyle F(y-x,x)=-F(x,y)$

より、$(x,y)\ne(1,1)$ なら $(y-x,x)$ も第一象限の格子点で $|F|=1$ を満たす。しかも新しい $y$ 座標は $x\lt y$ である。よってこの操作を繰り返すと、正の整数である $y$ 座標が厳密に減少するため、有限回で $(1,1)$ に到達する。

この操作の逆は

$\displaystyle (x,y)\longmapsto(y,x+y)$

であり、これも第一象限と $|F|=1$ を保つ。従って $(1,1)$ からこの逆変換を繰り返して得られる点はすべて条件を満たし、前段の降下より、第一象限の格子点はこれで尽くされる。また、逆変換のたびに $y$ 座標は厳密に増加する。

従って

$\displaystyle P_1=(1,1),\qquad P_{n+1}=(y_n,x_n+y_n)$

である。よって、座標による三角形の面積公式から、

$\displaystyle \begin{aligned}[OP_nP_{n+1}]&=\frac12|x_n(x_n+y_n)-y_n^2|\\&=\frac12|F(x_n,y_n)|\\&=\boxed{\frac12}.\end{aligned}$

従って、三角形 $OP_nP_{n+1}$ の面積は $n$ によらず一定で、その値は $\displaystyle \frac12$ である。

① まず、問題文で必要とされている一意性を短く片付ける。 同じ $y$ に対して二つの正整数 $x_1\lt x_2$ があると仮定すると、$F(x_2,y)-F(x_1,y)$ は少なくとも $4$ になります。しかし $F$ の値は $\pm1$ しかないため、その差は高々 $2$。これで同じ $y$ 座標を持つ二点は排除できます。

ただし、これだけでは $P_n$ と $P_{n+1}$ の関係は分かりません。面積を求めるには、次に「隣の点が何か」を知る必要があります。

② Pell型だと分かっても、いま使える条件を見直す。 絶対値を外せば $F(x,y)=\pm1$。平方数条件は

$\displaystyle (2x+y)^2=5y^2\pm4$

となり、最高次係数 $5$ は非平方数です。普通の固定積から全解を列挙することはできません。ここで一般化Pell型の一般論へ進む前に、第一象限、つまり $x,y\gt0$ という条件を使います。

$x\gt y$ なら $x^2+y(x-y)$ は大きすぎるので、$x\le y$。等号は $(1,1)$ だけです。従って $(1,1)$ 以外では $0\lt x\lt y$ となります。大小が分かったので、$y$ より小さい正整数を作れないかと考えます。

③ 与えられていない変換を、候補から作る。 使えそうな小さい整数は $x$ と $y-x$ です。この二つを新しい座標に使って元の式がどう変わるか試すと、

$\displaystyle \begin{aligned}&(y-x)^2+(y-x)x-x^2\\&\qquad=-(x^2+xy-y^2)\end{aligned}$

となり、$(y-x,x)$ が同じ条件を満たすことが分かります。符号は反転しますが、絶対値が $1$ なので問題ありません。

これは「最初から漸化式を知っていた」という説明ではありません。減らしたい量は $y$、使える小さい整数は $x$ と $y-x$、残したい条件は $|F|=1$。この三つを照合して変換を見つけています。

④ 降下と逆変換を組にして、全体を回収する。 新しい点でも同じ式と正の整数条件が成り立つので、$(1,1)$ に着くまで $y$ を減らし続けられます。逆向きの変換は $(x,y)\mapsto(y,x+y)$ です。

逆変換は何度でも繰り返せ、そのたびに $y$ 座標は厳密に増えます。したがって格子点が無限に存在することは、ここで別個の核心として証明するというより、全回収のための逆生成を示した時点で自然に従います。前向きの降下と合わせることで、生成した列の間に別の格子点が入り込む余地もなくなります。

これで初めて、生成された次の点が本当に $P_{n+1}$ であり、$P_{n+1}=(y_n,x_n+y_n)$ と書けます。

⑤ 最後に面積へ戻る。 隣り合う二点の関係を面積公式へ代入すると、$x_n(x_n+y_n)-y_n^2$ が現れます。これはまさに元の二次式 $F(x_n,y_n)$ です。従って絶対値は常に $1$ となり、面積は $1/2$ に固定されます。

今回通ったルート：同じ $y$ の一意性 → 隣の点が未確定 → 正値条件と大小 → 差で変換を試す → 降下 → 逆生成で全回収・順序を確定 → 面積の式を再診断。