$ f: \mathbb{N} →\mathbb{N} $
$f(a)f(a+b)+ab+b^2 \in □$
平方剰余を用いた自作関数方程式の解法を紹介します。平方数全体の集合を$ □$としています。
与式への代入を$ P(a,b)$とする。
$f(a)=a$は明らかに解であるからそれ以外にないことを示す。
$p$を奇素数とし、$a$を正の整数とする。任意の正の整数$b$に対して $\bigg( \dfrac{b^2+ab}{p} \bigg)≠-1$となるならば$p\mid a $である。
$a \not \equiv 0 \pmod{p} $で上の主張が成り立つと仮定する。$\bigg( \dfrac{b^2+ab}{p} \bigg)=0$ならば$b≡0,-a \pmod{p} $であるのでそれ以外では$\bigg( \dfrac{b^2+ab}{p} \bigg)=1$$ \Longrightarrow \bigg( \dfrac{b}{p} \bigg)=\bigg( \dfrac{a+b}{p} \bigg)$となる。これを繰り返し用いると$ \bigg( \dfrac{a}{p} \bigg)=\bigg( \dfrac{2a}{p} \bigg)=\cdots = \bigg( \dfrac{(p-1)a}{p} \bigg)$となるがこれは法$p$の平方剰余の個数が法$p$で$ \dfrac{p-1}{2} $個であることに矛盾する。
奇素数$p$において$p~|~f(a) \Longrightarrow p~|~a$
$p~|~f(a) $とする。$ P(a,b)$から$\bigg( \dfrac{b^2+ab}{p} \bigg)≠-1$となるので補題1から$ p~|~a$が言える。
$4~|~f(a) \Longrightarrow 4~|~a$
$4~|~f(a)$とする。
$ P(a,b)$$ \Longrightarrow ab+b^2≡0,1 \pmod{4} $
$b=1$から$a≡0,-1 \pmod{4} $
$b=2$から$a≡0,2 \pmod{4} $
よって$a≡0 \pmod{4} $である。
$f(1) \in \lbrace 1,2 \rbrace $
補題2,3から明らかである。
奇素数$p$で$f(p)=p$となるものが無数に存在する。
補題2,3から$f(p)=tp^n\quad t \in \lbrace 1,2 \rbrace ,n \in \mathbb{Z}_{ \geq 0} $
である。まず$n=0,1$を示す。$n \geq 2$と仮定する。$ P(1,p-1)$$ \Longrightarrow f(1)f(p)+p^2-p \in □$
これは$p$の倍数だが$p^2$の倍数では無いので平方数であることに矛盾する。よって$f(p) \in \lbrace 1,2,p,2p \rbrace $である。
$ P(1,p-1)$において$f(p)≠p$かつ$f(1)f(p)+p^2-p \in □$を満たす$p$は高々有限個であるから補題は示せた。
$f(a)=a\quad \forall a \in \mathbb{N} $
$p>a$かつ$f(p)=p$となる奇素数$p$を任意に取る。$ P(a,p-a)$$ \Longrightarrow p(f(a)-a+p)\in □$
$\Longrightarrow f(a)≡a \pmod{p} $
$p$を十分大きく取ることで$f(a)=a$を得る。