関数方程式 f(yf(x)+1)f(x)=f(x+y)

まず広義単調減少を示す。
$a>b,f(a)>f(b)$となるものが存在すると仮定。
$s={\displaystyle \frac{f(a)-f(b)}{a-b}}>0$とすると$sf(a)+b=sf(b)+a$が成り立つので$Q(a,b,s)$を代入すると
$$f(sf(a)+b)f(a)=f(sf(b)+a)f(b)⟹f(a)=f(b)$$
しかしこれは仮定から矛盾。よって広義単調減少。
$f(a)=f(b),a\ne b$となるものが存在すると仮定すると$P(a,y),P(b,y)$から $$f(a+y)=f(yf(a)+1)f(a)=f(yf(b)+1)f(b)=f(b+y)$$
よって$f$は周期関数であるので広義単調増加と合わせて定数関数となるが定数関数でないと仮定しているので矛盾。
よって狭義単調減少。

$$Q(x,1,y)⟹f(yf(x)+1)f(x)=f(1)f(x+f(1)y)$$
$P(x,y)$と合わせて
$$f(x+y)=f(1)f(x+f(1)y)$$
$x,y$を入れ替えて整理すると
$$f(x+f(1)y)=f(f(1)x+y)$$
単射性から$(f(1)-1)x=(f(1)-1)y$より$f(1)=1$

　まず$x<1$のとき$f(x)\equiv {\displaystyle \frac{1}{cx-c+1}}$を示す。
$$P(x,1-x)⟹f((1-x)f(x)+1)f(x)=1\cdots (2)$$
$y<1,a={\displaystyle \frac{(1-x)f(x)+1-y}{f(x)}}>0$として$af(x)+y=(1-x)f(x)+1$に注意して$Q(x,y,a)$を代入すると
$$f((1-x)f(x)+1)f(x)=f(af(y)+x)f(y)$$
$$⟹f(y)f(af(y)+x)=1=f(y)f((1-y)f(y)+1)\because (2)$$
$$⟹af(y)+x=(1-y)f(y)+1\because 単射性$$
$$⟹{\displaystyle \frac{f(x)-1}{(1-x)f(x)}}={\displaystyle \frac{f(y)-1}{(1-y)f(y)}}$$
よって${\displaystyle \frac{f(x)-1}{(1-x)f(x)}}$の値は$x\in (0,1)$で固定されてるのでその値を$c$とすると
$$f(x)={\displaystyle \frac{1}{cx-c+1}}\mathrm{\forall }x\in (0,1)\cdots (3)$$
を得る。$c>1$と仮定すると$x<{\displaystyle \frac{c-1}{c}}$とすることで$f(x)$は負の値をとり矛盾するので$c\le 1$。また、$x\in (0,1)$のとき狭義単調減少性より$f(x)>1$であるから${\displaystyle \frac{f(x)-1}{(1-x)f(x)}}$は正、よって$c$も正、よって$c>0$。
　次に$f(x)={\displaystyle \frac{1}{cx-c+1}}\mathrm{\forall }x\in {\mathbb{R}}^{+}$を示す。
$$f(x)={\displaystyle \frac{1}{cx-c+1}}\mathrm{\forall }x\in (0,n]\cdots (4)$$
を$n$についての帰納法で示す。
　$n=1$のとき$(3)$と補題2から得る。
$n=k$のとき成り立つと仮定して$n=k+1$のときを示す。
$$P(x,k-x),x<k⟹f((k-x)f(x)+1)={\displaystyle \frac{f(k)}{f(x)}}$$
$$⟹f({\displaystyle \frac{k-x}{cx-c+1}}+1)=\frac{cx-c+1}{ck-c+1}\because 帰納法の仮定$$
ここで$y\in (k,k+1]$とし、$a={\displaystyle \frac{k+(c-1)(y-1)}{c(y-1)+1}}>0$とすると${\displaystyle \frac{k-a}{ca-c+1}}+1=y$であるから
$$f(y)=\frac{ca-c+1}{ck-c+1}=\frac{1}{cy-c+1}$$
よって$x\in (k,k+1]$のとき示せたので帰納法の仮定の$x\in (0,k]$のときと合わせて$n=k+1$のとき示せた。よって$(4)$を得たので$n\to \infty$とすることで補題を得る。十分性は明らか。