$c=a+b+\frac 12$
\begin{align}
\omega(x):=x^c\sqrt{1-x}\F21{a,b}{c}x
\end{align}
とするとき,
\begin{align}
&F(x)^2\int_{0< s< t< u< x}s^{w-1}F(s)^2\,ds\frac{dt}{\omega(t)}\frac{du}{\omega(u)}\\
&=\sum_{0\leq k}\frac{(w+1-2a,w+1-2b,w+1-a-b)_k}{(w,w+1-c,w+2-2c)_{k+1}}x^{k+w+2-2c}
\end{align}
が成り立つ.
まず, 1つ補題を用意する.
\begin{align} \left|\begin{matrix}f(t)^2&f(t)g(t)&g(t)^2\\(f(t)^2)'&(f(t)g(t))'&(g(t)^2)'\\f(x)^2&f(x)g(x)&g(x)^2\end{matrix}\right|&=\left|\begin{matrix}f(t)&g(t)\\f(x)&g(x)\end{matrix}\right|^2\left|\begin{matrix}f(t)&g(t)\\f'(t)&g'(t)\end{matrix}\right|\\ \left|\begin{matrix}f(t)^2&f(t)g(t)&g(t)^2\\(f(t)^2)'&(f(t)g(t))'&(g(t)^2)'\\(f(t)^2)''&(f(t)g(t))''&(g(t)^2)''\end{matrix}\right|&=2\left|\begin{matrix}f(t)&g(t)\\f'(t)&g'(t)\end{matrix}\right|^3 \end{align}
Vandermondeの行列式より
\begin{align}
\left|\begin{matrix}f(t)^2&f(t)g(t)&g(t)^2\\\frac{f(t+h)^2-f(t)^2}{h}&\frac{f(t+h)g(t+h)-f(t)g(t)}{h}&\frac{g(t+h)^2-g(t)^2}h\\f(x)^2&f(x)g(x)&g(x)^2\end{matrix}\right|&=\left|\begin{matrix}f(t)&g(t)\\\frac{f(t+h)-f(t)}{h}&\frac{g(t+h)-g(t)}h\end{matrix}\right|\left|\begin{matrix}f(t)&g(t)\\f(x)&g(x)\end{matrix}\right|\left|\begin{matrix}f(t+h)&g(t+h)\\f(x)&g(x)\end{matrix}\right|
\end{align}
であるから, $h\to 0$として1つ目の式が従う. 2つ目の式は1つ目の式から
\begin{align}
\left|\begin{matrix}f(t)^2&f(t)g(t)&g(t)^2\\(f(t)^2)'&(f(t)g(t))'&(g(t)^2)'\\\frac{f(t+h)^2-f(t)^2-(f(t)^2)'h}{h^2}&\frac{f(t+h)g(t+h)-f(t)g(t)-(f(t)g(t))'h}{h^2}&\frac{g(t+h)^2-g(t)^2-(g(t)^2)'h}{h^2}\end{matrix}\right|&=\left|\begin{matrix}f(t)&g(t)\\\frac{f(t+h)-f(t)}h&\frac{g(t+h)-g(t)}{h}\end{matrix}\right|^2\left|\begin{matrix}f(t)&g(t)\\f'(t)&g'(t)\end{matrix}\right|
\end{align}
において$h\to 0$として得られる.
2つ目の式はWronskianを用いて, $W(f^2,fg,g^2)=2W(f,g)^3$と書ける.
まず,
Clausenの公式
より,
\begin{align}
F(x)^2&=\F32{2a,2b,a+b}{2a+2b,a+b+\frac 12}x\\
&=\F32{2a,2b,a+b}{2c-1,c}x
\end{align}
である. $\theta:=x\frac{d}{dx}$として,
\begin{align}
&(\theta(\theta+2c-2)(\theta+c-1)-x(\theta+2a)(\theta+2b)(\theta+a+b))\sum_{0\leq k}\frac{(w+1-2a,w+1-2b,w+1-a-b)_k}{(w,w+1-c,w+2-2c)_{k+1}}x^{k+w+2-2c}\\
&=\sum_{0\leq k}\left(\frac{(w+1-2a,w+1-2b,w+1-a-b)_k}{(w,w+1-c,w+2-2c)_{k}}x^{k+w+2-2c}-\frac{(w+1-2a,w+1-2b,w+1-a-b)_{k+1}}{(w,w+1-c,w+2-2c)_{k+1}}x^{k+w+2-2c}\right)\\
&=x^{w+2-2c}
\end{align}
であり, $\theta(\theta+2c-2)(\theta+c-1)-x(\theta+2a)(\theta+2b)(\theta+a+b)=x^3(1-x)\frac{d^3}{dx^3} $であり, その基本解は
\begin{align}
G(x)&:=\F21{a,b}{d}{1-x}
\end{align}
として, $F^2,FG,G^2$であるから
定数変化法
より,
\begin{align}
\theta(\theta+2c-2)(\theta+c-1)-x(\theta+2a)(\theta+2b)(\theta+a+b)&=x^{w+2-2c}
\end{align}
の解として
\begin{align}
&\int_0^x\frac{s^{w-2c-1}}{1-s}\frac{\left|\begin{matrix}F(s)^2&F(s)G(s)&G(s)^2\\(F(s)^2)'&(F(s)G(s))'&(G(s)^2)'\\F(x)^2&F(x)G(x)&G(x)^2\end{matrix}\right|}{W(F(s)^2,F(s)G(s),G(s)^2)}\,ds\\
&=\int_0^x\frac{s^{w-2c-1}}{1-s}\frac{(F(s)G(x)-F(x)G(s))^2}{2W(F(s),G(s))^2}\,ds\\
&=F(x)^2\int_0^xs^{w-1}F(s)^2\,ds\frac{dt}{\omega(t)}\frac{du}{\omega(u)}\\
\end{align}
が得られる. ここで, 途中の等号は補題2と
前の記事
の補題1による. ここで, $x\to 0$における展開を考えると,
\begin{align}
F(x)^2\int_0^xs^{w-1}F(s)^2\,ds\frac{dt}{\omega(t)}\frac{du}{\omega(u)}&=\sum_{0\leq k}A_kx^{k+w+2-2c}
\end{align}
の形に展開できることが分かる. $w$は任意だから,
\begin{align}
&F(x)^2\int_{0< s< t< u< x}s^{w-1}F(s)^2\,ds\frac{dt}{\omega(t)}\frac{du}{\omega(u)}\\
&=\sum_{0\leq k}\frac{(w+1-2a,w+1-2b,w+1-a-b)_k}{(w,w+1-c,w+2-2c)_{k+1}}x^{k+w+2-2c}
\end{align}
とならなければならない. よって示すべき等式が得られた.