有名問題です。
記事を書いている途中で気付いたのですが、 $\tria$ さんの こちら の記事と大筋が似ているので、まずはそちらを見ることをお勧めします。
$$\int_0^\infty \sin x^2dx $$
$$\d\frac1{\sqrt\pi}\int_0^\infty \frac{e^{-xt}}{\sqrt x} dx=\frac1{\sqrt t} $$
$ \begin{eqnarray*} &&\d\frac1{\sqrt\pi}\int_0^\infty \frac{e^{-xt}}{\sqrt x} dx\\ &=&\frac1{\sqrt{t\pi}}\int_0^\infty \frac{e^{-u}}{\sqrt u}du~~~~~~~~~~(u=xt)\\ &=&\frac1{\sqrt{t\pi}}\Gamma\l\frac12\r\\ &=&\frac1{\sqrt t}~~~~~~~~~~\square\\ \end{eqnarray*} $
$$\mathcal{L}_x[\sin x](p)=\frac1{1+p^2} $$
$ \begin{eqnarray*} &&\d\mathcal{L}_x[\sin x](p)\\ &=&\int_0^\infty e^{-px}\sin xdx\\ &=&\Im\int_0^\infty e^{-px}e^{ix}dx\\ &=&\Im\int_0^\infty e^{-(p-i)x}dx\\ &=&\Im\left[-\frac1{p-i}e^{-(p-i)x} \right]_0^\infty\\ &=&\Im\frac1{p-i}\\ &=&\Im\frac{p+i}{1+p^2}\\ &=&\frac1{1+p^2}~~~~~~~~~~\square\\ \end{eqnarray*} $
$$\int_0^{\frac\pi2}\tan^axdx=\frac\pi2\sec\frac\pi2a $$
$ \begin{eqnarray*} &&\d\int_0^{\frac\pi2}\tan^axdx\\ &=&\int_0^{\frac\pi2}\sin^ax\cos^{-a}xdx\\ &=&\frac12B\l\frac{1+a}2,\frac{1-a}2 \r\\ &=&\frac{\Gamma\l\frac{1+a}2 \r\Gamma\l\frac{1-a}2 \r}{2\Gamma(1)}\\ &=&\frac\pi{2\sin\frac{1+a}2\pi}\\ &=&\frac\pi2\sec\frac\pi2a~~~~~~~~~~\square \end{eqnarray*} $
この記事ではこの一般化に$\d a=\frac12$を代入した、
$\d\int_0^{\frac\pi2}\frac1{\sqrt{\tan x}}dx=\frac\pi{\sqrt2} $
を使います。
これらの補題を踏まえて解いてみます。
$ \begin{eqnarray*} &&\int_0^\infty \sin x^2dx\\ &=&\frac12\int_0^\infty \frac{\sin t}{\sqrt t}dt~~~~~~~~~~(t=x^2)\\ &=&\frac1{2\sqrt\pi}\int_0^\infty\sin t\int_0^\infty \frac{e^{-yt}}{\sqrt y}dydt\\ &=&\frac1{2\sqrt\pi}\int_0^\infty\frac1{\sqrt y} \int_0^\infty e^{-yt}\sin tdtdy\\ &=&\frac1{2\sqrt\pi}\int_0^\infty\frac1{\sqrt y}\mathcal{L}_t[\sin t](y) dy\\ &=&\frac1{2\sqrt\pi}\int_0^\infty\frac1{\sqrt y(1+y^2)}dy\\ &=&\frac1{2\sqrt\pi}\int_0^{\frac\pi2}\frac1{\sqrt{\tan\theta}}d\theta~~~~~~~~~~(y=\tan\theta)\\ &=&\sqrt{\frac\pi8}~~~~~~~~~~\square \end{eqnarray*} $
よって、
$\d\int_0^\infty \sin x^2dx=\sqrt{\frac\pi8} $
がわかりました。