カイ 2 乗分布の確率密度関数の導出

自由度$1$の$\chi^2$分布

$X$を確率変数とすると，$X^2$も確率変数である．それぞれの確率密度関数を$f_X$，$f_{X^2}$とすると，定数$a$（$a > 0$）について$$\pr{0 \leq X^2 \leq a^2} = \pr{-a \leq X \leq a}$$ $$\therefore \int_0^{a^2} f_{X^2}(x) \dd x = \int_{-a}^a f_X(x)\dd x$$が成り立つ．両辺を$a$で微分して$$(a^2)'f_{X^2}\left(a^2\right) = (a)'f_X(a) - (-a)'f_X(-a)$$ $$\therefore 2af_{X^2}\left(a^2\right) = f_X(a) + f_X(-a).$$

ここで，$X$が標準正規分布$\mathrm{N}(0, 1)$に従うとき$$f_X(x) = \frac1{\sqrt{2\pi}}\exp\left(-\frac{x^2}{2}\right)$$であるから，$x>0$の範囲における$X^2$の確率密度関数は$$\begin{align} f_{X^2}(x) &= \frac1{2\sqrt x}\left(f_X\left(\sqrt x\right) + f_X\left(-\sqrt x\right)\right) \\ &= \frac1{2\sqrt x}\cdot\frac1{\sqrt{2\pi}}\left(\exp\left(-\frac{\left(\sqrt{x}\right)^2}{2}\right)+\exp\left(-\frac{\left(-\sqrt{x}\right)^2}{2}\right)\right) \\ &= \frac1{\sqrt{2\pi}}\cdot \frac1{\sqrt{x}}\exp\left(-\frac{x}{2}\right). \end{align}$$

これは後述する$\chi^2$分布の，自由度$1$の場合である．つまり，$X$が標準正規分布$\mathrm{N}(0, 1)$に従うとき，$X^2$は自由度$1$の$\chi^2$分布$\chi^2(1)$に従う．

$\varGamma$関数と$B$関数

$\varGamma$関数は実数$\alpha$（$\alpha>0$）に対し次の式で定義される関数である．$$\varGamma(\alpha)=\int_0^\infty x^{\alpha-1}e^{-x}\dd x.$$

$\alpha=1$を代入すると$$\varGamma(1) = \int_0^\infty e^{-x} \dd x = \left[-e^{-x}\right]_0^\infty = 1.$$

$\alpha=2$を代入すると$$\begin{align} \varGamma(2) &= \int_0^\infty x e^{-x} \dd x \\ &= \left[ -x e^{-x} \right]_0^\infty + \int_0^\infty e^{-x} \dd x \\ &= 0 + \varGamma(1) \\ &= 1. \end{align}$$

$\alpha=2$の場合から推測される通り，$\alpha$が$2$以上の自然数のときの$\varGamma(\alpha)$の値は部分積分によって求めることができる．実際に$\alpha=n$を代入してみると$$\begin{align} \varGamma(n) &= \int_0^\infty x^{n - 1}e^{-x} \dd x \\ &= \left[ - x^{n - 1} e^{-x} \right]_0^\infty + (n - 1) \int_0^\infty x^{n - 2}e^{-x} \dd x \\ &= (n - 1) \varGamma(n - 1) \end{align}$$という式が得られる．これは$\varGamma$関数と階乗の間に$$\varGamma(n) = (n - 1)!$$という関係が成り立つ，すなわち$\varGamma$関数が階乗の一般化であることを表している．

また，$B$ベータ関数は，実数$\alpha$，$\beta$（$\alpha > 0$，$\beta > 0$）に対し次の式で定義される関数である．$$B(\alpha, \beta) = \int_0^1 x^{\alpha - 1}(1 - x)^{\beta - 1} \dd x$$

$\varGamma$関数と$B$関数の関係

$\varGamma(\alpha)$の定義式において$x = t^2$という置換を行う．$\displaystyle \frac{\dd x}{\dd t} = 2t$であり，$t$は$0$から$\infty$まで動くから$$\begin{align} \int_0^\infty x^{\alpha - 1}e^{-x} \dd x &= \int_0^\infty t^{2(\alpha - 1)} e^{-t^2} \cdot 2 t \dd t \\ &= 2 \int_0^\infty t^{2\alpha - 1}e^{-t^2} \dd t. \end{align}$$

また，$B(\alpha, \beta)$の定義式において$x = \sin^2\theta$という置換を行う．$\displaystyle \frac{\dd x}{\dd \theta} = 2\sin\theta\cos\theta$であり，$\theta$は$0$から$\frac{\pi}{2}$まで動くから$$\begin{align}\int_0^1 x^{\alpha - 1}(1 - x)^{\beta - 1} \dd x &= \int_0^{\frac{\pi}{2}} \sin^{2(\alpha-1)}\theta\cos^{2(\beta-1)}\theta\cdot2\sin\theta\cos\theta\dd\theta \\ &= 2\int_0^{\frac{\pi}{2}} \sin^{2\alpha-1}\theta\cos^{2\beta-1}\theta\dd\theta. \end{align}$$

これら2つの置換積分を用いて，2つの$\varGamma$関数の積を考える．$$\begin{align} \varGamma(\alpha)\varGamma(\beta) &= 4\left(\int_0^\infty s^{2\alpha - 1}e^{-s^2}\dd s\right)\cdot\left(\int_0^\infty t^{2\beta - 1}e^{-t^2}\dd t\right)\\ &= 4\int_0^\infty\! \int_0^\infty e^{-(s^2+t^2)}s^{2\alpha-1}t^{2\beta-1}\dd s\dd t. \quad \cdots (*) \end{align}$$

ここで$s = r\cos\theta$，$t = r\sin\theta$という置換を行う．$\displaystyle \frac{\partial(x, y)}{\partial(r, \theta)} = r$であり，$r$は$0$から$\infty$まで，$\theta$は$0$から$\frac{\pi}{2}$まで動くから$$\begin{align} (*) &= 4\int_0^\frac{\pi}{2}\!\int_0^\infty e^{-r^2}(r\cos\theta)^{2\alpha-1}(r\sin\theta)^{2\beta-1}\cdot r\dd r \dd \theta \\ &= 4 \int_0^\infty r^{2\alpha + 2\beta - 1}e^{-r^2}\dd r \int_0^{\frac{\pi}{2}} \cos^{2\alpha - 1}\theta \sin^{2\beta - 1}\theta \dd \theta. \end{align}$$

これはよく見ると$$\varGamma(\alpha+\beta) = 2\int_0^\infty r^{2(\alpha + \beta) - 1}e^{-r^2} \dd r$$と$$B(\alpha, \beta)=2\int_0^{\frac{\pi}{2}}\sin^{2\alpha - 1}\theta\cos^{2\beta - 1}\theta\dd\theta$$の積である．これより，$\varGamma$関数と$B$関数の関係式$$B(\alpha, \beta) = \frac{\varGamma(\alpha)\varGamma(\beta)}{\varGamma(\alpha + \beta)}$$が得られた．

また，ここで登場した$\varGamma$関数の置換積分を用いると，$\varGamma\left(\frac12\right)$の値を求めることができる．$$\begin{align} \varGamma\left(\frac12\right) &= 2\int_0^\infty t^{2 \cdot \frac12 - 1} e^{-t^2} \dd t \\ &= 2\int_0^\infty e^{-t^2} \dd t \\ &= 2 \cdot \frac{\sqrt{\pi}}{2} \\ &= \sqrt{\pi}. \end{align}$$

ただしガウスの公式$\displaystyle \int_0^\infty e^{-t^2}\dd t = \frac12 \int_{-\infty}^\infty e^{-t^2} \dd t = \frac{\sqrt{\pi}}{2}$を用いた．

$\chi^2$分布

独立な確率変数$Z_1, Z_2, Z_3, \ldots$が全て標準正規分布$\mathrm{N}(0, 1)$に従うとする．このとき，$\displaystyle T_n = \sum_{k = 1}^n Z_k^2$が従う分布を自由度$n$の$\chi^2$分布といい，$\chi^2(n)$と書く．

$T_n$の確率密度関数$f_n(x)$は，$x > 0$において次のように表される．$$f_n(x)=\frac{1}{2^{\frac{n}{2}}\varGamma\left(\frac{n}{2}\right)}x^{\frac{n}{2} - 1}\exp\left(-\frac{x}{2}\right)$$

$x \leq 0$のときは$f_n(x) = 0$である．

このことは数学的帰納法によって証明できる．

$n = 1$のときは$T_1 = Z_1^2$であるから，冒頭で示した通り$x>0$において$$\begin{align} f_1(x) &= \frac1{\sqrt{2\pi}}\cdot \frac1{\sqrt{x}} \exp\left(-\frac{x}{2}\right) \\ &= \frac1{2^{\frac12}\varGamma\left(\frac12\right)} x^{-\frac12} \exp\left(-\frac{x}{2}\right) \end{align}$$となり成り立っている．

$n = k$のときに成り立っていると仮定すると，$T_{k + 1} = T_k + Z_{k + 1}^2$の確率密度関数は，$x > 0$において$$\begin{align} f_{k + 1}(x) &= \int_0^x \left( \frac1{2^{\frac{k}{2}}\varGamma\left(\frac{k}{2}\right)}t^{\frac{k}2 - 1} \exp\left(-\frac{t}{2}\right) \right) \cdot \left( \frac{1}{\sqrt{2\pi}} \cdot \frac{1}{\sqrt{x - t}} \exp\left(-\frac{x - t}{2}\right) \right) \dd t \\ &= \frac1{2^{\frac{k}{2}}\varGamma\left(\frac{k}{2}\right)} \cdot \frac{1}{\sqrt{2\pi}} \cdot \exp\left(-\frac{x}{2}\right) \int_0^x t^{\frac{k}{2} - 1} \cdot \frac1{\sqrt{x - t}} \dd t \\ &= \frac1{2^{\frac{k + 1}{2}}\varGamma\left(\frac{k}{2}\right)\varGamma\left(\frac{1}{2}\right)} \exp\left(-\frac{x}{2}\right) \int_0^x t^{\frac{k}{2} - 1} (x - t)^{-\frac12} \dd t. \end{align}$$

積分の部分は，$t = xu$とおくと$\displaystyle \frac{\dd t}{\dd u} = x$より$$\begin{align} \int_0^x t^{\frac{k}{2} - 1}(x - t)^{-\frac12} \dd t &= \int_0^1 (xu)^{\frac{k}{2} - 1}\left(x(1-u)\right)^{-\frac12}\cdot x\dd u \\ &= x^{\frac{k - 1}2}\int_0^1 u^{\frac{k}{2} - 1}(1 - u)^{-\frac12}\dd u \\ &= x^{\frac{k - 1}{2}}B\left(\frac{k}{2}, \frac12\right) \end{align}$$と変形できるから，$$\begin{align} f_{k + 1}(x) &= \frac1{2^{\frac{k + 1}2}\varGamma\left(\frac{k}2\right)\varGamma\left(\frac12\right)} \exp\left(-\frac{x}{2}\right) \cdot x^{\frac{k - 1}{2}} B\left(\frac{k}2, \frac12\right) \\ &= \frac{B\left(\frac{k}2, \frac12\right)}{2^{\frac{k + 1}2}\varGamma\left(\frac{k}2\right)\varGamma\left(\frac12\right)} x^{\frac{k - 1}{2}}\exp\left(-\frac{x}{2}\right) \\ &= \frac1{2^{\frac{k + 1}2}\varGamma\left(\frac{k + 1}2\right)} x^{\frac{k + 1}{2} - 1}\exp\left(-\frac{x}{2}\right) \end{align}$$となり，$n = k + 1$のときも成り立っている．よって数学的帰納法により示された．