$$$$
Def.
モーメント母関数
$(\Omega,\mathcal F,\mathbb P)$ を確率空間とし、
$$
X:(\Omega,\mathcal F)\to(\mathbb R,\mathcal B(\mathbb R))
$$
を実数値確率変数とする。
- 各 $t\in\mathbb R$ に対して、写像
$$
\omega\mapsto e^{tX(\omega)}
$$
は非負可測関数である。したがって、
$$
\mathbb E[e^{tX}]
$$
は $[0,\infty]$ に値をもつ拡大実数として定義される。 - $X$ のモーメント母関数の有限性領域を
$$
D_X
:=
\{t\in\mathbb R\mid \mathbb E[e^{tX}]<\infty\}
$$
で定める。
-このとき、$t\in D_X$ に対して、
$$
M_X(t):=\mathbb E[e^{tX}]
$$
で定義される関数
$$
M_X:D_X\to(0,\infty)
$$
を、$X$ のモーメント母関数という。
$t=0$ のとき、
$$
e^{0X}=1
$$
であるから、
$$
M_X(0)=\mathbb E[1]=1
$$
である(
定数確率変数の期待値の証明はコチラ
)。したがって、
$$
0\in D_X
$$
は常に成り立つ。
ある $\varepsilon>0$ が存在して、
$$
(-\varepsilon,\varepsilon)\subset D_X
$$
が成り立つとき、$X$ のモーメント母関数は $0$ の近傍で有限に存在するという。
この条件は、モーメント母関数によって分布を特徴づける一意性定理を用いる際に重要である。
モーメント母関数の一意性
$X$ と $Y$ を実数値確率変数とする。ただし、$X$ と $Y$ は同じ確率空間上で定義されていなくてもよい。
$X$ と $Y$ のモーメント母関数の有限性領域をそれぞれ $D_X$、$D_Y$ とする。
ある $\varepsilon>0$ が存在して、
$$
(-\varepsilon,\varepsilon)\subset D_X\cap D_Y
$$
が成り立ち、さらに任意の $t\in(-\varepsilon,\varepsilon)$ に対して、
$$
M_X(t)=M_Y(t)
$$
が成り立つとする。
このとき、$X$ と $Y$ は同じ分布に従う。すなわち、
$$
X\overset{d}{=}Y
$$
である。
この意味で、$0$ の近傍で有限に存在するモーメント母関数は、確率分布を特徴づける。
本稿では、この一意性定理の証明は取り上げない。
Prop&Proof
正規分布のモーメント母関数
$(\Omega,\mathcal F,\mathbb P)$ を確率空間とし、
$$
X:(\Omega,\mathcal F)\to(\mathbb R,\mathcal B(\mathbb R))
$$
を実数値確率変数とする。$\mu\in\mathbb R$、$\sigma>0$ とし、
$$
X\sim\mathcal N(\mu,\sigma^2)
$$
であるとする。
このとき、任意の $t\in\mathbb R$ に対して、
$$
\mathbb E[e^{tX}]<\infty
$$
であり、
$$
M_X(t):=\mathbb E[e^{tX}]
\quad
(t\in\mathbb R)
$$
とおくと、
$$
M_X(t)
=
\exp\left(
\mu t+\frac{1}{2}\sigma^2t^2
\right)
\quad
(t\in\mathbb R)
$$
が成り立つ。
$t\in\mathbb R$ を任意に固定する。
指数関数 $\exp:\mathbb R\to(0,\infty)$ は連続関数であり、$X$ は可測であるから、
$$
e^{tX}:\Omega\to(0,\infty)
$$
は非負可測関数である。したがって、$\mathbb E[e^{tX}]$ は $[0,\infty]$ の値をもつ拡大実数として定義される。
$X\sim\mathcal N(\mu,\sigma^2)$ であるから、正規分布の密度表示より、
$$
f_X(x)
=
\frac{1}{\sqrt{2\pi\sigma^2}}
\exp\left(
-\frac{(x-\mu)^2}{2\sigma^2}
\right)
\quad
(x\in\mathbb R)
$$
である。
したがって、非負可測関数に対する期待値の公式より、
$$
\begin{align}
\mathbb E[e^{tX}]
&=
\int_{-\infty}^{\infty}
e^{tx}
\frac{1}{\sqrt{2\pi\sigma^2}}
\exp\left(
-\frac{(x-\mu)^2}{2\sigma^2}
\right)
\,dx\\
&=
\frac{1}{\sqrt{2\pi\sigma^2}}
\int_{-\infty}^{\infty}
\exp\left(
tx-\frac{(x-\mu)^2}{2\sigma^2}
\right)
\,dx
\end{align}
$$
である(ただし、この時点では拡大実数値の等式として解釈する)。
ここで、指数部分を平方完成する。
$$
\begin{align}
tx-\frac{(x-\mu)^2}{2\sigma^2}
&=
tx-\frac{x^2-2\mu x+\mu^2}{2\sigma^2}\\
&=
-\frac{x^2}{2\sigma^2}
+\frac{\mu x}{\sigma^2}
+tx
-\frac{\mu^2}{2\sigma^2}\\
&=
-\frac{1}{2\sigma^2}x^2
+\left(\frac{\mu}{\sigma^2}+t\right)x
-\frac{\mu^2}{2\sigma^2}\\
&=
-\frac{1}{2\sigma^2}
\left(
x^2-2(\mu+\sigma^2t)x
\right)
-\frac{\mu^2}{2\sigma^2}\\
&=
-\frac{1}{2\sigma^2}
\left(
(x-(\mu+\sigma^2t))^2-(\mu+\sigma^2t)^2
\right)
-\frac{\mu^2}{2\sigma^2}\\
&=
-\frac{(x-(\mu+\sigma^2t))^2}{2\sigma^2}
+
\frac{(\mu+\sigma^2t)^2}{2\sigma^2}
-\frac{\mu^2}{2\sigma^2}
\end{align}
$$
である。よって、
$$
\begin{align}
\mathbb E[e^{tX}]
&=
\frac{1}{\sqrt{2\pi\sigma^2}}
\int_{-\infty}^{\infty}
\exp\left(
-\frac{(x-(\mu+\sigma^2t))^2}{2\sigma^2}
+
\frac{(\mu+\sigma^2t)^2}{2\sigma^2}
-\frac{\mu^2}{2\sigma^2}
\right)
\,dx\\
&=
\exp\left(
\frac{(\mu+\sigma^2t)^2}{2\sigma^2}
-\frac{\mu^2}{2\sigma^2}
\right)
\frac{1}{\sqrt{2\pi\sigma^2}}
\int_{-\infty}^{\infty}
\exp\left(
-\frac{(x-(\mu+\sigma^2t))^2}{2\sigma^2}
\right)
\,dx
\end{align}
$$
である。ここで、
$$
m:=\mu+\sigma^2t
$$
とおく。このとき、
$$
x\mapsto
\frac{1}{\sqrt{2\pi\sigma^2}}
\exp\left(
-\frac{(x-m)^2}{2\sigma^2}
\right)
$$
は正規分布 $\mathcal N(m,\sigma^2)$ の確率密度関数である。
したがって、確率密度関数の全積分は $1$ であるから、
$$
\frac{1}{\sqrt{2\pi\sigma^2}}
\int_{-\infty}^{\infty}
\exp\left(
-\frac{(x-m)^2}{2\sigma^2}
\right)
\,dx
=
1
$$
である。
ゆえに、
$$
\begin{align}
\mathbb E[e^{tX}]
&=
\exp\left(
\frac{(\mu+\sigma^2t)^2}{2\sigma^2}
-\frac{\mu^2}{2\sigma^2}
\right)\\
&=
\exp\left(
\frac{\mu^2+2\mu\sigma^2t+\sigma^4t^2-\mu^2}{2\sigma^2}
\right)\\
&=
\exp\left(
\mu t+\frac{1}{2}\sigma^2t^2
\right)
\end{align}
$$
である。
右辺は任意の $t\in\mathbb R$ に対して有限である。したがって、任意の $t\in\mathbb R$ に対して、
$$
\mathbb E[e^{tX}]<\infty
$$
である。
$t\in\mathbb R$ は任意であったので、
$$
M_X(t)
=
\mathbb E[e^{tX}]
=
\exp\left(
\mu t+\frac{1}{2}\sigma^2t^2
\right)
\quad
(t\in\mathbb R)
$$
が成り立つ。
$$ \Box$$
正規分布の正の定数倍
$(\Omega,\mathcal F,\mathbb P)$ を確率空間とし、
$$
X:(\Omega,\mathcal F)\to(\mathbb R,\mathcal B(\mathbb R))
$$
を実数値確率変数とする。
$\mu\in\mathbb R$、$\sigma>0$、$c>0$ とする。
$$
X\sim\mathcal N(\mu,\sigma^2)
$$
であるとする。
このとき、
$$
cX\sim\mathcal N(c\mu,c^2\sigma^2)
$$
である。
- 確率変数である事を確認する。
確率変数 $X$ と $c>0$ により
$$
Y:=cX
$$
とおく。
写像 $g:\mathbb R\to\mathbb R$ を
$$
g(x):=cx
$$
で定める。$g$ は連続関数であるから、ボレル可測である。
したがって、
$$
Y=g\circ X
$$
は実数値確率変数である。
$ $ - $Y$ のモーメント母関数を計算する。
$t\in\mathbb R$ を任意に固定する。
このとき、$ct\in\mathbb R$ である。$X\sim\mathcal N(\mu,\sigma^2)$ であるから、正規分布のモーメント母関数の公式より、
$$
\mathbb E[e^{(ct)X}]
=
M_X(ct)
=
\exp\left(
\mu(ct)+\frac{1}{2}\sigma^2(ct)^2
\right)
<
\infty
$$
である(証明済み)。
よって、
$$
\mathbb E[e^{tY}]
=
\mathbb E[e^{t(cX)}]
=
\mathbb E[e^{(ct)X}]
<
\infty
$$
である。したがって、$t\in D_Y$ であり、
$$
M_Y(t):=\mathbb E[e^{tY}]
$$
が定義される。
さらに、
$$
\begin{align}
M_Y(t)
&=
\mathbb E[e^{tY}]\\
&=
\mathbb E[e^{t(cX)}]\\
&=
\mathbb E[e^{(ct)X}]\\
&=
M_X(ct)\\
&=
\exp\left(
\mu(ct)+\frac{1}{2}\sigma^2(ct)^2
\right)\\
&=
\exp\left(
(c\mu)t+\frac{1}{2}c^2\sigma^2t^2
\right)
\end{align}
$$
である。
ここで、
$$
\mu':=c\mu,
\quad
\sigma':=c\sigma
$$
とおく。$c>0$ かつ $\sigma>0$ より、
$$
\sigma'>0,
\quad
\sigma'^2=c^2\sigma^2
$$
である。
したがって、任意の $t\in\mathbb R$ に対して、
$$
M_Y(t)
=
\exp\left(
\mu't+\frac{1}{2}\sigma'^2t^2
\right)
$$
が成り立つ。
$ $ - モーメント母関数の一意性を用いる。
$\mathbb R$ 上の正規分布 $\mathcal N(\mu',\sigma'^2)$ を考え、この分布に従う実数値確率変数 $Z$ をとる。
このとき、正規分布のモーメント母関数の公式より、任意の $t\in\mathbb R$ に対して、
$$
M_Z(t)
=
\exp\left(
\mu't+\frac{1}{2}\sigma'^2t^2
\right)
$$
である。
ゆえに、任意の $t\in\mathbb R$ に対して、
$$
M_Y(t)=M_Z(t)
$$
である。
特に、$M_Y$ と $M_Z$ は $0$ の近傍で有限に存在し、その近傍で一致する。
モーメント母関数は、$0$ の近傍で有限に存在し、その近傍で一致すれば分布を一意に定める。したがって、
$$
Y\overset{d}{=}Z
$$
である。
$Z\sim\mathcal N(\mu',\sigma'^2)$ であったから、
$$
Y\sim\mathcal N(\mu',\sigma'^2)
$$
である。
-すなわち、
$$
cX\sim\mathcal N(c\mu,c^2\sigma^2)
$$
である。
$$ \Box$$
より一般に、$\mu\in\mathbb R$、$\sigma>0$、$a,b\in\mathbb R$、$a\neq0$ とし、
$$
X\sim\mathcal N(\mu,\sigma^2)
$$
であるとする。このとき、
$$
aX+b\sim\mathcal N(a\mu+b,a^2\sigma^2)
$$
である。
正規分布の線形変換
$(\Omega,\mathcal F,\mathbb P)$ を確率空間とし、
$$
X:(\Omega,\mathcal F)\to(\mathbb R,\mathcal B(\mathbb R))
$$
を実数値確率変数とする。
$\mu\in\mathbb R$、$\sigma>0$ とし、
$$
X\sim\mathcal N(\mu,\sigma^2)
$$
であるとする。また、$a,b\in\mathbb R$ とし、
$$
a\neq 0
$$
とする。このとき、
$$
Y:=aX+b
$$
とおけば、
$$
Y\sim\mathcal N(a\mu+b,a^2\sigma^2)
$$
である。
- $Y$ が実数値確率変数であることを確認する。
写像 $g:\mathbb R\to\mathbb R$ を
$$
g(x):=ax+b
$$
で定める。
$g$ は $\mathbb R$ 上の連続関数であるから、ボレル可測である。
したがって、$X$ が実数値確率変数であることより、
$$
Y:=aX+b=g\circ X
$$
も実数値確率変数である。
$ $ - $Y$ のモーメント母関数を計算する。
$X\sim\mathcal N(\mu,\sigma^2)$ であるから、正規分布のモーメント母関数の公式より、任意の $s\in\mathbb R$ に対して、
$$
M_X(s)
=
\mathbb E[e^{sX}]
=
\exp\left(
\mu s+\frac{1}{2}\sigma^2s^2
\right)
$$
である(証明済み)。
$t\in\mathbb R$ を任意に固定する。このとき、$at\in\mathbb R$ であるから、
$$
\mathbb E[e^{atX}]
=
M_X(at)
<
\infty
$$
である。
また、$e^{bt}$ は有限な正の定数である。さらに、
$$
e^{tY}
=
e^{t(aX+b)}
=
e^{bt}e^{atX}
$$
であるから、
$$
\mathbb E[e^{tY}]
=
e^{bt}\mathbb E[e^{atX}]
<
\infty
$$
である。したがって、$M_Y(t)$ は定義される。
よって、
$$
\begin{align}
M_Y(t)
&=
\mathbb E[e^{tY}]\\
&=
\mathbb E[e^{t(aX+b)}]\\
&=
\mathbb E[e^{taX+tb}]\\
&=
\mathbb E[e^{tb}e^{taX}]\\
&=
e^{tb}\mathbb E[e^{taX}]\\
&=
e^{tb}M_X(at)\\
&=
e^{tb}
\exp\left(
\mu at+\frac{1}{2}\sigma^2(at)^2
\right)\\
&=
\exp\left(
bt+a\mu t+\frac{1}{2}a^2\sigma^2t^2
\right)\\
&=
\exp\left(
(a\mu+b)t+\frac{1}{2}a^2\sigma^2t^2
\right)
\end{align}
$$
である。
ここで、
$$
\mu':=a\mu+b,
\quad
\sigma':=|a|\sigma
$$
とおく。このとき、$a\neq 0$ かつ $\sigma>0$ より、
$$
\sigma'>0,
\quad
\sigma'^2=a^2\sigma^2
$$
である。
したがって、任意の $t\in\mathbb R$ に対して、
$$
M_Y(t)
=
\exp\left(
\mu't+\frac{1}{2}\sigma'^2t^2
\right)
$$
である。
$ $ - モーメント母関数の一意性を用いる。
$\mathbb R$ 上の正規分布 $\mathcal N(\mu',\sigma'^2)$ を考え、この分布に従う実数値確率変数 $Z$ をとる。
このとき、正規分布のモーメント母関数の公式より、任意の $t\in\mathbb R$ に対して、
$$
M_Z(t)
=
\exp\left(
\mu't+\frac{1}{2}\sigma'^2t^2
\right)
$$
である。
ゆえに、任意の $t\in\mathbb R$ に対して、
$$
M_Y(t)=M_Z(t)
$$
である。
特に、$M_Y$ と $M_Z$ は $0$ の近傍で有限に存在し、その近傍で一致する。
モーメント母関数が $0$ の近傍で有限に存在し、その近傍で一致するならば、対応する分布は一致する。
したがって、
$$
Y\overset{d}{=}Z
$$
である。
$Z\sim\mathcal N(\mu',\sigma'^2)$ であったから、
$$
Y\sim\mathcal N(\mu',\sigma'^2)
$$
である。
-すなわち、
$$
Y\sim\mathcal N(a\mu+b,a^2\sigma^2)
$$
である。
$$ \Box$$
独立な正規分布の和
$(\Omega,\mathcal F,\mathbb P)$ を確率空間とし、
$$
X,Y:(\Omega,\mathcal F)\to(\mathbb R,\mathcal B(\mathbb R))
$$
を実数値確率変数とする。
$\mu_1,\mu_2\in\mathbb R$、$\sigma_1>0$、$\sigma_2>0$ とする。
また、$X$ と $Y$ は独立であり、
$$
X\sim\mathcal N(\mu_1,\sigma_1^2),
\quad
Y\sim\mathcal N(\mu_2,\sigma_2^2)
$$
を満たすとする。
このとき、
$$
X+Y\sim\mathcal N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)
$$
である。
- $S:=X+Y$ が実数値確率変数であることを確認する。
確率変数 $X$ と $Y$ について、
$$
S:=X+Y
$$
とおく。
写像 $h:\mathbb R^2\to\mathbb R$ を
$$
h(x,y):=x+y
$$
で定める。$h$ は連続関数であるから、ボレル可測である。
また、$X$ と $Y$ は実数値確率変数であるから、
$$
(X,Y):(\Omega,\mathcal F)\to(\mathbb R^2,\mathcal B(\mathbb R^2))
$$
は可測である。
したがって、
$$
S=X+Y=h\circ(X,Y)
$$
は実数値確率変数である。
$ $ - $X$ と $Y$ のモーメント母関数を確認する。
$X\sim\mathcal N(\mu_1,\sigma_1^2)$ であるから、正規分布のモーメント母関数の公式より、任意の $t\in\mathbb R$ に対して、
$$
M_X(t)
=
\mathbb E[e^{tX}]
=
\exp\left(
\mu_1t+\frac{1}{2}\sigma_1^2t^2
\right)
$$
である(証明済み)。
同様に、$Y\sim\mathcal N(\mu_2,\sigma_2^2)$ であるから、任意の $t\in\mathbb R$ に対して、
$$
M_Y(t)
=
\mathbb E[e^{tY}]
=
\exp\left(
\mu_2t+\frac{1}{2}\sigma_2^2t^2
\right)
$$
である(証明済み)。
$ $ - $S$ のモーメント母関数を計算する。
$t\in\mathbb R$ を任意に固定する。
写像
$$
f_t(x):=e^{tx}
$$
は $\mathbb R$ 上の連続関数であるから、ボレル可測である。
$X$ と $Y$ は独立であるから、ボレル可測変換によって、
$$
e^{tX}=f_t(X),
\quad
e^{tY}=f_t(Y)
$$
も独立である。
また、正規分布のモーメント母関数は任意の実数で有限であるから、
$$
\mathbb E[e^{tX}]<\infty,
\quad
\mathbb E[e^{tY}]<\infty
$$
である。
したがって、独立な非負確率変数の積の期待値の公式(
証明はコチラ
)より、
$$
\mathbb E[e^{tX}e^{tY}]
=
\mathbb E[e^{tX}]\mathbb E[e^{tY}]
<
\infty
$$
である。
ここで、
$$
e^{tS}
=
e^{t(X+Y)}
=
e^{tX}e^{tY}
$$
であるから、
$$
\mathbb E[e^{tS}]<\infty
$$
である。したがって、$M_S(t)$ は定義される。
よって、
$$
\begin{align}
M_S(t)
&=
\mathbb E[e^{tS}]\\
&=
\mathbb E[e^{t(X+Y)}]\\
&=
\mathbb E[e^{tX+tY}]\\
&=
\mathbb E[e^{tX}e^{tY}]\\
&=
\mathbb E[e^{tX}]\mathbb E[e^{tY}]\\
&=
M_X(t)M_Y(t)\\
&=
\exp\left(
\mu_1t+\frac{1}{2}\sigma_1^2t^2
\right)
\exp\left(
\mu_2t+\frac{1}{2}\sigma_2^2t^2
\right)\\
&=
\exp\left(
(\mu_1+\mu_2)t
+
\frac{1}{2}(\sigma_1^2+\sigma_2^2)t^2
\right)
\end{align}
$$
である。
ここで、
$$
\mu:=\mu_1+\mu_2,
\quad
\sigma^2:=\sigma_1^2+\sigma_2^2
$$
とおく。$\sigma_1>0$、$\sigma_2>0$ より、
$$
\sigma^2=\sigma_1^2+\sigma_2^2>0
$$
である。
したがって、任意の $t\in\mathbb R$ に対して、
$$
M_S(t)
=
\exp\left(
\mu t+\frac{1}{2}\sigma^2t^2
\right)
$$
である。
$ $ - モーメント母関数の一意性を用いる。
$\mathbb R$ 上の正規分布 $\mathcal N(\mu,\sigma^2)$ を考え、この分布に従う実数値確率変数 $Z$ をとる。
正規分布のモーメント母関数の公式より、任意の $t\in\mathbb R$ に対して、
$$
M_Z(t)
=
\exp\left(
\mu t+\frac{1}{2}\sigma^2t^2
\right)
$$
である。
ゆえに、任意の $t\in\mathbb R$ に対して、
$$
M_S(t)=M_Z(t)
$$
である。
特に、$M_S$ と $M_Z$ は $0$ の近傍で有限に存在し、その近傍で一致する。
モーメント母関数が $0$ の近傍で有限に存在し、その近傍で一致するならば、対応する分布は一致する。
したがって、
$$
S\overset{d}{=}Z
$$
である。
$Z\sim\mathcal N(\mu,\sigma^2)$ であったから、
$$
S\sim\mathcal N(\mu,\sigma^2)
$$
である。
-すなわち、
$$
X+Y\sim\mathcal N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)
$$
である。
$$ \Box$$
独立性はボレル可測変換で保たれる
$X,Y$ を独立な実数値確率変数とし、$f,g:\mathbb R\to\mathbb R$ をボレル可測関数とする。
このとき、$f(X)$ と $g(Y)$ は独立である。
実際、任意の $A,B\in\mathcal B(\mathbb R)$ に対して、$f,g$ のボレル可測性より、
$$
f^{-1}(A)\in\mathcal B(\mathbb R),
\quad
g^{-1}(B)\in\mathcal B(\mathbb R)
$$
である。
また、
$$
\{f(X)\in A\}
=
\{X\in f^{-1}(A)\},
\quad
\{g(Y)\in B\}
=
\{Y\in g^{-1}(B)\}
$$
である。
したがって、$X$ と $Y$ の独立性より、
$$
\begin{align}
\mathbb P(f(X)\in A,\ g(Y)\in B)
&=
\mathbb P(X\in f^{-1}(A),\ Y\in g^{-1}(B))\\
&=
\mathbb P(X\in f^{-1}(A))\mathbb P(Y\in g^{-1}(B))\\
&=
\mathbb P(f(X)\in A)\mathbb P(g(Y)\in B)
\end{align}
$$
である。
よって、$f(X)$ と $g(Y)$ は独立である。
$$ \Box$$
より一般に、$(\Omega,\mathcal F,\mathbb P)$ を確率空間とし、$X_1,\ldots,X_n$ を独立な実数値確率変数とする。
各 $i=1,\ldots,n$ に対して、
$$
\mu_i\in\mathbb R,
\quad
\sigma_i>0,
\quad
X_i\sim\mathcal N(\mu_i,\sigma_i^2)
$$
であるとする。
このとき、
$$
\sum_{i=1}^{n}X_i
\sim
\mathcal N\left(
\sum_{i=1}^{n}\mu_i,
\sum_{i=1}^{n}\sigma_i^2
\right)
$$
である。
独立な正規分布の線形結合
$(\Omega,\mathcal F,\mathbb P)$ を確率空間とし、$n\in\mathbb N$ とする。
$$
X_1,\ldots,X_n:(\Omega,\mathcal F)\to(\mathbb R,\mathcal B(\mathbb R))
$$
を実数値確率変数とする。
$\mu_1,\ldots,\mu_n\in\mathbb R$、$\sigma_1,\ldots,\sigma_n>0$ とし、$X_1,\ldots,X_n$ は独立であり、任意の $i=1,\ldots,n$ に対して、
$$
X_i\sim\mathcal N(\mu_i,\sigma_i^2)
$$
であるとする。
また、$c_1,\ldots,c_n\in\mathbb R$ とし、
$$
\sum_{i=1}^{n}c_i^2\sigma_i^2>0
$$
を満たすとする。
このとき、
$$
\sum_{i=1}^{n}c_iX_i
\sim
\mathcal N\left(
\sum_{i=1}^{n}c_i\mu_i,
\sum_{i=1}^{n}c_i^2\sigma_i^2
\right)
$$
である。
- 線形結合が実数値確率変数であることを確認する。
実数値確率変数列 $X_1,\ldots,X_n$ と $c_1,\ldots,c_n\in\mathbb R$ を用いて、
$$
S:=\sum_{i=1}^{n}c_iX_i
$$
とおく。
写像
$$
g:\mathbb R^n\to\mathbb R,
\quad
g(x_1,\ldots,x_n):=\sum_{i=1}^{n}c_ix_i
$$
は連続関数であるから、ボレル可測である。
また、
$$
(X_1,\ldots,X_n):(\Omega,\mathcal F)\to(\mathbb R^n,\mathcal B(\mathbb R^n))
$$
は可測写像である。
したがって、
$$
S=g(X_1,\ldots,X_n)
$$
は実数値確率変数である。
$ $ - $S$ のモーメント母関数を計算する。
$t\in\mathbb R$ を任意に固定する。このとき、
$$
\begin{align}
e^{tS}
&=
\exp\left(
t\sum_{i=1}^{n}c_iX_i
\right)\\
&=
\exp\left(
\sum_{i=1}^{n}tc_iX_i
\right)\\
&=
\prod_{i=1}^{n}\exp(tc_iX_i)\\
&=
\prod_{i=1}^{n}e^{tc_iX_i}
\end{align}
$$
である。
各 $i=1,\ldots,n$ に対して、写像
$$
f_i:\mathbb R\to\mathbb R,
\quad
f_i(x):=e^{tc_ix}
$$
は連続関数であるから、ボレル可測である。
$X_1,\ldots,X_n$ は独立であるから、独立性はボレル可測変換で保たれることより、
$$
e^{tc_1X_1},\ldots,e^{tc_nX_n}
$$
も独立である(補足を参照)。
また、各 $i=1,\ldots,n$ について、
$$
X_i\sim\mathcal N(\mu_i,\sigma_i^2)
$$
であるから、正規分布のモーメント母関数の公式より、任意の $s\in\mathbb R$ に対して、
$$
M_{X_i}(s)
=
\mathbb E[e^{sX_i}]
=
\exp\left(
\mu_is+\frac{1}{2}\sigma_i^2s^2
\right)
$$
である。
特に、$s=c_it$ とすれば、
$$
\mathbb E[e^{tc_iX_i}]
=
M_{X_i}(c_it)
<
\infty
$$
である(証明済み)。
したがって、独立な非負確率変数の積の期待値の公式(
証明はコチラ
)より、
$$
\mathbb E\left[
\prod_{i=1}^{n}e^{tc_iX_i}
\right]
=
\prod_{i=1}^{n}\mathbb E[e^{tc_iX_i}]
<
\infty
$$
である。ゆえに、
$$
\mathbb E[e^{tS}]<\infty
$$
である。したがって、$M_S(t)$ は定義され、
$$
\begin{align}
M_S(t)
&=
\mathbb E[e^{tS}]\\
&=
\mathbb E\left[
\prod_{i=1}^{n}e^{tc_iX_i}
\right]\\
&=
\prod_{i=1}^{n}
\mathbb E[e^{tc_iX_i}]\\
&=
\prod_{i=1}^{n}
M_{X_i}(c_it)
\end{align}
$$
である。
ここで、各 $i=1,\ldots,n$ に対して、
$$
\begin{align}
M_{X_i}(c_it)
&=
\exp\left(
\mu_i(c_it)
+
\frac{1}{2}\sigma_i^2(c_it)^2
\right)\\
&=
\exp\left(
c_i\mu_i t
+
\frac{1}{2}c_i^2\sigma_i^2t^2
\right)
\end{align}
$$
である。よって、
$$
\begin{align}
M_S(t)
&=
\prod_{i=1}^{n}
\exp\left(
c_i\mu_i t
+
\frac{1}{2}c_i^2\sigma_i^2t^2
\right)\\
&=
\exp\left(
\sum_{i=1}^{n}
\left(
c_i\mu_i t
+
\frac{1}{2}c_i^2\sigma_i^2t^2
\right)
\right)\\
&=
\exp\left(
\left(\sum_{i=1}^{n}c_i\mu_i\right)t
+
\frac{1}{2}
\left(\sum_{i=1}^{n}c_i^2\sigma_i^2\right)t^2
\right)
\end{align}
$$
である。ここで、
$$
\mu:=\sum_{i=1}^{n}c_i\mu_i,
\quad
\tau^2:=\sum_{i=1}^{n}c_i^2\sigma_i^2
$$
とおく。
仮定より、
$$
\tau^2>0
$$
である。
したがって、任意の $t\in\mathbb R$ に対して、
$$
M_S(t)
=
\exp\left(
\mu t+\frac{1}{2}\tau^2t^2
\right)
$$
である。
$ $ - モーメント母関数の一意性を用いる。
$\mathbb R$ 上の正規分布 $\mathcal N(\mu,\tau^2)$ を考え、この分布に従う実数値確率変数 $Z$ をとる。
正規分布のモーメント母関数の公式より、任意の $t\in\mathbb R$ に対して、
$$
M_Z(t)
=
\exp\left(
\mu t+\frac{1}{2}\tau^2t^2
\right)
$$
である(証明済み)。
ゆえに、任意の $t\in\mathbb R$ に対して、
$$
M_S(t)=M_Z(t)
$$
である。
特に、$M_S$ と $M_Z$ は $0$ の近傍で有限に存在し、その近傍で一致する。
モーメント母関数が $0$ の近傍で有限に存在し、その近傍で一致するならば、対応する分布は一致する。
したがって、
$$
S\overset{d}{=}Z
$$
である。
$Z\sim\mathcal N(\mu,\tau^2)$ であったから、
$$
S\sim\mathcal N(\mu,\tau^2)
$$
である。
-すなわち、
$$
\sum_{i=1}^{n}c_iX_i
\sim
\mathcal N\left(
\sum_{i=1}^{n}c_i\mu_i,
\sum_{i=1}^{n}c_i^2\sigma_i^2
\right)
$$
である。
$$ \Box$$
独立性はボレル可測変換で保たれる
$X_1,\ldots,X_n$ を独立な実数値確率変数とし、$f_1,\ldots,f_n:\mathbb R\to\mathbb R$ をボレル可測関数とする。
このとき、
$$
f_1(X_1),\ldots,f_n(X_n)
$$
は独立である。
実際、任意の $B_1,\ldots,B_n\in\mathcal B(\mathbb R)$ に対して、各 $f_i$ のボレル可測性より、
$$
f_i^{-1}(B_i)\in\mathcal B(\mathbb R)
\quad
(i=1,\ldots,n)
$$
である。
また、
$$
\{f_i(X_i)\in B_i\}
=
\{X_i\in f_i^{-1}(B_i)\}
\quad
(i=1,\ldots,n)
$$
である。
したがって、$X_1,\ldots,X_n$ の独立性より、
$$
\begin{align}
\mathbb P\left(
\bigcap_{i=1}^{n}\{f_i(X_i)\in B_i\}
\right)
&=
\mathbb P\left(
\bigcap_{i=1}^{n}\{X_i\in f_i^{-1}(B_i)\}
\right)\\
&=
\prod_{i=1}^{n}
\mathbb P(X_i\in f_i^{-1}(B_i))\\
&=
\prod_{i=1}^{n}
\mathbb P(f_i(X_i)\in B_i)
\end{align}
$$
である。
よって、$f_1(X_1),\ldots,f_n(X_n)$ は独立である。
$$ \Box$$
正規分布に従う独立同分布な確率変数の標本平均
$n\in\mathbb N$ とする。ただし、$n\geq1$ とする。$(\Omega,\mathcal F,\mathbb P)$ を確率空間とし、
$$
X_1,\ldots,X_n:(\Omega,\mathcal F)\to(\mathbb R,\mathcal B(\mathbb R))
$$
を実数値確率変数とする。
$\mu\in\mathbb R$、$\sigma>0$ とし、$X_1,\ldots,X_n$ は独立であり、任意の $i=1,\ldots,n$ に対して、
$$
X_i\sim\mathcal N(\mu,\sigma^2)
$$
であるとする。標本平均を
$$
\overline X_n
:=
\frac{1}{n}\sum_{i=1}^{n}X_i
$$
で定める。
このとき、
$$
\overline X_n
\sim
\mathcal N\left(\mu,\frac{\sigma^2}{n}\right)
$$
である。
この命題は統計学上、基本的かつ重要と思われるので取り上げた。
証明は$1$つ前に示した「独立な正規分布の線形結合」からも導ける系(補足を参照)である。
しかし、ここでは主題に沿ってモーメント母関数で示そう。
- $\overline X_n$ が実数値確率変数であることを確認する。
各 $X_i$ は実数値確率変数であり、有限和と定数倍によって可測性は保たれる。したがって、
$$
\overline X_n
=
\frac{1}{n}\sum_{i=1}^{n}X_i
$$
は実数値確率変数である。
$ $ - $\overline X_n$ のモーメント母関数を計算する。
$t\in\mathbb R$ を任意に固定する。
標本平均の定義より、
$$
\overline X_n
=
\frac{1}{n}\sum_{i=1}^{n}X_i
$$
である。したがって、
$$
\begin{align}
e^{t\overline X_n}
&=
\exp\left(
t\cdot\frac{1}{n}\sum_{i=1}^{n}X_i
\right)\\
&=
\exp\left(
\sum_{i=1}^{n}\frac{t}{n}X_i
\right)\\
&=
\prod_{i=1}^{n}
\exp\left(
\frac{t}{n}X_i
\right)\\
&=
\prod_{i=1}^{n}e^{\frac{t}{n}X_i}
\end{align}
$$
である。
ここで、写像
$$
f_t(x):=e^{\frac{t}{n}x}
\quad
(x\in\mathbb R)
$$
は $\mathbb R$ 上の連続関数であるから、ボレル可測である。
$X_1,\ldots,X_n$ は独立であるから、独立性はボレル可測変換で保たれることより、
$$
e^{\frac{t}{n}X_1},\ldots,e^{\frac{t}{n}X_n}
$$
も独立である。
また、各 $i=1,\ldots,n$ について、
$$
X_i\sim\mathcal N(\mu,\sigma^2)
$$
であるから、正規分布のモーメント母関数の公式より、任意の $s\in\mathbb R$ に対して、
$$
M_{X_i}(s)
=
\mathbb E[e^{sX_i}]
=
\exp\left(
\mu s+\frac{1}{2}\sigma^2s^2
\right)
$$
である(証明済み)。
特に、$s=\frac{t}{n}$ とすれば、
$$
\mathbb E\left[e^{\frac{t}{n}X_i}\right]
=
M_{X_i}\left(\frac{t}{n}\right)
<
\infty
$$
である。
したがって、独立な非負確率変数の積の期待値の公式(
証明はコチラ
)より、
$$
\mathbb E\left[
\prod_{i=1}^{n}e^{\frac{t}{n}X_i}
\right]
=
\prod_{i=1}^{n}
\mathbb E\left[
e^{\frac{t}{n}X_i}
\right]
<
\infty
$$
である。ゆえに、
$$
\mathbb E[e^{t\overline X_n}]<\infty
$$
である。したがって、$M_{\overline X_n}(t)$ は定義され、
$$
\begin{align}
M_{\overline X_n}(t)
&=
\mathbb E[e^{t\overline X_n}]\\
&=
\mathbb E\left[
\prod_{i=1}^{n}e^{\frac{t}{n}X_i}
\right]\\
&=
\prod_{i=1}^{n}
\mathbb E\left[
e^{\frac{t}{n}X_i}
\right]\\
&=
\prod_{i=1}^{n}
M_{X_i}\left(\frac{t}{n}\right)
\end{align}
$$
である。
ここで、任意の $i=1,\ldots,n$ に対して $X_i\sim\mathcal N(\mu,\sigma^2)$ であるから、
$$
\begin{align}
M_{X_i}\left(\frac{t}{n}\right)
&=
\exp\left(
\mu\frac{t}{n}
+
\frac{1}{2}\sigma^2\left(\frac{t}{n}\right)^2
\right)\\
&=
\exp\left(
\frac{\mu t}{n}
+
\frac{\sigma^2t^2}{2n^2}
\right)
\end{align}
$$
である。したがって、
$$
\begin{align}
M_{\overline X_n}(t)
&=
\prod_{i=1}^{n}
\exp\left(
\frac{\mu t}{n}
+
\frac{\sigma^2t^2}{2n^2}
\right)\\
&=
\left[
\exp\left(
\frac{\mu t}{n}
+
\frac{\sigma^2t^2}{2n^2}
\right)
\right]^n\\
&=
\exp\left(
n\left(
\frac{\mu t}{n}
+
\frac{\sigma^2t^2}{2n^2}
\right)
\right)\\
&=
\exp\left(
\mu t
+
\frac{\sigma^2t^2}{2n}
\right)\\
&=
\exp\left(
\mu t
+
\frac{1}{2}\frac{\sigma^2}{n}t^2
\right)
\end{align}
$$
である。ここで、
$$
\sigma_n^2:=\frac{\sigma^2}{n}
$$
とおく。
$n\geq1$ かつ $\sigma>0$ より、
$$
\sigma_n^2=\frac{\sigma^2}{n}>0
$$
である。
したがって、任意の $t\in\mathbb R$ に対して、
$$
M_{\overline X_n}(t)
=
\exp\left(
\mu t+\frac{1}{2}\sigma_n^2t^2
\right)
$$
である。
$ $ - モーメント母関数の一意性を用いる。
$\mathbb R$ 上の正規分布 $\mathcal N(\mu,\sigma_n^2)$ を考え、この分布に従う実数値確率変数 $Z$ をとる。
正規分布のモーメント母関数の公式より、任意の $t\in\mathbb R$ に対して、
$$
M_Z(t)
=
\exp\left(
\mu t+\frac{1}{2}\sigma_n^2t^2
\right)
$$
である。
ゆえに、任意の $t\in\mathbb R$ に対して、
$$
M_{\overline X_n}(t)=M_Z(t)
$$
である。
特に、$M_{\overline X_n}$ と $M_Z$ は $0$ の近傍で有限に存在し、その近傍で一致する。
モーメント母関数が $0$ の近傍で有限に存在し、その近傍で一致するならば、対応する分布は一致する。
したがって、
$$
\overline X_n\overset{d}{=}Z
$$
である。
$Z\sim\mathcal N(\mu,\sigma_n^2)$ であったから、
$$
\overline X_n
\sim
\mathcal N(\mu,\sigma_n^2)
$$
である。
-すなわち、
$$
\overline X_n
\sim
\mathcal N\left(\mu,\frac{\sigma^2}{n}\right)
$$
である。
$$ \Box$$
独立な正規分布の線形結合による別証明
各 $i=1,\ldots,n$ に対して、
$$
c_i:=\frac{1}{n}
$$
とおく。
このとき、標本平均の定義より、
$$
\overline X_n
=
\frac{1}{n}\sum_{i=1}^{n}X_i
=
\sum_{i=1}^{n}\frac{1}{n}X_i
=
\sum_{i=1}^{n}c_iX_i
$$
である。
また、任意の $i=1,\ldots,n$ に対して、
$$
X_i\sim\mathcal N(\mu,\sigma^2)
$$
であるから、命題「独立な正規分布の線形結合」において、
$$
\mu_i:=\mu,
\quad
\sigma_i:=\sigma,
\quad
c_i:=\frac{1}{n}
$$
とおけばよい。
このとき、$n\geq1$ であり、$\sigma>0$ であるから、
$$
\begin{align}
\sum_{i=1}^{n}c_i^2\sigma_i^2
&=
\sum_{i=1}^{n}
\left(\frac{1}{n}\right)^2\sigma^2\\
&=
n\cdot\frac{1}{n^2}\sigma^2\\
&=
\frac{\sigma^2}{n}\\
&>
0
\end{align}
$$
である。したがって、命題「独立な正規分布の線形結合」の仮定はすべて満たされる。
よって、命題「独立な正規分布の線形結合」より、
$$
\sum_{i=1}^{n}c_iX_i
\sim
\mathcal N\left(
\sum_{i=1}^{n}c_i\mu_i,
\sum_{i=1}^{n}c_i^2\sigma_i^2
\right)
$$
である。
ここで、平均パラメータは
$$
\begin{align}
\sum_{i=1}^{n}c_i\mu_i
&=
\sum_{i=1}^{n}\frac{1}{n}\mu\\
&=
n\cdot\frac{1}{n}\mu\\
&=
\mu
\end{align}
$$
である。
また、分散パラメータは
$$
\begin{align}
\sum_{i=1}^{n}c_i^2\sigma_i^2
&=
\sum_{i=1}^{n}
\left(\frac{1}{n}\right)^2\sigma^2\\
&=
n\cdot\frac{1}{n^2}\sigma^2\\
&=
\frac{\sigma^2}{n}
\end{align}
$$
である。
したがって、
$$
\sum_{i=1}^{n}c_iX_i
\sim
\mathcal N\left(
\mu,
\frac{\sigma^2}{n}
\right)
$$
である。
さらに、
$$
\sum_{i=1}^{n}c_iX_i
=
\overline X_n
$$
であるから、
$$
\overline X_n
\sim
\mathcal N\left(
\mu,
\frac{\sigma^2}{n}
\right)
$$
である。
$$ \Box$$
独立性はボレル可測変換で保たれる
$X_1,\ldots,X_n$ を独立な実数値確率変数とし、$g:\mathbb R\to\mathbb R$ をボレル可測関数とする。
このとき、
$$
g(X_1),\ldots,g(X_n)
$$
は独立である。
実際、任意の $B_1,\ldots,B_n\in\mathcal B(\mathbb R)$ に対して、$g$ のボレル可測性より、
$$
g^{-1}(B_i)\in\mathcal B(\mathbb R)
\quad
(i=1,\ldots,n)
$$
である。
また、
$$
\{g(X_i)\in B_i\}
=
\{X_i\in g^{-1}(B_i)\}
\quad
(i=1,\ldots,n)
$$
である。
したがって、$X_1,\ldots,X_n$ の独立性より、
$$
\begin{align}
\mathbb P\left(
\bigcap_{i=1}^{n}\{g(X_i)\in B_i\}
\right)
&=
\mathbb P\left(
\bigcap_{i=1}^{n}\{X_i\in g^{-1}(B_i)\}
\right)\\
&=
\prod_{i=1}^{n}
\mathbb P(X_i\in g^{-1}(B_i))\\
&=
\prod_{i=1}^{n}
\mathbb P(g(X_i)\in B_i)
\end{align}
$$
である。
よって、$g(X_1),\ldots,g(X_n)$ は独立である。
$$ \Box$$
独立な正規標本平均の差の分布
$(\Omega,\mathcal F,\mathbb P)$ を確率空間とする。$\mu_1,\mu_2\in\mathbb R$、$\sigma>0$、$n_1,n_2\in\mathbb N$ とする。
$\overline X_1,\overline X_2$ を実数値確率変数とし、
$$
\overline X_1\sim\mathcal N\left(\mu_1,\frac{\sigma^2}{n_1}\right),
\quad
\overline X_2\sim\mathcal N\left(\mu_2,\frac{\sigma^2}{n_2}\right)
$$
を満たすとする。
さらに、$\overline X_1$ と $\overline X_2$ は独立であるとする。
このとき、
$$
D:=\overline X_1-\overline X_2
$$
とおけば、
$$
D
\sim
\mathcal N\left(
\mu_1-\mu_2,
\sigma^2\left(\frac{1}{n_1}+\frac{1}{n_2}\right)
\right)
$$
である。
本命題も既に示した「独立な正規分布の線形結合」の命題を示しているならば、この結果はその特別な場合として直ちに従う(補足を参照)。
まずは主題に沿ってモーメント母関数で示す。
- $D$ が実数値確率変数であることを確認する。
実数値確率変数 $\overline X_1,\overline X_2$ について
$$
D:=\overline X_1-\overline X_2
$$
とおく。
写像 $g:\mathbb R^2\to\mathbb R$ を
$$
g(x,y):=x-y
$$
で定める。
$g$ は連続関数であるから、ボレル可測である。
また、$\overline X_1,\overline X_2$ は実数値確率変数であるから、
$$
(\overline X_1,\overline X_2):(\Omega,\mathcal F)\to(\mathbb R^2,\mathcal B(\mathbb R^2))
$$
は可測写像である。
したがって、
$$
D=g(\overline X_1,\overline X_2)
$$
は実数値確率変数である。
$ $ - $D$ のモーメント母関数を計算する。
$t\in\mathbb R$ を任意に固定する。
このとき、
$$
e^{tD}
=
e^{t(\overline X_1-\overline X_2)}
=
e^{t\overline X_1}e^{-t\overline X_2}
$$
である。いま、写像
$$
f_t(x):=e^{tx},
\quad
h_t(x):=e^{-tx}
$$
はともに $\mathbb R$ 上の連続関数であるから、ボレル可測である。
$\overline X_1$ と $\overline X_2$ は独立であるから、独立性はボレル可測変換で保たれることより、
$$
e^{t\overline X_1}
\quad\text{と}\quad
e^{-t\overline X_2}
$$
も独立である。
また、
$$
\overline X_1\sim\mathcal N\left(\mu_1,\frac{\sigma^2}{n_1}\right),
\quad
\overline X_2\sim\mathcal N\left(\mu_2,\frac{\sigma^2}{n_2}\right)
$$
であるから、正規分布のモーメント母関数の公式より、
$$
\mathbb E[e^{t\overline X_1}]<\infty,
\quad
\mathbb E[e^{-t\overline X_2}]<\infty
$$
である(証明済み)。
したがって、独立な非負確率変数の積の期待値の公式(
証明はコチラ
)より、
$$
\mathbb E[e^{tD}]
=
\mathbb E[e^{t\overline X_1}e^{-t\overline X_2}]
=
\mathbb E[e^{t\overline X_1}]\mathbb E[e^{-t\overline X_2}]
<
\infty
$$
である。
ゆえに、$M_D(t)$ は定義され、
$$
\begin{align}
M_D(t)
&=
\mathbb E[e^{tD}]\\
&=
\mathbb E[e^{t\overline X_1}e^{-t\overline X_2}]\\
&=
\mathbb E[e^{t\overline X_1}]\mathbb E[e^{-t\overline X_2}]\\
&=
M_{\overline X_1}(t)M_{\overline X_2}(-t)
\end{align}
$$
である。まず、
$$
\overline X_1\sim\mathcal N\left(\mu_1,\frac{\sigma^2}{n_1}\right)
$$
であるから、
$$
M_{\overline X_1}(t)
=
\exp\left(
\mu_1t+\frac{1}{2}\frac{\sigma^2}{n_1}t^2
\right)
$$
である。また、
$$
\overline X_2\sim\mathcal N\left(\mu_2,\frac{\sigma^2}{n_2}\right)
$$
であるから、
$$
\begin{align}
M_{\overline X_2}(-t)
&=
\exp\left(
\mu_2(-t)+\frac{1}{2}\frac{\sigma^2}{n_2}(-t)^2
\right)\\
&=
\exp\left(
-\mu_2t+\frac{1}{2}\frac{\sigma^2}{n_2}t^2
\right)
\end{align}
$$
である。
したがって、
$$
\begin{align}
M_D(t)
&=
M_{\overline X_1}(t)M_{\overline X_2}(-t)\\
&=
\exp\left(
\mu_1t+\frac{1}{2}\frac{\sigma^2}{n_1}t^2
\right)
\exp\left(
-\mu_2t+\frac{1}{2}\frac{\sigma^2}{n_2}t^2
\right)\\
&=
\exp\left(
(\mu_1-\mu_2)t
+
\frac{1}{2}\sigma^2
\left(
\frac{1}{n_1}+\frac{1}{n_2}
\right)t^2
\right)
\end{align}
$$
である。ここで、
$$
m:=\mu_1-\mu_2,
\quad
s^2:=\sigma^2\left(\frac{1}{n_1}+\frac{1}{n_2}\right)
$$
とおく。
$\sigma>0$、$n_1,n_2\in\mathbb N$ より、
$$
s^2
=
\sigma^2\left(\frac{1}{n_1}+\frac{1}{n_2}\right)>0
$$
である。
ゆえに、任意の $t\in\mathbb R$ に対して、
$$
M_D(t)
=
\exp\left(
mt+\frac{1}{2}s^2t^2
\right)
$$
である。
$ $ - モーメント母関数の一意性を用いる。
$\mathbb R$ 上の正規分布 $\mathcal N(m,s^2)$ を考え、この分布に従う実数値確率変数 $Z$ をとる。
正規分布のモーメント母関数の公式より、任意の $t\in\mathbb R$ に対して、
$$
M_Z(t)
=
\exp\left(
mt+\frac{1}{2}s^2t^2
\right)
$$
である。
したがって、任意の $t\in\mathbb R$ に対して、
$$
M_D(t)=M_Z(t)
$$
である。
特に、$M_D$ と $M_Z$ は $0$ の近傍で有限に存在し、その近傍で一致する。
モーメント母関数が $0$ の近傍で有限に存在し、その近傍で一致するならば、対応する分布は一致する。
したがって、
$$
D\overset{d}{=}Z
$$
である。
$Z\sim\mathcal N(m,s^2)$ であったから、
$$
D\sim\mathcal N(m,s^2)
$$
である。
-すなわち、
$$
D
\sim
\mathcal N\left(
\mu_1-\mu_2,
\sigma^2\left(\frac{1}{n_1}+\frac{1}{n_2}\right)
\right)
$$
である。
$$ \Box$$
独立な正規分布の線形結合による見方
上の証明では、$D$ のモーメント母関数を直接計算した。
一方で、すでに「独立な正規分布の線形結合」の命題を示しているならば、この結果はその特別な場合として直ちに従う。
実際、
$$
D
=
\overline X_1-\overline X_2
=
1\cdot\overline X_1+(-1)\cdot\overline X_2
$$
である。
ここで、
$$
\overline X_1\sim\mathcal N\left(\mu_1,\frac{\sigma^2}{n_1}\right),
\quad
\overline X_2\sim\mathcal N\left(\mu_2,\frac{\sigma^2}{n_2}\right)
$$
であり、$\overline X_1$ と $\overline X_2$ は独立である。したがって、独立な正規分布の線形結合の命題を
$$
c_1:=1,
\quad
c_2:=-1
$$
として適用できる。
平均パラメータは
$$
\begin{align}
c_1\mu_1+c_2\mu_2
&=
1\cdot\mu_1+(-1)\cdot\mu_2\\
&=
\mu_1-\mu_2
\end{align}
$$
である。
また、分散パラメータは、係数の二乗が現れるので、
$$
\begin{align}
c_1^2\frac{\sigma^2}{n_1}
+
c_2^2\frac{\sigma^2}{n_2}
&=
1^2\frac{\sigma^2}{n_1}
+
(-1)^2\frac{\sigma^2}{n_2}\\
&=
\frac{\sigma^2}{n_1}
+
\frac{\sigma^2}{n_2}\\
&=
\sigma^2\left(\frac{1}{n_1}+\frac{1}{n_2}\right)
\end{align}
$$
である。
よって、
$$
D
=
\overline X_1-\overline X_2
\sim
\mathcal N\left(
\mu_1-\mu_2,
\sigma^2\left(\frac{1}{n_1}+\frac{1}{n_2}\right)
\right)
$$
である。
このように、差を「係数 $1$ と $-1$ をもつ線形結合」と見れば、分散で符号が消えて和になる理由も明確である。
独立性はボレル可測変換で保たれる
$X,Y$ を独立な実数値確率変数とし、$f,g:\mathbb R\to\mathbb R$ をボレル可測関数とする。
このとき、$f(X)$ と $g(Y)$ は独立である。
実際、任意の $A,B\in\mathcal B(\mathbb R)$ に対して、$f,g$ のボレル可測性より、
$$
f^{-1}(A)\in\mathcal B(\mathbb R),
\quad
g^{-1}(B)\in\mathcal B(\mathbb R)
$$
である。
また、
$$
\{f(X)\in A\}
=
\{X\in f^{-1}(A)\},
\quad
\{g(Y)\in B\}
=
\{Y\in g^{-1}(B)\}
$$
である。
したがって、$X$ と $Y$ の独立性より、
$$
\begin{align}
\mathbb P(f(X)\in A,\ g(Y)\in B)
&=
\mathbb P(X\in f^{-1}(A),\ Y\in g^{-1}(B))\\
&=
\mathbb P(X\in f^{-1}(A))\mathbb P(Y\in g^{-1}(B))\\
&=
\mathbb P(f(X)\in A)\mathbb P(g(Y)\in B)
\end{align}
$$
である。
よって、$f(X)$ と $g(Y)$ は独立である。
$$ \Box$$