【確率空間】確率の基本的な性質 まとめ

Def.

Prop & Proof

1. 任意に $x\in\Omega$ をとる。このとき、
   $$ \begin{aligned} x\in\left(\bigcup_{n=1}^{\infty} A_n\right)^c &\Leftrightarrow x\notin\bigcup_{n=1}^{\infty} A_n \\ &\Leftrightarrow \neg\bigl(\exists n\in\mathbb N_{>0}\ \ x\in A_n\bigr) \\ &\Leftrightarrow \forall n\in\mathbb N_{>0}\ \ x\notin A_n \\ &\Leftrightarrow \forall n\in\mathbb N_{>0}\ \ x\in A_n^c \\ &\Leftrightarrow x\in\bigcap_{n=1}^{\infty} A_n^c \end{aligned} $$
   したがって、任意の $x\in\Omega$ に対して
   $$ x\in\left(\bigcup_{n=1}^{\infty} A_n\right)^c \Leftrightarrow x\in\bigcap_{n=1}^{\infty} A_n^c $$
   が成り立つ。
   集合の外延性より、
   $$ \left(\bigcup_{n=1}^{\infty} A_n\right)^c = \bigcap_{n=1}^{\infty} A_n^c $$
   を得る。
   $ $
2. 任意に $x\in\Omega$ をとる。このとき、
   $$ \begin{aligned} x\in\left(\bigcap_{n=1}^{\infty} A_n\right)^c &\Leftrightarrow x\notin\bigcap_{n=1}^{\infty} A_n \\ &\Leftrightarrow \neg\bigl(\forall n\in\mathbb N_{>0}\ \ x\in A_n\bigr) \\ &\Leftrightarrow \exists n\in\mathbb N_{>0}\ \ x\notin A_n \\ &\Leftrightarrow \exists n\in\mathbb N_{>0}\ \ x\in A_n^c \\ &\Leftrightarrow x\in\bigcup_{n=1}^{\infty} A_n^c \end{aligned} $$
   したがって、任意の $x\in\Omega$ に対して
   $$ x\in\left(\bigcap_{n=1}^{\infty} A_n\right)^c \Leftrightarrow x\in\bigcup_{n=1}^{\infty} A_n^c $$
   が成り立つ。
   集合の外延性より、
   $$ \left(\bigcap_{n=1}^{\infty} A_n\right)^c = \bigcup_{n=1}^{\infty} A_n^c $$
   を得る。

-以上より、$1$ と $2$ が成り立つ。
$$ \Box$$

$\mathcal F$ は $\Omega$ 上の $\sigma$-代数であるから、$\Omega\in\mathcal F$ である。また、$\mathcal F$ は補集合に関して閉じているので、
$$ \varnothing=\Omega^c\in\mathcal F $$
である。
各 $n\in\mathbb N_{>0}$ に対して
$$ A_n:=\varnothing $$
とおく。このとき、各 $n\in\mathbb N_{>0}$ に対して $A_n\in\mathcal F$ である。
また、任意の $i,j\in\mathbb N_{>0}$ について、$i\neq j$ ならば、
$$ A_i\cap A_j=\varnothing\cap\varnothing=\varnothing $$
である。したがって、列 $(A_n)_{n\in\mathbb N_{>0}}$ は互いに排反である。
さらに、
$$ \bigcup_{n=1}^{\infty}A_n=\varnothing $$
が成り立つ。
よって、確率測度の可算加法性より、
$$ \mathbb P(\varnothing) = \mathbb P\Bigl(\bigcup_{n=1}^{\infty}A_n\Bigr) = \sum_{n=1}^{\infty}\mathbb P(A_n) = \sum_{n=1}^{\infty}\mathbb P(\varnothing) $$
を得る。
ここで、
$$ p:=\mathbb P(\varnothing) $$
とおく。確率測度は $\mathbb P:\mathcal F\to[0,1]$ であるから、
$$ p\in[0,1] $$
である。上の等式は
$$ p=\sum_{n=1}^{\infty}p $$
と書ける。
もし $p>0$ ならば、
$$ \sum_{n=1}^{\infty}p=+\infty $$
となる。しかし、左辺の $p$ は $[0,1]$ の元なので有限である。これは矛盾である。
したがって、$p>0$ ではない。一方で、$p\in[0,1]$ であるから $p\ge0$ である。ゆえに、
$$ p=0 $$
である。
すなわち、
$$ \mathbb P(\varnothing)=0 $$
が成り立つ。
$$ \Box$$

$A,B\in\mathcal F$ が
$$ A\cap B=\varnothing $$
を満たしているとする。
$\mathcal F$ は $\Omega$ 上の $\sigma$-代数であるから、$\Omega\in\mathcal F$ である。また、$\mathcal F$ は補集合に関して閉じているので、
$$ \varnothing=\Omega^c\in\mathcal F $$
である。
各 $n\in\mathbb N_{>0}$ に対して
$$ A_1:=A,\qquad A_2:=B,\qquad A_n:=\varnothing\quad(n\ge 3) $$
と定める。
このとき、$A,B\in\mathcal F$ であり、また $\varnothing\in\mathcal F$ であるから、各 $n\in\mathbb N_{>0}$ に対して
$$ A_n\in\mathcal F $$
が成り立つ。
次に、列 $(A_n)_{n\in\mathbb N_{>0}}$ が互いに排反であることを示す。
任意に $i,j\in\mathbb N_{>0}$ をとり、$i\neq j$ とする。
$i,j\in\{1,2\}$ ならば、$(i,j)=(1,2)$ または $(i,j)=(2,1)$ である。したがって、仮定より
$$ A_i\cap A_j=A\cap B=\varnothing $$
または
$$ A_i\cap A_j=B\cap A=A\cap B=\varnothing $$
である。
一方、$i,j$ の少なくとも一方が $3$ 以上ならば、$A_i$ または $A_j$ の少なくとも一方は $\varnothing$ である。したがって、
$$ A_i\cap A_j=\varnothing $$
である。
以上より、任意の $i,j\in\mathbb N_{>0}$ について
$$ i\neq j\ \Rightarrow\ A_i\cap A_j=\varnothing $$
が成り立つ。したがって、列 $(A_n)_{n\in\mathbb N_{>0}}$ は互いに排反である。
さらに、$n\ge 3$ ならば $A_n=\varnothing$ であるから、
$$ \bigcup_{n=1}^{\infty}A_n=A_1\cup A_2=A\cup B $$
が成り立つ。
よって、確率測度の可算加法性より、
$$ \mathbb P(A\cup B) = \mathbb P\Bigl(\bigcup_{n=1}^{\infty}A_n\Bigr) = \sum_{n=1}^{\infty}\mathbb P(A_n) $$
を得る。
ここで、$A_1=A,\ A_2=B,\ A_n=\varnothing\ (n\ge 3)$ であるから、
$$ \sum_{n=1}^{\infty}\mathbb P(A_n) = \mathbb P(A)+\mathbb P(B)+\sum_{n=3}^{\infty}\mathbb P(\varnothing) $$
である。
すでに示したように、
$$ \mathbb P(\varnothing)=0 $$
であるから、
$$ \sum_{n=3}^{\infty}\mathbb P(\varnothing) = \sum_{n=3}^{\infty}0 = 0 $$
である。
したがって、
$$ \mathbb P(A\cup B) = \mathbb P(A)+\mathbb P(B) $$
が成り立つ。
$$ \Box$$

次の $3$ つの集合を定める。
$$ C_1:=A\setminus B,\qquad C_2:=A\cap B,\qquad C_3:=B\setminus A $$

1. まず、$C_1,C_2,C_3\in\mathcal F$ であることを示す。
   $\mathcal F$ は $\Omega$ 上の $\sigma$-代数であるから、補集合と有限回の共通部分に関して閉じている。
   ここで、
   $$ A^c:=\Omega\setminus A,\qquad B^c:=\Omega\setminus B $$
   とおくと、
   $$ C_1=A\cap B^c,\qquad C_2=A\cap B,\qquad C_3=B\cap A^c $$
   である。
   $A,B\in\mathcal F$ であるから、$A^c,B^c\in\mathcal F$ である。さらに、$\mathcal F$ は有限回の共通部分に関して閉じているので、
   $$ C_1,C_2,C_3\in\mathcal F $$
   が従う。
   $ $
2. 次に、
   $$ A=C_1\cup C_2,\qquad B=C_2\cup C_3,\qquad A\cup B=C_1\cup C_2\cup C_3 $$
   が成り立つことを示す。
   $ $
   まず、$A=C_1\cup C_2$ を示す。
   任意に $x\in A$ をとる。
   $x\in B$ ならば、$x\in A\cap B=C_2$ である。
   $x\notin B$ ならば、$x\in A\setminus B=C_1$ である。
   したがって、$x\in C_1\cup C_2$ である。ゆえに、
   $$ A\subseteq C_1\cup C_2 $$
   である。
   $ $
   逆に、任意に $x\in C_1\cup C_2$ をとる。
   $x\in C_1$ ならば、$C_1=A\setminus B$ より $x\in A$ である。
   $x\in C_2$ ならば、$C_2=A\cap B$ より $x\in A$ である。
   したがって、$x\in A$ である。ゆえに、
   $$ C_1\cup C_2\subseteq A $$
   である。
   $ $
   以上より、
   $$ A=C_1\cup C_2 $$
   が成り立つ。
   $ $
   同様にして、
   $$ B=C_2\cup C_3 $$
   が成り立つことを示す。
   任意に $x\in B$ をとる。
   $x\in A$ ならば、$x\in A\cap B=C_2$ である。
   $x\notin A$ ならば、$x\in B\setminus A=C_3$ である。
   したがって、$x\in C_2\cup C_3$ である。ゆえに、
   $$ B\subseteq C_2\cup C_3 $$
   である。
   $ $
   逆に、任意に $x\in C_2\cup C_3$ をとる。
   $x\in C_2$ ならば、$C_2=A\cap B$ より $x\in B$ である。
   $x\in C_3$ ならば、$C_3=B\setminus A$ より $x\in B$ である。
   したがって、$x\in B$ である。ゆえに、
   $$ C_2\cup C_3\subseteq B $$
   である。
   $ $
   以上より、
   $$ B=C_2\cup C_3 $$
   が成り立つ。
   $ $
   次に、$A\cup B=C_1\cup C_2\cup C_3$ を示す。
   任意に $x\in A\cup B$ をとる。
   $x\in A$ かつ $x\in B$ ならば、$x\in A\cap B=C_2$ である。
   $x\in A$ かつ $x\notin B$ ならば、$x\in A\setminus B=C_1$ である。
   $x\notin A$ かつ $x\in B$ ならば、$x\in B\setminus A=C_3$ である。
   したがって、
   $$ x\in C_1\cup C_2\cup C_3 $$
   である。ゆえに、
   $$ A\cup B\subseteq C_1\cup C_2\cup C_3 $$
   である。
   $ $
   逆に、任意に $x\in C_1\cup C_2\cup C_3$ をとる。
   $x\in C_1$ ならば、$x\in A\setminus B$ なので $x\in A\subseteq A\cup B$ である。
   $x\in C_2$ ならば、$x\in A\cap B$ なので $x\in A\cup B$ である。
   $x\in C_3$ ならば、$x\in B\setminus A$ なので $x\in B\subseteq A\cup B$ である。
   したがって、
   $$ x\in A\cup B $$
   である。ゆえに、
   $$ C_1\cup C_2\cup C_3\subseteq A\cup B $$
   である。
   $ $
   以上より、
   $$ A\cup B=C_1\cup C_2\cup C_3 $$
   が成り立つ。
   $ $
3. 次に、$C_1,C_2,C_3$ は互いに素であることを示す。
   $C_1\subseteq B^c$ かつ $C_2\subseteq B$ であるから、
   $$ C_1\cap C_2\subseteq B^c\cap B=\varnothing $$
   である。したがって、
   $$ C_1\cap C_2=\varnothing $$
   である。
   また、$C_2\subseteq A$ かつ $C_3\subseteq A^c$ であるから、
   $$ C_2\cap C_3\subseteq A\cap A^c=\varnothing $$
   である。したがって、
   $$ C_2\cap C_3=\varnothing $$
   である。
   さらに、$C_1\subseteq A$ かつ $C_3\subseteq A^c$ であるから、
   $$ C_1\cap C_3\subseteq A\cap A^c=\varnothing $$
   である。したがって、
   $$ C_1\cap C_3=\varnothing $$
   である。
   以上より、$C_1,C_2,C_3$ は互いに素である。
   $ $
4. 有限加法性を用いる。
   $A=C_1\cup C_2$ であり、$C_1\cap C_2=\varnothing$ であるから、
   $$ \mathbb P(A)=\mathbb P(C_1)+\mathbb P(C_2) $$
   である。
   また、$B=C_2\cup C_3$ であり、$C_2\cap C_3=\varnothing$ であるから、
   $$ \mathbb P(B)=\mathbb P(C_2)+\mathbb P(C_3) $$
   である。
   さらに、$A\cup B=C_1\cup C_2\cup C_3$ であり、$C_1,C_2,C_3$ は互いに素であるから、
   $$ \mathbb P(A\cup B)=\mathbb P(C_1)+\mathbb P(C_2)+\mathbb P(C_3) $$
   である。
   したがって、
   $$ \begin{aligned} \mathbb P(A)+\mathbb P(B)-\mathbb P(C_2) &= \{\mathbb P(C_1)+\mathbb P(C_2)\} + \{\mathbb P(C_2)+\mathbb P(C_3)\} - \mathbb P(C_2)\\ &= \mathbb P(C_1)+\mathbb P(C_2)+\mathbb P(C_3)\\ &= \mathbb P(A\cup B) \end{aligned} $$
   である。
   ゆえに、
   $$ \mathbb P(A\cup B)=\mathbb P(A)+\mathbb P(B)-\mathbb P(C_2) $$
   である。
   最後に、$C_2=A\cap B$ であるから、
   $$ \mathbb P(A\cup B)=\mathbb P(A)+\mathbb P(B)-\mathbb P(A\cap B) $$
   が従う。
   $$ \Box$$

$A,B\in\mathcal F$ かつ $A\subseteq B$ とする。

1. まず、$B\setminus A\in\mathcal F$ であることを示す。
   $A\in\mathcal F$ であるから、$\sigma$-代数の補集合についての閉性より、
   $$ A^c:=\Omega\setminus A\in\mathcal F $$
   が成り立つ。
   また、$B\in\mathcal F$ であり、$\mathcal F$ は有限回の共通部分について閉じているから、
   $$ B\setminus A=B\cap A^c\in\mathcal F $$
   である。
   $ $
2. 次に、
   $$ B=A\cup(B\setminus A) $$
   かつ
   $$ A\cap(B\setminus A)=\varnothing $$
   が成り立つことを示す。
   $ $
   ■ まず、
   $$ B=A\cup(B\setminus A) $$
   　 を示す。
   　 任意に $x\in B$ をとる。
   　 このとき、$x\in A$ または $x\notin A$ のいずれかである。
   　 i) $x\in A$ ならば、
   $$ x\in A\cup(B\setminus A) $$
   　 　である。
   　 ii) $x\notin A$ ならば、$x\in B$ かつ $x\notin A$ なので、
   $$ x\in B\setminus A $$
   　 である。したがって、
   $$ x\in A\cup(B\setminus A) $$
   　 である。
   　 ゆえに、
   $$ B\subseteq A\cup(B\setminus A) $$
   　 が成り立つ。
   $ $
   ■ 逆に、任意に $x\in A\cup(B\setminus A)$ をとる。
   　 $x\in A$ ならば、$A\subseteq B$ より、
   $$ x\in B $$
   　 である。
   　 $x\in B\setminus A$ ならば、定義より、
   $$ x\in B $$
   　 である。ゆえに、
   $$ A\cup(B\setminus A)\subseteq B $$
   　 が成り立つ。
   　 以上より、
   $$ B=A\cup(B\setminus A) $$
   　 を得る。
   $ $
   　 次に、
   $$ A\cap(B\setminus A)=\varnothing $$
   　 を示す。
   　 任意に $x\in A\cap(B\setminus A)$ をとると、$x\in A$ かつ $x\in B\setminus A$ である。
   　 しかし、$x\in B\setminus A$ より $x\notin A$ である。
   　 これは $x\in A$ に矛盾する。
   　 したがって、そのような $x$ は存在しないので、
   $$ A\cap(B\setminus A)=\varnothing $$
   　 である。
   $ $
   　 ゆえに、有限加法性より、
   $$ \mathbb P(B) = \mathbb P\bigl(A\cup(B\setminus A)\bigr) = \mathbb P(A)+\mathbb P(B\setminus A) $$
   　 が成り立つ。
   $ $
3. ここで、$\mathbb P:\mathcal F\to[0,1]$ であるから、
   $$ \mathbb P(B\setminus A)\ge 0 $$
   である。
   したがって、
   $$ \mathbb P(B) = \mathbb P(A)+\mathbb P(B\setminus A) \ge \mathbb P(A) $$
   となる。

-よって、
$$ \mathbb P(A)\le \mathbb P(B) $$
が成り立つ。
$$ \Box$$

$A\in\mathcal F$ とする。
$\mathcal F$ は $\Omega$ 上の $\sigma$-代数であるから、補集合について閉じており、
$$ A^c\in\mathcal F $$
が成り立つ。
また、補集合の定義より
$$ A\cup A^c=\Omega,\qquad A\cap A^c=\varnothing $$
が成り立つ。
したがって、有限加法性より
$$ \mathbb P(\Omega)=\mathbb P(A\cup A^c)=\mathbb P(A)+\mathbb P(A^c) $$
を得る。
ここで、確率測度の正規化より
$$ \mathbb P(\Omega)=1 $$
であるから、
$$ 1=\mathbb P(A)+\mathbb P(A^c) $$
が成り立つ。
よって、両辺から $\mathbb P(A^c)$ を引いて
$$ \mathbb P(A)=1-\mathbb P(A^c) $$
を得る。
$$ \Box$$

$A,B\in\mathcal F$ とする。

1. まず、$B\setminus A$ および $A\cap B$ はともに $\mathcal F$ に属する。
   実際、$\mathcal F$ は $\Omega$ 上の $\sigma$-代数であるから、$A\in\mathcal F$ より
   $$ A^c:=\Omega\setminus A\in\mathcal F $$
   である。
   また、$\mathcal F$ は有限回の共通部分について閉じているので、
   $$ B\setminus A=B\cap A^c\in\mathcal F,\qquad A\cap B\in\mathcal F $$
   が成り立つ。
   $ $
2. 次に、
   $$ B=(B\setminus A)\cup(A\cap B) $$
   かつ
   $$ (B\setminus A)\cap(A\cap B)=\varnothing $$
   であることを示す。
   $ $
   まず、
   $$ B=(B\setminus A)\cup(A\cap B) $$
   を示す。
   任意に $x\in B$ をとる。
   このとき、$x\in A$ または $x\notin A$ のいずれかである。
   $x\in A$ ならば、$x\in A\cap B$ である。
   $x\notin A$ ならば、$x\in B\setminus A$ である。
   したがって、
   $$ x\in (B\setminus A)\cup(A\cap B) $$
   である。ゆえに、
   $$ B\subseteq (B\setminus A)\cup(A\cap B) $$
   を得る。
   $ $
   逆に、任意に $x\in (B\setminus A)\cup(A\cap B)$ をとる。
   $x\in B\setminus A$ ならば、定義より $x\in B$ である。
   $x\in A\cap B$ ならば、やはり $x\in B$ である。
   したがって、$x\in B$ である。ゆえに、
   $$ (B\setminus A)\cup(A\cap B)\subseteq B $$
   が成り立つ。
   $ $
   以上より、
   $$ B=(B\setminus A)\cup(A\cap B) $$
   である。
   $ $
   次に、
   $$ (B\setminus A)\cap(A\cap B)=\varnothing $$
   を示す。
   任意に $x\in (B\setminus A)\cap(A\cap B)$ をとる。
   このとき、
   $$ x\in B\setminus A,\qquad x\in A\cap B $$
   である。
   前者より $x\notin A$ であり、後者より $x\in A$ である。これは矛盾である。
   したがって、そのような $x$ は存在しない。ゆえに、
   $$ (B\setminus A)\cap(A\cap B)=\varnothing $$
   である。
   $ $
3. ゆえに、有限加法性より、
   $$ \mathbb P(B) = \mathbb P\bigl((B\setminus A)\cup(A\cap B)\bigr) = \mathbb P(B\setminus A)+\mathbb P(A\cap B) $$
   が成り立つ。
   よって、両辺から $\mathbb P(A\cap B)$ を引いて、
   $$ \mathbb P(B\setminus A)=\mathbb P(B)-\mathbb P(A\cap B) $$
   を得る。
   $$ \Box$$

1. まず、
   $$ A = (A\cap B)\cup(A\setminus B) $$
   である。また、
   $$ (A\cap B)\cap(A\setminus B)=\varnothing $$
   であるから、確率の有限加法性より、
   $$ \mathbb P(A) = \mathbb P(A\cap B)+\mathbb P(A\setminus B) $$
   である。
   $ $
2. 同様に、
   $$ B = (A\cap B)\cup(B\setminus A) $$
   であり、
   $$ (A\cap B)\cap(B\setminus A)=\varnothing $$
   であるから、
   $$ \mathbb P(B) = \mathbb P(A\cap B)+\mathbb P(B\setminus A) $$
   である。

-したがって、
$$ \begin{aligned} \mathbb P(A)-\mathbb P(B) &= \{\mathbb P(A\cap B)+\mathbb P(A\setminus B)\} - \{\mathbb P(A\cap B)+\mathbb P(B\setminus A)\}\\ &= \mathbb P(A\setminus B)-\mathbb P(B\setminus A) \end{aligned} $$
である。
よって、
$$ |\mathbb P(A)-\mathbb P(B)| = |\mathbb P(A\setminus B)-\mathbb P(B\setminus A)| $$
である。
ここで、確率の非負性より、
$$ \mathbb P(A\setminus B)\ge0, \qquad \mathbb P(B\setminus A)\ge0 $$
である。
任意の非負実数 $u,v\ge0$ に対して
$$ |u-v|\le u+v $$
が成り立つので、
$$ |\mathbb P(A\setminus B)-\mathbb P(B\setminus A)| \le \mathbb P(A\setminus B)+\mathbb P(B\setminus A) $$
である。
また、
$$ (A\setminus B)\cap(B\setminus A)=\varnothing $$
であるから、確率の有限加法性より、
$$ \mathbb P(A\setminus B)+\mathbb P(B\setminus A) = \mathbb P((A\setminus B)\cup(B\setminus A)) $$
である。
対称差の定義より、
$$ (A\setminus B)\cup(B\setminus A) = A\triangle B $$
である。
したがって、
$$ \begin{aligned} |\mathbb P(A)-\mathbb P(B)| &= |\mathbb P(A\setminus B)-\mathbb P(B\setminus A)|\\ &\le \mathbb P(A\setminus B)+\mathbb P(B\setminus A)\\ &= \mathbb P((A\setminus B)\cup(B\setminus A))\\ &= \mathbb P(A\triangle B) \end{aligned} $$
である。
以上より、
$$ |\mathbb P(A)-\mathbb P(B)| \le \mathbb P(A\triangle B) $$
が成り立つ。
$$ \Box$$