文献あり

確率のノート1

確率の分野を学ぶ必要が出てきたので自分なりの解釈のかみ砕いてノートとしてまとめてみることにしました。だれかの役に立つといいなと思います。
さっそく本題に入ります。

確率を考える状況

確率はずばり「なんらかのアクションを起こすと結果がランダムに決まる」という状況で考える概念です。このとき「ランダム」とは偏りがある状況を含むことに注意します。この「アクション」を試行といい「結果」を標本点、標本点全体からなる集合を標本空間といいます。

偏りのない六面ダイスを例にとると、試行は「ダイスを振ること」で、

(標本空間)={(1の目が出る),(2の目が出る),...,(6の目が出る)}

となります。

このような状況で、確率とは標本空間の部分集合に対して「起こりやすさを0以上1以下の実数で評価したもの」です。ここで一つの標本点だけを含む一点集合も部分集合であることに注意。確率の与えられている部分集合を事象といいます。標本空間の部分集合すべてが「事象である(確率が与えられている)」必要はありませんが、事象の補集合や和集合は事象である必要があります。また、確率に対しても和の保存など、満たすべき条件が付いています。

数学的定式化

標本空間を $Ω$ ,事象全体の集合( $Ω$ の部分集合からなる集合)を $F$ ,確率測度( $F$ の元に確率を与える関数)を $P$ として,それぞれが満たすべき条件を挙げていきます.

標本空間 $Ω$ ;
$(Ω .1)$ $Ω \neq \emptyset$

事象全体の集合 $F \subseteq P (Ω)$ ;
$(F .1)$ $F \neq \emptyset$
$(F .2)$ $^{\forall} A \in F; [A^{C} (:= Ω ∖ A) \in F]$
$(F .3)$ $^{\forall} {A_{i}}_{i \in N} \subseteq F; [⋃_{i \in N} A_{i} \in F]$

確率測度 $P : F \to [0, 1]$ ;
$(P .1)$ $P (Ω) = 1$
$(P .2)$ $^{\forall} {A_{i}}_{i \in N} \subseteq F; [A_{i \cap} A_{j} = \emptyset_{(i \neq j)} \Rightarrow P (⋃_{i \in N} A_{i}) = \sum_{i \in N} P (A_{i})]$

$F$ の三つ目の条件や $P$ の二つ目の条件が少し複雑に見えるのは和集合をとる操作を有限回から可算無限回に拡張しているためです.これらの条件を満たす三つ組 $(Ω, F, P)$ を確率空間といいます.

基本公式の確認

上で挙げた確率空間が満たすべき性質は確率空間の公理と呼ばれるもので確率空間のエッセンスとなるものです.ここでは日常的に考える確率の概念で成り立っていてほしい性質を確認していきます.

加法公式

$^{\forall} A, B \in F; [P (A_{\cup} B) = P (A) + P (B) - P (A_{\cap} B)]$

まず $A, B$ が事象であるとき $A ∖ B, A_{\cap} B, A_{\cup} B$ も事象であることを示す.

$A ∖ B = (A^{C}_{\cup} B)^{C}$ であり,事象の公理 $(F .2)$ , $(F .3)$ を繰り返し適用することで $A ∖ B \in F$ を得る.De Morganの法則より $A_{\cap} B = (A^{C}_{\cup} B^{C})^{C}$ であり,事象の公理 $(F .2)$ , $(F .3)$ を繰り返し適用することで $A_{\cap} B \in F$ を得る. $A_{\cup} B \in F$ は $(F .3)$ より明らか.

以下 $X := A ∖ B, Y := B ∖ A, Z := A_{\cap} B$ とする.これらは互いに排反であるので $(P .2)$ より,
$\begin{aligned} P (A_{\cup} B) & = P (X_{\cup} Y_{\cup} Z) \\ = P (X_{\cup} Z) + P (Y) \\ = P (X_{\cup} Z) + P (Y) + P (Z) - P (Z) \\ = P (X_{\cup} Z) + P (Y_{\cup} Z) - P (Z) \\ = P (A) + P (B) - P (A_{\cap} B) \end{aligned}$
を得る.

余事象

$^{\forall} A \in F; [P (A) + P (A^{C}) = 1]$

$(F .2)$ と $(P .2)$ より明らか.

単調性

$^{\forall} A, B \in F; [A ⊊ B ⟹ P (A) \leq P (B)]$

加法公式の証明より $B ∖ A \in F$ であるため
$\begin{aligned} P (B) - P (A) & = P (A_{\cup} (B ∖ A)) - P (A) \\ = P (A) + P (B ∖ A) - P (A) \\ = P (B ∖ A) \geq 0 \end{aligned}$
を得る.

条件付確率

$P (A) \neq 0$ である事象 $A$ が起こったもとで事象 $B$ も起こっている確率 $P [B | A]$ を以下で定義する.
$P [B | A] := \frac{P (A_{\cap} B)}{P (A)}$

乗法公式

$^{\forall} A, B \in F; [P (A) \neq 0 ⟹ P (A_{\cap} B) = P (A) P [B | A]]$

$P [B | A]$ の定義より明らか.

Bayes公式

$\begin{matrix} ^{\forall} A, B \in F; [P (A) \neq 0_{\land} P (B) \neq 0_{\land} P (A) \neq 1 \\ ⟹ P [A | B] = \frac{P (A) P [B | A]}{P (A) P [B | A] + P (A^{C}) P [B | A^{C}]}] \end{matrix}$

定義より $P [A | B] = \frac{P (A_{\cap} B)}{P (B)}$ だが,乗法公式より $P (A_{\cap} B) = P (A) P [B | A]$ であり $(P .2)$ と乗法公式より
$\begin{aligned} P (B) & = P ((A_{\cap} B)_{\cup} (A^{C}_{\cap} B)) \\ = P (A_{\cap} B) + P (A^{C}_{\cap} B) \\ = P (A) P [B | A] + P (A^{C}) P [B | A^{C}] \end{aligned}$
であるため上の公式を得る.

結び

今回は
1.確率を考えることのできる状況、
2.確率の公理的定義、
3.確率の基本公式
に絞ってまとめてみました。事象全体の集合や確率測度に関する深い議論は集合代数やLebesgueの測度論で展開される内容なので興味があれば調べてみてください。また、誤植や本質的な間違いをはじめとするリアクションもお待ちしております。
次回は確率変数や確率分布についてまとめていきたいと思います。