次の命題はよく知られている:
任意の収束列$(a_n)_{n=0,1,\dots}$に対し,
\begin{align}
\lim_{n\to\infty}\frac{a_0+\cdots+a_n}{n+1}=\lim_{n\to\infty}a_n.
\end{align}
これは次のように言い換えることができる.$\mathbb{N}$で非負整数の集合を表す.
$\mathbb{N}$値確率変数の列 $N_0$,$N_1$,$\dots$について,$N_k$の分布は$\{0,\dots,k\}$上の一様分布$\mathcal{U}_k$に従うとする.このとき任意の収束列$(a_n)$に対して
\begin{align}
\lim_{k\to\infty}\mathbb{E}[a_{N_k}]=\lim_{n\to\infty}a_n.
\end{align}
与えられた$\mathbb{N}$値確率変数の列に対し,このような性質を持つための必要十分条件を与える.
$N_0$,$N_1$,$\dots$を$\mathbb{N}$値確率変数の列とする.TFAE:
(い) 任意の収束列$(a_n)$に対して$\lim_{k\to\infty}\mathbb{E}[a_{N_k}]=\lim_{n\to\infty}a_n$である.
(ろ) 任意の$n\in\mathbb{N}$に対して$\lim_{k\to\infty}\mathbb{P}[N_k=n]=0$である.
(は) 任意の有限部分集合$A\subset\mathbb{N}$に対して$\lim_{k\to\infty}\mathbb{P}[N_k\in A]=0$である.
[(い)$\Rightarrow$(ろ)]任意の$n_0\in\mathbb{N}$をとる.このとき$\{n_0\}$の定義関数$\delta_{n_0}$について,列$(\delta_{n_0}(n))$は$0$に収束するので,
\begin{align}
0
=\lim_{k\to\infty}\mathbb{E}[\delta_{n_0}(N_k)]
=\lim_{k\to\infty}\mathbb{P}[N_k=n_0]
\end{align}
を得る.
[(ろ)$\Rightarrow$(は)]$\lim_{k\to\infty}\mathbb{P}[N_k\in A]=\lim_{k\to\infty}\sum_{n\in A}\mathbb{P}[N_k=n]=0$.
[(は)$\Rightarrow$(い)]$(a_n)$を任意の収束列とする.極限を$\alpha$として,列$(a_n-\alpha)$を考えることで$\alpha=0$としてよい.収束列は有界であるので,$M>0$があって,任意の$n\in\mathbb{N}$に対し$|a_n|\leq M$とできる.このとき任意の$m\in\mathbb{N}$に対し
\begin{align}
|\mathbb{E}[a_{N_k}]|
&\leq \left(\sum_{n=0}^m+\sum_{n>m}\right)\mathbb{P}[N_k=n]\cdot|a_n|\\
&\leq M\cdot\mathbb{P}[N_k\leq m]+\sup_{n>m}|a_n|\cdot\mathbb{P}[N_k>m]
\end{align}
である.よって
\begin{align}
\varlimsup_{k\to\infty}|\mathbb{E}[a_{N_k}]|\leq\sup_{n>m}|a_n|\to 0 &&(m\to\infty)
\end{align}
を得る.
$\mathbb{N}$値確率変数の列$N_0$,$\dots$が定理の3条件を満たすとする.このとき$+\infty$に発散する実数列$(a_n)$に対しても$\lim_{k\to\infty}\mathbb{E}[a_{N_k}]=+\infty$が成り立つ.実際,$a_n>0$としてよく,このときマルコフ不等式より,任意の$m>0$に対し
\begin{align}
m\cdot\mathbb{P}[a_{N_k}\geq m]\leq\mathbb{E}[a_{N_k}]
\end{align}
を得る.よって$\varliminf_{k\to\infty}\mathbb{E}[a_{N_k}]\geq m$を得る.
特に,期待値について$\lim_{k\to\infty}\mathbb{E}[N_k]=+\infty$が成り立つ.
与えられた数列$(a_n)$に対し,部分和$s_n=\sum_{k=0}^n a_k$の列$(s_n)$を考える.$\mathbb{N}$値確率変数$N$について,形式的に和を入れ替えれば
\begin{align}
\mathbb{E}[s_N]
=\sum_{n=0}^\infty \mathbb{P}[N=n]\sum_{k=0}^n a_k
=\sum_{k=0}^\infty\left(\sum_{n=k}^\infty\mathbb{P}[N=n]\right)a_k
\end{align}
となる.これは$N$が期待値を持つとき正当化される.
$N$を期待値を持つ$\mathbb{N}$値確率変数とする.このとき任意の有界列$(a_n)$に対し,$\sum_{n=0}^\infty\sum_{k=0}^n\mathbb{P}[N=n]a_k$は絶対収束する.
$|a_n|\leq M$として,
\begin{align}\sum_{n=0}^\infty\sum_{k=0}^n\mathbb{P}[N=n]|a_k|\leq M\sum_{n=0}^\infty (n+1)\mathbb{P}[N=n]<\infty.
\end{align}
$\gamma_p$を成功確率$1-p$の幾何分布とする;
\begin{align}
\mathbb{P}[\gamma_p=n]=(1-p)\cdot p^n &&(n\in\mathbb{N}).
\end{align}
$(\gamma_p)$は$p\uparrow 1$のとき定理の条件(ろ)をみたす(正確には$p_n\uparrow 1$なる任意の列$(p_n)$を考える).
\begin{align}
\sum_{n=k}^\infty\mathbb{P}[\gamma_p=n]=(1-p)\sum_{n=k}^\infty p^n = p^k
\end{align}
である.よって部分和の列$(s_n)$が収束するとき
\begin{align}
\sum_{n=0}^\infty a_n
=\lim_{p\uparrow 1}\mathbb{E}[s_{\gamma_p}]
=\lim_{p\uparrow 1}\sum_{n=0}^\infty p^n a_n
\end{align}
である.