収束列の平均について
次の命題はよく知られている:
任意の収束列$(a_n)_{n=0,1,\dots}$に対し，
\begin{align}
\lim_{n\to\infty}\frac{a_0+\cdots+a_n}{n+1}=\lim_{n\to\infty}a_n.
\end{align}
これは次のように言い換えることができる．$\mathbb{N}$で非負整数の集合を表す．
$\mathbb{N}$値確率変数の列 $N_0$,$N_1$,$\dots$について，$N_k$の分布は$\{0,\dots,k\}$上の一様分布$\mathcal{U}_k$に従うとする．このとき任意の収束列$(a_n)$に対して
\begin{align}
\lim_{k\to\infty}\mathbb{E}[a_{N_k}]=\lim_{n\to\infty}a_n.
\end{align}
与えられた$\mathbb{N}$値確率変数の列に対し，このような性質を持つための必要十分条件を与える．
$N_0$,$N_1$,$\dots$を$\mathbb{N}$値確率変数の列とする．TFAE:
(い) 任意の収束列$(a_n)$に対して$\lim_{k\to\infty}\mathbb{E}[a_{N_k}]=\lim_{n\to\infty}a_n$である．
(ろ) 任意の$n\in\mathbb{N}$に対して$\lim_{k\to\infty}\mathbb{P}[N_k=n]=0$である．
(は) 任意の有限部分集合$A\subset\mathbb{N}$に対して$\lim_{k\to\infty}\mathbb{P}[N_k\in A]=0$である．
[(い)$\Rightarrow$(ろ)]任意の$n_0\in\mathbb{N}$をとる．このとき$\{n_0\}$の定義関数$\delta_{n_0}$について，列$(\delta_{n_0}(n))$は$0$に収束するので，
\begin{align}
0
=\lim_{k\to\infty}\mathbb{E}[\delta_{n_0}(N_k)]
=\lim_{k\to\infty}\mathbb{P}[N_k=n_0]
\end{align}
を得る．
[(ろ)$\Rightarrow$(は)]$\lim_{k\to\infty}\mathbb{P}[N_k\in A]=\lim_{k\to\infty}\sum_{n\in A}\mathbb{P}[N_k=n]=0$．
[(は)$\Rightarrow$(い)]$(a_n)$を任意の収束列とする．極限を$\alpha$として，列$(a_n-\alpha)$を考えることで$\alpha=0$としてよい．収束列は有界であるので，$M>0$があって，任意の$n\in\mathbb{N}$に対し$|a_n|\leq M$とできる．このとき任意の$m\in\mathbb{N}$に対し
\begin{align}
|\mathbb{E}[a_{N_k}]|
&\leq \left(\sum_{n=0}^m+\sum_{n>m}\right)\mathbb{P}[N_k=n]\cdot|a_n|\\
&\leq M\cdot\mathbb{P}[N_k\leq m]+\sup_{n>m}|a_n|\cdot\mathbb{P}[N_k>m]
\end{align}
である．よって
\begin{align}
\varlimsup_{k\to\infty}|\mathbb{E}[a_{N_k}]|\leq\sup_{n>m}|a_n|\to 0 &&(m\to\infty)
\end{align}
を得る．
$\mathbb{N}$値確率変数の列$N_0$,$\dots$が定理の３条件を満たすとする．このとき$+\infty$に発散する実数列$(a_n)$に対しても$\lim_{k\to\infty}\mathbb{E}[a_{N_k}]=+\infty$が成り立つ．実際，$a_n>0$としてよく，このときマルコフ不等式より，任意の$m>0$に対し
\begin{align}
m\cdot\mathbb{P}[a_{N_k}\geq m]\leq\mathbb{E}[a_{N_k}]
\end{align}
を得る．よって$\varliminf_{k\to\infty}\mathbb{E}[a_{N_k}]\geq m$を得る．
特に，期待値について$\lim_{k\to\infty}\mathbb{E}[N_k]=+\infty$が成り立つ．
与えられた数列$(a_n)$に対し，部分和$s_n=\sum_{k=0}^n a_k$の列$(s_n)$を考える．$\mathbb{N}$値確率変数$N$について，形式的に和を入れ替えれば
\begin{align}
\mathbb{E}[s_N]
=\sum_{n=0}^\infty \mathbb{P}[N=n]\sum_{k=0}^n a_k
=\sum_{k=0}^\infty\left(\sum_{n=k}^\infty\mathbb{P}[N=n]\right)a_k
\end{align}
となる．これは$N$が期待値を持つとき正当化される．
$N$を期待値を持つ$\mathbb{N}$値確率変数とする．このとき任意の有界列$(a_n)$に対し，$\sum_{n=0}^\infty\sum_{k=0}^n\mathbb{P}[N=n]a_k$は絶対収束する．
$|a_n|\leq M$として，
\begin{align}\sum_{n=0}^\infty\sum_{k=0}^n\mathbb{P}[N=n]|a_k|\leq M\sum_{n=0}^\infty (n+1)\mathbb{P}[N=n]<\infty.
\end{align}
$\gamma_p$を成功確率$1-p$の幾何分布とする;
\begin{align}
\mathbb{P}[\gamma_p=n]=(1-p)\cdot p^n &&(n\in\mathbb{N}).
\end{align}
$(\gamma_p)$は$p\uparrow 1$のとき定理の条件(ろ)をみたす(正確には$p_n\uparrow 1$なる任意の列$(p_n)$を考える)．
\begin{align}
\sum_{n=k}^\infty\mathbb{P}[\gamma_p=n]=(1-p)\sum_{n=k}^\infty p^n = p^k
\end{align}
である．よって部分和の列$(s_n)$が収束するとき
\begin{align}
\sum_{n=0}^\infty a_n
=\lim_{p\uparrow 1}\mathbb{E}[s_{\gamma_p}]
=\lim_{p\uparrow 1}\sum_{n=0}^\infty p^n a_n
\end{align}
である．
