ランダムな関数に対する平均値の定理について
はじめに
本記事は, ランダムな関数に対する平均値の定理に関する備忘録です. もし間違い等があればコメントいただけますと幸いです.
ランダムな関数に対する平均値の定理
ランダムな関数に対する平均値の定理は, M-推定の漸近理論において必須の道具です.
- 位相空間$\mathcal{X}$に対して$\mathscr{B}(\mathcal{X})$は$\mathcal{X}$のBorel集合族を表す.
- $\nabla_{\boldsymbol{\theta}}^\prime = [\partial/\partial\theta_1, \ldots, \partial/\partial\theta_p]$とする. 例えば, $f: \mathbb{R}^p \to \mathbb{R}$に対して
\begin{align} \nabla_{\boldsymbol{\theta}}^\prime f(\boldsymbol{\theta}) = \bigg[ \frac{\partial f(\boldsymbol{\theta})}{\partial \theta_1}, \ldots, \frac{\partial f(\boldsymbol{\theta})}{\partial \theta_p} \bigg]. \end{align}
- $(\Omega, \mathscr{F})$は可測空間.
- $\Theta$は$\mathbb{R}^p$の部分集合 (パラメータ空間).
- $Q$は$\Omega \times \mathbb{R}^p$上の実数値関数.
定理の証明には次の事実を用います.
次の3つの条件を仮定する.
- $\Theta$はコンパクト.
- 各$\boldsymbol{\theta} \in \Uptheta$に対して$\Omega \ni \omega \mapsto Q(\omega, \boldsymbol{\theta}) \in \mathbb{R}$は$\mathscr{F}/\mathscr{B}(\mathbb{R})$-可測.
- 各$\omega \in \Omega$に対して$\Uptheta \ni \boldsymbol{\theta} \mapsto Q(\omega, \boldsymbol{\theta}) \in \mathbb{R}$は連続.
このとき, $\mathscr{F}/\mathscr{B}(\Theta)$-可測写像$\widehat{\boldsymbol{\theta}}: \Omega \to \Theta$が存在して, 任意の$\omega \in \Omega$に対して,
\begin{align*}
Q\big( \omega, \widehat{\boldsymbol{\theta}}(\omega) \big)
= \max_{\boldsymbol{\theta} \in \Theta} Q(\omega, \boldsymbol{\theta})
\end{align*}
が成り立つ.
prop:1の証明は記事「 M-推定量の可測性について 」を参照してください.
次の3つの条件を仮定する.
- $\Theta$は凸かつコンパクト.
- 各$\boldsymbol{\theta} \in \Uptheta$に対して$\Omega \ni \omega \mapsto Q(\omega, \boldsymbol{\theta}) \in \mathbb{R}$は$\mathscr{F}/\mathscr{B}(\mathbb{R})$-可測.
- $\Theta^\ast$を$\Theta$を含む開集合とするとき, 各$\omega \in \Omega$に対して$\Theta^\ast \ni \boldsymbol{\theta} \mapsto Q(\omega, \boldsymbol{\theta}) \in \mathbb{R}$は$C^1$級.
このとき, 相異なる$\widehat{\boldsymbol{\theta}}_1, \widehat{\boldsymbol{\theta}}_2: \Omega \to \Theta$がともに$\mathscr{F}/\mathscr{B}(\Theta)$-可測ならば, 次の2つの条件を満たすような$\mathscr{F}/\mathscr{B}(\Theta)$-可測写像$\overline{\boldsymbol{\theta}}: \Omega \to \Theta$が存在する.
- 任意の$\omega \in \Omega$に対して
\begin{align*} Q\big( \omega, \widehat{\boldsymbol{\theta}}_1(\omega) \big) - Q\big( \omega, \widehat{\boldsymbol{\theta}}_2(\omega) \big) = \nabla_{\boldsymbol{\theta}}^\prime Q\big( \omega, \overline{\boldsymbol{\theta}}(\omega) \big) \big( \widehat{\boldsymbol{\theta}}_1(\omega) - \widehat{\boldsymbol{\theta}}_2(\omega) \big) \end{align*}
が成り立つ. - 任意の$\omega \in \Omega$に対して, $\overline{\boldsymbol{\theta}}(\omega)$は$\widehat{\boldsymbol{\theta}}_1(\omega)$と$\widehat{\boldsymbol{\theta}}_2(\omega)$を結ぶ線分上にある.
関数$Q^\ast: \Omega \times \Theta \to \mathbb{R}$を次のように定める :
\begin{align*}
Q^\ast(\omega, \boldsymbol{\theta})
= -\Big| Q\big( \omega, \widehat{\boldsymbol{\theta}}_1(\omega) \big) - Q\big( \omega, \widehat{\boldsymbol{\theta}}_2(\omega) \big) - \nabla_{\boldsymbol{\theta}}^\prime Q(\omega, \boldsymbol{\theta}) \big( \widehat{\boldsymbol{\theta}}_1(\omega) - \widehat{\boldsymbol{\theta}}_2(\omega) \big) \Big| - D(\omega, \boldsymbol{\theta}).
\end{align*}
ここで, $D: \Omega \times \Theta \to \mathbb{R}$は
\begin{align*}
D(\omega, \boldsymbol{\theta})
= \| \boldsymbol{\theta} - \widehat{\boldsymbol{\theta}}_1(\omega) \| + \| \boldsymbol{\theta} - \widehat{\boldsymbol{\theta}}_2(\omega) \| - \| \widehat{\boldsymbol{\theta}}_1(\omega) - \widehat{\boldsymbol{\theta}}_2(\omega) \|\;(\geq 0)
\end{align*}
であり, $\boldsymbol{\theta} = \alpha \widehat{\boldsymbol{\theta}}_1(\omega) + (1 - \alpha) \widehat{\boldsymbol{\theta}}_2(\omega)$, $0 \leq \alpha \leq 1$のとき, かつそのときに限り$D(\omega, \boldsymbol{\theta}) = 0$となる.
さて, prop:1 (可測選択定理) より任意の$\omega \in \Omega$に対して
\begin{align*}
Q^\ast\big( \omega, \overline{\boldsymbol{\theta}}(\omega) \big)
= \max_{\boldsymbol{\theta} \in \Theta} Q^\ast(\omega, \boldsymbol{\theta})
\end{align*}
を満たすような$\mathscr{F}/\mathscr{B}(\Theta)$-可測写像$\overline{\boldsymbol{\theta}}: \Omega \to \Theta$が存在する. ところが, 任意に$\omega \in \Omega$を固定するとき, $\boldsymbol{\theta} \mapsto Q(\omega, \boldsymbol{\theta})$に通常の非確率的な関数に対する平均値の定理を適用することにより
\begin{align*}
\max_{\boldsymbol{\theta} \in \Theta} Q^\ast(\omega, \boldsymbol{\theta}) = 0
\end{align*}
となることが分かるから, この$\overline{\boldsymbol{\theta}}$に対して
\begin{align*}
&Q\big( \omega, \widehat{\boldsymbol{\theta}}_1(\omega) \big) - Q\big( \omega, \widehat{\boldsymbol{\theta}}_2(\omega) \big)
= \nabla_{\boldsymbol{\theta}}^\prime Q\big( \omega, \overline{\boldsymbol{\theta}}(\omega) \big) \big( \widehat{\boldsymbol{\theta}}_1(\omega) - \widehat{\boldsymbol{\theta}}_2(\omega) \big), \\[5pt]
&D\big( \omega, \overline{\boldsymbol{\theta}}(\omega) \big) = 0
\end{align*}
が成り立つ. (証明終)
参考文献
この記事を高評価した人
この記事に送られたバッジ
投稿者
