0
大学数学基礎解説
文献あり

M-推定量の可測性について

72
0

はじめに

本記事はM-推定量の可測性に関する備忘録です. もし間違い等があればコメントいただけますと幸いです.

M-推定

{Xi}iNを確率空間(Ω,F,P)上に定義されたX-値確率変数列とします. また, Θを未知パラメータの空間とし, パラメータの真値θ0の推定を考えます.

{Qn}nNXn×Θ上の実数値関数列とします. X1,,Xnn個の観測とするとき, θ^n:ΩΘθ0M-推定量であるとは, それが
θ^n(ω)=argmaxθΘQn(X1(ω),,Xn(ω),θ),ωΩ
を満たすF/B(Θ)-可測写像であるときに言います.

M-推定の"M"は"Maximum likelihood like"を意味し, その名の通りM-推定は最尤推定の一般化です. M-推定を念頭に置く際, {Qn}は真値θ0を唯一の最小点に持つ関数Q0:ΘRに (各点で) 確率収束する量であり, この意味でQnの最大点θ^nは真値θ0に十分近いと考えるのがM-推定の思想です.Qn,Q0はそれぞれ最尤推定の枠組みにおける対数尤度, 期待対数尤度に相当します.

さて, このM-推定を理論的に考察する上での最初の難点は, θ^n(ω)θQn(X1(ω),,Xn(ω),θ)の最大点であるという情報だけでは一般にθ^nF/B(Θ)-可測となるかが分からないことです. そこで, 本記事では適当な条件の下でθ^nF/B(Θ)-可測性が保証されることを示します.

M-推定量の可測性

記法
  • 位相空間Xに対してB(X)XのBorel集合族を表す.
  • 位相空間Xに対してcl(X)Xの閉包を表す.
設定
  • (Ω,F)は可測空間.
  • ΘRpの部分集合.
  • QΩ×Θ上の実数値関数.
可測選択定理 (Jennrich[2], Lemma 2)

次の3つの条件を仮定する.

  1. Θはコンパクト.
  2. θΘに対してΩωQ(ω,θ)RF/B(R)-可測.
  3. ωΩに対してΘθQ(ω,θ)Rは連続.

このとき, F/B(Θ)-可測写像θ^n:ΩΘが存在して, 任意のωΩに対して
Q(ω,θ^(ω))=maxθΘQ(ω,θ)
が成り立つ.

次の証明はGourieroux and Monfort[1]のProperty 24.1を参考にしています.

【第1段】

Rpの任意のコンパクト部分集合は可算な稠密部分集合を持つ (例えば, 齋藤[4]の命題5.4.12). したがって, Θの有限部分集合の増大列{Θn}nNで, 可算集合Θ=limnΘnに対してcl(Θ)=Θを成り立つようなものが存在する.

【第2段】

以下nを固定し, Q(ω,)Θn上での最大化を考える. 今, Θn={θ1,,θKn}, Kn<とし, θ^nを次のように定義する : 各ωΩについて
θ^n(ω)=θ1,ifQ(ω,θ1)Q(ω,θi),i=2,,Kn,θ^n(ω)=θ2,ifQ(ω,θ2)>Q(ω,θ1),Q(ω,θ2)Q(ω,θi),i=3,,Kn,θ^n(ω)=θKn,ifQ(ω,θKn)>Q(ω,θi),i=1,,Kn1.
このとき, θ^nは明らかに任意のωΩに対して
Q(ω,θ^n(ω))=maxθΘnQ(ω,θ)
を満たす. また,
{θ^n=θj}=[i=1j1{ω|Q(ω,θj)>Q(ω,θi)}][i=jKn{ω|Q(ω,θj)Q(ω,θi)}],j=1,,Kn
であり, Q(,θ)の可測性より右辺はFに属するから, θ^nF-可測である.

【第3段】

θ^(1)(ω)=lim infnθ^n(1)(ω)とおく. ここで, θ^n(1)(ω)θ^n(ω)の第1成分である. このとき, 第2段の結果よりθ^(1)F-可測である (例えば, 伊藤[3]の定理10.6).
任意にωΩを固定する. このとき, {θ^n(ω)}nNの部分列{θ^nq(ω)}qNが存在して, Θのコンパクト性より適当なθ(2)(ω),,θ(p)(ω)に対して
limqθ^nq(ω)=[θ^(1)(ω),θ(2)(ω),,θ(p)(ω)]
が成り立つ. これより
supθ(2),,θ(p)Q(ω,θ^(1)(ω),θ(2),,θ(p))Q(ω,θ^(1)(ω),θ(2)(ω),,θ(p)(ω))=limqQ(ω,θ^nq(ω))=limqmaxθΘnqQ(ω,θ)=supθΘQ(ω,θ)
となる. ここで, 第2行はQ(ω,)の連続性, 最終行はΘの稠密性およびQ(ω,)の連続性による. したがって,
Q(1)(ω,θ(2),,θ(p))=Q(ω,θ^(1)(ω),θ(2),,θ(p))
とおくと, Q(1)(,θ(2),,θ(p))F-可測であり,
supθΘQ(1)(ω,θ(2),,θ(p))supθΘQ(ω,θ)
が成り立つ.

【第4段】

関数QQ(1)に置き換えて第3段における議論を繰り返す. このとき, F-可測となるように写像θ^(2)が構成できて,
Q(2)(ω,θ(3),,θ(p))=Q(1)(ω,θ^(2)(ω),θ(3),,θ(p))
で定義されるQ(2)(,θ(3),,θ(p))F-可測となり, 任意のωΩに対して
supθΘQ(2)(ω,θ(3),,θ(p))supθΘQ(ω,θ)
が成り立つ. 同様の議論を残りp2回繰り返すと, 最終的にF-可測写像θ^=[θ^(1),,θ^(p)]が構成でき, 任意のωΩに対して
Q(ω,θ^(ω))=Q(p1)(ω,θ^(p)(ω))supθΘQ(ω,θ)
が成り立つ. 逆向きの不等式は明らかであるから, コンパクト集合上の連続関数は最大値を持つことに注意すると, 任意のωΩに対して
Q(ω,θ^(ω))=maxθΘQ(ω,θ)
が成り立つ. (証明終)

参考文献

[1]
Gourieroux, C. and Monfort, A., Statistics and Econometric Models Volume 2: Testing, Confidence Regions, Model Selection and Asymptotic Theory, Themes in Modern Econometrics , Cambridge University Press, 1995
[2]
Jennrich, R. I., Asymptotic properties of non-linear least squares estimators, The Annals of Mathematical Statistics, 1969, 633 - 643
[3]
伊藤清三, ルベーグ積分入門 (新装版), 数学選書4, 裳華房, 2017
[4]
齋藤正彦, 数学の基礎 集合・数・位相, 基礎数学, 東京大学出版会, 2002
投稿日:121
更新日:22
OptHub AI Competition

この記事を高評価した人

高評価したユーザはいません

この記事に送られたバッジ

バッジはありません。
バッチを贈って投稿者を応援しよう

バッチを贈ると投稿者に現金やAmazonのギフトカードが還元されます。

投稿者

非数学科で統計してる人

コメント

他の人のコメント

コメントはありません。
読み込み中...
読み込み中
  1. はじめに
  2. M-推定
  3. M-推定量の可測性
  4. 参考文献