0

平均ベクトルと共分散行列の性質

28
0

はじめに

ここでは,多変量正規分布からのランダム標本y1,y2,,ynの標本平均ベクトルyおよび標本共分散行列Sのもつ性質をいくつか見ていく.
※性質の多くは,1変量の場合の結果を拡張したものである.

y, Sがそれぞれμ,Σの十分統計量であることの証明

十分統計量の定義(Neymanの因子分解定理)

一般に,以下の条件を満たす場合に,統計量θ^θの十分統計量であると言える.

尤度関数Lが以下のように分解される.

L(y1,,yn,θ)=g(θ^,θ)h(y1,,yn)・・・(2.54)

ただし,h(y1,,yn)θを含まない関数.

y1,,ynの持つθの情報は,θ^により捉えることができる.

具体的には,θ^θの十分統計量であるとき,θθ^(あるいはその不偏な関数)によって推定することができるのだった.

本題

μ,Σの十分統計量

多変量正規分布Np(μ,Σ)からのランダム標本y1,y2,,ynに対し,その標本平均ベクトルyと標本共分散行列Sはそれぞれμ,Σの十分統計量である.

まず,尤度関数は以下.
L(μ,Σ)=i=1nf(yi;μ,Σ)=i=1n1(2π)p|Σ|1/2exp[12(yiμ)Σ1(yiμ)]=1(2π)np|Σ|n/2exp[12i=1n(yiμ)Σ1(yiμ)]

ここで,
i=1n(yiμ)Σ1(yiμ)=i=1ntr(yiμ)Σ1(yiμ)=tr[Σ1i=1n(yiμ)(yiμ)]
さらに
i=1n(yiμ)(yiμ)=i=1n(yiy+yμ)(yiy+yμ)=i=1n(yiy)(yiy)+n(yμ)(yμ)=(n1)S+n(yμ)(yμ)
したがって,

L(μ,Σ)=1(2π)np|Σ|n/2exp[12{(n1)trΣ1S+n(yμ)Σ1(yμ)}]=g(y,S,μ,Σ)1

最後の結果を見ると,ySはそれぞれが独立してμおよびΣの十分統計量になるわけではないことがわかる.

一方,ySは独立して分布する.

多変量正規分布Np(μ,Σ)からのランダム標本X1,X2,,Xnに対し,その標本平均ベクトルXと標本共分散行列Sはそれぞれ独立である.

ただし,
X=1ni=1nXi
S=1n1i=1n(XiX)(XiX)=1n1W
とする.

いま, n×nの直交行列で,その第1行が1n/nであるような行列Γを考え,
Y=(Y1,Y2,,Yn)=ΓXとする.

このとき, 補題よりY1,Y2,,YnRpは互いに独立に,共分散行列Σの多変量正規分布に従う.

よって,
Y1=Γ1X=1ni=1nXi=n1ni=1nXi=nX
またi2において,Γの直交性より
E[Yi]=E[ΓiX]=ΓiE[X]=Γiμ=0
が成り立つ.

一方,
W=i=1n(XiX)(XiX)=i=1nXiXinXX=XXY1Y1=YYY1Y1=Y2Y2++YnYn
となり,WY1を含まない形で表される.
Y1Y2,,Ynの独立性から,Y1Wは独立.

すなわちXWは独立である.

n×p確率行列Xの各行が独立に共通の共分散行列Σの多変量正規分布に従うとし,Γn次の直交行列とする.
このとき,Y=ΓXの各行は独立に共分散行列Σの多変量正規分布に従う.

投稿日:20241028
更新日:12
OptHub AI Competition

この記事を高評価した人

高評価したユーザはいません

この記事に送られたバッジ

バッジはありません。
バッチを贈って投稿者を応援しよう

バッチを贈ると投稿者に現金やAmazonのギフトカードが還元されます。

投稿者

B3

コメント

他の人のコメント

コメントはありません。
読み込み中...
読み込み中
  1. はじめに
  2. y, Sがそれぞれμ,Σの十分統計量であることの証明
  3. 十分統計量の定義(Neymanの因子分解定理)
  4. 本題