2値指数型分布族における情報量の特性について
スポンサーリンク
概要
- 論文の詳細を見る
0と1の2値をとり得るn個の確率変数に関して定義される高次の交互作用を考慮した2値指数型分布族において, これらの確率変数において特定の集合(包含)関数が成立する場合に, 自然パラメータに対する統計量の変化率の特徴的な単調列が存在することが示されている.更に, 正規化されたFisher情報行列の要素(相関係数)が自然パラメータに対して単調性をもち, この集合関係と相関係数の単調性(増減)の間にある種の双対的な関係があることが明らかにされている.またFisher情報行列をRiemann計量とする情報幾何学の自然パラメータ座標系と双対な期待値パラメータ座標系において, 自然パラメータに対する相関係数の単調性と対照的な集合関係が成立する場合に, 正規化されたFisher情報行列の要素(負の偏相関係数)が期待値パラメータに対して単調性をもつことが示されている.この集合関係と単調性(増減)の間にも相関係数の場合と対照的なある種の双対的な関係がある.本論文では, 各確率変数及びそれらの積である確率変数(状態積)に関して定義される結合エントロピー, 条件付きエントロピー, 相互情報量, 条件付き相互情報量, 及び結合エントロピーで正規化された相互情報量などの情報量が, 自然パラメータの変化に対してどのように変化するかを調べ, 統計量と類似した特定の集合関係が成立する場合に情報量の変化率の特徴的な単調列が存在することを示す.特に特定の条件付きエントロピー, 条件付き相互情報量, 及び正規化された相互情報量が, 特定のパラメータの変化に対して単調に増加ないし減少するという事実を明らかにする.
- 社団法人電子情報通信学会の論文
- 2000-05-25