汎化を考慮した確率モデルの学習について
スポンサーリンク
概要
- 論文の詳細を見る
学習データから情報源の確率構造を学習する場合,その結果は学習データに依存するので,何らかの方法で学習データから真の構造に近い確率モデルを推定する必要がある.そのための方法として,適切な次数のモデルを選択する方法があり,AICやMDLなどの情報量規準が提案されている.AICは期待平均対数尤度最大のモデルを選択することにより,KL情報量の意味で真の構造に近い確率モデルを選択しようとする.MDLは,データの記述長とモデルの記述長の和を最小にするモデルを選択するという規準である.しかし,AICでは評価できない項を無視していることや一致性がないことが指摘されている.MDLではパラメータを量子化する部分が粗い議論であるために,記述長最小という評価規準は密には達成されていない.本稿では,情報源符号化において最近注目されているベイズ符号をモデル選択に応用することを考える.そして,ベイズ決定理論に基づき,次のシンボルを予測符号化したときのベイズ符号長を最小にするという意味で,漸近的に最適なモデルを選択する情報量規準を提案する.
- 1995-09-20
論文 | ランダム
- Transcriptomic comparison of human hepatoma huh-7 cell clones with different hepatitis C virus replication efficiencies
- 黙示と自然--第4エズラ記の場合(1992年度聖書講座)
- 教会の伝統と聖書の周辺--ヤブネ--旧約聖書正典成立の虚実
- 国々にふれて言え,主こそ王--詩編における神の国
- 創造を悔やむ神とその救い(1989年度聖書講座)