漸近的ミニマックス性とデータ数の知識の関係について
スポンサーリンク
概要
- 論文の詳細を見る
正規化最尤(NML)符号は最悪ケースの符号長を最小化するミニマックス最適性を持ち,その符号長によるモデル選択規準が開発されているものの,多くの学習モデルにおいて,その計算は困難である.本研究では,NML分布を近似することを考え,近似がデータ数nに依存しない場合,強い意味での漸近的ミニマックス性が達成されないことを示す.また,多項分布モデルにおいて,nに対する単純な依存性を持つディリクレ事前分布を用いたベイズ混合が漸近的ミニマックス性を達成することを示す.数値実験によりlast-stepミニマックス法などのデータ数nこ依存しないオンライン予測アルゴリズムでは漸近的ミニマックス性が達成されないことを確認する.
- 一般社団法人電子情報通信学会の論文
- 2013-02-25
著者
関連論文
- 階層ベイズ法を用いたNIRS-DOTの逆問題解法とその相図(脳活動の計測と解析,一般)
- 階層変分べイズ法によるNIRS-DOTの逆問題解法
- 事後分布の局所変分近似における分布間の情報量について
- 潜在変数モデルにおける変分自由エネルギーの漸近形と平均汎化誤差(学習問題の解析,テキスト・Webマイニング,一般)
- A-4-28 付加的計測を用いたネットワークトモグラフィ(A-4.信号処理,一般セッション)
- ブレグマン情報量を用いたベイズ学習の局所変分近似(知的システム,一般)
- 混合分布のノンパラメトリック推定と最小ダイバージェンス法(ポスターセッション,第14回情報論的学習理論ワークショップ)
- 混合分布のノンパラメトリック推定と最小ダイバージェンス法
- アクティブ計測とパッシブ計測を用いたパケット損失率推定法(行列分解,応用,統計推理,データベース,一般)
- 自由エネルギーによる潜在変数推定精度の計算法(第15回情報論的学習理論ワークショップ)
- 漸近的ミニマックス性とデータ数の知識の関係について