自由エネルギーによる潜在変数推定精度の計算法(第15回情報論的学習理論ワークショップ)
スポンサーリンク
概要
- 論文の詳細を見る
混合正規分布や隠れマルコフモデルなど潜在変数を用いて表現される階層型モデルが機械学習やデータマイニングなどの分野で広く使われている.モデルの汎化性能解析が古くから行われている一方で,潜在変数の推定精度に対し理論的な評価は十分に行われていない.こうした状況の下,潜在変数の分布をベイズ推定した場合の漸近誤差が近年明らかになった.しかしながら潜在変数は観測不能であり,かつ誤差関数はデータを生成する真の分布を定義に含むため与えられたデータから誤差の値を計算することは原理的にできない.そこで本論文では誤差の漸近形に着目しベイズ自由エネルギーと変分自由エネルギーから誤差値を計算するアルゴリズムを提案する.また混合ベルヌーイ分布を用いた計算機実験により提案手法の有効性を示す.
- 2012-10-31
著者
-
渡辺 一帆
東京大学大学院新領域創成科学研究科複雑理工学専攻:(現)奈良先端科学技術大学院大学情報科学研究科
-
梶 大介
コニカミノルタエムジー(株)開発センター
-
山崎 啓介
東京工業大学大学院総合理工学研究科知能システム科学専攻
-
山崎 啓介
東京工業大学 総合理工学研究科
-
渡辺 一帆
奈良先端科学技術大学院大学 情報科学研究科
-
梶 大介
コニカミノルタエムジー株式会社開発本部IT開発グループ
関連論文
- 平滑化事前分布を用いた変動2値情報源の事後確率最大化法(研究速報)
- 特異モデルにおけるモデル選択法の提案
- 隠れマルコフモデルの学習係数について
- 階層型ベイジアンネットワークの確率的複雑さと特異点(ベイジアンネット2 : ポスターセッション)
- 一本の訓練系列から構成されるHMMの事後分布について(脳活動の計測と解析,生命現象の非線形性,一般)
- ベイジアンネットワークの確率的複雑さと代数幾何(統計的学習理論及び一般)
- 縮小ランク回帰モデルのベイズ汎化誤差について
- ランク縮小写像のベイズ汎化誤差の解析
- 階層ベイズ法を用いたNIRS-DOTの逆問題解法とその相図(脳活動の計測と解析,一般)
- 変分ベイズ法における確定的アニーリング
- 一本の訓練系列から構成されるHMMの事後分布について(脳活動の計測と解析,生命現象の非線形性,一般)
- 階層変分べイズ法によるNIRS-DOTの逆問題解法
- 混合正規分布の特異点の非解析性について(学習理論)
- ニュートン図形を用いた確率的複雑さの解析法(学習理論)
- Algorithm with Newton Diagram for Analyzing Stochastic Complexity (特集:学習理論)
- 混合正規分布におけるべイズ周辺尤度の厳密計算法(機械学習,生物模倣情報処理,機械学習,一般)
- 事後分布の局所変分近似における分布間の情報量について
- 転送行列法を用いた発火率推定(機械学習,一般)
- 代理べイズ学習に基づくHMMのためのデータ系列長(機械学習,生物模倣情報処理,機械学習,一般)
- 混合ベルヌーイ分布による変分ベイズ学習の相転移構造(IBIS2010(情報論的学習理論ワークショップ))
- 隠れマルコフモデルの変分ベイズ学習における確率的複雑さについて(パターン認識)
- 確率文脈自由文法の変分ベイズ推定における確率的複雑さについて(一般, 脳・ヒューマンモデリング, 一般)
- 隠れマルコフモデルの変分ベイズ推定における確率的複雑さについて
- 変分ベイズ法による混合指数型分布を用いたクラスタリング法(一般(ベイズ法など),脳インタフェースの技術と応用,一般)
- 研究詳解 指数型分布族の空間におけるデータ解析法について (特集「統計的機械学習」)
- 高次元圧縮空間の対話的手法による次元縮小(機械学習)
- 完全2部グラフ型ボルツマンマシンの代数幾何
- 完全2部グラフ型ボルツマンマシンの代数幾何
- 混合分布モデルにおける確率的複雑さの解明
- 情報量の測り方による近似事後分布の性質の相違について
- 混合指数型分布の変分ベイズ学習における確率的複雑さ
- 変分ベイズ法による混合正規分布モデルの学習における確率的複雑さについて(一般)
- 極値統計量を用いたデータ発生領域の学習法(統計的学習理論及び一般)
- (2)REGIUS Uniteaインテグラル処理の設計(技術紹介)
- 潜在変数モデルにおける変分自由エネルギーの漸近形と平均汎化誤差(学習問題の解析,テキスト・Webマイニング,一般)
- 周辺尤度計算におけるパラメータ空間と隠れ変数空間の比較
- 隠れ変数の分布における汎化誤差の解析
- A-4-28 付加的計測を用いたネットワークトモグラフィ(A-4.信号処理,一般セッション)
- 隠れマルコフモデルおけるベイズ状態推定とその精度解析(機械学習とその応用)
- ブレグマン情報量を用いたベイズ学習の局所変分近似(知的システム,一般)
- 混合分布のノンパラメトリック推定と最小ダイバージェンス法(ポスターセッション,第14回情報論的学習理論ワークショップ)
- 混合分布のノンパラメトリック推定と最小ダイバージェンス法
- アクティブ計測とパッシブ計測を用いたパケット損失率推定法(行列分解,応用,統計推理,データベース,一般)
- 冗長な変数がある場合のベイズ潜在変数推定誤差について(統計数理,統計推理,データベース,一般)
- 完全データと不完全データの混合からのラベル推定精度について
- 基本図の線形性に基づくSOVモデルのパラメータ推定(応用)
- 最尤法における潜在変数推定の理論解析
- 完全データと不完全データの混合におけるベイズ潜在変数推定の精度(機械学習一般とその応用)
- 自由エネルギーによる潜在変数推定精度の計算法(第15回情報論的学習理論ワークショップ)
- 交通流の時空図におけるZRPのパラメータ推定と能動学習(第15回情報論的学習理論ワークショップ)
- 漸近的ミニマックス性とデータ数の知識の関係について
- 完全データと不完全データの混合からのラベル推定精度について