Gibbs sampler の分布収束最適性
スポンサーリンク
概要
- 論文の詳細を見る
多次元の確率変数をMCMC(Markov Chain Monte Carlo)で発生させる際,一回の状態推移で単一の変数のみを更新する方法が主に用いられている.この単一の変数更新MCMCの基本的な性質を示す.Gibbs samplerは単一変数更新のMCMCの一種であるが,これは単一変数更新MCMCにある種の制約条件を課することにより導出されるものであることを示す.単一変数更新MCMCを情報幾何学的見地から見ると,現時刻の分布が属するあるm-平坦な多様体上で次時刻の分布を選ぶことの繰り返しと解釈できる.またGibbs sampler法はこのm-平坦な多様体上でKLダイバージェンスの意味で目標とする分布πと最も近い分布を次時刻の分布として選ぶ貪欲算法と解釈できる.MCMCを初期分布が分からない状態で走らせた場合の最悪評価を与える量を定義し,単一変数更新MCMCのクラスではGibbs samplerが最良の結果を導くことを,ある限られた範囲で証明した.
- 2003-03-11
著者
関連論文
- Progressive Contrastive Divergence法
- ギブスサンプラーにおける部分木の同時更新
- Gibbs sampler の分布収束最適性
- 新グラフィカルモデル「発火過程ネットワーク」 : 学習の簡単な新モデル(第15回情報論的学習理論ワークショップ)