ボルツマンマシンにおけるモデル選択について

概要

論文の詳細を見る
本論文では,隠れ素子なしのボルツマンマシンを用いた学習における結合パターンの決定という問題を扱う.これは,統計的モデル選択問題の一種である.モデルの良さを表す規範のとり方としては多くの方法が提案されているが、ここではMDL(minimum description length)を用いた選択法を考える.ボルツマンマシンにおける結合パターンの総数は素子数と共に爆発的に増加するので,すべてのモデルの中からMDL最小となるモデルを探索する従来の方法では,計算量的に膨大な負担を強いられる.また,MDLを求める際の対数ゆう度の計算では,あらゆる状態に関するエネルギー値をすべて求めるという手続きが必要であり,これはボルツマンマシンの分散並列性を大きく損なう.そこで,MDLを用いたモデル選択において計算量を軽減するための方策として,「隣接モデル探索」および「対称化ゆう度差SLD」という二つのアイデアを導入する.簡単な場合について計算機シミュレーションを行い,これらの方法の有効性を検証する.
社団法人電子情報通信学会の論文
1993-09-25