α-情報量を用いたボルツマンマシン型学習法とその連想記憶モデルへの応用

スポンサーリンク

概要

論文の詳細を見る
ボルツマンマシンの学習則は、外部から与えられた確率分布を自らの平衡確率分布で近似するアルゴリズムである。この学習アルゴリズムは、両確率分布がどの程度離れているかを見る尺度としてKullback情報量を用いており、これを極小とするように勾配法によってネットワークのパラメータを修正していくものである。しかし、確率0を含むような分市を外界から与えて学習を行なうと、KulIback情報量を用いている以上、学習は収束せずネットワークのパラメータは∞に発散してしまう。本研究では、Csiszarのf-ダイバージェンスの一種であるα-情報量を用いて、ボルツマンマシンの学習と同様に、これを勾配法により極小化する学習アルゴリズムを導く。また、Hopfield型の連想記憶モデルに導入して、特に偽記憶の発生などに関して元のボルツマンマシンの学習との比較を行なう。
一般社団法人情報処理学会の論文
1994-09-20

著者

関連論文

もっと見る

スポンサーリンク