モデル細胞のしきい値ノイズによるバックプロパゲーション学習の高速化

スポンサーリンク

概要

論文の詳細を見る
本研究では、階層型ニューラルネットワークモデルの代表的な学習則であるバックプロパゲーション学習の時にしきい値にノイズを挿入し、その学習および出力にどのような変化が起こるかを計算機実験により明らかにした。排他的論理和の学習を行った結果、ノイズの大きさによって学習終了までの時間が変化することがわかった。収束条件(平均二乗誤差)を10^<-5>としたとき、ノイズがないときよりもしきい値の大きさに対し50%ほどのノイズがあった方が収束速度が速いことがわかった。また、学習中にノイズを含めたニューラルネットワークはしきい値のノイズに対してロバストであることもわかった。解析の結果、学習が進むにつれ出力の平均二乗誤差が振動し、その振幅のノイズによる変化が学習速度に影響を与えていることがわかった。
2007-03-08

著者

関連論文

もっと見る

スポンサーリンク