大域情報を用いた階層形ニューラルネットワークの学習法
スポンサーリンク
概要
- 論文の詳細を見る
本稿では、結合係数空間における誤差曲面の大域情報を用いることにより、学習が初期の結合係数に依存しない学習法を提案する。勾配法を用いる誤差逆伝播法では初期値によっては極小解に陥る、という問題がある。この問題に対し、誤差曲面上に探索範囲を設定し、探索範囲内での最小値を探索する、という操作を繰り返すことにより誤差を最小とするネットワークを探索する方法を提案する。探索範囲は誤差が大きい間は広く、誤差が小さくなると狭くするため、誤差曲面の詳細な探索が可能である。また、ネットワークの結合係数を1個ずつ変化させるため、探索に要する計算量は結合係数のオーダ程度である。
- 社団法人電子情報通信学会の論文
- 1999-07-19
著者
関連論文
- 教師が非単調な場合のアンサンブル学習
- Tree Augumented Naive Bayesとベイジアンネットを組み合わせたベイズ推定による幼児の室内行動認識
- ノードパータベーション学習の統計力学(脳活動の計測と解析,生命現象の非線形性,一般)
- ノードパータベーション学習の統計力学(脳活動の計測と解析,生命現象の非線形性,一般)
- パーシャルアニーリングの統計力学 : 相互作用がメキシカンハット型の場合(ハードウェア(2),ニューロハードウェア,一般)
- 同軸形厚膜抵抗減衰器の製造工程の改善
- 2W-9 非線形方準教師群によるパーセプトロン学習(学習(1),学生セッション,人工知能と認知科学,情報処理学会創立50周年記念)
- アンサンブル学習の統合機構と相互学習
- 潜在的な教師のある相互学習の統計力学
- 線形ウィークラーナーによるアンサンブル学習の汎化誤差の解析
- パラレルブースティングのオンラインラーニングの理論
- マージンを用いた単純パーセプトロン学習法のオンラインラーニングの理論
- マージンを用いた単純パーセプトロン学習法のオンラインラーニングの理論
- 汎化能力獲得のためのデータ選択法と学習法
- 教師がコミティマシンの場合のアンサンブル学習(一般)
- オンライン学習理論に基づく単純パーセプトロンのアンサンブル学習の解析(パターン認識)
- オンライン学習理論に基づく単純パーセプトロンのアンサンブル学習の解析(統計的学習理論及び一般)
- 非確定的結合係数更新による階層形ニューラルネットワークの学習
- D-2-11 大域情報を用いた階層形ニューラルネットワーク学習の最適化
- 大域情報を用いた階層形ニューラルネットワークの学習法
- 2U-7 複数の準最適教師を用いた線形パーセプトロン学習(ニューラルネット,学生セッション,人工知能と認知科学,情報処理学会創立50周年記念)
- D-2-2 相互学習を用いた集団のための共通鍵生成法(D-2.ニューロコンピューティング,一般講演)
- IJCNN2004参加報告
- D-2-1 部分反転法の動作解析
- D-2-10 誤差分布を考慮した動的学習法
- [チュートリアル講演]アンサンブル学習(統計的学習理論及び一般)