パラメータ化オンライン準ニュートン法による階層型ニューラルネットワークの学習(一般及び雑音を有効利用する神経系やそのモデル)

スポンサーリンク

概要

論文の詳細を見る
本研究では準ニュートン法に基づく階層型ニューラルネットワークの新たな学習法を提案する.従来,階層型ニューラルネットワークの学習法に対して準ニュートン法に基づく学習法としてバッチ勾配学習法及びオンライン勾配学習法が提案されてきた.近年,ロバストな収束特性を持つ改良型オンライン準ニュートン法が提案された.改良型オンライン準ニュートン法では,学習データの与え方を改良することで準ニュートン法の収束特性を大幅に向上させることができた.本研究では,学習データの与え方をパラメータ化した,オンライン準ニュートン法に基づく学習アルゴリズムを提案する.また,提案手法とランジュバンアルゴリズムとの類似性に関して考察する.さらに,シミュレーションにより提案アルゴリズムが改良型オンライン準ニュートン法と同様のロバストな収束特性を持つことを示す.
2011-01-17

著者

関連論文

もっと見る

スポンサーリンク