動的サンプルサイズ選択法に基づく準ニュートン法による階層型ニューラルネットワークの学習
スポンサーリンク
概要
- 論文の詳細を見る
本研究では動的サンプルサイズ決定法を導入した階層型ニューラルネットワークの準ニュートン学習アルゴリズムに関して述べる.従来,階層型ニューラルネットワークの学習法に対して準ニュートン法に基づく学習法としてバッチ勾配学習法及びオンライン勾配学習法が提案されてきた.近年,オンライン学習とバッチ学習を組み合わせたロバストな収束特性を持つ,改良型オンライン準ニュートン法が提案された.改良型オンライン準ニュートン法では,学習データの与え方を改良することで準ニュートン法の収束特性を大幅に向上させることができた.本研究では,学習データの与え方を解析的に決定する手法を提案する.シミュレーションにより提案アルゴリズムが改良型オンライン準ニュートン法と同様のロバストな収束特性を持つことを示す.また,複雑な非線形特性を持つ関数の学習に対する提案手法の有効性を示す.
- 一般社団法人電子情報通信学会の論文
- 2013-07-01
著者
関連論文
- 学習データの与え方を改良した勾配学習アルゴリズムを用いたニューラルネットワークの学習に関する研究(機械学習によるバイオデータマインニング,生命現象の非線形性,一般)
- NLP2010-9 学習データの与え方を改良した勾配学習アルゴリズムを用いたニューラルネットワークの学習に関する研究(一般,機械学習によるバイオデータマインニング,生命現象の非線形性,一般)
- 3層リカレントニューラルネットワークの汎化能力に関する研究
- A-2-13 フィードバック結合を有する3層ニューラルネットワークに関する研究
- 3層リカレントニューラルネットワークとその学習アルゴリズム
- A-2-14 非線形シナプスを有するニューラルネットワークの学習アルゴリズム
- 6V-2 種分化を導入したPSOによる複数解を持つ多峰性関数の最適化(遺伝的アルゴリズム(2),学生セッション,人工知能と認知科学,情報処理学会創立50周年記念)
- A-2-4 Time Partition PSOによる動的多層ニューラルネットワークの学習(A-2.非線形問題,一般講演)
- A-2-7 PSOによる動的多層ニューラルネットワークの学習(A-2.非線形問題,一般講演)
- A-2-2 Particle Swarm Optimizationを用いたパッキング問題の解法に関する研究(A-2.非線形問題,基礎・境界)
- 2W-6 改良型online記憶制限準ニュートン法によるニューラルネットワークの学習(学習(1),学生セッション,人工知能と認知科学,情報処理学会創立50周年記念)
- 改良型オンライン準ニュートン法に対する学習データの与え方の影響に関する考察
- online/batchハイブリット型準ニュートン法による階層型ニューラルネットワークのロバスト学習に関する研究
- MIMO通信における相互情報量基準に基づく量子化器の設計法(誤り訂正符号,一般)
- 動的サンプルサイズ選択法に基づく準ニュートン法による階層型ニューラルネットワークの学習