二次近似範囲を調整する共役勾配法とBP学習への適用
スポンサーリンク
概要
- 論文の詳細を見る
ニューラルネットワークの学習法であるBP学習は,本質的には最急降下法として導出されたため,収束速度や初期値依存性の問題点が指摘されていた。学習速度に対しては,共役勾配法を適用することにより,かなりの高速化が達成できると報告される。しかし,共役勾配法はもともと二次関数の最小化問題に対して導出された方法であり,BP学習のような一般の関数の探索問題に関しては,それが局所的には二次近似できるという考えから,そのまま適用されているにすぎない。共役勾配法は初期値によっては,最急降下法では陥らないような大きな誤差のローカルミニマに陥ることもある。そこで,本稿では,適切な二次近似範囲を設定しながら,探索を進める適応共役勾配法アルゴリズムを提案する。
- 社団法人電子情報通信学会の論文
- 1994-10-13
著者
関連論文
- 高次元ベクトル空間モデルによるテキスト分類問題について : 分類性能と距離構造の漸近解析(理論・技術)
- 一般化LDPC符号に対する部分符号の構造を利用した効率的な符号化法(フレッシュマンセッション,フレッシュマンセッション,一般)
- 共役勾配法における探索効率向上法に関する一考察
- IT2010-28 高符号化率までパンクチャ可能なLDPC符号に関する一考察(フレッシュマンセッション,一般)
- IT2010-13 混合Polya分布に基づくサブカテゴリを考慮した文書分類手法(フレッシュマンセッション,一般)
- IT2010-11 アルファベットが未知の木情報源に対する効率的ベイズ符号化アルゴリズム(フレッシュマンセッション,一般)
- Z変換によるG型定期発注方式の解析 : 定期発注方式の研究
- 制御パラメータをもつ定期発注方式による発注量・在庫量分散の解析
- Z変換によるG型定期発注方式の解析 : 発注量と在庫量の制御に関する研究
- G型発注方式による発注量・在庫量分散の解析 : 発注量と在庫量の制御に関する研究
- 在庫量・発注量変動により発生するコストを制御する定期発注方式に関する研究
- 在庫量・発注量変動により発生するコストを制御する定期発注方式に関する研究
- 3-4 パートナー満足に関する改善指針の提案(第71回(本部)研究発表会)(第3会場)
- 重み付き最小二乗法を用いたAHPのウエイト推定法に関する研究
- 評価関数の重みパラメータを推定する対話型遺伝的アルゴリズム(「コミュニティ上での知識の共有・再利用」及び一般)
- PLSIを用いた文書分類手法に関する一考察(「コミュニティ上での知識の共有・再利用」及び一般)
- メッセージ伝播型復号法に効果的な非正則LDPC符号の構成法と復号順序の決定法(フレッシュマンセッション,フレッシュマンセッション,一般)
- ソーシャルブックマークにおけるユーザのタグ付け傾向を加味したWebページ推薦手法(「コミュニティ上での知識の共有・再利用」及び一般)
- D-012 フォークソノミーにおけるタグの意味的関係分析に関する一考察(データベース,一般論文)
- 変傾共役勾配法によるBP学習の安定化と高速化
- 共役勾配法によるBP学習について
- A-002 観光地の指定とスケジュールの多様性を考慮した観光スケジュール作成支援(モデル・アルゴリズム・プログラミング,一般論文)
- ブロック単位で系列を出力する情報源に対するベイズ符号とZiv-Lempel符号のユニバーサル性について
- 線形回帰モデルのベイズ最適な予測法に関する研究
- 線形回帰モデルのベイズ最適な予測法に関する研究
- マルコフ情報源に対し誤り伝搬を抑えるVF符号に関する一考察
- 木構造のモデル族の学習・予測アルゴリズムに関する一考察
- 統計的モデル選択問題における選択誤り確率に関する一考察
- 情報源モデルのパラメータ推定とZiv Lempel符号について
- String Matching Algorithmに基づく有歪み圧縮について
- サプライ・チェ-ン・マネジメント 総論 (特集 サプライ・チェ-ン・マネジメント)
- String Macthingに基づく有歪み圧縮に関する研究
- 生産問題は永遠の課題
- 経営工学グループの発展
- 順序カテゴリカルデータ解析における母数推定に関する研究
- 発注サイクル期間の異なるPush型生産システムとPull型生産システムの発注量・在庫量変動に基づく特性解析
- 階層型ニューラルネットワークの混合モデルによるベイズ最適な予測について
- 有色雑音をもつ線形システムの最適制御則と定期発注システムへの適用
- 階層型ニューラルネットワークの混合モデルによるベイズ最適な予測について
- FK型発注システムによる定期発注システムの統一的考察
- 最適レギュレータに基づく定期発注システムに関する研究
- 共役勾配法を導入したBP学習における安定化に関する研究
- 発注量・在庫量の両変動を制御する生産-在庫システムの研究
- 周期的に自己相関を持つ需要系列に対するG型定期発注方式の解析 : 定期発注方式の研究
- ファジィAHPにおける最終ウェイトの一致度の近似に関する研究
- 周期的に自己相関をもつ需要系列に対する定期発注システムの研究
- 一般化LDPC符号に対する効率的な符号化法
- 2元系列のメッセージを用いたビット反転復号法の改良
- 学習アルゴリズムが与える汎化への影響について
- 二次近似範囲を調整する共役勾配法とBP学習への適用
- 階層型ニューラルネットワークにおける入力変数の指定法
- 在庫量変動/発注量変動を制御する生産 : 在庫システムの研究
- 中堅・中小企業とTQC活動 (中堅・中小企業におけるTQC活動)
- 発注量変動の制御に関する研究 : 定期発注方式の研究
- 発注量と在庫量の制御に関する研究 : 定期発注方式の研究(1986年春季研究発表抄録)
- ロボット化とTQC (ロボット化とTQC)
- 発注量変動の制御に関する一研究 : 定期発注方式の研究
- 化学プロセスの回帰モデル構築に関する一研究(1984年春季研究発表抄録)
- FA化と品質 (FA化と品質)
- 20・1 総説(20.生産システム,機械工学年鑑)
- ソーシャルブックマークにおけるユーザのタグ付け傾向を加味した Web ページ推薦手法
- 評価関数の重みパラメータを推定する対話型遺伝的アルゴリズム(人工知能,データマイニング)
- 特集にあたって
- 部分的な復号を可能にするLZ78符号の修正符号
- 文脈木重みづけ法を用いた文書分類の誤り確率について
- F-040 混合決定木モデルによる連続変数の予測法に関する一考察(学習とゲーム,F分野:人工知能・ゲーム)
- A-009 アルファベットサイズが未知の情報源に対する効率的なベイズ符号化法の一考察(アルゴリズム・コンピュテーション(1),A分野:モデル・アルゴリズム・プログラミング)
- F-015 二値判別器の組み合わせによるRVM多値文書分類手法に関する一考察(パタン識別,F分野:人工知能・ゲーム)
- F-020 商品の比較履歴とユーザーレビューに基づく推薦手法に関する一考察(情報推薦,F分野:人工知能・ゲーム)
- 未観測カテゴリーを含む文書データの自動分類手法に関する研究(研究速報)
- A-006 検査行列の構造を利用したLDPC符号のパンクチャ法に関する一考察(アルゴリズム・コンピュテーション(1),A分野:モデル・アルゴリズム・プログラミング)
- テキスト分類問題におけるカテゴリ情報を用いた適応的距離学習に関する一考察(第15回情報論的学習理論ワークショップ)
- ECOC法における分類器の予測精度を考慮した分類法に関する一考察(「コンテキストを意識した知識の利用」及び一般)
- プライバシー保護を目的とした線形回帰モデルにおける最小二乗推定量の分散計算法について(第15回情報論的学習理論ワークショップ)
- A-007 二元対称消失通信路におけるビット反転復号法の改善(アルゴリズム・コンピュテーション(1),A分野:モデル・アルゴリズム・プログラミング)
- 特徴語に注目したSmith-Watermanアルゴリズムに基づく剽窃ソースコードの自動検出手法(「コンテキストを意識した知識の利用」及び一般)
- 欠損値を含むデータのクラスタリングのためのRandom Forestを用いた類似度算出法(研究速報)
- プライバシー保護機能を持つ線形回帰モデルにおける最小二乗推定量の分散計算法について
- 大規模テキストデータの分類体系化のための機械学習に基づく半自動分類法の提案