跳躍アルゴリズムによる誤差逆伝搬学習則の停滞回避
スポンサーリンク
概要
- 論文の詳細を見る
階層構造ニューラルネットワークにおける代表的な誤差逆伝搬学習則(以下BP則)は幅広い実用分野でその有効性が示されている. しかし, 学習時に見られる評価誤差関数の変化の停滞現象は学習時間や収束性に大きな影響を与えている. これは評価誤差関数のネットワーク係数での偏導関数値が著しく小さくなる領域で生じていると考えられる. 本論文ではBP則における学習停滞を回避するために, ネットワーク係数の修正を跳躍的に行うことにより学習の高速化を図る手法を提案する. 具体的には学習回数に対するネットワーク係数の変化を局所的に2次関数により近似し, その関数上で係数更新を跳躍的に行うこととした. 提案法を用いることでBP則で生じる学習停滞を回避し, 学習が高速に収束することが確認された. また, 本論文を通して学習の高速化手法である文献[4]の手法(予測法)との比較を行い, 提案法は約1/3から1/2で学習収束し, 本手法の有効性を示した.
- 社団法人電子情報通信学会の論文
- 1996-02-25
著者
-
田口 亮
武蔵工業大学工学部生体医工学科
-
曽禰 元隆
武蔵工業大学
-
飯島 伸一
武蔵工業大学 電気電子工学科
-
曽祢 元隆
武蔵工業大学
-
ペッチャラニン ナレート
武蔵工大
-
山田 浩太郎
武蔵工業大学
-
ペッチャラニン ナレート
武蔵工業大学工学部電気電子工学科
-
田口 亮
武蔵工業大学 工学部 生体医工学科
関連論文
- データ依存型Biasingを伴う補間法によるディジタル画像の高解像度化(画像)
- データ依存型ウィナーフィルタの帯域分割処理による音声信号の雑音抑圧(システムオンシリコン及び一般)
- データ依存型Biasingを伴う補間法によるディジタル画像の高解像度化(画像システム,知的マルチメディア処理システム及び一般)
- 虹彩データの変動にロバストな虹彩認証に関する提案(生体,ソフトコンピューティング及び一般)
- ファジーメジアンフィルタの提案とその設計法
- 一般化調和解析による信号分析合成における窓関数の使用
- 位相限定相関法に基づく超解像度手法(ソフトコンピューティング,一般)
- 事象関連電位P300を用いた画像識別に関する実験的検討(信号処理,知的マルチメディアシステム,及び一般)
- 事象関連電位P300を用いた画像識別に関する実験的検討
- 座標点のWarpingと信号振幅値のBiasingを伴う補間によるディジタル画像の解像度向上(画像)
- ファジー推論による超解像度化手法(ネットワークプロセッサ,通信のための信号処理,及び一般)
- A-4-25 JPEG画像の超解像度化に関する一提案
- A-4-24 カラー画像信号の超解像度化に関する一提案
- 強調度合が可変な彩度ヒストグラム平たん化によるカラー画像の強調(研究速報)
- カラー画像を対象とした高発生率インパルス性雑音除去の一手法(システムオンシリコン,一般,システムオンシリコン,RFID技術及び一般)
- 事象関連電位P300を用いた画像識別に関する実験的検討(信号処理,知的マルチメディアシステム,及び一般)
- 多数決機械を用いたインパルス性雑音の検出法(研究速報)
- 表示可能性を保証したヒストグラム平たん化に基づくカラー画像強調手法(研究速報)
- ビット長伸長処理による画質改善法の提案(ソフトコンピューティング,一般)
- 画像復元のための2次元データ依存型荷重平均値フィルタのSystem-CによるFPGA実装(ソフトコンピューティング,一般)
- A-20-8 ファジー推論によるディジタル画像拡大法のハードウェアへの実装(A-20. スマートインフォメディアシステム,一般セッション)
- A-20-7 USB接続による暗号化デバイスの開発(A-20. スマートインフォメディアシステム,一般セッション)
- 階調数伸長処理による画質向上法
- 異なったカメラ間の色調整法について(システムオンシリコン,RFID技術及び一般)
- マルチチャネルウィナーフィルタによるカラー画像復元法(信号処理,知的マルチメディアシステム,及び一般)
- 心電図波形のガウス関数によるモデル化(スマートパーソナルシステム,一般)
- 高発生確率インパルス性雑音重畳画像復元のためのデータ依存型多重フィルタ窓メジアンフィルタ (適応信号処理の展開とその応用論文特集)
- 複数のマスク処理を併用した高発生確率インパルス性雑音重畳画像からのエッジ検出
- ファジー推論を用いた混合雑音重畳画像からのエッジ検出
- 多重解像度処理による高発生確率インパルス性雑音重畳画像からのエッジ検出
- 多重スケール処理による高生起確率インパルス性雑音重畳画像からエッジ検出
- ファジー推論による混合雑音重畳画像からのエッジ抽出
- 学習可能な階層形ファジィ制御器を用いたエッジ保存形フィルタの一実現法
- 立体観察プログラムの並列化アルゴリズム
- 改良モルフォロジー信号分解による1次元信号圧縮
- 競合学習ニューラルネットワークを用いた日本語母音認識
- 簡略化ヒストグラムエクスプロージョン法の提案とカラー画像信号強調への応用
- 簡略化ヒストグラムエクスプロージョン法の提案とカラー画像信号強調への応用
- CAS2000-2 / VLD2000-11 / DSP2000-23 ヒストグラム調整によるマルチチャネル信号の強調
- CAS2000-2 / VLD2000-11 / DSP2000-23 ヒストグラム調整によるマルチチャネル信号の強調
- CAS2000-2 / VLD2000-11 / DSP2000-23 ヒストグラム調整によるマルチチャネル信号の強調
- 特定の構造を保存するファジースタックフィルタ
- 特定の構造を保存するファジースタックフィルタ
- 特定の構造を保存するファジースタックフィルタ
- 特定の構造を保存するファジースタックフィルタ
- ファジースタックフィルタ (VI) : 特定の構造を保存する Fuzzy Median フィルタ
- マルチウィンドウ法を導入した新しいインパルス性雑音検出器を内在する復元手法の提案
- 雑音位置情報と画像の方向性を考慮したインパルス性雑音除去手法(多次元信号処理とその応用・実現論文小特集)
- 新しいインパルス性雑音検出法を用いたPSWAフィルタ
- 新しいインパルス性雑音検出法を用いたPSWAフィルタ
- 新しいインパルス性雑音検出法を用いたPSWAフィルタ
- 雑音位置情報と画像の方向性を考慮したインパルス性雑音除去手法
- 雑音位置情報と画像の方向性を考慮したインパルス性雑音除去手法
- 雑音位置情報と画像の方向性を考慮したインパルス性雑音除去手法
- 雑音位置情報に基づく高発生確率インパルス雑音重畳画像の復元
- インパルス雑音情報に基づく高発生確率インパルス雑音重畳画像の復元
- インパルス雑音情報に基づく高発生確率インパルス雑音重畳画像の復元
- AS-9-4 脳波による画質評価の可能性についての検討(AS-9.気の利いた情報システムのための画像・音響処理,シンポジウム)
- 誤差逆伝播学習則におけるつり合い型学習停滞回避法
- 多入力EXORにおける学習停滞要因の解析
- 誤差逆伝搬学習則における学習停滞の解析
- 順序パラメータを加えた構造要素モデルによるテクスチャ画像識別法
- 順序パラメータを加えた構造要素モデルによるテクスチャ画像識別法
- _ε-フィルタを用いたエッジ効果の生じない高周波数成分推定を伴うディジタル画像拡大法の提案(ディジタル信号処理)
- マルチチャネルウィナーフィルタによるカラー画像復元法(信号処理,知的マルチメディアシステム,及び一般)
- マルチチャネルウィナーフィルタによるカラー画像復元法(信号処理,知的マルチメディアシステム,及び一般)
- 彩度ヒストグラム平坦化によるカラー画像強調手法(スマートパーソナルシステム,一般)
- ニューラルネットワークによる漢字の学習認識
- ファジールールに基づく信号細部変化を保存する補間手法
- ファジー推論を用いた雑音が重畳された画像の強調に関する一手法
- 混合雑音重畳画像復元のためのファジーフィルタの提案
- GFWM(Generalized Fuzzy Weighted Median)フィルタの提案とその設計法
- ニューラルネットワークを用いたラプラシアンピラミッドに基づくディジタル画像の拡大
- ファジー推論を用いた雑音画像からのエッジ抽出法
- 局所分散を利用した高解像度化ニューラルネットワーク
- ファジー荷重メジアンフィルタに関する一設計法
- データ依存型FCWM (Fuzzy Center Weighted Median) フィルタの一提案
- 局所統計量に基づくデータ依存型LWOSフィルタに関する一提案
- ファジースタックフィルタ(VII) : 2つのファジー荷重メジアンフィルタ実現手法の比較検討
- ELSEルールを加えたファジーフィルタ
- FCWM (Fuzzy Center Weighted Median)フィルタの提案とその設計法
- ラプラシアンピラミッドに基づくディジタル画像の高解像度化
- ファジースタックフィルタ(V) : データ依存型Fuzzy Center Weighted Median(DD-FCWM)フイルター
- ファジースタックフィルタ(IV) : 一般化されたファジー荷重メジアンフィルタ
- ファジールールに基づく適応型順序統計フィルタによる画像処理
- ファジィ推論を用いた雑音画像からのエッジ抽出法
- ファジースタックフィルタ(III) : 簡単なファジー荷重メジアンフィルタの実現
- ファジー推論を用いた混合雑音が重畳したカラー画像の復元手法
- 混合雑音除去のためのファジーフィルタの提案
- 差分情報を用いた非線形フィルタ
- 画素間差分に基づくチューニング可能なエッジ保存型ファジーフィルタ
- メジアンニューラルネットハイブリッド(MNNH)フィルタの提案
- NRG動画像における動点検出法の開発
- Bスプライン補間による画像拡大法の検討(ディジタル信号処理,スペクトル拡散及び一般)
- Bスプライン補間による画像拡大法の検討(ディジタル信号処理,スペクトル拡散及び一般)
- ブロックマッチング動き補償に基づくフレーム間補間法(研究速報)
- A-20-8 スタックフィルタのFPGA実装(A-20.スマートインフォメディアシステム,一般講演)
- A-20-7 成分間の相関を考慮したウィナーフィルタによるカラー画像信号の復元(A-20.スマートインフォメディアシステム,一般講演)
- 異なったカメラ間の色調整について(ソフトコンピューティング及び一般)
- 表示範囲を考慮したYC_rC_b色空間におけるカラー画像強調手法(システムオンシリコン,RFID技術及び一般)