逆伝搬誤差可変型学習法による学習停滞・停止回避
スポンサーリンク
概要
- 論文の詳細を見る
階層構造ニューラルネットワークの代表的な学習則である誤差逆伝搬学習則はパターン認識に有効であるが / 学習停滞・停止により, 学習に時間を要する問題がある. その1要因として, 非線形ノード出力が教師信号と異なる飽和領域に存在することで, ノードの微分値により算出される係数修正量は誤差に反して減少してしまうことが挙げられ, そのことによって, 教師信号と同じ飽和領域への移行に長時間を要することになる. 本論文では教師信号と異なる飽和領域内においても, 係数修正量を均一にかつ効果的に大きくするため, 最急降下法により得られる逆伝搬誤差に直接制御を加える手法, 逆伝搬誤差可変型学習法を提案する. 提案法における係数修正量は, 教師信号と異なる飽和領域内においてBP則で得られる最大係数修正量と均一になるよう逆伝搬誤差に制御を加え, それ以外の領域では特に制御を加えず, BP則と同様とする. 提案法は学習停滞・停止にほとんど陥らない手法であることを, 実際の学習例を通じて明らかにした. また, 学習係数を可変させることにより飽和領域内の係数修正量を増加させる手法である. DCLA法との比較においても提案法はその有効性が示された.
- 1997-02-25
著者
関連論文
- 油中に溶解した水クラスタの伝導性に及ぼす疎水基の作用
- 酸化劣化を想定した油中で形成される水クラスタの電気伝導
- 液体誘電体中溶存水の電気伝導性と溶存水の存在状態
- 含水ブチルベンゼン中のフルフラールによる絶縁性向上効果
- FT-IR分光法によるポリジメチルシロキサン中溶存水の状態分析および溶存水の絶縁性低下に及ぼす作用
- 変圧器油膜擬誘電体における酸化劣化時の電気伝導に及ぼす溶存水の効果
- DSPとGPSを用いた多地点同期フェーザ計測システムの開発
- 分散メモリ型マルチDSPによる誤差逆伝播学習則の高速化
- A-4-28 マルチDSPシステムによるニューラルネットワークの学習の高速化
- 高発生確率インパルス性雑音重畳画像復元のためのデータ依存型多重フィルタ窓メジアンフィルタ (適応信号処理の展開とその応用論文特集)
- 複数のマスク処理を併用した高発生確率インパルス性雑音重畳画像からのエッジ検出
- ファジー推論を用いた混合雑音重畳画像からのエッジ検出
- 多重解像度処理による高発生確率インパルス性雑音重畳画像からのエッジ検出
- 多重スケール処理による高生起確率インパルス性雑音重畳画像からエッジ検出
- ファジー推論による混合雑音重畳画像からのエッジ抽出
- 回転する多連光学楕円体による光透過率変化の3次元解析
- 細菌加熱法によるひまし油と溶存水との相互作用の検討
- 立体観察プログラムの並列化アルゴリズム
- 1C2-4 負荷電流に対するディジタルPIコントローラの最適性(1C2 最適化1)
- 実験計画法による過渡特性が改善できるデジタル電源の制御パラメータ決定法
- 高性能スイッチング電源に対するディジタル電圧・電流制御パラメータ決定に関する検討(電子通信エネルギー)
- DSPによるディジタルラジオの製作(TI DSP・アナログ・チャレンジ2000地区優勝論文)
- HIDランプにおける点灯条件の解析
- HIDランプの点灯条件解析におけるシミュレーションシステムの開発
- 31. HIDランプ用デジタル制御安定器の開発
- 30. HIDランプ銅鉄安定器における電圧 : 電力特性の可変方法
- 29. 高圧水銀ランプ点灯時における歪み波形の解析
- 競合学習ニューラルネットワークを用いた日本語母音認識
- D-2-15 最小解のネットワークのための中間層ユニット最適化
- 電力状態量のリアルタイムフェーザ変換
- 中間層ユニット数と停滞要因の関連性
- 誤差逆伝播学習則におけるつり合い型学習停滞回避法
- 多入力EXORにおける学習停滞要因の解析
- 誤差逆伝搬学習則における学習停滞の解析
- Bergeron 法による電力系統過渡解析と Multi-DSP による並列処理
- A-4-26 高速掃引を可能にするスペクトラム・アナライザの開発(A-4. ディジタル信号処理)
- 真空中の電界電子放出源の挙動に対する課電履歴の影響について
- 耐熱絶縁用セラミックスからの 電子, イオン放出について
- 真空ギャップにおける絶縁破壊前駆電流特性と絶縁破壊電圧の関係
- ニューラルネットワークによる漢字の学習認識
- 解説 マルチクラスタシステムの開発
- 異種マルチDSPシステムで構成されるマルチクラスタ管理システムの開発
- エンジン発電機における自動電圧調整器 (AVR) へのH_∞制御の適用
- DC電源の高調波電流のディジタルスイッチングによる改善
- 負荷変動に追従したニューラルネットワーク制御電源の開発
- ディジタル制御によるインバータ機能の分散化とその効果
- 自家用発電機向けAVRのディジタル化と実機試験による各種制御方式の検討
- ニューラルネットワークによる火力発電用ボイラ向けバーナ火炎の燃焼状態評価
- RNNによる配電線搬送波の雑音除去と復調
- ニューラルネットワークによるバーナ火炎燃焼状態評価
- 構造学習を用いた階層型ニューラルネットワークの確立
- 多連屈折率楕円体による光伝搬特性の3次元的解析
- DSPを用いたディジタルPWMによる交流電源の波形・効率の改善
- A-4-31 データ間引きを用いたOFDMシンボル同期の実現に関する検討(A-4. ディジタル信号処理)
- A-4-16 OFDM 等化処理の 16bit 固定小数点演算実現のための検討
- 制御用プロセッサとしてのRISC,DSP,FPGAの性能比較
- 最小タスクの融合によるタスクの粒度調整手法の提案
- GPSを利用した高精度タイマの開発
- FT-IR 分光法によるエーテル類中の溶存水の状態分析およびその熱安定性
- 大規模FFTの高速化のためのマルチDSPシステムの構築
- クリティカルパスによる通信時間を考慮したタスクスケジューリング : 様々なネットワークトポロジーへの適用
- H_∞制御によるエンジン発電機ディジタル励磁制御系
- A-4-22 周波数領域による非線形フィルタの評価方法の提案
- DSPを用いた大規模マルチプロセッサシステムの構築
- 専用プロセッサにおける内部アーキテクチャの構成
- マルチDSPシステムによる電力用発電機過渡安定度解析の高速化
- 各種DSP汎用コンパイラの開発
- 電力バランス等価モデルによる系統縮約手法の提案
- タスクの自動割り当てを用いた過渡安定度計算の並列化
- HFネットワークと並列処理アーキテクチャによる過渡安定度判別
- 電力系統過渡安定度判定における並列処理アーキテクチャの提案
- DSPマルチプロセッサを用いたANNシミュレータ
- ニューラルネットワークを用いた日本語母音認識
- 顔の向きにロバストな顔画像認識の検討
- 共有メモリ型ネットワークにおける調停方式の選択手法
- 通信時間を考慮したマルチDSPシステムの構造決定のためのシミュレーション
- マルチDSPによるネットワークの性能評価
- エンジン発電機用ディジタルAVRの開発
- アクセス競合時における通信時間を考慮した優先度可変型調停方式
- FT-IR スペクトル法によるテトラデカン, 流動パラフィンおよびポリブタジエン中の溶存水の状態分析: 共存イオンの効果
- FT-IR分光法による飽和および不飽和エステル類中の溶存水の状態分析およびその熱安定性
- FTIR分光法による飽和炭化水素, 不飽和炭化水素および芳香族炭化水素中の溶存水の状態分析およびその熱安定性について
- FTIR分光法によるデカン,ジブチルエーテル,3-デカノンおよびデカン酸メチル中の各溶存水の状態分析およびその加熱変化について
- 解説 パイプライン高速化技術
- シミュレーションによる変圧器の電流波形解析 (2001年版スイッチング電源ハンドブック--高効率DC-DCコンバータ最新技術&電源シミュレーションおよび自動車用蓄電システム) -- (第3編 スイッチング電源設計のシミュレーション活用技術)
- スイッチング電源のシミュレーションとDSPによる制御--DSPによるスイッチング電源制御回路簡素化の試み (2000年版スイッチング電源ハンドブック--小型・高効率DC-DCコンバータ&電源マネージング最新技術動向と基礎演習) -- (基礎から学ぶスイッチング電源)
- ディジタルPWM制御によるインバータ高速波形修正
- 遅れ時間を考慮した電圧制御法
- リカレントニューラルネットワークによる配電線搬送波の雑音除去と復調
- RNNによるノイズを考慮したFSK信号の復調
- 系統連系インバータのDSP制御
- 共有メモリ型ネットワークを用いた調停CG法による有限要素解析の高速化
- ニューラルネットワークによるディジタルAVRの開発
- 三相インバータのディジタル制御化
- 三相インバータ電源における不平衡負荷対応型電圧制御
- 449 副鼻腔のX線画像、CT画像診断に対する自動診断導入
- A-4-17 DSP による画像強調の実時間処理
- FPGAによる制御用プロセッサの検討
- ニューラルネットワークを用いたインバータ制御電源の開発
- DSPによるディジタル制御電力増幅器の開発