増殖型ニューラルネットワークによる学習の改良
スポンサーリンク
概要
- 論文の詳細を見る
ニューラルネットワークは柔軟で優れた情報処理能力を持っている.本論文では特に,学習時にニューロンの数が増える場合を想定し,学習にどのような特徴が出てくるか検討した.ニューラルネットワークの基本構造は,入力層・中間層(隠れ層)・出力層のフィードフォワード型層状ネットワークである.学習方式の基本は,教師付き学習で中間層も学習できる誤差逆伝播法とした.学習対象の性質に応じて中間素子の増え方が変わる.本論文では, 次の3つの場合について検討した.(I)大規模ネットワークの学習の高速化:入力ベクトルの次元が高く,現象が複雑である場合,学習すべき重み係数の数が非常に多くなる.標準の誤差逆伝播法での学習には非常に多くの時間を要する.そこで,最初は大まかに,学習が進むにつれて細かい学習ができるようにして学習の高速化を図った. (II)汎化能力を持った学習:誤差逆伝播法は二重らせん問題のような微妙な出力制御ができる.一方で,既学習の入力と少し異なる値を持つ未学習の入力に対して出力が大きく変化するといった,過学習と呼ばれる問題がある.未学習であっても類似した入力には似たような出力を持つネットワークとなるような学習方式を提案した. (III)主成分分析をする砂時計型ネットワーク:入力と同じ値を出力に持つように学習させると,重み係数に主成分を持ち,中間素子の出力の2乗平均値が固有値になるようなニューラルネットワークを構成できる.この場合は,線形素子,即ち出力関数は線形であるとしている. たとえば,(III)の課題では,時変系への拡張,非線形素子への拡張など,学習パターンの性質に応じてさらに多くの課題に適応することが期待される.
- 2011-03-31
著者
関連論文
- 増殖型線形ニューラルネットワークによる主成分分析
- リアルタイム音声分離のための独立成分分析
- 線形ニューラルネットワークによる主成分分析 : すべての主成分の抽出
- 教育支援のためのアクセス解析システムの開発
- プログラミング教育におけるインターネット教材の評価
- インターネット配布による課題学習についての検討
- 任意話者間の音声特徴パラメータの変換
- 大規模ニューラルネットワークにおける学習の高速化 : 衛星画像における雲近傍効果の評価への応用
- 層状ニューラルネットワークにおける学習アルゴリズムの初期値問題
- 海色データにおける雲一気体分子散乱の影響 -神経回路網を用いた被影響画素の識別-
- 増殖型ニューラルネットワークによる学習の改良
- 開発工学部における「情報処理実習」に対する授業評価の要因分析
- プログラミングのための自習用教材の開発
- プログラミングのための自習用教材の開発
- 任意音声生成のためのニューラルネットワークにおける学習の高速化