雑音を考慮した過学習の理論
スポンサーリンク
概要
- 論文の詳細を見る
階層型神経回路網の学習に誤差逆伝搬法(BP法)を用いる場合に過学習現象が問題になる.筆者らは文献(12)で,雑音を含まない訓練データが与えられた場合についてこの問題を論じ,過学習の原因が,汎化能力を考慮した評価基準を,BP法で用いられる記憶学習の評価基準で代替することにあることを明らかにした.そして,本来の評価基準と代替評価基準の関係を用いて,過学習の概念を厳密に定義し,過学習が生じる一般的な条件を明らかにした.本論文では,この一般論を,雑音を含んだ訓練データが与えられた場合にも適用できることを示す.まず記憶学習の概念を雑音を含んだ訓練データが与えられたときに,そのとおりに答えようとする機械的記憶学習に拡張する.そしてこの評価基準が,ウィーナーの評価基準の代替として用いられる場合を論じ,過学習が生じるための必要十分条件を明らかにする.これらの条件は,過学習を起こさない訓練データの与え方も示している.
- 1993-11-25
著者
関連論文
- 再帰型高次結合ニューラルネットワークによる正規言語の学習
- 全運動軸点推定の数学モデル
- Active Learning for Maximal Generalization Capability (Applications of the theory of reproducing kernels)
- 二値回帰問題のための新しいカーネルの提案
- D-11-97 劣化した印刷画像の画質改善
- D-2-6 訓練入力に雑音が含まれる場合の汎化誤差の推定
- AP-6-1 標本化と量子化(AP-6.信号・画像の離散化、特に量子化法についての討論-OK量子化理論とその展望-,パネル討論,ソサイエティ企画)
- 関数解析的学習理論 (函数解析学と数理情報の接点)
- D-2-2 モデル選択基準Corrected Subspace Information Criterionの理論的性能評価
- 信号処理に帯域通過型標本化定理を応用した光干渉式高速表面形状測定装置
- Subspace Information Criterionによる画像復元フィルタのパラメータ最適化
- 標本点とモデルの同時最適化
- NLP2000-32 / NC2000-26 標本点とモデルの同時最適化
- 帯域通過型標本化定理を用いた白色光干渉による表面凹凸形状の高速測定
- 最適汎化ニューラルネットワークの誤差最小構成法
- 相対KL変換法によるパターン認識
- 相対KL変換法によるパターン認識
- 相対KL変換法によるパターン認識
- 最大差型部分空間法によるパターン認識
- 帯域制限波形空間多重解像度解析のよるシャノンウェーブレットフレーム
- 信号・画像推定のための射影フィルタ族の統一理論
- 各種最適画像復元フィルタの相互関係
- 最適画像復元フィルタと一般逆
- 画像空間の位相と最適画像復元フィルタ
- 最適画像復元フィルタと一般逆 : 画像処理・コンピュータビジョン
- ウェーブレット解析による3次元物体認識
- 部分空間法による読唇
- 自己相似タイリング多重解像度解析とそのウェーブレット基底による実現
- レーザプリンタの自動判別について
- 非定常信号の実時間復元
- 単一断線故障を修復可能な最適汎化ニューラルネットワーク
- 記憶学習の射影学習族に対する適応可能性
- 射影学習族
- D-2-27 単一断線故障が生じたニューラルネットワークの最適汎化能力の復元
- D-2-25 射影学習族と最小分散型射影学習
- 射影学習族
- 教材の追加・削除による記憶学習の射影学習に対する最適許容化
- 雑音を含んだ訓練データに対する誤り修正型記憶学習
- 射影学習族の記憶学習に対する許容性
- 教材の追加による過学習の抑制
- 誤り修正型記憶学習
- 雑音が存在する場合の射影学習の記憶学習に対する許容性
- 射影学習の記憶学習に対する許容性
- 東工大における画像処理研究動向 : 小川研究室,酒井・吉田研究室,中嶋・亀井研究室 : 画像処理・コンピュータビジョン
- 単一断線故障を修復可能な最適汎化ニューラルネットワークの構成法
- バイアスの推定とモデル選択
- D-2-24 最良線形不偏推定の拡張としての射影学習
- 訓練データの雑音抑制と汎化能力
- 射影学習による手書き数字認識
- 最適汎化のための逐次型能動学習
- バイアスを考慮した逐次型能動学習
- 最適汎化のための射影学習族の追加学習
- D-2-26 三角多項式ニューラルネットワークの能動学習
- 射影汎化ニューラルネットワークの追加学習
- 三角多項式モデルを用いた訓練データの最適設計
- 雑音抑制のための能動学習
- 雑音抑制のための能動学習
- 白血球抗原(HLA)自動検査システムの開発
- 特集「画像処理エキスパートシステム」の編集にあたって
- 最適汎化能力をもったニューラルネットワークの追加学習
- 最適汎化能力をもった神経回路網の追加学習
- 最適汎化ニューラルネットワークの最適構成法
- 最適汎化ニューラルネットワークの最適構成法
- 適応型射影追加学習
- 多項式ボルツマン機械
- 過学習を起こさない教材の選び方
- 雑音を考慮した過学習の理論
- 過学習の理論
- 擬似双直交性理論とその応用 (再生核の理論とその応用)