ニューラルネットワークの推定誤差の解析と学習データ最適化手法
スポンサーリンク
概要
- 論文の詳細を見る
多層パ-セプトロンなど函数近似を行なうニュ-ラルネットワ-クを用いて未知システムの入出力関係を学習する問題を考える。パタ-ン認識などと異なり未知システムがどんな入力に対しても出力を返答できると仮定すると、ニュ-ラルネットワ-クを実際の環境下で使用する際の入力デ-タの発生分布と、学習デ-タを採取する際の入力分布は、異なるものを用いることができる。本稿ではどのような入力分布を学習時に用いるとネットワ-ク使用時の平均2乗誤差が小さくなるかを、統計的漸近理論を用いて解析し、その解析に基づいて学習デ-タの採取アルゴリズムを提案する。さらに簡単な場合についてシミュレ-ションを行なうことにより提案されたアルゴリズムの有効性を検証する。
- 社団法人電子情報通信学会の論文
- 1994-03-25
著者
関連論文
- 多値判別における2値判別機のゲーム理論的組合せ法(人工知能,認知科学)
- 再生核ヒルベルト空間を用いた統計的推論 (再生核の応用についての研究)
- IT野ニューロン集団の時間相関を取り入れたクラスタリング
- 29pXH-7 側頭葉の顔応答ニューロンの混合正規分布解析(29pXH ニューラルネットワーク(神経系のモデルを含む),領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 混合 von Mises-Fisher 分布の変分ベイズ推定について
- 特異モデルの学習理論(情報論的学習理論論文)
- 正定値カーネルによる回帰問題における次元削減法 (特集 計算推論--モデリング・数理・アルゴリズム)
- ニューロ多様体の特異構造と無限の局所自由度 (最新 脳の数学理論--脳を語る情報と幾何の最前線)
- 特異モデルにおける統計的推測 : 接錐によるアプローチ
- [チュートリアル講演]特異モデルにおける統計的推測(統計的学習理論及び一般)
- 多項式近似における学習データの最適設計と予測誤差
- 縮退したFisher情報行列を持つ系の学習について
- 多層パーセプトロンのFisher情報行列の正定値性について
- ニューラルネットワークの推定誤差の解析と学習データ最適化手法
- 研究詳解 正定値カーネルによるノンパラメトリック推論 (特集「統計的機械学習」)
- 3.ニューラルネットワークの能動学習 (能動学習)
- 一次データを保存しない大規模科学計算の可能性
- 28aPS-86 分子動力学データに対する統計解析(28aPS ポスターセッション,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 最適化問題を解くホップフィールドモデルの設計法
- 23aGN-5 生体分子の分子動力学時系列データに対する統計解析(23aGN 生物物理,領域12(ソフトマター物理,化学物理,生物物理))
- Kernel and Feature Search in Kernel PCA (情報論的学習理論と機械学習)
- Kernel and Feature Search in Kernel PCA
- 部分観測マルコフ決定過程ベルマン方程式のカーネル化(強化学習,統計推理,データベース,一般)
- 代謝フラックスと凸多面体 (第9回生物数学の理論とその応用)
- Classes of translation-invariant kernels on compact groups