多項式近似における学習データの最適設計と予測誤差
スポンサーリンク
概要
- 論文の詳細を見る
統計的なデータから真の関数関係を推定する回帰問題はシステム同定や実験の解析などに多く用いられるが, データ観測のコスト低減のため少ないデータ数でより高精度の推定を行う必要がある. 本論文では学習後の平均2乗誤差を最小にする統計的な学習データ設計法を検討し, 実数直線上の多項式近似の問題において, 学習後の2乗誤差がどの程度改善されるかを理論的に解析する. その結果, 直線上の多項式近似では最適な学習データ採取法が完全に求まり, 最適な設計を行うと学習後の2乗誤差の期待値がモデルのパラメータ数に依存しないことが明らかとなる. 受動的な学習を行うと2乗誤差の期待値がパラメータ数に比例して増加することと比較すると, 最適設計による効果は顕著である. 更に計算機シミュレーションにより, 実際のデータによる学習においても理論的考察にほぼ一致する結果が得られることを示す.
- 社団法人電子情報通信学会の論文
- 1996-05-25
著者
関連論文
- 多値判別における2値判別機のゲーム理論的組合せ法(人工知能,認知科学)
- 再生核ヒルベルト空間を用いた統計的推論 (再生核の応用についての研究)
- IT野ニューロン集団の時間相関を取り入れたクラスタリング
- 29pXH-7 側頭葉の顔応答ニューロンの混合正規分布解析(29pXH ニューラルネットワーク(神経系のモデルを含む),領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 混合 von Mises-Fisher 分布の変分ベイズ推定について
- 特異モデルの学習理論(情報論的学習理論論文)
- 正定値カーネルによる回帰問題における次元削減法 (特集 計算推論--モデリング・数理・アルゴリズム)
- ニューロ多様体の特異構造と無限の局所自由度 (最新 脳の数学理論--脳を語る情報と幾何の最前線)
- 特異モデルにおける統計的推測 : 接錐によるアプローチ
- [チュートリアル講演]特異モデルにおける統計的推測(統計的学習理論及び一般)
- 多項式近似における学習データの最適設計と予測誤差
- 縮退したFisher情報行列を持つ系の学習について
- 多層パーセプトロンのFisher情報行列の正定値性について
- ニューラルネットワークの推定誤差の解析と学習データ最適化手法
- 研究詳解 正定値カーネルによるノンパラメトリック推論 (特集「統計的機械学習」)
- 3.ニューラルネットワークの能動学習 (能動学習)
- ニューラルネットの過学習と中間層の一次独立性について
- 有限ウェーブレット展開の一手法
- 変動する環境における遺伝的アルゴリズムの設計法
- 階層型モデルと正則な統計モデルの相違について
- 変動する環境下での遺伝的アルゴリズムの有効な構築法
- 変動する環境下におけるカオスニューラルネットワークの有効性
- 確率的発見法により最適経路を見い出すカオスニューラルシステム
- ニューラルネットの過学習に関する実験的検討
- 項目重視度を持つ検索法による観光案内システム
- 変動する環境下における最適化問題とカオスニューラルネットワーク
- 多層ニューラルネットワークの特殊な統計的性質
- 一次データを保存しない大規模科学計算の可能性
- 28aPS-86 分子動力学データに対する統計解析(28aPS ポスターセッション,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 最適化問題を解くホップフィールドモデルの設計法
- 23aGN-5 生体分子の分子動力学時系列データに対する統計解析(23aGN 生物物理,領域12(ソフトマター物理,化学物理,生物物理))
- Kernel and Feature Search in Kernel PCA (情報論的学習理論と機械学習)
- Kernel and Feature Search in Kernel PCA
- 部分観測マルコフ決定過程ベルマン方程式のカーネル化(強化学習,統計推理,データベース,一般)
- 遺伝的アルゴリズムを用いたゴミ収集経路の最適化
- 代謝フラックスと凸多面体 (第9回生物数学の理論とその応用)
- Classes of translation-invariant kernels on compact groups