Kernel and Feature Search in Kernel PCA (情報論的学習理論と機械学習)
スポンサーリンク
概要
- 論文の詳細を見る
During the last decade, unsupervised learning has become an important application area of the kernel methods. While the choice of kernel is essential in kernel methods for favorable performance, well-founded methods for kernel choice in unsupervised learning have not yet been established. We proposes a method for choosing parameters, the kernel and the number of features, of the kernel principal component analysis (kernel PCA) which is one of the most powerful tools in unsupervised learning. While the cross-validation has been applied to the standard PCA for choosing the number of components in kernel PCA we have a different feature space for each kernel, which makes it difficult to apply the cross-validation on the feature spaces for seeking a kernel and the number features. The propose method chooses them through the cross-validation based on pre-images. This paper mainly focuses two examples of kernels, Gaussian radial basis function (RBF) kernel and polynomial kernel. We have made experiments on simulated data as well as real world problems. The results show that the proposed method successfully chooses an appropriate kernel and the number of features in kernel PCA in terms of visualization and classification errors on the principal components.
- 2011-11-02
著者
関連論文
- 多値判別における2値判別機のゲーム理論的組合せ法(人工知能,認知科学)
- 再生核ヒルベルト空間を用いた統計的推論 (再生核の応用についての研究)
- IT野ニューロン集団の時間相関を取り入れたクラスタリング
- 29pXH-7 側頭葉の顔応答ニューロンの混合正規分布解析(29pXH ニューラルネットワーク(神経系のモデルを含む),領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 混合 von Mises-Fisher 分布の変分ベイズ推定について
- 特異モデルの学習理論(情報論的学習理論論文)
- 正定値カーネルによる回帰問題における次元削減法 (特集 計算推論--モデリング・数理・アルゴリズム)
- ニューロ多様体の特異構造と無限の局所自由度 (最新 脳の数学理論--脳を語る情報と幾何の最前線)
- 特異モデルにおける統計的推測 : 接錐によるアプローチ
- [チュートリアル講演]特異モデルにおける統計的推測(統計的学習理論及び一般)
- 多項式近似における学習データの最適設計と予測誤差
- 縮退したFisher情報行列を持つ系の学習について
- 多層パーセプトロンのFisher情報行列の正定値性について
- ニューラルネットワークの推定誤差の解析と学習データ最適化手法
- 研究詳解 正定値カーネルによるノンパラメトリック推論 (特集「統計的機械学習」)
- 3.ニューラルネットワークの能動学習 (能動学習)
- 一次データを保存しない大規模科学計算の可能性
- 28aPS-86 分子動力学データに対する統計解析(28aPS ポスターセッション,領域11(統計力学,物性基礎論,応用数学,力学,流体物理))
- 最適化問題を解くホップフィールドモデルの設計法
- 23aGN-5 生体分子の分子動力学時系列データに対する統計解析(23aGN 生物物理,領域12(ソフトマター物理,化学物理,生物物理))
- Kernel and Feature Search in Kernel PCA (情報論的学習理論と機械学習)
- Kernel and Feature Search in Kernel PCA
- 部分観測マルコフ決定過程ベルマン方程式のカーネル化(強化学習,統計推理,データベース,一般)
- 代謝フラックスと凸多面体 (第9回生物数学の理論とその応用)
- Classes of translation-invariant kernels on compact groups