確率的主成分分析における自動次元選択について(主成分分析,テキスト・Webマイニング,一般)
スポンサーリンク
概要
- 論文の詳細を見る
確率的主成分分析における厳密ベイズ推定は計算困難であるため,種々の近似法が提案されている.本稿では部分ベイズ法(隠れ変数行列のみを積分消去)および変分ベイズ法(隠れ変数行列と結合係数行列との独立性を仮定して両者を積分消去)について議論する.変分ベイズ法は,部分ベイズ法に自動次元選択効果を持たせた改良版として提案されたという経緯があるが,我々はまず,自動次元選択が部分ベイズ法でも現れることを理論的に示す.両者が本質的に似た振る舞いをするのであれば,解析解が得られる部分ベイズ法の方が,反復計算による最適化によって局所解を得る変分ベイズ法よりも実用上優れていると言える.しかし部分ベイズ法には,経験ベイズ法によるハイパーパラメータ推定がうまく動作しないという欠点がある.そこで次に,制約を強めた(各行列の縦ベクトル間独立性を仮定)簡易変分ベイズ法について検討する.我々は,この方法において経験ベイズ法が問題なく動作し,オリジナルの変分ベイズ法と非常に似た振る舞いをすることを実験により示す.我々はこれらの結果に基づき,大域解析解が得られる簡易変分ベイズ法が実用上最も有利な方法であると結論する.
- 2011-03-21
著者
-
杉山 将
東京工業大学情報理工学研究科
-
杉山 将
東京工業大学
-
中島 伸一
ニコン光技術研究所
-
杉山 将
東京工業大学 Jst Presto
-
ババカン デリン
ベックマン高等科学技術研究所イリノイ大学
-
中島 伸一
ニコン
-
ババカン デリン
ベックマン高等科学技術研究所 イリノイ大学 アーバナ・シャンペーン
関連論文
- LG-6 サポートベクター回帰のモデル選択(G. 人工知能)
- スパース正則化およびマルチカーネル学習のための最適化アルゴリズムとCV・PRへの応用(CV・パターン認識のための学習・最適化)
- Density Ratio Estimation : A Comprehensive Review (Statistical Experiment and Its Related Topics)
- Density ratio estimation: a comprehensive review (Statistical experiment and its related topics--RIMS共同研究報告集)
- スパース正則化およびマルチカーネル学習のための最適化アルゴリズムと画像認識への応用
- 局所フィッシャー判別分析による文書分類(一般セッション2,複合現実感のためのパターン認識・理解)
- 異種ネットワーク統合によるタンパク質機能予測
- 動的計画法によるリターン分布推定 (情報論的学習理論と機械学習)
- モデル選択付き能動学習の方法
- 教師付き学習のためのモデル選択と能動学習の理論(機械学習)(人工知能分野における博士論文)
- 二次錘計画法による多タスク学習算法
- 複数生物種ネットワークの同時予測:半教師つき学習によるアプローチ
- Global analytic solution for variational Bayesian matrix factorization and its model-induced regularization (情報論的学習理論と機械学習)
- 単色光干渉法による透明膜に覆われた物体の膜厚と表面形状の同時測定
- 2波長ワンショット干渉計測(ViEW推薦論文)
- 透明膜で覆われた物体のワンショット干渉計測法
- 表面形状精密測定のための2波長ワンショット干渉法
- 白色光干渉法による透明膜に覆われた物体の膜厚と表面形状の同時測定
- 共変量シフト下での教師付き学習
- ラベル付きマルチモーダルデータの埋め込み(一般, 進化・発進の現象とモデル, 一般)
- 訓練入力とテスト入力が異なる確率分布に従う場合の汎化誤差推定
- 訓練入力とテスト入力が異なる確率分布に従う場合の汎化誤差推定
- Active Learning for Maximal Generalization Capability (Applications of the theory of reproducing kernels)
- 正則化による汎化誤差不偏推定量の改良
- 二値回帰問題のための新しいカーネルの提案
- D-11-97 劣化した印刷画像の画質改善
- D-2-6 訓練入力に雑音が含まれる場合の汎化誤差の推定
- D-2-2 モデル選択基準Corrected Subspace Information Criterionの理論的性能評価
- Subspace Information Criterionによる画像復元フィルタのパラメータ最適化
- 標本点とモデルの同時最適化
- NLP2000-32 / NC2000-26 標本点とモデルの同時最適化
- パターン認識における都市伝説(テーマセッション,パターン認識とメディア理解のフロンティアとグランドチャレンジ)
- 統計的機械学習の新展開 : 確率密度比に基づくアプローチ(特別セッション,機械学習とその応用)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 変分ベイズ行列分解の大域解析解とモデル起因正則化(IBIS2010(情報論的学習理論ワークショップ))
- 動的計画法によるリターン分布推定(IBIS2010(情報論的学習理論ワークショップ))
- 無限次元仮説空間における正則化パラメータの決定法
- 透明膜で覆われた物体のワンショット干渉計測法
- Fast convergence rate of multiple Kernel learning with elastic-net regularization (情報論的学習理論と機械学習)
- On automatic dimensionality selection in probabilistic PCA (情報論的学習理論と機械学習)
- バイアスの推定とモデル選択
- D-2-24 最良線形不偏推定の拡張としての射影学習
- SD-1-10 気象レーダ情報に基づく降水量の推定
- 射影学習による手書き数字認識
- 最適汎化のための逐次型能動学習
- モデル選択規準SICのスパース回帰分析への適用(情報論的学習理論論文小特集)
- バイアスを考慮した逐次型能動学習
- 最適汎化のための射影学習族の追加学習
- D-2-26 三角多項式ニューラルネットワークの能動学習
- 射影汎化ニューラルネットワークの追加学習
- バイアスを考慮した逐次型能動学習
- 最適汎化のための射影学習族の追加学習
- 三角多項式モデルを用いた訓練データの最適設計
- 雑音抑制のための能動学習
- 雑音抑制のための能動学習
- 最適汎化のための射影追加学習
- 雑音が存在する場合の射影追加学習
- 2010年度長尾真記念特別賞紹介 : 確率密度比に基づく新たな機械学習パラダイム
- 行列因子間独立制約における変分ベイズ行列分解の解析解
- 密度比推定による画像中の注目領域検出手法
- 確率的主成分分析における自動次元選択について(主成分分析,テキスト・Webマイニング,一般)
- エラスティックネット型正則化を用いたマルチプルカーネル学習の速い収束レート(主成分分析,テキスト・Webマイニング,一般)
- シーン長に基づいた複数キーフレーム抽出による動画イベント検出 : ニコンマルチメディアイベント検出システム(テーマセッション,映像処理とTRECVID)
- 半教師付き正準密度推定法に基づく音響信号の自動タグ付けと検索(一般セッション,PRMUのフロンティア・グランドチャレンジ)
- Global solution of variational Bayesian matrix factorization under matrix-wise independence (情報論的学習理論と機械学習)
- Global solution of variational Bayesian matrix factorization under matrix-wise independence (パターン認識・メディア理解)
- 行列因子間独立制約における変分ベイズ行列分解の解析解(テーマセッション,コンピュータビジョンとパターン認識のための機械学習)
- 行列因子間独立制約における変分ベイズ行列分解の解析解(テーマセッション,コンピュータビジョンとパターン認識のための機械学習)
- Generalization of Matrix Factorization for Robust PCA (情報論的学習理論と機械学習)
- ロバスト主成分分析のための行例分解の一般化(ポスターセッション,第14回情報論的学習理論ワークショップ)
- 機械学習入門(活躍する機械学習)
- On Dimensionality Recovery Guarantee of Variational Bayesian PCA (情報論的学習理論と機械学習・第15回情報論的学習理論ワークショップ)
- ロバスト主成分分析のための行列分解の一般化
- 機械学習入門
- 機械学習によるデータの自動クラスタリング(最先端研究)
- 多波長ワンショット干渉計測技術の開発と実用化
- 機械学習における非凸最適化問題に対するパラメトリック計画法を用いたアプローチ (最適化手法の理論と応用の繋がり)
- 密度比推定による画像中の注目領域検出手法
- パラメトリック計画法を用いたS^3VMの最適化手法に関する一考察(機械学習一般とその応用)
- 変分ベイズ学習理論の最新動向(サーベイ,機械学習研究部会)
- 確率分布間の距離推定 : 機械学習分野における最新動向(サーベイ,機械学習研究部会)
- 変分ベイズ主成分分析の次元推定性能保証について(第15回情報論的学習理論ワークショップ)
- SNS・マイクロブログサービスのための画像からの主観文自動生成(一般セッション,文字・文書の認識と理解及びアルゴリズム・システム評価)
- ホモトピー法を用いたロバストサポートベクターマシンの最適化法(一般セッション,機械学習と視覚情報処理の接点,及び,社会テーマ:ハイリスク作業支援)
- 機械学習によるデータの自動クラスタリング
- ホモトピー法を用いたロバストサポートベクターマシンの最適化法(一般セッション,機械学習と視覚情報処理の接点,及び,社会テーマ:ハイリスク作業支援)