変分ベイズ主成分分析の次元推定性能保証について(第15回情報論的学習理論ワークショップ)
スポンサーリンク
概要
- 論文の詳細を見る
ベイズ推定の効率的近似手法である変分ベイズ法は,多くの応用において高い性能を示している.しかし,その性能は理論的に解明されているとは言いがたい.例えば,変分ベイズ法によって得られるスパースな解は実用上有用であるが,そのようなスパース性は厳密なベイズ推定において必ずしも観測されない.本稿では確率的主成分分析に焦点をあて,変分ベイズ法の有用性に関する理論的解析を行う.具体的に述べると,ノイズ分散が未知な状況で変分ベイズ主成分分析を適用したとき,真のランクと変分ベイズ推定量とのランクが一致するための十分条件を,ランダム行列理論に基づいて導出する.解析の過程で導出されるノイズ分散推定量のバウンドと,以前に導出されたものよりもはるかにシンプルな大域解の表現は,変分ベイズ主成分分析の容易な実装を可能にする.
- 2012-10-31
著者
-
杉山 将
東京工業大学情報理工学研究科
-
杉山 将
東京工業大学
-
冨岡 亮太
東大
-
中島 伸一
ニコン光技術研究所
-
冨岡 亮太
東京大学
-
ババカン デリン
ベックマン高等科学技術研究所イリノイ大学
-
冨岡 亮太
東京大学大学院情報理工学系研究科
-
中島 伸一
ニコン
-
ババカン デリン
ベックマン高等科学技術研究所 イリノイ大学 アーバナ・シャンペーン
関連論文
- LG-6 サポートベクター回帰のモデル選択(G. 人工知能)
- スパース正則化およびマルチカーネル学習のための最適化アルゴリズムとCV・PRへの応用(CV・パターン認識のための学習・最適化)
- Density Ratio Estimation : A Comprehensive Review (Statistical Experiment and Its Related Topics)
- Density ratio estimation: a comprehensive review (Statistical experiment and its related topics--RIMS共同研究報告集)
- スパース正則化およびマルチカーネル学習のための最適化アルゴリズムと画像認識への応用
- 局所フィッシャー判別分析による文書分類(一般セッション2,複合現実感のためのパターン認識・理解)
- 異種ネットワーク統合によるタンパク質機能予測
- 細胞内ゆらぎの数理(システムと生命総合特集号)
- 遺伝子発現の揺らぎのモデル予測 : 構造的アプローチ(生体情報科学)
- 遺伝子発現の揺らぎの確率・ネットワーク解析--ロバストな遺伝子ネットワークの設計原理を目指して (特集 統計科学の最前線--新しい情報科学への技術と手法)
- 動的計画法によるリターン分布推定 (情報論的学習理論と機械学習)
- モデル選択付き能動学習の方法
- 教師付き学習のためのモデル選択と能動学習の理論(機械学習)(人工知能分野における博士論文)
- 時系列解析手法を用いた楽曲間類似度(音楽構造解析)
- 二次錘計画法による多タスク学習算法
- 複数生物種ネットワークの同時予測:半教師つき学習によるアプローチ
- Global analytic solution for variational Bayesian matrix factorization and its model-induced regularization (情報論的学習理論と機械学習)
- 単色光干渉法による透明膜に覆われた物体の膜厚と表面形状の同時測定
- 2波長ワンショット干渉計測(ViEW推薦論文)
- 透明膜で覆われた物体のワンショット干渉計測法
- 表面形状精密測定のための2波長ワンショット干渉法
- 白色光干渉法による透明膜に覆われた物体の膜厚と表面形状の同時測定
- 共変量シフト下での教師付き学習
- ラベル付きマルチモーダルデータの埋め込み(一般, 進化・発進の現象とモデル, 一般)
- 訓練入力とテスト入力が異なる確率分布に従う場合の汎化誤差推定
- 訓練入力とテスト入力が異なる確率分布に従う場合の汎化誤差推定
- Active Learning for Maximal Generalization Capability (Applications of the theory of reproducing kernels)
- 正則化による汎化誤差不偏推定量の改良
- 二値回帰問題のための新しいカーネルの提案
- D-11-97 劣化した印刷画像の画質改善
- D-2-6 訓練入力に雑音が含まれる場合の汎化誤差の推定
- D-2-2 モデル選択基準Corrected Subspace Information Criterionの理論的性能評価
- Subspace Information Criterionによる画像復元フィルタのパラメータ最適化
- 標本点とモデルの同時最適化
- NLP2000-32 / NC2000-26 標本点とモデルの同時最適化
- パターン認識における都市伝説(テーマセッション,パターン認識とメディア理解のフロンティアとグランドチャレンジ)
- 正規化最尤符号化に基づくグラフクラスタリング(一般講演(符号化・モデル選択,機械学習とその応用)
- 統計的機械学習の新展開 : 確率密度比に基づくアプローチ(特別セッション,機械学習とその応用)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 変分ベイズ行列分解の大域解析解とモデル起因正則化(IBIS2010(情報論的学習理論ワークショップ))
- 動的計画法によるリターン分布推定(IBIS2010(情報論的学習理論ワークショップ))
- 無限次元仮説空間における正則化パラメータの決定法
- 透明膜で覆われた物体のワンショット干渉計測法
- Fast convergence rate of multiple Kernel learning with elastic-net regularization (情報論的学習理論と機械学習)
- On automatic dimensionality selection in probabilistic PCA (情報論的学習理論と機械学習)
- バイアスの推定とモデル選択
- D-2-24 最良線形不偏推定の拡張としての射影学習
- SD-1-10 気象レーダ情報に基づく降水量の推定
- 射影学習による手書き数字認識
- 最適汎化のための逐次型能動学習
- モデル選択規準SICのスパース回帰分析への適用(情報論的学習理論論文小特集)
- バイアスを考慮した逐次型能動学習
- 最適汎化のための射影学習族の追加学習
- D-2-26 三角多項式ニューラルネットワークの能動学習
- 射影汎化ニューラルネットワークの追加学習
- バイアスを考慮した逐次型能動学習
- 最適汎化のための射影学習族の追加学習
- 三角多項式モデルを用いた訓練データの最適設計
- 雑音抑制のための能動学習
- 雑音抑制のための能動学習
- 最適汎化のための射影追加学習
- 雑音が存在する場合の射影追加学習
- 2010年度長尾真記念特別賞紹介 : 確率密度比に基づく新たな機械学習パラダイム
- 行列因子間独立制約における変分ベイズ行列分解の解析解
- 凸最適化に基づくテンソル分解の統計的性能について (情報論的学習理論と機械学習)
- 密度比推定による画像中の注目領域検出手法
- 確率的主成分分析における自動次元選択について(主成分分析,テキスト・Webマイニング,一般)
- リンクの確率構造を用いたソーシャルネットワークにおける話題拡大検出(ネットワーク,テキスト・Webマイニング,一般)
- エラスティックネット型正則化を用いたマルチプルカーネル学習の速い収束レート(主成分分析,テキスト・Webマイニング,一般)
- シーン長に基づいた複数キーフレーム抽出による動画イベント検出 : ニコンマルチメディアイベント検出システム(テーマセッション,映像処理とTRECVID)
- 複数情報源に対する主成分分析(主成分分析,テキスト・Webマイニング,一般)
- 半教師付き正準密度推定法に基づく音響信号の自動タグ付けと検索(一般セッション,PRMUのフロンティア・グランドチャレンジ)
- Global solution of variational Bayesian matrix factorization under matrix-wise independence (情報論的学習理論と機械学習)
- Global solution of variational Bayesian matrix factorization under matrix-wise independence (パターン認識・メディア理解)
- 凸最適化に基づくテンソル分解の統計的性能について(機械学習とその応用)
- 行列因子間独立制約における変分ベイズ行列分解の解析解(テーマセッション,コンピュータビジョンとパターン認識のための機械学習)
- 行列因子間独立制約における変分ベイズ行列分解の解析解(テーマセッション,コンピュータビジョンとパターン認識のための機械学習)
- Generalization of Matrix Factorization for Robust PCA (情報論的学習理論と機械学習)
- ロバスト主成分分析のための行例分解の一般化(ポスターセッション,第14回情報論的学習理論ワークショップ)
- 機械学習入門(活躍する機械学習)
- カーネル法に基づく行列あるいはテンソル補完(ポスターセッション,第14回情報論的学習理論ワークショップ)
- On Dimensionality Recovery Guarantee of Variational Bayesian PCA (情報論的学習理論と機械学習・第15回情報論的学習理論ワークショップ)
- ロバスト主成分分析のための行列分解の一般化
- 機械学習入門
- 機械学習によるデータの自動クラスタリング(最先端研究)
- 多波長ワンショット干渉計測技術の開発と実用化
- ソーシャルネットワークにおける長期間流行する話題の早期検出(時系列解析,統計推理,データベース,一般)
- Latent Dirichlet Allocationを用いた潜在的構造変化検知(ベイズ統計モデル,統計推理,データベース,一般)
- 機械学習における非凸最適化問題に対するパラメトリック計画法を用いたアプローチ (最適化手法の理論と応用の繋がり)
- 密度比推定による画像中の注目領域検出手法
- パラメトリック計画法を用いたS^3VMの最適化手法に関する一考察(機械学習一般とその応用)
- 変分ベイズ学習理論の最新動向(サーベイ,機械学習研究部会)
- 確率分布間の距離推定 : 機械学習分野における最新動向(サーベイ,機械学習研究部会)
- 変分ベイズ主成分分析の次元推定性能保証について(第15回情報論的学習理論ワークショップ)
- ホモトピー法を用いたロバストサポートベクターマシンの最適化法(一般セッション,機械学習と視覚情報処理の接点,及び,社会テーマ:ハイリスク作業支援)
- 機械学習によるデータの自動クラスタリング
- ホモトピー法を用いたロバストサポートベクターマシンの最適化法(一般セッション,機械学習と視覚情報処理の接点,及び,社会テーマ:ハイリスク作業支援)