スパース正則化およびマルチカーネル学習のための最適化アルゴリズムとCV・PRへの応用(CV・パターン認識のための学習・最適化)
スポンサーリンク
概要
- 論文の詳細を見る
スパース正則化は凸最適化を通して変数選択や多様な情報源の統合を実現するための系統的な枠組みとして近年注目されている。多くのスパース正則化法は滑らかでない最適化問題として定式化されるため、このような問題を効率的に解く方法が求められている。本論文では、一般の凸な損失関数と広いクラスの正則化関数に対する最適化手法をproximal minimizationの枠組みから導出し、理論的な性質を議論し、既存の手法との関係を解説する。講演では実際のパターン認識やCVの問題を題材として、非常に多くの素性やカーネルが与えられたもとでいかに効率よくこれらを選択し学習することができるかデモンストレーションを行う。
- 2009-08-24
著者
-
冨岡 亮太
東京大学数理情報学専攻
-
鈴木 大慈
東京大学数理情報学専攻
-
杉山 将
東京工業大学計算工学専攻
-
杉山 将
東京工業大学情報理工学研究科
-
鈴木 大慈
東京大学情報理工学系研究科
-
冨岡 亮太
東京工業大学
-
杉山 将
東京工業大学
-
冨岡 亮太
東大
-
杉山 将
東京工業大学 大学院情報理工学研究科
-
杉山 将
東京工業大学 Jst Presto
-
冨岡 亮太
東京大学大学院情報理工学系研究科
関連論文
- LG-6 サポートベクター回帰のモデル選択(G. 人工知能)
- スパース正則化およびマルチカーネル学習のための最適化アルゴリズムとCV・PRへの応用(CV・パターン認識のための学習・最適化)
- Density Ratio Estimation : A Comprehensive Review (Statistical Experiment and Its Related Topics)
- Density ratio estimation: a comprehensive review (Statistical experiment and its related topics--RIMS共同研究報告集)
- スパース正則化およびマルチカーネル学習のための最適化アルゴリズムと画像認識への応用
- Superfast probabilistic classifier (マルチメディア・仮想環境基礎)
- Superfast probabilistic classifier (音声)
- Superfast probabilistic classifier (パターン認識・メディア理解)
- 局所フィッシャー判別分析による文書分類(一般セッション2,複合現実感のためのパターン認識・理解)
- 異種ネットワーク統合によるタンパク質機能予測
- 細胞内ゆらぎの数理(システムと生命総合特集号)
- 遺伝子発現の揺らぎのモデル予測 : 構造的アプローチ(生体情報科学)
- 遺伝子発現の揺らぎの確率・ネットワーク解析--ロバストな遺伝子ネットワークの設計原理を目指して (特集 統計科学の最前線--新しい情報科学への技術と手法)
- 動的計画法によるリターン分布推定 (情報論的学習理論と機械学習)
- パターン認識における都市伝説 (パターン認識・メディア理解)
- モデル選択付き能動学習の方法
- 教師付き学習のためのモデル選択と能動学習の理論(機械学習)(人工知能分野における博士論文)
- 時系列解析手法を用いた楽曲間類似度(音楽構造解析)
- MP-533 前立腺癌の間欠的ホルモン療法の数理モデルによる解析(一般演題ポスター,第94回日本泌尿器科学会総会)
- 二次錘計画法による多タスク学習算法
- 複数生物種ネットワークの同時予測:半教師つき学習によるアプローチ
- Global analytic solution for variational Bayesian matrix factorization and its model-induced regularization (情報論的学習理論と機械学習)
- 単色光干渉法による透明膜に覆われた物体の膜厚と表面形状の同時測定
- 2波長ワンショット干渉計測(ViEW推薦論文)
- 透明膜で覆われた物体のワンショット干渉計測法
- 表面形状精密測定のための2波長ワンショット干渉法
- 白色光干渉法による透明膜に覆われた物体の膜厚と表面形状の同時測定
- 共変量シフト下での教師付き学習
- ラベル付きマルチモーダルデータの埋め込み(一般, 進化・発進の現象とモデル, 一般)
- 訓練入力とテスト入力が異なる確率分布に従う場合の汎化誤差推定
- 訓練入力とテスト入力が異なる確率分布に従う場合の汎化誤差推定
- Active Learning for Maximal Generalization Capability (Applications of the theory of reproducing kernels)
- 正則化による汎化誤差不偏推定量の改良
- 二値回帰問題のための新しいカーネルの提案
- D-11-97 劣化した印刷画像の画質改善
- D-2-6 訓練入力に雑音が含まれる場合の汎化誤差の推定
- D-2-2 モデル選択基準Corrected Subspace Information Criterionの理論的性能評価
- Subspace Information Criterionによる画像復元フィルタのパラメータ最適化
- 標本点とモデルの同時最適化
- NLP2000-32 / NC2000-26 標本点とモデルの同時最適化
- パターン認識における都市伝説(テーマセッション,パターン認識とメディア理解のフロンティアとグランドチャレンジ)
- 正規化最尤符号化に基づくグラフクラスタリング(一般講演(符号化・モデル選択,機械学習とその応用)
- 統計的機械学習の新展開 : 確率密度比に基づくアプローチ(特別セッション,機械学習とその応用)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 変分ベイズ行列分解の大域解析解とモデル起因正則化(IBIS2010(情報論的学習理論ワークショップ))
- 動的計画法によるリターン分布推定(IBIS2010(情報論的学習理論ワークショップ))
- 無限次元仮説空間における正則化パラメータの決定法
- 透明膜で覆われた物体のワンショット干渉計測法
- Fast convergence rate of multiple Kernel learning with elastic-net regularization (情報論的学習理論と機械学習)
- バイアスの推定とモデル選択
- D-2-24 最良線形不偏推定の拡張としての射影学習
- SD-1-10 気象レーダ情報に基づく降水量の推定
- 射影学習による手書き数字認識
- 最適汎化のための逐次型能動学習
- モデル選択規準SICのスパース回帰分析への適用(情報論的学習理論論文小特集)
- バイアスを考慮した逐次型能動学習
- 最適汎化のための射影学習族の追加学習
- D-2-26 三角多項式ニューラルネットワークの能動学習
- 射影汎化ニューラルネットワークの追加学習
- バイアスを考慮した逐次型能動学習
- 最適汎化のための射影学習族の追加学習
- 三角多項式モデルを用いた訓練データの最適設計
- 雑音抑制のための能動学習
- 雑音抑制のための能動学習
- 最適汎化のための射影追加学習
- 雑音が存在する場合の射影追加学習
- 2010年度長尾真記念特別賞紹介 : 確率密度比に基づく新たな機械学習パラダイム
- 行列因子間独立制約における変分ベイズ行列分解の解析解
- 凸最適化に基づくテンソル分解の統計的性能について (情報論的学習理論と機械学習)
- 超高速確率的分類器
- 密度比推定による画像中の注目領域検出手法
- 統計的機械学習の新展開 : 確率密度比に基づくアプローチ
- 確率的主成分分析における自動次元選択について(主成分分析,テキスト・Webマイニング,一般)
- リンクの確率構造を用いたソーシャルネットワークにおける話題拡大検出(ネットワーク,テキスト・Webマイニング,一般)
- エラスティックネット型正則化を用いたマルチプルカーネル学習の速い収束レート(主成分分析,テキスト・Webマイニング,一般)
- 複数情報源に対する主成分分析(主成分分析,テキスト・Webマイニング,一般)
- 半教師付き正準密度推定法に基づく音響信号の自動タグ付けと検索(一般セッション,PRMUのフロンティア・グランドチャレンジ)
- 凸最適化に基づくテンソル分解の統計的性能について(機械学習とその応用)
- 行列因子間独立制約における変分ベイズ行列分解の解析解(テーマセッション,コンピュータビジョンとパターン認識のための機械学習)
- 行列因子間独立制約における変分ベイズ行列分解の解析解(テーマセッション,コンピュータビジョンとパターン認識のための機械学習)
- ロバスト主成分分析のための行例分解の一般化(ポスターセッション,第14回情報論的学習理論ワークショップ)
- 機械学習入門(活躍する機械学習)
- カーネル法に基づく行列あるいはテンソル補完(ポスターセッション,第14回情報論的学習理論ワークショップ)
- 疎でないマルチプルカーネル学習の速い収束レートおよび最適な正則化に関して(ポスターセッション,第14回情報論的学習理論ワークショップ)
- On Dimensionality Recovery Guarantee of Variational Bayesian PCA (情報論的学習理論と機械学習・第15回情報論的学習理論ワークショップ)
- ロバスト主成分分析のための行列分解の一般化
- 機械学習入門
- 機械学習によるデータの自動クラスタリング(最先端研究)
- 多波長ワンショット干渉計測技術の開発と実用化
- ソーシャルネットワークにおける長期間流行する話題の早期検出(時系列解析,統計推理,データベース,一般)
- Latent Dirichlet Allocationを用いた潜在的構造変化検知(ベイズ統計モデル,統計推理,データベース,一般)
- 機械学習における非凸最適化問題に対するパラメトリック計画法を用いたアプローチ (最適化手法の理論と応用の繋がり)
- 密度比推定による画像中の注目領域検出手法
- パラメトリック計画法を用いたS^3VMの最適化手法に関する一考察(機械学習一般とその応用)
- 変分ベイズ学習理論の最新動向(サーベイ,機械学習研究部会)
- 確率分布間の距離推定 : 機械学習分野における最新動向(サーベイ,機械学習研究部会)
- 変分ベイズ主成分分析の次元推定性能保証について(第15回情報論的学習理論ワークショップ)