パラメトリック計画法を用いたS^3VMの最適化手法に関する一考察(機械学習一般とその応用)
スポンサーリンク
概要
- 論文の詳細を見る
半教師有り学習の目的はラベル無しインスンタンスを利用してラベル有りインスタンスのみを用いた場合よりも汎化性能のよい分類器を作成することである.Semi-Supervised Support Vector Machine(S^3VM)は半教師有り学習の文脈で使えるようにSVMを拡張した分類アルゴリズムである.S^3VMの学習は組み合わせ最適化問題や非凸最適化問題として定式化される.小規模な問題を除きS^3VMの大域的最適解を見つけるのは困難であるため,S^3VM研究の目的はアニーリングなどの探索ヒューリスティクスを用いてよい局所最適解を見つけることである.本稿ではパラメトリック計画法をS^3VMに導入して局所最適解を求める新しいアルゴリズムを提案する.本稿の主な貢献は、S^3VMの局所最適解の必要十分条件の導出し,その条件を利用して局所最適解のパスを計算するアルゴリズムを提案することである.これにより,ラベル無しインスタンスの影響を徐々に増やしていく際の局所最適解のパスを計算することが可能となる.提案アルゴリズムはよい局所最適解を見つけられることが実験的に確認されたが,これは提案法が無限小ステップのアニーリングと解釈できるためと推測される.また,提案アルゴリズムを用いると,ラベル無しインスタンスの影響を制御するためのモデル選択を安定的かつ効率的に行うことができる.本稿ではこれらの利点を数値実験によって例証する.
- 一般社団法人電子情報通信学会の論文
- 2012-06-12
著者
関連論文
- LG-6 サポートベクター回帰のモデル選択(G. 人工知能)
- スパース正則化およびマルチカーネル学習のための最適化アルゴリズムとCV・PRへの応用(CV・パターン認識のための学習・最適化)
- Density Ratio Estimation : A Comprehensive Review (Statistical Experiment and Its Related Topics)
- Density ratio estimation: a comprehensive review (Statistical experiment and its related topics--RIMS共同研究報告集)
- スパース正則化およびマルチカーネル学習のための最適化アルゴリズムと画像認識への応用
- 局所フィッシャー判別分析による文書分類(一般セッション2,複合現実感のためのパターン認識・理解)
- 異種ネットワーク統合によるタンパク質機能予測
- 原始初期点を初期値とする変分ベイズ法に関する一考察
- モデル選択付き能動学習の方法
- 教師付き学習のためのモデル選択と能動学習の理論(機械学習)(人工知能分野における博士論文)
- 二次錘計画法による多タスク学習算法
- 複数生物種ネットワークの同時予測:半教師つき学習によるアプローチ
- 単色光干渉法による透明膜に覆われた物体の膜厚と表面形状の同時測定
- 2波長ワンショット干渉計測(ViEW推薦論文)
- 表面形状精密測定のための2波長ワンショット干渉法
- 白色光干渉法による透明膜に覆われた物体の膜厚と表面形状の同時測定
- 共変量シフト下での教師付き学習
- ラベル付きマルチモーダルデータの埋め込み(一般, 進化・発進の現象とモデル, 一般)
- 訓練入力とテスト入力が異なる確率分布に従う場合の汎化誤差推定
- 訓練入力とテスト入力が異なる確率分布に従う場合の汎化誤差推定
- Active Learning for Maximal Generalization Capability (Applications of the theory of reproducing kernels)
- 正則化による汎化誤差不偏推定量の改良
- 二値回帰問題のための新しいカーネルの提案
- D-11-97 劣化した印刷画像の画質改善
- D-2-6 訓練入力に雑音が含まれる場合の汎化誤差の推定
- D-2-2 モデル選択基準Corrected Subspace Information Criterionの理論的性能評価
- Subspace Information Criterionによる画像復元フィルタのパラメータ最適化
- 標本点とモデルの同時最適化
- NLP2000-32 / NC2000-26 標本点とモデルの同時最適化
- パターン認識における都市伝説(テーマセッション,パターン認識とメディア理解のフロンティアとグランドチャレンジ)
- 統計的機械学習の新展開 : 確率密度比に基づくアプローチ(特別セッション,機械学習とその応用)
- サポートべクトルマシンのラべル並ペ替え解のパス追跡とマイクロアレイデータ解析への応用に関する一考察
- 局所型パターン認識器の高次元特徴選択パス追跡に関する一考察(テーマセッション,コンピュータビジョンとパターン認識のための機械学習と最適化,一般)
- 局所型パターン認識器の高次元特徴選択パス追跡に関する一考察(テーマセッション,コンピュータビジョンとパターン認識のための機械学習と最適化,一般)
- 2次損失サポートベクトルマシンの非線形正則化パスに関する一考察(一般講演(学習の理論),機械学習とその応用)
- 評価値の離散変化追跡によるランキングモデルの最適化に関する一考察
- ポスター講演 近似解のパス追跡に関する一考察 (情報論的学習理論と機械学習)
- 最近傍多変量検定を用いたアレイCGHのゲノム異常領域同定に関する一考察(機械学習によるバイオデータマインニング,機械学習によるバイオデータマインニング,一般)
- カーネルマシンにおける勾配方向への2次元パス追跡法
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 超高速確率的分類器(一般セッション,クロスモーダル)
- 次数分布に基づく事前情報を用いた複雑ネットワークのクラスタリング
- 位置尺度モデルの条件付分位点推定に関する一考察
- 最近傍分類器の分類誤差を用いた遺伝子グループの有意性検定に関する一考察(機械学習によるバイオデータマインニング,一般)
- 不均一分散をもつ非対称ノイズのもとでの分位点回帰関数を用いた条件付き期待値の推定(統計的学習理論及び一般)
- 変分ベイズ行列分解の大域解析解とモデル起因正則化(IBIS2010(情報論的学習理論ワークショップ))
- 動的計画法によるリターン分布推定(IBIS2010(情報論的学習理論ワークショップ))
- 無限次元仮説空間における正則化パラメータの決定法
- 近似解のパス追跡に関する一考察(IBIS2010(情報論的学習理論ワークショップ))
- MSTに基づくSVMパス追跡を用いた多重多変量2標本検定による遺伝子群解析に関する一考察(IBIS2010(情報論的学習理論ワークショップ))
- 混合ノルム正則化を用いたコスト考慮型学習の同時変数選択に関する研究(IBIS2010(情報論的学習理論ワークショップ))
- 透明膜で覆われた物体のワンショット干渉計測法
- Fast convergence rate of multiple Kernel learning with elastic-net regularization (情報論的学習理論と機械学習)
- バイアスの推定とモデル選択
- D-2-24 最良線形不偏推定の拡張としての射影学習
- SD-1-10 気象レーダ情報に基づく降水量の推定
- 射影学習による手書き数字認識
- 最適汎化のための逐次型能動学習
- モデル選択規準SICのスパース回帰分析への適用(情報論的学習理論論文小特集)
- バイアスを考慮した逐次型能動学習
- 最適汎化のための射影学習族の追加学習
- D-2-26 三角多項式ニューラルネットワークの能動学習
- 射影汎化ニューラルネットワークの追加学習
- バイアスを考慮した逐次型能動学習
- 最適汎化のための射影学習族の追加学習
- 三角多項式モデルを用いた訓練データの最適設計
- 雑音抑制のための能動学習
- 雑音抑制のための能動学習
- 最適汎化のための射影追加学習
- 雑音が存在する場合の射影追加学習
- 2010年度長尾真記念特別賞紹介 : 確率密度比に基づく新たな機械学習パラダイム
- [招待講演] パターン認識と機械学習のための最適解パス追跡アルゴリズム
- 行列因子間独立制約における変分ベイズ行列分解の解析解
- PP-422 腎癌転移と9Pゲノムコピー数異常の関係(一般演題ポスター発表・討論,一般演題ポスター,第99回日本泌尿器科学会総会)
- 密度比推定による画像中の注目領域検出手法
- 確率的主成分分析における自動次元選択について(主成分分析,テキスト・Webマイニング,一般)
- エラスティックネット型正則化を用いたマルチプルカーネル学習の速い収束レート(主成分分析,テキスト・Webマイニング,一般)
- 順位情報に基づいたランキングSVMの適応的重み付けに関する一考察(分類・回帰・クラスタリング,テキスト・Webマイニング,一般)
- 半教師付き正準密度推定法に基づく音響信号の自動タグ付けと検索(一般セッション,PRMUのフロンティア・グランドチャレンジ)
- パターン認識と機械学習のための最適解パス追跡アルゴリズム(招待講演,コンピュータビジョンとパターン認識のための機械学習)
- パターン認識と機械学習のための最適解パス追跡アルゴリズム(招待講演,コンピュータビジョンとパターン認識のための機械学習)
- 行列因子間独立制約における変分ベイズ行列分解の解析解(テーマセッション,コンピュータビジョンとパターン認識のための機械学習)
- 行列因子間独立制約における変分ベイズ行列分解の解析解(テーマセッション,コンピュータビジョンとパターン認識のための機械学習)
- ロバスト主成分分析のための行例分解の一般化(ポスターセッション,第14回情報論的学習理論ワークショップ)
- 機械学習入門(活躍する機械学習)
- ロバスト主成分分析のための行列分解の一般化
- 機械学習入門
- 機械学習によるデータの自動クラスタリング(最先端研究)
- 多波長ワンショット干渉計測技術の開発と実用化
- 機械学習における非凸最適化問題に対するパラメトリック計画法を用いたアプローチ (最適化手法の理論と応用の繋がり)
- 密度比推定による画像中の注目領域検出手法
- パラメトリック計画法を用いたS^3VMの最適化手法に関する一考察(機械学習一般とその応用)
- 変分ベイズ学習理論の最新動向(サーベイ,機械学習研究部会)
- 確率分布間の距離推定 : 機械学習分野における最新動向(サーベイ,機械学習研究部会)
- 変分ベイズ主成分分析の次元推定性能保証について(第15回情報論的学習理論ワークショップ)
- ホモトピー法を用いたロバストサポートベクターマシンの最適化法(一般セッション,機械学習と視覚情報処理の接点,及び,社会テーマ:ハイリスク作業支援)
- 機械学習によるデータの自動クラスタリング
- ホモトピー法を用いたロバストサポートベクターマシンの最適化法(一般セッション,機械学習と視覚情報処理の接点,及び,社会テーマ:ハイリスク作業支援)