ラベルありデータの選択バイアスに頑健な半教師あり学習
スポンサーリンク
概要
- 論文の詳細を見る
本稿では,目標ドメインのテストデータと分布が大きく異なるラベルありデータから汎化性能が高い分類器を設計するための頑健な半教師あり学習法を提案する.半教師あり学習の枠組のひとつである JESS-CM 法は複数の自然言語処理タスクで最良の結果を達成したが,本稿のタスク設定ではラベルありデータに過適合する危険性がある.提案法では,分類器を構成する識別・生成モデルの双方の学習に目標ドメインのラベルなしデータをラベルありデータと同時に用いることで過適合の問題を解決することを期待する.3 つのテストコレクションを用いたテキスト分類実験により,本タスク設定のほとんどの場合で,提案法では JESS-CM 法よりも高い分類性能を得られることを確認した.
- 2010-09-21
著者
-
上田 修功
日本電信電話株式会社NTTコミュニケーション科学基礎研究所
-
藤野 昭典
日本電信電話株式会社NTTコミュニケーション科学基礎研究所
-
永田 昌明
日本電信電話株式会社NTTコミュニケーション科学基礎研究所
-
永田 昌明
NTTコミュニケーション科学基礎研究所
-
藤野 昭典
NTTコミュニケーション科学基礎研究所
-
上田 修功
日本電信電話株式会社 Nttコミュニケーション科学基礎研究所
-
上田 修功
日本電信電話株式会社
関連論文
- 購買行動解析のためのトピック追跡モデル(人工知能,データマイニング)
- ユーザの嗜好の時系列性と先行性に着目した協調フィルタリング(コンテンツ技術,Web情報システム)
- 購買順序を考慮した協調フィルタリング(「自動化:推論,発見,学習,データマイニング」及び一般)
- 最近のベイズ理論の進展と応用[IV] : 変分ベイズ法
- ベイズ階層言語モデルによる教師なし形態素解析(言語モデル・ウェブ解析)
- グラフ索引構造を用いた高速類似探索(人工知能,認知科学)
- ノンパラメトリックベイズ入門(オーガナイズドセッション,コンピュータビジョンとパターン認識のための学習理論)
- ノンパラメトリックベイズ入門(オーガナイズドセッション2)
- 一括予測型協調フィルタリング
- ディリクレ混合過程モデルに基づく半教師有り学習(一般セッション,データ工学とメディア理解との融合)
- ノンパラメトリックベイズモデルによるグラフクラスタリング(一般セッション,データ工学とメディア理解との融合)
- 一括予測型協調フィルタリング(Session 1)
- ディリクレ過程混合モデルに基づく共クラスタリング (「プリファレンスモデリングと推薦システム」及び一般)
- 周辺評点分布に基づく協調フィルタリング手法における予測アルゴリズムについて(テーマセッション(4),パターン認識・メディア理解のための学習理論とその応用)
- 周辺評点分布に基づく協調フィルタリング手法における予測アルゴリズムについて
- 周辺評点分布に基づく協調フィルタリング手法(「自動化:推論,発見,学習,データマイニング」及び一般)
- 分布が変化するデータにおけるモデル学習法(データマイニング)
- 購買順序を効率的に用いた協調フィルタリング
- 内容と関連するタグの教師なし抽出(「Webインテリジェンス」及び一般)
- ベイズ的基準を用いた状態共有型HMM構造の選択
- 変分ベイズ法の音響モデル適応への応用
- ベイズ的アプローチに基づく状態共有型HMM構造の学習
- 複数の構成要素データを扱う多クラス分類器の半教師あり学習法
- 複数の構成要素データを扱う多クラス分類器の半教師あり学習法(Session 1)
- テキスト自動分類のための半教師あり学習技術 (特集 コミュニケーション環境の未来に向けた研究最前線)
- 半教師あり学習に基づく異種情報データの分類(テーマセッション(4),パターン認識・メディア理解のための学習理論とその応用)
- 半教師あり学習のための生成・識別ハイブリッド分類器の設計法
- 最大エントロピー原理に基づく付加情報の効果的な利用によるテキスト分類(情報検索)
- LI-009 生成・識別ハイブリッドモデルに基づく半教師あり学習(I分野:画像認識・メディア理解)
- ラベルあり・なしデータの最適な結合に基づくパターン分類(学習理論とパターン認識メディア理解, 学習理論とパターン認識メディア理解, 機械学習による自然言語処理・言語処理を利用したメディア理解, 一般)
- 文書の構成要素モデルのアンサンブル学習に基づくテキスト分類(一般)
- LF-014 文書分類体系間の対応関係の自動抽出(F. 人工知能)
- LD-001 交差確認法に基づく適合性フィードバック(D. データベース)
- 確率モデルを用いた文書分類体系間の構造マッチング(複数文書の処理)
- コーパスからのキーワード自動抽出(抽出)
- 多重トピックテキストの確率モデル : テキストモデル研究の最前線(2)
- 多重トピックテキストの確率モデル : テキストモデル研究の最前線(1)
- 指向性アタッチメントとコミュニティをもつ成長ネットワークモデル(バイオサイバネテッィクス,ニューロコンピューティング)
- 生成・識別モデルの統合に基づく半教師あり学習法とその多重分類への応用
- F値最大化学習に基づく文書の多重ラベリング(機械学習)
- 高次元特徴空間に適した半教師あり条件付確率場の検証(機械学習)
- ラベルあり・なしデータの最適な結合に基づくパターン分類(学習理論とパターン認識メディア理解, 学習理論とパターン認識メディア理解, 機械学習による自然言語処理・言語処理を利用したメディア理解, 一般)
- 適合フィードバックにおける単語選択法(検索・多義性解消)
- 効率的な類似検索のためのピボット学習法
- 無声子音における舌・唇と喉頭の調音運動の時間関係の分析
- 無声子音における調音・声門運動のタイミングの分布 - 促音の有無による比較 -
- ラベルありデータの選択バイアスに頑健な半教師あり学習
- 同義語情報を用いた確率的単語アライメントモデル
- 適合性分布が異なる情報源を用いたランキング学習
- 動作認識のための状態遷移モデル : HMMの高度化と非HMM手法の成長(「時系列データの認識 : HMMを越えて」)
- 知能コンピューティングのための統計的機械学習の最新動向について
- Wikipediaからの大規模な人オントロジー構築
- LF-015 高次元データに対して頑健な文書クラスタリング手法(F. 人工知能)
- 関連アブストラクト検索ツール : RAST
- 生成・識別モデルの統合に基づく半教師あり学習法とその多重分類への応用
- 日本語語彙大系を用いたWikipediaからの汎用オントロジー構築
- 機械翻訳最新事情 : (下)評価型ワークショップの動向と日本からの貢献
- 機械翻訳最新事情 : (上)統計的機械翻訳入門
- 統計的機械翻訳(自然言語とコンピュータ)
- 意味的等価性検証に基づく記述式解答文の採点法(テキストの類似性・文処理モデル)
- 意味的等価性検証に基づく記述式解答文の採点法(テキストの類似性・文処理モデル)
- 無声子音発声時の舌・喉頭運動における発声の強さの影響(聴覚,音声,言語とその障害)
- 無声子音の発話運動における発声の強さの影響の分析
- 音声生成における発話協調動作機構
- 促音が先行する無声子音の調音・声門運動タイミングの分析
- 口蓋形摂動に対する調音補償動作の分析
- 無声子音の生成における声門運動の時間パタンの分析
- 無声子音生成における調音器官と声門の運動タイミングの分析
- 磁気センサシステムおよびフォトグロットグラフを用いた調音器官と声門の運動観測
- D-12-67 「領域抽出不要型文字認識」に基づく景観中単語認識(D-12. パターン認識・メディア理解, 情報・システム2)
- 確率モデルに基づく文書ストリームからのホットトピック抽出の一検討(「自動化:推論,発見,学習,データマイニング」及び一般)
- F-056 ネットワーク構造による類似探索性能の分析法の提案(F分野:人工知能・ゲーム,一般論文)
- RF-007 オブジェクト集合に依存したRNGの特性分析(F分野:人工知能・ゲーム,査読付き論文)
- ベイズ的基準を用いた状態共有型HMM構造の選択
- ベイズ的基準を用いた状態共有型HMM構造の選択
- ベイズ的アプローチに基づく状態共有型HMM構造の学習
- ディリクレ混合過程モデルに基づく半教師有り学習(一般セッション,データ工学とメディア理解との融合)
- ノンパラメトリックベイズモデルによるグラフクラスタリング(一般セッション,データ工学とメディア理解との融合)
- 多値読みとり図面の画質改善手法の検討
- 経験強化を考慮したQ-Learningの提案とその応用
- 時間依存関係データ分析のための動的無限関係モデル
- 時間変化に対応する無限関係モデルの提案
- トピックモデルに基づく文書群の可視化
- 購買順序を効率的に用いた協調フィルタリング
- 購買順序を効率的に用いた協調フィルタリング
- ノンパラメトリックベイズに基づく複数対象時系列のクラスタリングとトラッキング(人工知能,認知科学)
- D-040 ネットワーク索引構造を用いた類似探索と可視化(データベース,一般論文)
- ノンパラメトリックベイズモデル
- アンサンブル学習(CVにおけるパターン認識・学習理論の新展開)
- 準教師有り学習の理論とアルゴリズム(学習理論とパターン認識メディア理解, 学習理論とパターン認識メディア理解, 機械学習による自然言語処理・言語処理を利用したメディア理解, 一般)
- 準教師有り学習の理論とアルゴリズム(学習理論とパターン認識メディア理解, 学習理論とパターン認識メディア理解, 機械学習による自然言語処理・言語処理を利用したメディア理解, 一般)
- ベイズ学習のアルゴリズム : 高次元積分の近似手法(統計モデルと学習の数理)
- アンサンブル学習 : 識別器の識別性能向上法および情報統合の数理(オーガナイズドセッション(1))(CVのためのパターン認識・学習理論の新展開)
- 多重トピックを表現するテキストモデルの一考察(テキスト分類・トピック解析)
- 多重トピックテキストの確率モデル : パラメトリック混合モデル(バイオサイバネティックス,ニューロコンピューティング)
- 日本語語義曖昧性解消のための訓練データの自動拡張
- Pitman-Yor過程に基づく確率的木挿入文法モデル
- 予測尤度最大化に基づく誤分類サンプルの検出(ポスターセッション,第14回情報論的学習理論ワークショップ)
- Latent Dirichlet Allocationを用いた潜在的構造変化検知(ベイズ統計モデル,統計推理,データベース,一般)
- 予測尤度最大化に基づく誤分類サンプルの検出