高次元特徴空間に適した半教師あり条件付確率場の検証(機械学習)

概要

論文の詳細を見る
本稿では,半教師あり条件付確率場(Semi-supervised conditional random fields)について議論をおこなう.自然言語処理の多くのタスクでは,効果的なモデル学習のために単語やその連接といった特徴を利用する必要があり,一般的に数万次元以上という高次元かつスパースな特徴空間を用いて学習をおこなう必要がある.よって,これらのタスクでは,半教師あり学習の枠組みにおいても,高次元スパース特徴空間に頑健な枠組が求められる.そこで,本稿では,文献[1]の枠組をベースにし,高次元スパース特徴空間に対して頑健な半教師あり条件付確率場を新たに提案する.また,固有表現抽出およびチャンキングタスクを用いて半教師あり条件付確率場の性能と性質について検証をおこなった.提案法により,従来の教師あり条件付確率場[2],エントロピー正則化に基づく半教師あり条件付確率場[3]と比較して大幅に良い結果が得られた.また,エントロピー正則化に基づく半教師あり条件付確率場は,理論的にも実験的にも,高次元スパース特徴空間を用いた学習では性能の向上が期待できないことを明らかにする.
一般社団法人情報処理学会の論文
2007-09-25