文脈適応による複数N-gramの動的補間を用いた言語モデル

スポンサーリンク

概要

論文の詳細を見る
本稿では、複数のN-gramを文脈適応により動的補間する言語モデルを提案する。提案モデル内の個々のサブN-gramはそれぞれ異なる特定トピックの言語モデルである方が、全体性能が高くなる。このような特定トピックの言語モデルの構築にはテキストのクラスタリングが必要であるが、我々はクラスタリングを用いないモデル学習アルゴリズムを提案する。提案アルゴリズムは、文単位でトピックへの所属確率を与えることで、構築された言語モデルによる学習データのエントロピーを最小化する。その結果、タグによる記事分類を基にした補間モデルよりも提案手法で学習した言語モデルの方が性能が高いことが示された。またオープンデータに対して、提案モデルはベースラインのN-gramよりもunigram補間モデルで12.7%、bigram補間モデルで4.3%、補正パープレキシティが低下した。
一般社団法人情報処理学会の論文
2003-05-26

著者

関連論文

もっと見る

スポンサーリンク