文脈適応による複数N-gramの動的補間を用いた言語モデル(自然言語情報処理研究会と一部合同開催 : NL・SLP合同開催 : 音声対話2)

スポンサーリンク

概要

論文の詳細を見る
本稿では、複数のN-gramを文脈適応により動的補間する言語モデルを提案する。提案モデル内の個々のサブN-gramはそれぞれ異なる特定トピックの言語モデルである方が、全体性能が高くなる。このような特定トピックの言語モデルの構築にはテキストのクラスタリングが必要であるが、我々はクラスタリングを用いないモデル学習アルゴリズムを提案する。提案アルゴリズムは、文単位でトピツクへの所属確率を与えることで、構築された言語モデルによる学習データのエントロピーを最小化する。その結果、タグによる記事分類を基にした補間モデルよりも提案手法で学習した言語モデルの方が'性能が高いことが示された。またオープンデータに対して、提案モデルはベースラインのN-gramよりもunigram補間モデルで12.7%、bigram補間モデルで4.3%、補正パープレキシティが低下した。
一般社団法人情報処理学会の論文
2003-05-27

著者

関連論文

もっと見る

スポンサーリンク