日本語単語分割へのタグなしコーパスとタグ付きコーパスの利用
スポンサーリンク
概要
- 論文の詳細を見る
自然言語処理の個々の問題を分類問題ととらえ, 帰納学習の手法により問題解決を図る場合, 最も重要な課題は, 訓練データをどのように準備するかである.ここでは具体的な問題として日本語単語分割を取り上げ, 上記課題への取り組みの1つとして, タグ付きコーパスとタグなしコーパスを相補的に利用することを試みる.具体的には, まず, 日本語単語分割を入力文の文字間に単語境界を置くか置かないかの分類問題として定式化する.次に, タグ付きコーパスから作成した訓練データを用いて, 決定リストAを作成する.次に, タグなしコーパスを既存の形態素解析システムにより単語分割し, そこから誤り付き訓練データを作成する.そこから決定リストBを作成する.そして決定リストAのある順位の規則をdefault規則ととらえ, それよりも下位の規則を省く.残された決定リストAに決定リストBを付加したものを新たな決定リストCと見る.そして, 決定リストCの精度を訓練データとアダブーストの手法を利用して高める.実験の結果, 誤り付きの訓練データを利用した効果と, ブースティングを行った効果が確認できた.
- 一般社団法人情報処理学会の論文
- 2000-11-21
著者
関連論文
- EMアルゴリズムの最適ループ回数の予測を用いた語義判別規則の教師なし学習(自然言語)
- 潜在的文脈関連度を用いた検索質問拡張
- 語義の特異性を利用した慣用表現の自動抽出
- 片方向の共起性による述語型定型表現の自動抽出
- コーパスからの付属語的表現の自動抽出
- 疑似Nグラムを用いた助詞的定型表現の自動抽出
- コーパスからの関係表現の自動抽出
- JEIDA機械翻訳システム評価基準(品質評価編) : 英日翻訳の品質評価項目の検討と評価用コーパスの作成
- 日本語翻訳タスクへの帰納論理プログラミングの適用
- NMFによる重み付きハイパーグラフを用いたアンサンブル文書クラスタリング
- Webサイトの階層的なWebディレクトリへの自動分類手法
- 半教師有りクラスタリングを用いた語義数の推定と語義別用例の収集
- Webサイトの階層的なWebディレクトリへの自動分類手法(QA・Web検索)
- NMFとリンクベースの修正法によるピンポン型文書クラスタリング(一般セッション「分類と抽出」)
- NMFとリンクベースの修正法によるピンポン型文書クラスタリング(一般セッション「分類と抽出」)
- EMアルゴリズムの最適ループ回数の予測を用いた語義判別規則の教師なし学習
- 半教師有りクラスタリングを用いた語義数の推定と語義別用例の収集(語彙2)
- 文書分類を用いたスパムメール判定手法(フィルタリング、文書分類)(テーマ:「Webマイニングによる情報活動と自然言語処理」その他一般)
- 文書分類を用いたスパムメール判定手法(フィルタリング、文書分類)(テーマ:「Webマイニングによる情報活用と自然言語処理」その他一般)
- Webページ内の目的部分の自動抽出(情報抽出・翻訳知識獲得)
- 多項分布と一様分布の混合分布による語義の事前分布の推定(多義性解消)
- 多項分布と一様分布の混合分布による語義の事前分布の推定(多義性解消)(言語理解とコミュニケーション)
- 多項分布と一様分布の混合分布による語義の事前分布の推定
- SVDPACKC とその語義判別問題への利用
- 単語クラスタリングの語義判別問題への応用
- 情報検索手法を利用した語義判別問題の高速解法
- コーパスを利用した分類語彙表の未登録語義の発見
- コーパスを利用した分類語彙表の未登録語義の発見
- EM アルゴリズムを用いた教師なし学習の日本語翻訳タスクへの適用
- SENSEVAL2日本語翻訳タスクに向けて作成した語義判別規則学習システムIbaraki
- 日本語形態素解析の分類問題への変換とその解法
- 素性間の共起性を検査するCo-trainingによる語義判別規則の学習
- 素性間の共起性を検査するCo-trainingによる語義判別規則の学習
- 決定リストを弱学習器としたアダブーストによる日本語単語分割
- 日本語単語分割へのタグなしコーパスとタグ付きコーパスの利用
- 表記情報をデフォルトの証拠として用いた決定リストによる同音異義語の誤り検出
- 日本語形態素解析のクラス分類問題への変換とその解法
- 文字列が単語になる確率を用いた未知語抽出
- 平仮名N-gramによる平仮名列の誤り検出とその修正 (新しいシステムソフトウェア)
- 複合語からの証拠に重みをつけた決定リストによる同音異義語判別
- 誤りやすい同音異義語の収集
- 誤りやすい同音異義語の収集
- 複合語判定を優先させた決定リストによる同音異義語判定
- コーパスとシソーラスを利用した名詞間距離の設定
- 2連続平仮名文字列を2次情報とした文検索
- 外れ値検出手法を利用した新語義の検出