Estimating reliability of rules in decision lists using Bayesian learning

統計的クラス分類器としての決定リストは，近年自然言語処理における様々な分野でその有効性を示している．決定リストを構成する上で最も重要な問題の一つは，ルールの信頼度の算出法である．決定リストを用いた多くの研究では，最尤推定法と簡単なスムージングにより信頼度を算出しているが，理論的な根拠に欠け推定精度も高くないという問題がある．そこで本論文では，ベイズ学習法を利用してルールの信頼度を算出する手法を示す．さらに，証拠の種類ごとに異なる事前分布を利用することで，より正確な信頼度の推定が可能になり，決定リストの性能が向上することを示す．本手法の有効性を確かめるために，語義曖昧性解消の問題に決定リストを適用して実験を行なった．英語に関してはSenseval-1 のデータを用い，日本語に関しては疑似単語を用いた．その結果，ベイズ学習による信頼度推定手法が，ルールの確率値の推定精度を高め，決定リストの分類性能を向上させることを確認した．The decision list algorithm is one of the most successful algorithms for classification problems in natural language processing. The most important part of the decision list algorithm is the calculation of reliability for each rule, hence the estimation of probability for each contextual evidence. However, the majority of research efforts using decision lists do not think much of the estimation method. We propose an estimation method based on Bayesian learning which gives well-founded smoothing and better use of prior information on each type of contextual evidences. Experimental results obtained using Senseval-1 data set and Japanese pseudowords show that our method makes probability estimation more precise, leading to improvement of classification performance of the decision list algorithm