Discriminative vs. Generative Classifiers for Cost Sensitive Learning

This paper experimentally compares the performance of discriminative and generative classifiers for cost sensitive learning. There is some evidence that learning a discriminative classifier is more effective for a traditional classification task. This paper explores the advantages, and disadvantages, of using a generative classifier when the misclassification costs, and class frequencies, are not fixed. The paper details experiments built around commonly used algorithms modified to be cost sensitive. This allows a clear comparison to the same algorithm used to produce a discriminative classifier. The paper compares the performance of these different variants over multiple data sets and for the full range of misclassification costs and class frequencies. It concludes that although some of these variants are better than a single discriminative classifier, the right choice of training set distribution plus careful calibration are needed to make them competitive with multiple discriminative classifiers.Ce document pr\ue9sente la comparaison exp\ue9rimentale des performances des classificateurs discriminants et g\ue9n\ue9rateurs pour l'apprentissage sensible aux co\ufbts. Tout porte \ue0 croire que l'apprentissage d'un classificateur discriminant est plus efficace pour une t\ue2che de classification traditionnelle. Ce document examine les avantages et les inconv\ue9nients d'un classificateur g\ue9n\ue9rateur lorsque les co\ufbts d'une classification erron\ue9e, et la fr\ue9quence des classes, ne sont pas \ue9tablis. Il d\ue9crit en d\ue9tail des exp\ue9riences faisant appel \ue0 des algorithmes courants modifi\ue9s pour devenir sensibles aux co\ufbts. Cette m\ue9thode permet une comparaison claire avec le m\ueame algorithme utilis\ue9 pour produire un classificateur discriminant. Le document compare les performances de ces diff\ue9rentes variantes pour de multiples ensembles de donn\ue9es et pour la gamme compl\ue8te des co\ufbts de classification erron\ue9e et des fr\ue9quences des classes. Il conclut que, malgr\ue9 la sup\ue9riorit\ue9 de certaines de ces variantes par rapport \ue0 un classificateur discriminant unique, le bon choix de r\ue9partition de la base d'apprentissage ainsi qu'un \ue9talonnage minutieux sont n\ue9cessaires pour garantir la comp\ue9titivit\ue9 par rapport aux classificateurs discriminants multiples.NRC publication: Ye