Apprentissage dans un contexte déséquilibré : une application à la détection de fraude bancaire

La détection de fraudes et d'anomalies, ou plus généralement l’apprentissage dans un contexte déséquilibré, est une tâche très souvent rencontrée dans de nombreuses applications industrielles.Détecter ces anomalies revêt un enjeu majeur dans notre société actuelle de par ses conséquences économiques.La société BLITZ Business Services est confrontée à ce type de problématique dans le cadre de la lutte contre la fraude par chèques. Ces fraudes représentent 0.4% des transactions pour ses clients mais des millions d'euros de pertes par an.Les données de fraudes sont difficiles pour la plupart des algorithmes actuels de par cette sous-représentativité des fraudes par rapport aux non-fraudes. Les techniques d'analyse sont aussi diverses et variées que la nature des fraudes rencontrées et vont de la stratégie de ré-échantillonnage, de l’apprentissage de représentation, l’optimisation de mesures appropriées à un contexte déséquilibré ou encore la construction d’algorithmes de classification combinant plusieurs autres algorithmes.Cette thèse se veut éclectique, à l’image des techniques présentes dans l'état de l'art, et se divise en deux grands axes : (i) une approche dite géométrique dans laquelle nous proposons des algorithmes d'apprentissage de métrique pour la classification de données et (ii) une approche par sensibilité aux coûts que nous utilisons à la fois dans un but théorique mais aussi pratique.Notre première contribution repose sur l'apprentissage de modèles locaux autour de fraudes avérées afin de construire des zones à risque. Elle part du postulat qu'une nouvelle fraude a de très grandes chances d'apparaître à proximité d'une fraude connue. Une étude théorique accompagne cet algorithme permettant d'assurer que le nombre de faux positifs générés par l'algorithme reste contrôlé.Dans notre deuxième contribution, nous proposons une version de l'algorithme des k plus proches voisins plus adaptée au contexte déséquilibré. Dans cette étude, essentiellement expérimentale, nous nous proposons d'étudier la façon dont doit être modifiée la distance d'un nouvel exemple à une fraude afin d'optimiser une mesure adaptée à ce contexte : la F-mesure, par le biais de la validation croisée. Cette mesure est au centre de notre troisième contribution qui se veut principalement théorique. Nous proposons de dériver une borne sur la F-mesure optimale à partir de la propriété de pseudo-linéarité de cette mesure, des erreurs effectuées par l'hypothèse apprise et d'une approche par sensibilité aux coûts. Ces bornes théoriques obtenues sont ensuite utilisées pour construire un algorithme itératif d'optimisation de la F-mesure, algorithme qui est tout aussi performant que ces concurrents.Notre quatrième et dernière contribution est industrielle et a pour but de combiner l'utilisation de modèles à base d'arbres et de sensibilité aux coûts pour améliorer le système existant de la société BLITZ en proposant un système d'optimisation des bénéfices de ses clients.Fraud and anomaly detection, or more generally learning in an imbalanced context, is a task very often encountered in industrial applications.Detecting these anomalies is a major challenge in today's society due to its potential economic consequences. BLITZ Business Services is confronted with this type of problem in the context of the fight against check fraud. These frauds represent 0.4% of the transactions but millions of euros of losses per year for its customers. Dealing with fraud data, and more generally with imbalanced data, is a complex task for most current learning algorithms because of the under-representation of frauds over non-frauds. The techniques are also as diverse and varied as the nature of the frauds encountered and range from sampling strategy, representation learning, optimization of measures appropriate to an imbalanced context or the construction of classification algorithms combining the advantages of several of the former. This thesis is intended to be eclectic, in the same way as the techniques present in the state of the art and is divided into two main axes: (i) a so-called geometric approach in which we propose metric learning algorithms for data classification and (ii) a cost-sensitive approach that we use for both theoretical and practical purposes.Our first contribution is based on learning local models around known frauds in order to build risky areas. It is based on the assumption that a new fraud is very likely to occur in the neighborhood of a known fraud. A theoretical study accompanies this algorithm to ensure that the number of false positives generated by the algorithm remains controlled.In our second contribution, we propose a version the k-Nearest Neighbors algorithm adapted to the imbalanced context. In this study, we propose to analyze how the distance from a new query to a fraud should be modified in order to optimize a measure adapted to this context: the F-measure, through cross validation. This measure is at the heart of our third contribution, which is mainly theoretical. We propose to derive a bound on the optimal F-measure from the pseudo-linearity property of this measure, the errors made by the hypotheses learned and a cost-sensitivity approach. The theoretical bounds obtained are then used to build an iterative algorithm for optimizing the F-measure, algorithm that is at least as efficient as its competitors.Our fourt and final contribution is industrial and aims to combine the use of tree-based models and cost sensitivity to improve BLITZ existing system by offering a profit optimization system for its customers