Une terminologie pour une IA explicable contextualisée

International audienceL'Intelligence Artificielle explicable a connu un gain de popularité ces dernières années, grâce aux nouvelles législations promouvant le « droit à l'explication ». De nombreuses méthodes ont été récemment développées pour aider à comprendre les modèles dits « boîtes noires », mais la définition de ce qu'est une explication n'est pas encore clairement définie. De plus, la communauté s'accorde à dire que de nombreux termes importants n'ont pas de définition consensuelle. Dans cet article, nous passons en revue la littérature et montrons qu'il existe un problème majeur concernant les définitions des termes comme explicabilité ou interprétabilité. Pour résoudre ce problème, nous proposons une terminologie qui prend en compte le contexte d'un système d'IA. Cette terminologie est compatible avec la majorité des définitions vues dans la littérature, de sorte qu'elle puisse servir de base pour les travaux futurs. Nous discutons également des métriques permettant d'évaluer certaines propriétés définies dans cette terminologie