L’intelligence artificielle : les enjeux de la robustesse

Les algorithmes appris issus d’algorithmes d’apprentissage sont de plus en plus utilisés en pratiques et on tend à leur accorder une confiance de plus en plus importante pour prendre des décisions dans des situations potentiellement critiques. Les algorithmes de conduites automatiques, de reconnaissance faciale ou encore de médecine issus de l’apprentissage automatique portaient de nombreux espoirs mais semblent en pratique bien moins fiables et efficace qu’attendu. Et tandis qu’une régulation standardisée tarde à être développée, il n’existe pas de méthode fiable pour évaluer leur robustesse, c’est-à-dire le maintien de leur performance face aux aléas de la vie. La régulation est alors de fait laissée aux acteurs et industriels du secteur qui se contente d’établir des guides de bonnes pratiques de conception sensés limiter les risques. Nous proposons dans ce mémoire un état des lieux de la robustesse et des problèmes pratiques que posent déjà les algorithmes d’appris ainsi que de la régulation de ceux-ci. Nous mettons en lumière différentes sources de leur manque de fiabilité et nous tentons de proposer des définitions formelles de notions de robustesse. Finalement, nous proposons un contournement du problème en définissant une classe de problèmes pour lesquels le manque de robustesse est pallié par la possibilité de vérifier la correction d’une décision prise. Nous partons des classes de complexité N P et IP , nous montrons qu’elles offrent un cadre permettant de rendre fiable l’emploi d’algorithmes appris et nous en proposons une relaxation humaine socio-technique comme fondement d’un emploi sûr des algorithmes appris