L'intelligence artificielle : vers une régulation européenne par la gestion des risques

Avec le projet de règlement sur l’Intelligence Artificielle (IA) du 21 avril 2021, la Commission européenne ajoute un volet juridique à la régulation soft de l’IA par les Lignes directrices en matière d’éthique pour une IA digne de confiance (2019). L’approche est graduée et définit des interdictions et obligations selon les niveaux de risque des systèmes d’IA, définis comme les logiciels développés à partir de l’apprentissage-machine ou de méthodes logiques ou statistiques (art. 3). L’article 5 interdit ainsi les systèmes d’IA qui influencent de manière subliminale le comportement d’une personne ou exploitent les vulnérabilités d’une catégorie de personnes, d’une manière qui cause ou est susceptible de causer à cette personne ou un tiers un dommage d’ordre physique ou psychologique. Est aussi interdit l’usage par des autorités publiques (ou en leur nom) de systèmes de notation sociale (l’UE veut se démarquer de la Chine). Est enfin proscrit l’usage par les autorités en charge de la sécurité, de systèmes d’identification biométrique à distance en temps réel (ce qui couvre les outils de reconnaissance faciale) dans des espaces publics, sauf s’ils sont strictement nécessaires pour retrouver des personnes recherchées ou prévenir un acte terroriste