Le principe de garantie humaine du numérique en santé

In matters of health, the introduction of artificial intelligence, when it materializes in the development of diagnostic or therapeutic decision support tools, raises a number of questions: ethical, social, legal, etc. The main challenge is to find a balance between supporting innovation on one hand and controlling risks and abuses on the other. In other words: to frame and think our capacity for innovation without blocking it. The principle of human oversight attempts to address this challenge.The objective of this study is twofold: to present the human oversight and to analyze its interaction with artificial intelligence in health issues. To do so, seven semi-directive interviews were conducted with designers of artificial intelligence tools and healthcare professionals.This method allowed us to consider four central points:-in the matter of responsibility, where the principle of human oversight is not sufficient;-in the matter of protecting the doctor and patient, where it is partial;-in the matter of acceptability, where it sets out a legal framework which is a first step in gaining the trust of society;-in the matter of human supervision, where it materializes the role of the doctor in a broad reflection on the place to be given to artificial intelligence in health.The principle of a human oversight, as it stands, is necessary but not sufficient. How can this insufficiency be addressed?En matière de santé, l’introduction de l’intelligence artificielle, lorsqu’elle se matérialise par le développement d’outils d’aide au diagnostic ou à la décision thérapeutique, pose une multiplicité de questions : éthiques, sociales, juridiques, etc. L’enjeu principal est de trouver un équilibre pour d’une part, soutenir l’innovation et d’autre part, maîtriser les risques et dérives potentielles. Autrement dit : encadrer et penser notre capacité d’innovation sans la bloquer. Le principe de garantie humaine tente de répondre à cet enjeu.L’objectif de cette étude est double : présenter le principe de garantie humaine et analyser son interaction avec l’intelligence artificielle en santé. Pour ce faire, sept entretiens semi-directifs ont été réalisés auprès de concepteurs d’outils d’intelligence artificielle et de professionnels de santé.Cette méthode nous a permis de considérer quatre points centraux :- sur la question de la responsabilité, où le principe de garantie humaine est insuffisant ;- sur la question de la protection du médecin et du patient, où il est partiel ;- sur la question de l’acceptabilité, où il pose un cadre juridique qui est une première étape pour gagner la confiance de la société ;- sur la question de la supervision humaine, où il matérialise le rôle du médecin dans une réflexion large quant à la place à accorder à l’intelligence artificielle en santé.Le principe de garantie humaine, en l’état actuel, est nécessaire mais insuffisant. Comment pallier cette insuffisance