Éthique de la recherche en robotique: Rapport n° 1 de la CERNA Commission de réflexion sur l’Éthique de la Recherche en sciences et technologies du Numérique d’Allistene

La robotique, comme plus largement le numérique, débouche sur de multiples usages aux déploiements parfois aussi massifs qu’inattendus, tel l’essor actuel des drones civils. Dans ce contexte évolutif, il serait vain d’énoncer de nouvelles normes éthiques qui pourraient vite s’avérer inadéquates. Mieux vaut équiper le monde scientifique pour que la dimension éthique devienne indissociable de l’activité de recherche, dans les communautés et les esprits. Le présent avis émet à cet effet quelques préconisations à l’attention des établissements et un ensemble de préconisations ancrées dans la recherche à l’attention des scientifiques. D’une manière générale, la CERNA préconise en particulier que les établissements ou institutions de recherche se dotent de comités d’éthique en sciences et technologies du numérique, traitant au cas par cas les questions opérationnelles, à l’instar des sciences de la vie ; que des actions de sensibilisation et d’accompagnement soient menées auprès des chercheurs ; que les réflexions éthiques relatives aux projets susceptibles d’avoir un impact direct sur la société impliquent tous les acteurs concernés.Les préconisations sont d’abord illustrées à travers trois cas d’usage : les robots auprès des personnes et au sein des groupes, les robots dans le contexte médical et les robots dans la défense et la sécurité.Puis elles sont formulées selon trois thèmes propres à la robotique: l’autonomie et les capacités décisionnelles, l’imitation du vivant et l’interaction affective et sociale avec les humains, et la réparation et l’augmentation de l’humain par la machine.Le chercheur doit prémunir les systèmes qu’il conçoit contre les effets indésirables, cela prévaut d’autant plus que les robots sont dotés d’une autonomie croissance. La confiance que l’on peut placer dans un robot, les possibilités et limites de celui-ci et du couple qu’il forme avec l’utilisateur, la reprise en main, le traçage – c’est-à-dire la possibilité de rendre compte du comportement - sont à considérer du point de vue éthique dans la conception du robot.Par l’imitation du vivant et l’interaction affective, le robot peut brouiller les frontières avec l’humain et jouer sur l’émotion de manière inédite. Au-delà de la prouesse technologique, la question de l’utilité d’une telle ressemblance doit se poser, et l’évaluation interdisciplinaire de ses effets doit être menée, d’autant plus que ces robots seraient placés auprès d’enfants ou de personnes fragiles.La forme androïde que prennent parfois les robots soulève craintes et espoirs démesurés,amplifiés par les annonces médiatiques et touchant parfois aux idéologies et aux croyances. Le roboticien connaît lui avec exactitude l’état de la science et des technologies en la matière, de leurs proximités ou de leurs écarts avec ce que perçoit le public. Il occupe en cela une position privilégie pour éclairer les débats par une communication appropriée, et il ne doit se prononcer, en tant qu’expert, que sur ce qui relève de son domaine de compétence professionnelle.La réparation de l’humain, à travers les prothèses bioniques par exemple, relève a priori de l’éthique médicale. Cependant elle peut conduire à une augmentation de capacité,volontaire ou non, ou à une altération d’autres fonctions. La préservation de l’autonomie de l’individu réparé et de son intégrité est donc à prendre en compte par le chercheur.Il en va de même de la réversibilité de l’augmentation, de son impact sur l’individu,sans entrer dans les considérations sur l’augmentation vue par certains mouvements comme une amélioration voire un pas vers le dépassement de l’humain.Cet avis destiné aux roboticiens et à leurs tutelles, est aussi accessible aux non spécialistes,aidés en cela par un lexique