Jugement éthique pour la décision et la coopération dans les systèmes multi-agents

The increasing use of multiagent systems in various fields raises the need of autonomous agents able to take into account such ethical principles in their decisions. More and more propositions are published, but they are often agent-centered and they don’t consider the issues raised by the interactions between artificial agents and possibly humans, potentially using another ethics. Our goal is to give the agents the ability to reason on ethics to enable an ethics-based cooperation in multiagent systems. This work presents a model of ethical judgment for artificial autonomous agents in multiagent systems both useful to influence their decisions and behaviors, and describes an ethics-based cooperation framework. This model distinguishes the morality (or theory of the good), describing the goodness of actions in a context regarding a set of moral values and moral rules, and ethics (or theory of the right), describing the rightness of an action regarding a set of ethical principles. The use of this model in the decision process generates a conform behavior regarding the chosen theories of good and right. An agent may also use this model to judge the observed behavior of the other agents and employ this judgment to adapt its own behavior towards the judged agents. The detailed presentation of this model is followed by some experimentations to show the use of this model in a realistic application based on an ethical asset management scenario. The results show how the behaviors of the agents might be impacted and the efficiency of this model to discriminate the behaviors of the others.L’usage croissant des systèmes multi-agents dans divers domaines d’application soulève la nécessité de concevoir des agents capables de prendre des décisions s’appuyant sur des principes éthiques. Notre objectif est d’équiper les agents de capacités de raisonnement éthique pour permettre la mise en place de coopérations fondées sur l’éthique. Ce travail propose un modèle de jugement éthique pour les agents autonomes artificiels dans les systèmes multi-agents permettantde guider leurs décisions afin d’influencer leur comportement individuel d’une part, et de décrire un cadre de coopération fondée sur l’éthique d’autre part. Les éléments de ce modèle reposent sur une distinction entre la morale (ou théorie du bien), décrivant le caractère bon ou mauvais des actions d’un agent en faisant appel à la définition de valeurs morales et de règles morales, et l’éthique (ou théorie du juste), permettant de juger de l’action qu’il est juste d’effectuer dans une situation au regard d’un ensemble ordonné de principes éthiques et des actions moralement évaluées. L’agent, en employant ce modèle de jugement comme un processus décisionnel, adopte alors un comportement éthique du point de vue des théories du bien et du juste qui lui sont confiées. Il lui est également possible d’employer ce modèle pour juger le comportement des autres agents et tenir compte de ce jugement dans son propre comportement vis-à-vis des agents jugés.La présentation de ce modèle est accompagnée d’expérimentations illustrant son utilisation dans un domaine applicatif rséaliste de gestion éthique d’actifs financiers permettant d’éprouver l’influence du jugement sur le comportement des agents