Avec le développement de l’intelligence artificielle, les voitures autonomes pourraient bientôt être soumises à d’importants dilemmes moraux en cas d’accident impliquant des personnes. Par exemple, si trois piétons surgissent sur la chaussée, une voiture autonome devrait-elle les éviter au risque d’ôter la vie de son unique passager ? Peut-on établir des règles d’éthique claires et universelles permettant aux machines de résoudre n’importe quel dilemme moral ?
Pour tenter d’y répondre, des chercheurs du MIT ont proposé une enquête en ligne originale intitulée « The Moral Machine Experiment » (à laquelle vous pouvez encore participer ici), qui soumet chaque participant à 13 scénarios dans lesquels la mort d’un passager ou d’un piéton est inévitable.
Les répondants doivent alors choisir qui épargner parmi des femmes ou des hommes, des jeunes ou des vieux, des riches ou des pauvres, des humains ou des animaux…
Une étude inédite par son ampleur
Ce test — qui place les sondés dans une série de situations dramatiques — aurait pu se heurter aux mêmes critiques que le controversé « dilemme du tramway » (récemment exploré dans la série télévisée The Good Place)… si ce n’est que les résultats de cette étude — inédite par son ampleur (2,3 millions de participants et 40 millions de décisions) — montrent que les différences culturelles rendent impossible l’établissement d’une éthique universelle. En effet, les décisions sont clairement très différentes selon les pays d’appartenance.
Pour rendre compte de ces différences et visualiser la place qu’occupe la France dans ce grand nuancier de la moralité, nous avons exploré les calculs des chercheurs et placé chaque pays sur une échelle allant de -1 à +1* selon les cas proposés.
Par exemple, dans ce premier graphique (colonne de gauche) qui évalue la probabilité de sauver un individu en raison de son sexe, -1 représente la survie systématique d’un homme en défaveur d’une femme, 1 la survie systématique d’une femme en défaveur d’un homme et 0 l’équité parfaite entre les deux sexes.
La France est représentée sur chaque graphique par un point plus rouge que les autres.
* Parce qu’aucun facteur ne place résolument les pays dans des directions opposées, nous avons réduit l’échelle de -0,2 à +1 pour des raisons de lisibilité sur les graphiques proposés.
En France, les femmes et les enfants d’abord
Premier enseignement, en moyenne, les participants ont légèrement tendance à épargner une femme plutôt qu’un homme (cette probabilité est de +0,10 en leur faveur). La France s’illustre tout particulièrement sur ce critère puisqu’elle est le deuxième pays (+0,21), derrière Madagascar. Seuls les Syriens, les Afghans et les sujets de la monarchie islamique de Brunei ont tendance à épargner plus souvent un homme (c’est pourquoi leurs valeurs sont négatives sur ce graphique).
Par ailleurs, la totalité des pays exprime une tendance nette en faveur de la survie des enfants plutôt que leurs aînés (+0,48 en moyenne). Et là encore, la France s’illustre en enregistrant la probabilité la plus élevée (+0,58) à l’inverse de nombreux pays asiatiques comme la Chine, la Corée du Sud, Taïwan ou le Cambodge (+0,33) qui sont parmi les plus réticents à suivre cette tendance générale au jeunisme. Etonnamment, ce sont donc les Français qui obéissent avec le plus de zèle à l’impératif catégorique « les femmes et les enfants d’abord ».
L’éthique humaine se brouille… quand des animaux sont impliqués
Autre enseignement de l’étude, l’ensemble des nationalités font du statut social (cf graphique ci-dessus) un important critère de décision (+0,35). Par exemple, un médecin sera plus souvent épargné qu’un sans-abri. Cette probabilité s’exprime fortement dans plusieurs pays d’Amérique centrale et du Sud tandis que la France est dans la moyenne haute (+0,37).
Paradoxalement, le facteur où les différences culturelles s’expriment de la manière la plus clivante est le seul de l’étude à ne pas suggérer de différencier les humains entre eux.. mais à les préférer (ou non) aux animaux (ci-dessous).
En effet, si l’ensemble des participants privilégie en moyenne nettement la survie des humains au reste du monde animal (+0,57), les écarts entre pays sont très marqués. Le Nigéria est par exemple le pays épargnant le plus souvent un être humain (+0,71)… quand la Bolivie (+0,29) et le Venezuela (+0,31) se situent si bas dans l’échelle qu’ils montrent, en fait, plus de difficulté à choisir entre un humain et un animal qu’entre un enfant et une personne âgée. La France se situe, elle, dans les nations les plus spécistes (+0,64), juste derrière l’Allemagne.
Cet article a été rédigé et réalisé par WeDoData, studio de datajournalisme et datavisualisations.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !