C’est un problème éthique connu sous le nom du dilemme du tramway. Le but ? Voir quelle décision est prise face à deux choix impossibles. Pour cela, on imagine un tramway lancé à vive allure et inarrêtable. La seule action possible est de choisir de le dévier sur une autre voie. Il n’y a toutefois aucune issue : le tramway va percuter quelqu’un ou quelque chose dans les deux cas. À vous de déterminer la perte la moins grave, faute de pouvoir l’éviter.
Plusieurs propositions insolubles vous sont alors présentées : vous sacrifier sur la voie de gauche ou trois personnes sur la voie de droite ? Peut-être, allez-vous vous privilégier. Mais, si ce sont dix personnes en face ? Allez-vous vous accepter votre sort ? Et, si le choix se fait entre trois enfants et trois vieillards ? Ou deux enfants et huit séniors ? Qui allez-vous sauver entre un riche et un pauvre ? Le pauvre ? Et, qui si le riche vous promet de l’argent ? Les déclinaisons sont infinies.
![moral machine moral machine](https://c0.lestechnophiles.com/www.numerama.com/wp-content/uploads/2016/07/capture-decran-2016-07-01-a-16-55-49.png?resize=948,660&key=9554cf45)
Cet exercice du « trolley problem » a connu diverses déclinaisons au fil des ans — il a été posé pour la première fois en 1967 par la philosophe Philippa Foot. Il sert dans l’industrie automobile comme base de réflexion en cas d’accident inévitable qui implique une voiture autonome. Le MIT s’était aussi penché sur la question à travers une étude (si vous étiez une voiture autonome, qui sauveriez-vous ?) et un jeu (la « machine morale ») et avait présenté ses résultats.
Le dilemme éthique du tramway, version absurde
Cette expérience, évidemment fictive, montre que si certains choix sont « plutôt » simples à trancher, d’autres sont beaucoup moins évidents. Du moins, les réponses sont plus nuancées, avec parfois 50 % de votes pour un cas et 50 % pour l’autre. Le jeu révèle ainsi différentes sensibilités et une position éthique pas toujours alignée sur les autres. C’est dans ce cadre qu’une version encore plus décalée de ce problème du tramway a été conçue.
Le développeur Neal Agarwal a partagé sur son site personnel le jeu Absurd Trolley Problems. Ici, il s’agit de pousser vraiment à l’extrême ce challenge éthique. Si les deux premiers tests sont classiques, on entre dans une autre dimension avec des suggestions comme : vous préférez sauver cinq personnes ou vos économies de toute une vie ? Et, entre un chat et cinq homards ? Et, qu’en est-il de vous-même vs cinq de vos clones ? Vous avez compris l’idée.
![Absurd Trolley Problem Absurd Trolley Problem](https://c0.lestechnophiles.com/www.numerama.com/wp-content/uploads/2022/09/absurd-trolley-problem-1024x576.jpg?resize=1024,576&key=6997e966)
Ce qu’il est intéressant de noter, c’est que le site affiche aussi des statistiques qui vous montrent le choix d’autres participants. Par exemple, 81 % (sur plus de 1,7 million de participations) préfèrent sacrifier le tableau de la Joconde plutôt que cinq malheureux. Cela veut dire aussi qu’une personne sur cinq préfère Mona Lisa aux vivants. Cependant, pas de conclusion hâtive sur ces résultats : le site n’a aucune prétention scientifique.
Bien sûr, ces situations sont bien souvent loufoques et pour certaines sont juste un exercice de pensée (par exemple, le cas des clones ou bien celui où ce sont cinq individus qui s’attachent volontairement aux rails contre une personne ligotée contre son gré). Mais l’Absurd Trolley Problems montre indirectement la grande difficulté qu’il peut y avoir à essayer de trouver des règles fixes sur des problèmes sans solution vraiment convenable.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !