Une morale, quelle morale ? Mercedes-Benz protégera en priorité ses clients

Avec l’avènement des voitures autonomes qui prendront les décisions de pilotage à la place des conducteurs humains, les développeurs des algorithmes de conduite sont appelés à programmer des décisions morales à prendre par la machine à la place des propriétaires. Il existe de nombreuses situations délicates dans lesquelles un accident inévitable exigera d’avoir à sacrifier une ou plusieurs personnes et de choisir lesquelles, en fonction de critères tels que le nombre des victimes potentielles, leur âge, leur responsabilité dans l’accident, etc.

Avoir à décider qui tuer en priorité est une décision extrêmement lourde, qui met les constructeurs de voitures et les développeurs dans une situation inédite bien peu enviable. La porte de sortie la plus naturelle aurait pu être de laisser le propriétaire de la voiture décider à travers des options à paramétrer dans les menus de la voiture, mais ce n’est pas l’optique choisie par Mercedes-Benz, qui a trouvé une voie beaucoup plus radicale.

Selon CarAndDriver, le directeur des systèmes d’assistance à la conduite de Mercedes-Benz, Christoph von Hugo, a expliqué lors du Mondial de l’Automobile à Paris que les voitures autonomes du constructeur feront systématiquement le choix de privilégier la sauvegarde de la vie des passagers de la voiture. Peu importe les situations, ce sera toujours ce choix qui sera fait, même si c’est un enfant qui traverse la route au dernier moment, ou si c’est un groupe de cinq personnes qui sera tué pour sauver la vie d’un seul passager qui aurait pu se projeter contre un muret.

« Si vous savez que vous pouvez sauver au moins une personne, sauvez au moins celle-là. Sauvez la personne qui est dans la voiture », explique von Hugo. « Si tout ce que vous savez avec certitude c’est qu’une mort peut être évitée, alors c’est votre priorité numéro un ».

Les gens veulent des voitures morales, sauf s’ils sont à l’intérieur

Avant l’été, une étude publiée dans le magazine Science réalisée auprès de 2 000 personnes avait montré que la majorité des sondés estimaient que l’algorithme devait privilégier le nombre des victimes potentielles pour prendre une décision, et épargner la vie des passants s’ils étaient plus nombreux que les passagers du véhicule. Mais quand les chercheurs ont demandé aux mêmes personnes si elles achèteraient elles-mêmes une voiture autonome programmée pour sacrifier le passager dans de telles situations, les réponses étaient en grande majorité négatives.

Présenter un véhicule qui est programmé pour tuer son client n’est pas le meilleur argument commercial. Et ce n’est certainement pas un argument que Mercedes-Benz veut risquer.

À terme, il sera donc certainement nécessaire que les régulateurs s’emparent directement de la question et dictent les comportements à adopter par les intelligences artificielles, tout comme le code de la route est censé dicter le comportement des automobilistes humains. Mais le législateur aura certainement la main tremblante lorsqu’il faudra imposer par la loi aux développeurs d’intelligences artificielles qu’ils privilégient la vie d’une femme enceinte par rapport à celle d’un enfant, ou celle d’un trentenaire par rapport à un retraité.

Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.