Dans une situation critique, qui une voiture autonome doit-elle sauver ? Un passant, un conducteur ? Doit-elle faire intervenir un jugement moral ? Un questionnaire du MIT vous permet de vous confronter à ces problèmes.

La réflexion autour des choix moraux des voitures autonomes sera clairement l’un des sujets technologiques majeurs à résoudre pour les années à venir. Quand nos routes seront entièrement équipées de véhicules autonomes, la question ne devrait plus se poser : tous communiqueront entre eux, en harmonie avec la ville intelligente qui leur donnera aussi des informations. Mais avant l’année 3059 où ce futur idéal existe, quand une situation critique se présentera, il faudra faire des choix.

Si cette réflexion qui mélange pragmatisme, sentiments et respect de la loi ne vous effraie pas, le MIT a mis en ligne une sorte de petit questionnaire qui vous met à la place de la voiture autonome. À chaque fois, le site vous propose une situation dans laquelle vous devez choisir qui meurt, mêlant des cas de conscience particulièrement complexes — jusqu’à l’extrême.

Capture d’écran 2016-07-01 à 16.55.49

Allez-vous tuer un voleur en cavale qui traverse au vert ou une business woman qui traverse au rouge ? Préférez-vous tuer les occupants de la voiture ou un groupe de personnes en-dehors du véhicule ? À choisir, sacrifiez-vous les personnes âgées ou les enfants ? Choisissez-vous le moindre mal au niveau quantitatif ou placez-vous plus de valeur sur la vie d’une catégorie de personnes qui méritent d’être sauvées, même en plus petit nombre ?

La série de questions n’est pas simplement là pour vous mettre en face de votre propre choix en tant que conducteur — parce qu’après tout, c’est ce dont il s’agit –, mais pour enrichir la plateforme sur ce que l’humain aurait fait dans une situation donnée. Ces données pourront servir, peut-être, à l’établissement de lignes directrices quand il sera question d’informer les voitures autonomes. En supposant qu’il soit admis qu’elle réagisse en humain, ce qui n’est peut-être pas la meilleure solution.

Rappelons enfin qu’un tel programme est conçu pour imaginer une situation catastrophe. En pratique, la voiture autonome est par essence plus sûre qu’une voiture conduite manuellement : elle saisit beaucoup d’informations qu’un humain en temps réel et réagit bien plus rapidement à une situation critique, le plus souvent en douceur.

En pratique, la voiture autonome est plus sûre qu’une voiture conduite manuellement

Lors de notre test de la Tesla Model S, nous l’avons laissé conduire seule plus de 80 % du temps et jamais le système, encore en bêta, ne nous a effrayé sur autoroute. Il n’est pourtant toujours pas infaillible, ce que Tesla n’a jamais prétendu, et le premier accident mortel a eu lieu. Ce drame ne remet pas en cause la sûreté de la voiture autonome, bien plus efficace que notre bon vieux corps humain, quel que soit le constructeur, mais montre l’importance de poser ces questions bien en amont.

Partager sur les réseaux sociaux

Articles liés