Conducteur, passant : si vous étiez une voiture autonome, qui sauveriez-vous ?
La réflexion autour des choix moraux des voitures autonomes sera clairement l'un des sujets technologiques majeurs à résoudre pour les années à venir.
Si cette réflexion qui mélange pragmatisme, sentiments et respect de la loi ne vous effraie pas, le MIT a mis en ligne une sorte de petit questionnaire qui vous met à la place de la voiture autonome. À chaque fois, le site vous propose une situation dans laquelle vous devez choisir qui meurt, mêlant des cas de conscience particulièrement complexes -- jusqu'à l'extrême.
Allez-vous tuer un voleur en cavale qui traverse au vert ou une business woman qui traverse au rouge ? Préférez-vous tuer les occupants de la voiture ou un groupe de personnes en-dehors du véhicule ? À choisir, sacrifiez-vous les personnes âgées ou les enfants ? Choisissez-vous le moindre mal au niveau quantitatif ou placez-vous plus de valeur sur la vie d'une catégorie de personnes qui méritent d'être sauvées, même en plus petit nombre ?
La série de questions n'est pas simplement là pour vous mettre en face de votre propre choix en tant que conducteur -- parce qu'après tout, c'est ce dont il s'agit --, mais pour enrichir la plateforme sur ce que l'humain aurait fait dans une situation donnée. Ces données pourront servir, peut-être, à l'établissement de lignes directrices quand il sera question d'informer les voitures autonomes. En supposant qu'il soit admis qu'elle réagisse en humain, ce qui n'est peut-être pas la meilleure solution.
Rappelons enfin qu'un tel programme est conçu pour imaginer une situation catastrophe. En pratique, la voiture autonome est par essence plus sûre qu'une voiture conduite manuellement : elle saisit beaucoup d'informations qu'un humain en temps réel et réagit bien plus rapidement à une situation critique, le plus souvent en douceur.
Lors de notre test de la Tesla Model S, nous l'avons laissé conduire seule plus de 80 % du temps et jamais le système, encore en bêta, ne nous a effrayé sur autoroute. Il n'est pourtant toujours pas infaillible, ce que Tesla n'a jamais prétendu, et le premier accident mortel a eu lieu. Ce drame ne remet pas en cause la sûreté de la voiture autonome, bien plus efficace que notre bon vieux corps humain, quel que soit le constructeur, mais montre l'importance de poser ces questions bien en amont.