Pour pouvoir expliquer les causes des inévitables accidents que provoqueront les robots amenés à évoluer en société, plusieurs chercheurs en robotique appellent à les doter de boîtes noires. Comme celles actuellement utilisées sur les avions, elles permettraient d'enregistrer toutes les activités des robots pour les analyser si besoin.

Hasard du calendrier, alors que le débat fait rage entre Elon Musk et plusieurs experts de l’IA autour du danger potentiel qu’elle représente pour la société, et que le robot K5 a fait le tour du web depuis sa noyade à Washington, plusieurs experts en robotique appellent à instaurer une « boîte noire éthique » dans les robots.

L’idée de cette étude britannique, qui doit être détaillée ce jeudi 20 juillet lors d’une conférence à l’université de Surrey, consiste à les doter des mêmes systèmes enregistrements répandus dans les avions et qui permettent potentiellement, après un accident ou un évènement grave, d’établir ses causes en revenant sur le déroulé des faits. Les robots pourraient ainsi expliquer leurs actes après un accident.

Aux yeux de ces spécialistes, l’essor attendu des robots ou de processus automatisés dans différents domaines du quotidien — la conduite, la sécurité, l’industrie… — nécessite en effet de telles mesures de sécurité.  « Nous espérons que les accidents seront rares, mais ils restent inévitables, souligne Alan Winfield, professeur d’éthique robotique à l’université de l’Ouest de l’Angleterre (Bristol) cité par The GuardianPartout où les robots et les humains se croiseront, des accidents potentiels pourraient avoir lieu. »

En Allemagne, des boîtes noires dans les voitures autonomes

L’initiative n’est pas totalement inédite : l’Allemagne envisageait dès 2016 d’installer des boîtes noires sur les voitures autonomes, alors que la sécurité de ces véhicules compte parmi les enjeux cruciaux à maîtriser pour permettre leur essor. Récemment, outre la noyade du robot K5, l’accident mortel d’une Tesla Model S en mode Autopilot a marqué les esprits.

La boîte noire envisagée enregistrerait toutes les décisions prises par le robot, les raisons de ses choix, mais aussi ses mouvements et les différentes informations tirées de ses capteurs (caméras, micros…). « Les accidents graves devront faire l’objet d’une enquête, mais comment les enquêteurs pourront-ils procéder s’ils ne trouvent aucune donnée interne […] sur les activités du robot au moment de l’accident ? Il serait quasiment impossible de savoir ce qui s’est passé » déplore Alan Winfield.

Outre la possibilité d’éclaircir les accidents, l’équipe de chercheurs veut croire que la boîte noire permettra de faciliter les interactions entre robots et humains puisqu’ils pourront par extension expliquer leurs actions à leurs interlocuteurs — notamment dans les maisons de retraite.

À lire sur Numerama : Robophobe, robophile  : quelles relations aurons-nous avec nos robots  ?

Partager sur les réseaux sociaux