Hasard du calendrier, alors que le débat fait rage entre Elon Musk et plusieurs experts de l’IA autour du danger potentiel qu’elle représente pour la société, et que le robot K5 a fait le tour du web depuis sa noyade à Washington, plusieurs experts en robotique appellent à instaurer une « boîte noire éthique » dans les robots.
L’idée de cette étude britannique, qui doit être détaillée ce jeudi 20 juillet lors d’une conférence à l’université de Surrey, consiste à les doter des mêmes systèmes enregistrements répandus dans les avions et qui permettent potentiellement, après un accident ou un évènement grave, d’établir ses causes en revenant sur le déroulé des faits. Les robots pourraient ainsi expliquer leurs actes après un accident.
Aux yeux de ces spécialistes, l’essor attendu des robots ou de processus automatisés dans différents domaines du quotidien — la conduite, la sécurité, l’industrie… — nécessite en effet de telles mesures de sécurité. « Nous espérons que les accidents seront rares, mais ils restent inévitables, souligne Alan Winfield, professeur d’éthique robotique à l’université de l’Ouest de l’Angleterre (Bristol) cité par The Guardian. Partout où les robots et les humains se croiseront, des accidents potentiels pourraient avoir lieu. »
En Allemagne, des boîtes noires dans les voitures autonomes
L’initiative n’est pas totalement inédite : l’Allemagne envisageait dès 2016 d’installer des boîtes noires sur les voitures autonomes, alors que la sécurité de ces véhicules compte parmi les enjeux cruciaux à maîtriser pour permettre leur essor. Récemment, outre la noyade du robot K5, l’accident mortel d’une Tesla Model S en mode Autopilot a marqué les esprits.
La boîte noire envisagée enregistrerait toutes les décisions prises par le robot, les raisons de ses choix, mais aussi ses mouvements et les différentes informations tirées de ses capteurs (caméras, micros…). « Les accidents graves devront faire l’objet d’une enquête, mais comment les enquêteurs pourront-ils procéder s’ils ne trouvent aucune donnée interne […] sur les activités du robot au moment de l’accident ? Il serait quasiment impossible de savoir ce qui s’est passé » déplore Alan Winfield.
Outre la possibilité d’éclaircir les accidents, l’équipe de chercheurs veut croire que la boîte noire permettra de faciliter les interactions entre robots et humains puisqu’ils pourront par extension expliquer leurs actions à leurs interlocuteurs — notamment dans les maisons de retraite.
Découvrez les bonus
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Il y a une bonne raison de ne pas s'abonner à
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
