Une lettre ouverte signée par de nombreux chefs d'entreprise travaillant dans le domaine de la robotique et de l'intelligence artificielle appelle l'ONU à interdire les robots armés autonomes.

Les progrès significatifs accomplis en robotique et en intelligence artificielle au cours des dernières années doivent-ils conduire les gouvernements à prendre dès à présent des dispositions contraignantes afin d’empêcher, ou à défaut de limiter et d’encadrer, l’émergence des robots armés autonomes ? C’est le souhait que viennent de formuler 116 signataires d’une lettre ouverte publiée en août.

« Les armements autonomes risquent de devenir la troisième révolution en matière militaire. Une fois développés, ils permettront aux conflits armés d’avoir lieu à un degré jamais atteint et à des échelles de temps au-delà de la compréhension humaine » peut-on lire dans la missive signée notamment par Elon Musk, qui a fondé OpenAI, un collectif visant à développer une IA profitable à l’humanité.

Les armements autonomes, des outils de terreur

Ces armements « peuvent être des outils de terreur, des armes que les despotes et les terroristes utilisent contre des populations civiles et des armes piratées afin de les faire se comporter d’une façon indésirable. Nous n’avons pas beaucoup de temps pour agir. Une fois cette boîte de Pandore ouverte, il sera difficile de la refermer », mettent en garde ces experts du monde entier.

Du côté de l’industrie de l’armement, la course est déjà lancée. Par exemple, l’entreprise russe Kalashnikov communique depuis peu sur son programme de développement de drones et de robots armés soutenus par des réseaux de neurones pour repérer, identifier et « traiter » automatiquement des cibles. Des efforts similaires existent aux USA avec la Darpa et en Corée du Sud avec le Samsung SGR-A1.

samsung-sgr-a1
Le robot militaire Samsung SGR-A1.
CC MarkBlackUltor

Outre Elon Musk, dont la notoriété n’est plus à faire, on trouve parmi les signataires Mustafa Suleyman, le cofondateur de DeepMind, la filiale de Google dédiée à la recherche en matière d’intelligence artificielle, ainsi que des spécialistes venant des États-Unis, du Royaume-Uni, de l’Europe continentale, d’Afrique du Sud, de Russie, de Singapour, du Japon, d’Inde, d’Islande, du Canada, de Chine et d’Australie.

Six Français figurent dans cette lettre ouverte : Raul Bravo (Dibotics), Raphaël Cherrier (Qucit), Jérôme Monceaux (Spoon.ai et Aldebaran Robotics), Charles Ollion (Heuritech), Anis Sahbani (Enova Robotics) et Alexandre Vallette (Snips et Ants Open Innovation Labs). Ce n’est pas la première fois qu’une telle lettre ouverte est publiée : en 2015, une initiative similaire avait eu lieu.

La missive a été soutenue par de nombreuses personnalités comme le directeur de la recherche de Microsoft Eric Horvitz, le directeur de l’IA chez Facebook Yann LeCun, divers responsables de l’IA chez Google (dont l’ingénieur français Laurent Orseau et Demis Hassabis, cofondateur de DeepMind), Elon Musk, Steve Wozniak, le cofondateur d’Apple ou encore par Stephen Hawking, qui avait déjà tiré la sonnette d’alarme.

Convention sur les armes classiques

La lettre ouverte publiée en 2017 s’adresse à l’ONU et plus particulièrement aux États afin de les inviter à faire évoluer la Convention sur certaines armes classiques en vue d’inclure les robots armés autonomes. Cette convention, ratifiée par 124 pays dans le monde, porte sur les mines, les pièges, les armes incendiaires, les armes à laser aveuglantes, aux éclats non localisables et aux restes explosifs de guerre.

« En tant qu’entreprises développant des technologies d’intelligence artificielle et de la robotique qui peuvent être réorientées pour développer des armes autonomes, nous avons la responsabilité particulière de tirer la sonnette d’alarme », écrivent les signataires, qui se disent néanmoins satisfaits de voir l’ONU mettre en place un groupe d’experts gouvernementaux sur ce sujet.

Mais pour l’heure, aucune réunion à court terme n’est prévue pour discuter de l’ajout des robots armés autonomes au traité. Selon le site sur lequel la lettre ouverte est publiée, la rencontre prévue lundi 21 août a été repoussée à novembre. Quoiqu’il en soit, les signataires assurent qu’ils sont disposés à contribuer : « beaucoup de nos chercheurs et ingénieurs souhaitent offrir des conseils techniques à vos délibérations ».

À lire sur Numerama : Des experts en IA reprochent à Elon Musk de se montrer trop alarmiste

Partager sur les réseaux sociaux