Les IA ont régulièrement des hallucinations, et celle-ci aurait pu coûter très cher.
Une erreur causée par une intelligence artificielle a failli provoquer une crise militaire majeure entre les États-Unis et la Chine, selon le média CNN, qui a diffusé l’information dans la soirée du vendredi 18 septembre 2026.
L’événement s’est déroulé au printemps dernier. L’armée américaine planifie alors l’interception et l’abordage d’un navire de fret chinois au Moyen-Orient. Des avions militaires étaient déployés, et des troupes d’élite prêtes à monter à bord. L’alerte avait été donnée par un rapport de renseignement, affirmant que le navire transportait des composants liés à un programme d’armes nucléaires. Sur cette base, les forces américaines avaient décidé de préparer son interception.
Cet épisode s’est joué dans un contexte de très forte tension. D’après CNN, le rapport a circulé dans l’armée américaine au printemps 2026, en pleine guerre entre les États-Unis et l’Iran. C’est dans ce climat que le signalement d’un navire chinois soupçonné de convoyer du matériel nucléaire a immédiatement déclenché l’alerte au sein du commandement.
Les conclusions du rapport écrit à l’aide d’une IA étaient « entièrement fausses »
Lors d’une ultime vérification, les autorités ont découvert que le rapport avait été généré à l’aide d’une intelligence artificielle. Ses conclusions se sont révélées « entièrement fausses », selon les sources citées par CNN. Un chatbot, utilisé par le rédacteur du rapport (rattaché au commandement des opérations spéciales dans le Pacifique), s’était trompé sur la cargaison transportée par le navire, inventant la présence de matériel nucléaire à son bord – CNN indique ne pas avoir identifié ce qu’était réellement la cargaison.
On ignore également quelle était l’IA utilisée, et s’il s’agissait d’un modèle commercial ou d’un outil spécifiquement conçu pour être utilisé par l’armée américaine. Le chatbot se serait en tout cas trompé en mélangeant les données d’un rapport du Commandement des opérations spéciales américain du Pacifique avec des informations disponibles en libre accès en ligne. De fausses informations ensuite insérées dans un autre rapport, celui qui a failli être à l’origine de l’intervention.
Sollicitée par l’AFP au sujet de cette affaire, l’armée américaine n’a pas donné de réponse.
L’épisode devrait encore renforcer les craintes autour de l’usage de l’IA en géopolitique, et particulièrement dans la défense. Il illustre la rapidité avec laquelle une hallucination logicielle peut déstabiliser l’équilibre des grandes puissances. Ce risque est d’autant plus concret que les services de renseignement poussent à utiliser massivement l’IA pour traiter les données plus vite que leurs adversaires.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Le futur n’attend pas : anticipez l’avenir des nouvelles technologies et de l’IA en lisant gratuitement ToujoursPlus, chaque jeudi dans votre boîte mail !