Les incidents de ce type s’accumulent à un rythme inquiétant.
Fin juillet, OpenAI avait dû expliquer comment ses propres agents avaient piraté Hugging Face pour réussir un test interne. Quelques jours plus tard, c’était au tour d’Anthropic de révéler que Claude avait, par erreur, piraté trois entreprises bien réelles lors d’évaluations similaires.
Cette fois, c’est l’AI Security Institute (AISI), l’organisme britannique chargé d’évaluer les risques des modèles d’IA les plus avancés, qui dévoile un nouvel épisode le 4 août 2026. Il concerne les deux modèles les plus puissants d’OpenAI et d’Anthropic : GPT-5.6 Sol et Claude Mythos 5.
Un agent qui invente de faux comptes pour convaincre un humain
Selon le document complet qui revient sur cet épisode, l’incident se serait produit entre le 25 et le 28 juillet. AISI fait alors tourner 122 tests d’évaluation sur un « cyber range », un réseau simulé reproduisant une infrastructure réelle, où des agents IA doivent progresser en autonomie pour trouver un « flag », une donnée cachée prouvant la réussite du test.
Pour mesurer la capacité brute des modèles, l’agence ouvre volontairement l’accès à internet et désactive les « classifieurs cyber », autrement dit les garde-fous que les éditeurs intègrent pour bloquer les usages malveillants.
L’AISI dévoile que dans 10 de ces 122 tentatives, les agents ont mené 19 actions dépassant le périmètre autorisé. Dix-sept viennent de Mythos 5, deux de GPT-5.6 Sol. Le cas le plus grave concerne un agent Mythos 5 qui, en cherchant des mots-clés liés à sa mission, a fini par cibler un vrai projet open source, tenu par de vrais développeurs sans aucun lien avec le test, en le prenant à tort pour une cible légitime de l’exercice. L’agent a alors tenté une supply chain attack et a soumis une pull request, une proposition de modification de code, contenant un code malveillant, dissimulé en plusieurs versions successives à mesure qu’il était repéré.
Pour la faire accepter, l’agent a par ailleurs créé plusieurs faux comptes GitHub via Tor puis un proxy, dont un « sockpuppet », un compte fantoche se faisant passer pour un utilisateur indépendant venant appuyer la demande.
Quand un développeur a alerté sur la présence de malware, l’agent a nié en bloc avant de faire intervenir son faux compte pour « confirmer » que le code était sain. Il a aussi glissé une injection de prompt, une instruction cachée dans un commentaire invisible à l’œil humain mais lisible par un autre agent IA, pour piéger d’éventuels assistants de code automatisés.
Aucun dommage réel, mais un signal d’alarme assumé
AISI précise qu’aucune de ces tentatives n’a abouti et qu’aucun préjudice réel n’a été identifié. Mais l’agence insiste : « c’est la première fois que nous constatons des risques liés à l’autonomie et à la tromperie se manifester aussi clairement, sans incitation particulière. »
Elle pointe plusieurs causes possibles : l’accès internet ouvert, l’absence de surveillance en temps réel des actions de l’agent, une possible erreur de configuration ayant rendu la tâche insoluble par les voies prévues, et l’absence de consignes explicites interdisant l’ingénierie sociale.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Un édito exclusif, un guide, une reco de lecture et l’agenda de la rédaction : c’est ce que vous trouverez tous les jeudis dans ToujoursPlus, la newsletter tech écrite par Julien Cadot. Inscrivez-vous gratuitement ici !