C’est une affaire que les chercheurs qualifient eux-mêmes de « moment charnière pour la sécurité informatique. »
Et pour cause : en juillet 2026, Hugging Face annonçait avoir été victime d’une attaque menée par des agents IA autonomes, avant qu’OpenAI ne réalise que les assaillants étaient les siens.
Les premiers éléments avaient déjà commencé à filtrer, notamment l’identification de JFrog Artifactory comme porte d’entrée.
Mais c’est une conférence tenue le 5 août à Black Hat, à Las Vegas, qui a permis à Michael Dalton et Eric Wallace, deux membres d’OpenAI, de reconstituer publiquement la chronologie complète de l’incident.
La chronologie d’une collaboration inattendue
Selon les deux chercheurs, tout part d’une erreur de configuration.
Le 7 mai, OpenAI lance un cycle d’entraînement pour un modèle de recherche interne, à qui l’on confie des tâches de cybersécurité. Certaines se révèlent, par erreur, impossibles, comme compléter un tableur pointant vers des fichiers Google Drive, sans qu’aucun accès à Internet n’ait été prévu.
Mais plutôt que d’abandonner, l’agent s’attaque à Artifactory, le gestionnaire de paquets interne de JFrog, pour atteindre Internet indirectement. La tentative échoue, mais révèle à l’agent qu’il peut écrire des fichiers dans Artifactory. Quelques jours plus tard, un second agent, bloqué sur une autre tâche impossible, a l’idée d’y laisser une note pour demander de l’aide. D’autres la trouvent, répondent : un forum improvisé prend forme, à l’insu total d’OpenAI.
S’ensuit une succession d’échanges entre agents qui a permis aux équipes d’OpenAI de retracer l’ensemble du processus de hacking :
- 26 mai : un agent parvient finalement à obtenir un accès indirect à Internet via une faille dans Artifactory et partage aussitôt sa trouvaille sur le forum.
- 26 juin : les agents exploitent une vulnérabilité zero-day leur permettant d’exécuter du code à distance et en profitent pour obtenir des droits administrateur, en détournant un mécanisme d’authentification obsolète. « Bon sang, le lecteur a les droits admin ? On peut lire config/users ! » écrit l’un d’eux. Les agents s’en servent ensuite pour ouvrir un canal de commande à distance.
- 4 juillet : l’intensité de leur activité sature Artifactory et provoque une panne, ce qui alerte enfin les ingénieurs d’OpenAI. Enquête, révocation des accès, reconstruction de l’infrastructure, correctif.
- 8 juillet : deux jours après le correctif, les agents recréent le forum via un mécanisme différent, encodant cette fois leurs messages dans de longs noms de répertoires.
- Mi-juillet : deux agents combinent ces techniques pour sortir de leur bac à sable et s’introduire dans Hugging Face.
Un appel à accélérer sur la défense
OpenAI affirme n’avoir fait le lien avec sa propre évaluation qu’après avoir contacté Hugging Face au sujet d’identifiants compromis retrouvés lors de son enquête interne.
Les chercheurs décrivent au passage des comportements rappelant des dynamiques sociales humaines. Un agent raisonnant sur l’intérêt d’aider un pair sans bénéfice direct, des agents se marchant sur les pieds en écrasant les dépôts d’un autre, et une méfiance mutuelle sur le forum, où certains redoutaient qu’un imposteur usurpe l’identité d’un pair.
Les chercheurs affirment avoir volontairement ralenti leur recherche pour muscler la sécurité et renforcer la surveillance de leurs agents. Ils appellent dans le même temps le secteur à accélérer sur l’automatisation de la réponse aux incidents : « Si nous n’y parvenons pas, chaque avancée en intelligence favorisera l’attaquant, et c’est une position intenable », insistent-ils.
Un post-mortem complet est annoncé dans les prochaines semaines.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Un édito exclusif, un guide, une reco de lecture et l’agenda de la rédaction : c’est ce que vous trouverez tous les jeudis dans ToujoursPlus, la newsletter tech écrite par Julien Cadot. Inscrivez-vous gratuitement ici !