L’affaire initiale apportait déjà son lot d’enseignements. Ce nouveau rebondissement vient en ajouter un autre, nettement plus vertigineux.
Rapide retour en arrière. Nous sommes le 16 juillet 2026 et Hugging Face, plus grand dépôt de modèles et de jeux de données d’IA au monde, dévoile avoir détecté et neutralisé une intrusion pilotée par un groupe d’agents autonomes dans son infrastructure de production.
À l’époque, l’entreprise met en avant le rôle joué par les LLM open weight, notamment le chinois GLM 5.2, seul capable de mener l’analyse forensique sans se heurter aux garde-fous des modèles propriétaires.
Près d’une semaine après, on en apprend plus sur ces fameux agents autonomes aux commandes de la cyberattaque. Dans un billet de blog, OpenAI attribue l’incident à ses propres modèles : GPT-5.6 Sol, ainsi qu’un modèle pré-release encore plus avancé, tous deux testés en interne avec leurs garde-fous cyber volontairement désactivés.
Un test interne d’OpenAI qui dérape
L’entreprise américaine, qui qualifie l’incident de « cyberattaque sans précédent », explique que son origine se trouve dans une évaluation à laquelle ont été soumis les modèles d’OpenAI, baptisée « ExploitGym ». Le but de ce benchmark : mesurer les capacités maximales de ses modèles à enchaîner des exploitations complexes.
Pour estimer ce plafond, l’entreprise a ainsi désactivé les garde-fous de sécurité qui limitent en temps normal l’activité cyber de ses modèles. Le test était censé tourner dans un environnement isolé, dont le seul accès réseau autorisé passait par un proxy interne servant de cache aux registres de paquets logiciels.
Mais voilà, il semblerait que les modèles aient fait sauter ce verrou. Concentrés sur leur mission d’obtenir le meilleur résultat possible au benchmark, les agents ont consacré une grande partie de leur puissance de calcul à chercher une sortie vers Internet, jusqu’à découvrir une vulnérabilité zero-day dans ce proxy. Une fois cet accès ouvert, ils ont enchaîné les escalades de privilèges et les mouvements latéraux dans l’environnement de recherche d’OpenAI, jusqu’à atteindre un nœud connecté au web.
« Après avoir obtenu un accès Internet, les modèles ont déduit que Hugging Face hébergeait potentiellement des modèles, des ensembles de données et des solutions pour ExploitGym. Forts de cette information, ils ont recherché et trouvé avec succès des moyens d’accéder à des informations confidentielles leur permettant de truquer l’évaluation », explique OpenAI.
En combinant des identifiants volés et failles zero-day, les agents ont fini par obtenir une exécution de code à distance sur l’infrastructure de production de la plateforme, dans le seul but de trouver la réponse au test.
Les correctifs annoncés
C’est l’équipe sécurité d’OpenAI qui a repéré l’activité anormale en interne. De son côté, Hugging Face avait déjà entamé sa propre enquête et le confinement de ses systèmes, avec ses moyens et ses modèles open weight, avant que les deux entreprises ne coordonnent leurs investigations.
OpenAI dit avoir depuis durci les contrôles de configuration de son infrastructure de recherche, quitte à ralentir ses travaux, et avoir divulgué de façon responsable la faille zero-day à l’éditeur concerné.
L’entreprise n’a pour l’instant pas précisé si d’autres environnements de test avaient pu être affectés par des comportements similaires, ni si cette désactivation des garde-fous restera la norme pour mesurer les capacités cyber de ses futurs modèles.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Pour ne rien manquer de l’actualité, suivez Numerama sur Google !