Avant publication, l’affaire était déjà remontée jusqu’au gouvernement américain.
Ce lundi 26 octobre, le Washington Post a révélé que la toute jeune start-up de cybersécurité Cathedral avait réussi à accéder à des données internes d’Anthropic.
S’appuyant sur un brouillon du rapport de Cathedral sur l’incident, le quotidien raconte comment les agents IA de la start-up ont trouvé en moins de douze heures des failles dans les systèmes de l’entreprise qui développe Claude.
Une affaire qui, selon un haut responsable de l’administration Trump, aurait suscité des inquiétudes pour la sécurité nationale. « Si une bande de gamins qui viennent de lancer leur entreprise peut faire ça, les Chinois ne sont peut-être pas loin derrière », a-t-il déclaré sous couvert d’anonymat.
Des logiciels métiers comme point d’entrée
En réalité, Cathedral ne s’en est pas pris directement aux systèmes ou aux modèles d’Anthropic. Ses chercheurs ont exploité des vulnérabilités dans des logiciels tiers, que l’entreprise utilise pour ses tâches administratives et commerciales.
Reste que grâce à ces failles, les chercheurs de Cathedral disent avoir trouvé des chemins vers des transcriptions de réunions, des informations sur les salaires et les offres d’embauche, ainsi que des messages Slack évoquant les modèles avancés de l’entreprise.
Cathedral explique avoir mené ces tests dans le cadre du programme de bug bounty d’Anthropic, et avoir transmis ses résultats début octobre à l’entreprise, ainsi qu’aux éditeurs concernés.
Alex Stamos, ancien directeur du Stanford Internet Observatory, qui a relu ces résultats à la demande du Post, y voit une vraie découverte et une faiblesse dans la gestion des prestataires externes par Anthropic, rappelant toutefois que la connexion d’applications tierces aux systèmes internes pose un problème inhérent à toutes les entreprises.
Deux récits qui divergent
De son côté, Anthropic reconnaît un accès à « un ensemble limité » de systèmes commerciaux, RH et informatiques, mais en décrit une portée bien plus restreinte. Selon l’entreprise, les données exposées se limitaient à des coordonnées professionnelles de clients et de partenaires et à des informations de base sur des comptes utilisateurs. Les conversations avec Claude, le code et les poids des modèles seraient restés hors d’atteinte. Aussi, Anthropic assure que ses outils de surveillance avaient repéré une partie de l’activité de Cathedral avant même son signalement et que les accès ont été coupés le jour même.
Mais surtout, l’entreprise reproche à Cathedral d’avoir exagéré les implications pour la sécurité nationale et de ne pas avoir pleinement respecté les règles du bug bounty, en omettant de déclarer l’ensemble de son activité dans ses systèmes.
Cathedral présente ses découvertes comme un avertissement pour toutes les entreprises américaines, dont les infrastructures les plus sensibles reposent sur des logiciels ordinaires.
Les réactions ne se sont pas faites attendre
Si la gravité de l’affaire est autant disputée, c’est aussi parce qu’elle survient dans un contexte particulièrement polarisé.
Anthropic entretient des relations tendues avec Washington depuis que le Pentagone l’a exclue cette année des systèmes fédéraux, après son refus de voir sa technologie mobilisée pour des armes autonomes ou la surveillance de masse aux États-Unis. À l’inverse, Cathedral bénéficie d’une proximité évidente avec l’administration Trump. Créée il y a quelques mois par d’anciens membres du DOGE, le service de réduction des dépenses publiques longtemps associé à Elon Musk, elle vend déjà des outils de cybersécurité à l’État fédéral. L’un de ses cofondateurs, Gavin Kliger, a été chief data officer du Pentagone, et l’administration travaille désormais avec la start-up pour simuler des scénarios d’attaque liés à l’IA.
Dans ce cadre, l’incident dépasse la question technique. Anthropic cherche à montrer qu’une faille touchant des outils administratifs ne compromet ni Claude, ni son code, ni ses poids de modèles. Cathedral y voit, elle, la preuve que même les entreprises d’IA les plus avancées restent vulnérables via des logiciels tiers. Chacun a donc intérêt à fixer le périmètre de l’affaire à sa manière.
Au-delà de Washington, c’est une partie de l’écosystème IA qui a déjà tiré sa propre leçon de cette affaire. Clément Delangue, patron de Hugging Face et défenseur de l’IA ouverte, y lit la preuve que concentrer l’IA à huis clos ne garantit pas la sécurité promise. Shyam Sankar, directeur technique de Palantir considère que l’IA de pointe doit être traitée comme une puissance nationale à double usage, et la dissuasion passerait par des acteurs américains capables d’assurer à la fois la défense et l’attaque.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Pour ne rien manquer de l’actualité, suivez Numerama sur Google !