Et si les intelligences artificielles progressaient trop vite pour que leurs propres créateurs puissent suivre ? C’est l’un des risques qu’Anthropic prend désormais très au sérieux. Dans un document financier déposé le 2 novembre 2026 auprès de la SEC, le gendarme boursier américain, l’entreprise estime qu’elle pourrait bientôt franchir un cap important dans le développement de ses modèles.
Le document, publié dans le cadre de son projet d’introduction en Bourse, contient surtout un aveu : Anthropic reconnaît avoir déjà identifié certaines accélérations de ses recherches seulement après qu’elles se sont produites. Une difficulté qui pourrait devenir plus importante à mesure que Claude participe à la conception de ses successeurs.
Anthropic estime que ses IA pourraient bientôt franchir un cap
Anthropic utilise déjà Claude pour accélérer ses recherches, notamment pour écrire du code, mener des expérimentations et tester ses futurs modèles. L’entreprise cherche ainsi à « boucler la boucle » : chaque nouvelle génération d’IA contribuerait au développement de la suivante, potentiellement plus performante. C’est le principe de l’auto-amélioration récursive.
Et cette perspective pourrait se rapprocher. Comme le rapporte Gizmodo, Anthropic estime, dans son document du 2 novembre, qu’elle pourrait atteindre de manière « imminente » le seuil de « progrès considérablement accélérés attribuables à l’IA », défini dans sa politique de sécurité. Une prévision fondée sur ses estimations internes concernant ses futurs modèles.
Concrètement, l’un des critères de cette politique correspond à un doublement du rythme des progrès en IA grâce à l’automatisation de la recherche. Cela reviendrait, par exemple, à accomplir en un an des avancées qui auraient normalement demandé deux ans.
Il ne s’agit toutefois pas d’une prouesse déjà réalisée. Anthropic précise qu’aucun de ses modèles actuels n’a été reconnu comme ayant franchi ce seuil, et cette prévision repose sur ses propres estimations.
« Nous n’avons parfois identifié des accélérations qu’après qu’elles se sont produites »
C’est l’un des aveux les plus intéressants du document. Anthropic reconnaît avoir déjà constaté certaines accélérations de ses recherches seulement après qu’elles se sont produites. L’entreprise explique qu’une grande partie des indicateurs utilisés pour mesurer ses progrès arrivent avec un certain retard, ce qui complique leur suivi en temps réel.
« Il nous est déjà arrivé de ne détecter une accélération importante de notre rythme de développement qu’après qu’elle s’était produite. »
Cette précision est nouvelle. Dans la première version de son document financier, publiée le 26 octobre, Anthropic évoquait seulement la possibilité de découvrir une accélération après coup. Dans sa mise à jour du 2 novembre, elle reconnaît que cela s’est déjà produit. Elle ne précise toutefois ni les modèles concernés, ni l’ampleur de ces accélérations.
Le problème ne concerne pas seulement la vitesse des progrès, mais aussi la capacité d’Anthropic à les encadrer. L’entreprise explique que ses modèles pourraient évoluer plus rapidement que sa capacité à développer, tester et appliquer les mesures de sécurité correspondantes.
Autrement dit, Claude pourrait contribuer à accélérer la création de modèles plus puissants avant même que ses concepteurs aient pleinement évalué les risques associés. Anthropic évoque notamment la possibilité d’incidents de sécurité si cette évolution venait à dépasser ses capacités d’évaluation.
Pour garder le contrôle, Anthropic veut avoir « des yeux sur tout »
Face à ces risques, Anthropic envisage de renforcer considérablement la surveillance de ses activités internes. Dans sa feuille de route sur la sécurité, publiée avant ce nouveau document financier, l’entreprise présente un objectif baptisé « eyes on everything », littéralement « des yeux sur tout ».
Elle souhaite notamment centraliser les traces de ses activités critiques de développement et utiliser l’IA pour repérer d’éventuels comportements suspects. Cette surveillance pourrait concerner les actions de ses employés, mais aussi celles des modèles eux-mêmes.
L’objectif est de détecter des tentatives de sabotage, des intrusions ou encore des manipulations de l’entraînement de Claude. Anthropic vise le 1er janvier 2027 pour mettre en place les dispositifs prévus dans cette partie de sa feuille de route.
L’entreprise reconnaît toutefois que ces précautions ont un coût. Dans son document financier, elle explique que les mesures de sécurité pourraient devenir plus fréquentes et plus contraignantes à mesure que ses modèles progressent. Elle a déjà retardé ou limité la diffusion de certains modèles, notamment Mythos dans le cadre du projet Glasswing.
Ces restrictions pourraient aussi ralentir ses recherches face à des concurrents qui ne s’imposeraient pas les mêmes contraintes. Un dilemme pour Anthropic, qui cherche à accélérer le développement de ses IA tout en affirmant vouloir conserver la maîtrise de leurs capacités.
Pour autant, rien ne permet aujourd’hui d’affirmer que Claude est capable de concevoir entièrement seul ses successeurs, ni que le seuil annoncé sera effectivement franchi à court terme. Les déclarations d’Anthropic restent des prévisions internes, formulées dans un document destiné aux investisseurs. Une évolution qu’il faudra néanmoins suivre de près.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Pour ne rien manquer de l’actualité, suivez Numerama sur Google !