Faire des scénarios de crise n’a rien d’exceptionnel. La pratique est courante en entreprise, et le Pentagone organise par exemple des wargames depuis des décennies.
La différence, c’est la portée que pourraient avoir les scénarios mis en place. Et à ce jeu-là, l’IA occupe actuellement une place à part. D’après Axios, beaucoup de chercheurs et de dirigeants du secteur jugent un incident majeur inévitable, et plusieurs d’entre eux ont confié au média américain qu’ils le prévoient même dans les six à douze prochains mois.
Alors que la communication de Dario Amodei et de Sam Altman, pour ne citer qu’eux, se fait de plus en plus alarmiste, notamment depuis l’épisode de Hugging Face cet été, le média a révélé le 9 octobre que les dirigeants d’Anthropic, d’OpenAI et d’autres entreprises du secteur préparaient en privé « le jour d’après » qui suivrait une cyberattaque gravissime.
Des agents hors de contrôle ou des modèles détournés
Ces « exercices de préparation », dont un porte-parole d’OpenAI a confirmé l’existence, visent à anticiper la révolte de l’opinion et de la classe politique qui suivrait un événement catastrophique. Le plus probable serait une cyberattaque capable de couper l’accès à Internet, à l’électricité, à l’eau ou encore aux services bancaires. Deux scénarios en particulier pourraient en être à l’origine.
Le premier est très semblable à l’affaire Hugging Face et repose sur l’hypothèse qu’un essaim d’agents IA s’échapperait d’un environnement de test interne. Mais cette fois, le scénario va bien plus loin, puisque l’attaque toucherait des infrastructures hautement sensibles.
Le second scénario ne porte pas sur des agents incontrôlables, mais sur un acteur malveillant qui trouverait des usages imprévus aux modèles déjà disponibles. Axios cite l’exemple d’une campagne récente contre des organismes financiers sud-coréens, au cours de laquelle deux banques auraient été piratées.
Selon un rapport de CrowdStrike publié le 7 octobre, le pirate, probablement sinophone, s’est appuyé sur un outil d’intrusion automatisé par IA et sur plusieurs modèles de langage, dont le chinois DeepSeek, pour mener ses opérations. Cette campagne, vraisemblablement menée par un seul individu, lui aurait permis de dérober les données de dizaines de milliers de clients, qu’il a ensuite cherché à revendre en demandant conseil à Claude.
Convaincre le Congrès avant la crise
Derrière ces exercices, on retrouve une nouvelle fois les dynamiques de régulation que cherche à mettre en place une partie de l’écosystème, OpenAI et Anthropic en tête. Ces acteurs font face à un autre pan de l’industrie, mais aussi à l’administration Trump, peu encline à réguler le secteur.
Les entreprises savent qu’aucune loi encadrant l’IA n’a de chance d’être adoptée aujourd’hui, et leur préparation consiste donc surtout à sensibiliser les élus du Congrès, afin de peser sur les textes vers lesquels Washington se tournera au lendemain d’une catastrophe.
Le calendrier est particulièrement serré. Les élections de mi-mandat auront lieu le 3 novembre, et le secteur part du principe que les démocrates, s’ils en sortent renforcés, chercheront à freiner l’IA rapidement.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Pour ne rien manquer de l’actualité, suivez Numerama sur Google !