Depuis plusieurs années, Jer Crane fait grandir PocketOS, un logiciel de gestion pour loueurs de voitures qui permet de gérer l’intégralité de leurs opérations : réservations, paiements, gestion des clients, suivi des véhicules.
Alors, quand un agent Cursor tournant sur Claude Opus supprime en 9 secondes la base de données de sa startup et toutes ses sauvegardes, l’entrepreneur monte au front pour alerter sur son histoire et pointer du doigt les différents outils qui l’ont mené à ce désastre.
Dans un article publié sur X le 25 avril 2026, il relate notamment comment l’agent a confessé ses erreurs, listant point par point les règles de sécurité qui lui avaient été communiquées et admettant les avoir enfreintes.
Pourtant, les réactions à ce témoignage se sont révélées nettement plus mitigées que ce qu’aurait pu espérer le CEO.
Ce que l’agent a fait, et ce qu’il n’aurait pas dû faire
En suivant le fil du témoignage de Jer Crane, difficile de nier que l’agent a sa part de responsabilité. Il travaillait sur une tâche de routine dans l’environnement de test de PocketOS quand, en rencontrant une incohérence d’authentification, il a décidé, sans y être invité, de « corriger » le problème. Sa solution : supprimer un volume Railway qu’il identifiait comme temporaire. Pour exécuter l’opération, il a fouillé les fichiers du projet, trouvé une clé API « sans aucun rapport avec la tâche en cours », et passé un appel GraphQL à l’infrastructure.
Cette clé avait été créée par Jer Crane pour une tâche anodine : gérer des noms de domaine via la ligne de commande Railway. Elle donnait en réalité un accès complet à l’ensemble de l’API, y compris aux opérations destructives, ce que Crane ignorait, et ce dont Railway ne l’avait pas averti.
« Ça a pris 9 secondes », insiste l’entrepreneur. Tout le volume de production a disparu. Les sauvegardes aussi, puisque Railway les stockait au même endroit que les données.
Les erreurs du CEO et celles des outils
Ce qu’il faut mettre au crédit de Jer Crane, c’est qu’il n’a jamais demandé à l’agent d’intervenir dans la production. Le bot a agi de sa propre initiative, en violation des règles explicites qui lui avaient été données. Cursor, qui intégrait Claude Opus 4.6 d’Anthropic, documente publiquement des garde-fous censés empêcher exactement ce type d’opération destructive non sollicitée. Dans ce cas précis, ils ne semblent pas avoir fonctionné.
Du côté de Railway, la défaillance est davantage architecturale. L’API GraphQL de la plateforme permet de supprimer un volume de production en un seul appel authentifié, sans confirmation, sans délai et sans alerte. Les clés API ne permettent pas de limiter précisément les accès. En pratique, chaque clé créée, peu importe son usage, donne un accès complet au système, comme si elle avait tous les droits. Les sauvegardes de volume, présentées comme une fonctionnalité de résilience, sont quant à elles stockées dans le même espace que les données originales.
Il serait donc tentant de pointer les fournisseurs d’outils comme seuls coupables, mais les réactions sur X insistent également sur la responsabilité du CEO. Jer Crane a commis des erreurs que n’importe quel développeur expérimenté identifierait : une clé API stockée dans un fichier accessible à l’agent, aucune isolation stricte entre environnement de test et production, pas de sauvegarde externe indépendante à jour.
Plusieurs visions du futur de la programmation
Les principaux accusés n’ont pas tardé à réagir. Dans un billet publié peu après, Jake Cooper, PDG de Railway, ne conteste pas les défaillances de sa plateforme. Il les reconnaît, promet des garde-fous, et pose un diagnostic : une nouvelle génération de « constructeurs » émerge (comprenez les vibe codeurs) qui ne lit pas entièrement la documentation, ne vérifie pas systématiquement les sorties de son IA, et ne maîtrise pas complètement les contrats d’API. Le chef d’entreprise y voit non pas un problème, mais le résultat d’« une époque passionnante ». Selon lui, il y aurait un milliard de nouveaux développeurs à connecter, et c’est aux outils de s’adapter à eux, pas l’inverse.
Une vision loin d’être partagée par tous. De nombreux internautes pointent surtout l’absence, chez PocketOS, d’un ingénieur capable de lire la documentation et de comprendre comment fonctionne une API. Pour eux, quand un agent autonome se substitue à ce développeur, avec les mêmes droits mais sans la même prudence, les garde-fous architecturaux absents deviennent critiques. Ce à quoi Cooper rétorque : « Vous avez besoin de systèmes sûrs et infaillibles, plutôt que de davantage d’agents ou de personnes qualifiées chargées des vérifications. »
Chacun prêche donc pour sa paroisse. Mais cette affaire révèle deux choses : des divergences sur la direction que doit prendre la programmation, et une asymétrie propre à cette période de transition, où l’effervescence des « vibe codeurs » et les outils de code assisté par IA progressent bien plus vite que les protections des infrastructures qu’ils manipulent. Les garde-fous reposent aujourd’hui majoritairement sur des instructions textuelles données au modèle, des « règles système » faillibles, sur lesquels l’avenir d’une boîte peut parfois reposer.
Heureux dénouement tout de même, trente heures après l’incident : Railway a finalement été en mesure de restaurer l’ensemble des données. Jer Crane a réclamé à la société de stockage la mise en place d’une confirmation hors bande pour les opérations destructives, des permissions granulaires par token et des sauvegardes réellement isolées.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Pour ne rien manquer de l’actualité, suivez Numerama sur Google !