C’est en épluchant des canaux Telegram que les journalistes de 404 Media ont mis au jour un véritable réseau de partage d’exploits visant à manipuler des chatbots. Sur ces groupes circulent des captures d’écran de conversations, des vidéos tutorielles, mais aussi des listes de comptes Instagram potentiellement vulnérables.
Dans le viseur des hackers : Meta AI, l’assistant du groupe de Mark Zuckerberg, largement déployé sur Facebook et Instagram. Cet outil est capable de gérer des problèmes de comptes, y compris des opérations sensibles comme la réinitialisation de mots de passe.
À son lancement, son objectif était d’automatiser le support et accélérer les réponses. Mais, en pratique, cette automatisation a ouvert une brèche. Et contrairement à ce que l’on pourrait imaginer, l’attaque ne repose pas sur une technique particulièrement avancée. Elle s’appuie surtout sur le contournement des garde-fous du chatbot, manipulé pour exécuter des actions critiques sans vérifications suffisantes.
Une attaque simple, presque triviale
Le mode opératoire décrit est étonnamment basique. Les attaquants commencent par utiliser un VPN pour simuler une connexion depuis la même région géographique que la cible. Ils lancent ensuite une procédure classique de réinitialisation de mot de passe.
C’est à ce moment que le chatbot entre en jeu. Les hackers engagent une conversation avec l’IA de support et lui demandent explicitement de modifier l’adresse e-mail associée au compte visé. Si la requête passe, le système envoie un code de validation à la nouvelle adresse, contrôlée par l’attaquant.
Une fois ce code récupéré, le pirate peut finaliser la réinitialisation du mot de passe et prendre le contrôle du compte. L’ensemble du processus ne nécessite ni exploit complexe, ni accès préalable, seulement une interaction bien formulée avec le chatbot.
Ce type de dérive illustre un problème déjà bien documenté : les modèles d’IA peuvent être manipulés, contournés ou « jailbreakés » pour effectuer des actions qu’ils sont censés refuser, surtout lorsqu’ils sont connectés à des systèmes critiques.
Des comptes ciblés, une faille désormais corrigée
Cette découverte intervient alors que plusieurs comptes Instagram de personnalités ou d’institutions ont récemment été compromis, dont celui associé à Barack Obama ou encore à un haut responsable de la Space Force. Le lien direct avec cette faille n’est pas formellement établi, mais la coïncidence interroge.
Des témoignages, comme celui de la chercheuse Jane Manchun Wong, évoquent également des tentatives de compromission similaires. En parallèle, des marchés informels se sont développés sur Telegram, où des comptes populaires sont échangés ou vendus, parfois en lien avec cette vulnérabilité.
Meta a de son côté confirmé l’existence de la faille mais assure avoir corrigé le problème et sécurisé les comptes affectés.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Pour ne rien manquer de l’actualité, suivez Numerama sur Google !