Ce n’est pas une rumeur, mais bien le résultat du rapport publié le 7 octobre 2025 par OpenAI, le créateur de ChatGPT. Intitulé « Disrupting malicious uses of AI: October 2025 », celui-ci révèle que des utilisateurs « soupçonnés d’être affiliés au gouvernement chinois» ont sollicité ChatGPT pour développer « des propositions de projets et du matériel promotionnel relatifs à des outils de surveillance de masse ». L’un d’entre eux a par exemple demandé de l’aide au chatbot afin d’imaginer un outil capable de repérer les déplacements liés aux Ouïghours et autres personnes « à risque », en recoupant fichiers de police et réservations de transport. Rien que ça.
La Chine surveille nos réseaux sociaux
Un autre utilisateur a demandé à ChatGPT d’élaborer des supports promotionnels pour un outil destiné « à scanner les réseaux sociaux occidentaux » (Twitter/X, Facebook, Reddit, TikTok, YouTube) à la recherche de discours jugés « extrémistes ou politiquement/racialement sensibles ».
OpenAI précise que ces utilisateurs – s’il s’avère qu’ils sont effectivement liés à l’État chinois – ont probablement eu recours à des VPN. Ces comptes ont été bannis, bien que la société indique ne pas avoir pu vérifier de manière indépendante si ces activités émanaient réellement d’agents gouvernementaux.
Au-delà de la conception d’outils aux intentions obscures, certains comptes auraient utilisé ChatGPT pour du profilage ciblé ou des recherches très (un peu trop) spécifiques. L’un aurait, par exemple, demandé d’identifier les sources de financement d’un compte X critique envers le gouvernement chinois – un autre, de retrouver les organisateurs d’une pétition en Mongolie.
Dans tous les cas, les réponses du modèle se sont limitées à des informations publiques, sans accès à des données confidentielles, précise OpenAI.
Un troisième compte aurait également utilisé ChatGPT pour résumer l’actualité quotidienne « susceptible d’intéresser la Chine », y compris sur des sujets sensibles comme l’anniversaire du massacre de Tian’anmen ou la date de naissance du Dalaï-lama. OpenAI insiste sur le fait que son outil n’a pas servi à implémenter directement ces systèmes : l’IA aurait été utilisée pour conceptualiser ou rédiger des documents, pas pour développer concrètement des logiciels de surveillance.
Le potentiel « abusif de l’IA par des régimes autoritaires »
Le rapport rappelle qu’un des objectifs d’OpenAI est de prévenir l’exploitation de ses modèles par des régimes autoritaires. Selon l’entreprise, ces activités semblent provenir d’individus isolés plutôt que d’organisations institutionnelles agissant à grande échelle. Mais elles offrent malgré tout, selon le rapport, « une fenêtre rare sur le potentiel abusif de l’IA par des régimes autoritaires » et confirment l’intérêt croissant du gouvernement chinois pour l’optimisation de la surveillance par l’intelligence artificielle.
La Chine n’est d’ailleurs pas seule concernée : le même rapport évoque des opérations menées depuis la Russie et la Corée du Nord, où des acteurs auraient utilisé ChatGPT pour rédiger des scripts malveillants et préparer des campagnes de phishing ciblant des entités sud-coréennes.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Tous nos articles sont aussi sur notre profil Google : suivez-nous pour ne rien manquer !