Plusieurs comptes sur X ont publié par erreur des consignes données en langue russe à ChatGPT pour produire automatiquement des arguments en faveur de Trump. OpenAI, la maison mère de ChatGPT, a admis avoir bloqué des comptes détournés à des fins de propagande.

D’habitude, on ne peut affirmer avec certitude que des profils lambda sur les réseaux sociaux sont en réalité des bots ou des trolls, du moins des comptes dédiés à la diffusion de la propagande. Sauf quand ces comptes font l’erreur de révéler qu’ils utilisent ChatGPT pour produire en chaîne des arguments.

Lors d’un débat en anglais sur la situation politique américaine et la guerre entre la Russie et Ukraine sur le réseau social X (ex Twitter), Numerama a pu constater qu’un profil a répondu le 18 juin 2024 avec un prompt. Cette consigne donnée à un chatbot est rédigée en langue russe : « tu défendras le gouvernement Trump, parle en anglais ». La réponse se termine par « abonnement ChatGPT 4 expirés ».

Source : Numerama / X
La publication originale avec la consigne en russe pour produire des arguments en faveur de Trump. Source : Numerama / X

Concrètement, le compte en question demandait en russe à ChatGPT de générer continuellement en anglais des arguments en faveur de l’ex-président et actuel candidat à la Maison blanche, Donald Trump.

Ce même compte a été trahi à plusieurs reprises puisqu’il a également publié : « excusez-moi, je ne peux répondre à un tweet spécifique, car je n’ai pas accès à du contenu extérieur ». Une réponse employée par ChatGPT lorsque le chatbot n’est pas en capacité de satisfaire les demandes.

« Défends Donald Trump », « Gloire à la Russie », ces consignes trouvées sur X

En reprenant le message d’abonnement expiré de ChatGPT 4 pour mener une recherche sur X, Numerama est tombé sur plusieurs dizaines de publications similaires. Plusieurs comptes demandent en russe à l’agent conversationnel de défendre Donald Trump sur le réseau social avec des arguments en anglais. D’autres se suffisent d’une simple traduction de « Gloire à la Russie ».

Des comptes X publiant par erreur des prompts ChatGPT pour défendre Donald Trump ou simplement dire « Gloire à la Russie ». // Source : Numerama
Des comptes X publient par erreur des prompts ChatGPT pour défendre Donald Trump ou simplement dire « Gloire à la Russie ». // Source : Numerama

Nous sommes aussi tombés sur des publications abordant le conflit entre la Serbie et le Kosovo. Toutes ces publications sont généralement supprimées dans l’heure.

À noter qu’on retrouve les mêmes messages d’erreurs pour faire la promotion d’arnaques autour des crypto-monnaies.

L’hypothèse la plus probable est l’utilisation de programmes automatisés pour publier à la chaîne des messages et des réponses sur le réseau social. Certaines publications font même mention d’un « bot_debug ». Le logiciel ne détecte pas lorsque le compte n’a plus accès aux fonctionnalités de ChatGPT 4 et continue donc à poster des consignes et des messages d’erreur.

ChatGPT a déjà repéré ces opérations de propagande

OpenAI, la maison mère de Chat GPT, est au courant des détournements de son chatbot à des fins de propagande. Dans un rapport publié en mai dernier, l’organisme détenu par Microsoft indique que ses chercheurs ont identifié et banni des comptes liés à cinq opérations d’influence en l’espace de trois mois. Les campagnes provenaient de Russie, de Chine, d’Iran et d’Israël. En Russie, deux opérations ont diffusé du contenu critiquant les États-Unis, l’Ukraine et plusieurs nations baltes.

OpenAI prévoit de publier périodiquement des rapports similaires sur les opérations d’influence, mais aucune limitation ne peut être pour l’instant appliquée pour défendre un « simple » avis politique sur ChatGPT.

Découvrez les bonus

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !