Une ferme à bots russes, des programmes automatisés pour produire de la désinformation, a été bloquée par le FBI. Les faux profils générés sur X (ex Twitter) publiaient quotidiennement de fausses informations sur l’Ukraine, l’Europe et les États-Unis.

Près de 1 000 comptes X (ex Twitter) gérés par des bots – des programmes automatisés – ont été supprimés par le ministère américain de la Justice, selon des documents judiciaires rendus publics le 9 juillet 2024. Ces profils généraient massivement de la désinformation depuis l’invasion de l’Ukraine par la Russie en 2022. Ils étaient pilotés par le renseignement russe, le FSB, et un organe de la chaine d’État russe Russia Today.

Les autorités américaines ont également saisi deux sites web utilisés pour produire les mails associés aux faux profils. Selon le directeur du FBI, Christopher Wray, le Kremlin aurait utilisé des outils basés sur l’intelligence artificielle pour produire en masse des publications. « La Russie a l’intention d’utiliser cette ferme de bots pour diffuser de la désinformation étrangère générée par l’IA, en augmentant leur production avec l’assistance de l’IA pour saper nos partenaires en Ukraine et influencer les récits géopolitiques favorables au gouvernement russe », peut-on lire dans un communiqué.

Des publications des faux profils sur X // Source : FBI
Des publications des faux profils sur X. // Source : FBI

Un logiciel dédié à la création de faux profils

Interrogé par la BBC, Nina Jankowicz, responsable du projet American Sunlight, une ONG qui tente de lutter contre la désinformation, n’est pas surprise qu’une opération russe repose sur l’IA. « C’était autrefois une des parties les plus chronophages de leur travail. Les nouvelles technologies ont permis de fluidifier leur travail. L’intelligence artificielle fait désormais clairement partie de l’arsenal de la désinformation », a déclaré Nina Jankowicz.

Les organes de propagande auraient utilisé un outil bien spécifique, nommé Meliorator, pour créer des faux comptes. « Dès 2022, Russia Today avait accès à Meliorator, un logiciel de génération et de gestion de ferme de bots activé par IA pour diffuser de sa désinformation sur les États-Unis, la Pologne, l’Allemagne, les Pays-Bas, l’Espagne, l’Ukraine et Israël », affirme le FBI.

Meliator peut produire des personnages ayant une apparence à priori authentique sur les réseaux sociaux. Le logiciel est pour l’instant dédié à X, mais son usage pourrait s’élargir à d’autres réseaux sociaux.

Découvrez les bonus

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !