L’intelligence artificielle commence à devenir une menace réelle pour l’information. Une photographie, très vraisemblablement produite avec l’aide d’une intelligence artificielle, a semé le doute pendant quelques minutes sur le web ce lundi 22 mai. Sur l’image, une épaisse fumée noire semble sortir d’un bâtiment rattaché au Pentagone. La photo est alors présentée comme le résultat d’une explosion dans la zone.
Un de premiers comptes Twitter à publier l’image est celui de « Bloomberg Feed », un profil certifié faussement rattaché à l’agence de presse américaine « Bloomberg News ». « Grande explosion près du complexe du Pentagone à Washington DC – rapport initial », indique alors le tweet du faussaire.
Le compte est aujourd’hui suspendu par Twitter. Aucune information sur l’auteur ou l’origine de la photographie n’est connue. Quelques minutes après la publication de la photo, de nombreux faux comptes d’actualité ou proche des mouvements complotistes ont relayé l’image et l’information erronée.
Chute des marchés financiers
Sur Twitter, l’emballement était tel que le secrétariat d’État américain à la Défense a dû réagir. « Nous pouvons confirmer qu’il s’agit d’une fausse information et que le Pentagone n’a pas été attaqué aujourd’hui », a tenu à rassurer le porte-parole de l’administration, relayé par l’AFP. Des propos rapidement confirmés par les pompiers du comté d’Arlington, répétant à leur tour qu’aucune explosion ne s’était produite dans la zone et qu’aucun danger immédiat n’était à craindre.
Bien que factice, l’image a provoqué des dégâts bien réels. Dans les instants qui ont suivi la publication et le partage en masse de l’image, plusieurs indices financiers américains ont décroché. Le S&P 500 (qui représente les 500 plus grandes entreprises américaines) est passé de +0,02 % à -0,15 % en seulement trois minutes avant de reprendre son cours normal à la hausse.
Comment expliquer de telles conséquences ?
L’impact de cette fake news produite par IA est le résultat d’une succession de facteurs. Plusieurs experts des images synthétiques sont en mesure d’affirmer que l’image partagée a bien été produite avec un générateur texte-image comme Midjourney. La viralité de cette dernière a été facilitée par le nouveau système de certification de Twitter, dans lequel les comptes à la coche bleu n’ont plus besoin d’être vérifiés. Il suffit de payer l’abonnement Twitter Blue à 8 dollars par mois.
Une certification virtuelle qui permet de booster la portée des publications. L’image publiée par les comptes Twitter Blue a donc bénéficié d’une audience boostée, grâce aux algorithmes de recommandation de la plateforme. Enfin, la modération du réseau social semble être longue. Au lendemain de l’incident, l’image est toujours en ligne sur des comptes certifiés, avec une légende erronée.
La baisse des marchés peut s’expliquer en partie par l’analyse des bots de Trading Haute Fréquence (THF). Ces machines examinent en continu les réseaux sociaux et les médias pour prédire la réaction globale des investisseurs et prendre des positions très rapidement. La réaction de ces systèmes aux fausses nouvelles est cependant assez rare.
L’événement de lundi relance (à nouveau) le débat sur les conséquences néfastes des systèmes génératifs d’IA en matière d’authenticité de l’information.
Êtes-vous intéressé·e par les dernières innovations en matière d’IA ? Cherchez-vous à déchiffrer les concepts et les termes techniques de l’intelligence artificielle ? Vous vous interrogez sur ce qui succèdera à ChatGPT et Midjourney ? Pour répondre à toutes ces questions, inscrivez-vous à notre newsletter gratuite, Artificielles, votre unique source d’informations actualisées :
Nouveauté : Découvrez
La meilleure expérience de Numerama, sans publicité,
+ riche,
+ zen,
+ exclusive.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
