Dans des vidéos vues plusieurs dizaines de milliers de fois (voire plus de deux millions de fois pour les plus populaires), les utilisateurs de TikTok partent à la rencontre des petites nouvelles de la famille Le Pen : Amandine, Chloé et Léna.
Ces trois jeunes femmes épousent parfaitement les codes des réseaux sociaux, racontent leurs vies, se prennent en photo, dansent et, surtout, ressemblent énormément à Marine Le Pen et à Marion Maréchal, avec qui elles affirment avoir un lien de parenté. Il leur arrive d’ailleurs de commenter explicitement ce lien, pour raconter leur fierté d’être une Le Pen et leur impatience de voir leur tante arriver au pouvoir.
Ces derniers jours, comme beaucoup d’internautes, Numerama s’est vu suggérer une vidéo d’une nièce Le Pen. Sur Twitter le 12 avril, le compte SectesTroll a mis au jour le fait qu’il s’agissait de deepfakes et qu’Amandine, Chloé et Léna n’existaient pas. Il reprend une info parue sur RTS, le service public suisse.
Des comptes qui véhiculent des idées d’extrême droite
L’illusion est parfaite, comme les commentaires de ces vidéos le prouvent. Les utilisateurs de TikTok disent aux « nièces Le Pen » qu’ils sont fans de leur tante ou qu’ils la détestent, commentent leur physique et semblent convaincus de parler à des membres de la famille de Jean-Marie Le Pen. Certains montages sont moins bien faits que d’autres, mais les plus populaires sont très réussis. Il est difficile de deviner au premier abord qu’une IA a juxtaposé les visages de Marine Le Pen et de Marion Maréchal sur celui d’une comédienne.
Qui se cache derrière ces faux comptes ? Les trois fausses nièces ont un point commun : elles tentent de répandre des idées d’extrême droite. Les Le Pen défendent les agriculteurs, s’en prennent au voile, parlent de « la victoire de Jordan » et défendent « les valeurs de la France ». Les élections européennes du 9 juin sont souvent mentionnées, ce qui laisse penser qu’il s’agit d’un acte militant. Certains se demandent d’ailleurs s’il s’agit de militantisme pro-Rassemblement National ou pro-Reconquête, le parti d’Eric Zemmour et de Marion Maréchal. Dans les deux cas, les partis indiquent à BFM TV ne pas être à l’origine de ces publications.
Des photos sexy pour attirer les spectateurs et spectatrices
Pour attirer les jeunes, les faux comptes des nièces Le Pen n’hésitent pas à miser sur des photos sexy, connues pour être très appréciées des algorithmes de TikTok et Instagram. Une technique qui semble porter ses fruits, au vu de la grande audience de leurs vidéos, acquise avant que les médias ne s’emparent du phénomène.
Sur une plateforme comme TikTok, un compte à 33 000 abonnés peut rapidement être vu par des millions de personnes, puisque l’algorithme recommande automatiquement du contenu jugé viral. Les vidéos d’Amandine cumulent 400 000 « likes » et plusieurs millions de vues, notamment grâce à des commentaires comme : « Elle ressemble beaucoup à Marine ». Chaque nouvelle vidéo engrange au minimum 25 000 vues, sans aucune modération de la part des plateformes concernées. Le compte de Léna, suivi par 32 000 personnes, a dépassé le million de vues sur deux vidéos.
Les comptes d’Amandine et de Léna indiquent qu’il s’agit de fausses images dans leur biographie (mais ne le disent pas dans les vidéos). Celui de Chloé prétend être authentique. Les mentions « IA » ont probablement été ajoutées récemment, au vu du très grand nombre de personnes qui sont tombées dans le piège. Signaler l’usage de deepfake permet de respecter les conditions générales d’utilisation des plateformes.
TikTok et Instagram doivent-ils fermer ces comptes ?
Officiellement, les réseaux sociaux comme TikTok interdisent les deepfakes cachés. Le problème est que les comptes des nièces Le Pen sont à la frontière de l’interdit, puisqu’ils montrent des personnes imaginaires, qui ressemblent à des personnes réelles. Difficile en l’état de parler d’usurpations d’identité, même si leur avenir est encore incertain.
Quoi qu’il en soit, cet épisode marque un tournant dans l’utilisation des deepfakes en campagne électorale. En jouant des codes des réseaux sociaux, les créateurs des fausses nièces Le Pen attirent les utilisateurs des plateformes, souvent jeunes, vers des contenus politiques. D’autres personnalités publiques sont régulièrement victimes de deepfakes, mais souvent dans un but humoristique. Ici, la création de ces fausses personnalités pose un vrai problème sociétal, notamment dans un temps électoral.
Contacté très récemment par Numerama, TikTok n’a pas encore pu revenir vers nous avec des explications. Nous mettrons à jour cet article avec leur réponse.
Les abonnés Numerama+ offrent les ressources nécessaires à la production d’une information de qualité et permettent à Numerama de rester gratuit.
Zéro publicité, fonctions avancées de lecture, articles résumés par l’I.A, contenus exclusifs et plus encore. Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !