Un deepfake montrant le président ukrainien appelant ses soldats à se rendre a été publié et largement partagé sur les réseaux sociaux, avant d’être supprimé. C’est la première fois qu’un tel montage est utilisé dans la guerre entre la Russie et l’Ukraine.

La vidéo, censée représenter Volodymyr Zelensky, ne fait pas naturelle : le regard du président ukrainien est vide, les expressions de son visage ne collent pas, et en dehors de sa tête, tout le reste de son corps semble immobile. Mais le plus bizarre reste son discours : Volodymyr Zelensky appellerait les soldats ukrainiens à rendre les armes.

C’est un faux : il s’agit d’un deepfake, fort heureusement relativement grossier. En plus des aberrations visuelles, la voix de M. Zelensky n’est pas bien reproduite et il aurait même un accent russe dans la vidéo, selon un journaliste de la BBC.

Publiée initialement sur un site ukrainien et rapidement partagée sur divers réseaux sociaux, la vidéo a rapidement été supprimée, même si elle continue d’y circuler. Mais même avec toutes ces erreurs et malgré la modération des sites, la vidéo envoie un signal préoccupant pour l’avenir et confirme ce que les experts craignaient depuis des années : les deepfakes sont devenus des armes de guerre.

Un site et une chaîne de télévision hackés

Les deepfakes sont des vidéos truquées grâce à de l’intelligence artificielle, qui représentent en général des personnes disant des propos qu’elles n’ont jamais tenus, ou faisant des choses auxquelles elles n’ont pas participé. En modifiant la tête, la posture, le corps ou les propos d’une personne, et même parfois le timbre de la voix, les deepfakes permettent de créer des résultats parfois extrêmement réalistes. La technologie peut être utilisée à des fins de désinformation politique, mais aussi à des fins pornographiques, en rajoutant le visage de stars sur le corps d’actrices X.

Le deepfake représentant Volodymyr Zelensky est heureusement de piètre qualité, mais semble utiliser des images diffusées lors de son adresse à la nation du 24 février, au tout début de l’invasion russe. Le président s’était exprimé dans la même salle, avec des vêtements similaires.

deepfake
Un extrait de la vidéo deepfake. // Source : Numerama

Les origines de la vidéo sont encore floues. Elle est apparue pour la première fois le 16 mars sur le site de Segodnya, un site d’information ukrainien, qui a expliqué avoir été visé par des « hackeurs ennemis », qui auraient placé la vidéo sur leur site. Le même jour, la chaîne de télévision Ukraine 24 a également été visée : alors qu’une émission était diffusée normalement, un bandeau de texte annonçant que Volodymyr Zelensky aurait voulu « prendre le Donbass », mais aurait depuis « fui le pays » est apparu en bas de l’écran.

La vidéo a ensuite été partagée sur les réseaux sociaux, où elle est devenue rapidement virale. Elle n’est cependant pas restée en ligne très longtemps : Facebook, Twitter et YouTube ont tous pris les devants et ont annoncé avoir supprimé la vidéo. Le deepfake est cependant toujours en ligne, selon CNN, qui a réussi à en retrouver la trace.

Avant d’être diffusée sur le site de Segodnya et sur Ukraine 24, la vidéo aurait également circulé dans un groupe Telegram pro-Kremlin, d’après le think tank américain The Atlantic Council. Selon les métadonnées de la vidéo, que The Atlantic Council a pu consulter, le deepfake aurait été créé deux heures avant sa publication sur Telegram. Le message contenu dans la vidéo, encourageant les Ukrainiens à se rendre, aurait également été largement partagé sur VKontake, le « Facebook russe » où de nombreux influenceurs se sont rabattus depuis l’interdiction d’Instagram dans le pays.

Les deepfakes sont devenus des armes de guerre

L’arrivée des deepfakes avait été prévue par le commandement de l’armée ukrainienne. L’armée avait prévenu la population dès le 2 mars que l’armée russe pourrait utiliser des deepfakes afin de convaincre les Ukrainiens de capituler. La communication préventive et la mauvaise qualité de la vidéo semblent avoir limité les dégâts. Volodymyr Zelensky a, de plus, rapidement publié une véritable vidéo de lui appelant la population à ne pas se laisser avoir par le deepfake.

Mais même si l’opération de désinformation n’a pas eu l’effet escompté, elle marque un tournant : c’est la première fois qu’un deepfake de cette qualité est utilisé dans lors du conflit ukrainien, explique le spécialiste des deepfakes Sam Gregory, interrogé par The Daily Dot. « Il y avait déjà eu des deepfakes parodiques de Vladimir Poutine avant, ou bien des deepfakes de ‘solidarité’ avec Volodymyr Zelesnky, mais jamais de vidéo volontairement trompeuse comme celle-là », indique-t-il. Le chercheur explique également que de nombreux « shallowfakes », des faux de mauvaise qualité, circulaient déjà sur TikTok, mais que leur impact avait été très réduit grâce au travail de prévention de l’armée.

L’abondance de vidéos trompeuses complique encore la situation pour les Ukrainiens. Si certaines sont tellement mauvaises qu’elles pourraient faire rire, elles restent tout de même extrêmement dangereuses : elles montrent que tout peut être faussé. Et à terme, la communication de l’Ukraine sur la guerre pourrait jouer en sa défaveur. En publiant de nombreuses vidéos sur les réseaux sociaux, Volodymyr Zelensky fournit involontairement beaucoup de « matériel » pour produire de plus en plus de deepfakes, de plus en plus réalistes. Surtout, comme avait prévenu l’armée, cette vidéo du président ukrainien ne sera peut-être pas la dernière — et le prochain deepfake ne sera peut-être pas aussi grossier.