Deux artistes ont publié sur Instagram un montage de Mark Zuckerberg évoquant une (fausse) fuite de données. Le réseau social ne le supprimera pas.

Mark Zuckerberg ne bénéficiera d’aucun traitement de faveur. Facebook et Instagram refusent de supprimer les deepfakes — des images si bien manipulées ou retouchées qu’elles semblent réelles — y compris lorsqu’ils incriminent leur CEO. C’est du moins ce qui a été expliqué après la publication d’une vidéo dans laquelle un faux-Mark Zuckerberg évoque une fuite imaginaire de données des utilisateurs des réseaux sociaux, a expliqué Motherboard ce mardi 11 juin.

Une fausse vidéo publiée sur Instagram

La vidéo en question a été mise en ligne sur Instagram le 8 juin par Bill Posters, un artiste et «  hacktiviste  » britannique. Elle a depuis été visionnée plus de 19 000 fois. On y voit Mark Zuckerberg dire qu’il a le contrôle sur des « milliards de données volées aux citoyens  » et qu’il est prêt à s’en servir pour « contrôler leur futur ».

La vidéo a été réalisée à partir d’une véritable interview diffusée en septembre 2017, dans laquelle Mark Zuckerberg parlait des soupçons d’ingérence russe dans les élections américaines. Bill Posters, qui a travaillé sur ce projet avec Daniel Howe et une agence de publicité, a utilisé un logiciel nommé CannyAI. Il est normalement dédié au doublage d’images dans une autre langue.

Pas de traitement de faveur

Le montage et la qualité d’image laissent assez peu de doutes sur le fait que ces images soient fausses. La vidéo a pourtant fait l’objet d’une attention toute particulière de la part des médias, et pour cause. Fin mai, le réseau social a dû se justifier d’avoir laissé en ligne une autre vidéo deepfake. Celle-ci mettait en scène Nancy Pelosi, la présidente de la chambre des représentants américaine. Visionnée des millions de fois sur Internet, elle visait à discréditer la démocrate en donnant l’impression qu’elle bafouillait, voire qu’elle avait consommé une importance dose d’alcool avant son discours.

Mark Zuckerberg lors d’une conférence Facebook. // Source : WikiCommons

Monika Bickert, la responsable des politiques globales chez Facebook, avait expliqué pourquoi le réseau social ne supprimait pas la vidéo au micro de CNN. Selon elle, il était plus judicieux de laisser la vidéo en ligne mais d’en limiter sa portée (en faisant en sorte que les algorithmes la recommandent moins souvent) ou en l’accompagnant d’un encadré qui indique qu’il s’agit d’un deepfake. Cet encadré est réalisé par des médias partenaires.

Voici ce que l’on peut voir apparaître. // Source : Facebook

Un porte-parole d’Instagram a assuré à Motherboard que la vidéo sur Mark Zuckerberg serait « traitée de la même façon que toute forme de désinformation sur Instagram ». « Si les équipes de fact-checking partenaires estiment qu’elle est fausse, nous ferons en sorte qu’elle apparaisse moins dans les recommandations Instagram comme l’onglet Explore ou les recherches par hashtag », a-t-il détaillé. La vidéo pourrait en revanche être supprimée pour non-respect des droits d’auteur. La chaîne CBS a déposé une requête en ce sens d’après The Verge.

Une politique efficace ?

La position de Facebook et Instagram peut sembler surprenante, mais elle répond en réalité à une problématique importante. Lorsqu’une vidéo controversée (qu’elle soit fausse ou non) est publiée sur un réseau social, il est courant que des internautes en fassent des copies et la publient à leur tour. Dans certains cas, comme lors de l’attentat de Christchurch où le terroriste avait filmé ses actes en direct sur Facebook, ce sont des millions de copies qu’il faut parvenir à détecter. Certaines sont faciles à repérer grâce aux algorithmes. D’autres sont un peu manipulées, et du coup difficiles à retrouver de manière automatisée. Le même problème se pose pour les deepfakes.

Il reste cependant la question de l’efficacité des dispositifs mis en place par Facebook à se poser. Dans le cas de la vidéo de Nancy Pelosi, il nous avait fallu une simple recherche par mots-clés « Nancy Pelosi ivre » (en anglais) pour trouver de multiples copies du deepfake. L’encadré informatif supposé nous avertir qu’il s’agissait d’un faux n’apparaissait sur aucune de ces vidéos. Facebook estimait en 2017 que lorsqu’il apparaît, cet encadré est en revanche efficace.

Partager sur les réseaux sociaux