Facebook annonce une mise à jour de ses règles de modération afin d'avoir un plan pour combattre les deepfakes, ces vidéos truquées qui sont susceptibles d'induire le public en erreur.

C’est l’un des nouveaux domaines de lutte contre la manipulation de l’information. Et c’est un domaine dans lequel Facebook entend agir. Le 6 janvier, le réseau social a présenté ses intentions à l’égard des « deepfakes », ces trucages vidéo très élaborés qui, grâce à l’emploi d’algorithmes et de méthodes relatives à l’intelligence artificielle, permettent par exemple de remplacer un visage par un autre.

Deepfakes interdits, mais par les parodies

Il faut dire qu’aux États-Unis, il y a d’importantes échéances électorales qui arrivent. Le parti démocrate doit désigner la personne qui sera envoyée en première ligne contre Donald Trump. Or, comme dans toute campagne politique, chaque camp est susceptible de verser dans l’exagération, la partialité voire le mensonge pour surclasser les autres. Et à cela s’ajoutent les risques d’influence extérieure.

Pour autant, le plus fréquenté des réseaux sociaux doit prendre garde à ne pas trop serrer la vis sur toutes les vidéos manipulées, car certaines d’entre elles ont le droit de demeurer sur la plateforme. C’est typiquement le cas des vidéos parodiques ou satiriques, ainsi que celles qui ont été remontées et éditées pour omettre certains mots ou en modifier l’ordre. Des détournements comme ceux de la chaîne VinZa sont donc en principe hors de danger, même s’ils concernent la politique.

Deux critères seront pris en compte

Facebook explique que deux critères seront observés pour déterminer le sort à réserver pour chaque vidéo : il faut qu’elle soit éditée « au-delà des ajustements pour la clarté ou la qualité, d’une manière qui n’est pas apparente pour une personne lambda et qui pourrait probablement induire en erreur en faisant croire qu’un sujet dans la vidéo a dit des mots qu’il n’a pas réellement prononcés ».

Cette vidéo de Barack Obama n’a jamais eu lieu : c’est un deepfake. // Source : Capture YouTube

À cela s’ajoute un autre critère, celui de l’emploi d’un procédé permettant d’aboutir à un deepfake, ou tout autre trucage du même ordre. « C’est le produit de l’intelligence artificielle ou de l’apprentissage automatique qui fusionne, remplace ou superpose le contenu d’une vidéo, le faisant alors paraître comme authentique ». Pour le savoir, le site s’appuiera sur ses propres outils informatiques.

Face à l’ampleur de la tâche et dans la mesure où les trucages risquent de devenir de plus en plus réalistes, Facebook a fait le choix de lancer un concours en septembre 2019 pour attiser la recherche. Plus de 10 millions de dollars de prix ont été mis en jeu par le réseau social pour encourager à la création de nouveaux outils capables de voir les plus subtiles retouches qui échapperaient à d’autres logiciels.

Ultime élément à considérer : les contenus audio. Le règlement de Facebook s’applique aussi à ces fichiers, qu’ils soient accompagnés ou non d’images ou d’une vidéo. Une prise en compte importante : il existe des algorithmes capables de recréer une voix à partir d’un enregistrement d’une minute. Et encore, dans ce cas de figure, il s’agissait d’une méthode datant de 2017.

Un délicat équilibre à trouver

Si la suppression de certaines vidéos malhonnêtes et trompeuses ne représente aucune difficulté pour Facebook, parce que le trucage est grossier ou parce que la manipulation est trop grosse pour être crédible, il est à prévoir toute une zone grise complexe dans laquelle la modération risque de se prendre les pieds dans le tapis de temps à autre, car la limite ne sera pas toujours très franche.

Le réseau social pourrait donc être confronté à des injonctions contradictoires : faire preuve de célérité pour retirer toutes les vidéos falsifiées s’apparentant à du deepfake, en particulier s’il s’agit de tromper les internautes, afin de préserver l’authenticité du débat public, notamment en période électorale, mais tout en se montrant attentif à ce qu’il doit modérer, pour ne pas sur-censurer sa communauté.

Partager sur les réseaux sociaux