Facebook a détaillé ses politiques de sanction contre les personnes qui enfreignent ses règles d’utilisation. Cela fait suite à l’attentat de Christchurch, en Nouvelle-Zélande.

Facebook a compris qu’il devrait sévir sur l’application de ses règles. De nouvelles politiques de sanction ont été mises en place, a-t-il été annoncé dans un communiqué mardi 14 mai. Les comptes qui violeront certaines règles établies seront privés de Facebook Live, sans recevoir au préalable d’avertissement. Cela fait suite à l’attentat de Christchurch, durant lequel 51 personnes ont été assassinées par un homme qui a filmé son acte et l’a retransmis en direct sur Facebook.

Un bannissement temporaire

Guy Rosen, le vice-président en charge de l’intégrité chez Facebook, explique que les personnes qui ont violé les règles jugées les plus sensibles de Facebook ne pourront plus utiliser l’outil Facebook Live, qui permet de diffuser des contenus en direct sur la plateforme, pendant un temps. Les règles en question ne sont pas toutes énumérées, mais il s’agit notamment des règles sur les organisations dangereuses — qui concerne depuis peu des groupements d’extrême-droite.

La nouvelle règle de Facebook concerne les vidéos en direct. // Source : Facebook

La nouvelle règle de Facebook concerne les vidéos en direct.

Source : Facebook

« Par exemple, quelqu’un qui publie le lien d’un communiqué d’un groupe terroriste sans contexte sera immédiatement bloqué des Live pour une certaine période », précise le communiqué qui évoque un laps de temps de 30 jours.

Jusqu’à présent, si une personne ne respectait pas les règles d’utilisation de Twitter, son contenu était retiré en guise d’avertissement. Si elle était de nouveau prise en flagrant délit, Facebook la bloquait temporairement, ce qui l’empêchait de publier des Live. L’internaute pouvait être définitivement banni pour des violations de règles « répétées » ou « dans de rares cas », pour un seul méfait grave (diffusion de propagande terroriste, pédopornographie,…).

Cette nouvelle règle est relativement limitée. L’interdiction de Live n’est que temporaire, et cela signifie qu’une personne en apparence irréprochable sur son profil Facebook ne sera pas plus inquiétée qu’avant.

Des millions investis dans la recherche

L’outil Facebook Live a souvent été utilisé à mauvais escient. Le terroriste responsable de l’attentat de la mosquée de Christchurch, en Nouvelle-Zélande, a filmé la tuerie et l’a mise sur Facebook Live. La vidéo a été vue environ 200 fois en direct, sans que personne ne la signale. Ce n’est que 12 minutes après la fin du direct, soit 29 minutes après le début de la diffusion, que la vidéo a été signalée. Alors visionnée 4 000 fois, elle a été supprimée par Facebook en quelques minutes.

Le laps de temps écoulé peut sembler assez réduit, mais il est suffisant pour que des personnes non avisées tombent dessus ou que des internautes en fassent des copies. La vidéo de l’attaque de Christchurch a ainsi été copiée puis rediffusée sur Facebook, YouTube, Twitter et 8Chan. Elle est devenue virale : Facebook disait avoir retiré à lui seul 1,2 million de copies dans les 24 heures suivant l’attentat.

L'une des mosquées visées.  // Source : Google Maps

L'une des mosquées visées.

Source : Google Maps

Concernant ce point, Facebook a reconnu avoir encore des lacunes. Ses outils automatisés (intelligences artificielles) ont toujours du mal à identifier des copies un peu modifiées. En recadrant l’image ou en ajoutant des éléments de texte dessus, les utilisateurs peuvent aisément déjouer les systèmes de modération. L’entreprise promet d’investir dans la recherche afin d’y remédier. Des partenariats ont été annoncés avec plusieurs universités américaines ce 15 mai. Des chercheurs qui y exercent travailleront pour Facebook, qui investit 7,5 millions de dollars (6,7 millions d’euros) dans cette tâche. Cela servira aussi à la lutte contre les deepfakes, des images si bien modifiées grâce à l’intelligence artificielle que l’on croirait qu’elles sont réelles.

L’appel de Christchurch

Le réseau social a également connu des problèmes avec des vidéos de meurtres, suicides ou viols diffusées en direct. Il avait déjà pris des mesures exceptionnelles concernant les vidéos en direct de suicide. Elles sont les seules à bénéficier d’une procédure accélérée, car il est important que les modérateurs puissent prévenir les secours rapidement. Après l’attentat de Christchurch, Facebook disait vouloir réexaminer ces procédures, pour peut-être appliquer les procédures accélérées aux contenus terroristes. Il faudrait pour cela inclure une nouvelle catégorie de signalement, plus précise (« terrorisme » et non plus seulement violence).

Ce mercredi 15 mai, Emmanuel Macron Jacinda Adern, la première ministre de Nouvelle-Zélande, et d’autres dirigeants politiques, doivent présenter « l’appel de Christchurch ». Il s’agira d’un projet de lutte contre l’extrémisme en ligne. Des patrons d’entreprises participent également à cet appel (qui doit fixer des objectifs plus que des contraintes), comme Jack Dorsey, le CEO de Twitter. Mark Zuckerberg, le patron de Facebook, ne sera pas présent. Le fait que le durcissement des règles soit annoncé aujourd’hui n’est toutefois pas un hasard.


Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !