ProPublica a dévoilé certaines règles de modération de Facebook en matière de contenu haineux. Il en ressort une catégorisation surprenante, définie par des critères inclusifs ou excluants, qui donne lieu à des situations parfois surprenantes, entre surprotection des « hommes blancs » et sous-défense de minorités.

Sur Facebook, une attaque contre des « adolescent(e)s irlandais(es) » est tolérée, quand la même attaque portée à l’encontre de « femmes irlandaises » doit être supprimée en tant que « publication haineuse ». Le réseau social opère en effet une distinction atypique en la matière, selon ses règles de modération révélées par ProPublica.

Contacté par Numerama, Facebook refuse de commenter les documents dévoilés par le site américain et redirige vers l’article publié ce mardi 27 juin sur sa plateforme « Hard Questions » au sujet des publications haineuses, qui doit être considérée, selon l’entreprise, comme sa « réponse » sur le sujet. Elle y explique notamment supprimer 66 000 publications haineuses par semaine,

« Catégories protégées » contre « non protégées »

Pour juger de ce qui relève du contenu haineux — et doit donc être supprimé –, la plateforme aux 2 milliards d’utilisateurs distingue les « catégories protégées » d’utilisateurs des « non protégées ». Les membres protégés sont déterminés sur la base des critères suivants : sexe, couleur de peau, identité sexuelle, croyance religieuse, orientation sexuelle, maladie grave ou handicap majeur. Toute attaque (insulte, appel à la violence ou autre) basée sur l’un de ces critères sera considérée comme un discours haineux, donc à supprimer.

À l’inverse, Facebook exclut les caractéristiques suivantes de sa protection : classe sociale, origine continentale, apparence, âge, métier, idéologie politique ou encore le pays. En pratique, mener le même genre d’attaque contre une sous-catégorie donne lieu à une certaine liberté d’expression.

Et l’équation est simple : si un membre est porteur à la fois d’une caractéristique protégée mais aussi d’une non protégée, celle-ci l’emporte sur la première. L’attaque en question ne sera donc pas considérée comme un discours haineux et pourra rester en ligne, ce que déplore la professeure de droit Danielle Citron, citée par ProPublica : «  Malheureusement, [cette approche] protège les gens qui en ont le moins besoin au détriment de ceux qui en ont vraiment l’usage. »

ProPublica

Un appel à « massacrer » les musulmans radicalisés est toléré

Exemple concret révélé par un quiz soumis aux modérateurs de Facebook pour tester leur connaissance des règles : les « hommes blancs » sont protégés puisqu’ils réunissent deux caractéristiques essentielles, alors que les « femmes chauffeurs » ne le sont pas (en raison de la mention du métier, malgré l’attaque portant sur le sexe), à l’instar des « enfants noirs » (l’âge l’emporte sur la couleur de peau).

De la même façon, la latitude est plus grande concernant les sous-catégories de catégories protégées. C’est ce qui explique notamment qu’au lendemain de l’attentat terroriste commis à Londres en juin, un élu américain a pu appeler sur Facebook à massacrer les musulmans «  radicalisés » sans être inquiété — parce qu’il s’attaquait à un sous-groupe de catégorie protégée — alors qu’une militante du mouvement Black Lives Matter voyait son affirmation selon laquelle « tous les Blancs sont racistes » supprimée parce qu’elle visait un ensemble général.

Facebook invoque la difficulté d’appliquer ses règles à l’échelle mondiale

Pour sa défense, Facebook invoque la difficulté d’appliquer ses règles à l’échelle mondiale, en essayant de se conformer aux lois ou pratiques admises dans certains pays mais interdites dans d’autres : la législation américaine est ainsi plus protectrice de la liberté d’expression quand les pays européens — comme l’Allemagne — se montrent bien plus stricts sur les contenus jugés haineux.

Le principal problème de Facebook est, en fin de compte, de trouver un moyen de faire la loi pour 2 milliards d’utilisateurs répartis dans le monde entier et de modérer des millions de publications par jour. Cette situation inouïe dans l’histoire de l’humanité ne peut pas apprendre du passé et Facebook se retrouve dans une position où « la loi » est centralisée et inconnue des « administrés ».

Les migrants, une catégorie « quasi-protégée »

Les migrants se trouvent quant à eux dans un statut hybride, celui de « quasi-protégés ». Depuis 2015, les modérateurs suppriment les publications appelant à la violence contre eux ou qui les déshumanisent.

En revanche, les appels à l’exclusion et les généralisations « non déshumanisantes » sont tolérées. On peut donc dire d’eux qu’ils sont « dégoûtants » mais pas qu’ils sont une « saleté ». La frontière est pour le moins fine.

Le mois dernier, The Guardian avait déjà révélé les règles de modération atypiques du réseau en matière de contenu violent ou de sexualité.

Partager sur les réseaux sociaux