Le site américain ProPublica révèle que le ciblage publicitaire de Facebook suggérait, jusqu’à cette semaine, des mots-clés antisémites tels que « comment brûler les juifs» ou encore « je déteste les juifs ». Le réseau social s’est empressé de supprimer ces suggestions automatisées, et promet de se montrer plus vigilant.

Les publicités ciblées de Facebook n’ont pas seulement servi à de potentiels agents d’influence russe pendant la campagne présidentielle américaine : elles s’avéraient aussi bien pratiques, jusqu’à cette semaine, pour les néo-nazis et autres militants d’extrême-droite désireux de s’adresser à l’alt-right.

C’est ce que révèle le site américain ProPublica, qui a constaté l’existence, lors de la création de publicités ciblées avec les mots-clé « jew h » (« juif c » en équivalent français), de « centres d’intérêt » clairement antisémites. L’algorithme de Facebook propose en réponse de cibler des utilisateurs qui ont signifié leur intérêt pour des mots-clé tels que « je déteste les juifs », « comment brûler les juifs » ou encore « Une petite histoire de la ‘façon dont les juifs détruisent le monde’ ».

Des expressions bien pratiques, notamment, pour promouvoir des événements tels que le rassemblement d’extrême droite de Charlottesville, en août, qui s’est soldé par la mort d’une militante anti-raciste.

Facebook

Près de 6 000 personnes ciblées

Pour s’assurer que ces catégories n’étaient pas de simples suggestions de « centres d’intérêt », ProPublica a dépensé 30 dollars pour cibler les utilisateurs intéressés à l’aide de 3 publicités différentes qui s’affichent dans leur fil d’actualité. 15 minutes plus tard, leurs « publications suggérées » — contenant des liens vers ProPublica — étaient validées par Facebook : elles ont ainsi pu toucher 5 897 personnes concernées par ces « centres d’intérêt ».

Rob Leathern, responsable de la gestion produit chez Facebook, est revenu sur cet incident après en avoir été averti par ProPublica : « Il arrive que du contenu violant nos règles apparaisse sur notre plateforme. Dans ce cas précis, nous avons supprimé les catégories de ciblage concernées. Nous savons qu’il reste encore du travail à faire, et c’est pour ça que nous installons de nouvelles mesures de sécurité autour de notre produit et de notre système de vérification pour éviter que de tels problèmes se reproduisent à l’avenir. »

Joe Osborne, porte-parole de Facebook, précise par ailleurs : « Nous nous sommes penchés sur l’utilisation de ces campagnes et publics et ils ne sont ni courants ni répandus ».

L’incident illustre les dérives du système publicitaire de Facebook, qui crée automatiquement des catégories de ciblage selon les usages de ses utilisateurs — et notamment selon ce qu’ils indiquent en centre d’intérêt ou domaine d’étude. Ces ciblages antisémites sont toutefois absents de la version française de Facebook, où saisir le mot-clé « juif » indique des résultats tels que « fonds national juif » ou « mariage juif ».

Capture d'écran / Numerama

Capture d’écran des suggestions publicitaires de Facebook en français avec le mot-clé « juif »

Facebook déjà épinglé pour l’exclusion de certaines ethnies

ProPublica a aussi pu constater que le nombre minimum exigé de personnes intéressées par une catégorie — indispensable pour pouvoir créer sa publicité ciblée — pouvait facilement être contourné. Ainsi, si les amateurs de la catégorie « Hitler n’a rien fait de mal » n’étaient pas assez nombreux pour en créer une, il a suffi à ProPublica d’ajouter, en public cible, les amateurs de « Schutzstaffel » (les SS) et du « Parti nazi » pour toucher une audience suffisante en cumulé.

En février, Facebook annonçait pourtant le durcissement de ses règles de ciblage publicitaire pour éviter des pratiques discriminatoires. Quelques mois plus tôt, ProPublica avait en effet déjà révélé que les publicités Facebook autour du logement ou de l’emploi permettaient d’exclure certaines ethnies telles que les Afro-Américains. Au lendemain du drame de Charlottesville, le patron du réseau social, Mark Zuckerberg, promettait quant à lui de renforcer la modération de Facebook autour des contenus haineux.

Cette nouvelle révélation de ProPublica interroge une fois de plus sur les changements réellement opérés par Facebook : à chaque scandale, le réseau social s’empresse de réagir, de reconnaître son erreur et promet des améliorations. Jusqu’à la polémique suivante.

Découvrez les bonus

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !