Le site américain ProPublica révèle que le ciblage publicitaire de Facebook suggérait, jusqu'à cette semaine, des mots-clés antisémites tels que « comment brûler les juifs» ou encore « je déteste les juifs ». Le réseau social s'est empressé de supprimer ces suggestions automatisées, et promet de se montrer plus vigilant.

Les publicités ciblées de Facebook n’ont pas seulement servi à de potentiels agents d’influence russe pendant la campagne présidentielle américaine : elles s’avéraient aussi bien pratiques, jusqu’à cette semaine, pour les néo-nazis et autres militants d’extrême-droite désireux de s’adresser à l’alt-right.

C’est ce que révèle le site américain ProPublica, qui a constaté l’existence, lors de la création de publicités ciblées avec les mots-clé « jew h » (« juif c » en équivalent français), de « centres d’intérêt » clairement antisémites. L’algorithme de Facebook propose en réponse de cibler des utilisateurs qui ont signifié leur intérêt pour des mots-clé tels que «  je déteste les juifs », « comment brûler les juifs » ou encore « Une petite histoire de la ‘façon dont les juifs détruisent le monde’ ».

Des expressions bien pratiques, notamment, pour promouvoir des événements tels que le rassemblement d’extrême droite de Charlottesville, en août, qui s’est soldé par la mort d’une militante anti-raciste.

Près de 6 000 personnes ciblées

Pour s’assurer que ces catégories n’étaient pas de simples suggestions de « centres d’intérêt », ProPublica a dépensé 30 dollars pour cibler les utilisateurs intéressés à l’aide de 3 publicités différentes qui s’affichent dans leur fil d’actualité. 15 minutes plus tard, leurs « publications suggérées » — contenant des liens vers ProPublica — étaient validées par Facebook : elles ont ainsi pu toucher 5 897 personnes concernées par ces « centres d’intérêt ».

Rob Leathern, responsable de la gestion produit chez Facebook, est revenu sur cet incident après en avoir été averti par ProPublica : « Il arrive que du contenu violant nos règles apparaisse sur notre plateforme. Dans ce cas précis, nous avons supprimé les catégories de ciblage concernées. Nous savons qu’il reste encore du travail à faire, et c’est pour ça que nous installons de nouvelles mesures de sécurité autour de notre produit et de notre système de vérification pour éviter que de tels problèmes se reproduisent à l’avenir. »

Joe Osborne, porte-parole de Facebook, précise par ailleurs : « Nous nous sommes penchés sur l’utilisation de ces campagnes et publics et ils ne sont ni courants ni répandus ».

L’incident illustre les dérives du système publicitaire de Facebook, qui crée automatiquement des catégories de ciblage selon les usages de ses utilisateurs — et notamment selon ce qu’ils indiquent en centre d’intérêt ou domaine d’étude. Ces ciblages antisémites sont toutefois absents de la version française de Facebook, où saisir le mot-clé « juif » indique des résultats tels que « fonds national juif » ou « mariage juif ».

Capture d’écran des suggestions publicitaires de Facebook en français avec le mot-clé « juif »

Facebook déjà épinglé pour l’exclusion de certaines ethnies

ProPublica a aussi pu constater que le nombre minimum exigé de personnes intéressées par une catégorie — indispensable pour pouvoir créer sa publicité ciblée — pouvait facilement être contourné. Ainsi, si les amateurs de la catégorie « Hitler n’a rien fait de mal » n’étaient pas assez nombreux pour en créer une, il a suffi à ProPublica d’ajouter, en public cible, les amateurs de « Schutzstaffel » (les SS) et du « Parti nazi » pour toucher une audience suffisante en cumulé.

En février, Facebook annonçait pourtant le durcissement de ses règles de ciblage publicitaire pour éviter des pratiques discriminatoires. Quelques mois plus tôt, ProPublica avait en effet déjà révélé que les publicités Facebook autour du logement ou de l’emploi permettaient d’exclure certaines ethnies telles que les Afro-Américains. Au lendemain du drame de Charlottesville, le patron du réseau social, Mark Zuckerberg, promettait quant à lui de renforcer la modération de Facebook autour des contenus haineux.

Cette nouvelle révélation de ProPublica interroge une fois de plus sur les changements réellement opérés par Facebook : à chaque scandale, le réseau social s’empresse de réagir, de reconnaître son erreur et promet des améliorations. Jusqu’à la polémique suivante.

Partager sur les réseaux sociaux