Le réseau social a masqué, pendant quelques temps, le hashtag #lesbians. Ce fait révèle à quel point l'algorithme de modération d'Instagram fonctionne de manière arbitraire, se basant sur des règles de modération qui peuvent théoriquement s'expliquer, tout en restant sont discriminantes sur le fond. D'ailleurs, Instagram a finalement expliqué à Numerama qui s'agirait d'une « erreur ». Le mot-clé a été rétabli. Pour combien de temps ?

Mise à jour du 3 février : Instagram nous a répondu qu’il s’agirait d’une erreur de leur part. « Le hashtag a été masqué par erreur, et nous l’avons rétabli dès que nous avons été alerté ».  Numerama a pu vérifier que #lesbians était en effet à nouveau disponible sur Instagram. Cette réponse, brève, laisse cependant de nombreuses questions en suspens. D’où venait cette « erreur » ? Pourquoi ce hashtag en particulier était-il visé ? Y avait-il un lien avec la pornographie ? Ce problème ne risque-t-il pas à nouveau de se présenter ?

Article original du 1er février :  « Ce hashtag est masqué », peut-on lire sur la photo. « Les publications ont été limitées car la communauté Instagram a signalé du contenu susceptible de ne pas respecter ses règles ». Habituellement, sur Instagram, cliquer sur un hashtag dans une story permet de voir les publications l’utilisant.

Ce n’est pas le cas pour tous : certains hashtags sont masqués par le réseau social lorsque l’algorithme de modération estime qu’ils ne sont pas conformes aux règles de la plateforme. Et comme la chanteuse Angèle l’a découvert le dimanche 31 janvier 2021, c’est ce qui arrive avec le hashtag #lesbians. Numerama a pu reproduire le même test, pour le même résultat.

«  Ce hashtag est masqué », peut-on lire. « Les publications pour #lesbians ont été limitées, car la communauté Instagram a signalé du contenu susceptible de ne pas respecter ses règles. »

Le hashtag #lesbians est bloqué par Instagram, comme l’a vu la chanteuse Angèle // Source : Capture d’écran Numerama / Instagram

#lesbians est masqué, mais pas #lesbian

Le fait que le mot « lesbians » (la traduction anglaise de lesbiennes) soit bloqué peut sembler déjà étonnant, en soi. Il ne s’agit ni d’une insulte ni d’un contenu dangereux, et contrairement à ce qui est dit, ce n’est pas un contenu contraire aux règles de la communauté Instagram. Alors, pourquoi est-il bloqué ? Interrogé par la rédaction, Instagram n’a pas encore répondu à nos questions sur le sujet.

Il ne semblerait toutefois pas incohérent que le blocage du mot clé #lesbians soit lié aux requêtes pornographiques, qui pullulent sur le web. Le mot « lesbienne » a malheureusement une histoire compliquée avec Internet. Pendant longtemps, les recherches Google pour « lesbienne » amenaient ainsi directement à des résultats pornographiques, alors que celles pour le mot « gay » affichaient des articles de presse et adresses de bars gay-friendly. Le moteur de recherche n’a changé ses résultats qu’en 2019. Sur Facebook, le terme est toujours interdit par défaut, et ne peut être autorisé qu’au cas par cas.

Pour économiser le coût d’une modération humaine trop importante, les réseaux et plateformes passent par des algorithmes qui modèrent à priori certains contenus. Le mot « lesbians » pouvant être considéré comme souvent adossé à des contenus pornographiques, il pourrait avoir été décidé par Instagram de le masquer — si l’on suit ce raisonnement, il faudrait en conclure que le mot « lesbian » serait moins lié à des contenus pornographiques.

Nous avons en effet remarqué que #lesbian au singulier n’était pas modéré. En français, #lesbiennes et #lesbienne ne sont pas non plus bloqués par l’algorithme de la plateforme. Ce n’est pas non plus le cas pour #gays, #gay, #homosexualité, #homosexuels, etc.

Le fait que seul #lesbians soit masqué montre bien que la censure d’Instagram est liée à des décisions chiffrées (un nombre de contenus porno liés au mot #lesbians considéré comme trop important par Instagram). Or, ces « seuils » ne sont pas rendus publics  : il n’est pas possible de savoir sur quelles bases chiffrées précises se fonde le groupe Facebook (propriétaire d’Instagram) pour décider que le mot #lesbians est trop associé à du porno, mais pas le mot #gay.

Il s’agit d’une décision arbitraire, basée sur l’idée qu’il coûterait trop cher de modérer humainement tous les contenus à caractères pornographiques liés au mot #lesbians. Or, Instagram se revendique comme un réseau social pour tous et toutes, qui ne discriminerait pas en fonction de l’orientation sexuelle ou du genre. Le choix semble donc assumé d’accepter de modérer massivement pas algorithme plutôt que de dépenser de l’argent pour protéger tous ses utilisateurs et utilisatrices.

Le hashtag #lesbians a été censuré sur Instagram // Source : Numerama

Les algorithmes de modérations doivent être moins obscurs

Ce n’est pas la première fois qu’Instagram est critiqué pour sa modération. En plus d’avoir pendant longtemps censuré les publications de personnes grosses (ce que la plateforme a promis d’arrêter de faire en octobre 2020), Instagram est accusé d’avoir mis en place un système de modération déséquilibré entre hommes et femmes. Des militantes féministes ont notamment expliqué à Numerama que leurs publications étaient régulièrement supprimées alors que des hashtags misogynes continuent d’être autorisés sur la plateforme.

Instagram n’est cependant pas la seule plateforme à rencontrer ce problème de modération inintelligible. Twitter était également l’objet de vives critiques la semaine dernière de la part de militantes féministes pour avoir censuré une question sur le viol. Le réseau social a fini par s’excuser et par reconnaître une erreur, un fait rare, et a republié les publications qu’il avait censuré. Le problème n’est cependant toujours pas réglé :  tant que l’algorithme de modération ne sera pas mieux compris par les équipes humaines, ces situations continueront de se produire. Et pour l’instant, les suppressions de messages sont toujours aussi aléatoires.

Cet article a été modifié le 2 février pour rajouter des informations concernant le fonctionnement de la modération par algorithme.

Partager sur les réseaux sociaux