Le réseau social a été assigné en justice par des militantes féministes. Elles veulent plus de transparence sur les décisions de modération prises par Instagram.

Elles avaient d’ores et déjà saisi la Défenseure des droits en février, mais les militantes féministes d’Instagram ne comptent pas s’arrêter là : 14 d’entre elles viennent d’assigner Facebook en justice. L’entreprise, propriétaire d’Instagram, a été assignée en référé le 9 mars auprès de la chambre civile du tribunal judiciaire de Paris, apprend-on dans Le Parisien. Les militantes ont un objectif : lever enfin le voile sur la modération du réseau social.

Les assignations en référé sont réservées pour les cas urgents, et permettent d’obtenir des mesures provisoires rapidement, en attendant un jugement définitif. Ici, l’intention des féministes est surtout de démarrer une médiation. « On veut qu’il y ait un début de dialogue, et qu’ils nous expliquent vraiment ce qu’ils font », résume maître Louise Bouchain, l’avocate des militantes féministes que Numerama a jointe par téléphone.

« Reconnaître les failles des plateformes »

Les militantes espèrent surtout que l’assignation forcera Facebook à entamer une médiation avec elles. Et à travers cette médiation, elles souhaitent engager la discussion. « On va leur demander vraiment qu’ils nous expliquent ce qui est demandé à l’algorithme pour que la modération soit effectuée, si le shadow ban existe, pourquoi est-ce qu’il y a une discrimination envers les comptes politiques féministes par rapport à d’autres comptes, etc … », énumère l’avocate.

Pour l’instant, Maitre Bouchain ne sait pas si les équipes de Facebook accepteront la médiation. « Il n’y en a encore jamais eu avec eux en France », explique-t-elle. Si le réseau social refuse, l’avocate continuera la procédure juridique et demandera une expertise, qui lui permettra de répondre à ses questions. « On veut faire reconnaître les failles de ces plateformes. Pour l’instant, l’État n’intervient pas encore assez en ligne, c’est encore une zone de non-droit. On veut alerter sur ces problèmes », explique l’avocate, quitte à  « aller jusqu’au niveau de la Cour de justice européenne. C’est trop facile de laisser faire un énorme groupe international comme Facebook ».

L’algorithme est demandé depuis des années

Ces demandes des militantes ne sont pas nouvelles : cela fait des années que les utilisateurs d’Instagram font remonter des cas de censure qu’ils estiment injustifiés. Les exemples de suppressions de publications abusives (que ce soit du sang de règle, des femmes en train d’allaiter, des personnes jugées trop grosses, ou le hashtag #lesbians), sont nombreux, au point d’avoir obligé Instagram à s’excuser et à changer ses règles. Mais jamais à les expliquer. C’est pourtant ce mystère autour du fonctionnement de l’algorithme de modération qui frustre autant. Il y a quelques mois, les journalistes de Mediapart avaient d’ailleurs essayé de faire de la rétro-ingénierie, afin de mieux comprendre l’algorithme d’Instagram. Ils avaient découvert un système de de «  prime à la nudité ».

Les plateformes, au vu de leur taille et du nombre de contenus qui y sont publiés chaque jour, ne peuvent pas tout vérifier manuellement. Les algorithmes leur sont indispensables, mais ils doivent toujours être complétés par des actions humaines. Mais jusqu’à présent, peu de choses ont été révélées au sujet des modérateurs humains, ni sur les moyens qui leur sont alloués.

Le hashtag #lesbians a été censuré sur Instagram // Source : Numerama

De manière générale, les réseaux sociaux sont très réfractaires à l’idée de révéler tout ou une partie du fonctionnement de leur intelligence artificielle : le succès de leur plateforme se base en grande partie sur ces algorithmes. Ils servent à déterminer quel contenu est le plus intéressant pour chaque utilisateur, ou bien à gérer la suppression des bots et publications à caractère pornographique avant même leur publication : ils sont au cœur du succès des réseaux sociaux tels que Facebook et Instagram. Mais une assignation en justice pourrait leur demander de faire preuve de transparence, qu’ils le veuillent ou non.

Une saisine de la Défenseure des droits

Avant cette assignation en justice, certaines militantes féministes ont déjà engagé des procédures contre Instagram. Au mois de février, des utilisatrices ont saisi la Défenseure des droits, au prétexte de discrimination. « Victimes de discrimination dans la modération à deux vitesses d’Instagram, nous voulons comprendre ce qu’il se passe », avait tweeté Pauline Harmange, l’autrice de Moi les hommes, je les déteste, qui participe à la saisine.

Les deux procédures sont cependant différentes. Elles ne sont pas engagées par les mêmes personnes, et n’ont pas les mêmes objectifs : la saisine de la Défenseure des droits a pour but de faire reconnaître l’existence d’une discrimination envers les militantes féministes. De plus, si la Défenseure accepte de se saisir du dossier (ce qui n’est pas sûr), elle n’aurait qu’un « pouvoir d’injonction », et ne pourrait pas obliger les réseaux sociaux à donner plus de détails sur leurs activités de modération, ni entraîner à une condamnation.

 

Partager sur les réseaux sociaux

La suite en vidéo