Twitter est souvent accusé d’être une plateforme toxique, où la haine et le harcèlement ne sont pas combattus avec beaucoup de ferveur. Un cadre qui travaille sur la modération automatisée s’est exprimé sur le sujet lors d’une réunion en interne, rapporte Motherboard jeudi 25 avril. Il raconte les difficultés qu’il a à modérer les contenus en rapport avec le suprémacisme blanc — une idéologie raciste où l’on considère que toutes les personnes non-blanches sont inférieures. Il craint que les algorithmes ne les confondent avec les propos de politiciens républicains.
La question des faux-postifs
Pour modérer les propos sur son site, Twitter utilise comme la plupart des autres réseaux sociaux une combinaison de deux méthodes : des modérateurs humains, et des techniques automatisées.
Des algorithmes sont entraînés pour repérer des contenus problématiques grâce à une technique d’apprentissage par machine. Un employé qui travaille sur ce volet a demandé lors d’une réunion en interne le 22 mars dernier pourquoi cette méthode était largement utilisée pour certains discours de haine, comme la propagande de Daech, mais pas pour d’autres. Twitter n’utilise ainsi pas de manière proactive les algorithmes pour détecter les propos dangereux de suprémacistes blancs.
Un cadre dirigeant a répondu que le risque était que les algorithmes confondent les suprémacistes avec des politiciens américains du camp des Républicains.
Les faux-positifs sont une réalité pour les réseaux sociaux. Selon le cadre de Twitter, ces dommages collatéraux seraient acceptés sur certains sujets. On admet ainsi que quelques contenus en arabe soient régulièrement confondus avec des messages pro-Daech, car la lutte contre cette organisation est jugée trop importante. En revanche, la société ne serait pas prête, estime-t-il, à accepter des faux-positifs sur le suprémacisme blanc, surtout s’ils concernent des personnalités politiques.
Twitter critiqué pour son inaction
Cet argument est celui d’un employé et ne représente pas nécessairement l’avis de Twitter.
La prise de position est toutefois révélatrice, car elle soulève la question de la neutralité de la modération. Les réseaux sociaux sont aujourd’hui considérés aux yeux de la loi comme de simples hébergeurs. Ils ont pourtant un véritable pouvoir sur ce qui peut ou ne peut pas être publié sur leurs plateformes.
En théorie, les propos racistes et haineux sont bannis de Twitter. L’entreprise est aussi obligée de supprimer ceux qui lui sont signalés, car ils sont illégaux dans de nombreux pays. Cependant, elle a le droit de ne pas mener de recherche proactive sur ces contenus.
Twitter est régulièrement pointé du doigt pour son inaction sur les propos haineux. Alors que Facebook a décidé de bannir l’expression du suprémacisme blanc sur sa plateforme, Twitter peine à sévir contre l’extrême-droite. Lors d’une récente conférence TED, Jack Dorsey, le CEO de Twitter, a été questionné sur le non-bannissement des groupes néo-nazis. Il a simplement expliqué que l’extrémisme violent n’était pas admis sur le réseau social, sans vraiment répondre à la question de départ.
Comme l’a rapporté le Washington Post, Jack Dorsey s’est déjà montré complaisant avec certaines personnalités politiques. Il a ainsi soutenu la décision de Twitter de ne pas supprimer un tweet de Donald Trump (républicain), qui a pourtant conduit à une vague de harcèlement massive contre une femme politique démocrate.
Découvrez les bonus
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Il y a une bonne raison de ne pas s'abonner à
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !
