Les développeurs de Jigsaw, une filiale d’Alphabet, ont collaboré avec la Fondation Wikimedia pour mener une étude concernant le cyberharcèlement mené sur la plateforme de Wikipédia (version anglophone). En analysant 100 000 commentaires publiés entre 2004 et 2015, l’équipe a cherché à développer une base colossale pouvant servir de point de départ afin de créer un système d’avertissement réservé aux modérateurs.
Avec l’apport des services des intelligences artificielles de Crowdflower, les développeurs ont annoté les commentaires offensifs, en les classifiant en trois catégories différentes : les attaques directes (« T’es nul »), les harcèlements contre un tiers (« Bill est nul ») et d’autres postures agressives, comme le fait de citer les attaques d’autrui (« Bill dit qu’Henry est nul »).
L’équipe a alimenté une intelligence artificielle (IA) avec ce genre de données, comme elle l’explique sur Medium : « Pendant les tests, nous avons découvert qu’une IA en apprentissage est plus performante pour prédire si un commentaire est une attaque personnelle comparé au travail combiné de trois « crowd workers » [des professionnels freelance qui travaillent sur des plateformes de crowdsourcing]. »
![screenshot-21017-1045-am screenshot-21017-1045-am](https://c0.lestechnophiles.com/www.numerama.com/wp-content/uploads/2017/02/screenshot-21017-1045-am-1024x362.jpeg?resize=1024,362&key=2e1b68e7)
Crédits : Wikipédia
34 utilisateurs jugés « très malsains »
Sans surprise, les développeurs ont constaté que les commentaires d’anonymes avaient 6 fois plus de chances d’être agressifs que ceux d’utilisateurs enregistrés. En revanche, ce genre de harcèlement représente moins de la moitié des attaques de trolls de la plateforme.
En effet, d’après l’étude, 30 % des comportements agressifs proviennent de contributeurs fréquents de Wikipédia, donc des utilisateurs enregistrés avec des pseudonymes voire avec leur nom et prénom. En 2015, 9% des harcèlements proviennent même de 34 utilisateurs jugés « très malsains ». Les chercheurs font preuve d’optimisme : « On pourrait connaître un progrès significatif rien qu’en modérant un petit nombre de ces trolls. »
Ainsi, l’équipe de Jigsaw lance un appel pour concevoir un nouveau tableau de bord destiné aux modérateurs de Wikipédia, afin qu’ils puissent bien identifier les épisodes de cyberharcèlement et résoudre ces situations déplaisantes. Cependant, il reste beaucoup à faire, car la recherche a démontré que seulement 17,9 % des attaques de trolls sont régulièrement modérés par des bannissements.
Nouveauté : Découvrez
La meilleure expérience de Numerama, sans publicité,
+ riche,
+ zen,
+ exclusive.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.