Twitch déploie un nouvel outil de modération, baptisé AutoMod, pour essayer de contrer les commentaires inadéquats pouvant apparaître dans une discussion.

C’est le revers de la médaille. En étant le principal service pour diffuser en direct les parties de jeux vidéo, Twitch attire naturellement à lui beaucoup de téléspectateurs avides de voir les péripéties vidéoludiques de leurs joueurs favoris. Mais dans le lot, il existe une petite frange d’internautes qui n’est pas animée des meilleures intentions lorsqu’elle rejoint une chaîne Twitch.

Il ne s’agit pas ici de simples trolls qui mettent de l’animation dans les commentaires. Il est en fait question d’intervenants ouvertement hostiles envers celui qui retransmet sa partie. Un exemple très médiatisé est celui de Terrence Miller, un joueur spécialisé dans Hearthstone qui a été victime d’un déferlement raciste alors qu’il jouait la finale de la DreamHack, à Austin.

Twitch

L’affaire avait mis en lumière les faiblesses de la modération humaine face à un trop grand nombre de réactions et le manque évident de préparation des organisateurs du tournoi pour gérer rapidement et efficacement les débordements du public. Il existe pourtant des outils de modération qui permettent d’automatiser une partie du processus mais ceux-ci sont relativement limités.

C’est pour cette raison que Twitch explore aujourd’hui une nouvelle approche dans la modération avec AutoMod. Le dispositif, présenté sur le blog de l’entreprise, contient quatre niveaux de sensibilité et intervient dans quatre cas de figure, lorsque les messages contiennent une identité, des propos obscènes, des insultes ou des jurons. AutoMod peut être activé à tout moment par le joueur pendant qu’il joue.

Un outil qui apprend

Le rôle d’AutoMod n’est pas de supprimer a priori les messages : quand il détecte un problème, il retient le message pour qu’il soit examiné par les modérateurs humains. En parallèle, un message prévient le commentateur que son intervention est pour l’instant en cours de vérification pour déterminer si elle peut apparaître dans l’espace des commentaires. Si oui, le message est publié, sinon il est rejeté.

L’outil mobilise de l’apprentissage automatique (machine learning), note Wired, qui est un champ d’étude de l’intelligence artificielle. Cela signifie qu’AutoMod sera normalement de plus en plus précis dans ses interceptions et de moins en moins enclin à capturer des faux positifs. AutoMod est disponible en anglais en version finale et dans plusieurs langues en version bêta, dont le français.

Partager sur les réseaux sociaux