Google espère revaloriser les discussions en ligne, trop souvent minées par des échanges agressifs et des trolls, grâce à son outil Perspective, qui identifie automatiquement les commentaires « toxiques ». Le système, fondé sur une intelligence artificielle, s'adresse essentiellement aux sites d'actualité.

Google espère avoir trouvé la solution pour réduire le nombre de commentaires haineux ou agressifs qui minent les discussions en ligne. Le géant américain vient de lancer, par l’intermédiaire de son incubateur technologique Jigsaw, un outil intitulé Perspective, capable d’identifier les messages abusifs sans la moindre intervention humaine.

Cette technologie fondée sur une intelligence artificielle est destinée aux sites — exclusivement anglophones pour l’instant et principalement d’actualité — qui souhaitent modérer plus facilement les commentaires de leurs lecteurs. Une fois reliée à la plateforme concernée, l’API compare automatiquement les nouveaux commentaires à tous ceux déjà inclus dans sa base de données conséquente, composée de messages jugés « toxiques » par des utilisateurs.

Ainsi, chaque commentaire se voit attribuer une note qui évalue son degré de toxicité. Écrire « Tu es un abruti fini ! » sera jugé « semblable à 98 % aux commentaires considérés comme ‘toxiques’ » selon les termes employés par Perspective. Jigsaw ne prétend pas imposer sa loi avec cet outil : le modérateur est libre d’interdire ou d’autoriser la publication du commentaire après avoir pris connaissance de cette information. Il peut aussi choisir de faire apparaître le degré de toxicité à l’utilisateur au moment où celui-ci est en train de rédiger son commentaire pour l’inciter à modérer ses propos.

Un outil testé avec le New York Times

Le dispositif s’appuie logiquement sur certains mots-clé bien précis. Sans surprise, le degré de toxicité a tendance à grimper dès qu’on utilise certains termes isolés : le verbe « détester » (81 %), l’insulte « connard » (94 %), l’adjectif « loser » (« 76 % »). L’IA parvient à ajuster ce niveau lorsqu’ils sont placés dans une phrase. Ainsi, « je déteste Trump » obtient un taux de 79 % tandis que remplacer « Trump » par « Hillary » se solde par 84 %.

Perspective repose sur un cercle évolutif vertueux puisque les commentaires ajoutés par les utilisateurs viennent enrichir sa base de données et améliorer son degré de précision. Jigsaw a testé Perspective en collaboration avec l’équipe de modération du New York Times, chargée d’assurer le tri sur près de 11 000 commentaires quotidiens avant leur publication.

Google espère favoriser le développement des commentaires en ligne, alors que la tendance dominante est aujourd’hui à la fermeture de ces sections, qu’il s’agisse de grands médias comme Bloomberg ou plus récemment des forums de discussion d’IMDb, l’encyclopédie dédiée au cinéma et à la télévision.

Les commentaires du New York Times

La fermeture des commentaires, une solution jugée insatisfaisante

Pour Jared Cohen, président de Jigsaw, il y avait urgence à agir : « Ce problème ne concerne pas seulement les lecteurs en ligne. Les médias veulent encourager l’implication et les débats autour de leur publications mais éplucher des millions de commentaires pour censurer les trolls ou les excès nécessite beaucoup trop d’argent, de travail et de temps. En conséquence, beaucoup de sites ont fermé leurs commentaires. Mais ils reconnaissent que ce n’est pas la solution qu’ils souhaitent. Nous sommes convaincus que la technologie peut aider. »

De nombreuses plateformes sont aujourd’hui confrontées à des problèmes de commentaires insultants voire à du harcèlement en ligne, à commencer par Twitter : le réseau social vient d’ailleurs de multiplier les initiatives pour lutter contre ce fléau.

Si Perspective n’en est qu’à ses débuts, Jigsaw envisage déjà de l’appliquer à d’autres langues que l’anglais mais surtout d’étendre ses fonctionnalités. L’outil pourrait ainsi devenir capable d’identifier les commentaires creux ou hors sujet pour les filtrer et permettre aux utilisateurs de faire apparaître uniquement les plus pertinents.

Partager sur les réseaux sociaux