Contre le fléau des commentaires des trolls, l’intelligence artificielle de Google échoue tristement. Cela est dû à un système encore incapable de bien analyser les phrases, notamment si elles présentent des coquilles (volontaires) ou d’autres moyens de contournement.

Perspective, l’IA développée par Google pour identifier automatiquement les commentaires des trolls, peut (pour l’instant) facilement être contournée par les utilisateurs. En effet, une équipe d’ingénieurs de l’Université de Washington a démontré comment l’intelligence artificielle peut être dupée facilement grâce à une utilisation détournée de son clavier.

Développé par Jigsaw, un incubateur tech de Google, l’IA a été conçue pour aider les sites d’information à mieux gérer et modérer les commentaires haineux des internautes : un phénomène qui amène de nombreux médias à fermer leur section de commentaires. Ainsi, l’intelligence artificielle se base sur un « niveau de toxicité » des phrases pour dénicher les commentaires négatifs.

Les auteurs de l’étude expliquent leur démarche : « À travers plusieurs expérimentations, nous avons montré qu’un troll peut tromper le système, en ajoutant des coquilles dans les mauvais mots ou des ponctuations entre les lettres. » Ainsi, ceux qui écrivent par exemple, si l’on écrit « Les électeurs de Trump sont des idiots », l’intelligence artificielle signalera un niveau de toxicité égale à 80 %. En revanche,  si on tape à la place « Les électeurs de Trump sont des imb.éciles/imbéciiles » le taux diminuera à 13 %.

google_ai_fixed_table

Une IA encore loin d’être autonome

Google affirme lui-même que son outil commet beaucoup d’erreurs en ce qui concerne la modération automatisée et rappelle qu’il l’a mis à disposition des développeurs justement pour l’améliorer.

Cela permet à Radha Poovendran, l’un des scientifiques de l’université de Washington, de conclure que ce type de technologie doit être utilisé par les modérateurs comme un assistant et pas comme un système autonome et intelligent : « L’intervention humaine est essentielle pour accomplir plusieurs tâches du processus. »


Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !