Instagram lance une nouvelle fonctionnalité, pour l'instant réservée aux utilisateurs du service en langue anglaise : il s'agit de confier une partie de la modération des commentaires aux algorithmes du site pour qu'ils détectent et bloquent automatiquement les messages inadéquats.

L’amabilité n’est malheureusement pas toujours de mise dans les commentaires qui accompagnent les publications sur le web. Instagram en sait quelque-chose. La filiale de Facebook spécialisée dans les photographies modifiées par des filtres a dû intervenir l’an dernier pour donner de nouveaux moyens aux internautes de modérer certains propos, en bloquant des mots-clés excessifs, ou même d’autoriser la désactivation complète de l’espace de discussion.

Il faut croire que ces premières mesures, si elles ont sans doute pu être utiles à une partie de la communauté, n’ont pas permis de régler définitivement la question des trolls, des injures et des harceleurs. En effet, la plateforme vient d’annoncer jeudi 29 juin une troisième initiative qui consiste cette fois à confier à des algorithmes le soin de détecter et de masquer automatiquement les commentaires inadéquats.

Comment ? Par l’apprentissage automatique, une méthode qui consiste à nourrir au préalable un système d’intelligence artificielle avec une grande quantité de données afin de lui permettre à un moment de se débrouiller seul : par exemple, cela permet à un système de reconnaître une photo de chien si auparavant il a été confronté des milliers et des milliers de fois à d’autres clichés de canidés.

En déléguant à ses algorithmes le soin de s’attaquer aux commentaires les plus virulents, Instagram espère avoir trouvé une méthode durable, efficace et globale : durable, parce que le système est censé évoluer et s’améliorer au fur et à mesure des nouvelles données qu’il modérera et bloquera ; efficace, car  il est censé ne rien laisser passer et agir avec promptitude ; globale, parce qu’il agira sur l’ensemble des comptes ayant activé ce réglage (il est pour l’instant optionnel).

On peut toutefois s’inquiéter des faux positifs qui risquent être bloqués sans raison valable. Un commentaire sarcastique, ironique voire un peu vulgaire risque-t-il de se faire sabrer par l’IA ? Lâcher un simple « Mais qu’il est con ! » va-t-il être détecté et bloqué par les algos d’Instagram ? Nous le découvrirons sans doute lorsque le système sera déployé en français. Pour l’heure, seule la langue anglaise est prise en compte.

Partager sur les réseaux sociaux