Vous voulez insulter quelqu'un ? Instagram vous demandera d'abord de réfléchir
Pour lutter contre la haine en ligne et le harcèlement, Instagram a annoncé le lundi 8 juillet deux nouvelles mesures.
Y réfléchir à deux fois avant de publier une insulte
« Notre mission est de connecter les gens et de proposer des contenus que vous aimez mais cela ne fonctionne que si les gens se sentent suffisamment en confiance pour s'exprimer sur Instagram », explique Adam Mosseri, le patron de l'entreprise. Il dit être conscient du problème que représente le harcèlement sur l'application, notamment envers les plus jeunes utilisateurs et utilisatrices. Pour Adam Mosseri, Instagram « peut mieux faire » en la matière et c'est pour cette raison que de nouvelles mesures ont été annoncées.
La première nouvelle fonctionnalité est basée sur un système algorithmique qui repérera les commentaires qui contiennent des insultes ou des propos offensants. Il n'empêchera pas de les publier mais demandera à son auteur de réfléchir.
Le grossier personnage verra alors une pop-up dans laquelle Instagram lui demandera s'il est bien certain de vouloir publier son commentaire, tout en rappelant que le site se veut amical et accueillant pour toutes et tous.
Les premiers tests auraient été concluants d'après le CEO d'Instagram -- ce qui n'est pas tout à fait une surprise : Instagram ne va pas lancer un mécanisme défectueux. Quoiqu'il en soit, le système « encouragerait certaines personnes à retirer leur commentaire et à publier à la place quelque chose de moins offensant », assure-t-il.
Pour le moment, la fonctionnalité ne semble pas disponible en France, d'après nos tests. Elle devrait y arriver d'ici les prochains jours.
Invisibiliser les pénibles
Une autre fonctionnalité importante, qui sera en test bientôt, a aussi été annoncée. Elle s'appellera « Restrict » (restriction) et permettra de masquer une personne de son espace de commentaires.
Lorsqu'un utilisateur déverse ses insultes, il peut être parfois contreproductif de le bloquer car il le saura alors. Cela peut dans certains cas empirer la situation. Avec cet autre outil de modération, les commentaires litigieux n'apparaîtront plus dans les notifications ni sous les publications. En clair, il sera invisibilisé, sans qu'il le sache -- une fonctionnalité similaire est disponible sur Twitter. Il ne saura pas non plus lorsque sa cible est actuellement en ligne sur Instagram ou si ses messages privés ont été lus.
Selon Adam Mosseri, ces annonces ne représenteraient que « deux pas dans un long chemin », celui de la lutte contre le harcèlement. À l'heure actuelle, Instagram utilise déjà des méthodes basées sur des algorithmes pour détecter et supprimer des commentaires ou autres contenus malveillants. Cependant, ces outils ne sont pas infaillibles.
On peut penser que son mécanisme de prévention ratissera plus large que les autres outils chargés de supprimer les contenus offensants. Comme il n'y a pas l'enjeu d'une suppression, le risque d'attraper dans ses filets des faux positifs pose moins problème. Par ailleurs, cela pourrait peut-être pousser certains internautes à réfléchir à la portée de leurs propos.