Quelques jours après l’ajout de son nouveau mode safe, Tumblr a présenté ses excuses pour le filtrage accidentel de contenus faisant référence aux identités LGBTQ+. Masqués par erreur, ils ont été rapidement débloqués par le réseau social.

Le 20 juin 2017, Tumbr annonçait l’ajout d’un safe mode, destiné à masquer les contenus violents ou à caractère pornographique. En à peine quelques jours d’existence, cette fonctionnalité du réseau social a rencontré un problème qui n’est pas sans rappeler la mésaventure qui a frappé de nombreux vidéastes sur YouTube au mois de mars.

En effet, un grand nombre de vidéos faisant référence aux identités LGBTQ+ (lesbiennes, gay, bisexuelles, transgenres, queers) avaient été masquées par le mode restreint de la plateforme, avant que YouTube ne procède à une mise à jour.

Tumblr plus réactif que YouTube

Le safe mode lancé par Tumblr vient de connaître un sort similaire : l’option a accidentellement filtré des contenus LGBTQ+. Le réseau social a néanmoins mis moins de temps que YouTube à réagir pour trouver une solution au problème. Sur son compte Tumblr, l’entreprise a présenté ses excuses et fait savoir que le blocage avait été levé.

« Nous avons appris que le safe mode filtrait des messages de la communauté LGBTQ+, même s’ils étaient totalement inoffensifs et ne posaient aucun problème de sécurité au travail. Sachez que cela n’a jamais été notre intention, et que nous apprécions que vous nous l’ayez fait savoir si vite et avec tant de force. Nous sommes profondément désolés », s’excuse le réseau social dans ce message.

Des utilisateurs avaient pris soin d’indiquer que leurs contenus étaient « explicites »

Tumblr poursuit en expliquant pour quelles raisons ces contenus ont été masqués alors qu’ils n’avaient pas lieu de l’être. Le réseau social indique que certains utilisateurs ont, par égard envers les autres internautes, précisé sur leurs contenus qu’ils comportaient des éléments « explicites » en lien avec les identités LGBTQ+. Même si ces contenus ne comportent aucun caractère violent ou pornographique, le safe mode les a identifiés comme devant être bloqués.

lgbtq-flag

Les publications analysées une à une

Pour éviter que cette erreur ne se reproduise, Tumblr a fait savoir qu’à partir de maintenant, les blogs qui précisent contenir des éléments explicites ne seront pas automatiquement considérés comme sensibles. Chaque publication sera analysée de manière individuelle.

Par ailleurs, Tumblr prévoit de changer la façon dont son algorithme classe les images, non plus une à une, mais plusieurs en même temps, ce qui « devrait réduire le nombre d’erreurs de la machine », estime le réseau social.

« Nos algorithmes deviendront plus intelligents au fur et à mesure que vous nous ferez des retours sur les contenus mal classés, et que vous partagerez vos préoccupations et vos suggestions », conclut Tumblr.


Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !