« Twitter privilégie-t-il les personnes blanches aux personnes noires sur les photos ? » se demandait-on le 21 septembre dernier. Des internautes venaient de passer plus de 24 heures à tester l’algorithme de Twitter qui sert à décider quelle partie d’une photo s’affichera en aperçu dans un tweet. Certains s’étaient rendu compte qu’entre une personne blanche et une personne noire, Twitter mettait souvent en avant la personne blanche.
https://twitter.com/bascule/status/1307440596668182528
« Bien que nos analyses n’aient pas montré de biais raciaux ou de genre, nous reconnaissons que le fait de découper automatiquement les photos peut potentiellement faire du mal », ont écrit Parag Agrawal et Dantley Davis, deux ingénieurs de Twitter, dans un billet de blog officiel le 1er octobre.
Le biais était évident, depuis le départ
Ce que les deux hommes admettent aujourd’hui sonne tant comme une évidence que l’on peut se demander comment personne, au sein de leur entreprise, n’y avait songé auparavant. Le concept de l’algorithme développé et présenté fièrement en 2018 par Twitter avait pourtant un biais intrinsèque à son existence même : devoir choisir quel élément est le « plus important » d’une image. Twitter décrivait dans un billet de blog que le fonctionnement de son algorithme était basé sur une notion de « saliency » ce qui signifie « prépondérance » : c’est-à-dire « ce qu’il y a de plus important dans une photo ».
Lorsqu’il s’agit de choisir de montrer les pattes d’un chat ou sa petite truffe, les enjeux sont minces. Mais quand il faut décider qui afficher entre un sénateur noir ou un sénateur blanc américain, le choix parait évidemment comme impensable.
Le réseau social a donc laissé entendre ce 1er octobre, en filigrane, que son algorithme allait tout simplement être abandonné petit à petit : « Nous mettons l’accent sur la diminution de l’utilisation du recadrage par machine learning en donnant la possibilité aux gens d’avoir plus de contrôle et de visibilité sur la manière dont les images vont apparaître dans leurs tweets ».
Deux solutions sont envisagées :
- Laisser les gens choisir ce qu’ils veulent voir s’afficher en aperçu (la solution actuellement testée, à court terme) ;
- Ne plus produire d’aperçu d’images du tout, et afficher systématiquement les photos dans leur ensemble (« il pourrait y avoir des exceptions selon la taille ou le format » nuance toutefois le réseau social)
« Les biais du machine learning sont un problème auquel toute l’industrie [de la tech] doit faire face », ont conclu les deux cadres de Twitter. À croire que parfois, se passer des algorithmes serait une meilleure idée que de vouloir les utiliser à tout prix.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Marre des réseaux sociaux ? Rejoignez la communauté Numerama sur WhatsApp !
