Des internautes ont découvert que l'algorithme qui choisit quelle partie d'une photo s'affiche en aperçu sur Twitter semble privilégier les photos de personnes blanches par rapport aux personnes noires. Le réseau social s'intéresse de près à ce constat.

Ce sont deux photos d’hommes politiques américains : Mitch McConnell est un sénateur blanc de 78 ans, Barack Obama est un ancien président américain noir de 59 ans. Lorsque l’on publie leur photo l’une en-dessous de l’autre sur Twitter, c’est Mitch McConnell qui est choisi automatiquement par l’algorithme de Twitter pour figurer en aperçu du gazouillis.

Et ce, quel que soit l’ordre de positionnement des deux photos (le sénateur républicain en haut / Barack Obama en bas, ou vice versa).

L’expérience menée par un Twitto // Source : Twitter/bascule

Montrer la partie la plus « intéressante » d’une photo ?

Ce choix n’est pas dû au hasard : il s’agit d’une décision prise par l‘algorithme utilisé par Twitter depuis 2018, et qui est censé détecter la partie la plus « importante » d’une photo pour la mettre en avant dans l’aperçu d’une image dans un tweet. En effet, lorsque vous publiez une image sur la plateforme, elle ne s’affiche pas forcément en entier (si elle est toute en largeur ou en hauteur, comme dans l’exemple ci-dessus) : il faut parfois cliquer pour voir tous les éléments.

À l’époque, Twitter utilisait des exemples assez classiques pour démontrer l’utilité de son algorithme : une photo d’un enfant dont la tête était coupée, des chatons dont on ne voyait que les pattes, etc. Le réseau social n’avait évidemment pas mis en avant un test avec une personne blanche et une personne noire côte à côte.

Source : Twitter

À l’époque, Twitter avait expliqué que l’algorithme basait ses choix sur le concept de « saliency » ce qui signifie « prépondérance » : c’est-à-dire « ce qu’il y a de plus important dans une photo », donc «  pas forcément un visage », précisait The Verge. « Une partie d’une photo a un haut ‘taux de prépondérance’ lorsqu’une personne est plus susceptible de regarder cette partie de la photo lorsqu’elle regarde l’image sans contrainte », décrit Twitter.

Twitter mène l’enquête, les internautes aussi

Cette découverte est partie, à l’origine, du constat d’un internaute qui publiait des photos pour montrer comment un autre algorithme, celui de la plateforme vidéo Zoom, effaçait le visage de son collègue noir, mais pas son visage blanc. En publiant un montage horizontal des deux images, il s’est rendu compte que Twitter mettait en avant sa photo et non celle de son collègue noir, et ce, qu’importe l’ordre dans lequel se situaient les photos.

L’aperçu sur desktop n’est pas le même que sur mobile // Source : Twitter

Les choix de présentation varient selon les plateformes : sur mobile, la photo est rognée, tandis que sur desktop, elle s’affiche désormais en entier, à l’horizontale — ce qui n’est pas une présentation ordinaire sur le réseau social, et qui laisse penser qu’il y a eu une modification à postériori, ou que Twitter est en train d’effectuer des tests sur sa plateforme.

Il est évident que Twitter ne peut pas se permettre de laisser penser que son algorithme estime que les personnes blanches sont «  plus importantes » que les personnes noires — l’exemple avec Barack Obama est évidemment très parlant, vu qu’il s’agit d’une des personnes les plus célèbres et puissantes au monde, bien loin devant le sénateur Mitch McConnell.

De nombreux internautes se sont attelés à faire des tests empiriques en publiant différents types de photos, avec des personnes noires et des personnes blanches, en variant le fond, les habits, les expressions faciales, etc. Bien qu’il existe des contre-exemples, il semblerait que dans une partie importante des cas, la personne blanche soit mise en avant.

« L’algorithme ne fait pas du tout de détection faciale », s’est défendu Zehan Wang, qui est l’un des deux hommes à avoir signé le billet de blog de 2018 qui présentait le nouvel algorithme d’aperçu Twitter. «  En 2017, nous avions réalisé des études pour savoir s’il y avait des biais raciaux. À l’époque nous n’avions trouvé aucun biais entre les ethnies ou les genres », a-t-il précisé.

La fonction-même de cet algorithme engendre des biais

Même si la notion de « prépondérance » utilisée par Twitter ne se basait pas sur les visages, mais sur, comme certains le disent, les contrastes de couleur, il semblerait que l’algorithme soit confronté à un problème qui est, au fond, intrinsèque à la fonction même qu’il est censé remplir. Tant que la plateforme ne montrera pas différents formats de photos en aperçu, Twitter sera obligé de choisir ce qu’il affiche à ses utilisateurs en premier, avant qu’ils ne choisissent de cliquer sur l’image.

Or, il est évident qu’une telle responsabilité vient inévitablement avec des biais et des discriminations. Comment un algorithme pourrait-il décider quelle personne est la « plus importante » entre deux êtres humains ? Dans les cas mis en avant dans la communication officielle de janvier 2018, il y avait des chats, des pères Noël, des enfants qui jouent… mais évidemment pas de cas comme celui-ci. Il semble même étonnant qu’en plus de deux ans, personne n’avait mis le doigt sur le problème.

L’une des raisons réside dans le fait qu’il est très difficile d’effectuer ce que l’on appelle de la « rétro-ingénierie » sur l’algorithme de Twitter. En somme, les Twittos peuvent publier de nombreuses photos et en tirer des conclusions évasives, mais seuls certains employés de la plateforme ont les clés en main pour évaluer concrètement les limites de leurs robots. C’est d’ailleurs ce qui était ressorti d’une enquête de Médiapart en juin dernier concernant Instagram, et dont les limites montraient en filigrane la difficulté de percer les mystères de l’algorithme de la plateforme de photos.

Plusieurs solutions, moins risquées, s’offrent à Twitter :

  • Revenir à une découpe « fixe », en choisissant de faire une découpe toujours au même endroit dans une photo (mais ce choix risque de déplaire à certains utilisateurs) ;
  • Afficher tous les formats d’image, quitte à afficher des tweets à forme variable qui risqueraient de manquer de cohérence dans un fil d’actualité.

Partager sur les réseaux sociaux

La suite en vidéo