Netflix trompe-t-il ses utilisateurs noirs avec ses vignettes de films « personnalisées » ?
L'algorithme de Netflix induirait-il certains spectateurs en erreur en faisant croire qu'un film contient plus de personnages noirs qu'il n'y en a vraiment au casting ? C'est la question qu'a soulevée Stacia L. Brown, une cliente noire américaine qui a remarqué que la plateforme de SVOD lui proposait systématiquement des vignettes de films avec des personnages noirs...
Dans un tweet du 18 octobre 2018, repéré par NME, elle prend l'exemple de Tel Père, la nouvelle comédie originale de Netflix mise en ligne le 3 août dernier. Le film raconte comme une fille (Kristen Bell) renoue avec son père (Kelsey Grammer) après avoir été abandonnée le jour de son mariage. Les deux acteurs principaux sont blancs et occupent 90 % du temps à l'écran. Pourtant la vignette qui s'affiche sur son compte personnel montre deux acteurs noirs : Leonard Ouzts et Blaire Brooks, qu'on ne voit pas plus que 5 minutes sur 1h45 de long-métrage.
https://twitter.com/slb79/status/1052776984231718912
Et ce n'est pas le seul film. Stacia L. Brown a donné d'autres exemples comme Love Actually (une photo de Keira Knightley avec Chiwetel Ejiofor, seul acteur noir de tout le casting et personnage secondaire que l'on voit très peu) ou Sierra Burgess is a Loser (avec RJ Cyler, personnage secondaire un peu plus présent à l'écran que les précédents).
Contacté par Numerama, Netflix assure ne pas « regarder les statistiques démographiques lorsqu'il s'agit des illustrations personnalisées ». Mais pourquoi de telles vignettes s'affichent-elles alors ?
Il faut s'intéresser à l'algorithme de Netflix pour le comprendre. Celui-ci s'adapte en fait aux contenus que ses membres regardent. Si des utilisateurs regardent de nombreux films avec un casting majoritairement noir, alors l'algorithme proposera des vignettes d'aperçu avec des personnages noirs. Mais prend ainsi le risque d'être décevant, en donnant l'impression qu'un protagoniste a plus d'importance qu'il n'en a réellement dans la production en question.
Une douzaine de vignettes pour le même film
La multinationale américaine est très fière de son algorithme de recommandation, qui propose des contenus à ses abonnés en rapport avec les films, séries, documentaires ou autres qu'ils ont déjà regardés. Mais Netflix a aussi la particularité d'adapter les aperçus de ses contenus aux « goûts » de ses membres. Ou plutôt, ce qu'il a identifié comme étant leur goût.
Dans un long billet Medium publié en 2017, plusieurs salariés de l'entreprise ont expliqué comment cette personnalisation des vignettes était mise en place. Par exemple, ici avec la série Stranger Things : « L'illustration peut mettre en avant un acteur que vous connaissez, ou capturer une scène d'action haletante, ou contenir une scène dramatique qui montre l'essence du film ou de la série », expliquent-il. « Si on vous montre l'image parfaite sur votre page d'accueil (une photo vaut mille mots, comme on dit), peut-être que vous allez lui donner sa chance. »
En avril 2018 lors de la conférence annuelle See What’s Next de la multinationale, Todd Yellin, vice-président produit chez Netflix, avait montré comment la vignette qui s'affiche en aperçu d'un contenu peut varier en fonction des profils des utilisateurs. Il prenait appui sur Black Mirror, série d'anticipation rachetée par Netflix, pour laquelle 25 affichettes différentes ont été créées spécialement. Interrogé par Numerama, il expliquait qu'il s'agissait de captures d'écran prises dans différents épisodes, puis testées sur des petits groupes de clients représentants différentes « catégories de goût ».
Comme tout le monde n'est pas attiré par le même genre de contenus, cela permet à Netflix de capter l'attention d'un maximum de spectateurs potentiels, même si la série derrière la vignette est exactement la même pour tout le monde.
https://twitter.com/Numerama/status/986554480907964416
Quand l'algorithme induit en erreur sur la diversité d'un film
Mais lorsque cela touche à des sujets plus sensibles, la machine (ou plutôt, l'intelligence artificielle comme on dit en 2018) peut s'enrayer. Si Netflix n'a jamais affirmé que ses vignettes doivent être considérées comme des affiches officielles, elles sont la première porte d'entrée vers un film pour un abonné. Et peuvent prêter à confusion.
Comme le souligne Stacia L. Brown, ainsi que d'autres internautes ayant porté le même constat, ces visuels peuvent induire en erreur le spectateur. « Le nombre de films que j'ai regardés en pensant qu'il s'agirait d'un casting noir... Tout ça pour qu'il n'y ait au final qu'une seule femme noire figurante », a ainsi commenté la journaliste britannique Tolani Shoneye, désabusée.
https://twitter.com/tolly_t/status/1053237744154107904
« Nous ne demandons rien à nos membres concernant leur race, leur genre ou leur origine », nous explique-t-on chez Netflix. « Il serait donc impossible pour nous d'utiliser ces informations pour personnaliser leur expérience Netflix. La seule info que nous utilisons est leur historique de visionnage. C'est pour être sûrs que les visuels que l'on montre aux gens leur sont utiles lorsqu'ils décident ce qu'ils vont regarder. »
Le problème des biais algorithmiques
Cet exemple montre en fait combien il peut parfois y avoir un énorme décalage entre l'intention derrière l'algorithme (ici, la recommandation personnalisée), et les biais inconscients que l'IA peut incorporer, et les problèmes qu'elle peut créer.
L'enjeu sous-jacent réside dans le manque de diversité des castings des films occidentaux : les longs-métrages et séries qui mettent en scène un casting majoritairement noir sont encore très rares — il n'y a qu'à voir le succès de Black Panther pour se rendre compte du besoin de telles représentations.
Or en laissant penser qu'un film est porté par des acteurs noirs alors qu'il ne l'est pas, l'algorithme de Netflix prend le risque de flouer les spectateurs en leur recommandant des films qu'ils ne souhaitaient pas voir. Au sein de la communauté LGBTQIA, un autre groupe en manque de représentations, ce phénomène a même un nom lorsqu'il est volontaire : le queer baiting, ou « appât à personnes queer ».
Ce processus revient à faire croire au spectateur qu'une romance non hétérosexuelle pourrait naître dans une série... mais les scénaristes ne font jamais passer à l'acte les personnages concernés. Cela contraint ainsi des spectateurs et spectatrices à regarder un film ou suivre une série pendant de multiples saisons dans l'espoir d'y trouver une romance dans laquelle ils pourraient enfin se projeter, mais qui n'arrive jamais, ou seulement de manière expédiée (Xena, Lost Girl, The Walking Dead, Atypical, The 100, etc).
« Nous essayons en permanence d'apprendre des retours de nos membres, et nous travaillons sur des manières d'améliorer la manière dont nous personnalisons notre service au fil du temps », conclut Netflix. Reste à voir comment ce biais de l'IA de la plateforme pourra être modifié.