Une erreur dans le texte ?

Pour que les IA cessent de faire disparaître nos double-mentons

Je ne sais pas si vous êtes au courant, mais il paraît que les robots ont gagné. En tout cas, ils ont envahi mes fils d'actualité ces derniers jours. D'un côté, les technophiles se sont émerveillés des prouesses de ChatGPT, un outil développé par la société OpenAI (déjà responsable du robot dessinateur Dall-E), capable de répondre à des questions et des commandes de texte d'une manière automatique. Comme souvent quand on parle d'intelligence artificielle, c'est tantôt bluffant, tantôt flippant, et cela soulève dans les deux cas de sérieuses questions éthiques. Il en va de même pour un autre outil : Lensa AI.

Lensa AI est une application qui existe depuis 2018, et qui permet de retoucher ses photos pour les publier ensuite sur les réseaux sociaux. Elle a récemment gagné en popularité grâce à une nouvelle fonctionnalité, baptisée « magic avatars ». Contre 8 dollars, on y télécharge une dizaine de photos de soi, puis on obtient une sélection d'avatars dans différents styles artistiques. Pour ce faire, l'application exploite Stable Diffusion, un modèle d'apprentissage automatique capable de générer des images à partir de commandes textuelles (un exemple proposé par le site officiel : « l'esprit d'un Tamagotchi qui hante les rues de Paris »). Il est disponible en open-source depuis le début de l'année, entraînant une vague de services proposant de générer des contenus allant de Pokémon personnalisés à des dessins pornographiques.

Stable Diffusion a vite fait l'objet de nombreuses critiques, notamment dans la communauté artistique, qui l'accuse de vol. Un autre point de tension est celui (hélas, classique) de la cybersécurité. Vous pourriez me répondre que vous n'êtes pas naïfs ou naïves, que de toute manière vos données personnelles sont exploitées frauduleusement depuis belle lurette, et qu'au moins, cette exploitation-là est amusante. Certes ! Mais le malaise que je ressens devant Lensa porte plutôt sur un autre sujet, jusqu'ici peu abordé : celui de sa beauté.

De fait, ces avatars ont pour but de vous faire sentir beau ou belle, pour que vous ayez ensuite envie de les partager en ligne. Sur Twitter, beaucoup se réjouissent que Lensa les aie rendus ou rendues hot, c'est-à-dire plus canon que dans la réalité. Je trouve cette idée assez troublante. Sans vouloir me la jouer professeure de philo en terminale, qu'est-ce que le beau ? Pour Lensa, la réponse sera différente selon votre apparence de départ. Par exemple, quand on utilise l'application en tant que femme, il y a un risque de se voir représentée à moitié nue et avec une poitrine généreuse. Fait tout aussi dérangeant, l'autrice Audrey Gordon, qui est grosse, a remarqué que l'application l'amincissait systématiquement, en refusant de représenter son double menton.

« Nous entraînons des intelligences artificielles à nous flatter »

N'importe quel ou quelle artiste vous dira que le portrait est un exercice complexe. Doit-on représenter la personne fidèlement ? Laisser parler notre perception d'elle ? Lui faire plaisir, en améliorant des caractéristiques jugées comme des défauts ? Il faut ajouter à cela le contexte de notre société et de ses biais sexistes, racistes, etc., qui influencent la production de contenus et leur réception. La critique féministe Laura Mulvey a popularisé dans les années 70 le concept de male gaze : comment les inégalités sociales et politiques entre les hommes et les femmes s'expriment dans la représentation des genres au cinéma, qui va elle-même renforcer ces inégalités.

Sauf qu'ici, on ne parle pas d'un ou une artiste et de sa sensibilité humaine, mais d'une IA (intelligence artificielle) et de sa réinterprétation automatique du monde. Alors, de quelle perception parle-t-on ? Celle des développeurs et développeuses qui l'ont conçue ? Celle de la base de données sur laquelle elle a été entraînée ? Celle d'une personne qui espère secrètement être « améliorée » par un miroir aux alouettes ? « Nous entraînons des intelligences artificielles à nous flatter », alerte l'investisseur Hunter Walk, ancien de Google et Second Life, dans un article de blog. « C'est une sorte de cercle vicieux dans lequel la meilleure et fausse version de nous-même remporte la compétition. À la longue, on risque d'avoir des modèles qui préfèrent nous dire ce que nous avons envie d'entendre, plutôt que la vérité.» J'ignore si les IA vont remplacer les artistes (et, honnêtement, j'en doute). Mais je sais que, déjà, on leur promet un bel avenir dans des domaines où l'on a besoin d'une production rapide de contenus, comme la publicité, les effets spéciaux ou la publication de dépêches. On devrait donc s'inquiéter des représentations des IA, réfléchir à qui les influence. Et d'ailleurs, si on peut, et veut, les modifier. Doit-on craindre l'IA gaze, ou notre ego ?

La revue de presse de la semaine

Au poste (1)

Ultia est une streameuse française populaire sur la plateforme Twitch. Malheureusement, elle est aussi la cible régulière de campagnes de harcèlement très violentes, pour avoir publiquement dénoncé les propos sexistes d'un de ses confrères l'année dernière. Dans un entretien accordé à Mediapart, elle annonce porter plainte contre ses agresseurs, et dénonce (une fois de plus) le manque de modération sur les grandes plateformes en ligne. C'est à regarder ici.
 

Au poste (2)

Le youtubeur français Norman Thavaud a été placé en garde à vue ce lundi, interrogé sur des faits de corruption de mineurs et de viol impliquant potentiellement plusieurs adolescentes et jeunes femmes. Le créateur avait déjà été accusé en 2020 d'emprise psychologique par une fan québécoise, âgée de 16 ans au moment des faits présumés. Vous pouvez lire l'article de Libération, qui a dévoilé l'information, ou celui de Numerama, pour plus de détails sur cette affaire.
 

Chaos

J'essaie de ne pas consacrer trop d'espace dans cette newsletter à Elon Musk et son démantèlement progressif de Twitter. Néanmoins, je voulais vous partager cet édito du sénateur américain Scott Wiener, connu pour son travail en faveur des droits LGBT aux États-Unis, et violemment harcelé à cause de cet engagement. Il y détaille la multiplication des attaques à son encontre depuis le changement de direction chez Twitter : "Elon Musk peut s'amuser à provoquer le chaos, c'est nous qui en payons le prix", conclut-il. C'est à lire (en anglais) par là.

Cartouche

La semaine dernière, Gerald Lawson, pionnier de l'industrie du jeu vidéo, a reçu les honneurs du Google Doodle. Numerama revient sur la carrière de l'ingénieur américain, décédé en 2011, qui a participé à la conception du premier système de cartouche de jeux vidéo. Il était aussi connu pour son engagement en faveur des personnes noires dans l'industrie vidéoludique. Pour en savoir plus sur sa carrière, rendez-vous sur Numerama.

Quelque chose à lire/regarder/écouter/jouer

J'aime le mois de décembre en théorie (écouter ma playlist de Noël en boucle ! Manger du pain d'épices jusqu'à m'en faire mal au ventre !), mais un peu moins dans la pratique (huit heures d'ensoleillement par jour ! La pression d'avoir réussi son année, et de faire encore mieux l'année prochaine !). Je suis donc d'humeur à consommer de la fiction douce et mélancolique. Relire La concierge du grand magasin est exactement ce dont j'ai besoin en cette étrange période, et peut-être que vous aussi.

Dans ce manga one-shot (qui raconte une histoire complète), on suit les pas mal-assurés d'Akino, nouvelle employée d'un grand magasin de luxe dont la spécialité est de s'adresser à des animaux, avec une particularité : la plupart ont disparu ou sont en voie de disparition. En tant que concierge, elle doit répondre aux moindres désirs de ses client·es à poils et à plumes. Un furet cherche à impressionner son patron, un vison de mer veut gâter sa fille pour son anniversaire, un loup de Honshû hésite à faire sa demande en mariage… C'est drôle, réconfortant, et aussi un peu amer. Comme un mois de décembre, ou un monde qu'on ne connaîtra plus.

La Concierge du Grand Magasin, de Tsuchika Nishimura, éditions Le Lézard Noir