L’application SmashOrPassAI est censée utiliser l’IA pour… générer et noter des images de femmes. En 2023, le web change, mais pas les hommes : Internet continue de juger les femmes. C’est le sujet abordé dans notre newsletter Règle 30, cette semaine.

Début septembre, un développeur nommé Emmet Halm a partagé son nouveau projet en ligne : SmashOrPassAI, « un jeu festif utilisant de l’intelligence artificielle générative« . Concrètement, le site propose des images de femmes générées via un modèle d’intelligence artificielle. On doit ensuite presser l’un des deux boutons : « smash » (soit « fracasser » en français, un mot fréquemment utilisé en ligne pour signifier son attirance pour quelqu’un d’autre) ou « pass » (je passe mon tour). « Pas besoin de plus d’explication, vous savez quoi faire les mecs« , conclut Emmet Halm dans le tweet annonçant son invention, visiblement pas trop inquiet d’agir comme une caricature d’ado libidineux.

Sans surprise, SmashOrPassAI a vite fait le tour des réseaux sociaux, entre son concept sexiste et l’allure tristement prévisible de ses femmes virtuelles, assemblage banal de gros seins, de peau sans pores et de mains avec des doigts en plus ou en moins. D’autres ont remarqué que les promesses techniques d’Emmet Halm étaient bidons.

Beaucoup de personnes se sont moquées de SmashOrPassAI, comme la développeuse Rona Wang, qui a proposé sa version féministe du concept : un site qui montre des images de faux hommes, dont on doit déterminer s'ils ont l'air dangereux ou non. // Source : Rona Wang
Beaucoup de personnes se sont moquées de SmashOrPassAI, comme la développeuse Rona Wang, qui a proposé sa version féministe du concept : un site qui montre des images de faux hommes, dont on doit déterminer s’ils ont l’air dangereux ou non. // Source : Rona Wang

Le développeur affirmait à l’origine que son site était capable de générer lui-même de nouvelles images, pour proposer des physiques correspondant davantage aux goûts des utilisateurs (j’ai besoin de prendre une douche après avoir écrit cette phrase). En vérité, la plateforme est pour le moment une simple galerie de contenus préchargés et diffusés de manière aléatoire.

Une misogynie assumée

La misogynie de SmashOrPassAI n’est pas cachée, à un tel point qu’on peut soupçonner une mauvaise parodie. Il s’agit même d’un argument marketing pour un développeur visiblement ravi de l’attention négative que son idée a attiré (il promet déjà un autre projet ‘que vous allez ENCORE PLUS détester‘). Beaucoup de personnes ont d’ailleurs noté l’étrange ressemblance entre son concept et celui d’un certain Mark Zuckerberg qui, il y a exactement vingt ans, lançait FaceMash, un site canular qui proposait de comparer la beauté des étudiantes de Harvard.

Cette histoire est depuis entrée dans la légende du créateur de Facebook (quand bien même les sites n’ont jamais été liés). FaceMash serait le péché originel de Mark Zuckerberg, et ses camarades les premières victimes de son manque de considération pour la vie privée d’autrui. C’est aussi un symbole du sexisme profondément ancré dans le web social d’hier et d’aujourd’hui.

En vingt ans, les outils en ligne ont bien évolué. Ce qui ne change pas, en revanche, c’est l’envie (le besoin ?) de juger les femmes. Les entrepreneurs d’aujourd’hui affirment peut-être « se battre dans l’arène » (nouvelle expression à la mode chez une certaine catégorie de technophiles) pour tenter des choses révolutionnaires, pourtant cette révolution consiste souvent à se comporter comme mon camarade de 4e qui avait demandé à tous les garçons de remplir une liste des filles les plus belles de la classe.

Cela donne des algorithmes de recommandation qui mettent en avant un certain type de beauté et invisibilisent les autres ; les deepfakes ; à peu près toutes les itérations techniques du cyberharcèlement ; les femmes virtuelles qui remplaceront supposément bientôt les vraies ; les communautés qui consistent littéralement à donner des notes au physique d’inconnu·es ; et autre maxi et micro-agressions sexistes qui disent finalement la même chose. Le web n’est pas un espace pour nous. Mais nous sommes bien le terrain de jeu du web.

Cet édito vous a plu ? Abonnez-vous à notre newsletter Règle 30 par Lucie Ronfaut :


Le futur de Numerama arrive bientôt ! Mais avant ça, on a besoin de vous. Vous avez 3 minutes ? Répondez à notre enquête