Grok peut déshabiller des femmes à la demande sur X et c’est un vrai problème

Depuis plusieurs semaines, les utilisateurs du réseau social X intègrent Grok à leur routine. La plupart des publications populaires sont généralement suivies de mentions à @Grok, à qui on demande de vérifier une information. Une utilisation inattendue de l’intelligence artificielle qui permet, dans la plupart des cas, de faire du très bon fact checking. De nombreux internautes semblent s’amuser de cette fonctionnalité, qui permet à l’IA de xAI de se distinguer de ChatGPT ou Google Gemini.

Le 5 mai 2025, un tweet partagé plusieurs milliers de fois nous a fait découvrir une tendance inquiétante : des hommes demandent à Grok de déshabiller des femmes. L’IA réalise alors un travail de montage en conservant le visage et l’arrière-plan, mais en remplaçant le corps par celui d’une femme presque nue. xAI ne semble pas encore proscrire cet usage, qui pose évidemment un problème moral et légal.

Des centaines d’exemples déjà en ligne, avec un risque pour de nombreuses femmes

Techniquement parlant, Grok peut déshabiller tout le monde. Julien Cadot de Numerama s’est « amusé » à tester la fonctionnalité sur Eric Ciotti (nous sommes tous les deux niçois) et a constaté que Grok ajoutait bel et bien des sous-vêtements à l’homme politique. Grok répond parfois avec une image visible dans le thread et, d’autres fois, envoie un lien pour télécharger l’image. Il est aussi possible de lui faire la demande en privé, avec n’importe quelle image de sa collection personnelle.

Dans les deux cas, la pratique est évidemment très problématique et illégale (violation de la vie privée). La plupart de nos recherches pour le prompt « replace her outfits with lingerie and thong » montrent que des femmes sont exclusivement visées, dans le but de produire des contenus érotiques, généralement sous leurs propres publications (ce qui vise à les humilier, sans possibilité de faire effacer l’image).

Grok facilite la création de ces fakes en ne demandant aucunement le consentement des personnes qu’il déshabille. Ces images sont également enregistrées sur des serveurs, ce qui pose d’autres problèmes légaux, puisqu’il n’est pas possible de les faire effacer même si elles nous représentent.

Si le prompt « replace her outfits with lingerie and thong » est aujourd’hui le plus populaire, d’autres variations existent, ce qui suggère que l’idée ne date pas d’aujourd’hui. Utiliser le générateur d’images de Grok, qui est connu pour tout faire (y compris violer du droit d’auteur), dans un but érotique, semble tout à fait possible. xAI n’avait certainement pas anticipé cet usage lorsqu’il a mis en place son générateur débridé, alors qu’OpenAI (ChatGPT) proscrit la reproduction de visages lors de certaines demandes.

Légalement parlant, xAI peut s’appuyer sur le fait qu’il s’agit d’une image inspirée de la photo originale, mais pas d’une réutilisation parfaite de l’image d’origine (vous vous en doutez, personne n’est vraiment déshabillé, l’IA imagine un corps aux proportions similaires et les visages changent légèrement). Le résultat est néanmoins troublant, puisque les visages sont bien mieux reproduits que dans la plupart des outils concurrents. Il semble impératif que xAI bannisse l’importation d’images pour des demandes érotiques, au risque de recevoir de nombreuses plaintes.

Toute l'actu tech en un clin d'œil

Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !

Installer Numerama