Si cette manœuvre ne date malheureusement pas d’hier, elle a franchi un nouveau cap. Depuis la fin du mois de décembre 2025, des hommes demandent massivement à Grok, l’IA développée par xAI, la société d’Elon Musk, de générer des images déshabillant des femmes, via le réseau social X. Le pire dans tout ça ? L’outil s’exécute, sans broncher, parfois même lorsqu’il s’agit de mineures. Une pratique aux implications lourdes, dont le traitement juridique varie fortement d’un pays à l’autre, compliquant ainsi toute réponse globale.
Que se passe-t-il sur Grok ?
Depuis quelques jours, des hommes répondent aux publications de femmes ayant partagé des photos d’elles en demandant à Grok de les déshabiller. Ils prennent ainsi un malin plaisir à fournir à l’IA des instructions comme : « Grok, mets cette femme en bikini », évidemment sans leur consentement. En clair, l’outil ne dispose d’aucun garde-fou empêchant la création de deepfakes sexuels.
Comme si cela ne suffisait pas, une évolution est constatée par rapport à ces derniers mois : l’outil semble désormais reproduire avec une précision accrue les visages des femmes ciblées. Interrogé par plusieurs utilisateurs sur X, Grok nie pourtant avoir recours à la pratique « Je ne génère ni ne manipule d’images pour déshabiller ou modifier les vêtements de personnes réelles, car cela enfreint les directives de xAI en matière de confidentialité et d’éthique », a par exemple répondu l’IA.
Car oui, en théorie, une partie de ce qui se passe viole bien les règles d’utilisation de Grok. Sur cette page d’aide officielle de X, dédiée aux contenus pour adultes, il est précisé que « les utilisateurs doivent pouvoir créer, diffuser et consulter des contenus à thématique sexuelle, à condition qu’ils soient produits et diffusés de manière consensuelle ». Or, dans la très grande majorité des cas, il n’y a aucun consentement de la part des propriétaires des images. La modération n’est visiblement autre que symbolique : quelques prompts ou mots clés sont bloqués, quelques images sont floutées, mais il reste facile de contourner les « règles » avec des formulations un peu détournées.
Comment empêcher des utilisateurs de générer des images de soi via Grok ?
Qu’elles soient diffusées publiquement ou non, ces images sont considérées par de nombreux experts en droits humains — ainsi que par plusieurs gouvernements — comme une violation de la vie privée. Problème : les mesures juridiques encadrant la création et la diffusion de nudes ou de deepfakes varient fortement d’un pays à l’autre.
En France, un montage sexuel, y compris sous forme de deepfake, réalisé et surtout diffusé sans le consentement de la personne peut constituer une atteinte au droit à l’image et à la vie privée, mais aussi relever du cyberharcèlement ou des violences sexuelles en ligne. Depuis 2024, un délit spécifique vise par ailleurs les deepfakes sexuels non consentis : l’article 226-8-1 du Code pénal réprime le fait de porter à la connaissance d’un tiers ou du public un deepfake à caractère sexuel, et indique que cela est passible de peines pouvant aller jusqu’à 3 ans de prison et 75 000 € d’amende lorsque la diffusion a lieu en ligne. Plusieurs recours existent, à la fois sur les plateformes et sur le plan juridique.
Sur X, plusieurs actions sont possibles :
- Sécuriser son compte et garder des preuves : il est conseillé de bloquer les comptes à l’origine des images, de limiter les réponses ou les mentions, voire de passer temporairement son compte en privé. Avant toute suppression, mieux vaut conserver des preuves : captures d’écran du post, du profil, de l’URL, ainsi que la date et l’heure de publication, sans oublier les messages privés ou commentaires associés.
- Signaler le contenu à X : utiliser la politique X sur la « nudité non consensuelle » : dans le menu du post, choisir « Signaler le post » → « Il contient une photo ou une vidéo sensible » → « Une photo ou vidéo non autorisée » → « contenu intime non autorisé qui me concerne ». Cette démarche doit être répétée pour chaque publication, afin d’obtenir le retrait du contenu et, le cas échéant, la suspension du compte.
- Demander l’effacement auprès des services concernés : il est également possible d’exercer son droit à l’effacement auprès de chaque site ou réseau hébergeant les images. En cas d’absence de réponse ou de refus, une saisine de l’autorité de protection des données (la CNIL en France) peut être envisagée pour non-respect des droits numériques.
Si une procédure judiciaire est envisagée, il est essentiel de réunir l’ensemble des preuves : images, profils impliqués, URL, dates, heures et échanges associés. Ces éléments peuvent être constatés par un huissier ou un commissaire de justice, afin d’éviter toute disparition ultérieure des preuves.
Plusieurs qualifications pénales peuvent alors être retenues :
- Atteinte à la vie privée et au droit à l’image, en cas de diffusion d’une image intime sans consentement.
- Deepfake sexuel non consenti, lorsque le visage d’une personne est utilisé dans un contenu sexuel.
- Cyberharcèlement, voire sextorsion, si les images sont envoyées de manière répétée ou utilisées pour faire pression.
Une plainte peut être déposée auprès d’un commissariat ou d’une gendarmerie, ou adressée directement au procureur de la République. Des plateformes officielles (Ma Sécurité, PHAROS, Cybermalveillance.gouv.fr, ainsi que des numéros comme 116 006 ou 3018 pour les mineur et mineures) permettent également d’être accompagné dans ces démarches.
Enfin, sur le terrain civil, un juge peut être saisi pour ordonner le retrait des contenus sous astreinte, interdire toute nouvelle diffusion et accorder des dommages-intérêts en réparation du préjudice subi. Sur le volet des données personnelles (image, nom, identité), le cadre du RGPD peut aussi être mobilisé, avec un recours possible en cas de refus de suppression.
Quelles sont les conséquences possibles pour Grok ?
De son côté, Grok dispose de plusieurs leviers pour se dédouaner. xAI pourrait ainsi faire valoir que la responsabilité principale incombe à l’utilisateur ayant généré l’image, et non à l’outil lui-même. L’entreprise s’appuierait alors sur ses conditions d’utilisation, qui précisent que l’« utilisateur est responsable du contenu » qu’il produit et de l’usage qu’il en fait. Elle peut également avancer qu’elle n’a aucune visibilité sur ce que les internautes font, en privé, des images générées par Grok — téléchargement local, partage en dehors de X — et qu’elle ne saurait donc être tenue responsable de leur diffusion ultérieure sur d’autres plateformes.
Par ailleurs, dans de nombreux pays, les plateformes bénéficient d’un régime de « safe harbour » (intermédiaire technique) : tant qu’elles ne participent pas directement à une activité illégale et retirent les contenus signalés dans des délais raisonnables, elles sont en principe protégées contre les poursuites. Grok ou X pourraient ainsi soutenir qu’ils se limitent à un rôle d’intermédiaire, qu’ils suppriment les images illicites lorsqu’elles sont signalées (via le Take It Down Act ou des lois locales), et qu’ils ne sont pas les auteurs des abus, mais de simples hébergeurs ou fournisseurs d’outils.
Le cœur du problème réside toutefois dans le fait que, dans de nombreux pays, la législation vise avant tout la diffusion publique de deepfakes sexuels — et non leur « simple » génération dans un cadre privé. Or, Grok permet non seulement de générer des images publiquement sur X, mais également dans des chats privés. Les images sexuelles non consenties créées en privé pourraient échapper à ce cadre légal, si elles ne sont pas ensuite repartagées (en privé, ou en public).
Une zone grise juridique susceptible de jouer en faveur de l’entreprise, qui peut également mettre en avant ses outils de modération, tout en affirmant qu’ils seront améliorés progressivement.
Reste que ce n’est pas la première fois que de tels dérapages sont observés sur Grok. La réaction d’Elon Musk est d’ailleurs révélatrice : le milliardaire américain n’a jamais condamné explicitement ces pratiques, et s’amuse même de montages le représentant en bikini.
D’autant qu’un « mode spicy » (ou mode épicé) existe sur Grok. Ce réglage spécial permet de générer des contenus sexuels ou très suggestifs — images et courtes vidéos — avec bien moins de filtres que le mode standard. Là encore, si la nudité explicite est officiellement interdite, l’outil demeure largement permissif.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Tous nos articles sont aussi sur notre profil Google : suivez-nous pour ne rien manquer !