L’étau se resserre sur X, entre l’enquête formelle ouverte au Royaume-Uni le 12 janvier 2026 pour génération d’images à caractère sexuel à l’aide du chatbot d’intelligence artificielle Grok, et la suspension pure et simple du réseau social en Malaisie et en Indonésie décidée la veille pour le même motif. Dans ce contexte, le média américain 404 a révélé le 7 janvier l’existence d’une chaîne Telegram sur laquelle pullulent les astuces pour produire des contenus extrêmes à l’aide du robot conversationnel.
Contourner sans mots interdits
Une armée de l’ombre composée de plusieurs milliers d’utilisateurs s’acharne à pousser Grok au-delà de ses garde-fous. Ainsi ses membres partagent-ils des vidéos générées à l’aide de l’IA impliquant de vraies femmes dans des scènes sexuelles explicites — fellations, étranglement ou encore bondage — fabriquées sans consentement. Fermée puis rouverte à répétition ces deux dernières années, la chaîne s’est convertie en atelier de contournement d’outils d’intelligence artificielle et depuis novembre, elle ne vit presque plus que pour le chatbot d’Elon Musk, également à la tête de Tesla et SpaceX.
Au début, les détournements reposaient sur des ficelles grossières : des consignes ambiguës, sans mots explicitement abusifs mais assez descriptifs, destinées à passer sous les radars des filtres. Cette ruse a suffi à produire des images sexuelles non consensuelles de célébrités comme la chanteuse Taylor Swift, avant de se propager massivement sur les réseaux et que la faille ne soit corrigée par différentes plateformes d’IA.
La modération perd la main
Désormais, les prédateurs sexuels du web s’appuient notamment sur la modification d’images existantes. La modération devient alors plus difficile puisqu’elle s’appuie sur de la vision par ordinateur et non sur du filtrage textuel.
Quelle que soit la tentative de modération, elle est instantanément pulvérisée par des hackers qui ont fait de Grok leur usine à contenus non consensuels. Dans ce contexte, les équipes de xAI, qui gèrent l’outil d’IA, donnent l’impression de manquer de moyens ou de volonté pour empêcher leur modèle de générer des contenus non consensuels. Conclusion : dans la guerre de l’éthique, les débrideurs ont pris le pouvoir, et Grok a perdu la face.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Tous nos articles sont aussi sur notre profil Google : suivez-nous pour ne rien manquer !