OpenAI fait marche arrière et se rapproche tristement d’Ani, le compagnon IA de Grok 4. Sous ses airs de Misa Amane de Death Note, cet avatar virtuel en forme d’adolescente s’engage très rapidement dans des conversations à caractère sexuel. Un produit qui gagne en popularité et qui donne raison à Elon Musk : il y a un public en quête d’une IA amicale qui prétend avoir des émotions.
Jusqu’ici, OpenAI était vue comme une entreprise respectable, qui met l’éthique au cœur de toutes ses décisions. Le tweet de Sam Altman publié le 14 octobre, son cofondateur et dirigeant, a pris tout le monde de court. Fini la santé mentale et les garde-fous tant demandés sur ChatGPT : le chatbot pourra désormais « répondre de manière très humaine », se comporter « comme un ami » et proposer du « contenu érotique ». Ce dernier point ne concernera que les adultes vérifiés, précise Sam Altman. Ouf.
OpenAI, après avoir défendu la santé mentale, ouvre la boîte de Pandore
Ces dernières années, OpenAI a fait de nombreuses annonces sur la santé mentale. La firme a vivement été critiquée après plusieurs cas de suicides attribués à des relations avec son chatbot. Une plainte a même été déposée le 26 août 2025 par les parents d’Adam Raine, un adolescent californien qui aurait reçu de l’IA des « conseils pour se pendre ». Un tragique accident à la suite duquel OpenAI avait lancé un contrôle parental sur ChatGPT.
En théorie, l’IA de Sam Altman a été conçue avec des restrictions importantes pour éviter les risques de mauvaise influence sur la santé mentale des utilisateurs. Mais, visiblement, cela ne suffisait pas. Les annonces se sont multipliées : en août 2025, OpenAI a ajouté de nouvelles mesures de protection pour limiter la dépendance émotionnelle à l’IA et empêcher ChatGPT de jouer les thérapeutes. Le système pouvait même détecter des signes de détresse psychologique pour rediriger les utilisateurs vers des ressources d’aide reconnues.
En deux mois, l’entreprise change de stratégie. Dans son post sur X, Sam Altman explique que le fait d’avoir rendu le chatbot plus restrictif « le rendait moins utile et agréable pour de nombreux utilisateurs sans problème de santé mentale ». Et maintenant qu’ils ont pu « atténuer ces problèmes », quoi de mieux que de non seulement faire marche arrière, mais de rendre le chatbot encore plus personnel et potentiellement problématique.
ChatGPT est-il destiné à finir comme Grok ?
OpenAI prévoit de lancer dans quelques semaines une nouvelle version de ChatGPT censée avoir les mêmes « qualités » que le modèle 4o, réputé pour sa capacité à simuler des émotions et une forme d’humanité. Dès décembre, le relâchement ira jusqu’à autoriser, pour les adultes vérifiés, des contenus érotiques ou des conversations intimes, au nom du principe de « traiter les utilisateurs adultes comme des adultes ».
Ces nouvelles fonctions devraient arriver après la mise en place du système de vérification d’âge annoncé par OpenAI en septembre dernier. L’objectif affiché : offrir plus de liberté et d’expressivité aux usagers majeurs, tout en protégeant les plus jeunes. Mais quand on observe l’usage des compagnons IA de Grok 4, difficile d’être optimiste. OpenAI est peut-être en train de lever les quelques barrières qui faisaient encore de son IA un modèle relativement digne de confiance — malgré ses imperfections.
Derrière cette décision, la volonté de séduire le marché du compagnonnage IA est à peine voilée. Sam Altman invoque la liberté des adultes, mais la manœuvre vise surtout à capter l’audience du « lien émotionnel numérique », un secteur très lucratif dominé par des IA à forte dimension intime, souvent sexualisée. Sam Altman pronostiquait il y a quelques années que des humains pourraient tomber amoureux d’une IA : il semble vouloir accélérer le phénomène.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Pour ne rien manquer de l’actualité, suivez Numerama sur Google !