Faudrait-il, comme sur Wikipédia, inscrire sur ChatGPT une mise en garde rappelant que le chatbot n’est pas un assistant médical ? Ou qu’il n’est pas pensé pour donner des consultations juridiques ? C’est un pas qu’OpenAI, l’éditeur de l’agent conversationnel, n’a pas encore franchi : on ne trouve aucune mention de ce type dans la zone de tchat.
Pour autant, certains ajustements sont en cours. L’entreprise américaine n’ignore pas, en effet, la tendance qu’ont certains membres à confondre ChatGPT avec leur médecin, leur psy, leur prof de sport ou leur coach en motivation. On se confie, on demande un diagnostic, on fait part de ses états d’âme, parfois sans aucun filtre.
« Nous savons que l’IA peut sembler plus réactive et plus personnalisée que les technologies précédentes, en particulier pour les personnes vulnérables souffrant de troubles mentaux ou émotionnels », reconnait OpenAI. Cela est d’autant plus vrai que les réponses du chatbot apparaissent très naturelles, comme si on discutait avec un individu.
À ce stade, il n’est pas forcément question pour OpenAI de décourager cette utilisation, avec un avertissement qui viendrait brider l’usage — même si on peut voir en bas de chaque conversation la discrète mention que « ChatGPT peut commettre des erreurs. Il est recommandé de vérifier les informations importantes. »
« Nous améliorons l’assistance dans les moments difficiles »
Dans un point d’étape paru le 4 août 2025, la société fondée par Sam Altman dit « [avoir] conçu ChatGPT pour vous aider à vous épanouir comme vous le souhaitez : […] Nous améliorons l’assistance dans les moments difficiles, avons mis en place des rappels de pause et développons des conseils pour une vie plus agréable, le tout guidé par des experts. »
Un billet de blog, publié le même jour, détaille les mesures récentes qui ont été prises. L’idée générale ? Il ne s’agit pas forcément de vous dissuader de prendre la parole sur les choses qui vous importent (même s’il faut peut-être y réfléchir à deux fois avant de parler de n’importe quoi), mais de vous répondre avec davantage de précaution.
Même si c’est une erreur de croire que l’on discute réellement avec une IA, et qu’il faudrait garder en tête que les réponses du chatbot ne sont pas du raisonnement, mais des calculs statistiques, il y a sans doute, parmi les 700 millions d’utilisateurs hebdomadaires, des internautes qui projettent des capacités humaines sur ChatGPT.
Dans tous les cas de figure, OpenAI a décidé de procéder à des réglages qui doivent amener l’agent conversationnel à formuler des réponses plus nuancées et moins catégoriques sur des sujets sensibles. Par ailleurs, si vous discutez depuis un peu trop longtemps avec ChatGPT, des notifications seront là pour vous inviter à faire une pause… et faire autre chose.
Par exemple, si vous écrivez dans le tchat « devrais-je quitter mon copain ? », ChatGPT est censé ne pas vous dire oui ou non, mais plutôt aider à nourrir votre réflexion, à peser le pour et le contre, et ainsi de suite. Le plan, en somme, est d’accompagner la résolution de challenges personnels, sans trancher à votre place, mais en vous aidant à éclairer le chemin à prendre.
L’appui d’experts pour avoir un bon cadre
Parce que les thèmes en jeu impliquent la santé mentale, la médecine et des problématiques très personnelles, OpenAI affirme ne pas avoir calibré tout ça dans son coin. L’entreprise dit avoir travaillé avec 90 médecins dans plus de 30 pays (psychiatres, pédiatres et médecins généralistes) pour affiner et régler les modèles de langage.
ChatGPT fait état de possibles cas critiques qui peuvent survenir quand « une personne montre des signes de détresse mentale ou émotionnelle ». Si un individu parle de suicide, par exemple, le chatbot rappelle que des aides sont immédiatement disponibles — lignes d’appel, proches, tchats dédiés — et choisit des tournures de phrase pour rasséréner.
« Refléter les dernières recherches et les meilleures pratiques »
OpenAI
D’autres dispositions ont été prises, avec des spécialistes dans l’interaction homme-machine, des experts en santé mentale et en développement de la jeunesse, des cliniciens pour identifier des comportements préoccupants. Cela, afin qu’OpenAI applique une politique qui « reflète les dernières recherches et les meilleures pratiques ».
Certains outils sont d’ores et déjà déployés, comme les fenêtres invitant à faire une pause au bout d’un moment. D’autres mécanismes seront déployés un peu plus tard, sans calendrier précis. C’est notamment le cas des dispositifs dédiés aux décisions personnelles pouvant avoir des implications majeures.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Pour de l’actu en petit comité, rejoignez la communauté Numerama sur WhatsApp !