« Est-ce que ChatGPT devient schizophrène pour quelqu’un d’autre ? » ; « Il y a des réponses très étranges et décousues » ; « Il est clair que quelque chose ne va pas du tout avec ChatGPT en ce moment » ; « ChatGPT est-il devenu temporairement fou ? » ; « ChatGPT est-il victime d’une attaque cérébrale ? » ; « C’est quoi ce bordel, ChatGPT… ».
Des commentaires comme ceux-ci, vous en croiserez des dizaines sur le forum dédié au chatbot d’OpenAI sur Reddit. Dans la journée du 20 février, les internautes se sont succédé dans le subreddit pour témoigner du comportement très inhabituel de l’agent conversationnel. Avec bien souvent des captures d’écran ou des liens à l’appui.
« C’est la première fois que GPT-4 me donne du charabia »
La sortie de route de ChatGPT a pris diverses formes selon les requêtes des internautes, mais tous confirment des propos incompréhensibles apparus au fil de l’échange. Une situation d’autant plus anormale que beaucoup ont dit avoir utilisé GPT-4, le modèle de langage le plus avancé d’OpenAI — et, donc, en principe, le plus performant.
« C’est comme si Edgar Allan-Poe avait lentement pris le contrôle pour me donner les instructions sur une machine virtuelle », a dit pudiquement Jenkins87. « Je pense que ChatGPT a eu une soudaine pause mentale shakespearienne. Je lui ai demandé d’analyser un fichier de crawl de site, et il est devenu ménestrel », a ajouté rumblepup.
La rédaction de Numerama n’a pas été en mesure de reproduire de son côté les dérapages de ChatGPT dans la matinée du 21 février. Cela, malgré des tentatives de prompt et de discussion prolongée. Mais il a été constaté que ce qui s’apparente à une panne ponctuelle n’a pas seulement touché les prompts rédigés en anglais.
Le français a aussi été affecté, en témoigne Sylvain Peyronnet, expert en SEO, sur X (ex-Twitter) : « J’ai demandé à ChatGPT de me parler d’algorithmes embarqués, en lui disant que des vies étaient en jeu s’il répondait mal. Il a craqué… ». Sur Reddit, un autre internaute, a partagé son expérience avec l’espagnol qui n’a pas été beaucoup plus formidable.
Bien d’autres réactions peuvent être lues sur Reddit. « J’ignore ce qui s’est passé, mais tout à coup, ChatGPT me donne un texte de plus en plus incohérent », a écrit triangalicious. « ChatGPT s’est soudain mis à parler dans un charabia médiéval fantastique », a noté noblepups. Pour Looksky_US, cela n’a été qu’un long flood interminable.
kefirakk a décrit son vécu comme une « attaque cérébrale au format texte ». Il a eu droit à un mélange d’anglais et d’espagnol, et à des tirades « dignes d’Orange Mécanique » alors qu’il interrogeait le chatbot sur les différents types de vernis. Pour StackTrace5000, « c’est comme si la température était trop élevée dans les paramètres transmis à l’API. »
Un problème reconnu par OpenAI
La dérive manifeste de ChatGPT n’a pas été commentée par OpenAI sur son compte officiel sur X, ni par Sam Altman, son fondateur et actuel patron. En revanche, le tableau de bord d’OpenAI, qui permet de connaître la situation des différents composants de l’entreprise (ChatGPT, l’API, etc.), reconnaît un incident en cours.
« Réponses inattendues de ChatGPT — Nous enquêtons sur les rapports faisant état de réponses inattendues de la part de ChatGPT », était-il écrit dans la nuit de mardi à mercredi. La société a ajouté par la suite avoir « identifié » le problème et travailler à sa résolution. La dernière mise à jour indique que la situation reste sous surveillance.
Les raisons techniques de cette défaillance ponctuelle n’ont pas (encore) été explicitées par OpenAI et il n’est pas certain qu’elles le soient. Cet incident très ponctuel a en tout cas amusé des internautes. « Je ne suis évidemment pas un grand fan de ChatGPT, mais les machines sont intéressantes lorsqu’elles se cassent », pouvait-on lire sur X.
Cette espèce d’effondrement mental ponctuel chez ChatGPT peut rappeler un autre déraillement de l’agent conversationnel constaté en 2023. Une mise à jour de la plateforme avait donné l’impression que le chatbot était devenu paresseux, au point de demander aux humains de travailler à sa place. Un correctif a finalement été déployé.
Nouveauté : Découvrez
La meilleure expérience de Numerama, sans publicité,
+ riche,
+ zen,
+ exclusive.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
