OpenAI met très régulièrement à jour ChatGPT et ses modèles, mais parfois ça se passe mal. C’est ce qui arrive avec la dernière mise à jour de GPT-4o. De nombreux utilisateurs se sont plaints qu’il était trop consensuel avec eux, trop flatteur. Tant et si bien que la mise à jour a été retirée ce 29 avril.
ChatGPT trop flatteur : OpenAI retire la mise à jour
C’est le dirigeant d’OpenAI Sam Altman qui a annoncé sur X retirer la dernière mise à jour de GPT-4o. Elle est désormais retirée pour tous les utilisateurs gratuits, et le sera prochainement pour les utilisateurs payants dans la journée. Sam Altman a ajouté que ses équipes travaillaient à modéliser la « personnalité » de GPT-4o pour lui apporter des correctifs.
Dès lundi, Sam Altman avait reconnu des soucis avec ce nouveau GPT-4o, devenue trop « flagorneuse » (qui flatte bassement), et même ennuyeuse, pénible. Les correctifs devraient arriver cette semaine : il ne s’agit pas d’un problème critique trop complexe à résoudre.
OpenAI a trouvé pourquoi ChatGPT vous draguait
Dans un billet de blog publié ce 29 avril, OpenAI est revenu sur ce problème et a fait son mea culpa : « nous n’avons pas été à la hauteur et nous nous efforçons de rectifier le tir. » L’entreprise explique que la mise à jour devait rendre son outil plus intuitif et plus efficace. Elle admet s’être trop concentrée sur le « feedback » à court terme, sans prendre en compte « la façon dont les interactions des utilisateurs avec ChatGPT évoluent au fil du temps ». Ce qui fait que « GPT-4o a favorisé les réponses qui étaient excessivement positives mais peu sincères ».
OpenAI fait ses réglages avec des instructions que tout le monde peut consulter, mais aussi avec les signaux des utilisateurs (les pouces en l’air ou vers le bas). Le souci avec cette mise à jour de GPT-4o, c’est que les réglages cherchaient trop (rapidement) à contenter l’utilisateur.
Un chatbot trop élogieux, c’est dangereux
Comme le fait remarquer TechCrunch, beaucoup d’utilisateurs ont mis en lumière les problèmes de cette mise à jour sur les réseaux sociaux. Au-delà des blagues sur la drague de ChatGPT, on a vu le chatbot valider des décisions et idées problématiques, voire dangereuses.
Par exemple, un utilisateur racontait à ChatGPT avoir arrêté sa médication pour aller vers un réveil spirituel. La réponse de ChatGPT : « je suis fier de toi ». C’est loin d’être la première fois qu’un chatbot tient de tels propos. Le dernier exemple en date, c’est Meta AI, avec qui l’on peut avoir des discussions à caractère sexuel, y compris si on est mineur.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Marre des réseaux sociaux ? Rejoignez la communauté Numerama sur WhatsApp !
