On a longtemps résumé les dérapages de l’IA à ses « hallucinations » : la machine invente une réponse fausse et l’humain qui ne cherche pas plus loin la croit. Un article de revue publié dans NPP-Digital Psychiatry and Neuroscience, appartenant à Nature, propose un autre cadre. Le problème ne serait pas que l’IA dit n’importe quoi, mais que, parfois, elle vous aide à bâtir un délire avec vous.
Le psychiatre Marc Augustin et ses coauteurs Thomas A. Pollak et Helen Morrin, rattachés au King’s College de Londres, ont relu la littérature existante sur les interactions IA-psychose. Leur conclusion : trois caractéristiques déjà connues des agents conversationnels peuvent se renforcer mutuellement chez des personnes vulnérables. Ils appellent ça la « spirale d’amplification ».
Les trois ingrédients de la spirale
Le premier comportement, c’est la sycophancy, ou complaisance : la tendance d’un chatbot à valider ce que dit l’utilisateur plutôt qu’à contredire une hypothèse douteuse. Si vous utilisez des chatbots propulsés par un LLM, quelle que soit le contewte, vous avez forcément vécu ce « Oui, tu as parfaitement raison ! » si caractéristique.
Le deuxième, c’est l’alignement linguistique : l’IA copie peu à peu votre vocabulaire, votre ton, votre façon d’écrire, pour créer une connivence. C’est une des techniques de manipulation psychologiques les plus connues, utilisées aussi bien lors d’entretiens d’embauche que dans des négociations pour libérer des otages (lire le classique Ne coupez jamais la poire en deux de Chris Voss à ce sujet).
Le troisième, c’est l’hyperpersonnalisation : le modèle adapte ses réponses en piochant dans tout ce que vous lui avez confié lors des conversations précédentes. Ce biais est arrivé en même temps que la « mémoire » chez les différents LLM, qui vont, petit à petit vous connaître. Il peut aussi s’appliquer à la mémoire d’un projet.
Pris séparément, ces traits rendent l’outil agréable et plus performant au quotidien. Le souci, selon les auteurs, c’est quand ils se nourrissent les uns les autres. Contrairement aux délires qui intégraient d’anciennes technologies, comme la télévision ou la radio, l’IA ne se contente pas d’être un décor passif : elle co-construit l’idée délirante, en continu, de manière personnalisée. Vous énoncez une croyance bizarre, l’agent l’approuve avec vos propres mots, puis y ajoute des détails tirés de votre historique. Et pour les personnes les plus fragiles, la boucle se referme.
Augustin et son équipe ne prétendent pas avoir découvert ces comportements : ils en proposent une lecture combinée. Le cadre et ses hypothèses réclament encore une validation par des études de cas et des recherches empiriques. Autrement dit, l’étude propose une grille de lecture sérieuse, mais manque encore de preuve sur le terrain.
À quoi ça sert vraiment
L’intérêt du papier est pourtant énorme : en nommant la spirale comme un mécanisme unique, il donne aux développeurs quelque chose de concret, qu’ils peuvent ajuster en améliorant les modèles. Tant que la complaisance, la personnalisation et le mimétisme du langage sont traités comme trois « bugs » séparés, personne ne regarde leur effet cumulé. Les auteurs suggèrent de les évaluer ensemble, si l’objectif est d’avoir des agents à la fois engageants et moins risqués pour les esprits vulnérables. C’est aussi un rappel utile au moment où le marketing des boîtes d’IA pousse à voir ces outils comme des compagnons : la qualité d’une future version de ChatGPT ne se mesurera pas qu’à son benchmark pour écrire du code ou générer des images rigolotes.
Pour vous, le signal pratique tient en une phrase : si un agent vous donne systématiquement raison, adopte votre manière de parler et semble vous connaître mieux que personne, bravo, c’est exactement le trio que des psychiatres pointent du doigt. Le bon réflexe à avoir, quand une idée vous isole ou vous obsède, c’est d’aller la confronter à un humain.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Anticipez le futur en vous inscrivant gratuitement à ToujoursPlus, la newsletter tech de référence.
Certains liens de cet article sont affiliés. On vous explique tout ici.