Je teste depuis quelques jours une extension de fact-checking dopée à l’IA que nous avons développée pour nos médias. Le principe est simple : elle scanne les textes que nous nous apprêtons à publier, fait sa petite enquête en profondeur sur le web et nous renvoie ses commentaires, gradués selon la gravité de l’erreur supposée – si elle en trouve.
Concrètement, depuis que je l’ai installée, l’extension passe son temps à proposer des nuances ou des améliorations au niveau de la technicité de nos articles. Une formulation un peu trop ferme sur une fonctionnalité qui, à y regarder de près, dépend de la version logicielle utilisée, une statistique exacte, mais qu’il serait honnête de dater, une affirmation sur un fabricant qui mériterait un complément, parce que la concurrence s’est mise au même niveau depuis un trimestre… bref, du travail de petite main, en somme, qui ne change pas le fond mais améliore la finesse.
Première bonne nouvelle qui me rassure : Numerama fait peu d’erreurs. La grande majorité des retours de l’extension sont des invitations à préciser ou à nuancer, rien d’infamant pour la profession. Et la plupart des retours ne sont pas forcément à appliquer : on fait des choix éditoriaux sur la taille des contenus qu’on vous propose, une news n’a pas forcément besoin d’être ultra-détaillée – le détail se trouve souvent dans un énorme article.
Tu ne sais pas que tu ne sais pas
Hier pourtant, l’extension a craché un gros bouton rouge sur un papier de Maxime Claudel consacré au Game Pass de Microsoft. Niveau d’alerte maximal, machine convaincue d’avoir mis le doigt sur une vraie boulette : le Game Pass appelé « Standard » dans l’article s’appelle en réalité « Premium » depuis fin avril 2026, à la faveur d’une refonte tarifaire de Microsoft.
Maxime est une encyclopédie ambulante du jeu vidéo. Dans ma tête, et vu que ça fait 10 ans que je bosse avec lui, on a développé une confiance mutuelle, quand il écrit « Standard », c’est qu’il a vérifié trois fois et qu’il pourra démontrer que le mot est juste. Un peu inquiet à l’idée que mon nouveau jouet IA hallucine joyeusement (les vieux réflexes), je lui pose la question sur le Slack. Sa réponse ? « Ah ouais les guignols. »
« Les guignols » de Max, en l’occurrence, ce sont les équipes de Microsoft Xbox Wire elles-mêmes, qui ont utilisé le terme « Standard » dans leur dernier communiqué de presse pour parler de leur propre produit, rebaptisé « Premium » il y a deux semaines. La source officielle, qu’on enseigne à toutes les rédactions comme étant la référence quasi infaillible quand on parle d’un produit, s’est trompée. Sur sa propre marque, à propos d’une décision qu’elle a elle-même prise et abondamment communiquée. Maxime, impossible de lui en tenir rigueur, avait fait confiance au document signé par l’éditeur du service. L’IA lui aura évité une erreur factuelle initiée non pas par mon équipe, mais par l’entreprise dont nous parlions.
Ce micro-événement m’a fait sourire et un peu réfléchir aussi. On ne doute pas que le ciel est bleu si on le voit bleu. Si Apple dit que sa puce s’appelle M5, c’est M5. Si Microsoft dit que son abonnement se nomme « Standard », c’est Standard. On sait bien que les communiqués peuvent enjoliver, omettre, mentir par sélection et c’est notre taf de questionner ces éléments. Mais sur un point factuel, comme le nom commercial d’un produit qu’on lance, on s’attend à une précision sans effort.
C’est précisément la chose qui ne devrait jamais foirer.
On n’opère pas à cœur ouvert (mais certains le font)
Vous me direz : tout cela n’est pas bien grave, et je vous le concède volontiers. Que le Game Pass s’appelle Standard ou Premium n’aura aucun impact mesurable sur ma vie ni sur la vôtre. Sur le site de Xbox, l’erreur pourrait être corrigée demain, le communiqué republié sans tambour, et la ligne « Premium » restera dans toutes les fiches produit.
Mais cette petite boucle d’erreur (la marque qui se plante, le journaliste qui retransmet, le public qui retient, et seule une IA pour repérer le décalage) m’amène à une question un peu moins légère : si cela se produit sur des sujets aussi futiles que la nomenclature d’un abonnement vidéoludique, à quelle fréquence cela se produit-il sur des sujets dont les conséquences ne sont, elles, pas tout à fait anodines ?
En 2020, un gamin américain de quatre ans nommé Alex commence à souffrir de douleurs chroniques. Sa mère, Courtney, l’amène consulter. En trois ans, ils enchaînent dix-sept médecins, sans qu’aucun ne parvienne à poser un diagnostic qui explique l’ensemble des symptômes. Épuisée, Courtney finit par se créer un compte ChatGPT en 2023 et y verse, ligne après ligne, le dossier médical complet de son fils, comptes-rendus d’IRM inclus. ChatGPT lui propose une piste à laquelle aucun spécialiste rencontré jusque-là n’avait sérieusement pensé : un syndrome de la moelle attachée. Courtney prend rendez-vous avec un nouveau neurochirurgien, qui confirmera le diagnostic au vu des images. Alex a depuis été opéré et se porte bien.
Je n’utilise pas cette histoire pour vous dire qu’il faut consulter ChatGPT plutôt que votre médecin (vraiment, ne le faites pas), et je ne crois pas une seconde que les seize premiers praticiens étaient des charlatans. Ils ont fait ce qu’on attend d’eux : appliqué leur expertise, suivi leurs protocoles, transmis le dossier au confrère qu’ils estimaient mieux placé. Mais à un moment, dans cette chaîne d’autorités empilées, il y a eu un point aveugle que personne n’a pensé à remettre en cause, parce que chaque maillon présupposait que le précédent avait fait son travail.
C’est très exactement la même mécanique que celle qui fait qu’on tape « Standard » au lieu de « Premium » sur un communiqué : tout le monde fait correctement le sien, mais personne ne tient l’ensemble dans son champ de vision. Et aujourd’hui, on sait statistiquement qu’un médecin assisté par IA fait moins d’erreurs qu’un médecin sans IA, comme l’a noté l’oncologue Jérôme Barrière.
Cela me fait penser à une autre anecdote connue des propriétaires de lapins qui ont un peu nerdé le sujet. Quand un lapin fait un arrêt de transit, qui peut être mortel, la plupart des vétérinaires vous diront de lui donner du « jus d’ananas ». Sauf que ça ne sert strictement à rien (à part maintenir le lapin hydraté avec un truc sucré) : c’est une erreur d’un manuel de vétérinaire qui a été reproduite depuis la nuit des temps et qui continue à être enseignée. Les vétérinaires spécialistes NACS et encore plus les spécialistes du lapin essaient de la déconstruire, mais le mythe est ancré. Tous les vétérinaires non spécialisés que j’ai consultés dans ma vie ont fait l’erreur et je n’ai jamais osé les remettre en question. Claude Opus 4.7, lui, connaît la littérature vétérinaire récente.
Je n’ai pas de morale toute faite à tirer ici, plutôt une dose d’humilité à m’imposer et j’ose espérer que chaque humain avec des responsabilités plus essentielles que les miennes se l’imposera.
La question intéressante n’a jamais été de savoir si l’IA était plus fiable que les humains, et toute réflexion qui partirait de là tournerait vite en eau de boudin. La vraie question est ailleurs : sommes-nous capables, nous les humains, d’admettre que notre propre source d’autorité (qu’il s’agisse de Microsoft, du médecin de famille ou du document officiel) peut se tromper sur son cœur de métier, et que nous devrions structurellement prévoir cette éventualité ?
Les outils qui apparaissent en ce moment, malgré leurs hallucinations bien réelles et un nombre certain de défauts, vont nous forcer à formuler cette question. Et à y répondre avec un peu plus d’honnêteté que jusqu’à maintenant.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Tous nos articles sont aussi sur notre profil Google : suivez-nous pour ne rien manquer !