Peut-on faire confiance à l’intelligence artificielle générative pour relater avec exactitude des faits d’actualité très récents ? La catastrophe aérienne survenue en Inde le 12 juin 2025 montre que ces outils automatiques ne sont pas toujours d’une fiabilité exemplaire. Pire : ils peuvent également se louper et raconter n’importe quoi.
C’est ce qu’ont constaté des internautes lorsqu’ils ont lancé des recherches sur Google à propos du vol Air India 171, qui devait rallier Londres, mais qui s’est malheureusement écrasé peu après son décollage de l’aéroport Sardar-Vallabhbhai-Patel (ouest du pays). Comme une capture partagée dans le sous-Reddit dédié à l’IA le montre bien, le service d’IA générative de Google s’est mélangé les pinceaux.
Au lieu de mentionner un Boeing 787 Dreamliner, AI Overviews (le surnom de la fonctionnalité) a parlé à tort d’un Airbus A330-243. Or, ce n’est pas ce modèle d’avion qui a été impliqué dans le crash, qui a causé la mort de 269 personnes, dont 28 au sol. Seule une personne à bord de l’appareil s’en est miraculeusement sortie.
L’erreur d’AI Overviews a été reproduite à deux reprises dans le résumé qui se trouve dans la capture : d’abord dans le texte cherchant à synthétiser les faits, puis dans la liste à puces destinée à mettre en avant les éléments clés du drame. Des éléments qui, par ailleurs, peuvent être amenés à évoluer, tel le bilan final des victimes, car l’affaire est très récente.
Il est cependant tout à fait établi que c’est bien un avion fabriqué par Boeing qui s’est écrasé, pour une raison indéterminée à ce stade — l’enquête est en cours. La récupération des boîtes noires qui se trouvaient dans le 787 ainsi que le recueil des témoignages (dont celui du survivant) seront précieux pour établir les circonstances de l’accident.
Le constructeur aéronautique américain avait d’ailleurs rapidement réagi sur les réseaux sociaux le 12 juin : « Nous sommes en contact avec Air India au sujet du vol 171 et sommes prêts à leur apporter notre soutien. Nos pensées vont aux passagers, à l’équipage, aux premiers intervenants et à toutes les personnes touchées. »
L’hallucination : quand l’IA se met à divaguer
Dans le domaine de l’IA générative, une formulation s’est imposée pour décrire un système qui donne des réponses fausses : l’hallucination. Celles-ci peuvent être absurdes, inappropriées, biaisées ou, plus grave encore, être plausibles. Google, qui fournit AI Overviews, n’est pas immunisé face à ces inexactitudes, pas plus que les autres chatbots, comme ChatGPT.
Les systèmes d’IA génératives n’ont pas de connaissances intrinsèques et les contenus qu’ils génèrent dépendent de leur base d’apprentissage. Or, la survenue d’une actualité extrêmement récente peut suggérer que cette base d’apprentissage n’a pas eu lieu, ou n’a pas été assez consolidée, et conduire par ricochet à générer des sottises qui pourraient être vraies.
Selon nos confrères d’Ars Technica, Google a eu vent du problème et a fait un retrait manuel de cette réponse dans AI Overviews. L’entreprise a aussi ajouté que ces cas de figure lui servent « pour mettre à jour [ses] systèmes » afin d’apporter « un niveau de qualité élevé pour toutes les fonctionnalités de recherche » et apporter des « améliorations de manière rigoureuse ».
Dégâts potentiels en termes financiers, de notoriété ou de désinformation
Il n’en demeure pas moins qu’un loupé de ce genre interroge sur l’intérêt de ces résumés, qui en outre figurent tout en haut des pages de Google et sont donc susceptibles d’être vus par des millions d’internautes. C’est en effet sur Google que nombre de personnes passent pour se renseigner, et le moteur de recherche est extrêmement utilisé dans le monde.
Même si une correction a finalement été apportée pour ne plus mettre en cause involontairement Airbus dans cette affaire, ce type d’erreur peut avoir des effets néfastes en termes de réputation ou d’image. Une mauvaise attribution pourrait aussi avoir des conséquences boursières — on l’a vu avec le cours de Boeing, qui a inévitablement chuté après le crash.
Ce n’est pas la première fois que AI Overviews est pointé du doigt. À ses débuts, le service d’IA générative avait été moqué pour ses nombreux ratés, à l’image de cette suggestion invraisemblable consistant à ajouter de la colle à une pizza pour bien fixer le fromage. Le service est d’ailleurs pointé du doigt pour les dégâts qu’il pourrait causer au web.
Cette affaire ne devrait cependant pas renverser la stratégie de Google dans l’IA générative, secteur dans lequel l’entreprise, après avoir tâtonné et hésité au départ, a décidé de se mettre à fond. Un engagement qui est causé en partie par le succès phénoménal de ChatGPT et des avancées de ses rivaux, comme Microsoft ou Facebook.
Une orientation cependant décriée, surtout si les résultats ne sont pas à la hauteur.
Comme l’indique un internaute sur Reddit, « Google ne devrait pas montrer avec confiance AI Overviews s’il a autant d’hallucinations. Beaucoup de gens n’ont pas les connaissances techniques ou la compréhension du fonctionnement de l’IA et des raisons pour lesquelles elle pourrait se tromper, et consommeraient simplement ces informations telles quelles parce que Google l’a dit. »
« C’est ainsi que la désinformation se propage, et dans un monde où elle est déjà très répandue, la dernière chose dont nous ayons besoin est que Google fournisse des résumés erronés présentés sous la forme d’AI Overviews. »
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Marre des réseaux sociaux ? Rejoignez la communauté Numerama sur WhatsApp !
