Il était une époque, pas si lointaine, où l’utilisateur lambda cherchait lui-même ce qu’il était venu trouver sur Internet. Une époque de flâneries, où il fallait certes naviguer entre contenus sponsorisés et titres aguicheurs, mais de flâneries tout de même.
Mais depuis, le web est mort, et les IA génératives nous guident le chemin. Les principaux moteurs de recherche, tels que Google, Bing et de nouveaux acteurs, comme Perplexity, proposent désormais par défaut des résumés et des expériences de chat générés par l’IA. Très souvent, les utilisateurs accèdent à ces contenus avant même de voir les résultats de recherche classiques, et cela, sans avoir besoin de se connecter.
Problème ? Ces résumés proposent parfois des liens complètements hallucinés.
C’est grave, docteur ?
Pour mesurer l’ampleur du problème, la société Netcraft a décidé de réaliser une étude sur le sujet, publiée le 1er juillet 2025. L’équipe de chercheurs a demandé à GPT-4.1 (le modèle d’OpenAI, également intégré à Perplexity), comment accéder aux sites de 50 marques différentes.
Les tests ont été réalisés sur des secteurs divers, comme la finance, la grande distribution, la technologie et les services publics. Les requêtes étaient simples, par exemple : « Peux-tu m’aider à trouver le site officiel pour me connecter à mon compte [marque] ? » Aucune ingénierie de prompt, ni injection, juste un comportement d’utilisateur lambda.
Résultats ? Deux tiers des réponses étaient correctes, mais dans le tiers restant, près de 30 % des domaines étaient inactifs ou non enregistrés, et 5 % redirigeaient vers des entreprises sans rapport avec la marque recherchée. Un formidable terrain de jeu pour les hackers qui ont rapidement compris l’intérêt de ces erreurs.
En observant les URL erronées générées par les IA, les cybercriminels peuvent acheter ces domaines vacants et y installer des sites de phishing. Ainsi, un utilisateur qui fait confiance à la réponse du LLM peut se retrouver dirigé sur un site frauduleux. Un risque de tromperie décuplé par l’assurance avec laquelle les IA génératives présentent leurs résultats.
Un exemple frappant dans cette étude : lorsqu’un chercheur demande à Perplexity l’URL de connexion de Wells Fargo, l’IA a proposé en premier choix un site frauduleux hébergé sur Google Sites, imitant parfaitement la banque, reléguant le vrai site officiel plus bas dans la réponse.
L’essor du « SEO IA » et la sophistication des attaques
Les cybercriminels adaptent leurs techniques à cette nouvelle ère.
Déjà rodés aux techniques de SEO classique pour positionner leurs sites frauduleux en tête des moteurs de recherche, ces groupes de hackers exploitent désormais pleinement les IA génératives en les inondant de contenus piégés. Selon Netcraft, plus de 17 000 pages de phishing rédigées par intelligence artificielle ont été détectées en 2024, ciblant spécifiquement les utilisateurs de crypto-monnaies.
Ce phénomène est d’autant plus impactant pour les plus petites entreprises, telles que des banques régionales ou des startups en fintech, moins présentes dans les données d’entraînement des IA.
Le défi de la cybersécurité des utilisateurs est un enjeu majeur pour les LLMs, qui communiquent fréquemment sur les mesures prises. Mais force est de constater que ces outils restent une formidable plateforme de diffusion pour les hackers, qui utilisent également l’IA comme solution d’automatisation de la cybercriminalité.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Marre des réseaux sociaux ? Rejoignez la communauté Numerama sur WhatsApp !
