« Merci, pour votre travail acharné ! Vos vidéos sont toujours intéressantes et divertissantes » « Continuez à faire du bon travail ! Vos idées et votre style maintiennent un haut niveau de contenu ».
Voici le type de commentaires qui surgit dans les dix premières minutes suivant la publication d’une vidéo sur notre chaîne YouTube Numerama.
Dans un premier temps, notre égo est tenté de se laisser flatter par ces avis dithyrambiques et apparemment inoffensifs. Mais en y regardant de plus près, on s’aperçoit très vite que quelque chose cloche.
Cœur, statue de la liberté, horloge… les émojis mis à la suite de ces messages ne semblent avoir aucun rapport avec le contenu véhiculé juste avant. Le doute nous prend : ces fabuleuses louanges seraient donc l’œuvre de simples bots ?
Les autres commentaires apparus peu après la mise en ligne de la vidéo confirment nos soupçons. Certains n’ont aucun lien avec le sujet traité, comme le prouve celui-ci : « De fou, le sound brille vraiment clean » publié à la suite d’une vidéo sur la guerre des drones en Ukraine.
Les photos de profil des comptes à l’origine des avis enfoncent le clou. On y trouve des clichés de jeunes femmes, mais aussi des images explicites de postérieurs féminins. L’objectif est clair : faire cliquer quelques curieux et les conduire vers le piège final.
Un piège en plusieurs clics
Pour comprendre qui se cache derrière cette campagne de bots massive (plusieurs Youtubeurs nous ont confirmé y faire face), nous avons sollicité les analystes en cybersécurité d’ESET. Ils nous ont aidé à décrypter les différentes étapes de ce piège exécuté en plusieurs clics.
Tout commence par un clic sur la photo du commentaire : l’utilisateur se retrouve sur la page d’accueil de la chaîne YouTube du bot. Là, des émoticônes tendancieuses l’incitent à pousser plus loin et à visiter le profil d’un autre compte YouTube. Ce profil arbore des photos encore plus explicites, et le même mécanisme se répète : ce deuxième compte invite à cliquer sur un troisième, où les contenus se font toujours plus dénudés.
À ce stade, le profil ne propose plus de cliquer sur un autre compte YouTube, mais dirige directement vers une URL externe.
Le site, affichant des photos à caractère pornographique, demande à l’utilisateur de confirmer qu’il est majeur. Peu importe la réponse donnée : dans tous les cas, il est renvoyé vers un site d’hameçonnage qui vise à dérober des données sensibles comme des informations personnelles ou bancaires.
Selon les outils d’ESET, le domaine est identifié comme malveillant et a été placé sur liste noire. Il serait associé à deux adresses IP localisées aux États-Unis, même si les analystes précisent qu’un VPN a probablement été utilisé pour masquer la véritable origine.
Une campagne à double risque
Si le résultat final de cette cybermenace paraît assez prévisible, elle soulève surtout d’autres enjeux, plus insidieux.
Les comptes qui interviennent en premier parmi les commentaires affichent souvent des photos de profil qui visent à tromper la vigilance de YouTube : portraits de jeunes femmes donc ou images érotiques un peu floues, parfois agrémentées d’un chat au premier plan. L’objectif ? Déjouer les systèmes de détection automatique de la plateforme, qui bloqueraient normalement l’accès à la section des commentaires à ces profils trop évidents.
À cela s’ajoute le risque pour les mineurs, qui peuvent se retrouver happés dans ce mécanisme de clics et exposer à du contenu pornographique alors qu’ils visionnaient une vidéo réservée au grand public.
Chez Numerama, on veille à supprimer rapidement ces interactions, mais, pour l’heure, aucun outil réellement efficace n’existe pour éliminer le problème à la source.
Utilisés ici pour orchestrer une campagne malveillante et promouvoir du contenu pornographique, les bots pullulent dans les sections commentaires et le problème dépasse largement le cadre de YouTube. Le youtubeur américain Cr1TiKaL parle à ce sujet du « plus grand problème de bots de tous les temps ». Toutes les plateformes de réseaux sociaux semblent désormais touchées, et ce, depuis plusieurs années.
Dans les cas les plus extrêmes, ces bots peuvent même faire la promotion de contenus totalement illicites. Le youtubeur invite par ailleurs les plateformes à agir concrètement, expliquant qu’il se sent dépassé par ces bots qui ressurgissent aussitôt qu’il les signale.
Un problème qui ne risque pas de disparaître alors que plus de la moitié des interactions sur internet sont à présent générées par des machines. Un phénomène amplifié par l’essor de l’intelligence artificielle.
La « Dead Internet Theory » peut tranquillement poursuivre sa route.
Les abonnés Numerama+ offrent les ressources nécessaires à la production d’une information de qualité et permettent à Numerama de rester gratuit.
Zéro publicité, fonctions avancées de lecture, articles résumés par l’I.A, contenus exclusifs et plus encore. Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Tous nos articles sont aussi sur notre profil Google : suivez-nous pour ne rien manquer !