La police fédérale américaine fait face à une hausse de signalements pour des photos détournées en image pornographique, avec des outils basés sur l’intelligence artificielle. Les cybercriminels se servent de contenus trouvés sur les réseaux sociaux.

Les hackers continuent à trouver de nouveaux usages à l’intelligence artificielle. Le FBI, la police fédérale américaine, a signalé le 5 juin qu’une méthode particulière de sextorsion est en hausse : les cybercriminels se servent de l’IA pour modifier les selfies récupérés sur les réseaux sociaux, afin de les transformer en image compromettante. De nombreuses victimes, y compris des mineurs, ont alerté les forces de l’ordre après avoir reçu ces images à caractère pornographique.

Les malfaiteurs exigent un paiement si les personnes ciblées ne veulent pas voir ces montages se répandre sur le web. Le plus souvent, ils avancent que les images pourront causer des dégâts auprès de leurs proches et au sein de leur milieu professionnel, un schéma classique dans la sextorsion.

Surveiller l’activité des enfants sur le web

Les outils de deepfakes n’ont pas tardé à être utilisés pour des images pornographiques. La majorité des victimes étaient d’abord des personnalités, mais la démocratisation des programmes basés sur l’intelligence artificielle a ouvert la porte à une nouvelle méthode de sextorsion. De nombreux projets d’outils de création de contenu sont disponibles gratuitement sur GitHub aujourd’hui et les cybercriminels n’ont plus besoin de formation. Des annonces ont également été postées sur des forums de hackers, proposant aux cybercriminels de « transformer n’importe quelle photo en image porno », signale le média américain Bleeping Computer.

Une annonce pour des montages de sextorsion sur un forum de hacker. // Source : Kaspersky
Une annonce pour des montages de sextorsion sur un forum de hacker. // Source : Kaspersky

Le National Center for Missing & Exploited Children (NCMEC), une organisation non lucrative américaine, révèle dans une étude une augmentation de 82 % des signalements concernant des tentatives de séduction en ligne d’enfants, avec pour objectif de les faire chanter.

Le FBI conseille aux parents d’effectuer des recherches en ligne pour déterminer le degré d’exposition de leurs enfants à Internet et de prendre les mesures nécessaires pour supprimer le contenu. Les adultes qui publient des images ou des vidéos en ligne devraient limiter l’accès à la visualisation à un petit cercle privé d’amis afin de réduire l’exposition. Par ailleurs, les visages des enfants doivent toujours être flous ou masqués. Enfin, si vous découvrez un contenu vous représentant sur des sites pornographiques, signalez-le aux autorités. Vous pouvez contacter la plateforme d’hébergement ainsi que la CNIL.

Découvrez les bonus

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : faire comprendre le numérique et tous ses enjeux au plus grand nombre.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !