Une entreprise de cybersécurité a programmé un chatbot pour répondre aux escrocs. Le programme a trompé de nombreux arnaqueurs et a permis de récupérer des informations sur eux.

On a beaucoup parlé du détournement des chatbots générés par intelligence artificielle pour rédiger des messages d’arnaque, voici désormais leur opposé « bienveillant ». L’entreprise de technologie Netcraft a publié un rapport le 13 juin 2024 sur son expérience avec un chatbot programmé pour mener en bateau les arnaqueurs.

Les chercheurs ont ouvert plusieurs adresses mail jusqu’à recevoir des messages d’arnaques. Un chatbot était installé pour répondre automatiquement aux escrocs. Le plus souvent, les malfaiteurs tentaient de convaincre leur cible d’acheter des crypto-monnaies ou des cartes-cadeaux. Le programme donnait l’impression d’être intéressé et maintenait la discussion avec son interlocuteur jusqu’à ce que ce dernier donne un numéro de compte bancaire ou de portefeuille de crypto-monnaie. En moyenne, la conversation pousse les cybercriminels à envoyer 32 messages et le chatbot à émettre 15 réponses.

Le chatbot a accumulé des milliers de discussions et d’arnaques en tout genre : vente de crypto-monnaies, usurpation bancaire, promesse d’héritage.

Une discussion entre un escrocs et le chatbot. L'agent conversationnel fait mine de s'intéresser et répond poliment aux arnaqueurs. // Source : Netcraft
Une discussion entre un escrocs et le chatbot. L’agent conversationnel fait mine de s’intéresser et répond poliment aux arnaqueurs. // Source : Netcraft

Des chatbots en plusieurs langues pour diverses escroqueries

Au total, le programme a pu récupérer les numéros de comptes bancaires dans plus de 600 institutions financières réparties dans 73 pays différents, utilisés pour transférer de l’argent volé. Ces données ont été fournies aux autorités compétentes.

Le projet de recherche a duré deux années, depuis le lancement de ChatGPT, avec plusieurs mises à jour au fil du temps. La majorité des comptes frauduleux étaient basés aux États-Unis et au Royaume-Uni.

« La fraude financière est plus convaincante lorsque les comptes bancaires sont situés dans le même pays que la victime. Lorsque nous avons développé de nouveaux personnages en Italie, nous avons fait détecter des comptes bancaires basés en Italie. La maitrise de la langue joue pour duper les escrocs », peut-on lire dans le rapport. À quand un chatbot français pour répondre aux faux SMS d’Ameli et aux prétendus mails d’Amazon ?

une comparateur meilleur gestionnaire mdp numerama

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !