ChatGPT : des hackers russes, chinois et nord-coréens se servent du chatbot IA, alerte Microsoft
Ce qui devait arriver, arriva.
Microsoft et OpenAI indiquent sur leur blog que « les acteurs malveillants essaieront parfois d'abuser de nos outils pour nuire à autrui, y compris dans le cadre d'opérations cyber ». Les services des deux entreprises ont bloqué les groupes de hackers « qui cherchaient à utiliser les outils d'IA pour soutenir des activités malveillantes ».
Phishing pour les Iraniens, recherche et renseignements pour les Russes
Chaque collectif de hacker a été décrit par les équipes de cybersécurité. Pour la Russie, ce n'est nul autre que les Fancy Bear, un célèbre groupe du renseignement russe qui se serait penché sur ChatGPT. Les pirates du Kremlin ont mené des recherches sur « les protocoles de communication par satellite, les technologies d'imagerie radar et les paramètres techniques spécifiques », des requêtes « suggèrent une tentative d'acquérir une connaissance approfondie de capacités satellitaires ».
Fancy Bear est connu pour avoir perturbé les élections américaines, cibler la France pendant la présidentielle de 2017 et avoir attaqué l'Ukraine à de nombreuses reprises.
Les Nord-coréens de Emerald Sleet, et les Iraniens de Crimson Sandstorm se sont servis du chatbot pour générer des documents utilisés ensuite pour des opérations de phishing. Crimson Sandstorm a utilisé des LLM (modèle de langage) pour produire des mails de spearphishing « prétendant provenir d’une agence de développement international et d’une autre tentant d’attirer d’éminentes féministes vers un site Web sur le féminisme créé par un attaquant ».
Concernant la Chine, le collectif Charcoal Typhoon a travaillé sur les services OpenAI pour effectuer des recherches sur diverses entreprises et outils de cybersécurité. Le second groupe, Salmon Typhoon aurait, comme les Iraniens, tenté de produire des messages de phishing.
Les comptes OpenAI associés à ces acteurs ont tous été fermés. Microsoft et son champion de l'IA auraient pris des mesures pour repérer à temps ces pirates étatiques.