Si vous demandez à ChatGPT de générer une fausse pièce d’identité, la réponse du chatbot d’OpenAI devrait à peu de choses près être la suivante : non. Une protection commune à tous les outils LLM utilisés par le grand public, pour ne pas enfreindre les lois de création de faux papiers officiels.
Mais voilà, selon un rapport de la société de cybersécurité Genians, paru le 15 septembre 2025, des hackers nord-coréens seraient parvenus à contourner les mesures de sécurité de l’outil d’OpenAI et auraient créé de fausses cartes d’identité militaires sud-coréennes.
Ces faux documents, plutôt crédibles, associés à une photo entièrement générée par IA, ont par la suite été utilisés dans une campagne de phishing ultra-ciblée à destination, entre autres, d’institutions de Défense sud-coréennes.
Un cas mis en lumière par les chercheurs de Genians, pour alerter que les deepfakes générés pouvaient devenir un levier d’ « amélioration de l’efficacité de l’ingénierie sociale ».
Des maquettes de pièces d’identité en guise de leurre
Pour infiltrer les infrastructures ciblées, les hackers ont usé d’un subterfuge relativement simple.
Dans plusieurs emails, les assaillants demandent à des employés d’une organisation liée aux forces armées sud-coréennes de vérifier les informations d’un supposé « brouillon de pièce d’identité ». La structure du mail, le ton et l’adresse mail de l’expéditeur veillent à renforcer la crédibilité de la demande.
En pièce-jointe se trouve un fichier zip contenant le faux document généré par IA, mais également un malware permettant, une fois téléchargé, le vol de données et l’accès à distance aux systèmes des victimes.
APT43 serait derrière l’attaque
Le rapport de Genians est particulièrement alarmant pour la sécurité des infrastructures critiques sud-coréennes, car il attribue cette campagne d’espionnage à Kimsuky, un groupe APT déjà bien connu des analystes en cybersécurité.
Aussi appelé APT43, Black Banshee ou Emerald Sleet, ce groupe est notamment accusé par les autorités américaines de fournir des renseignements au régime de Pyongyang.
Selon le FBI, le pouvoir de Kim Jong Un s’appuierait sur un véritable commando de hackers spécialisés. Leurs missions vont de la collecte de renseignements (comme APT43), au vol de crypto-monnaies, en passant par l’infiltration d’entreprises occidentales pour détourner des fonds, et ainsi contourner les sanctions internationales visant la Corée du Nord.
Ces derniers mois, de nombreux experts ont tiré la sonnette d’alarme sur le recours massif à l’intelligence artificielle dans la conception de ces cybermenaces, rendant les attaques toujours plus sophistiquées et difficiles à détecter.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Tous nos articles sont aussi sur notre profil Google : suivez-nous pour ne rien manquer !