Les comptes de chatbot reposant sur de l’IA générative, comme ChatGPT, sont de plus en plus recherchés par les cybercriminels. Des pirates s’efforcent d’exploiter des identifiants volés pour accéder frauduleusement à des comptes, pour des raisons personnelles ou contourner des sanctions.

Les agents conversationnels à base d’IA sont un bien convoité. Dans un rapport publié le 18 septembre par la société spécialisée dans le cloud Sysdig, il est rapporté que les comptes ayant accès à des modèles de langage sont recherchés par les cybercriminels. Des outils que le grand public connait bien : ChatGPT repose sur ces technologies.

D’après les experts en cybersécurité du groupe, les pirates chercheraient notamment à piéger des employés pour récupérer leur compte personnel ou professionnel. Une des raisons est liée au contexte géopolitique, et plus spécifiquement à la vague de restrictions d’accès qui a frappé la Russie depuis l’extension de la guerre en Ukraine, en 2022.

Un exemple de mail pouvant être utilisé comme du phishing par un hacker. // Source : Numerama
Un exemple de mail pouvant être utilisé comme du phishing par un hacker. // Source : Numerama

En effet, de nombreuses sanctions ont été imposées par l’Occident, ce qui rend l’accès aux outils et technologies beaucoup plus compliqué pour la Russie. Des entreprises technologiques comme Amazon et Microsoft ont interdit à toutes les organisations installées en Russie d’utiliser leurs outils. Un phénomène qui concerne

Des comptes piratés juste pour discuter avec ChatGPT, aussi

Depuis lors, les hackers chercheraient donc à accéder à divers chatbots, ou agents conversationnels en français, tels ChatGPT, Claude ou NovelAi. Cela, afin de profiter des plus récentes avancées de ces plateformes en matière d’IA générative. OpenAI a d’ailleurs signalé le détournement de ses outils par des cybercriminels.

« Nous avons observé de nombreux autres exemples de requêtes en russe » constatent les experts en cybersécurité. Des citoyens russes tenteraient d’ailleurs d’accéder illégalement à des comptes d’entreprise pour utiliser les agents conversationnels également.

L’équipe a notamment observé un étudiant russe utilisant des identifiants volés d’Amazon Web Services pour créer un modèle de Claude, un chatbot développé par la société américaine Anthropic. L’étudiant travaillait sur un projet impliquant des chatbots basés sur l’IA. Les experts de Sysdig pensent qu’il a utilisé des identifiants volés et un bot externe pour éviter d’être retracé.

Les chercheurs ont noté que certains pirates avaient des ambitions parfois beaucoup plus basses. Ainsi, il a été relevé que certaines tentatives d’accès visaient juste à accéder à ces agents conversationnels pour dialoguer avec, et parfois pour avoir des interactions érotiques. La solitude peut être un fléau chez les pirates.

Suivez l’actualité de l’intelligence artificielle avec notre newsletter !

une comparateur meilleur vpn numerama

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.