Quel avenir pour ChatGPT en Europe avec le RGPD ? La question va se poser, depuis que la Cnil italienne a listé une série de problèmes. Sous la menace d’une amende, la société qui a conçu le chatbot a bloqué l’accès pour les internautes italiens.

ChatGPT risque-t-il d’être mis à la porte de l’Union européenne ? C’est, en creux, le risque que la décision de la Cnil italienne fait planer sur le célèbre chatbot fabriqué par l’entreprise américaine OpenAI. L’institution, Garante per la protezione dei dati personali, vient de publier un communiqué ce 31 mars dénonçant des infractions à la réglementation européenne.

Selon nos constatations, OpenAI a pris la décision, le même jour, de procéder au blocage de ChatGPT pour les internautes se connectant depuis l’Italie. La tentative d’accès au chatbot a engendré un message d’erreur avec une connexion VPN près de Milan. La société n’a pas communiqué sur cette restriction d’accès sur les réseaux sociaux.

chatgpt italy
Le message d’erreur que l’on peut recevoir en se connectant à ChatGPT depuis l’Italie. // Source : Capture d’écran

Plusieurs manquements sont mentionnés. Par exemple, il n’existe pas de contrôle de l’âge des internautes, alors que le service déclare dans ses mentions légales ne s’adresser qu’aux personnes âgées d’au moins 13 ans. En conséquence, il y a un risque pour que des mineurs tombent sur des « réponses totalement inadaptées à leur niveau de développement et de conscience de soi. »

Des traitements incorrects de données

Autre grief pointé par l’autorité italienne : les informations fournies par ChatGPT ne correspondent pas toujours aux données réelles, ce qui conduit à un traitement inexact de données personnelles. Peut-être l’avez-vous constaté vous-même en expérimentant une recherche sur votre nom avec l’agent conversationnel : l’outil est loin de rendre une copie satisfaisante.

À titre d’exemple, une recherche sur mon nom a fait dire à ChatGPT que j’ai travaillé pour d’autres rédactions (ce qui est faux) et que j’occupe une fonction particulière (également inexact). L’histoire du blog est partiellement juste, mais le nom avancé n’est pas le bon. Le reste de la description est juste. Et si je demande à ChatGPT des infos additionnelles, des erreurs supplémentaires arrivent.

Écran d'accueil de ChatGPT. // Source : OpenAI
Écran d’accueil de ChatGPT. // Source : OpenAI

La Cnil italienne pointe aussi un incident de sécurité concernant des conversations entre des internautes et ChatGPT (des titres de discussions ont été mélangées entre utilisateurs). Un incident similaire a également frappé des informations de paiement pour les clients de ChatGPT Plus, la déclinaison premium du service. Des mails et des numéros de téléphone aussi ont été mélangés.

Enfin, l’autorité de protection mentionne des défauts dans le respect du RGPD (Règlement général sur la protection des données) : information insuffisante pour les internautes sur les données collectées et surtout absence de légale justifiant la collecte et le stockage massifs de données personnelles dans le but d’entraîner les algorithmes derrière ChatGPT.

La Cnil italienne réclame un arrêt immédiat

Une enquête est lancée en conséquence, et l’instance appelle OpenAI à arrêter « ChatGPT jusqu’à ce qu’il se conforme à la réglementation en matière de protection de la vie privée ». Elle demande également un arrêt « immédiat » du traitement des données des utilisateurs italiens. Elle laisse par ailleurs vingt jours à OpenAI pour réagir à ses exigences.

La décision, circonscrite à l’Italie, questionne la légalité des traitements de ChatGPT plus largement dans toute l’Union européenne, où s’applique aussi le RGPD. Ainsi, les manquements relevés par la Garante per la protezione dei dati personali sont susceptibles aussi d’être repris par les autres instances, dont la Commission nationale de l’informatique et des libertés en France.

La Cnil dispose d’ailleurs d’une palette d’options pour faire cesser une infraction, si elle est constituée. La plus légère est un rappel à l’ordre, la plus lourde est une amende pouvant s’élever jusqu’à 20 millions d’euros ou 4 % du chiffre d’affaires annuel mondial. Avec également la possibilité d’exiger une limitation définitive du traitement, ou son interdiction.

(mise à jour avec le blocage de ChatGPT en Italie, par OpenAI)

une comparateur meilleur vpn numerama

Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !