Avez-vous eu la curiosité de demander à ChatGPT ce qu’il sait de vous ? Les résultats n’ont sans doute pas été à la hauteur de vos espérances. C’est la même chose pour Max Schrems. L’Autrichien a aussi fait l’expérience, et le résultat obtenu s’est avéré à côté de la plaque. Mais, plutôt que de passer à autre chose, il a voulu faire rectifier les informations inexactes.
C’est ici que les choses se sont compliquées. D’après l’intéressé, ses demandes de correction sont restées lettre morte. « Bien que la date de naissance du plaignant fournie par ChatGPT soit incorrecte, OpenAI a refusé sa demande de rectification ou d’effacement des données, arguant qu’il était impossible de corriger les données », est-il raconté.
Mais Max Schrems n’est pas un internaute comme les autres. C’est aussi un activiste qui est à la tête d’une association très investie sur les questions de vie privée. La Silicon Valley a appris avec le temps à se méfier de NOYB (None of Your Business), car les actions judiciaires de l’ONG ont bousculé plusieurs fois le cadre transatlantique en matière de données personnelles.
ChatGPT dit n’importe quoi et OpenAI ne corrige pas
Et c’est justement devant l’instance autrichienne chargée de la protection de la vie privée que Max Schrems entend traîner OpenAI. La société américaine, conceptrice du chatbot, est accusée de ne pas respecter certaines dispositions du Règlement général sur la protection des données (RGPD), alors qu’il s’applique pleinement depuis 2018.
Selon NOYB, les sociétés comme OpenAI « sont incapables de faire en sorte que les chatbots […] soient conformes à la législation de l’UE lorsqu’ils traitent des données concernant des personnes. » Or, le RGPD exige que les données à caractère personnel soient exactes. C’est même une règle plus ancienne, datant de 1995.
Or, « OpenAI admet ouvertement qu’elle n’est pas en mesure de corriger les informations incorrectes sur ChatGPT », pointe l’association. Elle l’accuse également de ne pas pouvoir ou savoir dire « d’où proviennent les données ni quelles données ChatGPT stocke sur des personnes individuelles. » Une situation jugée inadmissible, vu le poids de ChatGPT.
Une plainte a donc été déposée, est-il annoncé ce lundi 29 avril, pour forcer OpenAI à donner des réponses plus satisfaisantes à Max Schrems, plutôt que de lui opposer un refus. L’activiste souhaite aussi obtenir les données le concernant, et les sources utilisées par ChatGPT pour construire sa réponse. Là aussi, OpenAI n’a pas été coopératif.
Lorsqu’un chatbot se met à raconter n’importe quoi, on considère alors qu’il « hallucine ». C’est l’un des grands challenges de l’intelligence artificielle générative, avec le respect des droits d’auteur (tous les textes en ligne ne sont pas libres de droits), les biais au moment de l’entraînement du chatbot et les vulnérabilités informatiques.
Par le passé, Numerama a déjà pu voir ChatGPT et d’autres chatbots rater des réponses. Sur l’auteur de ces lignes, l’IA générative lui a attribué des collègues imaginaires, ou qui ne sont plus en poste ; elle l’a placé aussi à un poste qu’il n’occupe pas ; les dates d’embauche et les thématiques couvertes n’étaient pas non plus toujours justes.
« Inventer de fausses informations est déjà problématique en soi. Mais, lorsqu’il s’agit de fausses informations sur des personnes, les conséquences peuvent être graves », a commenté l’avocate de NOYB. Pour l’association, il est temps de contraindre OpenAI à se conformer au RGPD, et de considérer le paiement d’une amende.
Le problème soulevé par NOYB n’est pas nouveau. En fait, ce défaut sur le traitement des données personnelles avait commencé à surgir dans les mois qui ont suivi la disponibilité publique de ChatGPT, en novembre 2022. Dès le printemps 2023, des reproches de ce type ont commencé à surgir, aussi bien en Italie qu’en France, ainsi qu’aux États-Unis.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
