OpenAI a instruit ChatGPT sans se soucier du droit d’auteur
Pour produire des résultats cohérents et précis, les intelligences artificielles passent par une phase d'apprentissage intense (deep learning).
Ainsi, lorsqu’on interroge ChatGPT sur ses données d'entraînement, le chatbot assure avoir emmagasiné des articles de journaux, de nombreux sites web, des corpus de textes spécifiques (universitaire ou collaboratif notamment), des conversations réelles (apprentissage par renforcement) ou encore des livres.
Pour mieux comprendre le processus d'apprentissage et ses conséquences sur les réponses générées par l'IA, une équipe de chercheurs de l'Université de Californie à Berkeley (Kent Chang, Mackenzie Cramer, Sandeep Soni, et David Bamman) ont étudié la liste probable des livres connus par ChatGPT et GPT-4.
« Nous avons découvert que les modèles d'OpenAI ont mémorisé une vaste collection de matériaux protégés par le droit d'auteur et que le degré de mémorisation est lié à la fréquence à laquelle des extraits de ces livres apparaissent sur le web », expliquent les universitaires au sein d'un article scientifique publié le 28 avril.
Des livres surreprésentés
Pour parvenir à cette conclusion, les scientifiques sont parvenus à identifier une liste de 572 livres crawlés par les modèles d'OpenAI. Des titres ensuite classés par précision des connaissances sur l’œuvre. Ainsi, les auteurs notent que les livres de Science-fiction, de Fantasy et les best-sellers dominent le classement. Les livres tombés dans le domaine public (avant 1923) apparaissent également en bonne place, ce qui est plus logique.
Les chercheurs attribuent cette domination des genres populaires à la récurrence des textes dans les données d'apprentissage de l'IA. On retrouve ainsi des classiques, ancrés depuis de longues années dans la culture populaire :
Les Aventures d'Alice au pays des merveilles de Lewis Carroll
Harry Potter à l'école des sorciers de J.K. Rowling
La Lettre écarlate de Nathaniel Hawthorne
Les Aventures de Sherlock Holmes d'Arthur Conan Doyle
Emma de Jane Austen
Frankenstein ou le Prométhée moderne de Mary Shelley
Orgueil et Préjugés de Jane Austen
Oliver Twist de Charles Dickens
Bartleby le scribe d'Herman Melville
Les Aventures de Huckleberry Finn de Mark Twain
Où s’arrête le droit d'auteur ?
Des œuvres surreprésentées dans la « mémoire » des modèles d'OpenAI peuvent-elles biaiser les analyses et les réponses de ChatGPT ? Utilisées dans le cadre d'un travail de recherche précis, les réponses de l'IA peuvent fausser les résultats finaux.
Les chercheurs soulignent l’ambiguïté actuelle relative qui existe sur le droit d'auteur. Bien que l'IA ne mémorise pas entièrement les textes d'entraînement, cette dernière pourrait générer des passages similaires, voire identiques aux sources d'apprentissage.
Les questions de copyright soulevées par les chercheurs rappellent le cas de Stable Diffusion dont les modèles d'image se sont entraînés sur de nombreuses bases d'images propriétaires. En janvier 2023, Getty Images avait intenté une action judiciaire contre l'entreprise, l'accusant d'avoir « copié et analysé illégalement des millions de photos protégées par copyright .»
Les conclusions des chercheurs de Berkeley relancent le besoin d'une législation claire en la matière.