Un plaignant prétendument diffamé par un chatbot génératif peut-il poursuivre en justice la société à l’origine de l’outil ? La Cour supérieure du comté de Gwinnett en Géorgie va devoir trancher. Mark Walters, animateur de radio, poursuit OpenAI après que ChatGPT a inventé de fausses accusations à son encontre.
La plainte déposée le 5 juin pourrait constituer la première affaire de diffamation contre une intelligence artificielle (en l’occurrence contre son développeur, ici OpenAI). Alors que de nombreuses personnes sont victimes directes ou indirectes des hallucinations de ChatGPT, la plainte pourrait préciser le droit américain en la matière et clarifier la responsabilité des éditeurs d’IA.
Les mensonges de ChatGPT
Mark Walters n’a pas constaté lui-même les « mensonges » de ChatGPT. C’est Fred Riehl, rédacteur en chef d’un média spécialisé dans les armes à feu, qui a mis en lumière les tromperies de l’IA, alors qu’il tentait de résumer une affaire judiciaire autour du Procureur général de Washington, Bob Ferguson. Le journaliste aurait soumis à ChatGPT le lien vers un PDF de la plainte. L’IA aurait alors synthétisé l’affaire en incluant des éléments « faux » au sujet de l’animateur radio, lui-même pro-armes et habitué aux déclarations clivantes.
Selon le résumé produit par ChatGPT, Mark Walters serait accusé d’avoir détourné plus de 5 millions de dollars d’une organisation à but non lucratif (Second Amendment Foundation, une fondation de soutien aux armes à feu à laquelle il est relié). Une accusation vraisemblablement inventée, selon l’animateur et ses proches. Le journaliste a ensuite appelé Mark Walters pour l’informer des mensonges de l’intelligence artificielle.
La plainte déposée contre OpenAI accuse l’entreprise d’allégations « fausses et malveillantes (…) tendant à nuire à la réputation de Walters et l’exposant à la haine publique, au mépris ou au ridicule ».
La « négligence d’OpenAI »
Le document accuse OpenAI d’avoir fait preuve de « négligence dans sa communication à Riehl concernant Walters. » Le chatbot développé par la start-up « savait ou aurait dû savoir que sa communication à Riehl concernant Walters était fausse, ou a négligé de manière imprudente la fausseté de la communication. » Mark Walters demande réparation à OpenAI, sous forme de dommages-intérêts.
Pour l’heure, aucun précédent juridique aux États-Unis ne semble pouvoir aider les juges dans leur décision. Dans sa version web, l’interface de ChatGPT précise que l’IA « peut produire des informations inexactes sur des personnes, des lieux ou des faits .» Un disclaimer qui pourrait ne pas suffire à disculper totalement OpenAI.
Une plainte irrecevable ?
Comme le rappellent nos confrères de The Verge, la section 230 du Communications Act (le texte réglementaire en vigueur) protège les éditeurs de services en ligne des informations produites par autrui sur leurs plateformes. Toute la question est de savoir si le texte peut s’appliquer aux IA génératives et à leurs hallucinations.
Les juges amenés à trancher pourraient créer un précédent juridique qui s’appliquerait alors aux prochaines affaires en la matière. Dans une note publiée sur Reason.com, le constitutionnaliste américain Eugene Volokh affirme que de « telles poursuites en diffamation sont en principe juridiquement recevables. »
Dans le cas présent, la plainte pourrait toutefois ne pas être jugée recevable en raison de l’absence de « dommages réels » pour Mark Walters. De même, la volonté de nuire semble difficile à retenir contre OpenAI.
Nouveauté : Découvrez
La meilleure expérience de Numerama, sans publicité,
+ riche,
+ zen,
+ exclusive.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
