Depuis que le web a conquis le grand public, on dit que la pornographie a toujours été aux avant-postes des usages et de la technologie. En tout cas, le porno n’a jamais semblé manquer une tendance : la vidéo, les échanges en pair à pair (P2P), le streaming, la réalité virtuelle, et ainsi de suite. Force est de constater que le X a aussi sauté dans le train de l’IA.
Une démonstration criante de cette observation vient d’avoir lieu au tout début du mois de janvier 2024. Dans un message partagé le 2 sur le réseau social X (ex-Twitter), la vidéaste américaine et créatrice de contenus Amouranth a lancé un chatbot censé avoir été conçu à partir de sa personnalité. L’idée ? Donner l’illusion de discuter avec la streameuse.
Cet agent conversationnel « est basé sur ma personnalité et a une autonomie totale et peut se souvenir de ce que vous lui dites (mais ne le dira à personne) », écrit Amouranth à ses 3,7 millions de fidèles sur le site communautaire. Le chatbot est capable de produire du contenu personnalisé : textes, photos, clips vocaux et même vidéos.
L’Américaine, qui a commencé sa carrière en ligne sur Twitch d’abord en faisant du cosplay, avant de se diriger vers d’autres formes de divertissements (ASMR, danse, érotisme et aujourd’hui pornographie), n’a pas précisé quelle est la nature de ce qui sera envoyé. On devine toutefois que les photos, clips et vidéos seront factices, produits par une IA.
C’est en tout cas ce que suggère la page dédiée à cette « Amouranth AI », hébergée par Fansly, un site proposant de s’abonner à des internautes vendant du contenu érotique ou pornographique (comme OnlyFans). Les quelques photos sont de toute évidence générées par une plateforme d’IA à la Midjourney ou DALL-E — rien ne semble venir de la « vraie » Amouranth.
Si les contenus sont factices, l’argent que les fans d’Amouranth vont lui envoyer, lui, sera en revanche bien réel. Plusieurs abonnements sont proposés. Plus vous payez cher, plus votre « relation » avec la fausse Amouranth se développe. À partir de 5,99 dollars par mois, vous serez un ami. Vous devenez une aventure à 9,99 dollars, un sex friend à 99,99 dollars et enfin son copain à 199,99 dollars.
Magie du business et de l’IA : même si un internaute se paie l’offre à 199,99 dollars par mois pour être le petit copain d’Amouranth AI, cela ne vous garantira en aucune façon une relation exclusive. D’autres internautes pourront aussi entretenir des « relations » avec le chatbot. Celui-ci, en somme, s’offre à vous, mais également aux autres, moyennant finance.
Des échanges entraînés sur les contenus déjà produits par Amouranth
Sur un plan technique, la page Fansly du projet indique que l’IA d’Amouranth est animée par MySentient.AI, un site qui propose de discuter avec des bots qui sont censés avoir des personnalités. On y trouve des personnages imaginaires, mais aussi des bots parodiques de Joe Biden, Donald Trump, du père Noël et de Jésus.
Le site Polygon avait eu vent des intentions d’Amouranth. En juin 2023, le site avait consacré un long article sur cette initiative. À l’époque, il se posait déjà la question de savoir sur quelles données ce chatbot allait être entraîné. Nos confrères avançaient que l’outil avait certainement profité de tout le catalogue de la créatrice, en particulier pour les photos et les vidéos.
Idem pour la voix, puisque les échantillons ne manquent pas avec Amouranth : il y a des heures et des heures de contenus sur Twitch, sur YouTube ainsi que sur les autres plateformes où la femme de 30 ans se trouve. Pour la voix, il a été d’ailleurs rapporté que l’intéressée a fait appel à l’entreprise Forever Voices. Il n’est pas dit si elle a fait des enregistrements particuliers.
Quant aux échanges par écrit, il est très vraisemblable que le processus suivi soit analogue. Là encore, les secrets de la recette ne sont pas partagés, mais on peut présumer d’un mélange entre un chatbot déjà en place — comme ChatGPT — et un lot de données pour « fine tuner » le résultat, c’est-à-dire en le nourrissant par des écrits d’Amouranth, par exemple provenant de X.
Autre particularité de l’IA commercialisée par Amouranth : celle-ci peut « interpréter et expérimenter avec les images, les sons et les vidéos que vous m’envoyez ou les liens que vous partagez avec moi, et je peux m’engager dans d’innombrables scénarios de jeux de rôle ». On devine bien lesquels. Ce qui est moins évident, en revanche, ce sont les enjeux de vie privée et de confidentialité.
Enjeux de confidentialité, de vie privée… et de psychologie
La question des données personnelles n’est en effet pas directement abordée dans les annonces d’Amouranth, ni sur Fansly. On ne sait pas ce qu’il se passera avec les données qui auraient pu se trouver par erreur dans les données d’entraînement de l’IA, ou bien avec celles que des fans se risqueraient à envoyer (y compris sous la forme de médias) lors d’une discussion avec le chatbot.
Tout juste sait-on, d’après le message d’annonce de la streameuse, que rien ne sera partagé avec un tiers. En revanche, il y a de toute évidence une rétention de données qui s’opère, puisque le chatbot est censé pouvoir se souvenir des échanges que l’on a avec lui. Des enjeux pouvant impliquer le RGPD si des fans européens de la vidéaste se livrent un peu trop.
L’arrivée d’Amouranth AI interroge également sur un plan plus psychologique. En effet, les relations parasociales désignent des interactions à sens unique que l’on peut avoir avec des personnes célèbres, en ayant l’impression de bien les connaître à force de consommer des contenus dans lesquels elles figurent. C’est vrai pour les stars du cinéma ou de la musique. C’est vrai aussi sur Twitch.
Avec une intelligence artificielle imitant une vraie personne — Amouranth — sur laquelle un rapport parasocial peut s’établir, cela pourrait exacerber encore plus le phénomène. En effet, cette fois l’IA répond personnellement à un individu, lui accorde de l’attention, répond à ses questions ou ses désirs, engendrant peut-être une complicité qui n’existera pas dans la vraie vie.
Un problème qu’avait balayé Amouranth l’an dernier, interrogée par Polygon. « Si [les fans] choisissent de développer une relation parasociale avec elle, ils le feront probablement d’eux-mêmes sur mon stream de toute façon », avait-elle observé. En fait, Amouranth croit plutôt à l’effet inverse, en déplaçant des comportements sur son IA, plutôt que de les avoir sur son stream.
« S’ils peuvent parler à une IA, je pense que cela peut les aider à se calmer. Ils bénéficient alors d’une attention individuelle que je n’ai pas vraiment le temps de leur accorder ou que je ne suis pas prête à accorder à tout le monde », avait-elle ajouté. Cela reste toutefois à voir. La démarche, en tout cas, soulève des enjeux éthiques et de dépendance.
« S’ils peuvent parler à une IA, je pense que cela peut les aider à se calmer »
Amouranth
Cette initiative n’est en tout cas pas la première. On se souvient qu’en 2023, la jeune Caryn Marjorie, âgée alors de 23 ans et suivie par 1,8 million de fans sur Snapchat, a lancé une IA imitant sa voix, sa personnalité et son comportement. Initialement, il s’agissait d’être la petite amie virtuelle de ses abonnés. C’est devenu aussi un ersatz de téléphone rose.
Compte tenu de l’audience d’Amouranth (elle compte des centaines de milliers, voire des millions de fidèles sur les nombreux réseaux sociaux où elle a un compte), son initiative devrait avoir un maximum de visibilité. Cela lui ouvre aussi une nouvelle source de revenus, en mettant au travail 24 heures sur 24 et 7 jours sur 7 un « double » factice.
Surtout, cette option offre l’opportunité de répondre aux besoins de plusieurs internautes en même temps, sans jamais se fatiguer. Jusqu’à présent, Amouranth devait aussi faire des pauses et ne pouvait prendre les demandes personnalisées qu’une par une. Sa copie virtuelle va faire sauter ce verrou. Amouranth AI va inlassablement travailler, toujours souriante. Business is business.
Cet article existe grâce à
Cet article a pu voir le jour grâce au financement de nos adhérent·e·s, offrant le temps et les ressources nécessaires à la production d’une information de qualité. Numerama+ permet à Numerama de rester gratuit et éviter de verrouiller le web derrière un mur payant.
Zéro publicité, meilleur confort de lecture, articles résumés par l’I.A et plus encore... Si vous souhaitez soutenir la mission de Numerama et profiter de nombreux avantages exclusifs, adhérez à Numerama+.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
