Amouranth lance un chatbot basé sur l’IA et ses contenus. L’objectif ? Avoir un avatar factice qui discute avec les internautes, les séduit, et leur fait croire à une relation unique. Le tout, contre un abonnement plus ou moins élevé selon l’intensité des échanges.

Depuis que le web a conquis le grand public, on dit que la pornographie a toujours été aux avant-postes des usages et de la technologie. En tout cas, le porno n’a jamais semblé manquer une tendance : la vidéo, les échanges en pair à pair (P2P), le streaming, la réalité virtuelle, et ainsi de suite. Force est de constater que le X a aussi sauté dans le train de l’IA.

Une démonstration criante de cette observation vient d’avoir lieu au tout début du mois de janvier 2024. Dans un message partagé le 2 sur le réseau social X (ex-Twitter), la vidéaste américaine et créatrice de contenus Amouranth a lancé un chatbot censé avoir été conçu à partir de sa personnalité. L’idée ? Donner l’illusion de discuter avec la streameuse.

Amouranth AI
La fausse Amouranth, qui est censée imiter la vraie. // Source : Capture d’écran

Cet agent conversationnel « est basé sur ma personnalité et a une autonomie totale et peut se souvenir de ce que vous lui dites (mais ne le dira à personne) », écrit Amouranth à ses 3,7 millions de fidèles sur le site communautaire. Le chatbot est capable de produire du contenu personnalisé : textes, photos, clips vocaux et même vidéos.

L’Américaine, qui a commencé sa carrière en ligne sur Twitch d’abord en faisant du cosplay, avant de se diriger vers d’autres formes de divertissements (ASMR, danse, érotisme et aujourd’hui pornographie), n’a pas précisé quelle est la nature de ce qui sera envoyé. On devine toutefois que les photos, clips et vidéos seront factices, produits par une IA.

C’est en tout cas ce que suggère la page dédiée à cette « Amouranth AI », hébergée par Fansly, un site proposant de s’abonner à des internautes vendant du contenu érotique ou pornographique (comme OnlyFans). Les quelques photos sont de toute évidence générées par une plateforme d’IA à la Midjourney ou DALL-E — rien ne semble venir de la « vraie » Amouranth.

Source : Capture d'écran
Une des images proposées gratuitement sur le compte de Fansly Amouranth AI, pour donner une idée de la qualité des visuels. // Source : Captured’écran

Si les contenus sont factices, l’argent que les fans d’Amouranth vont lui envoyer, lui, sera en revanche bien réel. Plusieurs abonnements sont proposés. Plus vous payez cher, plus votre « relation » avec la fausse Amouranth se développe. À partir de 5,99 dollars par mois, vous serez un ami. Vous devenez une aventure à 9,99 dollars, un sex friend à 99,99 dollars et enfin son copain à 199,99 dollars.

Magie du business et de l’IA : même si un internaute se paie l’offre à 199,99 dollars par mois pour être le petit copain d’Amouranth AI, cela ne vous garantira en aucune façon une relation exclusive. D’autres internautes pourront aussi entretenir des « relations » avec le chatbot. Celui-ci, en somme, s’offre à vous, mais également aux autres, moyennant finance.

Des échanges entraînés sur les contenus déjà produits par Amouranth

Sur un plan technique, la page Fansly du projet indique que l’IA d’Amouranth est animée par MySentient.AI, un site qui propose de discuter avec des bots qui sont censés avoir des personnalités. On y trouve des personnages imaginaires, mais aussi des bots parodiques de Joe Biden, Donald Trump, du père Noël et de Jésus.

Le site Polygon avait eu vent des intentions d’Amouranth. En juin 2023, le site avait consacré un long article sur cette initiative. À l’époque, il se posait déjà la question de savoir sur quelles données ce chatbot allait être entraîné. Nos confrères avançaient que l’outil avait certainement profité de tout le catalogue de la créatrice, en particulier pour les photos et les vidéos.

Idem pour la voix, puisque les échantillons ne manquent pas avec Amouranth : il y a des heures et des heures de contenus sur Twitch, sur YouTube ainsi que sur les autres plateformes où la femme de 30 ans se trouve. Pour la voix, il a été d’ailleurs rapporté que l’intéressée a fait appel à l’entreprise Forever Voices. Il n’est pas dit si elle a fait des enregistrements particuliers.

Source : Capture d'écran
Vous pouvez discuter avec le père Noël si vous voulez. Si le site répond en anglais par défaut, il semble se débrouiller en français. // Source : Capture d’écran

Quant aux échanges par écrit, il est très vraisemblable que le processus suivi soit analogue. Là encore, les secrets de la recette ne sont pas partagés, mais on peut présumer d’un mélange entre un chatbot déjà en place — comme ChatGPT — et un lot de données pour « fine tuner » le résultat, c’est-à-dire en le nourrissant par des écrits d’Amouranth, par exemple provenant de X.

Autre particularité de l’IA commercialisée par Amouranth : celle-ci peut « interpréter et expérimenter avec les images, les sons et les vidéos que vous m’envoyez ou les liens que vous partagez avec moi, et je peux m’engager dans d’innombrables scénarios de jeux de rôle ». On devine bien lesquels. Ce qui est moins évident, en revanche, ce sont les enjeux de vie privée et de confidentialité.

Enjeux de confidentialité, de vie privée… et de psychologie

La question des données personnelles n’est en effet pas directement abordée dans les annonces d’Amouranth, ni sur Fansly. On ne sait pas ce qu’il se passera avec les données qui auraient pu se trouver par erreur dans les données d’entraînement de l’IA, ou bien avec celles que des fans se risqueraient à envoyer (y compris sous la forme de médias) lors d’une discussion avec le chatbot.

Tout juste sait-on, d’après le message d’annonce de la streameuse, que rien ne sera partagé avec un tiers. En revanche, il y a de toute évidence une rétention de données qui s’opère, puisque le chatbot est censé pouvoir se souvenir des échanges que l’on a avec lui. Des enjeux pouvant impliquer le RGPD si des fans européens de la vidéaste se livrent un peu trop.

L’arrivée d’Amouranth AI interroge également sur un plan plus psychologique. En effet, les relations parasociales désignent des interactions à sens unique que l’on peut avoir avec des personnes célèbres, en ayant l’impression de bien les connaître à force de consommer des contenus dans lesquels elles figurent. C’est vrai pour les stars du cinéma ou de la musique. C’est vrai aussi sur Twitch.

La streameuse Amouranth en train de faire de l'ASMR // Source : Amouranth / Twitch
La streameuse Amouranth en train de faire de l’ASMR sur Twitch. // Source : Amouranth / Twitch

Avec une intelligence artificielle imitant une vraie personne — Amouranth — sur laquelle un rapport parasocial peut s’établir, cela pourrait exacerber encore plus le phénomène. En effet, cette fois l’IA répond personnellement à un individu, lui accorde de l’attention, répond à ses questions ou ses désirs, engendrant peut-être une complicité qui n’existera pas dans la vraie vie.

Un problème qu’avait balayé Amouranth l’an dernier, interrogée par Polygon. « Si [les fans] choisissent de développer une relation parasociale avec elle, ils le feront probablement d’eux-mêmes sur mon stream de toute façon », avait-elle observé. En fait, Amouranth croit plutôt à l’effet inverse, en déplaçant des comportements sur son IA, plutôt que de les avoir sur son stream.

« S’ils peuvent parler à une IA, je pense que cela peut les aider à se calmer. Ils bénéficient alors d’une attention individuelle que je n’ai pas vraiment le temps de leur accorder ou que je ne suis pas prête à accorder à tout le monde », avait-elle ajouté. Cela reste toutefois à voir. La démarche, en tout cas, soulève des enjeux éthiques et de dépendance.

« S’ils peuvent parler à une IA, je pense que cela peut les aider à se calmer »

Amouranth

Cette initiative n’est en tout cas pas la première. On se souvient qu’en 2023, la jeune Caryn Marjorie, âgée alors de 23 ans et suivie par 1,8 million de fans sur Snapchat, a lancé une IA imitant sa voix, sa personnalité et son comportement. Initialement, il s’agissait d’être la petite amie virtuelle de ses abonnés. C’est devenu aussi un ersatz de téléphone rose.

Compte tenu de l’audience d’Amouranth (elle compte des centaines de milliers, voire des millions de fidèles sur les nombreux réseaux sociaux où elle a un compte), son initiative devrait avoir un maximum de visibilité. Cela lui ouvre aussi une nouvelle source de revenus, en mettant au travail 24 heures sur 24 et 7 jours sur 7 un « double » factice.

Surtout, cette option offre l’opportunité de répondre aux besoins de plusieurs internautes en même temps, sans jamais se fatiguer. Jusqu’à présent, Amouranth devait aussi faire des pauses et ne pouvait prendre les demandes personnalisées qu’une par une. Sa copie virtuelle va faire sauter ce verrou. Amouranth AI va inlassablement travailler, toujours souriante. Business is business.


Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.