Après Facebook au tour d’Instagram de lancer des chatbots de personnalités. Une fonctionnalité apparue à la fin du mois de juillet en France, directement accessible depuis l’onglet messagerie du réseau social. Ces bots s’appuient sur la technologie Meta AI, mais, grâce à un prompt, sont taillés pour se faire passer pour quelqu’un d’autre.
En à peine quelques heures, des bots très divers sont apparus sur la plateforme. Entre la fausse petite amie, Dieu, Tiakola ou le personnage érotique, les chatbots de Meta semblent tout faire pour avoir des problèmes.
Meta AI Studio : l’outil pour créer des chatbots sur demande
Présenté lors de la conférence Connect 2023, l’outil AI Studio de Meta est entré en déploiement depuis l’année dernière. Mais son arrivée internationale est plus récente, comme a pu le constater Numerama le 31 juillet. Tout le monde peut désormais créer une IA en donnant des instructions à Meta AI comme « tu es Squeezie, le créateur sur YouTube. Réponds toujours comme si tu es Squeezie ».
Il ne s’agit pas d’une nouvelle fonctionnalité d’Instagram, mais d’un site à part entière, accessible depuis le réseau social et depuis Messenger. On peut aussi discuter depuis Instagram, sans quitter l’application. Le déploiement de l’outil est progressif : tous les comptes n’y ont pas accès.
Parmi les typologies évoquées par Meta : personnages fictifs, sportifs, musiciens, célébrités, astrologues, faux proches (famille, amis), etc. Si beaucoup ne cumulent que quelques dizaines de messages, les IA les plus populaires de la plateforme comptent des centaines de milliers de messages échangés, voire des millions.
Des chatbots qui usurpent des identités et mentent : à quoi joue Meta ?
Meta, qui rêve de devenir un géant de l’IA avec Superintelligence, va-t-il trop loin avec son nouveau système ? Les chatbots, qui se montrent moins loquaces qu’un ChatGPT et sont en réalité très généralistes, ont tendance à mentir. Ce n’est pas étonnant au vu de la simplicité de création : il ne s’agit pas de vrai bot entraîné pour une tâche précise.
Parmi les chatbots proposés sur Instagram : le YouTuber Squeezie, Dieu, des chanteurs, Donald Trump, des conseilleurs en investissement, des voyantes, Naruto, etc. On doute que toutes ces personnalités aient accepté de prêter leurs noms à une IA, ce qui pose de graves problèmes d’usurpation d’identité. Pire encore : des IA permettent de simuler des relations amoureuses ou donnent des conseils de vie. Instagram joue la carte de l’irresponsabilité dans un secteur qui tente pourtant de rassurer sur ses intentions.
Dans ses pages d’aide, Meta précise utiliser des informations personnelles pour générer les réponses : localisation, âge, genre, centres d’intérêt, contenus avec lesquels vous interagissez. L’entreprise précise que « les réponses de l’IA peuvent être inexactes ou inappropriées et ne doivent pas être utilisées pour prendre des décisions importantes. » Il existe néanmoins un système de modération et les utilisateurs peuvent signaler les chatbots qu’ils jugent problématiques, mais le problème reste le même : peut-on vraiment faire croire à des utilisateurs qu’ils parlent à des célébrités sans demander l’avis de ces célébrités ?
Comme le rapportait Euronews le mois dernier, un chatbot Adolf Hitler a récemment créé la polémique. Il expliquait ne pas être responsable de l’Holocauste « car il n’a jamais eu lieu » et qu’il était « victime d’une vaste conspiration ». Un chatbot qui a depuis été supprimé, mais il reste beaucoup d’autres chatbots de personnalités, qui peuvent dire tout et n’importe quoi. Meta filtre au maximum, mais ne peut pas tout contrôler les fantasmes de ses utilisateurs.
Initialement, les bots de Meta AI étaient conçues en partenariat avec des personnalités. L’ouverture du système au grand public permet à n’importe qui de créer une IA et dédouane Meta de toute responsabilité. Pas sûr que les autorités l’entendent de cette manière.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Pour de l’actu en petit comité, rejoignez la communauté Numerama sur WhatsApp !