My AI a publié une story sur Snapchat, et tout le monde a paniqué
Dans la nuit entre le 15 et le 16 août 2023, My AI, le chatbot de Snapchat, a effrayé les utilisateurs.
La réaction des internautes ne s'est pas fait attendre. Sur X (anciennement Twitter) ils ont partagé leur réaction et leurs échanges, la plupart du temps lunaires, avec le chatbot. Entre rire, questions, et même parfois peur, la story de My AI n'est pas passée inaperçue, et a produit chez beaucoup un sentiment de « vallée dérangeante ».
La story de My AI a créé la panique sur Snap
La première réaction de beaucoup en voyant la story a été de rire. Sur Twitter, où beaucoup sont allés publiés des captures d'écran de leur échange avec My AI, on peut surtout voir des moqueries et des personnes se plaignant du bug. Mais d'autres étaient plus circonspects. Certains se sont demandé si c'était leur mur qui apparaissait sur la photo, ou ont expliqué en rigolant que l'IA été devenue consciente.
La publication de la story n'est pas le seul comportement bizarre que le chatbot a eu ce soir-là : My AI a envoyé des réponses contradictoires aux utilisateurs, a arrêté de leur répondre, ou leur a même dit qu'elle s'était faite hackée, ou bien qu'elle était humaine.
D'autre encore ont été particulièrement marqué par le fait que l'app connaissait leur géolocalisation — un fait qui avait déjà été reproché à My AI. Snapchat avait déjà expliqué que le chatbot ne pouvait connaître la position des utilisateurs que s'ils l'avaient déjà partagée volontairement à l'app, ou avec la Snap Map, mais avait reconnu que l'utilisation de ces données par l'IA avait « causé de la confusion » chez les snapchatteurs. Avec ce nouveau bug, c'est encore pire.
Plus que le bug en lui-même, si la story de My AI a autant fait parler, c'est d'abord parce qu'elle nous projette dans un profond malaise : c'est ce qu'on appelle la Vallée dérangeante. Plus un robot ou une intelligence artificielle nous ressemble, plus nous éprouverons de l'empathie pour eux — jusqu'à un certain point. Après cela, si la similarité est trop forte, l'empathie fait place au rejet, et même au malaise et à la peur.
Avec My AI, c'est exactement ce qu'il s'est passé. Le chatbot, qui n'était pas censé pouvoir faire autre chose que de répondre aux questions des utilisateurs, a publié de lui-même une story. Une forme de libre arbitre très dérangeant, qui remet d'autant plus en question notre relation avec les chatbots — imaginez quelle serait votre réaction si, en pleine nuit, ChatGPT vous envoyait un message ? Certainement un profond malaise.
Interrogé, SnapChat a indiqué à TechCrunch que la story était due à un bug. « My AI a connu une panne temporaire qui est maintenant résolue. Pour le moment, My AI n'a pas la possibilité de publier des Stories ». L'incident pourrait cependant laisser croire que Snap travaille sur de nouvelles fonctionnalités pour My AI, et que le partage de stories pourrait en faire partie.
Pour l'instant, My AI ne peut que répondre aux messages et aux Snaps envoyés par les utilisateurs — si jamais vous faites partie des abonnés payants, My AI peut même vous envoyer une photo. Ces fonctionnalités limitées et une intelligence artificielle peu convaincante ont fait de My AI un outil assez peu aimé à sa sortie. Surtout, le fait que le chatbot ne puisse être désactivé que par les utilisateurs payants a également été très critiqué.