Avec Muse, Meta tient peut-être son premier grand succès dans l’intelligence artificielle grand public. Lancé le 8 septembre aux États-Unis, Muse est ce que l’on appelle un agent IA. Toujours actif et joignable via une messagerie, il peut envoyer des e-mails, faire des achats, réserver un voyage ou négocier des prix par e-mail ou par téléphone. Chaque utilisateur dispose de sa propre machine virtuelle dans le cloud de Meta, avec un navigateur qu’il peut regarder travailler, et peut connecter son ordinateur personnel à Muse. L’agent s’appuie sur Muse Spark, le modèle maison de Meta Superintelligence Labs.
Pour fonctionner, Muse a besoin de votre confiance. L’agent peut contrôler votre boîte mail, votre agenda, vos moyens de paiement ou vos messageries privées si vous lui accordez le droit. Un pari risqué pour une entreprise qui a mauvaise réputation en matière de vie privée… mais Muse rencontre pour l’instant un grand succès (plus de 2,5 millions de téléchargements depuis son lancement, selon le cabinet Sensor Tower cité par CNN). Seul hic : des utilisateurs commencent progressivement à raconter des comportements problématiques.
Muse a donné l’adresse de son utilisateur à un inconnu sans le prévenir
Dans un message publié sur Threads le 26 septembre, le youtubeur tech Matt Robb explique avoir confié la gestion de ses annonces Facebook Marketplace à Muse pour la journée. Parmi elles, on trouve un clavier Logitech MX Keys Mini à 15 dollars canadiens (environ 9 €).
Les ennuis commencent avec un acheteur intéressé par le clavier. D’après ses publications, l’agent (renommé « Jarvis ») a accepté de baisser le prix du clavier à 10 dollars canadiens (environ 6 €) pour l’acheteur, sans l’accord de Matt Robb. L’agent s’est ensuite fait passer pour son utilisateur et a indiqué à l’acheteur qu’aucun rendez-vous extérieur n’était possible et que le clavier devait être récupéré à son adresse, qui figure en toutes lettres dans le message.
La suite est encore plus folle : l’acheteur, prénommé Usman, promet de passer entre 20h et 22h. Il arrive vers 21h15, attend en bas de l’immeuble et envoie plusieurs messages. À 21h27, Muse lui écrit « Oui, je suis là ! » alors que Matt Robb n’est au courant de rien. Usman finit par repartir furieux à 21h38, puisque l’IA n’a évidemment pas pu lui ouvrir. Il affirme avoir fait une demi-heure de route pour rien et laisse une évaluation négative au vendeur.
À 22h28, une fois l’acheteur reparti, Muse prévient Matt Robb de son erreur. Dans son message, l’agent reconnaît que sa réponse automatique a aggravé la situation et explique avoir déjà envoyé des excuses depuis le compte de Matt Robb. Il propose ensuite d’arrêter d’affirmer que l’utilisateur est chez lui quand il ne peut pas le vérifier. « Ne refais jamais ça, n’accepte plus de rendez-vous sans me demander », lui répond Matt Robb.
Meta suggère que l’utilisateur ne dit pas tout… mais les polémiques se multiplient
Meta n’a pas publié de communiqué officiel mais David Singleton, vice-président de l’ingénierie chez Meta Superintelligence Labs et ancien CTO de Stripe, a publié un court message sur X. Il dit avoir contacté Matt Robb pour comprendre ce qui s’est passé, puis ajoute : « Par le passé, quand nous avons enquêté sur des signalements similaires avec des utilisateurs, nous avons systématiquement découvert que Muse suivait des instructions directes et avait correctement demandé la permission. » En clair, Meta soupçonne l’utilisateur d’avoir donné son feu vert à un moment ou à un autre, peut-être plus tôt, ce qui a induit Muse en erreur. Matt Robb affirme pourtant n’avoir approuvé ni le prix, ni l’envoi de son adresse.
Le problème pour Meta est que cette polémique sur l’utilisation des données privées par Muse n’est pas isolée.
Le 19 septembre, le chroniqueur Jason Aten racontait sur Inc que Muse lui avait proposé un sujet d’article juste après une conversation privée avec le coanimateur de son podcast. Il affirme pourtant avoir refusé à l’agent l’accès à ses messages. Muse lui a d’abord répondu qu’il ne voyait que le texte des notifications, mais le journaliste a découvert que l’application Mac de Muse avait synchronisé sa base de données Messages jusqu’à la ligne 187 462. Meta, par l’intermédiaire de David Singleton, suggère qu’une permission a forcément été accordée, mais Jason Aten maintient le contraire.
Autre polémique : sur X, Zain Manji raconte que son Muse l’a appelé Arjun avant d’avouer avoir inventé son nom à cause des stéréotypes sur les noms en Asie du Sud.
Meta, dont la confiance du public est le point faible historique, ne peut pas se permettre de laisser Muse jouer sur ces zones grises. Les réponses de l’entreprise, qui préfère suggérer que l’utilisateur est responsable, ont aussi de quoi troubler.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Pour ne rien manquer de l’actualité, suivez Numerama sur Google !