Le groupe Meta se retrouve à nouveau confronté à un agent qui prend ses aises.
Fin février, Summer Yue, directrice de la sécurité et de l’alignement de l’IA, racontait de quelle façon un agent OpenClaw (un framework open-source d’agents IA) avait supprimé l’intégralité de sa boîte de réception.
Mi-mars, nouvel incident et nouvelle ampleur. Selon The Information, une alerte interne a été lancée suite à la divulgation d’informations sensibles sur les utilisateurs à des ingénieurs qui n’étaient pas censés y avoir accès. Le couac, qui a duré plus de deux heures, a été confirmé par Meta.
L’agent a été écouté au pied de la lettre
L’incident n’est pas une fuite provoquée directement par un agent IA, c’est un enchaînement de mauvaises décisions, humaines et automatisées. Il intervient pourtant dans un contexte où Meta avait déjà pris des mesures restrictives sur l’utilisation d’OpenClaw en interne.
Les faits ont été détaillés par plusieurs médias américains. Selon eux, un employé a, dans un premier temps, posé une question technique sur un forum interne. Un ingénieur souhaitant l’aider a sollicité un agent IA pour analyser la question et préparer une réponse. Problème, l’agent ne s’est pas contenté de préparer la solution : il l’a publiée directement sur le forum, sans attendre la validation de l’ingénieur.
L’employé, croyant la réponse venir d’un collègue de confiance, a appliqué ses conseils qui se sont avérés dangereux. La manipulation proposée a, en effet, rendu accessibles de grandes quantités de données internes à Meta et liées aux utilisateurs, à des ingénieurs qui n’étaient pas habilités à y accéder. La brèche a duré deux heures avant d’être détectée et contenue.
Meta mise tout de même sur l’IA agentique
Peu d’informations complémentaires ont été communiquées, notamment sur la nature exacte de la question technique, l’action précise que l’employé a exécutée, et le périmètre des données exposées.
Meta a en tout cas classé l’incident en « Sev 1 », le deuxième niveau de gravité le plus élevé dans son système interne d’évaluation des incidents de sécurité.
L’incident ne devrait pas pour autant freiner la stratégie du groupe sur l’IA agentique. Courant mars, Meta a racheté Moltbook, un réseau social conçu pour que des agents OpenClaw communiquent entre eux.
La startup Manus, elle aussi rachetée par Meta, vient par ailleurs de lancer MyComputer : une fonctionnalité qui donne à un agent IA un accès direct à l’ordinateur de ses utilisateurs, à ses fichiers locaux, ses applications et son terminal. Les incidents de sécurité ne semblent pas peser lourd face à la volonté du groupe de se repositionner comme un acteur innovant.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Pour ne rien manquer de l’actualité, suivez Numerama sur Google !