Zoom entraîne-t-il son IA à notre insu pendant les visios ?

Le logiciel de visio-conférence est accusé d’utiliser les données de ses usagers sans leur demander la permission pour entraîner sa propre intelligence artificielle. L’entreprise a publié un message pour s’expliquer.

Zoom s’est lancé dans l’intelligence artificielle — et cela ne plaît pas à tout le monde. Depuis le début du mois d’août 2023, l’entreprise qui édite le logiciel de visio-conférence est la cible de critiques sur son utilisation de l’IA. Tout est parti d’une publication sur le forum Hacker News le 6 août 2023, qui indique que les conditions d’utilisation de Zoom permettent désormais au logiciel de s’entraîner avec de l’IA avec le contenu des utilisateurs — sans qu’il soit possible de refuser.

La nouvelle enflamme le forum, et plusieurs journaux spécialisés reprennent l’information. La réaction est si négative que le lundi 7 août, la cheffe de produit Smita Hashim est obligée de se fendre d’un billet, expliquant en détail les modalités d’application de l’IA — et contredisant au passage ses conditions d’utilisation. Que se passe-t-il réellement avec l’intelligence artificielle sur Zoom ?

L'interface de Zoom // Source : Zoom — L’interface de Zoom // Source : Zoom

Les règles de Zoom incluent l’utilisation de l’IA

Les conditions d’utilisation de Zoom mentionnent l’intelligence artificielle à trois reprises. Elles précisent qu’en utilisant le logiciel, les utilisateurs donnent leur accord pour que :

« Zoom accède, utilise, collecte, crée, modifie, distribue, traite, partage, entretienne et stocke les données générées par les services à toutes fins, […] y compris d’apprentissage automatique ou d’intelligence artificielle (notamment à des fins d’entraînement et de réglage d’algorithmes et de modèles) » ;
« Zoom ait une licence perpétuelle, mondiale[…] pour redistribuer, publier, importer, accéder, utiliser, stocker, transmettre, réviser, divulguer, préserver, extraire, modifier, reproduire, partager, utiliser, afficher, copier, distribuer, traduire, transcrire, créer des œuvres dérivées et traiter le Contenu Client […] à des fins de développement de produits et de services, de marketing, d’analyse, d’assurance qualité, d’apprentissage automatique, d’intelligence artificielle, de formation, de test […] ».

Les conditions d’utilisation sont plutôt claires sur le fait que les données des utilisateurs (aussi appelé « Contenu Client ») puissent être réutilisées plus ou moins comme bon leur semble, étant donné la liste impressionnante de choses que Zoom s’autorise à faire. Il est cependant moins clair ce que Zoom entend précisément par « Contenu Client ».

Zoom n’utilise qu’un certain type de donnée

Après la publication sur le forum Hacker News, Smita Hashim a essayé de rectifier le tir, et a publié un long message explicatif. « Pour l’IA, nous n’utilisons pas de contenu audio, vidéo ou de chat pour former nos modèles sans le consentement du client », y écrit-elle. Smita Hashim précise également que Zoom « n’utilise pas le contenu des clients, y compris les contenus pédagogiques ou les données de santé pour former ses modèles d’intelligence artificielle sans le consentement des utilisateurs ».

Peu après la publication de l’article, les conditions d’utilisation de Zoom sont d’ailleurs amendées, afin de rajouter en gras une nouvelle ligne : « nonobstant ce qui précède, Zoom n’utilisera pas le Contenu Client audio, vidéo ou de chat pour entraîner nos modèles d’intelligence artificielle sans votre consentement ».

Cela ne veut cependant pas dire que Zoom n’utilise pas du tout d’intelligence artificielle. Smita Hashim précise ainsi que le logiciel utilise l’apprentissage automatique pour « analyser les invitations et les rappels de webinaires », afin de s’assure que le service n’est pas « utilisé pour spammer ou frauder les participants ».

Zoom a également mis en place deux autres fonctionnalités ayant recours à de l’intelligence artificielle : Zoom IQ Meeting Summary et Zoom IQ Team Chat Compose. Ces deux options proposent de faire des résumés des réunions, et d’aider à la composition des messages dans le chat. C’est aux propriétaires de comptes de décider ou non d’activer ces fonctionnalités, écrit Smita Hashim. « Lorsque vous choisissez de les activer, un processus de consentement transparent vous sera également présenté pour l’entraînement de nos modèles d’IA à l’aide du contenu de vos clients. Votre contenu est utilisé uniquement pour améliorer les performances et la précision de ces services d’IA. Et même si vous décidez de partager vos données, elles ne seront pas utilisées pour l’entraînement de modèles tiers. »

Zoom peut avoir accès à des données d’utilisateurs

Le texte de Smita Hashim tente de rassurer les utilisateurs. Mais dans les faits, les choses sont légèrement différentes. Numerama a fouillé tous les réglages disponibles sur Zoom, et il n’y a pas d’option possible pour faire en sorte que ses données ne soient jamais utilisées pour de l’entraînement d’IA.

Et même si Zoom IQ est optionnel, d’autres réglages peuvent poser problème. Numerama n’a pas trouvé d’options relatives à Zoom IQ dans les réglages — il semblerait que les fonctionnalités ne soient pas encore disponibles en France. Mais d’après Gizmodo, qui a pu les tester, leur utilisation n’est pas toujours transparente.

Lorsque vous activez Zoom IQ, écrit le journal, la page montre une petite case, cochée par défaut. Or, « si vous ne prenez pas la peine de la modifier, vous acceptez que l’entreprise recueille des données pour construire et améliorer son IA ». Ensuite, « lorsqu’un appel démarre avec Zoom IQ activé, les autres participants à l’appel reçoivent une notification », les prévenant qu’une option a été activée. Le message indique que « le propriétaire du compte peut autoriser Zoom à accéder à vos données et au contenu généré par l’IA et à les utiliser dans le but de fournir la fonctionnalité et d’améliorer le produit Zoom IQ, y compris la formation des modèles ».

Les interlocuteurs, même s’ils n’ont pas eux-mêmes activé l’option Zoom IQ, se retrouvent donc dans une situation où leurs données peuvent être utilisées pour entraîner de l’intelligence artificielle. Les participants à l’appel ont, à ce moment-là, deux options. « Un bouton ‘Quitter la réunion’, qui apparaît en gris, ou un bouton plus joyeux, bleu vif, qui dit ‘J’ai compris’ », explique Gizmodo. Dans le cadre d’un entretien d’embauche, ou bien pour des raisons professionnelles ou d’éducation, il peut être difficile de dire non à un tel appel. Certaines personnes peuvent donc se retrouver obligées de donner accès à Zoom à leurs données.