Le logiciel de visio-conférence a lancé un programme d’analyse par intelligence artificielle des émotions. Le projet est très mal reçu, et s’appuie sur de nombreux points problématiques.

« Discriminatoire », « manipulateur » et « punitif » : c’est ainsi que plus d’une vingtaine d’associations décrivent l’un des nouveaux outils de Zoom. Le logiciel de visio-conférence a en effet publié en avril une nouvelle offre, appelé « Zoom IQ for Sales », présenté simplement comme un outil d’« intelligence conversationnelle » destiné aux équipes de vendeurs pour les aider à négocier. Mais dans les faits, IQ for Sales est bien plus que cela.

C’est pour dénoncer l’utilisation cet outil que les différents groupes de défense de droits de l’homme ont écrit une lettre ouverte. Ils font part de leur inquiétude sur le futur de cette technologie, expliquant qu’elle représente un risque pour la vie privée des utilisateurs, et qu’elle serait en partie basée sur des « pseudo-sciences ». Ils demandent à Zoom de faire marche arrière et de renoncer à IQ for Sales.

Capture d’écran 2022-05-13 à 17.32.57
Zoom propose des outils d’analyse d’émotion // Source : Zoom

Que propose Zoom IQ for Sales ?

Que fait véritablement Zoom IQ for Sakes? Sur son site, Zoom est assez avare en détail. Le logiciel se contente de dire que l’outil est destiné avant tout aux équipes de vendeurs, qui pourraient s’en servir pour améliorer leurs performances grâce à des « indicateurs ». Ces indicateurs « analysent les interactions avec les clients pour faire remonter certaines données », explique Zoom sur son site.

Sur une autre page, dans laquelle est décrite avec plus de précision IQ for Sales, on apprend que l’outil fait « une analyse post-réunion qui présente les temps forts de la transcription ainsi que les taux de sentiment et d’engagement ». Il est également question de « données regroupées », qui « permettent de donner du contexte » et qui seraient utilisées pour « connaître le nombre d’interactions, la concurrence et les sentiments des clients ».

Ce n’est que plus bas dans la page qu’on apprend que les informations fournies par IQ for Sales sont « le rapport parole/écoute, la vitesse d’élocution, la patience, l’utilisation de mots de remplissage, l’analyse des sentiments ». Plus précisément, l’analyse des sentiments serait utilisée afin de « découvrir quels sont les concurrents qui parlent le plus de vous, pourquoi vous gagnez ou perdez face à eux et quels sentiments leur sont communément associés ».

Ce sont les deux seules phrases qui mentionnent la collection de données sur Zoom, et cette fameuse analyse des sentiments. Il n’y a pas plus de détails sur comment ces données seraient collectées précisément, ni quand, ni dans quelles conditions. Il n’est jamais précisé comment elles seraient analysées. Et c’est tout cela que la lettre ouverte reproche à Zoom.

zoommeeting
Un meeting sur Zoom // Source : Compare Fibre / Unsplash

Les problèmes associés et dénoncés par les groupes

La lettre ouverte dénonce le fait que Zoom « récolte les données des utilisateurs », mais elle souligne surtout le fait que toute la promesse d’analyse des sentiments est « basée sur une idée fausse, qui est qu’une intelligence artificielle peut traquer et analyser les émotions humaines ». Il s’agit pour eux d’une « violation de la vie privée et des droits humains », et les auteurs de la lettre ouverte appellent Zoom à « cesser ses plans concernant cette fonctionnalité ».

Il est vrai qu’une telle technologie ne semble pas complètement compatible avec la vie privée des internautes — et le fait que Zoom ne précise pas les conditions d’utilisation de IQ for Sales sur son site invite à la prudence. Si on peut se douter qu’il y aura des limites dans l’utilisation, et qu’il faudra donner son consentement avant d’être filmés, cette notion peut néanmoins mettre mal à l’aise. C’est d’autant plus le cas que Zoom destine cette fonctionnalité pour les professionnels : sera-t-il vraiment possible de ne pas l’utiliser si jamais les managers d’une entreprise l’obligent ?

Les auteurs de la lettre soulignent en plus le fait que l’analyse des sentiments par intelligence artificielle est basée sur une « pseudo-science ». « Les expressions faciales sont souvent déconnectées des véritables émotions ressenties, et des études ont prouvé que même des humains ne peuvent pas toujours prédire avec exactitudes les émotions des personnes en face d’eux », indiquent les auteurs. « Développer cet outil ajoute de la crédibilité à cette pseudo-science », et « remet en cause votre réputation » avertissent-ils Zoom.

Pour l’instant, Zoom n’a pas encore officiellement répondu à la lettre ouverte. Mais ces auteurs semblent cependant avoir bon espoir : « c’est une opportunité de monter que vous vous souciez de vos utilisateurs et de votre réputation. Zoom est l’un des leaders de l’industrie, et des millions de personnes comptent sur vous pour guider notre futur digital ».