Outre-Atlantique, des associations mais aussi des universitaires sont préoccupés par le développement de certains programmes technologies menés par les géants du numérique. Deux d'entre eux ont récemment provoqué une levée de boucliers : Maven, de Google, et Rekognition, d'Amazon.

Les géants du numérique devraient-ils s’abstenir de mettre à disposition de l’État des technologies pouvant servir à conduire des opérations militaires ou à mettre en place des dispositifs de surveillance ? Cette question, qui n’est pas neuve, semble connaître un regain d’intensité ces dernières semaines, avec deux grandes entreprises du web pointées du doigt pour leur proximité avec les forces de l’ordre.

Ces deux sociétés s’appellent Google et Amazon.

Google Maven

Dans le cas de la firme de Mountain View, c’est le projet Maven qui pose problème, y compris dans les rangs de la firme californienne. En avril, plus de 3 100 employés signaient une lettre à l’attention de Sundar Pichai, le PDG de Google, pour le prier d’annuler ce programme mis en place en partenariat avec le département de la défense des États-Unis, un mois auparavant.

« Nous pensons que Google ne devrait pas être dans le business de la guerre. Par conséquent, nous demandons que le projet Maven soit annulé et que Google rédige, publie et applique une politique qui mentionne clairement que ni Google ni ses prestataires ne construiront jamais des technologies de guerre », écrivent ainsi les signataires du texte.

Et d’ajouter que « nous ne pouvons pas étendre la responsabilité morale de nos technologies à des tiers. Les valeurs affichées par Google le disent clairement : chacun de nos utilisateurs nous fait confiance. Ne les compromettez jamais. Jamais. […] Construire cette technologie pour aider le gouvernement américain dans sa surveillance militaire — et des conséquences potentiellement mortelles — n’est pas acceptable. »

Depuis, certains de ces salariés ont démissionné. Le projet Maven est controversé car il consiste à développer et à fournir au Pentagone une technologie capable d’analyser les images filmées par les drones déployés sur les théâtres d’opération de l’armée américaine. Cette levée de boucliers a depuis été soutenue par des universitaires, qui ont eux aussi publié une lettre ouverte contre Maven.

U.S. Air Force / Paul Ridgeway

Amazon Rekognition

En ce qui concerne Amazon, le problème porte sur Rekognition, un programme au nom évocateur : il s’agit d’un système de reconnaissance faciale sur lequel le spécialiste du e-commerce est en train de travailler. En novembre 2017, la société avait présenté cet outil, expliquant qu’il est capable de reconnaître en temps réel des visages et des textes. Or, l’outil servirait aussi aux autorités américaines.

Le 22 mai, l’Union américaine pour les libertés civiles, une association à but non lucratif, a mis la main sur des documents dans trois États américains qui montrent que les usages de cet outil pourraient violer les libertés civiles. Rekognition est par exemple en mesure d’identifier, suivre et analyser des individus en temps réel, et ce jusqu’à 100 personnes par image.

Rekognition « peut identifier les objets, les personnes, le texte, les scènes et les activités, ainsi que détecter tout contenu inapproprié.[Il] fournit également une analyse faciale et une reconnaissance faciale très précises. Vous pouvez détecter, analyser et comparer des visages pour une grande variété de cas de vérification d’utilisateurs, de comptage de personnes et d’utilisation pour la sécurité publique », lit-on dans la présentation d’Amazon.

Amazon Rekognition
Amazon Rekognition

On est loin de l’ambiance d’il y a deux ans, avec un outil qui permettait par exemple de reconnaître un chien sur une photo, y compris sa race, lorsque l’outil a fait parler de lui pour la première fois en décembre 2016. Mais à l’époque, il était déjà expliqué que l’outil pouvait identifier un visage, un objet, le sexe ou le nombre de personnes à l’image, mais aussi évaluer le type d’émotion et d’humeur apparaissant sur les visages, si ceux-ci sont assez visibles.

Une lettre ouverte a été adressée à Jeff Bezos, le patron d’Amazon, pour l’inviter à arrêter le projet Rekognition. Signée par l’Union américaine pour les libertés civiles mais aussi par des dizaines d’autres organisations et associations, l’Electronic Frontier Foundation, la Freedom of the Press Foundation et Human Rights Watch, la missive pointe les risques de dérives qu’un tel outil peut générer.

« La technologie de reconnaissance faciale comme celle-ci permet au gouvernement d’amplifier la surveillance parmi les minorités ethniques déjà sur contrôlées, de pister en permanence les immigrants, d’identifier et d’arrêter les manifestants et les activistes. Non seulement cette technologie va envahir notre vie privée et alourdir injustement les minorités ethniques et immigrantes, mais elle va aussi affecter notre liberté d’expression », craint l’EFF.

Partager sur les réseaux sociaux