Amazon n'entend pas renoncer à Rekognition, son outil de reconnaissance faciale. Le groupe entend toujours le proposer aux autorités, malgré les protestations de salariés, d'associations et d'actionnaires.

Amazon n’entend pas dévier d’un iota de sa trajectoire, malgré la vive polémique sur Rekognition. Alors que les voix lui demandant de ne pas mettre à disposition du gouvernement américain sa technologie de reconnaissance faciale sont de plus en plus nombreuses, le géant du commerce électronique — dont les activités se sont bien diversifiées depuis — persiste et signe.

Au cours d’un échange avec des employés, dont The Verge se fait l’écho ce 8 novembre 2018, la direction d’Amazon a en effet défendu le bien-fondé de Rekognition et prévenu que ce système continuerait à être commercialisé auprès des autorités. « Nous sommes très fiers de la valeur que Rekognition apporte à nos clients de toutes tailles et de tous types d’industries dans le domaine du maintien de l’ordre et en dehors de celui-ci. »

À l’origine de cette réponse se trouvait une question dans laquelle un salarié du groupe se demandait comment Amazon accueillait les « préoccupations exprimées par les employés d’Amazon et les groupes de défense des droits civils »  en rapport avec « la vente de la technologie de reconnaissance faciale d’Amazon aux organisations gouvernementales et policières, dont l’agence de police douanière américaine  ».

Amazon Rekognition
La présentation de Rekognition, par Amazon.

Reconnaissance en temps réel par les autorités américaines

Initialement, Rekognition a été dévoilé en décembre 2016. À l’époque, Amazon expliquait pouvoir identifier un visage, un objet, le sexe ou le nombre de personnes à l’image, mais aussi évaluer le type d’émotion et d’humeur apparaissant sur les visages, si ceux-ci sont assez visibles. Et déjà, Amazon expliquait que son outil pouvait servir « dans plusieurs contextes d’authentification et de sécurité différents ».

Un an plus tard, Amazon a reparlé de Rekognition, expliquant que son système est aussi en mesure de reconnaître en temps réel des visages et des textes — ce qui n’est pas inutile en matière de surveillance menée au nom de la sécurité publique, si l’on couple ce dispositif avec un réseau de caméras de surveillance (ce qui est l’une des grandes craintes de la CNIL en France).

Or, selon des documents récupérés par des associations, il s’avère que Rekognition sert déjà aux autorités américaines. L’outil est actif dans quelques États fédérés et il a été rapporté dans les médias que les forces de police en Floride et dans l’Oregon l’utilisent. Le système est puissant : il peut identifier, suivre et analyser des individus en temps réel, et ce jusqu’à 100 personnes par image.

Le problème des faux positifs

Le problème, c’est que le dispositif rencontre à d’importants faux positifs. Il a ainsi été mis en lumière que des membres du Congrès américain ont été identifiés à tort comme des criminels. En outre, un biais raciste a été remarqué dans son traitement des visages, ce qui pourrait générer des incidents avec les minorités ethniques, déjà sur-contrôlées, ainsi qu’avec les migrants.

Les manifestants et les activistes pourraient aussi en subir les effets négatifs, tout comme la population en général, car le fait de savoir d’être sous surveillance est susceptible d’inhiber plus ou moins fortement la liberté d’expression.

L’outil est accusé de fournir des faux positifs. // Source : ACLU

Des considérations qui ne semblent pas émouvoir Amazon, en tout cas pas assez pour le faire dévier de sa route. Pourtant, les appels à renoncer ont été multiples au cours des derniers mois, à commencer par les associations de défense des libertés civiles. Même chez les actionnaires, le malaise est palpable : plusieurs d’entre eux ont aussi réclamé l’arrêt de ce projet. Ou du moins, sa réorientation.

La ligne que tient Amazon en la matière diverge en tout cas de celle que Google suit depuis quelque temps. La firme de Mountain View, qui a aussi connu une vive controverse en début d’année avec le programme Maven, qui visait à aider l’armée américaine dans ses projets de surveillance, a, elle, fait machine arrière devant la grande de son personnel, mais aussi de l’ampleur que prenait l’affaire dans les médias.

Elle a même renoncé à un appel d’offres du Pentagone estimé 10 milliards de dollars.

Partager sur les réseaux sociaux