Les appels demandant aux grandes entreprises de ne pas proposer leurs outils de reconnaissance faciale au gouvernement se font de plus en plus clairs aux États-Unis. Mardi 15 janvier, une coalition de 85 organisations a adressé une lettre ouverte à Google, Amazon et Microsoft leur demandant de s’engager à ne pas vendre de technologie de surveillance faciale au pouvoir.
« Les dangers de la surveillance faciale ne peuvent être pleinement traités qu’en mettant fin à son utilisation par les gouvernements. Cette technologie offre à l’exécutif une capacité sans précédent de savoir qui nous sommes, où nous sommes, ce qu’on fait, et qui on connaît », lit-on dans chacune des lettres. Tout particulièrement, ce sont les minorités qui en souffriront le plus.
Parmi les signataires, on retrouve l’Union américaine pour les libertés civiles (ACLU), l’ONG Access Now, l’Electronic Frontier Foundation (EFF), qui est spécialisée dans les droits des individus dans l’environnement numérique, l’ONG Demand Progress, la Freedom of the Press Foundation, dans laquelle se trouve notamment le lanceur d’alerte Edward Snowden, et Human Rights Watch.
L’association des caméras de surveillance à la reconnaissance faciale est source d’inquiétude. // Source : Jonathan McIntosh
Une prise de conscience chez Google et Microsoft ?
« Ce pouvoir s’accompagne de la capacité de cibler et de distinguer les immigrants, les minorités religieuses et les personnes de couleur dans nos collectivités. Les systèmes fondés sur la surveillance faciale amplifieront et exacerberont les préjugés historiques et existants qui nuisent à ces collectivités et à d’autres collectivités trop contrôlées et sur-surveillées », poursuit le courrier.
La lettre est adressée aux principaux dirigeants de ces trois entreprises, en particulier à Jeff Bezos pour Amazon, Satya Nadella pour Microsoft et Sundar Pichai pour Google. Chaque missive revient individuellement sur les récentes prises de position des uns et des autres et sur les activités de chaque société, en fonction de ce qu’elle annonce ou de ce qui est sorti dans la presse.
Ainsi, la coalition de signataires observe une certaine prise de conscience chez Google et Microsoft, avec des déclarations de certains hauts responsables admettant que ces outils posent de cruciaux enjeux éthiques. Si certains éléments continuent de poser problème, à l’image de Microsoft qui continue de vendre son produit Face API, les organisations notent une évolution appréciable au sein des deux groupes.
La présentation de Rekognition, par Amazon.
Amazon épinglé par les associations
Le ton est en revanche bien moins enthousiaste dans le courrier envoyé à Amazon. Est tout particulièrement pointé du doigt Rekognition, un système dévoilé en 2016 et qui depuis un an est au cœur d’une controverse. Pourtant, malgré les ratés du système et les demandes de certains actionnaires, le géant du commerce électronique ne semble pas vouloir reculer sur ce dossier.
« Au lieu d’agir pour se protéger contre les dangers très réels de la surveillance faciale, votre entreprise ne tient pas compte des préoccupations de la communauté et fait passer cette technologie entre les mains des organismes gouvernementaux », déplorent les signataires, qui rappellent au passage à Amazon que deux de ses principaux rivaux, Google et Microsoft, reconnaissent un problème.
Et la coalition de conclure, tranchante : « En continuant à vendre votre produit de surveillance faciale à des entités gouvernementales, Amazon menace gravement la sécurité de certains membres de la société civile, ignore les protestations de ses propres travailleurs et mine la confiance du public dans ses activités. Amazon doit cesser de fournir un produit de surveillance du visage aux gouvernements.»
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
