La dernière idée sordide d'Amazon : des sonnettes vidéo directement reliées à la police
Black Mirror, épisode 247 : Amazon a déposé un brevet pour une technologie de reconnaissance faciale liée à des caméras de sécurité pour les portes d'entrée.
C'est une nouvelle fois l'association américaine des libertés civiles (ACLU) qui tire la sonnette d'alarme. Certes, il ne s'agit que d'un brevet, et donc cette technologie ne verra peut-être jamais le jour, mais rien que le dépôt expose la position d'Amazon sur la reconnaissance faciale.
Une caméra reliée à la banque de personnes « suspectes » de la police
Le brevet porte sur un système intégré aux services de police. Il relie les visages des personnes qui marchent à proximité d'une caméra de surveillance placée sur une porte d'entrée, avec une base de données de personnes « suspectes ». Si le visage reconnu correspond à un des profils de la banque de données, le système contacte immédiatement la police.
La goutte de trop dans le vase qui déborde déjà ? Le brevet laisse ouverte la possibilité pour les utilisateurs de ces caméras d'ajouter eux-mêmes des photos de personnes « suspectes » à cette base. Le brevet ne s'étend pas en détail, et ces propositions seront sûrement soumises à vérification, mais l'idée inquiète.
En avril, le géant américain acquérait Ring, une entreprise de vidéosurveillance et de sonnettes connectées. Amazon propose également un système de reconnaissance faciale depuis 2016, appelé Rekognition, qu'elle vend notamment aux services douaniers. L'entreprise dispose donc déjà de ressources suffisantes à la mise en place d'un tel système.
Une telle technologie accentuerait les discriminations existantes
L'ACLU s'était déjà attaqué plus tôt dans l'année à Rekognition, mis à disposition du gouvernement américain. Elle avait testé le logiciel sur des photos de membres du Congrès et mis en évidence ses biais racistes. Rekognition identifiait 28 membres du Congrès comme criminels, alors qu'aucun d'entre eux ne faisait partie de la banque de données, simplement parce que la reconnaissance faciale n'était pas assez précise. Certains actionnaires d'Amazon avaient demandé à ce que l'entreprise arrête de vendre cette technologie à la police, mais sans succès.
L'association pour la garantie des libertés civiles craint, à juste titre, que ce type de technologie accentue des inégalités déjà existantes. En premier lieu, car la reconnaissance faciale est moins précise sur les personnes non blanches, déjà discriminées. Et ensuite, car ce pourrait être utilisé comme un moyen pour traquer certaines personnes dans l'opposition politique. En bref, cette technologie laisse la porte ouverte à une multitude de scénarios catastrophes.
Encore une fois, il ne s'agit que d'un brevet, et donc d'un projet très peu détaillé. Il est plus que probable qu'Amazon anticipe sur les éventuels débordements de ce type de technologie et doive les encadrer, rien que pour respecter la législation.