Et si la caméra de votre porte d’entrée avertissait automatiquement la police lorsqu’elle reconnaît une personne « suspecte » ? Voilà l’idée derrière un des derniers brevets déposés par Amazon, le 29 novembre 2018.

Black Mirror, épisode 247 : Amazon a déposé un brevet pour une technologie de reconnaissance faciale liée à des caméras de sécurité pour les portes d’entrée. Le logiciel recouperait les images capturées avec une base de données — personnalisable par l’utilisateur —  de personnes « suspectes », et appellerait immédiatement la police. Sans qu’à aucun moment, il y ait une intervention humaine.

C’est une nouvelle fois l’association américaine des libertés civiles (ACLU) qui tire la sonnette d’alarme. Certes, il ne s’agit que d’un brevet, et donc cette technologie ne verra peut-être jamais le jour, mais rien que le dépôt expose la position d’Amazon sur la reconnaissance faciale.

Une caméra reliée à la banque de personnes « suspectes » de la police

Le brevet porte sur un système intégré aux services de police. Il relie les visages des personnes qui marchent à proximité d’une caméra de surveillance placée sur une porte d’entrée, avec une base de données de personnes « suspectes ». Si le visage reconnu correspond à un des profils de la banque de données, le système contacte immédiatement la police.

Extrait d'un épisode dédié à la reconnaissance faciale dans la série d'anticipation Black Mirror. // Source : Netflix

Extrait d'un épisode dédié à la reconnaissance faciale dans la série d'anticipation Black Mirror.

Source : Netflix

La goutte de trop dans le vase qui déborde déjà ? Le brevet laisse ouverte la possibilité pour les utilisateurs de ces caméras d’ajouter eux-mêmes des photos de personnes « suspectes » à cette base. Le brevet ne s’étend pas en détail, et ces propositions seront sûrement soumises à vérification, mais l’idée inquiète.

En avril, le géant américain acquérait Ring, une entreprise de vidéosurveillance et de sonnettes connectées. Amazon propose également un système de reconnaissance faciale depuis 2016, appelé Rekognition, qu’elle vend notamment aux services douaniers. L’entreprise dispose donc déjà de ressources suffisantes à la mise en place d’un tel système.

Une telle technologie accentuerait les discriminations existantes

L’ACLU s’était déjà attaqué plus tôt dans l’année à Rekognition, mis à disposition du gouvernement américain. Elle avait testé le logiciel sur des photos de membres du Congrès et mis en évidence ses biais racistes. Rekognition identifiait 28 membres du Congrès comme criminels, alors qu’aucun d’entre eux ne faisait partie de la banque de données, simplement parce que la reconnaissance faciale n’était pas assez précise. Certains actionnaires d’Amazon avaient demandé à ce que l’entreprise arrête de vendre cette technologie à la police, mais sans succès.

Un carton d'emballage Amazon Prime. // Source : www.quotecatalog.com

Un carton d'emballage Amazon Prime.

Source : www.quotecatalog.com

L’association pour la garantie des libertés civiles craint, à juste titre, que ce type de technologie accentue des inégalités déjà existantes. En premier lieu, car la reconnaissance faciale est moins précise sur les personnes non blanches, déjà discriminées. Et ensuite, car ce pourrait être utilisé comme un moyen pour traquer certaines personnes dans l’opposition politique. En bref, cette technologie laisse la porte ouverte à une multitude de scénarios catastrophes.

Encore une fois, il ne s’agit que d’un brevet, et donc d’un projet très peu détaillé. Il est plus que probable qu’Amazon anticipe sur les éventuels débordements de ce type de technologie et doive les encadrer, rien que pour respecter la législation.


Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !