La reconnaissance faciale utilisée à des fins répressives s’effondre comme des dominos aux États-Unis. IBM a été le premier à se retirer de ce secteur, expliquant que cette technologie ne servait qu’à la surveillance de masse et au profilage racial. Amazon a suivi peu après, avec plus de mesure : pas question de quitter complètement ce marché, mais un moratoire d’un an est mis en place, en attendant une réforme de la loi.
Maintenant, c’est Microsoft qui se joint au mouvement. Le directeur juridique du groupe, Brad Smith, a déclaré qu’il n’est plus question de vendre cette technologie aux forces de l’ordre américaines, du moins tant qu’il n’y aura pas de loi fédérale pour réglementer cette technologie, a-t-il été précisé le 11 juin — la firme de Redmond rejoint ainsi la position d’Amazon, qui souhaite un cadre juridique clair.
« Nous avons besoin que le Congrès agisse, et pas seulement les entreprises », a-t-il lancé lors d’une discussion organisée par le Washington Post. « L’enjeu pour nous est de protéger les droits de l’homme des individus au fur et à mesure que cette technologie est déployée », a-t-il ajouté, suggérant qu’il y a de toute façon une marche inexorable vers la biométrie et qu’il vaut donc mieux réglementer rapidement.
La préoccupation de Microsoft à l’égard de cette technologie ne date pas d’hier ou des évènements autour de la mort de George Floyd, un homme afro-américain mort écrasé par un policier lors d’une interpellation. Fin 2018, le même Brad Smith appelait sur un blog de son entreprise à avoir un regard critique sur cette technologie : « nous devons être lucides quant aux risques et aux possibilités d’abus ».
À ce moment-là, l’intéressé listait trois grands enjeux : l’intrusion accrue dans la vie privée des individus, des biais dans la prise de décision et dans les résultats pouvant conduire à des discriminations, et l’emploi à des fins de surveillance de masse, provoquant ainsi un effritement supplémentaire des libertés publiques. Brad Smith détaillait également par le menu comment corriger le tir.
Appel à faire plus contre la reconnaissance faciale
Il existe aujourd’hui une littérature scientifique qui illustre entre autres les biais de cette méthode biométrique, qui repose sur une analyse des traits et de la forme du visage, ainsi que d’autres caractéristiques, comme la couleur de la peau. Celle conduite en 2018 par une équipe du MIT a été l’une des plus remarquées, d’autant qu’elle évaluait des systèmes d’IBM et de Microsoft.
Outre-Atlantique, la prise de position de Microsoft a été saluée par l’Union américaine des libertés civiles (ACLU), une association très engagée sur ce dossier (en 2018, elle elle avait mis en lumière les limites de l’outil biométrique d’Amazon en le testant sur les membres du Congrès). Un pas dans la bonne direction, juge-t-elle, mais tardif et surtout qui doit en amener d’autres.
« La lutte pour défendre nos droits à la vie privée en matière de reconnaissance faciale ne fait que commencer. Le législateur doit immédiatement faire une pause dans l’utilisation de cette technologie par la police », appelle l’ACLU. « Quand même les fabricants de la reconnaissance faciale refusent de la vendre parce qu’elle est si dangereuse, le législateur ne peut plus nier les menaces qui pèsent sur nos droits et nos libertés ».
Nouveauté : Découvrez
La meilleure expérience de Numerama, sans publicité,
+ riche,
+ zen,
+ exclusive.
Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !
