Une erreur dans le texte ?

Clearview AI envisage la création d'une effrayante app de reconnaissance faciale grand public

Ce n'est qu'un brevet déposé au bureau américain de la propriété intellectuelle, mais il en dit long sur les ambitions inquiétantes de Clearview AI. Souvenez-vous de cette entreprise, exposée sous les projecteurs par le New York Times en janvier 2020. Elle se vantait d'avoir aspiré plus de 3 milliards de photos sur le web et de s'en servir pour alimenter son outil de reconnaissance faciale. Il suffit de donner une photo au logiciel, et il vous retournera en résultat un album de photos de la même personne, selon lui. Puisque l'outil lie chacune des images à sa source d'origine (réseaux sociaux, forums, médias...), il est possible de trouver toutes sortes d'informations sur la personne recherchée, et donc, de l'identifier.

Jusqu'ici, Clearview AI a réussi à calmer les critiques et menaces légales contre son logiciel en matraquant qu'il n'était accessible qu'aux forces de l'ordre. Il ne servirait qu'à arrêter terroristes et autres criminels, exemples à l'appui. Pourtant, lorsque le New York Times a découvert son activité, non seulement des commerces l'utilisaient, mais aussi des amis des fondateurs. Interrogée par la justice américaine en mai 2020, l'entreprise avait déclaré qu'elle prendrait des mesures pour « éviter les transactions avec les clients non gouvernementaux ».

Une petite reconnaissance faciale avant son rendez-vous ?

Malgré cet engagement, Clearview lorgnerait toujours le marché grand public. Son dernier brevet, repéré par Buzzfeed décrit une application composée de deux briques techniques : un outil de recherche d'image sur Internet, et la technologie de reconnaissance faciale. Comme le plus souvent, le document, déposé en août 2020 mais rendu public le 11 février 2021, ne livre que le minimum de détails techniques le projet.

En revanche, il s'étend plus longuement sur les usages de ce projet d'application. « Dans de nombreuses situations, il est souhaitable pour un individu d'en savoir plus sur la personne qu'il vient de rencontrer », avance l'entreprise. Elle développe : faire une recherche rapide sur une personne grâce à son visage s'appliquerait à tous les contextes d'après elle, rendez-vous commerciaux comme rendez-vous amoureux. Au lieu d'une simple recherche du nom d'une personne sur un moteur de recherche, Clearview projette de proposer une recherche par son visage. « Il existe un fort besoin pour une meilleure façon d'obtenir des informations sur une personne », argumente l'entreprise. Cette vision du monde est effrayante : imaginez  que votre futur rendez-vous déterre tout ce qui est disponible sur votre personne sur Internet, en un clic. Vous publiez des photos sous pseudonyme ? L'outil pourrait les retrouver. Pire, s'il ne fonctionne pas correctement, il pourrait vous attribuer des photos (et donc des informations) qui appartiennent à d'autres personnes.

Et Clearview ne s'arrête pas là : il prévoit que son outil soit utilisé pour filtrer l'accès à certains lieux ou outils, et qu’il permette d'identifier « les agresseurs sexuels » ou encore les « personnes sans abri ». L’organisation pousse sa vision dystopique jusqu'à envisager de détecter qu'une personne a un « problème ou handicap mental » afin que la police réagisse en conséquence.

Interrogé par Buzzfeed, Hoan Ton-That, le CEO de Clearview AI, matraque son message : Clearview n'est utilisé que par les forces de l'ordre pour les enquêtes post-crimes. Et il n'envisageraient pas d'en faire une version grand public. Ton-That aurait tort de créer dès maintenant une polémique : le document n'est qu'une demande de brevet pour une application, et comme bon nombre de brevets déposés, l'app pourrait ne jamais voir le jour. Mais cette nuance ne dissipe pas le problème : Clearview a testé, et connu de tester les dangereuses limites de la reconnaissance faciale, et c'est inquiétant.