Google voulait que son système de reconnaissance faciale détecte mieux les peaux noires. Ceci aurait conduit à des abus.

Google pensait bien faire un lançant un programme de recherche à grande échelle, dans le but d’améliorer ses systèmes de reconnaissance faciale. Soupçonnant qu’une entreprise abusait de personnes sans domicile fixe et d’étudiants dans ce cadre, la firme a finalement décidé d’y mettre fin, a fait savoir le New York Times ce vendredi 4 octobre.

Une personne sans-abri. Image d’illustration. // Source : Flickr

Au départ, le programme de recherche de Google partait d’une bonne intention. Conscient que ses systèmes de reconnaissance faciale étaient peu efficaces sur les peaux noires ou brunes, la firme avait lancé un programme de recherche participatif.

Elle offrait un bon d’achat de 5 dollars (environ 4 euros) à toute personne qui accepterait de lui donner une image de son visage.

Des photos prises sans consentement

Le New York Daily News avait alerté au sujet de méthodes douteuses qu’aurait adoptées une entreprise tierce. Cette entreprise est Randstad. Google avait fait appel à elle pour collecter des images de visages divers, de toutes les couleurs de peau.

Le média raconte qu’elle aurait pris à Atlanta des photos de personnes sans domicile fixe, ainsi que d’étudiants, sans obtenir leur consentement au préalable.

Lorsque le smartphone Pixel 4 est sorti, l’efficacité relative de la reconnaissance faciale sur les personnes noires avait été pointée du doigt. Ce type de problème est récurrent. Il est lié à la manière dont les algorithmes sont conçus. Ils sont souvent entraînés avec des bases de données qui contiennent surtout des personnes blanches.

Selon le New York Times, Google a immédiatement suspendu le programme après ces révélations. Le géant a également ouvert une enquête. Il n’a pour l’instant pas confirmé ou infirmé les faits, qualifiés de « très dérangeants ». Il a précisé que toutes les images étaient chiffrées, utilisées uniquement à des fins de recherche et qu’elles seraient toutes supprimées une fois les algorithmes enrichis.

Partager sur les réseaux sociaux