Pixel 4 : Google a entraîné sa reconnaissance faciale pour contrer les biais racistes des algorithmes

Google n’ignore pas les biais qui existent lors de l’entraînement de certains algorithmes. Aussi pour compenser, l’entreprise américaine est allée aborder des passants aux profils divers pour que son outil de reconnaissance faciale marche avec tout le monde.

Ce sera l’un des points forts majeurs du Pixel 4, qui fera ses premiers pas à la rentrée : le prochain smartphone de Google, dont les détails fuitent petit à petit dans la presse, sera doté d’une reconnaissance faciale de pointe, semblable à ce que propose déjà Apple avec la technologie Face ID. C’est donc une véritable suite de capteurs, de caméras et de puces qui sera mobilisée pour vérifier l’identité de la personne.

La solution de Google va même plus loin dans la détection, puisqu’elle est capable d’anticiper le déverrouillage en détectant la main de l’utilisateur qui se saisit du mobile, et en calculant par conséquent dans quelle direction va se trouver le visage — le Pixel 4 va donc orienter ses capteurs en fonction et ainsi faire gagner quelques secondes à son propriétaire.

Soli, le capteur qui permet le Face ID de Google

Source : Google

Des passants sollicités

Mais surtout, Google a pris soin de faire en sorte que son algorithme de détection et d’interprétation du visage fonctionne avec tout le monde, c’est-à-dire aussi avec celles et ceux qui n’ont pas une peau blanche. Pour cela, la firme de Mountain View a mobilisé ses équipes pour entraîner le système, y compris en se rendant dans la rue et en sollicitant des passants volontaires pour se faire scanner

Pour éviter toute controverse sur la manière dont les tests se sont déroulés, Google a pris soin d’encadrer cette production participative, car le moindre écart sur la protection de la vie privée aboutirait sinon à un vif battage médiatique. Selon The Verge, la société a collecté d’une part le consentement de chaque participant et d’autre part a offert à chacun un petit cadeau (un bon d’achat de 5 dollars) en échange.

Ce qui n’est pas précisé en revanche, c’est l’ampleur de cette campagne menée dans la rue. ZDNet et Android Police indiquent que celle-ci a eu lieu — et se déroule peut-être encore — dans diverses villes américaines, signe que l’entreprise avait besoin d’au moins plusieurs dizaines, pour ne pas dire de centaines ou de milliers, de visages pour avoir assez de données à exploiter (sinon, il aurait suffi de se contenter de scanner les visages des employés de Google).

Le déverrouillage par reconnaissance faciale du Pixel 4 est censé bien fonctionner avec des profils divers. // Source : Sense8

Biais d’entraînement

L’effort spécifique consenti par Google pour que son outil de déverrouillage facial soit en mesure de fonctionner sans heurts avec des personnes de différentes origines ethniques, qu’elles soient noires, asiatiques ou encore amérindiennes, se justifie par les difficultés déjà bien documentées qu’ont les algorithmes à travailler avec des visages qui ne sont pas blancs.

Début 2018, une scientifique officiant au sein du prestigieux Massachusetts Institute of Technology (MIT) a fait remarquer que les lots de photographies utilisés pour nourrir les « intelligences artificielles » étaient trop composés de personnes blanches (et à l’intérieur de ces clichés, d’hommes blancs). Résultat, la détection des visages blancs était bonne, voire très bonne, tandis que des taux d’échec importants étaient enregistrés pour les autres cas de figure.

Pour compenser ce biais, Microsoft, IBM et aujourd’hui Google (avec ce travail spécifique pour le Pixel 4) ont pris des dispositions pour rééquilibrer la balance, en se basant entre autres sur des photographies montrant davantage de diversité, que ce soit au niveau de la couleur de la peau, de l’âge et du sexe. Microsoft affirme par exemple avoir grandement réduit ses taux d’erreur.

Mais ce sera lorsque le Pixel 4 sera disponible à la vente que le véritable test aura lieu, au moment où des millions de gens à travers le monde opteront pour la reconnaissance faciale pour déverrouiller leur smartphone. Google, néanmoins, apparaît assez confiant. D’ailleurs, sa campagne promotionnelle met en scène une femme noire qui ouvre son portable dans une pièce mal éclairée.

https://www.youtube.com/watch?v=KnRbXWojW7c