Brighter AI a développé une intelligence artificielle qui se charge d'anonymer votre visage et d'autres données personnelles lors de la collecte d'images. Elle a remporté le concours Inception d'Nvidia à l'occasion de la GTC-Europe 2018.

La startup allemande Brighter AI est repartie de la GTC-Europe, organisée par Nvidia, avec un super calculateur DGX-System et 100 000 dollars. Elle a été récompensée pour son intelligence artificielle, qui corrige et anonyme — c’est-à-dire attribue un anonymat irréversible — aux images captées par différentes machines, comme les voitures autonomes.

Tout les industriels s’accordent : les données, c’est le futur. Elles sont au centre du fonctionnement du deep learning et du machine learning. Collectées en masse, les données permettent, une fois analysées, d’optimiser à peu près tout et n’importe quoi : de l’arrosage des plantes, à la cueillette des fraises et à la disposition des produits dans un supermarché. Ces « data », sont récupérées, dans de nombreux cas, sous la forme d’images. Par exemple, la voiture autonome filme pour reconnaître son environnement. Les supermarchés sans caissiers capturent les mouvements de leurs clients. 

Votre visage est ainsi enregistré dans des bases de données, de même pour la plaque d’immatriculation de votre véhicule. Même si la forme de votre visage n’est pas l’objet de la collecte de données, elle est enregistrée. Ce fonctionnement pose un problème pour la protection de votre vie privée, d’autant plus à l’heure de la multiplication des modules de collecte de données. Ces informations qui permettent de vous identifier directement ou indirectement, sont légalement qualifiées de « personnelles ».

Le RGPD, une barrière pour les calculs des IA ?

Depuis mai 2018,  l’Union Européenne a fait entrer en application le règlement général sur la protection des données, le fameux RGPD. Il restreint grandement les possibilités de collecte et d’utilisation des données privées, notamment en forçant les entreprises à demander explicitement le consentement de leurs utilisateurs. Et en cas d’infraction, les amendes peuvent s’élever pour l’organisme fautif jusqu’à 20 millions d’euros ou 4 % du chiffre d’affaire annuel mondial de l’exercice précédent.

Pour se conformer au RGPD, une solution simple apparaît pour les entreprises : flouter toutes les données personnelles. Il suffit de pixelliser les visages, les plaques d’immatriculation, et la loi est respectée. Mais cette procédure grippe l’intelligence artificielle, et le processus de deep learning. L’IA ne sait plus où débute et où finit votre corps, et ne peut vous identifier comme humain. En conséquence, certaines données essentielles, par exemple à la navigation d’un véhicule autonome, vont être corrompues.

Pour sa navigation, la Google Car disposait de caméras sur son toit // Source : Alphabet

Le « problème » du respect des données est pour le moment interne à l’Europe et c’est donc une startup allemande, Brighter AI, qui s’est intéressé à sa résolution. Nous l’avons rencontrée le 11 octobre à Munich dans le cadre du GTC-Europe. « Le model 3 de Tesla, par exemple, collecte déjà ce genre de données, et ils vont devoir s’adapter lorsqu’elle arrivera en Europe », développe Marian Gläser, CEO de la petite entreprise.

Remplacer votre visage par un faux visage

L’IA de Brighter AI appliquera plusieurs couches de traitements aux images récoltées par les caméras, avant qu’elles ne soient transformées en données :

  • Certaines de ces couches vont corriger la météo — le brouillard par exemple — pour que la voiture puisse reconnaître son environnement.
  • D’autres vont corriger la luminosité, permettant de rétablir une image sombre afin qu’elle soit plus lisible par l’intelligence artificielle.
  • Et une de ces couches s’attelle à mettre en place l’anonymat : l’intelligence artificielle va vous attribuer un nouveau visage, bien évidemment différent du vôtre.

L’intelligence artificielle pourra ainsi vous identifier correctement en tant qu’humain, mais sans que vous soyez reconnaissable personnellement. De même, elle va générer une plaque d’immatriculation alternative à la place de la vôtre. Vous allez garder ces images alternatives tant que vous êtes dans l’espace concerné par la capture d’image. Le RGPD limite de façon stricte le périmètre et la durée pendant laquelle vous garderez le même avatar.

À gauche la version anonymée de Mark Zuckerberg, à droite l’original. S’il garde la même coiffure, ses yeux bleus sont devenus marron. // Source : Brighter AI

Anonymer et pas anonymiser

L’objectif de ce filtre est d’anonymer, et non anonymiser ces données. La différence ? Anonymer implique que l’anonymat mis en place n’est pas réversible. Un des réseaux de neurones de l’IA est justement dédié à vérifier ce critère, mais il semble que Brighter AI aient encore des progrès à faire. La version alternative proposée est pour l’instant physiquement proche, et il leur reste un travail à effectuer sur certains éléments, comme les cheveux. En attendant, les industriels peuvent faire tourner leurs intelligences artificielles sans risquer de sanctions pour non-respect du RGPD. D’ailleurs, le CEO de la startup ne divulgue pas les noms des deux constructeurs automobiles avec qui il travaille : « L’un d’entre eux a déjà déployé notre logiciel sur ses systèmes, l’autre nous a confié ces données pour que nous les rendions anonymes. »

En tout cas, le logiciel a convaincu le jury du concours Inception d’Nvidia, qui ont récompensé Brighter AI d’un supercalculateur DGX Station et de 100 000 dollars. La startup visait le soutien du constructeur électronique, dont les GPU consacrées au deep learning devrait permettre à leur intelligence artificielle d’opérer plus rapidement. Pour l’instant, elle applique les filtres à une vitesse encore assez faible de trois images par secondes. « À terme, l’idée est d’anonymer entièrement Google Maps, mais sans dégrader la qualité de la données », ambitionne Marius Gläser.

Partager sur les réseaux sociaux