Instagram, qui est interdit aux moins de 13 ans, va faire appel à de l’intelligence artificielle pour s’assurer de l’âge de ses utilisateurs. Une mesure encore expérimentale, d’abord testée aux États-Unis.

L’annonce a été faite ce jeudi 23 juin 2022 : Meta, la maison mère de Facebook, va tester une nouvelle manière de vérifier l’âge de ses utilisateurs. « Si une personne essaie de modifier sa date de naissance en passant de moins de 18 ans à plus de 18 ans, nous leur demanderons de prouver son âge », a annoncé l’entreprise dans un communiqué de presse.

Pour cela, les utilisateurs et utilisatrices auront 3 options :

  • une vérification avec une carte d’identité,
  • la confirmation avec des proches de l’utilisateur,
  • et l’enregistrement d’une vidéo selfie, en partenariat avec Yoti, une entreprise spécialisée dans la vérification de l’identité en ligne par intelligence artificielle.

Pour l’instant, la phase de test n’a lieu qu’aux États-Unis. Mais une telle mesure soulève cependant de nombreuses questions, notamment en matière de biais d’intelligence artificielle.

03_Video-Submission
La solution de Meta pour vérifier l’âge de ses utilisateurs : l’IA. // Source : Meta

Comment est-ce que cela fonctionnerait, exactement ?

La raison pour laquelle Instagram veut vérifier l’âge de ses utilisateurs est simple : la plateforme est interdite aux moins de 13 ans. De plus, « dans certains pays, l’âge minimal pour s’inscrire est plus élevé », indique Instagram. « Quand nous savons qu’un utilisateur est un adolescent, entre 13 et 17 ans, nous leur proposons des expériences adaptées à leur âge, comme la mise en privé de leur compte par défaut […] et nous limitons les moyens que les annonceurs ont pour les atteindre avec de la publicité. »

Dans le cas où les utilisateurs concernés choisiraient de fournir un selfie vidéo pour prouver leur âge, il faudrait qu’ils se prennent en vidéo en bougeant la tête. Une fois pris, le selfie sera seulement envoyé à Yoti, indique Meta, qui ne sera pas capable de reconnaître leur identité— uniquement leur âge. « La technologie de Yoti permet d’estimer l’âge en fonction de caractéristiques faciales », explique Meta. L’entreprise ne précise cependant pas quelles caractéristiques sont étudiées. Une fois l’analyse terminée, Meta et Yoti suppriment les images.

Capture d’écran 2022-06-23 à 16.00.59
L’outil de Yoti permet d’estimer l’âge des utilisateurs. // Source : Yoti

Sur son site, Yoti explique que sa technologie a été mise au point grâce à un type d’intelligence artificielle dite de « réseau neuronal ». « Pour l’IA, l’image est simplement une structure de pixels », indique Yoti sur son site, « et notre technologie a été entraînée à repérer les structures », ce qui fait qu’elle a appris à différencier les modèles habituellement attribués aux personnes d’un âge en particulier. « La technologie de Yoti ne permet pas de reconnaître l’identité et les images fournies ne sont pas réutilisées pour entraîner l’IA. »

Est-ce que la vérification de l’âge par analyse faciale marche ?

Yoti est confiant dans sa technologie : pour « les 6 à 12 ans, l’erreur absolue moyenne [l’écart moyen des prédictions par rapport aux valeurs réelles, NDLR] est de 1,36 an, et pour les 13 à 19 ans, elle est de 1,52 an ». Au total, 99,65 % des utilisateurs âgés entre 13 et 17 ans ont été correctement identifiés comme ayant moins de 23 ans, selon l’entreprise.

Mais il existe cependant des erreurs, et comme pour toutes les IA, des biais. Celle de Yoti n’y échappe pas : elle enregistre plus d’erreurs pour les utilisateurs et les utilisatrices ayant des peaux foncées. Si la marge d’erreur reste assez basse, le fait qu’elle passe de 2,94 pour les femmes entre 25 et 70 ans les plus blanches à 4,79 pour celles ayant les peaux les plus foncées est néanmoins marquant.

Capture d’écran 2022-06-23 à 16.46.12
La marge d’erreur est plus importante pour les personnes ayant une peau foncée // Source : Yoti

Mais c’est malheureusement tout ce que l’entreprise communique à ce sujet : il n’y a pas de précisions pour savoir si l’outil va être amélioré, ou si l’entreprise souhaite trouver la source du biais. Il pourrait être en partie expliqué par le fait que Yoti a utilisé la classification de Fitzpatrick.

Il s’agit d’un outil développé dans les années 70 afin de classifier les types de peau qui seraient les moins sensibles aux rayons UV. Largement utilisée dans la tech pour l’entraînement des intelligences artificielles, cette classification est néanmoins de plus en plus critiquée pour son manque de nuance concernant les peaux les plus foncées, qui ne sont pas assez représentées. Au contraire, elle serait biaisée en faveur des peaux les plus claires. Google a d’ailleurs annoncé qu’il arrêtait d’utiliser la classification de Fitzpatrick pour le développement de ses produits en 2021.

Une utilisation en France ?

Malgré les biais de l’IA de Yoti, Instagram a informé que les tests avaient déjà commencé. Ils ont pour l’instant lieu seulement aux États-Unis, et Meta n’a pas communiqué sur une éventuelle arrivée en Europe. Cependant, Yoti est d’ores et déjà utilisé en Allemagne. « La technologie de Yoti a été approuvée par le régulateur allemand », explique l’entreprise, qui indique aussi que son app peut être utilisée afin de vérifier l’âge des individus localisés en Allemagne qui souhaiteraient accéder à des « contenus réservés aux adultes ».

blocage_sites_2
Yoti va-t-il servir au blocage de site pornographique en France ? // Source : Claire Braikeh pour Numerama

Ce type d’accord n’a pour l’instant pas été passé en France. Mais le gouvernement réfléchit lui aussi depuis quelque temps à des solutions pour limiter l’accès aux contenus pornographiques aux adultes. L’Arcom a ainsi adressé une mise en demeure à 5 sites pornographiques en décembre 2021 afin qu’ils mettent en place « des mesures concrètes afin d’empêcher l’accès des mineurs à leurs contenus ». Pour l’instant, les pistes retenues par le gouvernement sont néanmoins différentes : l’achat de « pass porno » en boutique a été évoqué, comme un contrôle par carte bancaire, ou encore une confirmation de l’âge avec… FranceConnect.

Le Linc, le laboratoire d’innovation de la CNIL, vient également de publier un guide pour « un mécanisme de vérification de l’âge respectueux de la vie privée ». Ce dernier préconise de mettre en place un « protocole reposant principalement sur un concept cryptographique appelé signature de groupe », ce qui permettrait « à un utilisateur de signer anonymement au sein d’un groupe ». Pas de questions de selfie vidéo pour l’instant.