Comment distinguer les faux humains des vrais ? Il faut regarder les yeux
Les intelligences artificielles sont capables, depuis quelques années, de produire des photos très réalistes de personnes qui n'existent pas.
Très impressionnante, la technologie peut aussi s'avérer un peu effrayante. CNN rapportait le cas de Jenna Abrams, une supposée conservatrice américaine suivie par près de 70 000 personnes sur Twitter, qui était en réalité un compte animé par une entité russe, liée au gouvernement, et qui se cachait derrière une photo créée par intelligence artificielle. L'an dernier, une enquête du média américain The Daily Beast avait permis d'identifier un réseau de faux journalistes, qui ont utilisé des photos générées par ThisPersonDoesNotExist, afin de se créer une fausse identité. Ces faux journalistes avaient sévi pendant près d'un an, et avaient réussi à faire publier, dans des médias, des éditos qui faisaient l'éloge des Émirats arabes unis.
Des défauts au niveau des pupilles
La question qui se pose, dans ces situations, est bien sûr celle de l'identification. Est-il toujours possible, pour des humains, de réussir à déterminer s'il s'agit d'une vraie personne sur la photo ? Si l'exercice est complexe, la réponse est rassurante. Des chercheurs de l'université de l'état de New York ont étudié des photos créées par les réseaux neuronaux, et ils ont constaté que l'intelligence artificielle n'arrivait toujours pas à bien reproduire les pupilles. « Nous nous sommes rendu compte que les pupilles d'un grand nombre de photos générées par IA étaient de forme irrégulière, et qu'elles sont différentes de celles de vrais êtres humains », précisent les chercheurs dans leur publication.
Ils racontent avoir analysé un millier de photos générées par ThisPersonDoesNotExist, qu'ils ont comparées à 1 000 photos de personnes réelles. Grâce à plusieurs outils, les scientifiques ont pu extraire les formes des pupilles de chaque photo, et créer des modèles. Résultat : les pupilles des êtres humains sont rondes, ou de forme elliptique, tandis que celles présentes sur les photos générées par IA souffrent très souvent de défauts.
Et c'est vrai : sur des images de ThisPersonDoesNotExist que Numerama a analysées, les défauts sur les pupilles se repèrent assez facilement, une fois que l'on sait ce que l'on cherche. Dans l'exemple ci-dessous, un simple zoom permet de voir que les pupilles ne sont pas complètement rondes, et qu'elles présentent des défauts.
Bien sûr, la méthode des chercheurs a certaines limites. Il existe en effet des maladies rares qui provoquent une déformation des pupilles. Cela reste toutefois des cas de figure exceptionnels. Les chercheurs notent également que ces défauts sont difficiles à voir sur certaines photos générées par IA. Mais, globalement, « cette méthode permet à des humains de rapidement se faire une idée sur la photo, et de savoir si elle représente une véritable personne ».
La position, les dents, et les oreilles
À quoi ces défauts au niveau de la pupille sont-ils dus ? Les chercheurs ne proposent pas de réponse pour l'instant. Mais ils précisent qu'ils comptent bien continuer leurs travaux sur le sujet. « Nous allons nous pencher sur d'autres types de défauts que les photos générées par IA présentent, comme les inconsistances entre les deux pupilles d'une même personne, leur position dans les yeux, ou encore leur géométrie », écrivent-ils.
Il existe déjà d'autres astuces pour réussir à distinguer des photos créées par des IA, d'authentiques clichés. Le journaliste Adam Rowsley, qui a écrit à propos des images générées par IA pour The Daily Beast, explique que d'autres points sont à surveiller tels que les oreilles et les dents.
https://twitter.com/arawnsley/status/1280279310461472768
D'autres petits détails peuvent alerter : les cheveux ne sont pas cohérents, des accessoires tels que des boucles d'oreilles ou des cols apparaissent de manière étrange. Si une personne porte des lunettes, ces dernières sont également susceptibles d'avoir des défauts, que ce soit au niveau des branches ou des verres. Dans l'exemple ci-dessous, on voit ainsi que la chaîne n'est pas bien dessinée, et qu'elle semble disparaître avant le bord de la photo.
L'arrière-plan des photos est généralement flou, voir complètement abstrait. Il y a aussi la position des visages. Ils sont, dans la grande majorité des cas, de face ou bien légèrement de trois quarts, et la position des yeux est toujours la même, sur toutes les photos. On les voit très rarement de haut, ou en contre-plongée, et les visages sont de manière générale parfaitement centrés. Ces défauts sont malheureusement peu visibles au premier coup d'oeil : il faut la plupart du temps regarder la photo avec attention, faire des zooms, et surtout, savoir quoi chercher.