Zao, c’est le nom de la dernière application mobile à la mode. Elle vient de Chine et elle permet d’incruster son visage dans un film, pour s’imaginer en Leonardo DiCaprio par exemple. Ce service qui tente de rendre simple d’accès le deep fake est-il efficace ? Est-ce sans danger de donner accès à ses photos ? Voici ce que l’on sait sur Zao.
Des résultats convaincants
L’application est sortie le 30 août selon le Guardian. En seulement quelques jours, elle serait devenue l’application gratuite la plus téléchargée en Chine d’après la société d’analyses App Annie.
Pour le dire vite, elle permet d’insérer son visage sur une séquence cinématographique. Il existe surtout des œuvres chinoises mais on trouve également quelques blockbusters américains : on peut se prendre pour Leonardo DiCaprio ou Marilyn Monroe. Le résultat n’est pas absolument parfait, mais il faut reconnaître qu’il est très réussi. Le visage est bien incrusté et ses mouvements sont fluides. Par rapport à de précédents essais de deepfake simples d’accès, Zao est bien plus réaliste.
Prediction- in the near future Netflix/Amazon studios/Disney+ will produce shows that can star you, the viewer, as the main character (for an added fee). Expect acquisitions of deepfake startups. As quality rises, the viewing experience will feel more natural and seamless. #ZAO https://t.co/l4puUZ0AHn
— David Sun (@bearmace) September 1, 2019
Ce type de montage pourrait servir, comme l’a remarqué un internaute, à créer des contenus vidéo personnalisables dans le cinéma. Netflix qui a déjà inventé des séries interactives où le spectateur peut influencer les choix des personnages pourrait proposer à ses utilisateurs de voir un film avec leur propre visage à l’intérieur.
Here’s for Asian representation in Hollywood 😂 #ZAO #AI #Deepfake pic.twitter.com/qrSs3VajfL
— Allan Xia (@AllanXia) September 1, 2019
Faut-il avoir peur des deepfake ?
Mais si l’application fait parler d’elle, c’est d’abord parce qu’elle soulève des questions plus larges autour de la mauvaise utilisation des deepfake. Récemment, un développeur a créé un site qui permettait de « déshabiller » les femmes grâce à une technologie d’intelligence artificielle. Son projet a été banni de GitHub mais il aurait pu servir à des fins malveillantes, par exemple pour faire du chantage au nude.
Dans le cas de Zao, ces interrogations sont doublées de question autour du respect de la vie privée des utilisatrices et utilisateurs. Pour le moment, l’application est uniquement disponible en chinois et il faut avoir un numéro étranger (les numéros français ne fonctionnent pas) pour s’inscrire. Si toutefois vous avez un numéro canadien, américain, anglais ou que l’application s’ouvre à d’autres pays, vous pourrez vous poser la question.
D’après le média chinois Radii, les conditions d’utilisation de Zao stipulent que les photos que vous soumettez sur l’application pour effectuer le montage seront envoyées sur les serveurs de l’entreprise — ce qui est tout à fait normal, vu que vous demandez de faire un montage avec votre tête. Celle-ci aura le droit « permanent et irrévocable » de réutiliser vos photos.
Cette précision a inquiété des utilisateurs, à tel point que Zao a annoncé samedi sur le réseau social Weibo qu’elle allait modifier ses CGU. Elle devrait à l’avenir limiter l’utilisation des photos. Il sera possible de revenir sur son consentement en effaçant ses photos y compris des serveurs, ce qui n’est pas encore faisable pour le moment.
Le spécialiste du numérique Baptiste Robert (alias Elliot Alderson) a soulevé d’autres points clivants au sujet de Zao dans une série de tweets.
It’s time for a thread about #ZAO, the new Chinese app which blew up since Friday. The app is accessible only to Chinese people for the moment but I managed to get an account ;)
— Elliot Alderson (@fs0c131y) September 2, 2019
This "AI facial" app allows you to add your face on predefined clip.
1/n pic.twitter.com/XPuEtfxrUg
Il émet notamment des doutes sur la sécurité du stockage des données en ligne : il serait assez simple d’accéder aux photos et montages laissés par des utilisateurs, sans mot de passe. Il suffirait pour ceci d’avoir le lien vers l’image en question.
Il faut savoir Zao appartient à une entreprise nommée Momo Inc, qui a déjà été épinglée en 2014 pour une faille de sécurité. Les mots de passe et données de 30 millions d’utilisateurs d’une application de rencontres qu’il détenait avaient alors été exposés. Du fait de ces risques, le réseau social WeChat, très populaire en Chine, a interdit à ses utilisateurs de partager sur leurs profils des vidéos réalisées sur Zao, rapporte TechCrunch ce 3 septembre.
En clair, comme dans le cas de FaceApp, la décision est à prendre de manière informée : considérez-vous que le service rendu vaut la prise d’un risque éventuel ? Les utilisatrices et utilisateurs de FaceApp avaient remarqué que l’app s’octroyait des droits larges sur leurs selfies. En l’occurrence, il n’y a priori pas vraiment lieu de s’inquiéter : FaceApp se servait des images pour améliorer ses services et proposer de meilleurs résultats (plus adaptés aux personnes asiatiques ou noires par exemple).
Dans le cas de FaceApp, les craintes parfois irrationnelles provenaient du fait que l’application était d’origine russe. Zao vient de Chine, pays connu pour appliquer une censure drastique sur le Web et utiliser la reconnaissance faciale à des fins de surveillance étatique.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !