Face au spectre d’une mise au ban des réseaux sociaux, TikTok tente d’adapter sa politique de contenu aux exigences des pays occidentaux. Le réseau social a d’ailleurs annoncé qu’il va interdire l’utilisation de deepfakes réalisés grâce à des IA.

Depuis plusieurs semaines, TikTok marche sur un fil vraiment fin. Plusieurs pays, les États-Unis en tête, mettent la pression sur le réseau social pour qu’il soit vendu par Bytedance, maison mère chinoise de l’application. Il faut dire que les liens entre cette entreprise et le gouvernement chinois soulèvent de nombreuses interrogations, notamment sur la potentielle utilisation de TikTok pour espionner à travers le monde.

Le réseau social cherche à rassurer en modifiant sa politique de gestion des contenus : TikTok a mis à jour le 21 mars 2023 avec quelques avancées importantes, en particulier sur les deepfakes réalisés par des IA.

TikTOk // Source : Flickr
Des règles, mais peu de sanctions sur TikTok // Source : Flickr

Jusqu’à présent, ces deepfakes, qui bénéficient d’une popularité écrasante ces derniers mois, avaient réussi à éviter les règles de modération du réseau social. La seule règle que l’on pouvait trouver sur TikTok en matière de deepfakes se limitait à une simple ligne, dans laquelle il était expliqué que les deepfake pourraient « induire les utilisateurs en erreur en déformant la vérité des événements [ou] en causant un préjudice important sur le sujet de la vidéo ».

Une simple mise en garde, d’autant plus que l’application ne cherchait pas à supprimer les deepfake ou à sanctionner les utilisateurs qui y ont recours.

Un contrôle accru

Mais les nouvelles règles, mises à jour le 21 mars 2023, sont plus restrictives. Désormais, TikTok n’autorise que « les médias synthétiques qui présentent une personnalité publique dans un contexte donné », mais aussi les deepfakes artistiques et éducatifs, dans lesquels on pourrait voir « une célébrité en train de reproduire une danse tendance sur TikTok ».

Mais l’encadrement des deepfakes ne s’arrête pas là. Pour les publier, ils doivent dorénavant comporter un sticker ou une légende, dans laquelle il doit être impérativement indiqué que le contenu est « synthétique », « faux », « irréel » ou « modifié ».

À l’inverse, l’utilisation de deepfake n’est plus autorisée lorsqu’ils contiennent :

  • Des scènes réalistes qui ne sont pas dénoncées ou jointes clairement dans la vidéo.
  • Le portrait (visuel ou audio) d’une personne réelle, utilisé à des fins politiques ou commerciales, ou qui enfreignent toute autre politique (discours haineux, exploitation sexuelle ou encore harcèlement). Cela comprend les mineurs, les personnalités privées adultes et les personnalités publiques adultes.
  • Un contenu édité, monté ou combiné de telle sorte qu’il soit susceptible d’induire en erreur une personne sur des évènements réels.
Ce n'est pas Tom Cruise, mais un deepfake de Tom Cruise // Source : CNN
Fini les deepfakes de Tom Cruise // Source : CNN

Mais si Tiktok démontre enfin une volonté de mieux lutter contre les deepfakes et leur propension à désinformer, rien ne garantit que le réseau social va réellement sanctionner, voire même bannir les internautes qui oseront braver « l’interdit ». Le système de modération de l’app est souvent indéchiffrable.

Source : Numerama

Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !