Pendant quelques jours, des utilisateurs ont partagé des photos de leurs organes génitaux sur TikTok. Ce type de contenu pornographique est pourtant prohibé, car le réseau social interdit la nudité. Malgré les signalements d’autres utilisateurs et utilisatrices ayant subi ces images, les vidéos sont restées en ligne pendant un temps considérable — et l’algorithme de TikTok n’a pas réussi à les supprimer.

Sur TikTok, de nouvelles trends émergent tous les jours : sur une musique spécifique, les utilisateurs font une dance, réalisent une figure, ou reprennent un mème connu. Depuis quelques jours, une nouvelle tendance agite particulièrement les utilisateurs de l’app : elle consiste à publier, de manière discrète, des dick pics et des photos nues.

Une dick pic est le surnom anglais d’une photo d’un organe génital masculin. Les photos de pénis sont généralement non sollicitées, mais malheureusement fréquemment envoyée sur les applications de rencontre et réseaux sociaux, sans le consentement de la personne en face. Jusqu’ici pourtant, TikTok était épargné par cette pratique.

Une tendance populaire pour masquer des photos de pénis

Les vidéos que Numerama a pu retrouver sur TikTok font toutes parties de la même « tendance » : une même musique réutilisée par plusieurs internautes pour partager des contenus visuels différents. En l’occurrence ici, les utilisateurs réussissent à contourner l’algorithme de détection d’organe génitaux en publiant des captures d’écran de leur bibliothèque de photo.

En premier plan, un selfie innocent. Mais lorsque l’on regarde au bas de l’image, on peut voir le reste des photos, parmi lesquelles l’internaute a glissé des photos de parties privées.

Des exemples de tiktokeurs partageant des dick pics // Source : Montage Numerama
Des exemples de tiktokeurs partageant des dick pics // Source : Montage Numerama

Il n’est pas facile de déterminer exactement quand la trend a commencé, ni par qui elle a été lancée. Afin de faire ses recherches, Numerama a consulté les vidéos utilisant la musique associée. Tous les tiktoks n’étaient pas concernés : certains créateurs se sont servis de la musique dans le but de critiquer la tendance.

Numerama a cependant pu retrouver des vidéos contenant des dick pics, certaines vieilles de plusieurs jours. Il semblerait néanmoins que la trend ait commencé plus tôt, de façon moins crue : certaines vidéos utilisant la musique associée datent du début octobre, mais ne montrent pas de photo pornographique : les tiktokers se contentaient de poser de façon lascive sur les photos.

D’après les recherches de Numerama, la trend était surtout populaire auprès des utilisateurs hispanophones de TikTok, bien que d’autres usagers l’aient repris. De même, la plupart des personnes qui ont publié des photos nues étaient des hommes, même si Numerama a pu trouver au moins un exemple de femme ayant posté un nude.

Des exemples de tiktoks ayant publié des nudes // Source : Montage Numerama
Des exemples de tiktoks ayant publié des nudes

Une dick pic est une infraction

S’il est difficile d’estimer le nombre de vidéos ayant participé, la trend était cependant assez populaire pour être arrivée dans les recommandations de nombreuses personnes, sans qu’elles l’aient cherché. C’est le fonctionnement de TikTok : l’app va proposer à ses utilisateurs des vidéos issues des trends les plus populaires du moment, même si ce n’est pas toujours ce qu’ils ont l’habitude d’aimer. Le phénomène dick pic a été assez répandu pour que des proches de membres de la rédaction de Numerama tombent dessus par hasard — tout comme certains influenceurs, qui ont fait des vidéos pour le dénoncer.

On peut voir que certaines vidéos ont récolté jusqu’à 70 000 « j’aime », ce qui signifie que des centaines de milliers, voire probablement des millions de personnes ont été exposées à ces contenus pornographiques.

La popularité de la tendance était d’autant plus inquiétante que les enfants constituent une part très importante des utilisateurs de TikTok. Selon les chiffres de Wallaroo, les 10 – 19 ans représenteraient en effet 32,5 % des utilisateurs de l’app. Même s’il faut officiellement avoir 13 ans ou plus pour ouvrir un compte TikTok, de très nombreux enfants plus jeunes sont tout de même connectés sur la plateforme.

Le partage d’images sexuellement explicites, comme des dick pics, peut-être considéré comme une infraction, comme le rappelle le gendarme Matthieu Audibert sur Twitter. « Plusieurs qualifications pénales sont possibles : diffusion de message à caractère pornographique si la victime est mineure, voire corruption de mineurs, exhibition sexuelle et cyberharcèlement », des actes qui peuvent être sévèrement punis. Mais plus que l’aspect juridique, il faut surtout s’interroger sur un point important : comment une telle trend a-t-elle pu atteindre ce niveau de popularité ?

Pourquoi la modération ne fonctionne pas

Dans de nombreuses vidéos que Numerama a visionnées, des utilisateurs, dégoutés par la tendance, expliquaient l’avoir signalée afin que ces dick pics soient retirées. Pourtant, comme nous avons pu nous en rendre compte, les vidéos problématiques ont été consultables plusieurs jours après les premiers signalements. Il a fallu que nous alertions TikTok pour que les vidéos disparaissent, des jours après le début du problème.

Pourquoi TikTok n’a-t-il rien fait avant ? Interrogée par Numerama, l’application nous a seulement répondu que « Nos Règles Communautaires indiquent très clairement que la nudité et les contenus sexuellement explicites sont interdits sur TikTok. Lorsque nous identifions de tels contenus, nous les supprimons de la plateforme ».

Il est vrai que la nudité est interdite sur TikTok, et de que nombreux contenus sont régulièrement supprimés pour cette raison — ce qui provoque d’ailleurs souvent la colère des utilisateurs, pour qui l’algorithme prend parfois des décisions abusives en la matière. Une tiktokeuse se plaignait en août que l’app avait supprimé une de ses vidéos dans laquelle on la voyait simplement se laver les pieds, et d’autres expliquent avoir reçu des avertissements alors qu’ils n’avaient pas posté de vidéos contenant de la nudité.

Beaucoup d'utilisateurs de Tiktok ont suivi cette tendance // Source : Montage Numerama
Beaucoup d’utilisateurs de Tiktok ont suivi cette tendance // Source : Montage Numerama

Comment l’app peut-elle si sévèrement modérer des contenus à priori autorisés, et laisser ces dick pics circuler ? TikTok n’a pas fourni plus de détails. On peut cependant se douter que la réponse tient en deux parties : l’algorithme ne les repère pas, et il n’y a pas assez de modérateurs humains pour faire le travail de vérification qui permettrait de reconnaitre les dick pics.

L’app est pourtant particulièrement connue pour son algorithme qui laisse peu de liberté à ses utilisateurs et utilisatrices. La page « pour toi », où les contenus recommandés par l’algorithme sont visibles, est en grande partie ce qui a fait son succès. Depuis juillet 2021, c’est également une intelligence artificielle qui en charge de la suppression des contenus montrant de la nudité et de la violence — mais ses résultats laissent à désirer. Alors que les utilisateurs de TikTok sont parfois obligés d’inventer de nouvelles façons de parler pour échapper à la censure, l’histoire montre encore une fois ce que tout le monde sait : les algorithmes sont faillibles.

Les vidéos de dick pics ont été supprimées le lendemain de notre signalement auprès de TikTok. Nous ne savons cependant pas si la suppression a été faite manuellement, par des modérateurs humains, ou si l’algorithme a été entrainé à les repérer.


Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !