Une pédiatre a trouvé sur YouTube Kids, une application supposée être sécurisée pour les enfants, des contenus violents ou qui promouvaient le suicide.

Sur YouTube Kids, une application dédiée aux enfants, des dessins animés à priori innocents contiennent en fait des images violentes et inappropriées. Free Hess, une pédiatre américaine qui milite pour la sécurité des enfants en ligne, l’expliquait sur son blog fin février.

Conseils au suicide et violences

La médecin a d’abord été alertée par une mère de famille. Dans une vidéo inspirée du jeu Splatoon, cette dernière a été choquée par un personnage expliquant à des enfants comment mieux se tailler les veines.

YouTube Kids est supposé être une plateforme où les enfants peuvent surfer en sécurité. Seulement, l’application, comme le site YouTube, ne sont considérés que comme des hébergeurs de contenus. La loi ne les oblige pas, de fait, à modérer les contenus de manière pro-active. YouTube Kids compte sur les signalements de ses utilisateurs pour savoir quelles vidéos sont dangereuses et doivent être supprimées. Cette méthode semble être peu efficace en pratique.

La pédiatre Free Hess a ensuite trouvé plusieurs contenus problématiques en l’espace de quelques heures : des images de ce qui s’apparente à du trafic d’enfants, des personnages féminins maltraités et visiblement battus, de la violence, du langage cru, des meurtres, des tueries de masse ou encore des images de suicide.

Des vidéos signalées toujours en ligne

Free Hess a partagé les vidéos à sa communauté en l’invitant à signaler les contenus à YouTube. La plateforme a tardé à agir et dans certains cas, n’a pas agi du tout.

La vidéo contenant des conseils pour mieux se suicider a été signalée il y a 8 mois, et supprimée il y a environ un mois. Un porte-parole de YouTube France nous a expliqué à ce propos que YouTube appliquait des règles strictes en matière d’automutilation. « Chaque trimestre, nous supprimons des millions de vidéos et chaînes qui enfreignent nos politiques, nous a-t-on assuré. La majorité de ces vidéos sont supprimées avant même qu’elles ne soient visualisées. »

D’autres vidéos sont restées plus longtemps en ligne, selon Free Hess. YouTube explique que la plupart ont aujourd’hui été retirées.

Des personnages Disney ont été détournés sur Youtube Kids. // Source : Montage Numerama

Tous les signalements sont analysés par des modérateurs humains, disponibles 24 heures sur 24 et 7 jours sur 7.

Ce n’est pas la première fois que YouTube Kids est pointé du doigt. Des contenus pour adultes mettant en scène des personnages Disney y ont été hébergés pendant des mois, racontait Polygon. En mars 2018, des vidéos complotistes avaient également été retrouvées sur l’application. Un mois plus tard, YouTube Kids offrait aux parents la possibilité de n’autoriser que des vidéos validées par des humains.

Partager sur les réseaux sociaux