YouTube a mis en place un nouveau dispositif destiné à contrôler automatiquement les vidéos afin de mieux lutter contre les contenus de propagande. Mais ce système s'est trompé dans l'identification de certaines vidéos informatives montrant les crimes commis en Syrie.

Avec des internautes qui envoient sur YouTube pas moins de 400 heures de contenus en vidéo chaque minute, Google n’a pas du tout les effectifs suffisants pour en confier la vérification à une équipe de modération, même si elle était composée de centaines ou de milliers de membres. L’entreprise américaine est donc obligée d’automatiser ce travail pour suivre le rythme.

Seulement, il s’avère que la qualité d’appréciation des algorithmes mis en place par la firme de Mountain View n’est pas aussi performante qu’un contrôle humain.

Cette situation a déjà été très largement été illustrée par le passé, en particulier dans le cas du filtre anti-piratage Content ID, qui sert à détecter la mise en ligne de vidéos par des internautes n’en possédant par les droits. Par exemple, le filtrage Content ID a montré ses limites face aux exceptions du droit d’auteur, comme la parodie, le pastiche et la caricature, pourtant prévues dans le code de la propriété intellectuelle.

Problème d’identification

Malgré les limites de l’automatisation de la modération sur YouTube, c’est dans cette voie que Google, la maison-mère de la plateforme vidéo, a persisté, notamment pour donner corps à son plan d’action contre le terrorisme et la radicalisation. En effet, le site est fortement sollicité par les nations occidentales, en particulier européennes, pour agir plus efficacement contre ces contenus illicites.

Sauf qu’un article du New York Times révèle que YouTube a visiblement confondu des vidéos montrant les horreurs perpétrées par l’État islamique, et qui pourraient servir de preuves en cas d’éventuelles poursuites pour crimes de guerre et crimes contre l’humanité, avec des séquences montrant la propagande produite par les dévots de l’organisation terroriste à des fins de recrutement.

syrie-guerre
CC Basma

Le journal américain prend l’exemple de la chaîne Qasioun News Agency, un média militant alimenté par des dizaines de correspondants en Syrie. Celui-ci a été fermé par YouTube avant d’être rouvert plus tard par la plateforme américaine. Depuis 2014, plus de 6 000 vidéos ont été mises en ligne, montrant différentes facettes de la guerre civile qui ravage la Syrie depuis 2011.

« C’est le récit de cette terrible guerre qui est en train de disparaître sous nos yeux », s’est lamenté Chris Woods, le directeur d’Airwars, une ONG basée à Londres qui suit les frappes aériennes, notamment celles de la coalition, et leurs conséquences sur la population civile. De son côté, Talal Kharrat, un responsable de Qasioun, a regretté les erreurs de marquage sur certaines vidéos.

Il a ainsi cité une vidéo montrant un accrochage entre les forces gouvernementales et les groupes d’opposition pour laquelle YouTube a considéré qu’elle propageait de la violence, ce qui est une infraction à ses règles communautaires..

C’est le récit de cette terrible guerre qui est en train de disparaître sous nos yeux

C’est la mise en place d’un nouveau mécanisme de vérification, début août, qui a posé ces soucis. Celui-ci repose sur de l’apprentissage automatique afin que le système apprenne au fur et à mesure qu’il y est confronté à mieux repérer les vidéos potentielles de propagande. Selon nos confrères, un nombre inconnu de chaînes et de vidéos a été supprimé dans les semaines qui ont suivi mais certaines d’entre elles ont été réactivées depuis, lorsque YouTube a été alerté.

Interrogée par le New York Times, une porte-parole a expliqué que si la plupart des vidéos qui sont signalées sont soumises à une vérification humaine — avec l’aide d’ONG — avant d’être supprimées (ou non), dans certains cas la technologie employée par Google peut conduire à une suppression automatique et à un avertissement adressé à celui ou celle qui a mis en ligne le contenu incriminé.

D’après le journal, le contrôle des vidéos porte essentiellement sur celles dont l’origine de la mise en ligne se situe en Syrie ou dans des zones de conflit où les extrémistes opèrent.

À lire sur Numerama : Terrorisme  : YouTube redirige les recherches d’internautes vers des vidéos de contre-discours

Partager sur les réseaux sociaux