Supprimer des contenus terroristes en 1h ? Des ONG dénoncent une fausse bonne idée
C'est un appel de de 61 organisations non gouvernementales (ONG), dont la Ligue des droits de l'Homme, la Quadrature du Net ou encore Wikimédia en France, mais aussi Reporters Sans Frontières, Amnesty International ou encore Human Rights Watch.
Les signataires dénoncent essentiellement les contraintes très lourdes qui vont peser sur les plateformes numériques, notamment les réseaux sociaux, pour modérer encore plus durement les contenus qui sont qualifiés de propagandes terroristes. L'un des aspects clés du texte est d'exiger des sites le retrait de ces contenus en une heure, à partir du moment où ils reçoivent un signalement.
Or, les ONG préviennent que ce délai est si court que des entreprises comme Google, Twitter ou Facebook ne vont pas avoir d'autre choix que de concevoir des dispositifs de traitement automatique, ce qui posera des problèmes de sur-censure. Des contenus tout à fait légitimes risquent d'être notifiés à tort, et des filtres pour vérifier l'envoi de nouveaux contenus avant leur mise en ligne pourraient se tromper.
« Parce qu’il est impossible pour les outils automatisés de différencier le militantisme, les contre-discours, et la satire à propos du terrorisme, contenu considéré comme terroriste lui-même, une automatisation accrue entraînera à terme la suppression de contenus légaux comme le contenu journalistique, le traitement discriminatoire des minorités et de certains groupes sous-représentés », alertent-ils.
Ces dysfonctionnements algorithmiques sont identifiés, et depuis des années. En 2017 par exemple, des vidéos montrant les crimes commis en Syrie avaient été retirés par erreur de YouTube. Plus récemment, en 2020, d'autres vidéos de ce type avaient connu les mêmes difficultés, notamment celles regroupées et proposées par les Archives Syriennes et Yéménites, pour documenter la situation dans les deux pays.
Or, les ONG pensent que la proposition de règlement « ne fera que renforcer cette tendance ». Tendance qui est d'ailleurs, selon elles, déjà désastreuse : « Les plateformes suppriment déjà d’énormes quantités de contenus publiés par des survivants, des civils ou des journalistes documentant la violence dans les zones de guerre, ce qui peut entraver les efforts de responsabilisation », se désolent les signataires de la missive.
Menaces sur l’État de droit et la liberté d'expression
Outre le problème du délai trop resserré pour analyser la nature des contenus qui sont rapportés, les organisations de défense des droits humains pointent deux autres défauts du texte, dont le vote final au Parlement européen est attendu pour le mois d'avril 2021. Le premier est « un manque cruel de contrôle judiciaire indépendant », puisque ce sont les États qui, de fait, désignent les contenus terroristes, et non les juges.
Les pays membres doivent plus exactement désigner « les autorités compétentes qui seront investies des pouvoirs nécessaires pour mettre en œuvre les mesures prévues par le règlement ». Or, les ONG considèrent qu'il vaudrait mieux confier cette tâche à des autorités administratives indépendantes ou à l'institution judiciaire -- en l'état, cela fait courir à un risque à la liberté d'expression et à l’État de droit.
Le second souci est le caractère extraterritorial du texte. « Les États membres émettront des injonctions de suppression transfrontalières sans aucun garde-fou », s'alarment les ONG. En clair, les pays pourront faire supprimer des contenus hébergés ailleurs dans l'UE. Or, l'émergence de démocraties illibérales en Europe fait craindre des tentatives de réduire sous silence des critiques à leur encontre.
Le serrage de vis contre les contenus terroristes est un sujet en gestation depuis quelques années en Europe. Mais les récentes attaques en France (à Conflans-Sainte-Honorine) ou en Autriche (à Vienne) ont donné une nouvelle cadence politique pour progresser sur ce texte. En décembre, un accord politique a été trouvé entre la Commission, le Parlement et le Conseil. Désormais, c'est l'heure du vote.