La Commission européenne entend obliger les géants du net à faire encore plus face aux contenus terroristes. Des amendes sont prévues en cas de raté.

Face à la propagation des contenus identifiés comme faisant l’apologie du terrorisme, la réactivité des grandes plateformes du net va devoir être très nettement progresser. Elles en auront l’obligation : la Commission européenne travaille sur un texte visant à prononcer des amendes contre les sites sociaux s’ils ne sont pas capables de retirer les publications litigieuses dans l’heure suivant leur signalement.

Cet objectif est en réflexion depuis des mois à Bruxelles : en mars, un communiqué statuait que dans le cas des « contenus à caractère terroriste », il est exigé des sociétés concernées qu’elles les suppriment « dans le délai d’une heure à compter de leur signalement ». La raison ? Ce type de contenu « est le plus préjudiciable au cours des premières heures de sa parution en ligne ».

Passer d’un délai de 24h à 1h

Jusqu’à présent, le délai d’intervention pour retirer les contenus identifiés comme faisant l’apologie du terrorisme est de 24 heures. Celui-ci a été fixé en mai 2016, au moment où la Commission a imposé un « code de conduite » à plusieurs géants du net pour qu’ils forment du personnel dédié afin « que la majorité des signalements valides puissent être examinés en moins de 24 heures ».

Les sociétés qui ont déclaré s’engager à respecter ce code de conduite sont Dailymotion, Facebook, Google+, Instagram, Microsoft, Snapchat, Twitter et YouTube.

Il s’avère toutefois, selon les mesures effectuées par les services européens, que les sociétés n’arrivent pas à traiter 100 % des notifications dans le temps imparti : début mars, les statistiques montraient que les entreprises « suppriment en moyenne 70 % des discours haineux illégaux qui leur sont notifiés et dans plus de 80 % des cas, les suppressions ont lieu dans les 24 heures ».

Dit autrement, un signalement sur cinq est réglé après ces 24 heures et 30 % des appels à la modération ne justifient pas, en fin de compte, de supprimer quoi que ce soit.

paris-attentat

Paris a subi ces dernières années des attaques terroristes. Crédits : Stéphanie Renard

Vers l’automatisation

En divisant le temps d’intervention par vingt-quatre, la question se pose évidemment de savoir si les plateformes du numérique parviendront à tenir le cahier des charges. On peut légitimement en douter : alors qu’elles ne parvenaient déjà pas à traiter 100 % des alertes en 24 heures, comment le pourraient-elles en 1 heure ? Cela parait hors de portée pour de la modération humaine.

C’est peut-être là le tournant : le resserrement extrême du délai d’intervention et la hausse des exigences — légitimes — de la Commission européenne ne peuvent que déboucher sur une suppression automatisée des contenus, avec l’emploi massif de filtres de détection et d’algorithmes d’intelligence artificielle. C’est le piège du solutionnisme technologique, qui pense que la technique va tour résoudre.

En empruntant cette voie, les géants du net parviendront sans doute à faire aussi bien, voire mieux, qu’aujourd’hui malgré un cadre nettement plus contraint. Mais ce maintien à flots — qui sera obtenu coûte que coûte, car les géants du web feront tout leur possible pour ne pas risquer une amende — se fera au risque d’un risque accru d’erreurs dans la modération, avec de faux positifs pris dans les mailles du filet.

Découvrez les bonus

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !