Un bug révèle l'identité de modérateurs Facebook à des soutiens de Daech
Au lendemain de l'annonce par Facebook de son dispositif anti-propagande terroriste, The Guardian révèle que le réseau social a fait l'objet d'une faille de sécurité importante en la matière.
Parmi ces modérateurs -- de contenu haineux, pornographique ou terroriste --, on trouve majoritairement des prestataires recrutés par Facebook. 40 travaillent à Dublin, en Irlande, au sein de l'équipe d'anti-propagande terroriste. 6 personnes y sont considérés comme des victimes « prioritaires », leurs profils ayant très probablement été consultés par de potentiels terroristes.
The Guardian a pu recueillir le témoignage de l'un d'eux, qui a logiquement préféré garder son identité secrète. Cet homme d'une vingtaine d'années, arrivé d'Irak en Irlande dès son plus jeune age en tant que demandeur d'asile, a préféré quitter son pays d'adoption. Il a vécu caché 5 mois en Europe après que 7 membres d'un groupe de propagande terroriste qu'il a suspendu ont consulté son profil. Parmi eux, on trouve des sympathisants de l'organisation État islamique.
« Je ne vais pas attendre l'arrivée d'une bombe »
Celui qui a vu son père enlevé puis battu et son oncle exécuté en Irak explique ainsi au quotidien britannique : « C'était devenu trop dangereux de rester à Dublin. La seule raison de ma présence en Irlande était d'échapper au terrorisme et aux menaces. [...] Quand vous venez d'une zone en guerre et que des gens comme ça connaissent votre nom de famille, vous savez que certains sont massacrés juste pour ça. La sanction de [l'organisation] État islamique, quand vous travaillez dans l'anti-terrorisme, c'est la décapitation. Il leur suffirait de le dire à une personne radicalisée [présente en Irlande]. »
Facebook a tenté de résoudre le problème dès sa découverte, en novembre 2016, quand les modérateurs se sont étonnés de recevoir des demandes d'amis d'utilisateurs affiliés à ces groupes. Mais il lui a fallu deux semaines pour le corriger. À l'époque, Craig D'Souza, à la tête des enquêtes internationales du réseau, tente de rassurer les modérateurs concernés : « Il faut savoir que les personnes qui ont vu apparaître votre nom l'ont vu dans leur registre d'activités, qui contient énormément d'informations. Il y a de grandes chances qu'ils vous associent simplement à un autre administrateur du groupe ou à un hacker. »
Le modérateur qui a quitté l'Irlande -- et a fini par y revenir par manque d'argent -- ne cache pas son inquiétude dans sa réponse : « Je comprends, Craig, mais c'est trop risqué. Je ne vais pas attendre qu'une bombe arrive dans ma boîte aux lettres pendant que Facebook tente de réagir. »
« Facebook aurait dû nous laisser utiliser de faux profils »
Si la faille de sécurité est en cause, le manque de vigilance de Facebook est aussi pointé du doigt par le modérateur menacé : celui-ci est obligé, comme tous ses collègues, d'utiliser son profil personnel pour effectuer son travail. Ce qui a malencontreusement permis à leur identité de fuiter directement dans les groupes dont ils avaient banni les administrateurs pour leur activité interdite.
Le modérateur expatrié ne cache pas sa colère : « Chaque matin, vous regardez des décapitations, des gens qui se font massacrer, lapider, exécuter. [....] Ils auraient dû nous laisser utiliser de faux profils. Nous n'avons jamais été prévenus qu'une chose pareille risquait d'arriver. »
Facebook assure de son côté faire l'essentiel pour aider les modérateurs concernés : « Notre enquête a montré qu'une petite fraction des noms a probablement été vue, et nous n'avons aucune preuve de menaces proférées contre eux ou leur famille. Malgré tout, nous avons contacté chacun d'entre eux pour leur apporter notre soutien, répondre à leurs questions et prendre les mesures nécessaires pour assurer leur sécurité [comme l'installation d'une alarme à domicile]. »