Facebook scanne les conversations pour repérer les pédophiles
Afin de préserver la sécurité de ses plus jeunes membres, Facebook dispose de plusieurs procédures de contrôle. L'une d'entre elles est un mécanisme de vérification automatique des discussions et des messages, afin de débusquer les comportements déviants pouvant impliquer des mineurs.
Fréquenté par des millions d'internautes dans le monde, Facebook compte de nombreux mineurs dans ses rangs.
De par son immense popularité chez les jeunes, Facebook se retrouve en première ligne pour protéger ses membres. Le réseau social a ainsi prévu des guides expliquant aux parents quoi faire si leur enfant est victime d'une attaque et comment signaler un contenu inapproprié. Des pages dédiées sont également disponibles, comme Net Écoute, et des contacts ont été établis avec des associations spécialisées, comme e-Enfance.
Suffisant pour protéger nos chères petites têtes blondes ? Visiblement non : Reuters révèle dans une enquête que le réseau social contrôle aussi les conversations des membres, de façon automatique, afin de repérer les tentatives de harcèlement sexuel d'adultes envers les mineurs. Autrement dit, le site communautaire veut agir en amont en repérant, grâce à un logiciel, les comportements tendant vers la pédophilie.
"Un homme d'une trentaine d'années discutait de sexe avec une jeune fille de 13 ans [...] et avait prévu de la rencontrer le lendemain après les cours. La technologie [...] de Facebook pour balayer les messages et les historiques pour repérer les activités illégales a automatiquement signalé la conversation aux employés, qui l'ont lue avant de prévenir immédiatement la police". L'homme a ensuite été interpellé le lendemain.
Pour les représentants des forces de l'ordre interrogés par Reuters, le système de vérification automatique mis en place le réseau social est tout à fait positif. "La manière et la rapidité avec lesquelles ils nous ont contacté nous ont permis d'intervenir dès que possible". Une fois le signalement transmis, une enquête peut être déclenchée.
L'article ne précise pas combien de personnes ont été prises la main dans le sac. Il est donc difficile de jauger de l'efficacité d'un tel outil. Facebook ne précise pas non plus si le système est actif pour les profils non-américains, ni ce que deviennent ensuite les conversations jugées suspectes. Quant à la question de la vie privée des membres, Facebook assure que les conversations ne sont pas surveillées.
Elles sont analysées par un logiciel dédié qui ne fait que ressortir les discussions contenant des mots-clés spécifiques. "Nous n'avons jamais voulu mettre en place un environnement où nos salariés espionnent les conversations privées, il est donc essentiel pour nous d'employer une technologie ayant un très faible taux de faux positifs", a argumenté Joe Sullivan, le responsable de la sécurité sur la plate-forme.