Alors que la loi Renseignement qui entrera bientôt en vigueur donne la possibilité au gouvernement d'imposer l'installation de boîtes noires chez les FAI et les hébergeurs pour y détecter de potentiels terroristes, le futur patron de la Commission de contrôle des techniques de renseignement reconnaît que le contrôle des algorithmes sera très difficile à réaliser.

Créé par la loi sur le renseignement promulguée le 24 juillet 2015, l'article L851-3 du code de la sécurité intérieure est sans nulle doute la disposition qui fait le plus polémique et qui recèle le plus de dangers pour les libertés publiques. C'est en effet lui qui traduit dans la loi la volonté des services de renseignement de pouvoir imposer des boîtes noires dans les réseaux des FAI et des hébergeurs, pour détecter des comportements suspects de potentiels terroristes en croisant les métadonnées dans des algorithmes dont personne ne sait rien.

Selon le niveau de sophistication des algorithmes, il pourrait s'agir de lignes de code très simples visant à obtenir toutes les adresses IP de qui se connecte à tel ou tel serveur identifié comme étant un repaire de djihadistes, ou d'une véritable intelligence artificielle qui use de toute la puissance du Big Data pour réunir des éléments statistiques très précis pour détecter, dans une masse de données, celles qui seraient typiques de terroristes en puissance. Devant le Conseil constitutionnel qui les a validées sans broncher, le Gouvernement avait expliqué qu'il s'agissait d'aller voire par exemple qui partage des vidéos de décapitation sur les réseaux sociaux, ou qui utilise des "modes particuliers de communication qui constituent, en quelque sorte, une signature permettant de détecter des groupes terroristes".

Le volume de données qui seront exploitées en amont par les algorithmes et le volume de "suspects" détectés après filtrage auront un impact très important sur le respect effectif de la vie privée des internautes qui, sans le savoir, utiliseront des réseaux sur lesquels seront installées ces boîtes noires.

"J'ai noté dans le débat publique une inquiétude sur cet algorithme, que je comprends", a reconnu mardi le futur président de la Commission nationale de contrôle des techniques de renseignement (CNCTR), Francis Delon, lors de son audition devant l'Assemblée nationale. La loi prévoit que la Commission soit consultée avant l'installation de la boîte noire, lors de son renouvellement tous les 2 mois, et avant l'identification formelle d'un suspect désigné par l'algorithme. Dès ce matin au Sénat, il avait prévenu qu'il exercerait le contrôle des boîtes noires avec soin.

VOIR SI ON "RATISSE TROP LARGE"

M. Delon assure que "la première chose à faire sera de se pencher sur le dispositif technique lui-même", et donc il compte demander à la personnalité qualifiée désignée par le président de l'ARCEP de se pencher tout particulièrement sur le dispositif". Il s'appuiera aussi sur des ingénieurs recrutés en interne, voire sur des consultants externes. "Jean-Marie Delarue (le président de l'actuelle CNCIS remplacée par la CNCTR, ndlr) a déjà recruté un ingénieur qu'on me présente comme très brillant. Il faudra des compétences techniques fortes. Ces gens devront veiller à ce que le paramétrage de l'algorithme corresponde bien aux finalités et au cahier des charges présenté par le service qui aura élaboré l'algorithme".

En fonction des résultats présentés par les services lors des premières expérimentations, "on verra si l'algorithme ratisse trop large ou pas", a-t-il également voulu rassurer. "Ces premiers résultats seront éclairants pour se faire une idée sur ce que cet algorithme vaut, sur ses capacités, et les éventuels effets pervers qu'il peut avoir pour les libertés publiques".

Ancien supérieur hiérarchique de l'Agence nationale de sécurité des systèmes d'information (ANSSI), Francis Delon sait "qu'un logiciel est très difficile à vérifier, qu'il peut avoir des milliers voire des millions de lignes de code, et que vérifier qu'il n'y ait rien de caché est une gageure à laquelle il faudra s'attaquer". Il devra le faire avec uniquement 400 000 euros de budget.

Partager sur les réseaux sociaux

Articles liés