Les sénateurs ont modifié le projet de loi numérique pour imposer à l'administration de dire aux personnes concernées que les décisions prises à leur encontre l'ont été sur la base d'un traitement algorithmique, qui devra être expliqué dans ses grandes lignes.

Lors de l’examen en séance plénière du projet de loi numérique, les sénateurs ont adopté un article 2 modifié par amendement, qui obligera l’administration à signaler systématiquement aux citoyens lorsqu’ils font l’objet d’une décision prise sur la base d’un algorithme.

La première version du projet de loi présenté par la secrétaire d’État Axelle Lemaire faisait simplement à l’administration l’obligation de communiquer les grandes règles d’un algorithme utilisé, lorsque l’administré demandait à y avoir accès. Mais il fallait alors que la personne concernée ait conscience que son dossier avait été traité sur la base d’un tel algorithme, ce qui était loin d’être acquis.

Désormais, le texte dispose qu’une « décision individuelle prise sur le fondement d’un traitement algorithmique comporte une mention explicite en informant l’intéressé  ». Il ajoute que « les règles définissant ce traitement ainsi que les principales caractéristiques de sa mise en œuvre sont communiquées par l’administration à l’intéressé s’il en fait la demande », selon des modalités qui seront définies par décret.

algorithme

Tous les traitements algorithmiques ne seront toutefois pas communicables

Il s’agira par exemple des algorithmes utilisés pour accepter ou non l’accès à une école supérieure. « De nombreuses décisions individuelles sont effectivement prises par l’administration assistée de traitements algorithmiques, c’est-à-dire d’outils soumettant les données entrées par l’administration à une suite d’opérations ou d’instructions permettant d’aboutir à un résultat », expliquait le rapport du sénateur Christophe-André Frassa.  « De tels instruments sont en particulier utilisés pour gérer de grandes masses de données, faisant intervenir de multiples facteurs à prendre en compte comme des listes de voeux ou des critères à croiser, afin d’optimiser les solutions. L’étude d’impact jointe au projet de loi cite ainsi l’exemple du système Admission Post Bac (APB) qui permet d’affecter les étudiants dans les filières d’enseignement supérieur en tenant compte de leurs choix ».

Tous les traitements algorithmiques ne seront toutefois pas communicables. L’article écarte ceux protégés par des secrets définis à l’article L311-5 du code des relations entre le public et l’administration. Pas question, par exemple, d’ouvrir l’algorithme des boîtes noires de la loi renseignement, censés identifier dans un réseau informatique les personnes suspectées de desseins terroristes.

Le code source du logiciel qui met en œuvre l’algorithme devra aussi être communiqué sur demande, s’il ne pose pas de risque de sécurité, et s’il n’est pas couvert par le secret.

À lire sur Numerama : Codes sources de l’État  : un accès limité voté par le Sénat

Partager sur les réseaux sociaux

Articles liés