Smart Police, le logiciel de police prédictive qui inquiète

« 350 villes améliorent la tranquillité et la sécurité de leurs administrés avec nos solutions », affirme sur son site Edicia, l’entreprise nantaise à l’origine du logiciel Smart Police. La description qui suit laisse entendre qu’il s’agit d’une interface aux objectifs multiples : une sorte de « tout-en-un » pour faciliter le travail des polices municipales. 

Smart Police permet de dématérialiser les tâches administratives, mais ce n’est pas tout. « Optimisez vos moyens et vos ressources grâce à l’Intelligence Artificielle », nous dit aussi le site du concepteur. Parce que le logiciel est aussi prévu pour servir à « l’anticipation et la visualisation des événements de délinquance », grâce à son module de police prédictive.

Une IA pour prédire la délinquance

La science n’a pas attendu l’explosion des technologies numériques pour tenter de prédire la criminalité : au milieu du XIXe siècle, le statisticien français André-Michel Guerry s’intéressait déjà aux « attitudes sociales » qui pouvaient mener à enfreindre la loi. Cependant, avec le développement des IA, la police prédictive est passée à un niveau supérieur.

En 2018, Edicia dépose un brevet intitulé « Procédé et système de surveillance et de prévention de dysfonctionnements en sécurité territoriale ». Le module prédictif de Smart Police est né. Sans avoir la prétention de prédire des crimes, il est censé anticiper des faits de délinquance qui pourraient se produire prochainement — en indiquant « où » et « quand » assez précisément pour allouer les effectifs nécessaires. 

Dans le cadre de son projet de recherche-action Technopolice, l’association La Quadrature du Net a enquêté sur plusieurs logiciels de police prédictive. Elle a obtenu le manuel d’utilisation de Smart Police dans lequel plusieurs fonctionnalités sont présentées en détail. 

Ainsi, deux sources de données serviraient à nourrir l’algorithme de prédiction.

• D’une part, des données de terrain avec des éléments renseignés sur Smart Police, notamment la localisation des patrouilles ou encore des « alertes » émises par les agents.
• D’autre part, des données « externes », comme des indicateurs socio-économiques sur la population, des données d’urbanisme, la météo ou encore des informations provenant des réseaux sociaux. 

La manière dont ces données sont ensuite traitées par l’IA est une question à laquelle il est impossible de répondre pour un observateur extérieur : « Le manuel d’utilisation d’Edicia ne donne pas d’informations précises qui permettent de voir comment fonctionne le module de police prédictive », explique Félix Tréguer, co-auteur du rapport et chercheur associé au Centre Internet et Société du CNRS. 

Ce manque de transparence crée alors un effet « boîte noire », affirme Simon, juriste en droits fondamentaux et membre de la campagne Technopolice locale de Montpellier. « Le caractère privé des entreprises qui fabriquent ce type de logiciels mène à ce que ces derniers ne soient pas “libres”, précise-t-il. Le code source n’est pas rendu public pour des questions de secret industriel. »

Corrélation n’est pas causalité 

Certains risques sont communs à la majorité des outils de police prédictive, comme le fait qu’ils s’appuient souvent sur des croyances criminologiques remises en cause par la sociologie. Par exemple, la « théorie des vitres brisées », qui voudrait que de petits actes de délinquance nécessitent une réponse policière ferme et rapide, pour éviter une dégradation vers des actes plus graves.

Plus largement, les technologies de police prédictives reposent parfois sur des corrélations statistiques qui ne suffisent pas à établir des liens de causalité. Smart Police ne semble pas faire exception : « Des postulats du même ordre [que la théorie des vitres brisées, ndlr] semblent inscrits dans le module prédictif de Smart Police, déplore Félix Tréguer. Selon nos sources, des ateliers auraient même été organisés avec les forces de l’ordre pour coder dans l’algorithme les savoirs ou les croyances que les agents peuvent avoir constitués sur la base de leur expérience. » Sur ce dernier point, aucune des polices municipales contactées ne nous a répondu. 

D’autre part, un rapport récent de l’Agence européenne des droits fondamentaux indique aussi que l’un des risques liés aux algorithmes de police prédictive est celui des « effets d’auto-renforcement », ou « feedbak loops ». Le rapport de la Quadrature du Net le démontre ainsi : « Lorsqu’un nombre important de patrouilles sont envoyées dans une zone donnée en réponse aux recommandations de l’algorithme, elles seront conduites à constater des infractions – mêmes mineures – et à collecter des données relatives à cette zone, lesquelles seront à leur tour prises en compte par le logiciel et contribueront à accroître la probabilité que cette même zone soit perçue comme ‘à risque’. » Cet effet peut alors conduire à renforcer la présence policière dans certains quartiers. 

Quant à l’efficacité du logiciel, l’entreprise affirme sur son site qu’il permet « +50 % d’efficacité plans de prévention de la délinquance » (sic), « -20% baisse des incivilités et de l’insalubrité », ou encore « -30% baisse du sentiment d’insécurité », mais elle n’a communiqué aucune étude permettant de vérifier ces chiffres pour l’instant. 

Quelle utilisation réelle sur le terrain ? 

Depuis un certain temps, Edicia semble être passée en mode « silencieux » quant à sa stratégie de communication : son compte X n’est plus actif depuis 2018 par exemple. (Contactée, l’entreprise n’a pas souhaité répondre aux sollicitations de Numerama, mais est toujours en activité). Aussi, un jugement datant du 20 juillet 2022 indique que la société est sous le coup d’une procédure de redressement.

Des documents attestent de la vente de Smart Police à plusieurs collectivités, comme la Métropole de Nice, la communauté d’agglomération Roissy Pays de France ou encore la ville d’Etampes, qui a renouvelé son contrat en décembre 2023. Néanmoins, il est difficile d’évaluer l’usage réel qui est fait de Smart Police sur le terrain : « Nos demandes CADA n’ont pas livré d’éléments attestant de l’utilisation du volet prédictif de Smart Police, en dehors de la ville de Nice qui a indiqué ne l’avoir jamais utilisé », indique le rapport de la Quadrature du Net. 

Aujourd’hui, il semble que Smart Police soit regroupé avec deux autres logiciels, à savoir Smart Control et Smart Security, sur une seule plateforme appelée City Zen et dont la marque a été déposée le 26 février 2018 par Edicia.

Par ailleurs, Edicia ne semble pas se contenter uniquement du marché français. Un procès-verbal de 2018, de la ville de Morrison aux États-Unis, indique qu’un contrat a été signé par le département de police avec l’entreprise. En 2019, c’est à la capitale du Colorado, Denver, qu’Edicia avait vendu son logiciel. Elle y aurait même installé une antenne.  

Si l’ampleur de l’usage réel de Smart Police peut donc difficilement être évaluée, La Quadrature du Net n’est pas seule à s’inquiéter des enjeux liés à la police prédictive : lors des discussions autour de l’IA Act en juin 2023, le Parlement européen s’était prononcé en faveur de leur classement dans la catégorie des IA dites « inacceptables ».  

Cependant, l’accord politique conclu en décembre de la même année ne contient qu’une interdiction partielle de ces technologies : il n’interdit pas les logiciels de police prédictive fondées sur des approches géographiques comme Smart Police.

Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.