Pouvoir prédire les crimes grâce à un simple ordinateur est le rêve de beaucoup de policiers et policières. Ils devront patienter encore un peu avant qu’il ne se réalise. Les forces de l’ordre de Los Angeles, qui testent un tel dispositif, PredPol, depuis 2010, estiment qu’on ne peut pas affirmer qu’il est efficace, a rapporté GovTech le 5 juillet. Ces critiques s’ajoutent à celles qui concernent les biais racistes de l’outil.
Des résultats décevants
Le département de police de Los Angeles (LAPD) teste depuis 9 ans maintenant le procédé qu’il a co-créé avec un universitaire. Les données qu’il utilise portent sur les affaires qu’il a traitées par le passé. Une fois agrégées, elles permettraient d’établir des sortes de schémas prédictifs. Par exemple, si les vols ont toujours lieu le mardi à 20h10 dans une rue donnée, ils sauront qu’il y aurait de fortes chances pour que cela se reproduise mardi prochain au même endroit. Ils pourront envoyer une patrouille sur place au cas où.
Aux États-Unis, une soixantaine de départements de police — sur 18 000 au total — se sont équipés de systèmes similaires à celui utilisé à Los Angeles, depuis 2010. Plusieurs d’entre eux ont abandonné l’essai car le logiciel ne les aidait pas à réduire les crimes. Le peu d’informations qu’il apportait était déjà identifiées par les patrouilles de police dans la rue.
Janine de la Vega, la porte-parole de la police de Palo Alto, en Californie, explique qu’après 3 ans d’essai, elle n’a trouvé au logiciel « aucune valeur ajoutée ». « Il ne nous a pas aidé à résoudre le problème de criminalité », a-t-elle fait savoir à GovTech. Katie Nelson, porte-parole de la police de Mountain View, a elle indiqué que son département avait dépensé plus de 60 000 dollars (environ 53 000 euros) en 5 ans pour le logiciel. Elle raconte que les résultats étaient si « mitigés » que ses équipes ont préféré cesser cette activité en 2018.
En mars, la LAPD elle-même a fait un audit interne sur l’efficacité de PredPol. Elle a estimé ne pas avoir suffisamment de données pour permettre d’affirmer que le logiciel a réellement permis de faire baisser la criminalité.
Un logiciel qui reproduit des biais racistes ?
Le logiciel était pourtant plein de promesses. Ses créateurs pensaient qu’ils pourraient deviner quels délits ou crimes seraient commis dans les 12 prochaines heures, grâce à une base de données considérables (nature du crime, date, heure, localisation), recouvrant dix ans d’activité policière.
L’utilisation d’une telle quantité de données avait posé question. Plusieurs défenseurs des libertés avaient émis des doutes quant à la compatibilité du système avec la vie privée. D’autres craignaient que le logiciel ne reproduise des biais racistes et n’accroisse la pression policière sur les citoyens noirs ou latinos.
PredPol avait ainsi une fonctionnalité qui indiquait quel type de personnes serait plus susceptible de commettre un délit ou crime que les autres. Le problème c’est que PredPol est entraîné grâce aux données sur les personnes arrêtées et non sur tous les coupables. Or le racisme policier est particulièrement fort. Si les personnes arrêtées sont plutôt des personnes noires ou métisses, le logiciel aura tendance à croire que les coupables sont plus souvent des personnes non-blanches, sans prendre en compte le biais raciste possible.
Plus de transparence exigée
Michel Moore, le chef de la police de Los Angeles, a indiqué qu’il avait mis fin à cette fonctionnalité à Los Angeles pour ces raisons et que d’autres fonctionnalités restaient encore à améliorer. Il défend pour autant le logiciel dans son ensemble, estimant qu’il serait efficace pour établir des stratégies par localisation par exemple. PredPol génère chaque jour 10 zones à risque, où des vols ou cambriolages pourraient avoir lieu.
Quant à la personne en charge de PredPol, Brian MacDonald, il explique que le but de PredPol n’était pas de réduire ou prévenir le crime, sans préciser quel était dans ce cas l’objectif poursuivi. Sur son compte LinkedIn, il explique toujours clairement que le logiciel servait à la police à être « au bon endroit au bon moment, pour aider à dissuader de commettre un crime avant que ce ne soit le cas ».
La commission civile de la police de Los Angeles a exigé que les résultats obtenus avec le logiciel soient mieux analysés, mesurés et qu’ils soient rendus publics. Elle souhaite aussi savoir à quel point PredPol pousse les policiers à cibler les communautés de personnes non-blanches. Pour le moment, aucune information précise n’a été donnée à ce sujet.
Nouveauté : Découvrez
La meilleure expérience de Numerama, sans publicité,
+ riche,
+ zen,
+ exclusive.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !
