Un décret présidentiel américain vient encadrer l’utilisation des intelligences artificielles dans le pays. Parmi les dispositions, on trouve un chapitre sur l’utilisation de l’IA dans le système judiciaire.

Après des jours de spéculation et d’attente, le décret présidentiel américain sur l’intelligence artificielle (IA) a finalement été publié le 30 octobre 2023 au matin. L’executive order, signé par le président Biden, vise large, et devrait avoir un impact conséquent sur les entreprises de la tech, mais pas que. Le document prévoit de nombreuses clauses sur des points tels que les armes biologiques, l’immigration, la santé, mais aussi le système carcéral.

Dans le texte, après les premières mesures concernant le partage de données et les procédures à mettre en place pour sécuriser l’utilisation de l’IA, dans la partie « Promouvoir l’équité et les droits civils », le décret parle de l’usage de ces outils dans les prisons américaines. Il est notamment question de « détermination » des peines à donner aux condamnés, ou bien de « surveillance » et de « police prédictive ».

L’IA dans le système judiciaire, une pratique qui a des biais

Plus précisément, le texte indique que le décret doit « garantir l’équité dans l’ensemble du système de justice pénale en élaborant de bonnes pratiques sur l’utilisation de l’IA dans la détermination de la peine, la libération conditionnelle et la probation, la mise en liberté provisoire et la détention, l’évaluation des risques, la surveillance, la prévision de la criminalité et la police prédictive, ainsi que l’analyse médico-légale. »

En préambule, le décret stipule que le gouvernement a conscience des biais des algorithmes et des intelligences artificielles, et que c’est pour cette raison qu’il veut « garantir l’équité ». Cependant, malgré tout, le texte permet toujours l’utilisation de ces outils — et ouvre la porte à de nombreux questionnements.

Dans le film Minority Report, la police prédictive ne marche pas très bien // Source : 20th Century Studios
Dans le film Minority Report, la police prédictive ne marche pas très bien // Source : 20th Century

L’IA est déjà utilisée dans le système judiciaire américain, que ce soit au niveau des caméras de sécurité intelligentes, ou bien des algorithmes d’évaluation des risques — qui sont également utilisés en Angleterre. Mais Numerama n’a pas trouvé d’exemple d’IA ayant activement choisi la peine d’un condamné, ce qui est, d’après le décret, une piste qui pourrait être explorée aux US.

Pour le reste, le décret vient plutôt apporter un cadre plus strict quant à l’utilisation de l’IA dans le milieu, en mettant en avant l’intérêt d’avoir des « bonnes pratiques ». Le gouvernement explique aussi vouloir « s’attaquer à la discrimination algorithmique par la formation et l’assistance technique ».

L’IA n’est pas un outil neutre : de nombreuses études ont prouvé que les algorithmes reflètent les biais des humains, et en général, peuvent les renforcer. Ces outils sont donc loin d’être des instruments permettant d’assurer des décisions neutres.

On sait déjà que le système carcéral américain est fortement biaisé contre les personnes racisées. Une étude de l’ONU, publiée en septembre 2023, concluait ainsi que « le racisme systémique à l’encontre des personnes d’ascendance africaine est omniprésent dans les forces de police et le système de justice pénale des États-Unis. » Même chose pour la police préventive : ses algorithmes renforcent les biais racistes.

Le gouvernement a conscience des problèmes qui peuvent émerger à cause de l’intelligence artificielle. Le décret explique que « l’utilisation irresponsable de l’IA peut entraîner et aggraver la discrimination, les préjugés et d’autres abus dans les domaines de la justice » — et c’est certainement pour cela qu’il essaie de mieux encadrer les pratiques.

Néanmoins, le décret présidentiel ne donne aucune piste pour « assurer l’équité » dont il parle. Il est évident que ce n’est pas parce que le décret dit qu’il faut s’assurer de leur impartialité que les IA seront, automatiquement, sans biais.

Découvrez les bonus

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !