Des parlementaires, désireux d’alerter sur les effets d’un article dans la future loi sur les Jeux Olympiques de 2024 à Paris, ont mobilisé ChatGPT. Le chatbot a rédigé un amendement proposant de modifier une mesure controversée du texte.

On connaissait les articles de presse rédigés par les intelligences artificielles génératives, comme ChatGPT. Il y a maintenant les amendements législatifs. Ce 21 mars 2023, le journaliste Pierre Januel a signalé l’initiative parlementaire, dont La Lettre A s’est fait également l’écho. C’est, selon les députés à la manœuvre, une première en France.

L’amendement, déposé une semaine plus tôt, le 14 mars, cible le projet de loi relatif aux Jeux Olympiques et Paralympiques de 2024, que le pays accueillera de juillet à septembre l’an prochain. Plus spécifiquement, il porte sur la mesure la plus polémique du texte, l’article 7, qui ouvre la porte à l’expérimentation, via les caméras de surveillance, d’algorithmes « intelligents ».

foule-personnes-monde
Le projet de loi souhaite pouvoir mobiliser des algorithmes prévus pour repérer des situations atypiques sur la voie publique, sans identifier les individus. // Source : Skitter

Cette disposition doit autoriser la possibilité, pour ces outils d’intelligence artificielle, de surveiller la foule dans et aux abords des enceintes sportives pour déceler des évènements prédéterminés et atypiques. Par exemple, un mouvement de foule, un colis abandonné, ou bien une densité excessive de personnes. Ce traitement se ferait en temps réel, en lien avec les forces de l’ordre.

Cette surveillance artificielle, si elle était adoptée, durerait jusqu’en 2025. Elle se ferait également sans reconnaissance faciale, ce qui est décrit par les partisans de la disposition comme l’un des garde-fous visant à préserver les libertés individuelles et les données personnelles. La reconnaissance faciale est une facette de la biométrie, qui concerne le RGPD.

ChatGPT écrit un amendement favorable à une meilleure protection des libertés

C’est donc en ciblant cet article 7 que des parlementaires appartenant au groupe Libertés, indépendants, outre-mer et territoires (LIOT) proposent d’inclure une retouche. L’amendement ajouterait une formule insistant sur la nécessité de bien respecter les droits et libertés fondamentaux des individus, et d’ajouter à chaque étape du traitement l’obligation d’une décision humaine.

C’est ChatGPT, l’incontournable chatbot conçu par l’entreprise américaine OpenAI, qui a été mobilisé dans cette expérimentation législative. Les parlementaires, par cet acte, indiquent vouloir « alerter sur les risques que peut emporter ce type de nouvelles technologies », en laissant, d’une certaine façon, l’intelligence artificielle aux commandes.

Source : Wikimedia / Montage Numerama
L’Assemblée nationale planche sur le projet de loi sur les JO de 2024 à Paris, qui inclut une mesure sur les traitements algorithmiques des images issues des caméras de vidéosurveillance. // Source : Wikimedia / Montage Numerama

L’algorithme, pour justifier sa mise à jour de l’article 7, a avancé l’exposé des motifs suivant :

« L’article permet actuellement la mise en place de traitements algorithmiques en vue de détecter en temps réel des événements susceptibles de présenter ou de révéler des risques, à des fins de sécurité publique. Cependant, cette disposition doit être encadrée afin de préserver les droits et libertés fondamentaux des personnes concernées, notamment en garantissant une prise de décision humaine à chaque étape du traitement. En outre, il est important d’assurer une transparence adéquate quant aux traitements algorithmiques mis en place, afin que les personnes concernées puissent exercer leurs droits et demander une intervention humaine en cas de doute raisonnable sur la pertinence ou l’exactitude de la décision prise. Cet amendement vise donc à renforcer les garanties entourant les traitements algorithmiques en matière de sécurité publique, tout en préservant l’efficacité de ces derniers dans la détection des risques. »

Pour les parlementaires signataires, l’exercice permet de montrer que l’IA peut tout aussi bien produire des réponses allant dans un sens comme dans l’autre. Pour les élus, comme on ne laisserait pas une IA rédiger des textes de loi, il devrait être inadmissible de les laisser effectuer seules des traitements pouvant avoir des répercussions sur les humains.

L’amendement reste à discuter.

Nouveauté : Découvrez

La meilleure expérience de Numerama, sans publicité,
+ riche, + zen, + exclusive.

Découvrez Numerama+

Abonnez-vous gratuitement à Artificielles, notre newsletter sur l’IA, conçue par des IA, vérifiée par Numerama !