Montpellier exige de ses employés qu’ils renoncent à ChatGPT, le chatbot propulsé à l’intelligence artificielle. Une interdiction qui va être difficile à mettre en place.

À Montpellier, les employés de la mairie ont désormais interdiction de se servir de ChatGPT. La consigne a été prise par Manu Reynaud, l’adjoint du maire en charge du numérique, a révélé le Midi Libre le 27 mars. La décision a été prise « par précaution et à titre conservatoire », détaille l’élu, et elle concerne également les interlocuteurs externes de la mairie, notamment dans le cas de contrats.

C’est la première fois en France qu’une mairie prend une telle instruction, mais ChatGPT est déjà interdit ailleurs, notamment à Sciences Po. Le chatbot développé par OpenAI, fascinant par bien des aspects, alimente aussi diverses controverses et angoisses. D’autres établissements et métropoles pourraient bien décider d’emprunter le même chemin que Montpellier.

Une question de sécurité

À Montpellier, l’interdiction est surtout motivée par des questions de sécurité, selon Manu Reynaud. « Nous ne pouvons garantir que des informations échangées avec la plateforme seront protégées contre les éventuelles violations de sécurité, de droits ou de confidentialité ». Cette exigence de sécurité explique pourquoi la consigne s’applique aux interlocuteurs externes de la mairie, en particulier si des contrats sont en jeu. « On fait souvent appel à des sociétés de consultants comme des bureaux d’études. On leur donne donc nos données », a-t-il rappelé à BFMTV.

ChatGPT est interdit aux agents de la mairie de Montpellier // Source : Numerama
ChatGPT est interdit aux agents de la mairie de Montpellier. // Source : Numerama

ChatGPT enregistre les données qui lui sont fournies, c’est-à-dire les prompts — les demandes — que les internautes lui envoient. Ainsi, si des employés demandent à ChatGPT de classer des données confidentielles, ces dernières sont exposées. Des données que ChatGPT peut conserver dans le cadre du processus mis en place par OpenAI pour améliorer l’efficacité de ses systèmes d’IA.

C’est donc une très mauvaise idée de fournir des données confidentielles, sensibles et personnelles à ChatGPT, surtout si elles concernent des tiers ou votre entreprise. Il existe par ailleurs des risques de fuite, comme on l’a vu en mars, lorsqu’un bug de l’IA a rendu visibles des extraits de conversation qu’il avait avec d’autres internautes.

Autre motif expliquant la frilosité de la ville : ChatGPT peut se tromper — il est dès lors périlleux de s’en remettre à lui pour des questions liées au travail. L’élu rajoute que des questions juridiques se posent : « nombre de marchés sont calculés sur un volume horaire de travail. Si l’IA permet de faire en quelques minutes une commande de plusieurs semaines, ça peut engendrer des contentieux. »

Comment vérifier que l’interdiction est bien respectée ?

Il reste cependant un problème : « les moyens de contrôle n’existent pas encore », admet l’élu.

En effet, ChatGPT est disponible gratuitement depuis sur le net, sans avoir besoin d’installer de logiciel. En limiter l’accès est donc difficile. Même si les ordinateurs professionnels pourraient bloquer le site, il resterait toujours pour les employés la possibilité d’accéder à ChatGPT depuis leur équipement personnel, en passant par leur connexion privée

De même, il n’existe pas de logiciels qui permettent de dire avec assurance si des textes ont été écrits par ChatGPT. Certains outils ont été développés, comme « AI Text Classifier », mais ce dernier n’est pas infaillible et fait régulièrement des erreurs.

Difficile de garantir que la mesure sera bien appliquée. Surtout, la mesure actuelle ne vise que ChatGPT — ce n’est pas encore le cas pour Bard, l’IA de Google. Aucun autre modèle de langage n’est encore frappé d’interdiction.

Mais Manu Reynaud ne souhaite pas forcément bloquer toute utilisation des IA. Le Midi Libre précise ainsi que l’élu a demandé au maire de la ville, Michaël Delafosse, de « lancer un travail avec des experts ». Ces derniers doivent « mesurer les changements qui vont se produire » avec l’arrivée de l’IA, et comment cette technologie pourra « aider à guider l’action locale ».

Nouveauté : Découvrez

La meilleure expérience de Numerama, sans publicité,
+ riche, + zen, + exclusive.

Découvrez Numerama+

Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.