Aujourd’hui, les modèles de langage sont essentiellement américains. Mais le Royaume-Uni entend développer une solution nationale, souveraine. 100 millions de livres sterling sont annoncés, pour débuter. Une trajectoire que la France pourrait suivre.

100 millions de livres sterling, soit un peu plus de 113 millions d’euros. Tel est le montant du financement que Londres vient d’annoncer, le 24 avril 2023, pour « accélérer les capacités du Royaume-Uni dans un type d’intelligence artificielle qui émerge rapidement ». En ligne de mire ? Faire en sorte que le pays puisse avoir son propre ChatGPT souverain.

Cet investissement, selon le gouvernement anglais, est une première étape, pour amorcer le groupe de travail chargé de piloter ce programme. Ce montant s’ajoute aux 900 millions de livres sterling (un peu plus d’un milliard d’euros) déjà fléchés pour développer la puissance de calcul du pays, précise l’exécutif britannique dans son communiqué.

À travers cette enveloppe, Londres entend « garantir des capacités souveraines » et une large adoption des modèles de langage qui devront être « sûrs et fiables ». Ces modèles de langage sont appelés modèles de fondation (foundation models en anglais). À l’issue de leur entraînement, qui nécessite d’ingérer de vastes quantités de données, ils peuvent ensuite servir à diverses tâches.

ChatGPT
ChatGPT est basé sur un modèle de langage fourni par une entreprise américaine. // Source : Focal Foto

Par exemple, ChatGPT repose sur le modèle de langage GPT, qui est un genre de modèle de langage — un transformateur génératif pré-entraîné (en anglais, Pre-Trained Transformer). Il en est à sa version 4 depuis la mi-mars. Google utilise le modèle de langage LaMDA pour son chatbot Bard. Quant à Facebook, son modèle est appelé LLaMA.

Ces modèles de base sont entraînés sur des fichiers de nature variée. Il peut s’agir de textes, d’images, de vidéos ou de fichiers sonores, en fonction des facultés qui sont recherchées. Par exemple, ChatGPT est plutôt spécialisé dans le texte (même si GPT-4 ouvre la voie à l’emploi multimodal), tandis que Midjourney, DALL-E ou Stable Diffusion sont taillés pour les images.

La constitution de capacités souveraines pour se doter de ses propres modèles d’intelligence artificielle doit offrir une alternative aux solutions déjà existantes et ainsi éviter de se retrouver en situation de dépendance. Mais au-delà de ces enjeux de souveraineté, le Royaume-Uni voit aussi ces modèles comme un puissant levier de croissance, avec une hausse du PIB à la clé.

Bientôt des modèles de langage souverains en France ?

En France, le gouvernement n’a pas annoncé à ce jour de plan équivalent. Jean-Noël Barrot, le ministre chargé de la Transition numérique et des Télécommunications, a évoqué à plusieurs reprises ChatGPT et les répercussions qu’il pourrait avoir, mais davantage à travers le prisme de la régulation — il a mentionné le règlement sur l’IAde la sécurité et des enjeux éthiques.

« Mieux vaut créer en Europe les conditions pour que l’innovation se développe en accord avec nos valeurs. J’ai saisi le Comité national d’éthique qui rendra son avis à l’été. Il éclairera nos choix de société », indiquait-il le 11 avril. Toutefois, il a aussi reconnu « qu’il n’y a aucune raison que nous ne puissions pas développer à notre tour des modèles en France. »

En attendant, la France se dote des capacités techniques qui permettront, le cas échéant, de faire tourner ces modèles d’intelligence artificielle. Dans son plan pour France 2030, le gouvernement reconnaît que la maîtrise de l’IA « est un facteur majeur de souveraineté nationale », et que cela n’est possible « que grâce à des capacités de calcul de grande ampleur. »

« Il n’y a aucune raison que nous ne puissions pas développer à notre tour des modèles en France. »

Jean-Noël Barrot

« Les modèles derrière l’intelligence artificielle sont entraînés avec des algorithmes comportant plusieurs dizaines de milliards de paramètres. Il est donc indispensable que nous ayons sur notre sol ces capacités de calcul dites exaflopiques », poursuit le document. Une observation qui rejoint celle du Royaume-Uni et son enveloppe de 900 millions de livres sterling.

Des appels émergent déjà pour encourager la constitution d’un modèle de langage national, comme au Royaume-Uni Un modèle de langage qui serait également open source, afin d’éviter son appropriation et aussi assurer sa transparence. Aujourd’hui, les grandes entreprises qui conçoivent les modèles de langage sont plutôt dans une logique inverse, en optant pour un modèle à base d’API.

À l’avenir, cela pourrait toutefois changer. C’est en tout cas la prédiction de Yann LeCun, le patron de l’intelligence artificielle chez Meta, la maison mère de Facebook. Dans un entretien au Nouvel Obs, ce spécialiste reconnu de l’IA anticipe que ces modèles de langage deviendront un standard ouvert commun à tous les industriels, exactement comme l’infrastructure Internet.

Dans ce cadre, les modèles de langage souverains pourraient devenir sans objet, s’ils deviennent des standards. Les besoins en puissance de calcul, en revanche, seront plus que jamais nécessaires pour traiter ces données massives, mais aussi pour entraîner des modèles. Le calcul haute performance, avec l’ère exascale, devra y répondre.

Découvrez les bonus

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !