Depuis 2024 et l’irruption de Llama 3, puis peu après des modèles gpt-oss d’OpenAI, l’écosystème de l’IA s’écharpe sur une question qui paraît sémantique mais ne l’est pas : qu’est-ce qu’un modèle « ouvert » ?
Meta a longtemps revendiqué le label « open source » pour Llama, avant de devoir progressivement réviser son vocabulaire sous la pression de la communauté du logiciel libre, qui l’accuse d’« open washing ».
Le terme qui s’impose désormais pour désigner ces modèles est celui d’« open model » ou d’« open weight ». Une nuance qui change tout, mais que le grand public, et une bonne partie de la presse, continue de confondre avec l’open source.
Le problème dépasse largement le débat de puristes. L’IA est devenue un sujet géopolitique de premier plan : Washington a brièvement coupé l’accès à Mythos et Fable 5 pour raisons de sécurité nationale, tandis que la Chine réfléchit à verrouiller ses propres modèles de pointe pour éviter qu’ils ne profitent à des puissances étrangères. Dans ce contexte, savoir précisément ce qu’un acteur ouvre, et ce qu’il garde fermé, devient une question de confiance.
Pour trancher noir sur blanc ce qui relève de l’un ou de l’autre, l’Open Source Initiative (OSI) travaille depuis plusieurs années à poser une définition rigoureuse des deux termes.
Ce que l’open source exige
L’Open Source Initiative, qui fait référence en la matière depuis les origines du logiciel libre, a publié en 2024 la première version stable de sa définition de l’IA open source (OSAID).
Elle pose quatre libertés cumulatives :
- Pouvoir utiliser le système pour n’importe quel usage sans autorisation préalable,
- Pouvoir l’étudier pour comprendre comment il produit ses résultats,
- Pouvoir le modifier,
- Pouvoir le partager.
La condition pour exercer ces libertés est d’avoir accès à la forme préférentielle permettant de modifier le système, pas seulement au résultat final.
Concrètement, cela signifie que pour mériter le label open source, un modèle d’IA doit livrer bien plus que ses poids (les paramètres numériques issus de l’entraînement). Il faut aussi le code d’entraînement, le jeu de données utilisé pour l’entraîner, ou à défaut une description complète de sa composition quand sa diffusion n’est pas légalement possible, et une transparence sur la manière dont ce jeu de données a été constitué et nettoyé.
Ce que l’open weight n’offre pas
Or, l’open weight, à l’inverse, ne couvre qu’un seul de ces éléments : les poids finaux du réseau de neurones, la version qu’il a atteinte à la fin de son entraînement. Un développeur peut ainsi télécharger, faire tourner et affiner un modèle open weight, mais sans jamais savoir précisément sur quelles données il a été entraîné, ni pouvoir reproduire le processus qui a mené à ce résultat.
Une réelle différence de nature, qui explique en grande partie les résultats des tests menés par l’OSI sur des modèles existants. Résultat : très peu passent l’épreuve avec succès. Pythia (EleutherAI), OLMo (Ai2), Amber et CrystalCoder (LLM360) ou T5 (Google) en font partie. En face, des modèles largement médiatisés comme Llama, Grok, Phi-2 ou Mixtral ont été jugés non conformes, faute de composants requis ou en raison de conditions légales incompatibles avec les principes de l’open source.
Un débat de fond sur ce qu’il est raisonnable d’ouvrir
Au-delà de l’aspect définition, cette distinction nourrit un débat plus large sur la gouvernance des modèles frontier, comprenez les modèles aux capacités encore inégalées.
Dario Amodei, le patron d’Anthropic, défend par exemple depuis longtemps l’idée que l’open source devient dangereux une fois appliqué aux modèles les plus capables : diffuser les poids d’un système à la pointe de l’état de l’art revient, selon lui, à perdre tout contrôle sur les usages malveillants qui peuvent en être faits. Cette position justifie la stratégie entièrement propriétaire d’Anthropic, voire davantage pour Mythos, réservé un temps à des organisations triées sur le volet dans le cadre du programme Glasswing.
En face, l’argumentaire de l’OSI et d’une partie de la communauté du logiciel libre défend l’inverse : l’ouverture, loin d’être un risque, serait une condition de la sécurité. Elle permettrait l’audit indépendant des biais et des vulnérabilités, éviterait la concentration du pouvoir technologique entre quelques mains, et donnerait aux chercheurs les moyens de faire progresser la sécurité de l’IA plutôt que de la laisser dépendre de la seule bonne volonté d’un éditeur.
Un débat qui n’est pas près de se refermer.
Les abonnés Numerama+ offrent les ressources nécessaires à la production d’une information de qualité et permettent à Numerama de rester gratuit.
Zéro publicité, fonctions avancées de lecture, articles résumés par l’I.A, contenus exclusifs et plus encore. Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Anticipez le futur en vous inscrivant gratuitement à ToujoursPlus, la newsletter tech de référence.