Un modèle d’IA capable de répondre à peu près à n’importe quoi, sans les habituels refus éthiques ou de sécurité, et accessible gratuitement en quelques clics. C’est la promesse (ou la menace) des versions dites « uncensored » qui prolifèrent depuis plusieurs mois dans l’écosystème des modèles open weight.
Pour rappel, on parle ici de modèles dont les paramètres entraînés (qu’on appelle les poids) sont publiés librement par leurs créateurs, plutôt que gardés derrière une API fermée.
Techniquement, ces versions ne sont pas réentraînées de zéro. Elles passent par une intervention appelée « abliteration » : une technique qui consiste à repérer et neutraliser, dans les couches internes du modèle, la direction vectorielle associée au refus de répondre.
Le résultat est donc un modèle qui garde ses capacités mais perd la quasi-totalité de ses réflexes de prudence.
Des communautés entières, hébergées sur Hugging Face, se sont spécialisées dans la republication de ces variantes désinhibées, dans les heures ou les jours suivant la sortie d’un nouveau modèle. Un phénomène qui s’amplifie à mesure que les modèles open-weight gagnent en puissance tout en devenant plus compacts, donc plus faciles à faire tourner sur du matériel grand public, voire à louer à l’heure sur des plateformes cloud.
Le dernier épisode en date : Qwen 3.8, sorti début août par Alibaba, et sa variante abliterée publiée le 17 août par le collectif OrcaRouter. Le tweet annonçant la sortie de ce dépôt a dépassé 3,5 millions de vues en quelques jours seulement, signe de l’appétit que suscite désormais chaque nouvelle sortie de ce genre.
L’effervescence en ligne
Sur Reddit ou sur X, plusieurs publications ont accompagné la mise en ligne de ce modèle désinhibé, chacune apportant un jugement différent.
Beaucoup s’interrogent sur le risque de voir proliférer ce genre d’initiatives, de plus en plus puissantes. D’autres, comme Brian Roemmele, défendent le modèle en assurant l’avoir testé plus de 3 000 fois. Selon lui, le risque perçu est largement surestimé, dans la mesure où l’essentiel de ce que ces modèles peuvent produire est de toute façon déjà accessible ailleurs, sur le dark web notamment, depuis des décennies, sans que cela n’ait provoqué les dérives massives parfois annoncées.
D’autres profitent de l’engouement pour surfer sur le phénomène. Une autre publication, très relayée, montre un utilisateur mettant en scène le modèle en train de fournir un lien de torrent illégal pour un film Spider-Man récent, présenté comme la preuve qu’« il fera tout ce que vous lui demandez ».
Reste que l’auteur de cette vidéo commercialise par ailleurs sa propre solution d’agents web autonomes, ce qui n’invalide pas la démonstration mais interroge sur l’intérêt qu’il peut avoir à mettre en scène la puissance de l’outil.
À noter également que, sur ce type de modèle open weight trouvé sur Hugging Face, c’est a priori l’utilisateur qui reste responsable de l’usage qu’il en fait, un point que le dépôt d’OrcaRouter rappelle lui-même explicitement via son disclaimer, en limitant l’usage prévu à la recherche.
Ce que l’on a pu observer
Sur la fiche du dépôt, OrcaRouter chiffre lui-même l’ampleur des modifications. Selon ses propres tests, le taux de refus du modèle passe de 64-99 % sur la version d’origine à seulement 0-6 % après abliteration, tout en annonçant des capacités quasi intactes par ailleurs.
Une promesse écrite noir sur blanc, assortie d’un avertissement sur la fiche : le modèle « se conformera à des demandes nuisibles, contraires à l’éthique, offensantes ou illégales » que la version d’origine aurait refusées, et ne dispose d’aucun garde-fou significatif.
C’est cette promesse que nous avons voulue vérifier concrètement. Nous avons soumis les mêmes requêtes à la version uncensored et à la version Qwen officielle disponible en ligne, dans des conditions comparables.
L’écart de comportement observé confirme les chiffres avancés par OrcaRouter : là où la version officielle a systématiquement refusé de répondre, la version abliterée s’est exécutée sans réserve sur trois types de demandes :
- la composition d’un explosif artisanal ;
- la formulation d’un argumentaire raciste ;
- l’indication de sites permettant de trouver un torrent illégal du film Spider-Man: Brand New Day.
À noter que notre test ne repose pas sur un déploiement local en pleine puissance, mais sur une démonstration communautaire (« Space ») hébergée gratuitement sur Hugging Face, faisant tourner la variante abliterée du dépôt OrcaRouter, une configuration à puissance de calcul limitée. À garder à l’esprit avant de généraliser ces observations.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Tous nos articles sont aussi sur notre profil Google : suivez-nous pour ne rien manquer !