L’arsenal législatif actuel n’est pas tout à fait adapté à une pratique sordide en développement : l’intelligence artificielle générative pour créer de la pédopornographie. Un rapport propose de renforcer la loi pour attaquer plus directement la création de ces contenus, en complément des sanctions qui visent la détention et la transmission.

C’est un constat partagé de longue date : les fichiers pédopornographiques générés par intelligence artificielle pullulent sur le net. L’Internet Watch Foundation l’avait notamment observé dans son rapport d’octobre 2023. Ses travaux d’octobre 2024 montrent que cela se répand. Et aujourd’hui, la Fondation pour l’Enfance ne dit pas autre chose.

Au-delà du constat et de la déferlante de chiffres, la fondation liste surtout des recommandations — au nombre de quatorze — pour prévenir « détecter et sanctionner les contenus pédocriminels générés par l’IA, ainsi qu’à prévenir l’exploitation sexuelle en ligne des enfants ». Et cela passerait en particulier par une modification du droit.

Attaquer les créateurs de contenus sexuels par IA impliquant des mineurs

La Fondation pour l’Enfance propose ainsi deux axes d’action, dont l’un est une mise à jour de l’article 227-23 du Code pénal. Celui-ci est consacré à l’incrimination de « l’image ou la représentation d’un mineur lorsque cette image ou cette représentation présente un caractère pornographique », avec des amendes et des peines de prison potentiellement élevées.

Cependant, la fondation considère qu’il y a un point faible dans cet article : il n’est pas tout à fait adapté à ces nouveaux enjeux.

L'intelligence artificielle est utilisée pour créer des images pédopornographique // Source : Numerama
L’intelligence artificielle est utilisée pour créer des images pédopornographiques. // Source : Numerama

Elle propose donc d’actualiser la sanction en punissant « le fait de concevoir, de créer, de diffuser ou de porter à la connaissance du public ou d’un tiers, par quelque voie que ce soit, tout montage, contenu visuel ou sonore à caractère sexuel généré par un traitement algorithmique », quand cela vise la représentation, l’image ou la parole d’un mineur.

Au législateur, ensuite, de déterminer la hauteur des sanctions attachées à ce délit. Le nouvel alinéa pourra renvoyer à un autre article du code pénal, le 226-8-1, qui vise à punir la publication d’un deepfake (ou hypertrucage). Il s’agit d’une disposition récente, arrivée avec la loi SREN (sécuriser et à réguler l’espace numérique).

Punir la création de modèles d’IA dédiés à la pédopornographie

Par ailleurs, la Fondation pour l’enfance est favorable à la création d’un autre article du code pénal, cette fois pour pénaliser la création et la mise à disposition de modèles d’IA générative dont la finalité (ou l’une des finalités) est la création de contenus pédocriminels. Là encore, au législateur de créer le barème des sanctions.

Il viserait le « fait de collecter, détenir, traiter ou détourner des données personnelles, afin de créer, générer ou mettre à disposition du public ou de tout tiers un modèle de traitement algorithmique, dans le but de permettre la création de contenu visuel ou sonore à caractère sexuel représentant un mineur, et de tout fichier à caractère pédopornographique. »

Source : Capture d'écran
Ces contenus factices ne sont pas uniquement dans le dark web. On peut aussi en trouver sur le web classique, via des plateformes spécialisées. // Source : Capture d’écran

Selon l’office mineurs (OFMIN, qui dépend du ministère de l’Intérieur), cité par la Fondation, il existe un « vide juridique pour incriminer les auteurs de ces contenus, qui ne peuvent être poursuivis que pour une détention d’images pédocriminelles ». D’où l’icée de créer une infraction autonome sur la génération de ces contenus par IA.

« L’atteinte portée étant sensiblement plus grave que la seule détention de ces contenus, et ces mis en cause sont aujourd’hui responsables des dérives de l’IA en détournant les outils générateurs », ajoute l’OFMIN, qui y voit un ajout utile. Outre le volet sanction, le rapport de la Fondation déroule des recommandations en matière de prévention et de détection.

À l’étranger aussi, les autorités s’adaptent

À l’étranger aussi, les autorités législatives et réglementaires cherchent à trouver la bonne parade face à ce nouveau phénomène. Avec des leviers qui peuvent parfois être actionnés immédiatement. C’est ce que montre par exemple le Financial Times, qui rapporte la condamnation au Royaume-Uni d’un homme de 27 ans à une peine de 18 ans de prison.

Dans cette affaire, le condamné a utilisé un logiciel de création de modèles humains, appelé Daz 3D, pour inventer des scènes fictives avec des enfants — il ne s’agissait pas de montages, avec une tête d’enfant greffée sur un corps d’adulte, par exemple. L’intéressé a toutefois utilisé de vraies photos d’enfants réels pour les intégrer à ces contenus.

La sanction est lourde, mais le procès a mis en lumière que le Britannique vendait ces créations sur Internet, participant ainsi une diffusion en ligne, et qu’il avait également encouragé des tiers à commettre des abus sexuels sur des enfants. Le Royaume-Uni dispose aussi de textes visant à sanctionner les deepfakes et les abus sexuels visant les mineurs.

Découvrez les bonus

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.