L’Unesco a pris la parole pour réclamer une régulation plus forte des IA génératives, afin de les tenir à l’écart des jeunes enfants. L’âge d’accès minimal devrait être de 13 ans. Voire 16.

Comme pour les écrans, faut-il établir une limite d’âge minimale pour accéder aux outils d’intelligence artificielle ? Oui, répond l’Unesco, dans un communiqué paru le 7 septembre. L’Organisation des Nations unies pour l’éducation, la science et la culture, représentée par sa directrice générale Audrey Azoulay, plaide pour un seuil de 13 ans.

Plus spécifiquement, la mise à l’écart des enfants les plus jeunes concerne l’IA dite générative, celle qui permet de produire des contenus sur la base d’instructions qu’on lui donne. Côté texte, l’outil le plus connu est ChatGPT. Dans le domaine des images, on peut mentionner Midjourney et DALL-E. Il en existe beaucoup d’autres, y compris dans la vidéo ou le son.

Audrey Azoulay
Audrey Azoulay. // Source : ActuaLitté

Cette IA générative, qui a d’indéniables mérites, admet Audrey Azoulay, « peut aussi être la source de dommages et de préjudices. Elle ne peut être intégrée dans l’éducation sans l’engagement du public et sans de solides garanties et réglementations gouvernementales ». Au passage, l’Unesco fournit désormais un guide pour exploiter cette IA dans la scolarité.

L’Unesco plaide pour une réglementation rapide des pouvoirs publics sur ce sujet, de façon à cadrer l’emploi de ces technologies dans les salles de classe et, pour les plus jeunes élèves, à les interdire. De nombreuses dérives sont évoquées depuis la sortie grand public de ChatGPT, notamment sur les risques de triche avec cet outil.

En principe, l’IA générative est interdite au moins de 13 ans

Il est à noter que les outils comme ChatGPT et Midjourney interdisent déjà, sur le papier, aux enfants de moins de 13 ans de se connecter. On retrouve cette règle dans leurs conditions générales d’utilisation Le fait est, toutefois, que les mesures manquent pour efficacement tenir à l’écart les mineurs — tous les services ne font pas un contrôle fin de leurs utilisateurs.

Le seuil de 13 ans, indique le rapport de l’Unesco, n’a pas été pris par hasard. Il est calé sur une loi américaine sur la protection de la vie privée des enfants en ligne (Children’s Online Privacy Protection Act), datant de 1998. Ce texte fixe à 13 l’âge à partir duquel un enfant peut créer un compte sur un média social sans l’autorisation de ses parents.

chatgpt
Pas de ChatGPT avant 16 ans ? // Source : Focal Foto

Cette loi, prise bien avant l’explosion des réseaux sociaux et l’arrivée de l’IA générative, est jugée aujourd’hui trop en retard face aux enjeux. L’Unesco note d’ailleurs des commentateurs plaident plutôt pour un seuil de 16 ans, inspiré du Règlement général sur la protection des données (RGPD) de l’Union européenne. En France, la majorité numérique est à 15 ans.

OpenAI, l’entreprise derrière ChatGPT, reconnaît aussi que son service n’est pas adéquat pour les jeunes enfants — il faut aussi en principe un consentement des parents pour les personnes âgées de 13 à 18 ans. OpenAI admet que son outil peut produire des contenus indésirables, et inappropriés pour les mineurs. Un usage en classe doit être effectué de manière encadrée.

Hasard du calendrier, OpenAI a sorti quelques jours plus tôt un guide décrivant de quelle façon ChatGPT peut être utilisé en cours, en précisant au passage les limites et les biais de ce programme. Le guide est également accompagné d’une mise en garde : les outils qui prétendent détecter la triche avec l’IA générative ne sont pas assez fiables pour se reposer sur eux.

Découvrez les bonus

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !