Comme pour les écrans, faut-il établir une limite d’âge minimale pour accéder aux outils d’intelligence artificielle ? Oui, répond l’Unesco, dans un communiqué paru le 7 septembre. L’Organisation des Nations unies pour l’éducation, la science et la culture, représentée par sa directrice générale Audrey Azoulay, plaide pour un seuil de 13 ans.
Plus spécifiquement, la mise à l’écart des enfants les plus jeunes concerne l’IA dite générative, celle qui permet de produire des contenus sur la base d’instructions qu’on lui donne. Côté texte, l’outil le plus connu est ChatGPT. Dans le domaine des images, on peut mentionner Midjourney et DALL-E. Il en existe beaucoup d’autres, y compris dans la vidéo ou le son.
Cette IA générative, qui a d’indéniables mérites, admet Audrey Azoulay, « peut aussi être la source de dommages et de préjudices. Elle ne peut être intégrée dans l’éducation sans l’engagement du public et sans de solides garanties et réglementations gouvernementales ». Au passage, l’Unesco fournit désormais un guide pour exploiter cette IA dans la scolarité.
L’Unesco plaide pour une réglementation rapide des pouvoirs publics sur ce sujet, de façon à cadrer l’emploi de ces technologies dans les salles de classe et, pour les plus jeunes élèves, à les interdire. De nombreuses dérives sont évoquées depuis la sortie grand public de ChatGPT, notamment sur les risques de triche avec cet outil.
En principe, l’IA générative est interdite au moins de 13 ans
Il est à noter que les outils comme ChatGPT et Midjourney interdisent déjà, sur le papier, aux enfants de moins de 13 ans de se connecter. On retrouve cette règle dans leurs conditions générales d’utilisation Le fait est, toutefois, que les mesures manquent pour efficacement tenir à l’écart les mineurs — tous les services ne font pas un contrôle fin de leurs utilisateurs.
Le seuil de 13 ans, indique le rapport de l’Unesco, n’a pas été pris par hasard. Il est calé sur une loi américaine sur la protection de la vie privée des enfants en ligne (Children’s Online Privacy Protection Act), datant de 1998. Ce texte fixe à 13 l’âge à partir duquel un enfant peut créer un compte sur un média social sans l’autorisation de ses parents.
Cette loi, prise bien avant l’explosion des réseaux sociaux et l’arrivée de l’IA générative, est jugée aujourd’hui trop en retard face aux enjeux. L’Unesco note d’ailleurs des commentateurs plaident plutôt pour un seuil de 16 ans, inspiré du Règlement général sur la protection des données (RGPD) de l’Union européenne. En France, la majorité numérique est à 15 ans.
OpenAI, l’entreprise derrière ChatGPT, reconnaît aussi que son service n’est pas adéquat pour les jeunes enfants — il faut aussi en principe un consentement des parents pour les personnes âgées de 13 à 18 ans. OpenAI admet que son outil peut produire des contenus indésirables, et inappropriés pour les mineurs. Un usage en classe doit être effectué de manière encadrée.
Hasard du calendrier, OpenAI a sorti quelques jours plus tôt un guide décrivant de quelle façon ChatGPT peut être utilisé en cours, en précisant au passage les limites et les biais de ce programme. Le guide est également accompagné d’une mise en garde : les outils qui prétendent détecter la triche avec l’IA générative ne sont pas assez fiables pour se reposer sur eux.
Nouveauté : Découvrez
La meilleure expérience de Numerama, sans publicité,
+ riche,
+ zen,
+ exclusive.
Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !
