La rentrée scolaire est là, pour les élèves comme pour les professeurs. Avec une différence de taille cette année : l’ère de l’intelligence artificielle (IA) générative est advenue, avec l’arrivée d’outils accessibles pour le grand public, tels Midjourney pour l’illustration et surtout ChatGPT pour le texte. Des outils qui sont capables de dessiner et d’écrire à votre place, selon vos instructions.
L’émergence de ces IA génératives est un sujet d’inquiétude depuis plusieurs mois, y compris au niveau scolaire : les élèves vont-ils laisser ChatGPT faire leurs devoirs à leur place, au lieu de travailler ? Cette crainte a parfois entraîné des mesures conservatoires pour prévenir cette triche, en interdisant l’utilisation de ChatGPT ou en brandissant des sanctions.
C’est dans ce contexte que l’entreprise américaine OpenAI, qui est derrière ChatGPT, a mis en ligne, début septembre, un guide destiné aux enseignants pour les aider à se familiariser avec l’outil et envisager de l’utiliser en classe. Un guide qui fait office aussi de mise en garde : OpenAI rappelle que son système a des limites, ainsi que des préjugés et des biais de fonctionnement.
Aucun outil de détection n’est fiable à 100 %
Mais, peut-être plus important encore, la documentation fournie par OpenAI inclut une mise en garde : il n’existe pas, aujourd’hui, de solution miracle permettant de détecter à coup sûr un devoir rédigé par une intelligence artificielle. Dans sa foire aux questions, l’entreprise américaine prévient que les techniques de détection déjà existantes peuvent se tromper.
« Bien que [certaines sociétés] ont publié des outils censés détecter les contenus générés par l’IA, aucun d’entre eux n’a prouvé qu’il était possible de faire une distinction fiable entre les contenus générés par l’IA et les contenus générés par l’homme », relève OpenAI, qui note que des textes de Shakespeare et la Déclaration d’indépendance ont été étiquetés « IA » à tort.
Même OpenAI, pourtant très avancée dans le domaine de l’IA générative, n’est pas en mesure de faire une bonne distinction entre des textes venant des humains et des écrits artificiels. OpenAI avait bien expérimenté un outil pendant six mois, mais l’entreprise a fini par jeter l’éponge fin juillet : les performances du détecteur étaient beaucoup trop faibles.
Autrement dit, OpenAI déconseille de copier-coller le devoir d’un élève dans ChatGPT et de lui demander s’il a été rédigé par lui ou par un système artificiel équivalent. « ChatGPT invente parfois des réponses [à ce genre de question]. Ces réponses sont aléatoires et n’ont aucun fondement ». Impossible, donc, de fonder une sanction d’un élève sur cette base-là.
Un exemple de biais que peut avoir ChatGPT, indique OpenAI, est la manière dont les textes peuvent écrits par des personnes ayant un propos très formel ou concis : ils pourraient être plus facilement catalogués à tort comme artificiels. Idem pour les personnes dont l’anglais n’est pas la langue maternelle : la manière de s’exprimer, si elle est moins « naturelle », pourrait les desservir.
Autre souci que pointe OpenAI : rien n’interdit à un élève désirant se faciliter la vie avec ChatGPT d’apporter ici et là quelques retouches dans la production de l’IA pour la rendre plus crédible. Ces petites modifications peuvent suffire à échapper à la détection. Tout comme un élève peut rédiger un peu différemment une réponse en copiant ce qu’a écrit son camarade.
Apprendre à travailler avec ChatGPT
Malgré ces difficultés, OpenAI signale qu’il peut y avoir des solutions à mettre en place avec les élèves pour enjamber ce nouveau challenge — de la même façon que la pédagogie et l’enseignement se sont adaptés avec l’irruption des smartphones, des ordinateurs et d’Internet, aussi bien en classe qu’à la maison. L’une des pistes que OpenAI suggère est de travailler avec ChatGPT.
« Une technique que certains enseignants ont trouvée utile consiste à encourager les élèves à partager des conversations spécifiques de ChatGPT », indique la société. Cela permet d’évaluer ensemble le travail de l’IA, de développer une pensée critique et de collaborer, entre élèves ou avec le professeur. Et OpenAI estime que cela peut aussi responsabiliser les élèves.
« Nous prévoyons un avenir où l’utilisation d’outils d’IA tels que ChatGPT sera courante », conclut OpenAI. Dès lors, autant dès maintenant « encourager une utilisation responsable aide les étudiants à se préparer à un avenir où ils seront amenés à utiliser l’IA dans différents contextes »
Nouveauté : Découvrez
La meilleure expérience de Numerama, sans publicité,
+ riche,
+ zen,
+ exclusive.
Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !
