Pour la rentrée, OpenAI a un message pour les professeurs : il est complexe de détecter les devoirs écrits par ChatGPT ou n’importe quelle autre IA générative. Mais cela ne veut pas dire que l’on ne peut rien faire.

La rentrée scolaire est là, pour les élèves comme pour les professeurs. Avec une différence de taille cette année : l’ère de l’intelligence artificielle (IA) générative est advenue, avec l’arrivée d’outils accessibles pour le grand public, tels Midjourney pour l’illustration et surtout ChatGPT pour le texte. Des outils qui sont capables de dessiner et d’écrire à votre place, selon vos instructions.

L’émergence de ces IA génératives est un sujet d’inquiétude depuis plusieurs mois, y compris au niveau scolaire : les élèves vont-ils laisser ChatGPT faire leurs devoirs à leur place, au lieu de travailler ? Cette crainte a parfois entraîné des mesures conservatoires pour prévenir cette triche, en interdisant l’utilisation de ChatGPT ou en brandissant des sanctions.

C’est dans ce contexte que l’entreprise américaine OpenAI, qui est derrière ChatGPT, a mis en ligne, début septembre, un guide destiné aux enseignants pour les aider à se familiariser avec l’outil et envisager de l’utiliser en classe. Un guide qui fait office aussi de mise en garde : OpenAI rappelle que son système a des limites, ainsi que des préjugés et des biais de fonctionnement.

Aucun outil de détection n’est fiable à 100 %

Mais, peut-être plus important encore, la documentation fournie par OpenAI inclut une mise en garde : il n’existe pas, aujourd’hui, de solution miracle permettant de détecter à coup sûr un devoir rédigé par une intelligence artificielle. Dans sa foire aux questions, l’entreprise américaine prévient que les techniques de détection déjà existantes peuvent se tromper.

« Bien que [certaines sociétés] ont publié des outils censés détecter les contenus générés par l’IA, aucun d’entre eux n’a prouvé qu’il était possible de faire une distinction fiable entre les contenus générés par l’IA et les contenus générés par l’homme », relève OpenAI, qui note que des textes de Shakespeare et la Déclaration d’indépendance ont été étiquetés « IA » à tort.

Même OpenAI, pourtant très avancée dans le domaine de l’IA générative, n’est pas en mesure de faire une bonne distinction entre des textes venant des humains et des écrits artificiels. OpenAI avait bien expérimenté un outil pendant six mois, mais l’entreprise a fini par jeter l’éponge fin juillet : les performances du détecteur étaient beaucoup trop faibles.

Source : Numerama
Les outils de détection ne parviennent pas à être assez efficaces pour distinguer les textes humains des textes artificiels. / Source : Numerama

Autrement dit, OpenAI déconseille de copier-coller le devoir d’un élève dans ChatGPT et de lui demander s’il a été rédigé par lui ou par un système artificiel équivalent. « ChatGPT invente parfois des réponses [à ce genre de question]. Ces réponses sont aléatoires et n’ont aucun fondement ». Impossible, donc, de fonder une sanction d’un élève sur cette base-là.

Un exemple de biais que peut avoir ChatGPT, indique OpenAI, est la manière dont les textes peuvent écrits par des personnes ayant un propos très formel ou concis : ils pourraient être plus facilement catalogués à tort comme artificiels. Idem pour les personnes dont l’anglais n’est pas la langue maternelle : la manière de s’exprimer, si elle est moins « naturelle », pourrait les desservir.

Autre souci que pointe OpenAI : rien n’interdit à un élève désirant se faciliter la vie avec ChatGPT d’apporter ici et là quelques retouches dans la production de l’IA pour la rendre plus crédible. Ces petites modifications peuvent suffire à échapper à la détection. Tout comme un élève peut rédiger un peu différemment une réponse en copiant ce qu’a écrit son camarade.

Apprendre à travailler avec ChatGPT

Malgré ces difficultés, OpenAI signale qu’il peut y avoir des solutions à mettre en place avec les élèves pour enjamber ce nouveau challenge — de la même façon que la pédagogie et l’enseignement se sont adaptés avec l’irruption des smartphones, des ordinateurs et d’Internet, aussi bien en classe qu’à la maison. L’une des pistes que OpenAI suggère est de travailler avec ChatGPT.

« Une technique que certains enseignants ont trouvée utile consiste à encourager les élèves à partager des conversations spécifiques de ChatGPT », indique la société. Cela permet d’évaluer ensemble le travail de l’IA, de développer une pensée critique et de collaborer, entre élèves ou avec le professeur. Et OpenAI estime que cela peut aussi responsabiliser les élèves.

« Nous prévoyons un avenir où l’utilisation d’outils d’IA tels que ChatGPT sera courante », conclut OpenAI. Dès lors, autant dès maintenant « encourager une utilisation responsable aide les étudiants à se préparer à un avenir où ils seront amenés à utiliser l’IA dans différents contextes »

Découvrez les bonus

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !