L’intelligence artificielle générative a aujourd’hui des capacités indéniables en mathématiques. Des modèles très avancés, développés par OpenAI (la société derrière ChatGPT) ou Anthropic (Claude), l’ont montré avec brio ces derniers mois. Pour autant, est-ce que laisser l’IA générative résoudre des problèmes à la pelle est une si bonne idée que cela ?
Pour Terence Tao, médaillé Fields en 2006 et l’un des mathématiciens les plus doués de sa génération, la réponse n’est pas tout à fait un franc « oui » : dans une discussion ouverte sur le réseau social Mastodon, le 3 septembre, il fait observer que laisser une IA générative résoudre un problème n’est pas toujours un pur gain pour les mathématiques.
Selon lui, les problèmes ouverts qui ont été formulés avant l’ère de l’IA sont même devenus une ressource quasiment non renouvelable. Pourquoi ? À cause de ce que Terence Tao décrit comme de la contamination. Ainsi, dans le cas des problèmes résolus par IA, leur utilité est « durablement réduite », car les conditions dans lesquelles ils ont été réglés sont floues.
« La nature de ‘boîte noire’ de l’IA moderne rend extrêmement difficile la distinction entre une solution générée par l’IA issue d’un raisonnement véritablement novateur et une solution qui était d’une manière ou d’une autre déjà présente dans les données d’apprentissage », relève Terence Tao. À terme, cela pourrait nuire aux maths.
Il reprend une réflexion émise fin août par le mathématicien français Hugo Duminil-Copin, médaillé Fields en 2022. Pour ce dernier, « l’exploitation automatisée et aveugle des problèmes ouverts à la recherche de solutions risque de détruire l’écosystème à partir duquel la prochaine génération de techniques mathématiques, de problèmes et de matheux aurait pu se développer. »
L’intéressé fait un parallèle avec ces pelleteuses mobilisées pour extraire des trésors d’un site archéologique tout en détruisant au passage le riche contexte historique et les données qui confèrent à ces trouvailles une grande partie de leur sens et de leur valeur. Des excavatrices puissantes et inlassables, donc, mais qui emportent avec elles subtilités et détails.
Faut-il des sanctuaires réservés aux humains ?
Pour illustrer sa réflexion, Terence Tao a partagé un cas de figure mathématique tiré de la théorie des groupes qu’il co-anime.
En demandant aux participants de ne pas partager leurs solutions, les organisateurs ont pu mesurer la difficulté réelle du défi, en la « cartographiant ». Or, en communiquant par la suite les informations clés, pour aller plus vite et faire davantage de progrès, les organisateurs ont jugé avoir « compromis de manière irréversible » ce travail de « cartographie ».
Il pourrait s’avérer nécessaire d’interdire l’utilisation des solveurs automatisés pour certaines catégories de problèmes de maths –
Terence Tao
Terence Tao ne se fait cependant pas d’illusion : il admet que sa proposition serait dure à faire respecter, vu la puissance et la disponibilité de ces outils d’intelligence artificielle, mais aussi les enjeux de recherche, de prestige, de progrès à court et moyen terme. Il fait cependant le pari d’une certaine pression sociale pour décourager certains usages.
Il va même plus loin, évoquant des sanctuaires hors de portée de l’IA : « Il pourrait s’avérer nécessaire d’interdire l’utilisation des solveurs automatisés pour certaines catégories de problèmes de maths, afin de préserver leur valeur globale pour l’écosystème mathématique (par exemple, dans le cadre de la formation des futurs mathématiciens). »
L’idée dépasse le cas des mathématiques. Elle rejoint une question posée partout où l’IA avance vite : faut-il lui fermer volontairement des portes, dans la création artistique ou certains métiers, pour garder un espace aux humains ? Personne ne propose d’écarter l’IA de partout. L’idée se limite à préserver quelques domaines pour les humains.
Ce n’est pas sa première mise en garde : il a déjà ironisé sur l’indigestion de preuves générées par l’IA.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Tous nos articles sont aussi sur notre profil Google : suivez-nous pour ne rien manquer !