Si OpenAI pensait que sa nouvelle approche en matière de publication de résultats mathématiques allait passer comme une lettre à la poste, c’est raté. Dès le lendemain de son nouveau coup d’éclat, l’Association for Human Mathematics (AHM) a appelé les mathématiciens à « cesser leur travail avec OpenAI ».
Au cœur du problème, la parution, le 6 octobre, d’une masse importante de manuscrits rédigés par un modèle interne, inaccessible au public, et dont le nom n’a pas été donné. En tout, OpenAI a présenté 722 documents, dont une avancée revendiquée sur l’hypothèse de Riemann, l’un des sept grands problèmes du prix du Millénaire.
Ces centaines de travaux sont arrivés d’un coup. L’entreprise américaine a affirmé, en parallèle de cette publication, avoir « consulté » un groupe indépendant d’experts pour « définir de bonnes pratiques ». Elle a dit aussi avoir inclus des « protocoles de révision et de citation des articles », et s’est engagée à faire encore mieux à l’avenir.
Ces précautions sont la conséquence d’une controverse sur la manière dont OpenAI a mis en avant ses progrès concernant un autre problème du prix du Millénaire, en septembre : les équations de Navier-Stokes. Cette annonce, qui traine depuis une affaire de plagiat potentiel de travaux produits par d’autres, a causé un grand trouble chez les mathématiciens.
Ainsi, OpenAI s’est dit disposé à « explorer d’autres solutions hébergées par la communauté qui respectent les recommandations du comité » (GitHub a été choisi ici) et a promis « d’améliorer encore la qualité des articles en travaillant sur les références, l’exposé mathématique et la présentation des résultats, afin d’en faciliter la compréhension. »
Un appel au boycott d’OpenAI
Mais ça ne va pas quand même. Dans une déclaration mise en ligne dans la journée du 7 octobre, le collectif AHM réagit vertement à ce qu’OpenAI a publié la veille. À ses yeux, il n’est pas question que la communauté fasse la vérification un à un de ces documents. Surtout, l’AHM refuse d’y voir un progrès pour la discipline.
La prise de position de l’AHM a pris de l’ampleur quand Terence Tao, qui a reçu la médaille Fields en 2006, et qui est considéré comme l’une des plus grandes pointures du domaine, l’a republiée sur son blog sous forme de billet invité. Terence Tao n’est cependant pas engagé dans cette organisation, son nom ne figurant pas dans la liste des membres.
Qui sont ces mathématiciens qui appellent au boycott ? L’AHM a été annoncée mi-septembre par des chercheurs de tous niveaux de carrière. On trouve à date du 8 octobre 808 noms dans la liste des membres, ce qui est loin de représenter toute la communauté mathématique mondiale. La seule American Mathematical Society compte déjà près de 30 000 membres.
Ses membres signent publiquement deux engagements : ne pas travailler avec les entreprises commerciales d’IA (ni travail technique, ni conseil, ni publicité) et ne pas publier de textes générés par une IA. Un troisième engagement, facultatif, consiste à se passer d’IA dans le cœur du travail mathématique. Selon l’AHM, 532 membres l’ont signé.
L’AHM n’est pas pour autant un groupe marginal. On y trouve Peter Scholze (médaille Fields 2018), Nalini Anantharaman (professeure au Collège de France, prix Henri-Poincaré), Alexander Beilinson (prix Wolf), ainsi qu’Ana Caraiani et Sophie Morel (prix de la Société mathématique européenne).
Dans son communiqué, l’association conteste qu’OpenAI fasse avancer les mathématiques et invite le public à juger ce mode de publication « avec le scepticisme qui s’impose ». Pour elle, publier plus de 700 fichiers d’un seul coup relève d’« une démonstration de force ». Au passage, elle rappelle qu’OpenAI se défend actuellement dans des procès pour plagiat, violation du droit d’auteur et atteinte au droit des marques.
Les conseillers d’OpenAI avaient demandé d’arrêter
Le reproche le plus précis vise le comité dont OpenAI se réclame. L’AGMAI réunit neuf mathématiciens bénévoles, dont Timothy Gowers, Martin Hairer et Edward Witten (trois médailles Fields). Le groupe s’est formé après qu’OpenAI a approché certains d’entre eux pour monter un comité externe, et l’entreprise l’a présenté le 21 septembre.
Or, les recommandations publiées par l’AGMAI le 29 septembre, nourries par plus de 600 réponses à un sondage, s’ouvrent sur une demande claire : que les laboratoires d’IA arrêtent de tester des problèmes mathématiques avancés sur des modèles propriétaires. Le reste du document encadre la pratique faute de mieux.
Il demande par exemple de publier, pour chaque résultat, le nom du modèle, les instructions données au modèle, le temps de calcul et son coût estimé, et de dire combien de problèmes comparables le modèle n’a pas su résoudre. En ignorant la première demande, OpenAI fait preuve, selon l’AHM, d’un « mépris total » des normes de la recherche.
Le comité, lui, ne rompt pas. Dans une déclaration publiée ce 6 octobre, il précise que son rôle ne vaut ni jugement sur l’importance de ces résultats ni caution de la méthode d’OpenAI. Il ajoute qu’il revient à la communauté de dire si ses recommandations ont été suivies, tout en qualifiant ses échanges avec l’entreprise de « constructifs ».
L’AGMAI indique aussi avoir déjà pris contact avec plusieurs autres laboratoires d’IA de pointe, sans les nommer. L’AHM, de son côté, a une position claire : « Les mathématiciens ont une vision particulière du progrès, qui s’appuie sur l’histoire et sur des considérations propres à leur discipline », et « n’ont pas demandé que ces travaux soient menés. »
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Toute l'actu tech en un clin d'œil
Ajoutez Numerama à votre écran d'accueil et restez connectés au futur !
Un édito exclusif, un guide, une reco de lecture et l’agenda de la rédaction : c’est ce que vous trouverez tous les jeudis dans ToujoursPlus, la newsletter tech écrite par Julien Cadot. Inscrivez-vous gratuitement ici !