OpenAI a diffusé cette semaine 377 nouveaux résultats mathématiques couvrant l'algèbre, la théorie des nombres, l'informatique théorique, la logique mathématique et la topologie. Ce chiffre a surpris la communauté des mathématiciens, qui a vu ces derniers mois les modèles d'intelligence artificielle résoudre des problèmes ouverts qui semblaient jusqu'alors inaccessibles aux machines.
La publication intervient à peine un mois après que l'entreprise ait annoncé avoir déchiffré l'équation de Navier-Stokes, l'un des Problèmes du Millénaire, pour la résolution desquels une récompense d'un million de dollars était offerte.
Ce précédent avait déjà ouvert un débat sur les limites du raisonnement artificiel en mathématiques, et cette nouvelle série de résultats l'amplifie.
Que signifient les 377 résultats mathématiques d'OpenAI
Les 377 découvertes publiées ont utilisé un modèle d'intelligence artificielle plus avancé qui n'a pas été lancé publiquement, le même type de système qui avait résolu le problème de Navier-Stokes. De nombreuses démonstrations ont été vérifiées avec Lean, un langage informatique qui vérifie la logique mathématique sous-jacente à chaque solution.
Pour seulement dix de ces solutions, l'entreprise a également offert des résumés explicatifs sur la manière dont le modèle est arrivé à son résultat. Selon OpenAI, chaque démonstration a nécessité environ trois heures de calcul.
L'origine de ces problèmes attire également l'attention. Les entreprises d'intelligence artificielle testaient leurs modèles avec des exercices existants, comme ceux proposés lors de l'Olympiade Internationale de Mathématiques pour les étudiants du secondaire.
Lorsque les systèmes ont commencé à les résoudre sans difficulté, l'équipe d'OpenAI a conçu de nouveaux paramètres basés sur des problèmes mathématiques non résolus, situés à la frontière de la recherche actuelle. Une partie de ces problèmes inédits a été révélée cette semaine.
Dan Roberts, responsable de la recherche chez OpenAI, a expliqué que tester les modèles en interne est nécessaire pour développer de meilleurs outils, et que les démonstrations mathématiques sont apparues comme un sous-produit de ce processus de test.
Le débat sur le raisonnement ou la copie de l'intelligence artificielle en mathématiques
L'exploit avec Navier-Stokes avait laissé ouverte une question toujours non résolue : si les modèles d'OpenAI déploient une pensée créative propre ou s'ils se contentent de compléter les étapes finales d'une démonstration après s'être appuyés sur des idées déjà développées par des mathématiciens humains. La vague de 377 résultats ravive ce même doute, désormais multiplié par l'échelle de la publication.
Tristan Buckmaster, mathématicien de l'Université de New York qui travaillait sur le problème de Navier-Stokes résolu par OpenAI, a soulevé une inquiétude précise à propos de cette dynamique. Selon ses propres mots : « Il est probable qu'il y ait beaucoup de résultats où ils prennent le travail de quelqu'un et l'amènent jusqu'à sa conclusion ».
Buckmaster a également remis en question la manière dont l'ensemble des résultats a été publié. Il a déclaré dans une interview que, face à un tel volume de solutions diffusées en une seule fois, « je ne crois pas qu'ils aient fait le moindre type de diligence raisonnable ».
La controverse ne se limite pas à la paternité intellectuelle des découvertes. L'effet que ce rythme de production a sur la discipline dans son ensemble est également discuté.
Kai Shaikh, étudiant au doctorat en mathématiques à l'Université de Toronto, a résumé la tension de cette manière : « Je pense qu'au cœur de ce problème se trouve le fait que les humains ont deux natures opposées : une tendance à la compétition et une capacité d'apprécier la beauté. Pour moi, cela semble être un cas où la première tente d'étrangler la seconde ».
Comment OpenAI répond aux recommandations du conseil consultatif de mathématiciens
Il y a quelques semaines, OpenAI a annoncé qu'elle travaillait avec un conseil consultatif de mathématiciens chargé de recommander comment les résultats générés par l'intelligence artificielle doivent être communiqués. Le groupe fonctionne au sein de l'Institut d'études avancées de Princeton, dans le New Jersey, et opère de manière indépendante de toute entreprise d'intelligence artificielle.
Ce conseil avait suggéré, entre autres mesures, que toutes les instructions fournies aux agents d'intelligence artificielle soient publiées avec les chaînes de pensée que ces agents suivent pour arriver à leurs solutions.
Mardi soir, le conseil a émis un communiqué qualifiant la publication des 377 résultats de « le début, et non la fin, du processus de compréhension humaine et d'intégration du travail dans la connaissance mathématique ».
Melanie Wood, mathématicienne à Harvard et membre du conseil consultatif, a indiqué par courriel l'objectif poursuivi par le groupe : « Nous voulons créer des normes et des pratiques pour que les mathématiciens puissent comprendre les résultats publiés par les laboratoires d'IA et faire avancer le domaine ».
OpenAI, quant à elle, a écrit dans une publication sur son site web qu'elle avait recouru aux conseils du conseil pour définir la manière de diffuser ces découvertes.
Cependant, l'entreprise n'a pas adopté l'une des recommandations centrales du groupe : que les compagnies d'intelligence artificielle cessent de tester leurs modèles propriétaires directement avec des problèmes mathématiques avancés.
Le conseil a été catégorique à ce sujet le 29 septembre, lorsqu'il a écrit : « Nous voulons le dire clairement dès le début : nous ne soutenons pas cette pratique ».