Pour le salut de la discipline, des problèmes de maths devraient être « exclus » de l’IA, juge le Mozart des mathématiques
Terence Tao, l’un des plus grands mathématiciens vivants, propose de déclarer certaines catégories de problèmes de maths « hors limites » pour les intelligences artificielles (IA). Cette proposition survient dans un contexte où l’intelligence artificielle générative, grâce à des modèles avancés développés par des entreprises comme OpenAI et Anthropic, a démontré des capacités significatives en matière de résolution de problèmes mathématiques.
Lors d’une discussion sur le réseau social Mastodon le 3 septembre, Tao, médaillé Fields en 2006, a exprimé ses réserves quant à l’utilisation de l’IA pour résoudre des problèmes mathématiques. Il souligne que cette pratique pourrait ne pas toujours être bénéfique pour la discipline. Selon lui, les problèmes ouverts formulés avant l’ère de l’IA sont devenus une ressource presque non renouvelable, en raison de ce qu’il décrit comme de la « contamination ». Les solutions générées par l’IA pourraient ainsi perdre leur valeur, car les conditions de leur résolution sont floues.
Tao explique que la nature « boîte noire » de l’IA rend difficile la distinction entre une solution véritablement novatrice et une solution déjà présente dans les données d’apprentissage. Ce flou pourrait nuire à l’avancement des mathématiques. En écho à ses préoccupations, le mathématicien Hugo Duminil-Copin, médaillé Fields en 2022, a averti que l’exploitation aveugle des problèmes ouverts pourrait détruire l’écosystème nécessaire au développement de nouvelles techniques mathématiques.
Pour illustrer son propos, Tao a partagé un exemple tiré de la théorie des groupes, où la communication d’informations clés a compromis le travail de cartographie de la difficulté d’un défi mathématique. Il propose même d’interdire l’utilisation des solveurs automatisés pour certaines catégories de problèmes afin de préserver leur valeur pour l’écosystème mathématique, notamment dans le cadre de la formation des futurs mathématiciens.
Cette réflexion soulève une question plus large sur le rôle de l’IA dans divers domaines, y compris la création artistique et d’autres professions. Tao admet que faire respecter une telle interdiction serait difficile, compte tenu de la puissance et de la disponibilité de ces outils.
Source : Numerama.
