Pourquoi le mathématicien le plus brillant au monde craint que l'IA ne résolve les problèmes trop rapidement

La plupart des gens supposent que des réponses plus rapides mènent à un progrès plus rapide. Dans le monde des mathématiques de haut niveau, Terence Tao voit une crise potentielle. Le médaillé Fields est le mathématicien le plus éminent de sa génération. Il a récemment averti que l'intelligence artificielle épuise la réserve de problèmes mathématiques ouverts et fructueux. Les laboratoires d'IA comme OpenAI et Anthropic sont lancés dans une course pour automatiser le raisonnement. Cette technologie peut désormais aplanir un problème difficile au moment même où un humain commence à y travailler.

Derrière le jargon, les mathématiques concernent moins la réponse finale que les nouveaux outils que les humains construisent pour atteindre cette réponse. Historiquement, un problème mathématique difficile agit comme une montagne. Pour l'escalader, les mathématiciens doivent inventer de nouveaux équipements de grimpe, des cordes et des techniques. Ces inventions aident ensuite la société à résoudre des problèmes pratiques en cryptographie, en physique et en informatique. Si un hélicoptère IA vous dépose simplement au sommet, vous avez la réponse, mais vous n'avez jamais construit l'équipement.

La vitesse de l'excavateur en silicium

Pour l'utilisateur moyen, les mathématiques ressemblent à un produit fini dans un manuel. En réalité, les mathématiques sont un projet industriel vivant. Les chercheurs identifient des lacunes spécifiques dans nos connaissances et passent des décennies à essayer de les combler. Tao observe que l'IA est devenue un excavateur à grande vitesse dans ce domaine. Là où un humain pourrait passer des années à creuser à travers un obstacle théorique, un grand modèle de langage associé à un vérificateur de preuves formelles peut parfois dégager la voie en quelques secondes.

OpenAI a publié son modèle o1 pour démontrer un virage vers le raisonnement interne. Contrairement aux chatbots précédents qui devinaient le mot suivant, ces nouveaux systèmes réfléchissent avant de parler. Ils vérifient leur propre travail par rapport aux lois de la logique. Anthropic a suivi une voie similaire avec ses dernières itérations de Claude. Ces outils ne servent plus seulement à écrire des e-mails. Ils identifient des failles dans des preuves complexes qui tiennent depuis des années.

Cette vitesse crée un problème de chaîne d'approvisionnement pour l'intelligence humaine. Les mathématiciens comptent sur un flux régulier de problèmes non résolus pour former la prochaine génération d'étudiants. Si l'IA résout instantanément tous les problèmes de difficulté moyenne à élevée, le terrain d'entraînement des nouveaux experts humains disparaît. Ce processus laisse aux humains uniquement les problèmes incroyablement difficiles que même l'IA ne peut toucher. Le terrain d'entente de la découverte est en train de s'évaporer.

Pourquoi une réponse n'est pas une solution

Sous le capot, la manière dont l'IA résout un problème diffère fondamentalement du fonctionnement du cerveau humain. Une IA peut utiliser une recherche par force brute ou une corrélation statistique étrange pour trouver une preuve. Elle fournit la preuve, mais celle-ci se compose souvent de millions de lignes de code. Aucun humain ne peut la lire. Aucun humain ne peut en tirer des enseignements. En termes simples, l'IA nous donne l'or mais cache la carte de la mine.

Tao appelle désormais à un changement dans la façon dont la communauté valorise ces percées. Il suggère que les mathématiciens devraient étiqueter certains problèmes comme « nécessitant une analyse ». Dans ce cadre, une simple réponse provenant d'une IA compte pour très peu. Pour obtenir du crédit, un solutionneur doit expliquer le raisonnement d'une manière qui transfère les connaissances à d'autres humains. Ce changement vise à protéger la valeur éducative de la discipline.

Historiquement, les problèmes les plus célèbres en mathématiques n'étaient pas utiles en raison de leurs réponses. Le dernier théorème de Fermat a mis 350 ans à être résolu. La preuve finale faisait des centaines de pages. La réponse réelle — qu'aucun trio d'entiers positifs a, b et c ne satisfait une équation spécifique pour n supérieur à 2 — n'a presque aucune application pratique. Cependant, les techniques inventées pour atteindre cette réponse sécurisent aujourd'hui chaque transaction par carte de crédit sur Internet. Si une IA avait simplement déclaré que la réponse était vraie en 1637, nous n'aurions peut-être pas de cryptage moderne aujourd'hui.

Le côté marché de la logique automatisée

Du côté du marché, ce développement est une victoire massive pour les conglomérats technologiques. Des entreprises comme Google DeepMind ne s'intéressent pas seulement aux mathématiques pour l'amour de la science. Elles veulent créer un moteur de raisonnement à usage général. Si une IA peut résoudre un problème mathématique nécessitant 20 étapes de logique, elle peut également optimiser une route maritime mondiale ou gérer un réseau électrique avec une efficacité parfaite.

Cela crée un environnement volatil pour les travailleurs du savoir. Nous passons d'une ère de calcul à une ère de vérification. Dans la vie quotidienne, votre travail peut passer de l'exécution de la tâche à la vérification du travail d'un système automatisé. Cela semble plus facile, mais cela nécessite un niveau plus profond de connaissances fondamentales. Vous ne pouvez pas vérifier une solution si vous ne comprenez pas les règles du jeu.

Pratiquement parlant, cela impacte la façon dont nous enseignons aux enfants. Si un smartphone peut résoudre un problème de calcul et expliquer les étapes, la valeur de la mémorisation de ces étapes tombe à zéro. Les éducateurs doivent désormais se concentrer sur le « pourquoi » au lieu du « comment ». Nous assistons à un changement où la capacité à poser la bonne question est plus précieuse que la capacité à trouver la réponse.

Le risque d'une discipline évidée

En prenant du recul, l'inquiétude est que les mathématiques pourraient devenir une boîte noire. Si nous sous-traitons toute la logique difficile aux machines, nos propres muscles mentaux s'atrophieront. L'avertissement de Tao est un appel à la résilience. Il veut s'assurer que les mathématiques restent une entreprise centrée sur l'humain. L'objectif est de garder l'humain dans la boucle, non pas comme un calculateur, mais comme un navigateur.

Nous sommes actuellement dans une phase cyclique d'adoption technologique. D'abord, nous sommes émerveillés par la capacité. Ensuite, nous réalisons le coût de cette capacité. Enfin, nous ajustons nos systèmes pour gérer le changement. Nous sommes actuellement dans la transition entre l'émerveillement et l'ajustement. Les laboratoires d'IA continueront de sortir des modèles plus rapides et plus intelligents tous les six mois. La réserve de problèmes continuera de rétrécir.

En fin de compte, la valeur des mathématiques réside dans l'effort. L'effort produit les effets secondaires qui font fonctionner notre monde moderne. Si nous supprimons l'effort, nous pourrions cesser de produire ces effets secondaires. C'est le risque tangible identifié par Tao. Nous construisons un monde où nous savons tout mais comprenons très peu.

Ce que cela signifie pour vous

L'essentiel est que la définition de l'intelligence est en train de changer. Pour le consommateur moyen, cela signifie que les outils dans votre poche deviennent plus capables que les experts que vous aviez l'habitude d'embaucher. Cependant, ces outils manquent de sens du but ou de contexte.

Premièrement, attendez-vous à un changement dans l'éducation. Les écoles se tourneront probablement vers des examens oraux ou des tests surveillés sur papier pour s'assurer que les étudiants apprennent réellement. La dépendance aux devoirs numériques risque de prendre fin car l'IA a rendu impossible une notation équitable.

Deuxièmement, votre propre valeur professionnelle dépendra de votre capacité à auditer l'IA. Que vous soyez dans la comptabilité, le droit ou l'ingénierie, la machine fournira le premier jet. Votre travail consiste à trouver l'erreur sur mille qui pourrait causer une défaillance systémique.

Enfin, appréciez la mécanique invisible de la découverte. Derrière chaque application et chaque gadget se trouve une longue chaîne de problèmes mathématiques résolus. Si ces problèmes sont résolus trop rapidement par des machines, le lien humain avec notre propre technologie devient opaque. Rester curieux de savoir comment les choses fonctionnent n'est plus seulement un passe-temps. C'est une compétence de survie nécessaire dans un monde automatisé.

Sources :
University of California, Los Angeles Department of Mathematics
International Mathematical Union Fields Medal Archives
OpenAI Research Blog regarding o1 model series
Anthropic Technical Documentation for Claude 3.5 Sonnet
DeepMind AlphaProof and AlphaGeometry Technical Reports