Por qué al matemático más inteligente del mundo le preocupa que la IA resuelva problemas demasiado rápido

La mayoría de la gente asume que las respuestas más rápidas conducen a un progreso más veloz. En el mundo de las matemáticas de alto nivel, Terence Tao ve una crisis potencial. El ganador de la Medalla Fields es el matemático más preeminente de su generación. Recientemente advirtió que la inteligencia artificial está agotando el suministro de problemas matemáticos abiertos y fructíferos. Laboratorios de IA como OpenAI y Anthropic están en una carrera por automatizar el razonamiento. Esta tecnología ahora puede allanar un problema difícil en el momento en que un humano comienza a trabajar en él.

Detrás de la jerga, las matemáticas tratan menos sobre la respuesta final y más sobre las nuevas herramientas que los humanos construyen para llegar a esa respuesta. Históricamente, un problema matemático difícil actúa como una montaña. Para escalarla, los matemáticos deben inventar nuevos equipos de escalada, cuerdas y técnicas. Estos inventos luego ayudan a la sociedad a resolver problemas prácticos en criptografía, física y ciencias de la computación. Si un helicóptero de IA simplemente te deja en la cima, tienes la respuesta, pero nunca construiste el equipo.

La velocidad de la excavadora de silicio

Para el usuario promedio, las matemáticas parecen un producto terminado en un libro de texto. En realidad, las matemáticas son un proyecto industrial en vivo. Los investigadores identifican brechas específicas en nuestro conocimiento y pasan décadas tratando de cerrarlas. Tao observa que la IA se ha convertido en una excavadora de alta velocidad en este campo. Donde un humano podría pasar años excavando a través de un obstáculo teórico, un modelo de lenguaje extenso emparejado con un verificador de pruebas formales a veces puede despejar el camino en segundos.

OpenAI lanzó su modelo o1 para demostrar un cambio hacia el razonamiento interno. A diferencia de los chatbots anteriores que adivinaban la siguiente palabra, estos sistemas más nuevos piensan antes de hablar. Verifican su propio trabajo contra las leyes de la lógica. Anthropic ha seguido un camino similar con sus últimas iteraciones de Claude. Estas herramientas ya no solo sirven para escribir correos electrónicos. Están identificando fallas en pruebas complejas que han permanecido intactas durante años.

Esta velocidad crea un problema en la cadena de suministro para la inteligencia humana. Los matemáticos dependen de un flujo constante de problemas sin resolver para formar a la próxima generación de estudiantes. Si la IA resuelve todos los problemas de dificultad media a alta instantáneamente, el campo de entrenamiento para nuevos expertos humanos desaparece. Este proceso deja a los humanos solo con los problemas imposiblemente difíciles que incluso la IA no puede tocar. El terreno intermedio del descubrimiento se está evaporando.

Por qué una respuesta no es una solución

Bajo el capó, la forma en que la IA resuelve un problema difiere fundamentalmente de cómo opera el cerebro humano. Una IA podría usar una búsqueda de fuerza bruta o una extraña correlación estadística para encontrar una prueba. Proporciona la prueba, pero la prueba a menudo consiste en millones de líneas de código. Ningún humano puede leerla. Ningún humano puede aprender de ella. En términos simples, la IA nos da el oro pero esconde el mapa de la mina.

Tao ahora está pidiendo un cambio en cómo la comunidad valora estos avances. Sugiere que los matemáticos deberían etiquetar ciertos problemas como "requiere análisis". En este marco, una respuesta escueta de una IA cuenta muy poco. Para obtener crédito, quien resuelva el problema debe explicar el razonamiento de una manera que transfiera el conocimiento a otros humanos. Este cambio tiene como objetivo proteger el valor educativo de la disciplina.

Históricamente, los problemas más famosos de las matemáticas no fueron útiles por sus respuestas. El Último Teorema de Fermat tardó 350 años en resolverse. La prueba final tenía cientos de páginas. La respuesta real —que no hay tres enteros positivos a, b y c que satisfagan una ecuación específica para n mayor que 2— casi no tiene aplicación práctica. Sin embargo, las técnicas inventadas para llegar a esa respuesta ahora aseguran cada transacción de tarjeta de crédito en Internet. Si una IA simplemente hubiera declarado que la respuesta era verdadera en 1637, es posible que hoy no tuviéramos el cifrado moderno.

El lado del mercado de la lógica automatizada

En el lado del mercado, este desarrollo es una victoria masiva para los conglomerados tecnológicos. Empresas como Google DeepMind no solo están interesadas en las matemáticas por el bien de la ciencia. Quieren crear un motor de razonamiento de propósito general. Si una IA puede resolver un problema matemático que requiere 20 pasos de lógica, también puede optimizar una ruta de envío global o gestionar una red eléctrica con una eficiencia perfecta.

Esto crea un entorno volátil para los trabajadores del conocimiento. Nos estamos moviendo de una era de cálculo a una era de verificación. En la vida cotidiana, su trabajo puede pasar de realizar la tarea a verificar el trabajo de un sistema automatizado. Esto suena más fácil, pero requiere un nivel más profundo de conocimiento fundamental. No se puede verificar una solución si no se entienden las reglas del juego.

Hablando prácticamente, esto impacta en cómo enseñamos a los niños. Si un teléfono inteligente puede resolver un problema de cálculo y explicar los pasos, el valor de memorizar esos pasos cae a cero. Los educadores ahora deben centrarse en el porqué en lugar del cómo. Estamos viendo un cambio donde la capacidad de hacer la pregunta correcta es más valiosa que la capacidad de encontrar la respuesta.

El riesgo de una disciplina vaciada

Ampliando la perspectiva, la preocupación es que las matemáticas podrían convertirse en una caja negra. Si subcontratamos toda la lógica difícil a las máquinas, nuestros propios músculos mentales se atrofiarán. La advertencia de Tao es un llamado a la resiliencia. Quiere asegurar que las matemáticas sigan siendo un esfuerzo centrado en el ser humano. El objetivo es mantener al humano en el ciclo, no como una calculadora, sino como un navegador.

Actualmente estamos en una fase cíclica de adopción tecnológica. Primero, nos asombra la capacidad. Luego, nos damos cuenta del costo de esa capacidad. Finalmente, ajustamos nuestros sistemas para manejar el cambio. Actualmente estamos en la transición entre el asombro y el ajuste. Los laboratorios de IA continuarán lanzando modelos más rápidos e inteligentes cada seis meses. El suministro de problemas continuará reduciéndose.

En última instancia, el valor de las matemáticas es la lucha. La lucha produce los efectos secundarios que hacen funcionar nuestro mundo moderno. Si eliminamos la lucha, podríamos dejar de producir esos efectos secundarios. Este es el riesgo tangible que identifica Tao. Estamos construyendo un mundo donde lo sabemos todo pero entendemos muy poco.

Qué significa esto para usted

La conclusión es que la definición de inteligencia está cambiando. Para el consumidor promedio, esto significa que las herramientas en su bolsillo se están volviendo más capaces que los expertos que solía contratar. Sin embargo, estas herramientas carecen de sentido de propósito o contexto.

Primero, espere un cambio en la educación. Es probable que las escuelas se orienten hacia exámenes orales o pruebas presenciales en papel para asegurar que los estudiantes realmente estén aprendiendo. Es probable que la dependencia de las tareas digitales termine porque la IA ha hecho que sea imposible calificar de manera justa.

Segundo, su propio valor profesional dependerá de su capacidad para auditar la IA. Ya sea que trabaje en contabilidad, derecho o ingeniería, la máquina proporcionará el primer borrador. Su trabajo es encontrar el único error entre mil que podría causar una falla sistémica.

Finalmente, aprecie la mecánica invisible del descubrimiento. Detrás de cada aplicación y cada dispositivo hay una larga cadena de problemas matemáticos resueltos. Si esos problemas son resueltos demasiado rápido por las máquinas, la conexión humana con nuestra propia tecnología se vuelve opaca. Mantener la curiosidad sobre cómo funcionan las cosas ya no es solo un pasatiempo. Es una habilidad de supervivencia necesaria en un mundo automatizado.

Fuentes:
University of California, Los Angeles Department of Mathematics
International Mathematical Union Fields Medal Archives
OpenAI Research Blog regarding o1 model series
Anthropic Technical Documentation for Claude 3.5 Sonnet
DeepMind AlphaProof and AlphaGeometry Technical Reports