Почему умнейший математик мира обеспокоен тем, что ИИ решает задачи слишком быстро

Большинство людей полагают, что быстрые ответы ведут к ускорению прогресса. В мире высшей математики Теренс Тао видит потенциальный кризис. Лауреат Филдсовской премии является выдающимся математиком своего поколения. Недавно он предупредил, что искусственный интеллект истощает запас плодотворных открытых математических задач. Лаборатории ИИ, такие как OpenAI и Anthropic, участвуют в гонке по автоматизации рассуждений. Эта технология теперь способна «разгладить» сложную проблему в тот самый момент, когда человек только начинает над ней работать.

Если отбросить жаргон, математика — это не столько конечный ответ, сколько новые инструменты, которые люди создают для его достижения. Исторически сложилось так, что сложная математическая задача подобна горе. Чтобы взобраться на нее, математики должны изобретать новое снаряжение, веревки и техники. Эти изобретения затем помогают обществу решать практические задачи в криптографии, физике и компьютерных науках. Если вертолет ИИ просто высадит вас на вершине, у вас будет ответ, но вы так и не создадите снаряжение.

Скорость кремниевого экскаватора

Для обычного пользователя математика кажется готовым продуктом из учебника. В действительности же математика — это живой промышленный проект. Исследователи выявляют конкретные пробелы в наших знаниях и тратят десятилетия, пытаясь навести через них мосты. Тао отмечает, что ИИ стал высокоскоростным экскаватором в этой области. Там, где человек может потратить годы, пробиваясь сквозь теоретическое препятствие, большая языковая модель в паре с формальным проверяльщиком доказательств иногда может расчистить путь за считанные секунды.

OpenAI выпустила свою модель o1, чтобы продемонстрировать сдвиг в сторону внутреннего рассуждения. В отличие от предыдущих чат-ботов, которые угадывали следующее слово, эти новые системы думают, прежде чем говорить. Они проверяют свою работу на соответствие законам логики. Anthropic пошла по аналогичному пути с последними итерациями Claude. Эти инструменты больше не просто пишут электронные письма. Они находят изъяны в сложных доказательствах, которые стояли незыблемо годами.

Такая скорость создает проблему в цепочке поставок для человеческого интеллекта. Математики полагаются на постоянный поток нерешенных задач для обучения следующего поколения студентов. Если ИИ мгновенно решает все задачи средней и высокой сложности, тренировочная площадка для новых экспертов-людей исчезает. Этот процесс оставляет людям только невозможно сложные задачи, к которым не может подступиться даже ИИ. «Средняя полоса» открытий испаряется.

Почему ответ — это не решение

«Под капотом» метод, которым ИИ решает задачу, фундаментально отличается от работы человеческого мозга. ИИ может использовать поиск перебором или странную статистическую корреляцию для поиска доказательства. Он выдает доказательство, но оно часто представляет собой миллионы строк кода. Ни один человек не может его прочитать. Ни один человек не может у него поучиться. Проще говоря, ИИ дает нам золото, но прячет карту к руднику.

Тао призывает изменить то, как сообщество оценивает эти прорывы. Он предлагает математикам помечать определенные задачи как «требующие анализа». В рамках этой структуры голый ответ от ИИ ценится очень мало. Чтобы получить признание, решатель должен объяснить ход рассуждений таким образом, чтобы передать знания другим людям. Этот сдвиг направлен на защиту образовательной ценности дисциплины.

Исторически сложилось так, что самые известные задачи в математике были полезны не из-за ответов на них. На решение Великой теоремы Ферма ушло 350 лет. Итоговое доказательство заняло сотни страниц. Сам ответ — что никакие три положительных целых числа a, b и c не удовлетворяют конкретному уравнению для n больше 2 — почти не имеет практического применения. Однако техники, изобретенные для достижения этого ответа, сегодня обеспечивают безопасность каждой транзакции по кредитной карте в интернете. Если бы ИИ просто заявил в 1637 году, что ответ верен, у нас сегодня могло бы не быть современного шифрования.

Рыночная сторона автоматизированной логики

С рыночной точки зрения это развитие является масштабной победой технологических конгломератов. Компании вроде Google DeepMind интересуются математикой не только ради науки. Они хотят создать механизм рассуждения общего назначения. Если ИИ может решить математическую задачу, требующую 20 логических шагов, он также может оптимизировать глобальный маршрут доставки или управлять энергосистемой с идеальной эффективностью.

Это создает нестабильную среду для работников интеллектуального труда. Мы переходим из эры вычислений в эру верификации. В повседневной жизни ваша работа может сместиться от выполнения задач к проверке работы автоматизированной системы. Это звучит проще, но требует более глубокого уровня фундаментальных знаний. Вы не можете проверить решение, если не понимаете правил игры.

С практической точки зрения это влияет на то, как мы учим детей. Если смартфон может решить задачу по математическому анализу и объяснить шаги, ценность заучивания этих шагов падает до нуля. Педагоги теперь должны сосредоточиться на вопросе «почему» вместо «как». Мы наблюдаем сдвиг, при котором способность задать правильный вопрос становится ценнее, чем способность найти ответ.

Риск опустошения дисциплины

Если смотреть шире, опасение заключается в том, что математика может стать «черным ящиком». Если мы передадим всю сложную логику машинам, наши собственные ментальные мышцы атрофируются. Предупреждение Тао — это призыв к устойчивости. Он хочет гарантировать, что математика останется человекоцентричным занятием. Цель состоит в том, чтобы оставить человека в процессе не в качестве калькулятора, а в качестве навигатора.

Сейчас мы находимся в циклической фазе внедрения технологий. Сначала мы поражаемся возможностям. Затем мы осознаем цену этих возможностей. Наконец, мы адаптируем наши системы, чтобы справиться с изменениями. В настоящее время мы находимся в переходе между изумлением и адаптацией. Лаборатории ИИ будут продолжать выпускать более быстрые и умные модели каждые шесть месяцев. Запас задач будет продолжать сокращаться.

В конечном счете, ценность математики заключается в борьбе. Борьба порождает побочные эффекты, которые управляют нашим современным миром. Если мы уберем борьбу, мы можем перестать производить эти побочные эффекты. Это ощутимый риск, который выявляет Тао. Мы строим мир, где мы знаем всё, но понимаем очень мало.

Что это значит для вас

Суть в том, что определение интеллекта меняется. Для обычного потребителя это означает, что инструменты в вашем кармане становятся более способными, чем эксперты, которых вы раньше нанимали. Однако этим инструментам не хватает чувства цели или контекста.

Во-первых, ожидайте изменений в образовании. Школы, скорее всего, перейдут к устным экзаменам или контролируемому тестированию на бумаге, чтобы убедиться, что учащиеся действительно учатся. Зависимость от цифровых домашних заданий, вероятно, закончится, потому что ИИ сделал невозможным справедливое оценивание.

Во-вторых, ваша собственная профессиональная ценность будет зависеть от вашей способности проводить аудит ИИ. Будь вы бухгалтером, юристом или инженером, машина предоставит первый черновик. Ваша работа — найти ту единственную ошибку на тысячу, которая может вызвать системный сбой.

Наконец, цените невидимую механику открытий. За каждым приложением и каждым гаджетом стоит длинная цепочка решенных математических задач. Если эти задачи будут решаться машинами слишком быстро, связь человека с нашими собственными технологиями станет непрозрачной. Любопытство к тому, как все устроено, больше не просто хобби. Это необходимый навык выживания в автоматизированном мире.

Источники:
University of California, Los Angeles Department of Mathematics
International Mathematical Union Fields Medal Archives
OpenAI Research Blog regarding o1 model series
Anthropic Technical Documentation for Claude 3.5 Sonnet
DeepMind AlphaProof and AlphaGeometry Technical Reports