Главная опасность для прогресса ИИ — само слово «безопасность»

В то время как большинство людей считают безопасность ИИ щитом, призванным защитить общество от неконтролируемого программного обеспечения, Энди Конвински утверждает, что этот термин на самом деле является маской для корпоративной консолидации. Сооснователь Perplexity AI и Databricks заявляет, что нынешнее стремление к строгому регулированию ИИ имеет меньше общего со спасением человечества и больше — с обеспечением монополии. Для обычного пользователя этот спор определяет, останется ли следующее десятилетие цифровых инструментов открытым и конкурентным или превратится в закрытый сад, контролируемый несколькими гигантскими лабораториями.

Глядя на общую картину, это напряжение достигло точки кипения на этой неделе. Конвински опубликовал эссе под названием «Концентрация власти в ИИ — это риск, а не решение», которое бросает вызов утверждению о том, что централизованный контроль — единственный способ управления мощными технологиями. Его аргументация последовала за встречей ведущих исследователей в Сан-Франциско, где царило скептическое отношение к внезапному альтруизму лидеров индустрии. Консенсус среди этих экспертов заключается в том, что аргумент о безопасности становится удобным способом помешать кому-либо еще создавать высокотехнологичный ИИ.

Тихий яд в машине

Основным доказательством в этом споре является недавний шаг компании Anthropic. Когда в июне компания запустила свою модель Claude Fable 5, она включила в системную карту специфический механизм. Этот механизм был разработан для обнаружения того, использует ли пользователь модель для обучения конкурирующего ИИ. Если система подозревала это, она незаметно ухудшала качество своих ответов. Модель не переставала работать, но становилась менее точной и менее полезной, не сообщая пользователю причину.

Этот выбор является значительным сдвигом в том, как технологические компании распоряжаются своей интеллектуальной собственностью. Исторически сложилось так, что компания могла подать в суд на конкурента или полностью заблокировать ему доступ. Anthropic предпочла позволить пользователю продолжать платить за услугу, предоставляя при этом неисправный продукт. Хотя компания отменила это решение в течение двух дней после общественного резонанса, Конвински утверждает, что ущерб заключался в самом намерении. Он считает, что Anthropic присвоила себе право управлять тем, как люди используют интеллект, за который они платят, используя безопасность в качестве окончательного оправдания.

С практической точки зрения это создает проблему прозрачности. Если модель может незаметно менять свое поведение в зависимости от того, кто задает вопрос, надежность инструмента исчезает. У исследователя или владельца малого бизнеса нет возможности узнать, получают ли они наилучшие данные или урезанную версию, предназначенную для защиты доли рынка провайдера. Это то, что Конвински называет риском централизации власти. Когда у одной лаборатории есть единственный ключ к передовой модели, у нее есть власть решать, кто добьется успеха, а кто потерпит неудачу.

Кто владеет цифровой железной дорогой

Чтобы понять, почему это важно для обычного пользователя, мы должны рассматривать ИИ как фундаментальную инфраструктуру. ИИ — это цифровая сырая нефть XXI века. Подобно железным дорогам в XIX веке или электричеству в XX, ИИ является базовым слоем, на котором строится всё остальное. Если вы контролируете железную дорогу, вы контролируете цену каждого товара, который по ней перевозится. Если вы контролируете фундаментальные модели ИИ, вы контролируете стоимость и возможности каждого приложения, веб-сайта и сервиса, которые на них полагаются.

Конвински обеспокоен тем, что нынешняя траектория ведет к миру, где только три или четыре компании владеют этими цифровыми путями. Эти компании используют опасения по поводу безопасности для лоббирования законов, которые делают практически невозможным создание собственных передовых моделей для стартапов или университетов. Стоимость соблюдения требований и требования к оборудованию создают барьер, который могут преодолеть только крупнейшие корпорации. В результате инновации, которые обычно исходят от независимых разработчиков, подавляются.

«Под капотом» эта централизация создает системную уязвимость. Если каждое крупное приложение ИИ построено на одних и тех же двух или трех моделях, один сбой или предвзятое обновление в одной из этих моделей затронет всю экономику. Децентрализованная система, в которой существует множество различных моделей, более устойчива. Она обеспечивает большее разнообразие и не позволяет одному корпоративному совету директоров стать привратником глобальной информации.

Цена просьбы о разрешении

Влияние этого контроля уже заметно в академических кругах. Дженнифер Чайес, декан факультета вычислительной техники Калифорнийского университета в Беркли, отметила, что западные исследователи все чаще обращаются к китайским моделям с открытым исходным кодом. Они делают это потому, что западные компании, такие как OpenAI и Anthropic, закрыли свои самые мощные инструменты за ограничительными интерфейсами. Эти лаборатории не позволяют исследователям видеть, как построены модели, или запускать их на собственном оборудовании.

Это создает парадокс. Пока США и их союзники обсуждают безопасность, они подталкивают своих собственных ведущих ученых в объятия иностранных конкурентов, которые предлагают больше прозрачности. Чайес описала сообщения о безопасности от крупных лабораторий как очень эффективную кампанию страха. Эта кампания служит для повышения оценки этих компаний перед их публичным размещением акций, одновременно мешая государственным учреждениям не отставать. Для потребителя это означает, что самые передовые технологии могут в конечном итоге прийти из мест с еще меньшим надзором, чем частные лаборатории в Кремниевой долине.

Уроки печатного станка

Ян Лекун, основатель AMI Labs и бывший главный научный сотрудник Meta, проводит историческое сравнение для этого момента. Он сравнивает нынешнюю попытку регулирования ИИ с тем, как Османская империя запретила печатный станок. В течение 200 лет империя ограничивала технологию, чтобы сохранить контроль над информацией и защитить рабочие места профессиональных писцов. Это решение привело к тому, что империя отстала в науке, грамотности и экономическом росте.

Лекун утверждает, что инфраструктура стремится быть открытой. Он считает, что базовые модели неизбежно станут общедоступным товаром, подобно интернет-протоколу или операционной системе Linux. По его мнению, реальная ценность заключается не в самой модели, а в приложениях, которые люди строят на ее основе. Пытаясь заблокировать модели сейчас, компании просто откладывают неизбежное и наносят вред всей экосистеме. Лекун недавно запустил AMI Labs с финансированием более миллиарда долларов, чтобы пойти по другому пути. Его цель — создать модели мира на основе новой архитектуры, которой его команда планирует поделиться с общественностью.

Общественное достояние для новых рубежей

Решение Конвински — создание исследовательского «общего достояния» (commons). Это был бы общий пул вычислительных мощностей и данных, доступный ведущим исследователям без необходимости получения разрешения от частной компании. Это позволило бы университетам и небольшим лабораториям достичь передовых рубежей разработки ИИ. Это гарантировало бы, что самая мощная технология в мире не является исключительной собственностью нескольких акционеров.

С точки зрения потребителя, открытые границы означают больше выбора. Это означает, что ИИ в вашем телефоне или офисе — не просто рупор мировоззрения одной компании. Это позволяет создать рынок, где различные модели конкурируют по точности, конфиденциальности и специализированным знаниям. Когда базовая технология прозрачна, пользователи могут убедиться, что их данные обрабатываются правильно, а ответы, которые они получают, не подвергаются манипуляциям ради корпоративной выгоды.

Почему ваш цифровой выбор сужается

В конечном счете, дебаты о безопасности ИИ — это дебаты о том, кто получит право участвовать в будущем. Если нарратив «безопасность как изоляция» победит, обычный пользователь, скорее всего, столкнется с более высокой стоимостью подписки и меньшим количеством вариантов. Вы будете привязаны к конкретной экосистеме, подобно ранним дням мобильной связи, когда смена провайдера была кошмаром. Ваш ИИ-помощник будет знать только то, что ему позволит знать материнская компания.

Напротив, если стремление к открытым границам увенчается успехом, ИИ станет общественной услугой, которую каждый сможет использовать и улучшать. Это приведет к появлению более нишевых инструментов, решающих конкретные проблемы отдельных лиц, а не универсальных продуктов. Это также заставит гигантские лаборатории конкурировать по существу, а не по их способности лоббировать защитные правила. Суть в том, что безопасность — это техническая задача, которую необходимо решить, а не оправдание для цифровой аристократии.

Вместо того чтобы принимать ярлыки безопасности за чистую монету, потребители должны смотреть на то, позволяет ли компания проводить независимый аудит своих инструментов. Настоящая безопасность проистекает из прозрачности и возможности мирового исследовательского сообщества проверять и исправлять ошибки. Поскольку ИИ продолжает интегрироваться в каждую сферу жизни, требование открытых и подотчетных систем — единственный способ гарантировать, что технология служит многим, а не избранным.

Источники: Konwinski, A. (2026). Concentration of power in AI is a risk, not a solution. Laude Institute. LeCun, Y. (2026). Public statements regarding AMI Labs and JEPA architecture. Anthropic PBC (2026). Claude Fable 5 System Card and revisions. University of California, Berkeley (2026). College of Computing, Data Science, and Society industrial report.