Почему ваш компьютер менее защищен из-за того, что ИИ-компании пытаются его обезопасить

Общественное мнение воспринимает защитные барьеры ИИ как цифровой бронежилет. Логика проста: если модель отказывается писать вредоносный код, у хакеров становится на одно оружие меньше. Однако за корпоративным маркетингом и государственным надзором скрывается иная реальность: эти меры безопасности в настоящее время «ослепляют» тех самых людей, которые защищают наши устройства от реальных атак. Пытаясь запереть двери перед преступниками, лаборатории ИИ случайно запирают их и перед слесарями.

Технологи и исследователи безопасности бьют тревогу по поводу тенденции, в которой внешняя видимость приоритетнее реальной безопасности. В то время как такие компании, как Anthropic и OpenAI, позиционируют свои модели как мощные двигатели инноваций, они также обернули их слоями ограничительного кода, предназначенного для предотвращения «неправильного использования». Для обычного пользователя это означает, что программное обеспечение, на которое вы полагаетесь — от банковского приложения до операционной системы смартфона — становится труднее защищать.

Миф о цифровом бронежилете

Фундаментальная проблема защитных барьеров ИИ заключается в том, что кибербезопасность — это улица с двусторонним движением. Чтобы заделать дыру в стене, каменщик сначала должен понять, как именно эту стену можно разрушить. В цифровом мире это называется наступательными исследованиями (offensive research). Легитимные специалисты по безопасности проводят свои дни, действуя как хакеры, чтобы найти уязвимости раньше, чем это сделают настоящие преступники.

Крис Энли, главный научный сотрудник гиганта в области консалтинга по безопасности NCC Group, использует простую аналогию. Молоток — это инструмент, необходимый для постройки дома, но он также может быть оружием. Вы не можете построить здание без него. Если вы запретите молотки, чтобы предотвратить насилие, вы также гарантируете, что дома не будут построены. Когда исследователь просит ИИ попытаться эксплуатировать баг, он пытается доказать реальность уязвимости, чтобы производитель мог её исправить. Если ИИ отказывается отвечать, потому что запрос выглядит «вредоносным», защитник остается без своего самого эффективного инструмента.

Это создает парадокс, когда тот же механизм, предназначенный для того, чтобы помешать хакеру, останавливает и защитника. Обе роли используют одни и те же методы. Ограничивая доступ к этим возможностям, ИИ-компании значительно усложняют работу защитников сетей. В результате программные ошибки остаются открытыми дольше, что дает реальным преступникам больше времени на их поиск и использование.

Переговоры с неутомимым, но упрямым стажером

Для многих исследователей использование современной модели ИИ похоже на работу с неутомимым стажером, который к тому же невероятно параноидален. Вы можете попросить стажера проанализировать фрагмент кода на наличие ошибок. Стажер видит слово «эксплойт» или «уязвимость» и немедленно прекращает работу, читая вам лекцию об этике вместо предоставления запрошенных данных.

Крис Томпсон, исполнительный директор RemoteThreat, отмечает, что исследователи теперь тратят огромную часть своего рабочего дня на переговоры с моделью. Вместо того чтобы сосредоточиться на основной проблеме безопасности, они пытаются понять, почему модель дала полезный ответ вчера, но отказывается говорить сегодня. Такая чрезмерная «санитарная обработка» результатов ИИ приводит к непоследовательным результатам.

В некоторых случаях защитные барьеры настолько чувствительны, что срабатывают при простом упоминании тем, связанных с безопасностью. Исследователь, работающий на крупного производителя компонентов для смартфонов, сообщил, что их инструменты ИИ почти бесполезны из-за слишком строгих ограничений. Если модель чует любую активность, связанную с безопасностью, она просто отключается. Это создает «налог на производительность» для тех самых людей, которые должны защищать глобальную цепочку поставок.

Бюрократия программ проверки

Лаборатории ИИ не игнорируют эту проблему, но их решением стал слой бюрократии. У Anthropic есть программа Cyber Verification Program, а OpenAI предлагает Trusted Access for Cyber. Это программы проверки, в рамках которых исследователи могут подать заявку на специальный доступ к моделям с меньшим количеством ограничений.

Однако эти программы часто непрозрачны и эксклюзивны. Доступ часто ограничен конкретными западными организациями или теми, кто соответствует строгим корпоративным критериям. Даже когда исследователь одобрен, границы могут измениться без уведомления. Этот контроль доступа особенно заметен в случае с моделью Mythos от Anthropic. Компания позиционирует Mythos как высококлассный инструмент, настолько мощный, что он требует надзора на государственном уровне.

В июне правительство США на короткое время ввело экспортный контроль в отношении Mythos и другой модели под названием Fable. Этот шаг последовал за сообщениями о том, что защитные барьеры моделей можно обойти для проведения кибератак. Хотя позже контроль был ослаблен для проверенных организаций США, инцидент подчеркнул растущую тенденцию отношения к ИИ как к контролируемому оружию, а не как к инструменту общего назначения. Такой уровень контроля не останавливает хакеров, использующих собственное оборудование, но создает огромные препятствия для легитимных компаний, пытающихся идти на опережение.

Миграция на открытый исходный код и иностранные модели

Когда легитимные исследователи блокируются американскими ИИ-компаниями, они не просто прекращают работу. Вместо этого они ищут инструменты, в которых нет этих ограничительных фильтров. Часто это означает переход от отполированных облачных моделей к альтернативам с открытым исходным кодом, которые могут работать на частном оборудовании.

Паоло Станьо, технический директор Crowdfense, объясняет, что его команда избегает облачных моделей для конфиденциальной работы. Передача секретной программной ошибки в облачный ИИ сопряжена с риском утечки этих данных или их поглощения в ходе будущих циклов обучения. Чтобы сохранить конфиденциальность и избежать «нянченья» с корпоративными барьерами, многие профессионалы теперь используют модели с открытым исходным кодом, которые они могут запускать локально без какого-либо надзора.

Здесь кроется стратегический риск. Если американские исследователи обнаружат, что отечественные модели слишком ограничены, чтобы быть полезными, они могут обратиться к мощным моделям с открытым исходным кодом, разработанным в других странах. Крис Томпсон указывает, что исследователей уже подталкивают к китайским моделям, таким как GLM. Эти модели свободно скачиваются и не имеют ограничений по использованию. Этот сдвиг переносит центр инноваций из-под управления США в среду, где западные стандарты безопасности вообще не применяются.

Почему облачные модели — это кошмар для приватности специалистов по безопасности

Конфиденциальность является основополагающей проблемой для любого, кто работает в сфере кибербезопасности с высокими ставками. Если исследователь находит «уязвимость нулевого дня» (zero-day) — ошибку, о которой производитель ПО еще не знает, — эта информация стоит миллионы долларов на открытом рынке. Она также является критически важной разведывательной информацией для правительств.

Отправка этой информации на сервер, принадлежащий OpenAI или Anthropic, — это огромный риск. Даже при наличии специализированных программ доступа нет никакой гарантии, что данные не будут использованы для обучения следующей версии ИИ. Некоторые исследователи, такие как Джузеппе Кали, используют ИИ только для рутинных частей работы, таких как перевод сложного кода в читаемый формат. Они отказываются использовать его для фактического поиска багов, потому что хотят сохранить свою работу в тайне.

Эта осторожность означает, что самые передовые модели ИИ в настоящее время используются для задач низкого уровня, а не для высокоуровневых рассуждений, которые могли бы реально улучшить глобальную безопасность. Защитные барьеры и облачная природа этих инструментов создают потолок того, насколько они могут реально помочь людям, защищающим наши сети.

Что это значит для вашей цифровой безопасности

Итог для обычного потребителя таков: наша цифровая защита не поспевает за скоростью атак с использованием ИИ. Преступники не следуют правилам и не используют проверенные программы. Они используют нецензурированные модели с открытым исходным кодом или собственный ИИ для автоматизации процесса поиска и поражения целей.

Между тем, «хорошие парни» застряли в цикле запросов разрешений и споров с чат-ботами. На практике это означает, что программное обеспечение на вашем телефоне и ноутбуке может иметь уязвимости, которые дольше остаются неисправленными. Это также означает, что стоимость кибербезопасности растет, так как фирмам приходится тратить больше времени на ручную работу, с которой ИИ теоретически мог бы справиться за секунды.

Чтобы сохранить цифровой мир в безопасности, лабораториям ИИ нужно отойти от идеи, что они могут опекать каждого пользователя. Вместо того чтобы строить стены, блокирующие всех, им нужно обеспечить ответственный и высокоскоростной доступ людям, которые находятся на передовой. Без этого сдвига мы, по сути, просим наших исследователей безопасности выиграть скоростной забег, в то время как сами связываем им шнурки.

Основные выводы для обычного пользователя

• ИИ — это инструмент двойного назначения: Тот же ИИ, который помогает врачу диагностировать болезнь, может помочь хакеру найти брешь в системе безопасности банка.
• Защитные барьеры не идеальны: Хотя они останавливают некоторые злоупотребления низкого уровня, их легко обходят решительные преступники, использующие частное оборудование.
• Защитники замедляются: Люди, которые находят и исправляют ошибки в ваших приложениях, с трудом используют ИИ, потому что правила безопасности слишком широки.
• Приватность — это препятствие: Профессиональные исследователи часто избегают самых популярных инструментов ИИ, потому что не хотят утечки конфиденциальных данных по безопасности в облако.
• Открытый исходный код как альтернатива: Индустрия движется в сторону локальных, неограниченных моделей, чтобы выполнять работу без корпоративного вмешательства.

Источники:

• Anthropic Public Disclosures on Mythos and Fable Model Access
• OpenAI Trusted Access for Cyber Program Documentation
• NCC Group Technical Analysis on AI in Offensive Security
• TechCrunch Report on AI Guardrails and Cybersecurity Researchers