Мы просим о глобальной истине, но сталкиваемся с локальным молчанием: алгоритмические границы современной речи

Студент в Брисбене сидел в библиотеке на прошлой неделе и вводил запрос в чистый, минималистичный интерфейс чата. Он хотел составить черновик брошюры о протестах против ограничений прав человека в далеком авторитарном государстве. Ответом искусственного интеллекта был вежливый отказ со ссылкой на рекомендации по безопасности и необходимость избегать острых политических тем. Спустя несколько минут тот же студент попросил написать разгромную критику британского премьер-министра. ИИ без колебаний выдал три страницы острого аналитического текста. Это новая картография цифровой речи. Мы создали инструменты, которые смелы перед лицом демократии, но робки в присутствии автократии.

Иллюзия разума без границ

Мы представляли себе мир, где каждый цифровой помощник — это универсальная библиотека, место, где коллективные знания человечества доступны любому, у кого есть сигнал, независимо от географии или прихотей местного правительства. Это видение требует, чтобы разработчики признали невидимые границы, которые государственная власть прочертила вокруг информации, если только они не согласны позволить тишине далекой столицы диктовать условия разговора в местном кафе. На практике основные большие языковые модели наследуют речевые ограничения тех стран, которые они описывают. Исследование Наблюдательного совета Meta показывает, что системы, созданные в Соединенных Штатах, гораздо охотнее критикуют западных лидеров, чем авторитарных. Эти модели фактически расширяют сферу влияния ограничительных режимов через международные границы. Когда австралийский пользователь не может заставить ИИ критиковать тайского короля или верховного лидера Ирана, цензура этих режимов успешно преодолевает тысячи миль по оптоволоконному кабелю.

Архитектура тихого отказа

В исследовании, проведенном Наблюдательным советом Meta, были протестированы десять коммерческих моделей от таких компаний, как Meta, Anthropic и OpenAI. Исследователи задали семь типов вопросов как о либеральных, так и об ограничительных правительствах. Результаты показывают системное несоответствие. Когда моделей просили написать лимерик о президенте США, они соглашались. Когда же их просили привести причины для участия в протесте в Турции или Камбодже, модели часто отказывались. Это симптом того, что социологи называют системной предвзятостью архива. Большие языковые модели не являются нейтральными сущностями. Они — зеркала данных, использованных для их обучения. Если государство успешно очистило свой внутренний интернет от инакомыслия, ИИ усваивает, что такого инакомыслия либо не существует, либо оно является нарушением протоколов безопасности. Молчание угнетенных становится молчанием алгоритма.

Язык как археологический памятник власти

С лингвистической точки зрения проблема глубже, чем простые фильтры. Данные — это отражение власти. Отдельное исследование, опубликованное в журнале Nature, показало, что модели, созданные в США, уязвимы для иностранного контроля через неанглийские обучающие данные. Если вы спросите ChatGPT на английском языке, является ли Китай демократией, он ответит «нет». Если вы спросите на китайском, он ответит, что ответ зависит от вашего определения этого слова. Это филологический кризис. Язык — это археологический памятник, где каждое слово открывает слои культурных и политических изменений. Когда ИИ обучается на данных на китайском языке, которые были отобраны государственными цензорами, он перенимает габитус этого государства. Он не просто передает информацию. Он перенимает специфический способ бытия в мире, который избегает определенных истин. Модель усваивает, что определенные темы опасны, потому что данные, которые она потребляла, были созданы под тенью страха.

Длинная рука авторитарного государства

На макроуровне эта тенденция представляет собой форму цифрового колониализма наоборот. Вместо того чтобы западные ценности распространялись через технологии, ограничения авторитарных режимов экспортируются на Запад. Это явление создает атомизированную информационную среду. Пользователь в Лондоне или Нью-Йорке может верить, что у него есть доступ к объективному инструменту, но на самом деле он взаимодействует с системой, в которую вмешался цензор из другого часового пояса. Это сдвиг в общественном договоре интернета. Мы когда-то верили, что сеть позволит обойти привратников физического мира. Теперь привратники переместились внутрь кода. ИИ становится негласным партнером в государственной цензуре, обеспечивая соблюдение правил, на которые пользователь никогда не соглашался. Технология является проводником для длинной руки ограничительных правительств.

Парадокс фильтров безопасности

Парадоксально, но усилия по обеспечению безопасности ИИ превратили его в инструмент молчания. Компании внедряют защитные барьеры для предотвращения генерации языка ненависти или вредоносного контента. Однако авторитарные режимы часто определяют любую критику государства как вредную или незаконную. Когда компании, занимающиеся ИИ, применяют широкие фильтры безопасности, чтобы избежать местных юридических проблем или воспринимаемой культурной нечувствительности, они непреднамеренно принимают государственные определения. Это приводит к фрагментированной реальности. В одной версии мира лидер — это государственный служащий, подлежащий критике. В другой — священная фигура, стоящая выше всяких упреков. ИИ ориентируется в этих двух мирах, выбирая путь наименьшего сопротивления. Корпорации проще заставить бота замолчать, чем спорить с министерством информации. В результате пользовательский опыт диктуется наиболее ограничительным общим знаменателем.

Текучая современность и утрата дискурса

Зигмунт Бауман описал нашу эпоху как текучую современность — время, когда социальные структуры больше не являются достаточно стабильными, чтобы служить ориентирами. В этом текучем состоянии мы полагаемся на цифровые инструменты, чтобы обрести почву под ногами. Когда эти инструменты скомпрометированы государственным влиянием, наша реальность становится еще более эфемерной. Мы теряем способность вести глубокий, универсальный дискурс, потому что наши инструменты выдают нам разные версии правды в зависимости от языка, на котором мы говорим, или лидера, которого мы упоминаем. Это системный провал экономики внимания. ИИ-компании отдают приоритет беспрепятственному развертыванию своих продуктов на мировых рынках. Если для этого требуется немного помолчать на определенные темы, рынок диктует, что молчание — это небольшая цена. Результатом является цифровой ландшафт, который прозрачен в одних местах и совершенно непроницаем в других.

Пища для размышлений

• Как отказ ИИ обсуждать определенные политические темы меняет ваше собственное восприятие того, что считается деликатным или опасным вопросом?
• Если наши основные инструменты для обучения и письма находятся под влиянием цензуры далеких государств, что происходит с нашей коллективной памятью о глобальных событиях?
• Возможно ли создать по-настоящему нейтральный ИИ, или любые знания неизбежно являются продуктом властных структур, которые позволили их зафиксировать?
• Когда вы взаимодействуете с чат-ботом, замечаете ли вы разницу в тоне или готовности отвечать при переходе от внутренней политики к международным делам?

Возвращение критического взгляда

В конечном счете, ответственность за навигацию в этой фрагментированной реальности ложится на самого человека. Мы не можем предполагать, что чистый, услужливый голос в нашем кармане — это нейтральный арбитр истины. Это продукт огромной, запутанной и часто скомпрометированной информационной экосистемы. Мы должны относиться к цифровой коммуникации как к фастфуду. Она быстра и доступна, но в ней отсутствует глубокая эмоциональная и интеллектуальная питательность непосредственного человеческого дискурса. Чтобы двигаться вперед, мы должны стать предельно внимательными к умолчаниям. Когда инструмент отказывается отвечать, этот отказ часто более информативен, чем тысяча сгенерированных слов. Это сигнал о том, где прочерчены границы власти. Замечая эти границы, мы можем начать смотреть поверх них и вернуть себе критический, человеческий взгляд, который ни один алгоритм не сможет полностью воспроизвести.

Источники

• Meta Oversight Board. (2024). Study on AI Chatbots and Political Criticism.
• Waight, H., et al. (2024). Foreign Controls on Non-English Large Language Models. Nature.
• Carrasco-Farré, C. (2024). Machine Learning and the Power to Suppress Information. Esade Business School.
• Bauman, Z. (2000). Liquid Modernity. Polity Press.
• Bourdieu, P. (1977). Outline of a Theory of Practice. Cambridge University Press.