За пределами воркшопа: почему партисипативный ИИ должен пережить этап проектирования

Несмотря на беспрецедентный всплеск глобальных инициатив, направленных на то, чтобы сделать искусственный интеллект более инклюзивным, возник поразительный парадокс: по мере того как лексика участия становится повсеместной, реальное влияние общественности остается крайне фрагментированным. Недавний обзор восьмидесяти проектов в области партисипативного ИИ показал, что, хотя сообщества часто приглашают к обсуждению на начальных этапах сбора данных или проектирования, они почти полностью отсутствуют после того, как система фактически внедряется. Мы в совершенстве овладели искусством проведения стартовых воркшопов, но нам еще предстоит понять, как держать дверь открытой после того, как код запущен в работу.

Иллюзия открытых дверей

Недавно я провел вторую половину дня в общественном центре, где местный совет представлял новый инструмент распределения ресурсов на базе ИИ. Зал был наполнен гулом искренней гражданской энергии. Жителей просили раскрашивать карты и обсуждать, что для них значит справедливость. Это был хрестоматийный пример партисипативного проектирования — живой, серьезный и глубоко укорененный в местном контексте. Однако, когда сессия закончилась, женщина, сидевшая рядом со мной, задала пронзительный вопрос: «Что произойдет через шесть месяцев, когда алгоритм решит, что на моей улице больше не нужен автобус? С кем мне тогда разговаривать?»

Пауза фасилитатора была красноречивой. В тот момент системный разрыв в нашем нынешнем подходе к управлению ИИ стал ощутимым. Мы относимся к участию как к разовому событию — церемонии перерезания ленточки для алгоритма — а не как к непрерывным отношениям. Как только фаза партисипативного проектирования завершается, управление системой почти неизменно возвращается в непрозрачные коридоры разработчиков или ведомств-заказчиков. Сообщество, выполнив свою роль источника данных или фокус-группы, фактически отодвигается на второй план.

Разрыв в жизненном цикле: от проектирования до внедрения

На макроуровне эта тенденция отражает более широкий социологический сдвиг в сторону того, что можно назвать «экономикой консультаций». В этой модели вовлечение рассматривается как галочка для соблюдения формальностей, а не как перераспределение власти. Принципы ОЭСР в области ИИ и Закон ЕС об ИИ подчеркивают участие заинтересованных сторон как краеугольный камень надежного ИИ. Однако на практике это участие часто ограничивается начальным этапом. Мы приглашаем стейкхолдеров помочь собрать автомобиль, но редко даем им место в салоне, когда он выезжает на дорогу.

Этот разрыв в жизненном цикле — не просто процедурная оплошность; это структурный недостаток. Системы ИИ не являются статичными инструментами; это динамичные сущности, которые развиваются через петли обратной связи, переобучение и меняющийся контекст окружающей среды. Когда участие заинтересованных сторон заканчивается на этапе внедрения, система теряет свою социальную привязку. В результате те самые сообщества, которые помогали формировать первоначальную модель, оказываются маргинализированными, когда система начинает проявлять непредвиденные предвзятости или когда сфера ее деятельности расширяется за пределы первоначального соглашения.

С лингвистической точки зрения: семантика участия

Масштабируя взгляд, мы можем увидеть это напряжение в языке, который мы используем. В технологической индустрии термин «пользователь» долгое время был доминирующим дескриптором. С лингвистической точки зрения, пользователь — это пассивный получатель услуги. Переход к термину «заинтересованная сторона» (стейкхолдер) был призван подразумевать субъектность и личную заинтересованность. Однако, если заинтересованная сторона имеет право голоса только во время девяностоминутной фокус-группы, этот термин становится символическим жестом, а не функциональной реальностью.

Через эту призму нынешнее состояние партисипативного ИИ выглядит не столько как демократическая революция, сколько как театральная сцена. Мы исполняем ритуалы инклюзивности — стикеры, общественные слушания, хартии этики — но сценарий часто написан заранее. Чтобы быть по-настоящему партисипативным, дискурс должен выйти за рамки эфемерного восторга от «запуска» и перейти к рутинной долгосрочной работе по мониторингу и эволюции системы.

Архипелаг управления

Исторически мы могли бы сравнить это с тем, как современные города превратились в архипелаг атомизированных пространств. Мы живем в непосредственной близости, но наши системы управления часто представляют собой изолированные острова. Один остров занимается технической разработкой, другой — соблюдением законодательства, а для «взаимодействия с сообществом» строится небольшой временный остров. Как только проект закончен, мост к острову сообщества демонтируется.

Парадоксально, но самые критические моменты для влияния заинтересованных сторон наступают после того, как система запущена. Именно тогда становятся видимыми нюансы реального воздействия. Без механизма постоянного участия петля обратной связи разрывается. Система превращается в «комнату кривых зеркал», отражающую только внутренние метрики разработчиков, а не жизненный опыт людей, на которых она влияет.

Смена нарратива: долгосрочная субъектность

В конечном счете, целью партисипативного ИИ должно быть установление долгосрочной субъектности. Это означает создание структур, в которых заинтересованные стороны являются не просто консультантами, а со-управителями на протяжении всего жизненного цикла технологии. Это требует перехода от «разового» взаимодействия к «устойчивому» участию.

В повседневном выражении это может выглядеть как советы по аудиту под руководством сообщества, имеющие право инициировать пересмотр системы, или механизмы «человек в контуре» (human-in-the-loop), которые отдают приоритет местным знаниям перед алгоритмической эффективностью. Это подразумевает признание того, что опыт жителя, понимающего социальную ткань своего района, так же жизненно важен, как и опыт специалиста по данным, понимающего архитектуру нейронной сети.

Пища для размышлений

Навигация в этом меняющемся ландшафте заставляет нас задавать себе неудобные вопросы о природе власти в цифровую эпоху. Если вы участвуете в технологическом проекте, обдумайте следующее:

• Кто управляет эволюцией? Если завтра система ИИ изменит свое поведение, есть ли у сообщества понятный и доступный путь для вмешательства?
• Является ли участие трансформирующим или перформативным? Имеет ли мнение заинтересованных сторон силу остановить проект или только слегка подправить его детали?
• Можем ли мы выйти за пределы воркшопа? Как мы можем построить цифровые инфраструктуры, допускающие непрерывное, а не эпизодическое гражданское участие?

Относясь к управлению ИИ как к живому, дышащему общественному договору, а не как к статичному техническому требованию, мы можем начать преодолевать разрыв между обещанием участия и реальностью власти. Цель состоит не только в том, чтобы создать лучший ИИ, но и в том, чтобы построить общество, в котором технологии служат коллективной устойчивости людей, а не просто эффективности машины.

Источники

• Анализ 80 инициатив в области партисипативного ИИ и феномен «партисипативного вошинга» (participation wash).
• Принципы ОЭСР в области ИИ, касающиеся взаимодействия заинтересованных сторон и надежного ИИ.
• Положения Закона ЕС об ИИ об оценке воздействия на основные права и участии заинтересованных сторон.
• Социологические концепции «текучей современности» и атомизации общественной жизни.
• Лингвистические исследования эволюции понятий «пользователь» и «заинтересованная сторона» в технологическом дискурсе.