Забудьте о мечте об автономных офисных работниках: ServiceNow сажает ваш ИИ на поводок

В то время как технологическая индустрия продвигает автономных агентов как решение для избавления от корпоративной рутины, реальность такова, что эти боты часто представляют собой неконтролируемые риски безопасности. Сотрудник может полагать, что цифровой помощник — это просто умный скрипт, но в корпоративной сети неконтролируемый агент — это дыра в безопасности с корпоративной кредитной картой в придачу. ServiceNow предпринимает шаги для решения этой проблемы, внедряя слой цифровой бюрократии, призванный удержать этих помощников от выхода из-под контроля.

Компания развертывает набор инструментов для управления тем, что она называет «Super Intelligence Control Tower» (Диспетчерская вышка суперинтеллекта) — название было обновлено с более простого «AI Control Tower», чтобы соответствовать текущим политическим настроениям в США. За брендингом стоит цель: обеспечить способ идентификации, отслеживания и остановки ИИ-агентов, которые выходят за рамки своих полномочий. Практически говоря, это означает, что эра «дикого запада» для ИИ-стажеров подходит к концу.

Цифровой вышибала у каждой двери

Самым значимым дополнением к этой новой среде является AI Passport (ИИ-паспорт). Для обычного пользователя это звучит как лишняя бумажная волокита, но на деле это криптографическая идентификация для каждого ИИ-агента в сети. Большинство современных систем безопасности действуют как камера видеонаблюдения, которая фиксирует, что пошло не так, уже после того, как нанесен ущерб. Фрэнк Диксон, аналитик Dickson Research, описывает AI Passport как вышибалу у каждой двери.

Когда агент пытается получить доступ к файлу или выполнить задачу, система проверяет его паспорт, чтобы увидеть, есть ли у него соответствующие разрешения. Если агент пытается забрести в закрытую базу данных или выйти за рамки бюджета, система может перенаправить его, ограничить доступ или активировать аварийный выключатель. Это построено на открытых спецификациях, что означает совместимость как с собственными инструментами ServiceNow, так и с агентами, созданными сторонними компаниями, такими как Nvidia. Такая схема не позволяет агенту просто «заявить», что у него есть разрешение на какое-либо действие, что ранее было серьезной уязвимостью в безопасности ИИ.

Программирование голосом вместо кода

ServiceNow также меняет способ создания этих агентов с помощью новой среды под названием ToolSmith. Они описывают это как среду «vibe-coding» (кодинг по ощущениям). Проще говоря, это означает, что сотрудник может описать на обычном английском языке, что должна делать автоматизация, а система создаст необходимые программные соединения для реализации задуманного.

ToolSmith был обучен на более чем 75 000 API. Эти API являются цифровыми «рукопожатиями», которые позволяют различным программам взаимодействовать друг с другом. Поскольку система понимает эти связи, разработчик может создать автоматизацию за считанные минуты, а не дни. Для тех, кто не пишет код, система предлагает Productivity Assistants (Помощники по продуктивности), которые справляются с такими задачами, как сканирование внутренних документов или управление сложными календарями.

Например, новый помощник по календарю не просто находит свободное окно в пятницу. Он ищет наименее загруженный день для сбора команды, избегая дней, перегруженных дедлайнами по проектам. Это ощутимое улучшение для любого, кому автоматизированная система когда-либо назначала трехчасовую встречу в единственное окно для сосредоточенной работы за неделю.

Скрытая стоимость цифровых работников

С рыночной точки зрения, стоимость этих агентов — это «слон в комнате». Каждый раз, когда ИИ-помощник отвечает на вопрос или запускает рутину, он потребляет вычислительную мощность, которая стоит денег. ServiceNow внедряет обнаружение «теневого ИИ» (shadow-AI), чтобы находить неодобренных ботов, работающих в сети. Они также добавили инструменты управления затратами, чтобы помочь компаниям понять реальную ценность их расходов на ИИ.

Если смотреть на картину в целом, эти средства контроля необходимы, потому что автономный агент, запускающийся каждое утро, по сути является постоянным заказом на покупку. Если рутина стоит десять центов и запускается для десяти тысяч сотрудников каждый час, счет растет быстро. Новая система Value Intelligence от ServiceNow связывает это потребление с качеством произведенной работы, помогая командам решить, действительно ли автоматизация стоит своей цены.

Реальность неконтролируемой цифровой работы

Несмотря на стремление к автоматизации, существуют опасения относительно того, какую свободу должны иметь эти агенты. Productivity Routines предназначены для работы в фоновом режиме без вмешательства человека. Это неконтролируемая работа, и, как отмечает Фрэнк Диксон, кто-то в компании должен нести ответственность за результаты этой работы.

ServiceNow заявляет, что их Control Tower отслеживает расходы и связывает их с качеством, но фактические «тормоза» для остановки перерасхода средств все еще находятся в процессе разработки. Текущая система больше похожа на счетчик, за которым можно наблюдать, чем на педаль, на которую можно нажать. Для обычного сотрудника это означает, что их новые цифровые помощники будут поставляться с набором правил и строгим бюджетом. У неутомимого стажера теперь есть менеджер и пара наручников.

Практические шаги для рабочего места будущего

По мере того как эти инструменты станут доступны к концу года, способ нашего взаимодействия с офисным ПО сместится от ручного ввода к делегированию задач. Чтобы извлечь из этого максимум пользы, рассмотрите следующие практические шаги:

• Определите свои самые повторяющиеся задачи, требующие сканирования нескольких документов, так как их безопаснее всего автоматизировать в первую очередь.
• Назначьте ответственного человека для каждой фоновой рутины, чтобы кто-то отвечал за расходы и результат.
• Используйте предстоящие панели управления затратами, чтобы сравнить сэкономленное время с ежемесячным счетом от поставщика ИИ.
• Относитесь к каждому новому ИИ-агенту как к новому сотруднику, которому нужна проверка биографии и четкое описание должностных обязанностей.

В конечном счете, успех этих инструментов зависит от того, насколько хорошо компании смогут устанавливать границы. Умный помощник полезен только в том случае, если он случайно не раскроет зарплату генерального директора или не потратит квартальный бюджет отдела на вызовы API. По мере того как мы движемся к более автономному рабочему месту, акцент смещается с того, что ИИ может делать, на то, как мы можем остановить его от того, чтобы он делал слишком много. Цените невидимую механику программного обеспечения, которое управляет вашим рабочим днем, но внимательно следите за счетом.

Источники: ServiceNow Press Release Oct 2026, Dickson Research Analyst Report, Moor Insights & Strategy Market Brief.