Новый ИИ-стажер вашего пенсионного фонда работает без надзора

Хотя глянцевые маркетинговые брошюры инвестиционных фондов часто обещают «альфу на базе ИИ» и «точность машинного обучения», реальность внутри голландского финансового сектора гораздо более хаотична. Нам часто говорят, что искусственный интеллект — это искушенный пилот, направляющий наши сбережения в безопасные гавани. Однако последний отчет Управления по финансовым рынкам Нидерландов (AFM) свидетельствует о том, что для многих фирм ИИ — это не столько опытный капитан, сколько мощный двигатель, прикрученный к расшатанному шасси.

В мире высоких финансов бытует мнение, что больше технологий автоматически означает лучшие результаты. Выводы AFM ставят под сомнение это удобное предположение. Если смотреть на общую картину, голландские управляющие активами действительно спешат интегрировать ИИ в свои торговые стратегии и прогнозирование цен. Но в погоне за цифровой гонкой вооружений они оставляют в стороне скучные, фундаментальные вещи — такие как надзор, качество данных и этические принципы.

Неутомимый стажер с короткой памятью

Чтобы понять, что происходит «под капотом», представьте ИИ в управлении активами как неутомимого стажера. Этот стажер может прочитать миллион страниц финансовых данных за секунду и заметить закономерности, которые человек не увидел бы за всю жизнь. Он невероятно быстр и никогда не спит. Однако этот стажер также склонен к галлюцинациям, лишен здравого смысла и иногда следует плохим инструкциям, приводя к катастрофическим последствиям, потому что он на самом деле не понимает мир — он понимает только математику.

На практике голландские управляющие активами используют этих цифровых стажеров для всего: от анализа настроений в социальных сетях до совершения сложных сделок. Проблема, выявленная AFM, заключается в том, что руководители-люди часто не знают, как управлять своим новым цифровым персоналом. Существует ощутимый разрыв в знаниях; люди на вершине понимают рынки, но они не всегда понимают код. Когда ИИ принимает решение, оно может быть непрозрачным, в результате чего фирма не может объяснить, почему была совершена конкретная сделка или почему был проигнорирован определенный риск.

Инфраструктурное отставание

Можно было бы предположить, что инвестиционные фирмы с миллиардными оборотами обладают самыми надежными технологическими стеками на планете. Как ни странно, отчет AFM указывает на значительное отставание инфраструктуры. В то время как сами алгоритмы являются прорывными и передовыми, системы, поддерживающие их, часто недостаточны.

За профессиональным жаргоном скрывается то, что многие фирмы строят небоскребы на песке. Они развертывают масштабируемые решения ИИ, не убедившись предварительно в чистоте данных, питающих эти модели. Если ИИ учится прогнозировать цены на акции на основе ошибочных исторических данных, он не просто совершает ошибку — он масштабирует эту ошибку на весь портфель.

Скрытая опасность «черного ящика»

Для обычного пользователя самой тревожной частью этого развития является отсутствие объяснимости. В традиционной ситуации, если ваш пенсионный фонд потерял значительную сумму денег, аналитик мог бы указать на конкретное геополитическое событие или банкротство корпорации как на причину. С ИИ мы вступаем в эру, когда ответом может быть просто: «модель посчитала это правильным шагом».

Это отсутствие прозрачности создает системный риск. Если несколько управляющих активами используют похожие модели ИИ, предоставленные одной и той же небольшой группой технологических вендоров, они могут одновременно решить продать один и тот же актив в одну и ту же микросекунду. На волатильном рынке это может привести к мгновенному обвалу (flash crash) — цифровой давке, где выход слишком мал, чтобы все могли пройти через него одновременно.

Почему это важно для вашего кошелька

С точки зрения потребителя, вы можете чувствовать себя далеким от технических деталей голландских регуляторных отчетов. Однако, если у вас есть пенсия, сберегательный счет или розничный инвестиционный портфель в Нидерландах, вы являетесь косвенным участником этого эксперимента.

По сути, ваша финансовая безопасность привязывается к алгоритмам, которые в настоящее время работают в условиях, напоминающих «Дикий Запад». AFM обнаружило, что у многих институтов отсутствуют четкие этические принципы. Речь идет не просто о том, чтобы быть «хорошими»; речь идет о предотвращении предвзятости. Если ИИ решит, что определенная демографическая группа является «рискованной» на основе ошибочных исторических данных, это может привести к несправедливому ценообразованию или исключению из определенных финансовых продуктов без того, чтобы какой-либо человек когда-либо понял, почему это произошло.

Более того, зависимость от нескольких крупных технологических провайдеров означает, что финансовый сектор становится все более взаимосвязанным с технологическим сектором. Если у крупного облачного провайдера произойдет сбой, в офлайне окажутся не только ваши электронные письма — остановится двигатель, управляющий вашим пенсионным фондом.

Взгляд в будущее: путь к устойчивости

В конечном счете, AFM не утверждает, что ИИ — это враг. Со стороны рынка потенциал ИИ для создания более эффективных и оптимизированных рынков беспрецедентен. Но регулятор посылает четкий сигнал: фаза медового месяца под девизом «двигайся быстро и ломай преграды» в финансах закончена.

Иными словами, AFM просит управляющих активами показать свою работу. Они призывают к разработке надежных политик, обеспечивающих высокое качество данных и, что более важно, подотчетность человека. Нам нужно двигаться к модели, в которой ИИ — это инструмент, используемый экспертами, а не их замена.

Как потребитель, вы должны начать задавать более острые вопросы своим финансовым провайдерам. Не позволяйте слову «ИИ» ослепить вас. Вместо этого спросите, как они проверяют свои алгоритмы, как они гарантируют непредвзятость данных и каков их запасной план на случай, если цифровой стажер решит выйти из-под контроля. Будущее финансов, несомненно, автоматизировано, но оно работает только тогда, когда рука человека твердо лежит на аварийном тормозе.

Источники:

• AFM (Netherlands Authority for the Financial Markets) Sector Study on AI in Asset Management, 2024-2026.
• European Securities and Markets Authority (ESMA) Guidelines on Algorithmic Trading.
• Dutch Central Bank (DNB) Reports on Financial Technology and Stability.