Действительно ли живой человек совершает звонки за вашего ИИ-ассистента?

Вы когда-нибудь задумывались, почему ваш цифровой ассистент звучит слишком уверенно, когда звонит в ресторан, чтобы забронировать столик? Большинство пользователей полагают, что всю сложную работу выполняет хитросплетение программного кода. Однако недавние внутренние тесты Meta для ее нового персонального ИИ-агента Muse раскрывают более приземленную реальность. Компания использует людей-подрядчиков для обработки определенных телефонных звонков, которыми цифровой агент должен управлять самостоятельно. В то время как технологическая индустрия часто рекламирует ИИ как неутомимого стажера, способного выполнять бесконечное количество задач, эти тесты показывают, что человеческий фактор по-прежнему остается тем самым «секретным ингредиентом» за кулисами.

Внутренние сообщения компании, с которыми ознакомилось агентство Reuters, указывают на то, что Meta сообщила своим сотрудникам об этом тесте «человеческого консьержа» буквально на прошлой неделе. Время выбрано примечательное, так как это произошло сразу после публичного запуска функции телефонных звонков для Muse. Данная практика подразумевает, что сотрудники колл-центров незаметно подключаются для завершения задач, когда ИИ достигает предела своих возможностей. Для обычного пользователя это поднимает фундаментальный вопрос о том, где заканчивается автоматизация и начинается человеческий надзор.

Волшебник за цифровым занавесом

Проще говоря, Muse разработан как мост между вашей цифровой жизнью и физическим миром. Если вам нужно записаться к парикмахеру или заказать столик на ужин, вы сообщаете об этом ИИ, и он совершает звонок. Если отбросить жаргон, этот процесс опирается на обработку естественного языка для понимания вашего запроса и синтез голоса для общения с человеком на другом конце провода. Но голосовой ИИ все еще с трудом справляется с хаотичной и непредсказуемой природой человеческого общения. Занятой владелец ресторана с сильным акцентом или шумный фон могут легко сбить алгоритм с толку.

Когда программное обеспечение дает сбой, Meta перенаправляет звонок человеку-подрядчику. Этот человек слышит разговор и завершает задачу от имени ИИ. Цель состоит в том, чтобы гарантировать пользователю бронирование, даже если технология еще не совсем готова к полноценной работе. Этот метод распространен в тех-индустрии и часто называется тестом «Волшебника страны Оз». Пользователь видит безупречный автоматизированный процесс, но за занавесом человек дергает за рычаги, чтобы все работало.

Почему в офисе возникают опасения по поводу конфиденциальности

Если смотреть на картину в целом, использование людей-подрядчиков создает значительные риски для конфиденциальности. Сотрудники Meta забили тревогу на внутренних форумах по поводу конфиденциальной информации, которая может передаваться во время этих звонков. Когда вы просите ИИ позвонить в кабинет врача или в аптеку, вы делитесь данными о здоровье. Если на другом конце линии находится человек-подрядчик, он может услышать ваше полное имя, дату рождения и медицинские требования.

Представитель Meta Дэниел Робертс заявляет, что компания работает с торговцами над улучшением функции. Он отмечает, что отзывы сотрудников положительны и помогают компании внедрять средства защиты. Однако риск утечки конфиденциальных данных подрядчикам колл-центров является реальной проблемой. Эти подрядчики часто являются сторонними работниками, у которых нет таких долгосрочных обязательств перед компанией, как у штатных инженеров. Исторически сложилось так, что подобные программы в других технологических гигантах приводили к тому, что подрядчики прослушивали частные моменты — от домашних ссор до конфиденциальных деловых сделок.

Повторяющийся призрак в машине

Это не первый случай, когда технологическая компания использует людей, маскирующихся под ИИ. Много лет назад стартап под названием M был первой попыткой Meta создать гибридного ассистента. Он в значительной степени полагался на людей-работников для выполнения задач, с которыми не справлялось ПО. В итоге Meta закрыла M, потому что модель была не масштабируемой. Нанимать тысячи людей, чтобы они работали «мозгом» ИИ — это дорого и медленно. Тот факт, что Muse возвращается к этой стратегии, показывает, что разрыв между возможностями ИИ и ожиданиями людей все еще велик.

С практической точки зрения, технологическая индустрия использует эти методы для сбора данных. Наблюдая за тем, как люди справляются с трудными звонками, Meta может обучать свои модели Muse быть более устойчивыми. Каждый раз, когда вмешивается подрядчик, система записывает взаимодействие и использует его как урок для следующего обновления ПО. С точки зрения потребителя, вы не просто клиент. Вы — источник обучающих данных для продукта, который все еще находится в зачаточном состоянии.

Что это значит для ваших данных и бюджета

Если заглянуть «под капот», стоимость человеческого труда высока. Если Meta продолжит использовать человеческого консьержа, она может со временем ввести плату за премиум-уровни сервиса Muse. ИИ дешев в эксплуатации при больших масштабах, а колл-центры — нет. Если вы пользуетесь Muse бесплатно, стоит ожидать, что платой являются ваши данные. Каждый звонок, который вы совершаете через ИИ-агента, — это точка данных, которой владеет Meta.

Для обычного пользователя немедленным последствием является необходимость проявлять осторожность. Когда сервис находится в стадии тестирования, барьеры конфиденциальности часто оказываются более тонкими. Если вы используете Muse для решения логистических задач, подумайте о конфиденциальности предоставляемой вами информации. Вам следует избегать использования ИИ-агентов для звонков, связанных с:

• Финансовыми реквизитами или номерами кредитных карт.
• Записями к врачу и историей болезни.
• Частными адресами проживания или кодами безопасности.
• Конфиденциальными юридическими или профессиональными дискуссиями.

В конечном счете, технология — это инструмент, а не человек. У нее нет этического суждения, чтобы понять, когда нужно прекратить запись или когда следует удалить часть личной информации. Присутствие человека-подрядчика добавляет еще один уровень «глаз и ушей» к вашим личным делам.

На пути к более прозрачному ИИ

Meta заявляет, что запустит функцию публично только тогда, когда обеспечит надлежащее раскрытие информации. Такая прозрачность является основой доверия пользователей. В настоящее время тест служит напоминанием о том, что цифровой «сырой нефтью» нашей эры являются персональные данные. По мере развития Muse компания должна четко указывать, кто именно находится на линии. Если задействован человек, пользователь имеет право знать об этом до того, как начнет говорить.

Если масштабировать проблему, эта история является проверкой реальности для бума ИИ. Мы находимся в нестабильном периоде, когда маркетинг ИИ часто опережает инженерные разработки. Хотя Muse может показаться прыжком в будущее, он все еще привязан к традиционному человеческому труду. Невидимым костяком современного технологического мира остаются тысячи подрядчиков, которые исправляют ошибки, совершаемые алгоритмами.

Практический совет: следите за своими цифровыми привычками, так как подобные агенты становятся все более распространенными в приложениях. В следующий раз, когда вы попросите ИИ совершить звонок, помните, что где-то в мире человек в колл-центре может делать пометки. Вы не просто разговариваете с машиной. Вы взаимодействуете со сложной, наполовину человеческой системой, которая все еще учится распоряжаться вашей частной жизнью.

Источники: Внутренние сообщения Meta, о которых сообщило агентство Reuters, официальные заявления представителя Meta Дэниела Робертса.