Дилемма ИИ-врача: почему ChatGPT все еще испытывает трудности в экстренных медицинских ситуациях

Каждую неделю более 230 миллионов человек обращаются к ChatGPT за ответами. Они спрашивают обо всем: от ошибок в коде до рецептов ужина, но все чаще вопросы касаются их здоровья. По данным OpenAI, пользователи проверяют безопасность продуктов питания, справляются с хронической аллергией или ищут способы побороть затяжную простуду.

Однако новое исследование, опубликованное в журнале Nature, показывает, что, хотя ChatGPT — блестящий собеседник, он является опасно непоследовательной медсестрой по сортировке пациентов. Исследователи из Маунт-Синай в Нью-Йорке обнаружили, что, хотя ИИ с легкостью справляется с «учебными» случаями неотложной медицинской помощи, он не может распознать серьезность более тонких, опасных для жизни ситуаций более чем в половине случаев.

Разрыв между знаниями и суждением

Исследование под руководством Ашвина Рамасвами было направлено на поиск ответа на фундаментальный вопрос: если пользователь находится в разгаре медицинского кризиса, скажет ли ему ChatGPT обратиться в отделение неотложной помощи? Чтобы проверить это, исследователи представили ИИ различные клинические сценарии.

Результаты выявили поразительную дихотомию. Столкнувшись с классическими, безошибочными экстренными ситуациями — такими как внезапное опущение мышц лица при инсульте или крапивница и хрипы при тяжелой аллергической реакции — ChatGPT показал себя превосходно. Он распознал паттерны, на которых был обучен, и правильно посоветовал немедленное медицинское вмешательство.

Но медицина редко представляет собой просто набор учебных определений. Исследование показало, что ChatGPT испытывал значительные трудности, когда опасность не была очевидна сразу. В случаях, когда симптомы были более тонкими или требовали более высокого уровня клинической настороженности, ИИ недооценивал серьезность ситуации более чем в 50% испытаний.

Почему ИИ упускает тонкие признаки

Чтобы понять, почему продвинутая большая языковая модель (LLM) терпит неудачу в таких случаях, полезно использовать аналогию. Представьте ChatGPT как библиотекаря мирового класса, который прочитал все когда-либо написанные медицинские учебники, но никогда не видел пациента вживую. Библиотекарь может идеально перечислить симптомы редкого заболевания, но ему не хватает «клинической интуиции», чтобы заметить едва уловимую серость лица пациента или специфику того, как человек описывает «тупую боль», которая на самом деле может означать внутреннее кровотечение.

ИИ работает на основе распознавания образов и вероятности. В «учебной» экстренной ситуации паттерны громкие и четкие. В неочевидной ситуации паттерны приглушены. Поскольку ИИ не может задать уточняющие вопросы о физическом состоянии или наблюдать за поведением пациента, он часто по умолчанию выбирает более консервативную, менее срочную интерпретацию предоставленных данных.

Опасность «ложного зеленого света»

Основную обеспокоенность медицинских работников вызывает «ложный зеленый свет». Когда человек спрашивает ИИ о симптоме, а ИИ предлагает домашнее средство или подход «подождем и увидим», пользователь чувствует облегчение. Это когнитивное успокоение может привести к опасным задержкам в обращении за профессиональной помощью.

Как показывает таблица, риск кроется в «серой зоне». Пользователь может описать «сильную боль в животе», которая на самом деле является аппендицитом. Если ИИ сосредоточится на несварении желудка, а не на риске разрыва, окно для безопасной плановой операции может закрыться.

Позиция OpenAI и защитные барьеры

OpenAI никогда не заявляла, что ChatGPT является медицинским устройством. Фактически, условия обслуживания платформы прямо гласят, что инструмент не предназначен для медицинских консультаций, диагностики или лечения. Большинство медицинских запросов теперь вызывают стандартный отказ от ответственности: «Я — ИИ, а не врач. Пожалуйста, проконсультируйтесь с медицинским работником».

Однако, как подчеркивает исследование Маунт-Синай, эти дисклеймеры часто погребены под абзацами кажущихся авторитетными советов. Когда пользователь испытывает боль или паникует, он, скорее всего, пропустит предупреждение и перейдет сразу к предложенному средству. Исследование предполагает, что нынешних защитных барьеров может быть недостаточно, чтобы удержать пользователей от полагания на ИИ в критический промежуток времени.

Как безопасно пользоваться советами ИИ по здоровью

Означает ли это, что вам никогда не следует использовать ИИ для вопросов, связанных со здоровьем? Не обязательно. ИИ может быть отличным инструментом для повышения медицинской грамотности — объяснения сложных медицинских терминов, помощи в подготовке вопросов для врача или поиска здоровых рецептов. Но когда дело доходит до диагностики и сортировки, требуется другой подход.

Практические шаги для пользователей:

• Правило «Красного флага»: Если вы испытываете внезапную сильную боль, затрудненное дыхание или неврологические изменения (спутанность сознания, онемение), полностью игнорируйте ИИ и звоните в службу экстренной помощи.
• Используйте ИИ для уточнения, а не для диагностики: Используйте ChatGPT, чтобы объяснить диагноз, который вы уже получили от врача, а не пытайтесь получить новый от бота.
• Проверяйте информацию в авторитетных источниках: Если ChatGPT дает вам совет по здоровью, сверьте его с установленными медицинскими порталами, такими как Mayo Clinic, NHS или Cleveland Clinic.
• Будьте конкретны, но скептичны: Если вы используете ИИ для отслеживания симптомов, будьте максимально подробны, но относитесь к результату как к предложению для обсуждения со специалистом, а не как к окончательному вердикту.

Путь вперед

Интеграция ИИ в здравоохранение неизбежна и во многих отношениях желательна. В будущем специализированные медицинские модели ИИ, обученные на проверенных клинических данных, а не на общем интернете, могут стать невероятно точными инструментами сортировки.

До тех пор исследование Маунт-Синай служит жизненно важным напоминанием: ChatGPT — это мощное зеркало человеческих знаний, но ему не хватает спасительного суждения живого врача. Когда на кону ваше здоровье, лучшим «алгоритмом» по-прежнему остается поездка в отделение неотложной помощи.