ChatGPT Health ошибается в оценке срочности: что это значит для вас
Вы когда-нибудь спрашивали у ChatGPT, стоит ли вам срочно идти к врачу? Новое исследование показывает, что ИИ-помощник может быть опасен в крайних случаях.
Как проверяли ChatGPT Health
Учёные из США под руководством A. Ramaswamy провели тест: они дали ChatGPT Health 100 клинических сценариев — от лёгких недомоганий до настоящих экстренных состояний. ИИ должен был сказать, насколько срочно нужна помощь.
Результаты опубликованы в журнале Nature Medicine (2026).
Что выяснилось: три главных проблемы
1. Лёгкие случаи — ИИ паникует
При несерьёзных симптомах (например, лёгкая простуда) ChatGPT Health слишком часто советовал срочно обращаться к врачу. Это называется overtriage. Пользователь зря тратит время и ресурсы, а система здравоохранения получает лишнюю нагрузку.
2. Экстренные случаи — ИИ недооценивает
Хуже другое: при реальных угрозах жизни (инсульт, инфаркт) ИИ иногда давал советы «подождать» или «понаблюдать». Это undertriage — самая опасная ошибка. Каждая минута может стоить жизни.
3. Средняя срочность — ИИ справляется
Для умеренно срочных состояний (например, высокая температура без других симптомов) точность была высокой. Но это не утешает, ведь главное — не пропустить критический случай.
Почему так происходит?
ИИ обучается на текстах, а не на реальном опыте врача. Он не видит пациента, не может оценить цвет кожи, запах, пульс. Алгоритм просто подбирает наиболее вероятный ответ из своей базы — и для крайних случаев данных может быть меньше или они противоречивы.
Что это значит для нас
- Не доверяйте ИИ в экстренных ситуациях. Если вы подозреваете инфаркт, инсульт, сильную аллергию или травму — звоните 103 или идите в приёмный покой. Не спрашивайте чат-бота.
- Используйте как подсказку, но не как диагноз. Для лёгких симптомов ChatGPT может дать полезную информацию, но всегда проверяйте её у врача.
- Будьте критичны. ИИ-помощники быстро совершенствуются, но пока они не заменят человеческий глаз и опыт.
Исследование напоминает: технологии — это инструмент, а не замена профессионалу. Берегите себя и не рискуйте здоровьем.
