Можно ли доверять расшифровке анализов в чат-боте: мнение эксперта

Загрузить фотографию анализов в чат-бот и через минуту получить разъяснение каждой цифры — заманчиво. Но можно ли доверять таким объяснениям? Об этом рассказал инженер-программист, кандидат технических наук Антон Букарев.

Как нейросеть читает анализы

Когда пользователь загружает фотографию анализа, нейросеть не видит её как человек. Она преобразует изображение в массив чисел и ищет закономерности, выученные на обучающих данных. Сначала система распознаёт текст, превращая картинку в цифры и слова, затем языковая модель пытается истолковать таблицу.

Медицинский ИИ — это не одна технология. Существуют специализированные системы, обученные на специально подобранных медицинских данных: историях болезней, снимках, результатах лабораторий. В руках врача они полезны: автоматизируют рутину и иногда замечают то, что усталый глаз врача пропустил. Но эти системы — нишевые инструменты для клиник и лабораторий, в открытом доступе их нет.

Обычные люди пользуются универсальными чат-ботами. Их обучали на огромном массиве текстов, где рядом с научными статьями могут быть просто заметки с неизвестных сайтов. Отсортировать такой массив полностью почти невозможно, поэтому модель может уверенно воспроизвести чужую ошибку.

Где возникают ошибки

Ошибки бывают на двух этапах: распознавание изображения и объяснение результата. Ошибка распознавания — это когда запятая превращается в точку (5,4 становится 54), теряется минус, значение берётся из соседней строки или пропадает единица измерения. Ошибка объяснения — когда цифры прочитаны верно, но модель применяет не тот референсный диапазон, не учитывает лабораторию, возраст или пол, или просто «дорисовывает» правдоподобное объяснение.

Почему ИИ путает запятые и цифры? Для нейросети бланк — это картинка, а не осмысленная таблица. Человек видит, что гемоглобин указан в граммах на литр, и понимает: значения 5,4 тут быть не может, скорее всего, это 154. У модели такого «здравого смысла лаборанта» нет. Она подставит то, что статистически вероятнее, и не всегда честно скажет о сомнении.

Единицы измерения — отдельная ловушка. Разные лаборатории приводят показатели по-разному: в ммоль/л или мг/дл. Числа различаются в разы, так что потерянная единица почти гарантирует неверную трактовку. С терминами — своя история. В медицине полно похожих названий. Креатин и креатинин — разные вещества с разными нормами. Смазанная буква на фотографии из-за блика — и модель легко превращает одно в другое.

Референсные диапазоны у каждой лаборатории свои. Модель может «объяснить» результат по чужой норме. Поэтому фотографируйте бланк целиком, без наклона и бликов, при хорошем свете. А ещё лучше загружайте PDF из личного кабинета лаборатории — там обычно текст, а не картинка.

Почему разные нейросети отвечают по-разному

За разными сервисами стоят разные модели. Их обучали на разных данных, с разными настройками осторожности. Одна перестраховывается и советует врача, другая отвечает развёрнуто и уверенно. К тому же ответ каждый раз собирается заново, с долей случайности. Даже одна и та же система на один и тот же вопрос может ответить по-разному. Но если два сервиса истолковали анализ противоположно — это не значит, что один из них «правильный», а другой — нет. Это означает только то, что вопрос надо задавать врачу.

В чём ещё минус ИИ как диагноста

Модель работает только с теми данными, что вы ей сказали. И, в отличие от врача, не уточняет, сколько вам лет, что вы принимаете, и есть ли у вас хронические заболевания. А ведь один и тот же показатель у 20-летнего спортсмена и у пожилого человека, принимающего мочегонные, означает совершенно разное. Неполные данные на входе дают не приблизительный, а уверенно неправильный ответ.

Как заподозрить, что нейросеть выдумала объяснение

Подозрения должны вызвать: подозрительно гладкий, уверенный текст без единой оговорки; упоминание показателей, которых в вашем бланке не было; несуществующие термины или «нормы», которых вы не найдёте ни в одном справочнике; противоречия внутри ответа: в одном абзаце показатель «в норме», в другом — «повышен»; постановка готового диагноза по одному-единственному отклонению.

Самый простой способ — задать тот же вопрос дважды, в разных формулировках. Слова могут отличаться, это нормально. Но если во второй раз поменялись цифры, нормы или сам вывод — перед вами «выдумщик». Также попросите систему указать, откуда взят каждый вывод. На выдуманных местах она обычно «плывёт».

Можно ли доверять ИИ в назначении препаратов

Языковая модель генерирует правдоподобный текст, но ответственности за ваше здоровье не несёт. У чат-бота нет ни аудита, ни лицензии, ни медицинского диплома. Он не видит вас, не проводил осмотр, не знает полной картины. Просить ИИ назначить препарат — это как доверять калькулятору решить, как и сколько денег вам стоит потратить.

Как использовать ИИ с пользой

Нейросеть — полезный инструмент, но использовать его надо правильно. Например, готовясь к чекапу, можно попросить ИИ задать вам уточняющие вопросы. Скажите: «Меня беспокоит то-то и то-то. Задай мне уточняющие вопросы, а потом подскажи, какие анализы стоит сдать, и к какому специалисту записаться, чтобы первый приём был максимально эффективным». Модель сама не спросит, чего ей не хватает, но охотно поможет, если правильно попросить.

Если в анализах окажутся отклонения, можно загрузить результаты в модель, попросив собрать всё в аккуратный документ — самочувствие, наблюдения, результаты — и принести распечатку врачу. Врач назначит лечение, которое вполне может совпасть с тем, что предполагала модель. Но узнать об этом совпадении можно единственным способом: услышав назначение специалиста. Нейросеть хороша тем, что может сэкономить на первом визите к врачу, который обычно целиком уходит на получение направлений. А решение о лечении всё равно принимает доктор.

Безопасность данных

Многие опасаются, что ИИ может украсть персональные данные. Перед загрузкой документа замазывайте ФИО, дату рождения, номера полиса и паспорта, адрес, телефон. И обязательно штрих-коды и QR-коды на бланке — в них зашит номер заказа, по которому восстанавливается и личность, и вся история анализов. Самим цифрам анализа анонимность не вредит.

Чтобы проверить, сохраняет ли сервис загруженные медицинские документы, откройте политику конфиденциальности и ищите ответы на вопросы: хранятся ли файлы и как долго, используются ли они для обучения моделей, можно ли потребовать их удаления. У серьёзных сервисов обычно есть настройка «не использовать мои данные для обучения» — включите её. Обратите внимание, где обрабатываются данные: на устройстве или на сервере, и в какой стране этот сервер стоит. И практический тест: запросите удаление своих данных. По скорости и внятности ответа сразу видно, как сервис к ним относится. Если политики конфиденциальности нет вовсе — медицинские документы туда загружать не стоит.

Главный вывод

Не отправляйте в нейросети свои персональные данные. Перед загрузкой вычищайте из документов фамилию, даты, номера и штрих-коды. И относитесь ко всему, что вы куда-либо отправили, как к информации, которая потенциально может стать доступной широкому кругу лиц. Нейросеть — помощник, который экономит время вам и врачу. А решения о вашем здоровье принимает врач.