Как работает ИИ-врач: нейросети и большие языковые модели простыми словами

Под названием «ИИ-врач» скрываются две разные технологии: нейронные сети, которые анализируют медицинские снимки, и большие языковые модели (LLM), которые ведут диалог с пациентом. Всемирная организация здравоохранения в докладе об этике и управлении ИИ в здравоохранении подчёркивает, что такие системы не «знают» медицину так, как человек, а находят статистические закономерности в огромных массивах данных. Понять эту механику полезно каждому, кто хоть раз заходил в чат с ИИ-врачом с вопросом о симптомах.

Понимание того, как устроена нейросеть-доктор, важно по одной причине: она способна ошибаться, причём делает это уверенно и правдоподобно — этот эффект называют «галлюцинацией». ИИ-врач не ставит диагноз и не заменяет живого врача — он даёт справочную информацию и предварительные гипотезы, которые обязательно нужно проверять у специалиста. При любых признаках неотложного состояния — боль в груди, потеря сознания, сильное кровотечение — необходимо немедленно звонить 103 или 112, а не ждать ответа от нейросети.

Из чего состоит ИИ-врач: две технологии

Внутри сервиса, который называют «ИИ-врач», обычно работают сразу два «мотора». Первый — нейронные сети компьютерного зрения, обученные распознавать патологии на рентгене, КТ и МРТ. Второй — большая языковая модель (LLM), которая понимает текст жалоб пациента и формулирует связный ответ. Оба эти направления — часть более широкой области машинного обучения, и ни одно из них не «мышление» в человеческом смысле.

Нейросети для снимков, LLM для текста и диалога

Разделение задач логично: изображение и текст — принципиально разные типы данных, и для каждого исторически развивались отдельные архитектуры нейросетей. Компьютерное зрение обучено на миллионах размеченных снимков и ищет визуальные паттерны — затемнения, узлы, асимметрию. Обработка естественного языка (NLP), лежащая в основе LLM, обучена на текстах и ищет языковые закономерности — как слова и фразы обычно сочетаются друг с другом. Современные медицинские сервисы всё чаще совмещают оба модуля в одном интерфейсе, чтобы пациент мог и загрузить снимок, и задать вопрос обычными словами.

Ключевая разница между двумя «моторами» видна в самих входных и выходных данных:

• Вход у нейросети зрения — пиксели изображения; у LLM — слова и фразы
• Выход у нейросети зрения — вероятность патологии и разметка на снимке; у LLM — связный текстовый ответ
• Ошибка зрения — пропуск или ложное выделение области на снимке
• Ошибка LLM — «галлюцинация», то есть уверенный, но фактически неверный текст

Как устроена нейронная сеть

Чтобы понять, почему ИИ-врач вообще способен «видеть» снимок или «читать» текст, полезно разобраться в базовой единице всех этих систем — искусственной нейронной сети. Она грубо имитирует структуру биологических нейронов, но остаётся чисто математической моделью.

Слои, веса и обучение на примерах

Нейронная сеть состоит из слоёв искусственных нейронов. На входной слой поступают данные — пиксели снимка или числовое представление слова. Каждый нейрон связан с нейронами следующего слоя через синапсы, и у каждой такой связи есть собственный «вес» — число, которое определяет, насколько сильно сигнал одного нейрона влияет на другой. Взвешенная сумма входящих сигналов проходит через функцию активации, которая решает, «сработает» нейрон дальше по цепочке или нет.

Обучение нейросети происходит не за один проход, а за множество циклов, которые называют эпохами. На каждой эпохе сеть видит размеченные примеры — снимок с уже подтверждённым диагнозом, текст с известным правильным ответом — и постепенно подстраивает веса синапсов так, чтобы ошибка предсказания уменьшалась. Это похоже на то, как ребёнок учится читать: сначала он путает буквы, но после тысяч повторений начинает узнавать слова автоматически. Итоговое качество модели напрямую зависит от объёма и качества обучающих данных — чем больше проверенных примеров, тем точнее закономерности, которые нейросеть способна уловить.

Базовые элементы этой конструкции можно свести к четырём понятиям:

• Слои нейронов — входной, один или несколько скрытых, выходной
• Синапсы с весами — числа, которые определяют силу связи между нейронами
• Функция активации — правило, решающее, «сработает» нейрон или нет
• Эпохи обучения — повторные проходы по размеченным данным, на которых веса подстраиваются

Компьютерное зрение: как ИИ «читает» снимок

Применительно к медицинским изображениям система компьютерного зрения работает как ранжирующий фильтр. Она анализирует загруженный снимок, оценивает вероятность патологии на разных его участках и выделяет маркером зоны, которые заслуживают более пристального внимания врача. По итогу анализа система автоматически формирует текстовое описание находок, но окончательную интерпретацию всегда проверяет и при необходимости правит врач-рентгенолог. Такие инструменты особенно полезны в скрининге — они помогают сократить рутинную нагрузку и не пропустить подозрительный участок, но финальное решение остаётся за человеком.

Как работает большая языковая модель (LLM)

Раз пациент чаще всего общается с ИИ-врачом текстом, стоит отдельно разобрать, что происходит внутри большой языковой модели в момент диалога.

Предсказание следующего слова — как продвинутый Т9

Большая языковая модель (LLM, Large Language Model) — это модель машинного обучения, которая обрабатывает и генерирует текст через глубокие нейронные сети, обученные на огромных массивах текстовых данных. Технически под капотом LLM происходит предсказание наиболее вероятного следующего слова в последовательности — примерно так же работает продвинутый Т9 в смартфоне, только вместо трёх вариантов слова модель одновременно оценивает вероятности десятков тысяч токенов. Из этого следует важный вывод: LLM оперирует статистикой языка, а не смыслом в человеческом понимании. Именно поэтому текст получается связным и естественным, но это не гарантия его фактической точности — при этом сформулировать вопрос можно обычными словами, ведь спросить ИИ-врача получится так же, как спросить знакомого человека, без специальных медицинских терминов.

Обучение и дообучение на медицинских данных

Жизненный цикл LLM обычно делится на два этапа. Предобучение — это первичное обучение на огромном корпусе неразмеченных текстов из интернета, книг и других источников, без узкой специализации на какой-либо теме. Дообучение (fine-tuning) — это последующая донастройка модели на значительно меньшем, но специализированном датасете под конкретную задачу: например, на верифицированных медицинских текстах и клинических рекомендациях. Модель, обученная только на случайных текстах из интернета, в медицинских вопросах ошибается заметно чаще — именно поэтому разработчики стали создавать отдельные «медицинские» модели, которые иногда называют large medicine model.

Разница между предобучением и дообучением заметна на практике:

• Базовая модель отвечает на общие вопросы бегло, но путается в узкой медицинской терминологии
• Дообученная медицинская модель точнее распознаёт клинические термины и реже даёт нерелевантный ответ
• Дообучение дороже и медленнее, поэтому не все модели проходят этот этап
• Итоговая точность зависит не только от архитектуры, но и от качества медицинского датасета

Медицинские модели: примеры и их точность

Насколько далеко продвинулись специализированные медицинские модели, лучше всего видно на конкретных примерах и результатах профессиональных экзаменов.

Med-PaLM, BioGPT и специализированные модели

Med-PaLM 2 от Google, представленная в марте 2023 года, сдала стандартизированный медицинский экзамен USMLE (United States Medical Licensing Examination) с результатом выше 85% и умеет работать не только с текстом, но и с изображениями — то есть она мультимодальная. BioGPT от Microsoft на тесте PubMedQA, который проверяет понимание биомедицинской литературы, показал результат 81%, впервые превзойдя показатель человека-эксперта (78%); более ранняя модель BioBERT набрала на этом же тесте 68%. Специализированная система John Snow Labs достигла 78,4% и по этому показателю обошла базовую GPT-4. Модель DOOG-E от компании GenHealth построена всего на 70 миллионах параметров, но обучена почти на 1 миллиарде токенов медицинских данных.

Высокий балл на стандартизированном тесте — не то же самое, что безопасность у постели конкретного пациента: экзамен проверяет знания, а не способность учесть индивидуальный анамнез, сопутствующие заболевания и живую клиническую картину.

Где ИИ силён, а где спотыкается

Одно из исследований (опубликовано в European Journal of Human Genetics) проверило ChatGPT на 85 реальных вопросах о генетике: модель ответила правильно в 68,2% случаев — практически на уровне обычных людей, отвечавших на те же вопросы (66,6%), то есть без явного превосходства. В другом исследовании на вопросах по патологии, требующих многоступенчатого рассуждения, точность ChatGPT достигала около 80%. При этом на официальных национальных медицинских экзаменах в Китае та же модель проваливала целые разделы — включая патологию — и в итоге не набирала проходной балл. Вывод простой: универсальные модели неплохо справляются с типовыми фактическими вопросами, но заметно слабее там, где нужен клинический контекст, локальные протоколы или многоступенчатое рассуждение.

Почему ИИ-врач ошибается: галлюцинации и «чёрный ящик»

Раз в основе ИИ-врача лежит статистическое предсказание, а не понимание, у этого подхода есть системные слабые места, о которых пациенту важно знать заранее.

Галлюцинации — модель уверенно выдаёт ложный, но правдоподобный ответ. Это происходит потому, что LLM генерирует текст, который статистически похож на правильный, но не имеет встроенного механизма проверки фактов. Внешне такой ответ ничем не отличается от корректного — та же уверенная интонация, та же грамотная формулировка.

Модель впитывает предвзятость из обучающих данных. Если в датасете определённые группы пациентов или редкие состояния были представлены слабо, модель будет хуже справляться именно с такими случаями, даже не «осознавая» этого пробела.

У LLM нет устойчивого логического рассуждения. Австралийская научная организация CSIRO (Commonwealth Scientific and Industrial Research Organisation) вместе с Университетом Квинсленда провела показательный эксперимент: чем больше проверенных научных данных давали модели вместе с вопросом о здоровье, тем менее надёжным становился её ответ — точность падала вплоть до 28%. Это говорит о том, что модель не «взвешивает» доказательства как эксперт, а скорее чувствительна к формулировкам и объёму текста в запросе. Для медицины, где цена ошибки — здоровье человека, это означает, что ответу нельзя доверять вслепую, даже если он звучит убедительно.

Понимание механики работы ИИ не делает его диагностом. ИИ-врач — справочный сервис, который помогает разобраться в симптомах и терминах, но не ставит диагноз и не заменяет консультацию врача. При угрозе жизни звоните 103 или 112.

Редакция ии-врачи.рф

«Чёрный ящик»: почему решение непрозрачно

Институт Stanford HAI (Human-Centered Artificial Intelligence) указывает на так называемый эффект «чёрного ящика»: все современные модели глубокого обучения устроены так, что даже их создатели не всегда могут точно объяснить, почему модель выдала именно такой ответ, а не другой. Миллионы параметров и весов взаимодействуют между собой слишком сложным образом для прямой интерпретации. Отсюда практическое требование: любой ответ ИИ-врача по важному вопросу здоровья нужно проверять и валидировать у живого специалиста, а не принимать как окончательное заключение.

Что это значит для пациента

Зная, как устроена механика нейросети и LLM, пользователь может выстроить более разумное и безопасное отношение к общению с ИИ-врачом.

Прежде всего, ответ ИИ-врача — это вероятностная гипотеза, а не установленная истина, и относиться к нему нужно соответственно. Есть симптомы, при которых нельзя ждать ответа от нейросети и нужно действовать немедленно:

• Внезапная сильная боль в груди или затруднённое дыхание
• Потеря сознания, спутанность речи или онемение одной стороны тела
• Сильное кровотечение, которое не останавливается
• Высокая температура с судорогами у ребёнка

В любом из этих случаев звоните 103 или 112 — это приоритетнее любого чата с ИИ. Для остальных, менее острых ситуаций есть короткий порядок действий, который стоит держать в голове при каждом обращении к сервису:

1. Сформулируйте вопрос как можно яснее и конкретнее — без двусмысленностей
2. Воспринимайте полученный ответ как справочную информацию или второе мнение, а не финальный вердикт
3. Сверьте важные утверждения (дозировки, диагнозы, схемы лечения) с врачом или официальным источником
4. Если ИИ-врач упомянул тревожный симптом — не откладывайте визит к специалисту
5. При острой боли, потере сознания или других признаках неотложного состояния сразу звоните 103 или 112, не дожидаясь ответа от чата

Именно поэтому удобно, что онлайн ИИ-доктор умеет простым языком объяснить непонятные термины из выписки или результаты анализов — это полезный первый шаг для ориентации в ситуации, но не замена очного осмотра и не диагноз.

FAQ