Чем подробнее нейросеть объясняет свой диагноз, тем сильнее пациент ей верит — даже когда она ошибается. Такой парадокс выявили учёные MIT, Stanford и Columbia University в исследовании, опубликованном 4 августа 2026 года в Nature Medicine. Результаты важны для всех, кто пользуется нейросетью-врачом — доверие к ИИ и понимание его границ идут рука об руку.
Что выяснили учёные
Команда под руководством Orson Xu (Columbia) вместе с Marzyeh Ghassemi (MIT) и Roxana Daneshjou (Stanford) тестировала несколько форматов объяснений ИИ при дерматологической диагностике: только предсказание с уверенностью, похожие изображения, тепловые карты и развёрнутые текстовые объяснения от языковой модели. Непрофессионалы улучшали точность диагностики, но главным образом за счёт слепого следования ИИ — они одинаково доверяли верным и ошибочным объяснениям. Врачи, напротив, работали лучше всего вообще без текстовых объяснений: они замечали ошибки ИИ там, где пациент их пропускал. По данным MIT News, ключевой вывод авторов звучит так: «Одно и то же объяснение помогает эксперту и вводит в заблуждение новичка».
Что это значит для пациентов
Исследование ставит под сомнение привычную логику «чем понятнее объяснение, тем лучше». Для медицинского ИИ это означает: инструмент должен адаптироваться к уровню знаний пользователя. Пациенту полезнее знать границы уверенности ИИ и явный призыв проконсультироваться с врачом, чем подробная аргументация, которая создаёт иллюзию экспертизы. Авторы также показали: модели с ограничениями на предвзятость снижали диагностические ошибки, связанные с тоном кожи, — что особенно актуально для дерматологии.
