Искусственный интеллект в медицине

Никита Куликов

Искусственный интеллект в медицине

ТИТУЛЬНЫЙ ЛИСТ

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В МЕДИЦИНЕ:

от алгоритма до клинического решения

Практическое руководство по доказательствам, внедрению и безопасности

Никита Куликов

ВВЕДЕНИЕ

Эта книга написана в тот момент, когда искусственный интеллект перестал быть экспериментом и стал частью повседневной клинической практики.

Ещё несколько лет назад разговоры об ИИ в медицине велись в основном на конференциях и в научных статьях. Сегодня алгоритмы анализируют кардиограммы в поликлиниках, приоритизируют срочные находки в радиологии, помогают патологам искать метастазы и подсказывают врачу приёмного отделения, кому из пациентов нужна помощь в первую очередь. Это уже не будущее – это настоящее, и оно требует не восторга, а трезвого профессионального разговора.

Главный тезис книги прост: ИИ не заменяет врача, а меняет распределение задач. Алгоритм берёт на себя рутину, скорость и первичный анализ, но клиническое суждение, ответственность и финальное решение остаются за человеком. Там, где это правило соблюдается, ИИ приносит реальную пользу. Там, где его забывают, появляются новые риски – от слепого доверия к модели до скрытых ошибок, которые никто не проверяет.

Книга адресована сразу нескольким аудиториям. Врачам она поможет понять, как устроены алгоритмы, чего от них ждать и как не потерять клиническую бдительность. Организаторам здравоохранения – как планировать внедрение, оценивать эффективность и управлять изменениями. Разработчикам и аналитикам – как выглядит клинический контекст, в который приходит их модель. Студентам – как смотреть на ИИ не как на чудо, а как на инструмент с доказательствами, ограничениями и зоной ответственности.

Структура книги выстроена как путь от основ к практике. Сначала мы разберём, на каких данных и алгоритмах строится медицинский ИИ и как его оценивать. Затем пройдём по ключевым специальностям – кардиологии, радиологии, патоморфологии, офтальмологии, дерматологии, онкологии.

Отдельная часть посвящена ЭКГ как модельному примеру: именно электрокардиография стала полигоном, где ИИ прошёл путь от распознавания ритма до выявления скрытых кардиомиопатий, и где уже накоплен масштабный опыт реального внедрения, включая московскую ЕМИАС.

Далее – внедрение в систему здравоохранения, экономика, безопасность, этика, право и образование. Завершают книгу практикум, дорожная карта и приложения с чек-листами и метриками.

Одна терминологическая оговорка. Под «искусственным интеллектом» в этой книге понимаются прежде всего машинное обучение и клинические алгоритмы поддержки решений: модели, обученные на данных и выдающие прогноз, классификацию или рекомендацию.

Мы не будем обсуждать фантастические сценарии «сильного ИИ» – они не помогают врачу сегодня. Зато будем говорить о том, что можно проверить, измерить и внедрить.

Книга не обещает лёгких решений. Она предлагает дисциплину мышления: сначала данные и валидация, потом пилот, потом масштаб. Если этот порядок соблюдён, ИИ становится надёжным помощником. Если нарушен – дорогой игрушкой или, хуже того, источником новых ошибок. Именно об этом – всё, что дальше

Оглавление

ВВЕДЕНИЕ

Часть I. Основы ИИ в медицине

Глава 1. Зачем медицине искусственный интеллект

Глава 2. Данные как фундамент клинического ИИ

Глава 3. Типы клинических задач и алгоритмов

Глава 4. Как оценивать медицинский ИИ

Глава 5. Этика, право и регулирование

Часть II. Клинические применения по специальностям

Глава 6. Кардиология и ЭКГ

Глава 7. Радиология и визуализация

Глава 8. Патоморфология

Глава 9. Офтальмология

Глава 10. Дерматология

Глава 11. Онкология

Глава 12. Другие направления

Часть III. ЭКГ как модельный пример применения ИИ

Глава 13. Почему ЭКГ идеальна для ИИ

Глава 14. Московская модель: ЕМИАС и цифровые электрокардиографы

Глава 15. Экстренная диагностика: инфаркт и снижение ложных тревог

Глава 16. Скрытые болезни: ГКМП, амилоидоз, ревматическая болезнь

Глава 17. Новые технологии: смартфон, ECG-GPT, носимые устройства

Глава 18. Ограничения и ошибки ЭКГ-ИИ

Глава 19. Чек-лист внедрения ЭКГ-ИИ

Часть IV. Внедрение ИИ в систему здравоохранения

Глава 20. Архитектура и интеграция

Глава 21. Клинические процессы и роли

Глава 22. Валидация и мониторинг

Глава 23. Безопасность и кибербезопасность

Глава 24. Экономика и оценка эффективности

Глава 25. Управление изменениями и обучение

Глава 26. Региональные модели

Часть V. Человек, этика, право, общество

Глава 27. Врач и ИИ: новая роль

Глава 28. Пациент и доверие

Глава 29. Прозрачность и объяснимость

Глава 30. Предвзятость и справедливость

Глава 31. Ответственность и юридические риски

Глава 32. Образование специалистов

Часть VI. Будущее и практикум

Глава 33. Тренды: мультимодальность и генеративный ИИ

Глава 34. Дорожная карта внедрения

Глава 35. Практические кейсы и сценарии

Глава 36. Домашняя ЭКГ как новый базовый навык: от тонометра к монитору ритма

Заключение

Приложения

Приложение A. Глоссарий

Приложение Б. Чек-листы внедрения и аудита

Приложение В. Метрики оценки клинического ИИ

Приложение Г. Шаблон протокола локальной валидации

Часть I. Основы ИИ в медицине

Глава 1. Зачем медицине искусственный интеллект

Медицина столкнулась с парадоксом: возможностей для диагностики и лечения стало больше, чем способности человека их своевременно обработать. Объём медицинских данных растёт быстрее, чем число врачей. Один пациент за госпитализацию генерирует тысячи лабораторных значений, изображений и сигналов. Врач физически не может просматривать всё с одинаковым вниманием. Именно в этом разрыве между объёмом информации и ограниченным человеческим ресурсом и появляется ИИ.

Первый аргумент в пользу ИИ – дефицит кадров и времени. Приём длится минуты, а решений нужно принять десятки. Алгоритм не устаёт, не отвлекается и обрабатывает сигнал за секунды. Он не заменяет врача, но снимает с него часть рутины: первичную сортировку, измерение, поиск отклонений по формальным признакам. Освободившееся внимание врач может направить туда, где человек незаменим – на клиническое суждение, общение с пациентом, сложные и нетипичные случаи.

Второй аргумент – скорость в критических ситуациях. При инфаркте, инсульте или сепсисе счёт идёт на минуты. ИИ способен мгновенно выделить тревожный сигнал из потока и передать его дежурному специалисту. Это не отменяет решения врача, но сокращает путь от данных до действия.

Третий аргумент – поиск скрытого. Алгоритмы умеют находить на стандартных исследованиях признаки болезней, которые традиционно выявляются только другими методами. ЭКГ может подсказать о кардиомиопатии, снимок – о редкой патологии. Это расширяет возможности скрининга там, где раньше он был недоступен.

Однако честный разговор требует назвать и где ИИ пока слаб. Редкие болезни представлены в данных плохо, и модель может их не увидеть. Малые выборки дают нестабильные результаты. Ответственность за ошибку нельзя переложить на алгоритм. Наконец, ИИ не понимает контекста жизни пациента – он видит данные, но не человека. Поэтому книга построена не вокруг восторга, а вокруг границ применимости.

Отдельно стоит развенчать несколько мифов. Миф первый: «ИИ заменит врача». Реальность: он меняет распределение задач, а не упраздняет профессию. Миф второй: «ИИ всегда точнее человека». Реальность: на одних задачах точнее, на других – нет, и это нужно проверять. Миф третий: «ИИ объективен». Реальность: модель наследует смещения своих данных. Миф четвёртый: «Внедрить ИИ просто». Реальность: технология – меньшая часть работы, большая – интеграция, обучение и контроль.

Из этого следует главная мысль главы: ИИ нужен медицине не как замена человека, а как инструмент, снижающий нагрузку и повышающий скорость там, где это измеримо полезно. Всё дальнейшее в книге – разбор того, как отличить полезное применение от красивого, но бесполезного.

Глава 2. Данные как фундамент клинического ИИ

Любая модель машинного обучения – это не более чем отражение данных, на которых она обучена. В медицине это правило приобретает особую остроту: ошибки в данных оборачиваются ошибками у постели пациента. Поэтому разговор об ИИ правильнее начинать не с алгоритмов, а с данных – откуда они берутся, какого они качества и какие риски в себе несут.

Источники клинических данных разнообразны. Электронные медицинские карты хранят структурированные записи – диагнозы, назначения, лабораторные значения – и неструктурированные тексты врачебных осмотров. Системы визуализации содержат изображения: рентген, КТ, МРТ, гистологию. Цифровые приборы дают сигналы – ЭКГ, ЭЭГ, мониторинг жизненных функций. Носимые устройства добавляют непрерывные данные о ритме, активности, сне. Каждый источник имеет свою специфику, свои единицы измерения и свои дефекты.

Центральная проблема – качество данных. Даже в крупных базах встречаются пропуски, дубли, ошибочные единицы, несогласованные справочники. Лабораторное значение может быть записано в разных единицах в разных учреждениях. Диагноз может быть кодирован по-разному. Временные метки могут не совпадать с реальным моментом измерения. Модель, обученная на таких данных, наследует все эти несовершенства и воспроизводит их с уверенностью, которая не имеет основания.

Особого внимания требует разметка. Для обучения с учителем нужны метки – «есть болезнь» или «нет». В медицине метки часто неоднозначны: два опытных врача могут разойтись в трактовке одного снимка. Если разметка делалась по историческим диагнозам, она отражает не истину, а сложившуюся практику, включая её ошибки. Если разметка делалась узкой группой экспертов, она может не отражать разнообразие реальной популяции. Качество меток – это качество потолка модели: выше него алгоритм не поднимется.

Отдельно стоит смещение данных. Если обучающая выборка собрана в крупном городском центре, она может плохо представлять сельскую популяцию, пожилых пациентов, беременных, людей с редкими сопутствующими заболеваниями. Модель, обученная на одной группе, при переносе в другую начинает ошибаться тише и опаснее – она не предупреждает о своей неуверенности. Смещение по полу, возрасту, этничности и социально-экономическому статусу – не абстрактная этическая проблема, а измеримый источник клинического риска.

Ещё одна тонкость – утечка данных. Если при подготовке выборки в обучающий набор случайно попадают сведения, которые в реальной практике будут недоступны на момент прогноза, модель показывает блестящие результаты на тесте и разочаровывает в клинике. Классический пример – когда в признаки попадает информация о последующих назначениях или исходах. Такие модели выглядят точными, но предсказывают не то, что нужно.

Ответом на часть этих проблем становится федеративное обучение и защита персональных данных. Вместо того чтобы собирать все данные в одном месте, модель обучается на локальных данных в разных учреждениях, обмениваясь только параметрами, а не самими записями. Это снижает юридические риски и позволяет использовать данные, которые иначе остались бы недоступны. Но и здесь нужна дисциплина: федеративная схема не отменяет требований к качеству и репрезентативности.

Наконец, важно развеять простое заблуждение: «больше данных – всегда лучше». Объём не заменяет качество. Миллион однотипных записей из одного центра не научит модель разнообразию. Хорошо размеченная, разнообразная и честно описанная выборка среднего размера часто полезнее гигантской, но смещённой. Вопрос не в том, сколько данных, а в том, насколько они представляют ту популяцию, где модель будет работать.

Главный вывод главы: данные – это клинический актив, а не побочный продукт. Их нужно собирать осознанно, описывать прозрачно, проверять на смещения и защищать. Алгоритм – лишь надстройка над этим фундаментом. Если фундамент слаб, никакая архитектура модели не спасёт.

Глава 3. Типы клинических задач и алгоритмов

Данные становятся полезными только тогда, когда под них правильно выбрана задача. Одна из самых частых ошибок при разработке медицинского ИИ – начать с модного алгоритма, а не с клинического вопроса. Правильный порядок обратный: сначала формулируется, какое решение нужно поддержать, затем подбирается тип задачи, и лишь потом – архитектура модели. Эта глава описывает основные типы клинических задач и соответствующие им классы алгоритмов.

Классификация – самый распространённый тип. Модель относит объект к одной из категорий: «есть патология» или «нет», «доброкачественное» или «злокачественное», «норма», «пограничное», «патология». Именно так работают многие системы анализа ЭКГ и маммографии. Важно помнить: бинарная классификация почти всегда скрывает порог. Модель выдаёт вероятность, а решение принимается при некотором пороге, и выбор порога – это клиническое, а не техническое решение, потому что он определяет баланс между пропущенными и ложными случаями.

Регрессия предсказывает непрерывную величину: уровень биомаркера, риск события в процентах, предполагаемую длительность госпитализации, возраст сердца по ЭКГ. Регрессионные модели полезны для прогнозирования и стратификации, но их результаты труднее интерпретировать клинически: «риск 17%» требует объяснения, что этот процент значит для конкретного пациента.

Детекция и сегментация – основа компьютерного зрения. Детекция отвечает на вопрос «где находится объект»: очаг на снимке, новообразование, зубец на сигнале. Сегментация размечает границы: контур органа, зона ишемии, область интереса на гистологическом препарате. В радиологии и патоморфологии эти задачи позволяют не только найти патологию, но и измерить её, что критично для оценки динамики и планирования лечения.

Анализ временных рядов занимает особое место в медицине, потому что многие сигналы имеют временную природу: ЭКГ, ЭЭГ, артериальное давление, частота дыхания, данные мониторинга в реанимации. Здесь модель должна учитывать не только значения, но и их последовательность, ритм, интервалы. Именно на этом типе задач построены системы, предсказывающие ухудшение состояния пациента за часы до клинических проявлений.

Обработка естественного языка работает с текстом: врачебными записями, заключениями, выписками. Задачи здесь разнообразны – извлечение структурированных признаков из свободного текста, классификация жалоб, поиск упоминаний лекарств и побочных эффектов, автоматическое формирование черновиков заключений. Большие языковые модели сделали этот класс задач особенно заметным, но одновременно и особенно рискованным: генеративный текст может звучать убедительно, не будучи верным.

Мультимодальные модели объединяют несколько типов данных – например, изображение, текст и лабораторные показатели. Клинически это наиболее перспективное направление, потому что реальный врач тоже опирается на разные источники. Но мультимодальность усложняет и валидацию: нужно проверять не только каждую модальность, но и то, как модель их сочетает, и не подменяет ли она одно информативным признаком другое.

Параллельно с типом задачи стоит различать типы обучения. Обучение с учителем требует размеченных данных и даёт наиболее предсказуемые результаты. Обучение без учителя помогает находить структуру в данных – например, группы пациентов со схожими признаками, – но его результаты труднее привязать к клиническому решению. Обучение с подкреплением в медицине пока применяется ограниченно, в основном в исследовательских задачах выбора тактики лечения.

Отдельно нужно сказать о генеративных моделях. Они не предсказывают метку, а создают новый контент: текст, изображение, ответ на вопрос. В клинической документации это открывает реальные возможности – черновики описаний, суммаризация истории болезни, помощь в кодировании. Но генеративная модель может «галлюцинировать» – выдавать правдоподобный, но ложный текст. Поэтому её место в клинике – там, где есть обязательная проверка человеком, а не там, где решение принимается автоматически.

Наконец, важное различение – уровень вмешательства. Одни алгоритмы только информируют: показывают вероятность, выделяют область. Другие рекомендуют действие. Третьи встроены в автоматический контур, например приоритизируют очередь исследований. Чем выше уровень автономии, тем строже должны быть требования к валидации, мониторингу и возможности человека вмешаться.

Главный вывод главы: задача первична, алгоритм вторичен. Клинический вопрос определяет тип задачи, тип задачи – требования к данным, а данные – допустимый уровень автономии. Когда этот порядок соблюдён, модель решает реальную проблему. Когда нарушен, появляется технически красивый инструмент, которому не находится места в клиническом процессе.

Глава 4. Как оценивать медицинский ИИ

Модель, которая хорошо работает на бумаге, не обязательно полезна у постели пациента. Разрыв между результатами в статье и реальной практикой – одна из главных проблем медицинского ИИ. Эта глава посвящена тому, как оценивать алгоритмы так, чтобы отличать клинически значимый результат от статистически красивого.

Начинать нужно с базовых метрик качества. Чувствительность показывает, какую долю больных модель выявляет; специфичность – какую долю здоровых она правильно называет здоровыми. Эти два показателя находятся в обратной зависимости: снижая порог, мы ловим больше больных, но получаем больше ложных тревог. Поэтому по отдельности они мало о чём говорят – важна их пара и клинический контекст. Для скрининга опасного заболевания приоритет отдаётся чувствительности, для подтверждающего теста – специфичности.

Однако чувствительности и специфичности недостаточно. Нужны прогностические ценности – PPV1 и NPV2, которые отвечают на практический вопрос: если модель сказала «патология», какова вероятность, что пациент действительно болен? Эти показатели зависят от распространённости болезни в популяции, и именно здесь часто рушатся иллюзии: алгоритм с отличными метриками в исследовании может давать массу ложных срабатываний при низкой распространённости в реальной практике.

AUC3 – площадь под ROC-кривой – популярная интегральная метрика, но её легко переоценить. AUC усредняет качество по всем возможным порогам, тогда как в клинике работает один конкретный порог. Две модели с одинаковым AUC могут вести себя совершенно по-разному при выбранной рабочей точке. Поэтому AUC полезна для сравнения, но не заменяет анализа при рабочем пороге.

Отдельно стоит калибровка. Модель может правильно ранжировать пациентов по риску и при этом систематически завышать или занижать абсолютные вероятности. Если алгоритм говорит «риск 30%», а на практике событие происходит у 10%, клиницист, опирающийся на эту цифру, примет неверное решение. Калибровка проверяется графически и численно, и она критична везде, где вероятность используется для выбора тактики.

Ещё один уровень – клиническая полезность. Метрики качества отвечают на вопрос «насколько точно модель предсказывает», а клиническая полезность – «улучшает ли она исходы». Это разные вещи. Анализ полезности может включать оценку числа пациентов, которых нужно обследовать, чтобы предотвратить одно событие, влияния на время до диагноза, на долю ненужных процедур. Модель, немного уступающая по AUC, но лучше встроенная в процесс, может приносить больше пользы.

Ключевое требование – валидация. Внутренняя валидация на отложенной части тех же данных показывает, что модель не переобучена. Внешняя валидация на данных другого учреждения, другого периода или другой популяции показывает, что модель переносима. Именно внешняя валидация чаще всего выявляет проблемы: домен-сдвиг, различия в оборудовании, в протоколах, в кодировании. Без неё заявлять о готовности к клинике нельзя.

Самым убедительным доказательством остаются проспективные исследования и рандомизированные испытания, где алгоритм встроен в реальный процесс и оценивается его влияние на исходы. Таких исследований пока немного, и это честно признаётся в литературе. Ретроспективные работы полезны для отбора идей, но не заменяют проспективной проверки.

Наконец, типичные ошибки в исследованиях ИИ: утечка данных, отсутствие внешней валидации, сравнение с искусственно ослабленным базовым методом, отбор показательных примеров вместо систематической оценки, отсутствие описания популяции и условий применения. Эти ошибки часто незаметны в тексте статьи, но именно они определяют, можно ли доверять результату.

Главный вывод главы: оценка ИИ – это клиническая дисциплина, а не техническая формальность. Хорошая модель должна быть точной, откалиброванной, проверенной на чужой популяции и полезной в реальном процессе. Только совокупность этих критериев позволяет говорить о готовности к внедрению.

Глава 5. Этика, право и регулирование

Технология, которая влияет на здоровье человека, не может существовать вне правового и этического поля. Медицинский ИИ – не исключение. Более того, здесь пересекаются сразу несколько регуляторных режимов: обращение медицинских изделий, защита персональных данных, врачебная тайна, ответственность за причинение вреда. Разобраться в этом необходимо каждому, кто разрабатывает, внедряет или использует алгоритмы.

Первый вопрос – регуляторный статус. Медицинское программное обеспечение во многих юрисдикциях приравнивается к медицинскому изделию и требует регистрации. Это означает, что разработчик должен доказать безопасность и эффективность, предоставить документацию, описать показания и противопоказания, а также обеспечить постмаркетинговый мониторинг. Алгоритм, который выдаёт диагностическую рекомендацию, – это не «просто программа», а изделие с клиническими обязательствами. Важно и то, что регистрация обычно привязана к заявленным условиям применения: модель, одобренная для одного типа оборудования или популяции, не автоматически переносится на другие.

Второй вопрос – ответственность. Когда алгоритм ошибается, кто отвечает: врач, который принял решение, медицинская организация или разработчик? Правовая практика в разных странах различается, но общий принцип таков: врач остаётся субъектом клинического решения и не освобождается от ответственности ссылкой на рекомендацию ИИ. Разработчик отвечает за качество и безопасность изделия в пределах заявленных характеристик. Медицинская организация – за организацию процесса, обучение персонала и условия применения. Эта трёхчастная ответственность требует прозрачности: кто, на каком основании и с какой проверкой принял решение.

Третий вопрос – данные и согласие. Медицинские данные относятся к особо чувствительным категориям. Их обработка требует законного основания, защиты, ограничения целей и, как правило, информированного согласия пациента. Пациент должен понимать, что его данные используются для работы алгоритма, какие результаты он получает и как они влияют на его лечение. Особую сложность создаёт вторичное использование данных для обучения моделей: здесь нужны либо обезличивание, либо специальные правовые режимы, либо федеративные схемы, при которых данные не покидают учреждение.

Четвёртый вопрос – прозрачность и объяснимость. Этический принцип гласит, что пациент и врач имеют право знать, на каком основании принято решение. На практике «объяснимый ИИ» – это спектр: от полностью «чёрного ящика» до моделей, где вклад каждого признака можно увидеть. Полная интерпретируемость не всегда достижима и не всегда гарантирует безопасность: модель может быть объяснимой, но неверной. Поэтому прозрачность должна пониматься шире – как раскрытие происхождения данных, известных ограничений, условий применения и результатов валидации, а не только как визуализация признаков.