ИИ массово доступен и его всё чаще свободно используют на рабочих местах для профильных задач. В определенных сферах это может быть сравнительно безопасно, если в запросах нет персональных данных, коммерческой тайны и закрытых документов. Но в медицине такой подход несет высокий риск — прежде всего из-за бесконтрольной отправки врачами медицинских данных пациентов в публичные LLM-модели.
Медицинские данные относятся к специальной категории персональных данных, включающих сведения о здоровье, диагнозы, анализы, выписки, снимки, анамнез. Это гораздо чувствительнее, чем обезличенный дизайн-макет или аналитическая таблица.
Для клиники это риск сразу в трех плоскостях: нарушение закона, медицинской этики и потеря репутации.
В материале попробуем оценить масштабы теневого ИИ в здравоохранении. Разберем, как правильно адаптировать бизнес-процессы, чтобы снизить риски и вернуть использование врачами ИИ в управляемый контур.
Статистика теневого ИИ в медицине
В открытых источниках нет публичных данных об официальном признании российскими клиниками факта использования врачами ChatGPT или Claude. При этом проблема актуальна, например, РБК уже писал о растущем риске теневого ИИ в медучреждениях.
Появляются и публичные сигналы. Так, в апреле в Нижнем Новгороде обсуждали историю с медицинскими заключениями, где заметили стилистику ИИ и эмодзи. Региональный Минздрав позже заявил, что информация об использовании ChatGPT врачами не соответствует действительности. При этом главред МИА «Стационар-Пресс» Алексей Никонов ссылался на экспресс-опрос: около 20% нижегородских медиков регулярно используют ИИ для заполнения документации, еще 30% хотели бы, но пока не умеют.
По данным «Справочника врача» из 1,5 тыс. опрошенных медиков 69% назвали сокращение времени на принятие решений главной надеждой от внедрения ИИ. При этом 58% врачей сказали, что в их медорганизациях ИИ никак не применяется, а только 11,1% сообщили об использовании систем поддержки принятия врачебных решений.
В опросе «Актион Медицина» участвовали 3 тыс. специалистов, около 70% из них — врачи. 12,8% сообщили, что уже имеют опыт работы с ИИ-системами, еще 42,6% хорошо понимают функционал и принципы работы таких технологий.
Врачи, как и любые другие сотрудники, стремятся сэкономить время и снизить рабочую нагрузку. Вполне логичным шагом является использование ими доступных публичных ИИ-сервисов для расшифровки документов, подготовки выписок, суммаризации анамнеза, перевода исследований и сверки со справочной информацией.
Серьезность рисков для медучреждения
При теневом ИИ невозможно восстановить цепочку: кто отправил данные, в какой сервис, что было в запросе, сохранились ли данные у провайдера и попали ли они в дальнейшую обработку.
Для медицинской организации это создает сразу несколько рисков:
1. Утечки персональных данных и нарушение требований 152-ФЗ — сотрудники используют зарубежные публичные модели без локального контура обработки данных и без согласования с IT-службой.
2. Репутационные последствия. В медицине доверие — часть продукта. Пациенты не готовы узнать, что их медицинские документы отправлялись во внешние ИИ-сервисы.
3. Риски для партнеров, лабораторий и страховых компаний. Чем больше участников подключено к цифровому контуру клиники, тем выше цена любой утечки или непрозрачного процесса обработки данных.
В России пока не оштрафовали ни одну компанию за передачу персональных данных через ИИ-сервис. Но это не значит, что риска нет. Не важно, был это ChatGPT, Claude, переводчик, OCR-сервис или другая внешняя система. Важно, какие данные ушли, на каком основании, куда именно и может ли клиника доказать законность обработки.
С 2025 года штрафы за нарушения в области персональных данных выросли. За утечку специальных категорий персональных данных для организаций предусмотрены штрафы до 10–15 млн рублей. При повторной крупной утечке штраф может составить от 1% до 3% годовой выручки компании, но не менее 20–25 млн и не более 500 млн рублей. В отдельных случаях незаконные действия с персональными данными могут повлечь уголовную ответственность.
Помимо крупных штрафов для клиники утечка медицинских данных — это потеря доверия пациентов, неудобные вопросы от партнеров и корпоративных заказчиков, а главное — невозможность быстро понять, что именно произошло и на каком этапе имел место инцидент.
Как взять ИИ под контроль
Бороться с теневым ИИ одними запретами невозможно. Если врачи уже видят пользу нейросетей в работе с документами и выписками, они будут искать способ использовать их дальше.
Задача клиники — перевести ИИ из серой зоны в управляемый контур. Для этого можно действовать по следующим направлениям:
1. Зафиксировать правила — нужно внедрить понятные регламенты использования ИИ для врача, администратора, оператора колл-центра и IT-службы.
2. Внедрить локальную ИИ-инфраструктуру как безопасную альтернативу теневому ИИ.
3. Встроить деперсонализацию — обезличивать все чувствительные данные в автоматическом режиме без участия персонала.
4. Ограничить доступы по ролям — каждый сотрудник в зависимости от должности должен иметь доступ только с своему набору функций ИИ.
5. Логировать запросы и ответы — для упрощения разбора инцидентов.
Подробные шаги по борьбе с теневым ИИ
Фиксация правил
В клинике должно быть прямо указано, какие ИИ-сервисы разрешены, какие данные нельзя загружать ни при каких условиях, какие сценарии допустимы и кто согласовывает новые ИИ-инструменты.
Отдельно нужны понятные правила для каждой роли: врача, администратора, оператора колл-центра, IT-службы. Врач должен понимать, можно ли вставить фрагмент выписки в ИИ-сервис. Оператор — можно ли использовать ИИ для ответа пациенту. IT — какие сервисы блокировать, какие логировать и какие выводить в разрешенный контур.
152-ФЗ определяет обработку персональных данных широко: это сбор, запись, хранение, использование, передача, обезличивание и другие действия с данными. Поэтому правила работы с ИИ должны быть встроены в регламенты обработки данных: что можно отправлять в модель, что нужно обезличивать, какие сервисы запрещены и кто отвечает за нарушение.
Внедрение безопасной альтернативы
В качестве альтернативы не подойдет один чат-бот для всей клиники. Потребуются шаги по внедрению целого набора инструментов под разные роли и задачи.
Корпоративный ИИ-ассистент — единая точка входа для сотрудников при работе с данными. Запускается на базе готовых сценариев: сократить выписку, подготовить черновик ответа, найти пункт в регламенте, собрать краткую справку. Для каждого сценария заранее задаются правила: какие данные допустимы, нужна ли деперсонализация, какая модель отвечает, кто проверяет результат и что логируется.
Локальная LLM для чувствительных данных — нужна для задач, где в запросе могут быть выписки, анамнез, результаты анализов, врачебные заключения или расшифровки приемов. Задача локальной LLM — не ставить диагноз, а обрабатывать текст внутри контролируемого периметра: сокращать, структурировать, приводить к шаблону, готовить черновик.
RAG-система по регламентам и базе знаний — помогает сотрудникам быстро находить ответы в утвержденных документах клиники: регламентах, маршрутах пациентов, инструкциях, шаблонах ответов, скриптах колл-центра. Перед внедрением базу знаний нужно привести в порядок: убрать устаревшие документы, назначить владельцев, зафиксировать версии.
Защищенный интерфейс для врачей — врачу не подойдет абстрактный промпт, ему нужен быстрый рабочий экран в МИС или внутреннем кабинете: выбрать действие, вставить текст, пройти автоматическую проверку персональных данных, получить черновик и подтвердить результат перед сохранением. Чем дальше инструмент от реального рабочего места врача, тем выше шанс, что он снова уйдет в публичный сервис.
Инструмент для колл-центра — ИИ может помогать с типовыми вопросами, подготовкой к процедурам, маршрутизацией обращений, резюме звонка и передачей сложных случаев врачу. Но оператору не нужен доступ к полной медкарте, диагнозам и анализам. Инструмент должен работать по утвержденным скриптам и базе знаний, а не свободно интерпретировать медицинскую информацию.
Сервис диктовки и расшифровки — помогает врачам надиктовывать текст, а системе — распознавать речь, структурировать ее по шаблону и готовить черновик документа. Для встреч сервис может делать расшифровку, резюме, список решений и задач. Но аудио часто содержит ФИО, диагнозы и детали лечения, поэтому транскрибация должна работать в разрешенном контуре, а не через случайный внешний сервис.
Обезличивание персональных данных
Обезличивание в медицине не может ограничиваться только удалением ФИО из выписки. Пациента можно узнать по набору деталей: редкий диагноз, дата госпитализации, отделение, регион, снимок, номер исследования или даже фрагмент описания случая.
Поэтому обезличивание в медицине требует глубокого подхода. Для текстов используют поиск и замену персональных данных, для таблиц — удаление полей, обобщение и k-анонимность, для DICOM — очистку метаданных и удаление вшитых подписей, для аудио — транскрибацию с очисткой и маскирование голоса, для фото и видео — размытие лиц, документов и OCR-проверку изображения. Главное: очистка должна происходить до отправки данных в модель, а не после. Все что было удалено или заменено обязательно логируется.
Даже после очистки остается риск повторной идентификации по совокупности признаков. Поэтому деперсонализация — лишь один из слоев безопасности. Ее нужно сочетать с ролями доступа, аудитом и в ряде случаев проверкой результата человеком.
Ограничение доступа по ролям
Разграничение доступа в ИИ-контуре строится вокруг сценариев и данных, а не на основе должностей. Врач может работать с черновиком выписки и регламентами, оператор колл-центра — с записью и типовыми вопросами, руководитель — с отчетами и обезличенной аналитикой, а IT и ИБ — с политиками, логами и событиями риска.
Система должна проверять не только пользователя, но и сам запрос: есть ли в нем персональные данные, медицинские сведения, файл или снимок. Если данные чувствительные, запрос либо обезличивается, либо уходит только во внутренний контур, либо блокируется.
Так ИИ перестает быть общим чатом «для всех» и становится управляемым инструментом с ролями, правилами и ответственностью.
Логирование запросов и ответов
Логирование ИИ-запросов в клинике решает задачу сохранения цепочки обработки данных: кто сделал запрос, какой сценарий использовал, какие типы данных были обнаружены, сработала ли деперсонализация, какая модель отвечала, какие источники использовались и попал ли ответ в медицинский документ.
Не всегда требуется хранить полный текст запроса. Часто достаточно метаданных и обезличенной версии. Полные запросы с медицинскими данными должны оставаться только во внутреннем защищенном контуре, с ограниченным доступом и сроками хранения.
При таком подходе IT и служба безопасности могут расследовать инцидент: понять, кто отправил данные, куда они ушли, какие документы использовались и кто подтвердил результат модели. Без логов клиника остается в слепой зоне: риск есть, а доказать, что произошло, невозможно.
Выполнение регулярного аудита использования ИИ
Аудит ИИ-использования используется не для охоты на сотрудников-нарушителей, а для поиска слепых зон. Клиника должна регулярно проверять, какие ИИ-сервисы реально используются, какие данные туда уходят, какие отделы чаще всего обходят правила и какие сценарии сотрудники пытаются решить внешними инструментами.
Для этого используют логи корпоративного ИИ-инструмента, DLP-события, прокси и DNS-логи, журналы загрузки файлов, данные МИС и CRM, также могут помочь короткие интервью с врачами и администраторами. Важно искать не только ChatGPT, но и переводчики, OCR-сервисы, расшифровщики аудио, браузерные расширения и встроенные ИИ-функции в рабочих приложениях.
Результат аудита — карта рисков и задач. Если врачи используют внешние сервисы для выписок, значит, внутренний контур должен закрыть этот сценарий. Если операторы уходят во внешние боты за типовыми ответами, значит, нужно подключать ИИ к внутренним регламентам и базе знаний.
Где локальный ИИ уже работает
В Москве действует цифровой помощник врача «ТОП-3» от СберМедИИ и правительства Москвы. Он встроен в работу всех взрослых городских поликлиник: анализирует данные, которые врач вносит в протокол осмотра, и предлагает три вероятных предварительных диагноза. По данным СберМедИИ за 2025 год цифровой помощник врача «ТОП-3» перешагнул отметку в 14,4 миллиона поставленных предварительных диагнозов.
В инсультном стационаре ГКБ им. И. В. Давыдовского в Москве успешно прошла клиническую валидацию ИИ-система для диагностики инсульта и отбора пациентов на хирургическое лечение. Система встраивается в локальный цифровой контур учреждения и помогает принимать решение о хирургическом лечении при ишемическом инсульте, способна предложить оптимальную тактику ведения пациента. Для анализа используются КТ и МРТ-снимки.
Для реализации безопасной подготовки медицинских данных сеть частных российских клиник Европейский медицинский центр и N1ai.ru разработали сервис деперсонализации и обезличивания данных. ЕМС очистил более 7,5 млн исторических записей, а обезличивание выполнялось внутри IT-контура клиники с помощью сервиса анонимизации N1ai.ru.
Как мы видим, рынок пока не показывает готовый эталонный кейс борьбы с теневым ИИ. Но технологические элементы решения проверяются и применяются. Сейчас уже реально собрать управляемый контур из понятных компонентов: внутреннего ИИ-инструмента, политики, ролей, деперсонализации, логирования и аудита.
Управляемый ИИ — довольные врачи и счастливые пациенты
Теневой ИИ не получится вытеснить приказами и блокировками. Гораздо лучше вывести его из серой зоны и встроить в управляемый контур клиники.
Тогда он перестает быть источником риска и становится рабочим инструментом: помогает врачам быстрее оформлять документы, операторам — точнее отвечать пациентам, руководству — видеть процессы, а IT — контролировать данные, доступы и действия пользователей.
Клиника получает управляемую систему с правилами, логами, ограничениями, деперсонализацией и человеком в контуре.
В конечном итоге безопасный и функциональный ИИ-инструмент позволит повысить конкурентное преимущество, ускорить процессы и улучшить лояльность посетителей.
