Новости: Искусственный интеллект в медицине: опубликован Кодекс этики применения искусственного интеллекта в сфере охраны здоровья Версия 2.1 от 2025

Утвержден протоколом заочного голосования от 14.02.2025 № 90/18-0/117 Межведомственной рабочей группы при Министерстве

здравоохранения Российской Федерации по вопросам создания, развития и внедрения в клиническую практику медицинских изделий и сервисов с использованием технологий искусственного интеллекта

КОДЕКС ЭТИКИ

ПРИМЕНЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В СФЕРЕ ОХРАНЫ ЗДОРОВЬЯ

Листов 16

Версия 2.1

Москва 2025 г.

Кодекс этики применения искусственного интеллекта в сфере охраны здоровья (далее – Кодекс) – это набор принципов и рекомендаций, предлагаемых Министерством здравоохранения Российской Федерации совместно с главными внештатными специалистами Минздрава России и направленных на определение этических норм использования искусственного интеллекта (далее – ИИ).

Субъекты СИИ должны развивать и поддерживать научное партнерство, обеспечивать соблюдение принципов профессиональной ответственности, прозрачность оценки эффективности и безопасности применения СИИ при практическом применении в части использования данных клинической практики при формировании баз данных, используемых для обучения различных СИИ.

Настоящий Кодекс разработан на основе следующих нормативных правовых актов и документов:

Конституция Российской Федерации;

Указ Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года»);

Федеральный закон от 21.11.2011 № 323-ФЗ «Об основах охраны здоровья граждан в Российской Федерации»;

Федеральный закон от 24.04.2020 № 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве»;

и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»;

Федеральный закон от 31.07.2020 № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации»;

Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных»;

Приказ Росстандарта от 25.10.2024 № 68-пнст «Об утверждении предварительного национального стандарта Российской Федерации» вместе

с национальным стандартом Российской Федерации ПНСТ 961-2024

«Системы искусственного интеллекта в здравоохранении. Этические аспекты», с гармонизацией Кодекса с нормами международного права.

Положения настоящего Кодекса рассчитаны на системы искусственного интеллекта, применяемые исключительно в сфере охраны здоровья граждан при оказании медицинской помощи в части профилактики, диагностики, лечения и иных действий в сфере здравоохранения Российской Федерации. Его Положения могут быть расширены и/или конкретизированы в отраслевых или локальных документах по этике в сфере ИИ с учетом развития технологий, особенностей решаемых задач, класса и назначения СИИ, уровня возможных рисков, а также специфического контекста и среды, в которой применяются СИИ.

Основными этическими проблемами применения технологии ИИ в условиях практического здравоохранения являются:

недостаток доказательств эффективности и безопасности решений СИИ с точки зрения допуска их для применения медицинскими работниками;

повышенный риск причинения вреда здоровью пациентов в силу потенциальных ошибок обработки данных и знаний, а также заключений (рекомендаций), формируемых СИИ;

сложность интерпретации решений при машинном обучении (проблема

«черного ящика»);

повышенные риски от СИИ с непрерывным обучением, которые способны изменять свою работу вследствие появления новых данных, в том числе получаемых во время их эксплуатации;

повышенные риски, связанные с добросовестностью разработчика системы ИИ в части полноты выборки и качества обучающих данных;

отсутствие понятия вывода из эксплуатации технологий, что может быть особенно важно при выявлении критических отклонений в работе алгоритмов ИИ;

необходимостью проработки вопросов, связанных с выводом из эксплуатации ИИ-систем, в том числе при выявлении критических ошибок в их работе;

проблемы кибербезопасности, включая несанкционированное вмешательство в алгоритмы работы ИИ или доступ к персональным данным пациентов;

сложность определения конкретного субъекта СИИ, ответственного за финальное принятое решение на основании работы СИИ, в случае отсутствия регистрационного удостоверения на СИИ, являющиеся медицинскими изделиями с технологией искусственного интеллекта;

этические проблемы, связанные с внедрением квантовых вычислений;

необходимость предоставления гражданину или его законному представителю в доступной форме полной информации о целях, методах оказания медицинской помощи, связанном с ними риске, возможных вариантах медицинского вмешательства (в том числе с применением технологий ИИ), о его последствиях.

Реализация Кодекса и его принципов позволит:

содействовать расширению обоснованного применения технологий ИИ в здравоохранении;

сформировать нравственную основу для субъектов ИИ основанную на традициях отечественной медицинской школы;

повысить прозрачность использования технологий ИИ для пациентов и медицинских специалистов, в сфере охраны здоровья.

1 Общие положения................................................................................................................ 6

1.1 Цель и задачи Кодекса................................................................................................. 6

1.2 Область применения Кодекса..................................................................................... 6

1.3 Термины и определения.............................................................................................. 6

1.4. Субъекты СИИ и их Роли............................................................................................ 8

2 Основные принципы......................................................................................................... 11

2.1 Ограниченная автономность.................................................................................... 11

2.2 Прозрачность и объяснимость................................................................................. 11

2.3 Конфиденциальность данных и безопасность пациентов.................................. 11

2.4 Справедливость и равенство доступа..................................................................... 12

2.5 Научное партнерство и профессиональная ответственность.......................... 12

2.6 Информирование.......................................................................................................... 12

2.7 Проведение этической экспертизы и апробации СИИ......................................... 13

2.8 Контроль....................................................................................................................... 13

3 Права и обязанности субъектов ИИ............................................................................... 14

3.1 Права и обязанности физических лиц.................................................................. 14

3.2 Права и обязанности юридических лиц................................................................ 14

4 Действие кодекса................................................................................................................ 16

Основными задачами Кодекса являются:

- Определение прав и обязанностей субъектов ИИ.

- Определение механизмов регулирования применения Кодекса.

Кодекс должен применяться на всех этапах жизненного цикла СИИ, включая этапы планирования, проектирования, построения модели, апробации, верификации и валидации, экспертизы, развертывания, эксплуатации и мониторинга с учетом обязательного определения критериев вывода из эксплуатации.

1 - ГОСТ 34.321-96 «Информационные технологии. Система стандартов по базам данных. Эталонная модель управления данными».

Субъектами СИИ являются:

В рамках настоящего Кодекса под Субъектами СИИ понимается круг лиц, принимающих участие в жизненном цикле СИИ при его реализации на территории Российской Федерации или лица, в отношении которых применяются СИИ, находящиеся на территории Российской Федерации,

включая предоставление товаров и оказание услуг. Это могут быть физические лица и юридические лица, в том числе:

- физические лица, в том числе пациенты;

- некоммерческие организации и профильные профессиональные сообщества;

- медицинские организации всех форм собственности и подчиненности;

- образовательные учреждения, в том числе в сфере здравоохранения;

- компании разработчики, производители, уполномоченные представители производителей, операторы и владельцы ИИ;

- органы управления здравоохранением;

- независимые (локальные) этические комитеты.

Роли субъектов СИИ:

- Разработчик – физическое или юридическое лицо, создающее, обучающее, тестирующее модели/системы ИИ и разрабатывающее, реализующее такие модели/системы, программные и/или аппаратные комплексы и принимающее на себя ответственность в отношении их конструкции;

- Заказчик и/или Владелец – физическое или юридическое лицо или организация, получающие продукт или услугу (СИИ);

- Пользователь – физическое или юридическое лицо, на законном основании использующее СИИ по назначению и в соответствии с техническими характеристиками и непосредственно реализующее решение прикладных задач с использованием СИИ;

- Оператор – физическое или юридическое лицо, обеспечивающее работу СИИ в соответствии с заявленными параметрами;

- Регулятор – юридическое лицо, принимающее участие в регуляторном воздействии на сферу ИИ, в том числе разработчики нормативно-технических документов, руководств, различных регуляторных положений, требований и стандартов в области применения СИИ в здравоохранении;

- Иные лица, действия которых потенциально могут повлиять на результаты действий СИИ или лиц, принимающих решения с использованием СИИ.

Субъекты СИИ в соответствии со своей ролью обеспечивают:

- проектирование, разработку, апробацию, экспертизу и эксплуатацию СИИ в соответствии с законодательством и принятыми стандартами;

- сбор, обработку и использование данных в соответствии с законодательством;

- надежные меры защиты и конфиденциальности данных, включая анонимизацию данных, шифрование и строгий контроль доступа;

- обеспечение защиты прав и благополучия субъектов исследования (субъектов СИИ);

- контроль над использованием данных и функционированием СИИ;

- информирование о правилах обеспечения безопасности.

Автономность СИИ в здравоохранении ограничена и обратима.

Обеспечить требуемые параметры автономности должны разработчики СИИ в рамках своей роли на соответствующем этапе жизненного цикла СИИ.

Субъекты СИИ обеспечивают комплексный контроль над СИИ в объеме и порядке, зависящем от целей, задач и этапа жизненного цикла СИИ.

Все решения СИИ (при необходимости) должны быть проверены и одобрены субъектом ИИ с соответствующей ролью.

СИИ должны позволять субъектам СИИ с соответствующей ролью:

- Проверять и/или санкционировать автоматизированные решения.

- Отказаться от автоматизированных решений.

- Изменять предложенные СИИ решения.

Неисполнение законодательства Российской Федерации в части обеспечения конфиденциальности данных, повлекших за собой причинение вреда здоровью и/или риск разглашения сведений, составляющих врачебную тайну, в результате применения СИИ (в том числе по причине применения СИИ не в соответствии с заявленными характеристиками), ведет к возникновению ответственности в соответствии с законодательством.

Субъекты СИИ, принимающие участие в создании, апробации, экспертизе, эксплуатации контроле СИИ, должны руководствоваться научной добросовестностью, приверженностью открытому исследованию и междисциплинарному сотрудничеству, а также выдерживать высокие стандарты профессионализма, осознавая свою возможность влиять на общество и будущее технологии.

Все субъекты СИИ должны увеличивать уровень осведомленности общества о СИИ, проводя и/или принимая участие мероприятиях по повышению доверия и информированности: разработка научных и публицистических материалов, организация конференций и семинаров, а также включение правил этического поведения в правила эксплуатации СИИ.

Проведение этической экспертизы и апробации СИИ определены законодательством Российской Федерации.

Субъекты ИИ в соответствии с их ролью должны обеспечивать надлежащий контроль за применением СИИ. Для каждого из этапов жизненного цикла СИИ должны быть определены Субъекты ИИ, принимающие на себя ответственность за воздействие СИИ на заинтересованные стороны, общество.

- Право на защиту персональных данных.

- Право на доступ к достоверной информации о СИИ и их влиянии на здоровье и общество.

- Право на защиту своих прав и поддержку со стороны профессиональных сообществ и государственных органов в случае возникновения этических конфликтов или выявления нарушений.

- Право на участие в обсуждении и выработке государственной политики и нормативно-правового регулирования в области применения СИИ в здравоохранении.

- Право сообщать о любых проблемах, выявленных при работе с СИИ.

- Обязанность соблюдать положения и рекомендации законодательства на всех этапах жизненного цикла СИИ.

- Обязанность соблюдать рекомендованные меры по обеспечению конфиденциальности и безопасности персональных (в том числе медицинских) данных на всех этапах жизненного цикла СИИ.

- Обязанность соблюдать принципы честности и объективности, избегая искажений и манипуляций, на всех этапах жизненного цикла СИИ.

- Право на доступ к информации о характеристиках, возможностях и ограничениях СИИ, используемых в здравоохранении.

- Право участвовать в выработке государственной политики и нормативно-правового регулирования в области применения СИИ в здравоохранении.

- Право осуществлять сотрудничество с международными организациями, научными центрами (государств-участников Договора о создании Союзного государства и Договора о Евразийском экономическом союзе) для обмена знаниями и лучшими практиками в области применения СИИ в здравоохранении.

- Обязанность обеспечить конфиденциальность и безопасность персональных (в том числе медицинских) данных на всех этапах жизненного цикла СИИ.

- Обязанность учитывать и защищать права всех физических лиц (в том числе пациентов), включая социально уязвимые группы населения, при разработке и применении СИИ.

- Обязанность обеспечить безопасность и прозрачность разработки, проверки, применения и мониторинга функционирования СИИ.

- Обязанность осуществлять информирование об уровне развития СИИ, их возможностях и рисках.

- Обязанность развивать и поддерживать научное партнерство и обеспечивать профессиональную ответственность.

- Обязанность соблюдать требования и рекомендации законодательства и регулирующих документов на всех этапах жизненного цикла СИИ.

- Обязанность соблюдать принципы честности и объективности, избегая искажений и манипуляций, на всех этапах жизненного цикла СИИ.

- Обязанность обеспечивать подготовку специалистов, участвующих в создании, проверке, эксплуатации, мониторинге функционирования СИИ.