Альянс в сфере ИИ представил Кодекс этики в сфере ИИ в медицине и здравоохранении

Альянс в сфере ИИ совместно с медицинским сообществом и ведущими ИТ-компаниями разработали и приняли Кодекс этики в сфере ИИ в медицине и здравоохранении. Подписание состоялось на международной научно-практической конференции «Патология свертывания крови – междисциплинарная проблема». Отраслевой документ закрепляет подходы и правила важные для всех участников процессов разработки, исследований, внедрения, применения и утилизации систем искусственного интеллекта (ИИ), используемых в медицинских технологиях и в здравоохранении на всех этапах жизненного цикла систем ИИ.

Официальная церемония подписания состоялась 25 апреля. Первыми подписантами стали: ФГБНУ «Национальный НИИ общественного здоровья им. Н.А. Семашко», ФГАОУ ВО Первый МГМУ им. И.М. Сеченова, ФГБУ «НМИЦ ТПМ», ФГБУ «НМИЦ АГП им. академика В. И. Кулакова» Минздрава России, ФНКЦСМ ФМБА России, Томский НИМЦ, ФГБУ ВЦЭРМ им. А.М. Никифорова МЧС России, МГНОТ, ЧОУ ВО КИУ им. В.Г. Тимирясова, МГИМО-МЕД, Высшая Школа Экономики, Ассоциация НБМЗ, АО «ЕМЦ», АО «Р-Фарм», МТП Ньюдиамед, ООО «ФтизисБиоМед», ООО «Платформа Третье Мнение», ООО «Пикс Роботикс», ООО «Медицинские Скрининг Системы» («Цельс»), ООО «Нетология», ООО «Цифровые решения для диагностики заболеваний мозга «БРЕЙНФОН», ООО «АйПат», ООО «Научно-Медицинская Фирма «Лаборатория Функциональной Диагностики» (Dentomo), ЗАО «СП.АРМ», ПАО «Сбербанк», ООО «Яндекс», АНО ОТО МКЭ, Межвузовский комитет по этике, Независимый междисциплинарный Комитет по этической экспертизе клинических исследований.

Мещерякова Анна Михайловна, генеральный директор «Платформа Третье Мнение», сопредседатель отраслевого клуба Альянса «ИИ в здравоохранении»:

 «Впервые человечество стоит перед таким сложным и многогранным явлением как искусственный интеллект и должны установить правила его применения. Нам выпала ответственность заложить основы функционирования ИИ, написать карту его развития. Целый ряд вопросов, связанных с ИИ, волнует общество: кто принимает решение, человек или ИИ, кто несет ответственность, как контролируется обучение и деятельность ИИ, как защитить приватность, как изменится рынок труда.

В законе нельзя всё предусмотреть. И хотя технология уже достаточно зрелая, с учётом юности её применения, первые версии регулирования должны опираться на взгляд глубоко погруженных в тему специалистов. Считаю, что индустрия может взять на себя ответственность и сформулировать первые правила, очертить границы, назвать риски и установить некоторые самоограничения. В отрасли нам также видны те области, где ограничивать технологию не нужно а, напротив, надо дать ей пространство для роста. Это связано прежде всего с обучением программ на новых данных».

Углева Анастасия Валерьевна, профессор, заместитель директора Центра трансфера и управления социально-экономической информацией:

«Кодекс этики ИИ в медицине и здравоохранении – это один из тех документов, который имеет не только теоретическое, но и практическое значение. Он задает вектор в понимании основных этических трудностей и задач, стоящих в отрасли перед всеми участниками процесса, и вместе с тем содержит вполне конкретные рекомендации, связанные с процедурой оценки рисков и этической экспертизой соответствующих практик внедрения ИИ. Его появление — важный шаг на пути установления реального диалога между медицинским сообществом, разработчиками ИИ и исследователями».

Хасанов Ильдар Акрамович, исполнительный директор ООО «БРЕЙНФОН», доцент кафедры цифровых технологий в здравоохранении Казанского ГМУ, к.м.н.:

«Кодекс является отраслевым документом с прицелом на разработчиков продуктов. Он широко рассматривает вопросы, касающиеся разработки, исследований, внедрения, применения и утилизации медицинских систем с ИИ. Введение в практику этого документа, способствует повышению доверия к ИИ-решениям и увеличению прозрачности разработки и внедрения продуктов, в первую очередь за счёт стандартизации этических норм и установления понятных «правил игры» для всех стейкхолдеров».

Киселев Антон Робертович, д-р мед. наук, профессор, заместитель директора по научно-технологическому развитию ФГБУ «НМИЦ ТПМ» Минздрава России:

«Повсеместное развитие и внедрение технологии искусственного интеллекта в медицинскую науку и практику ведет нас к пациентоцентричному интерактивному здравоохранению. Однако специфика данной технологии требует пересмотра и адаптации этических подходов к ее использованию в здравоохранении. Создание настоящего Кодекса этики – актуальная задача сегодняшнего дня».

Рогова Ирина Вячеславовна, исполнительный директор АНО ОТО МКЭ, заместитель председателя Межвузовского комитета по этике:

«Кодекс разработан как основополагающий документ, который призван направлять разработчиков, медицинское сообщество и организаторов здравоохранения при создании и использовании систем искусственного интеллекта, гарантируя соблюдение всех этических норм. Особое внимание в Кодексе уделено вопросам прозрачности работы систем ИИ с целью наилучшего понимания принципов принятия решений алгоритмами. На мой взгляд приоритетом Кодекса является обеспечение безопасности пациентов при использовании ИИ-решений, включая требования к валидации, мониторингу и управлению рисками».

Кодекс этики в сфере ИИ в медицине и здравоохранении является отраслевым документом, который разработан для конкретизации положений Кодекса этики в сфере ИИ применительно к медицинской сфере. Он призван разрешить ряд этических дилемм, возникающих в процессе создания и внедрения систем ИИ в медицину и здравоохранение, включая вопросы безопасности использования инновационных технологий и нарушения прав граждан.

Документ также закрепляет оценку рисков ИИ-систем в зависимости от клинических ситуаций, этические стандарты для клинических исследований, процедуры утилизации ИИ-систем с защитой персональных данных. Положения Кодекса будут регулярно актуализироваться с учетом развития технологий и новых вызовов в сфере ИИ.

В работе над документом приняли участие ведущие медицинские и научные учреждения, технологические компании и этические комитеты, включая: ФГАОУ ВО РНИМУ им. Н.И. Пирогова, ФГАОУ ВО Первый МГМУ им. И.М. Сеченова, Томский НИМЦ, ФГБОУ ВО Казанский ГМУ, ЧОУ ВО КИУ им. В.Г. Тимирясова, ФГБОУ ВО ТвГМУ, НИУ ВШЭ, МГИМО, ГБУЗ «НПКЦ ДиТ ДЗМ», МГНОТ, MeDiCase (МТП Ньюдиамед), ООО «Медицинские Скрининг Системы» («Цельс»), Ассоциация «РУССОФТ», ООО «К-СКАЙ» (Webiomed), ООО «СберМедИИ», ООО «ФтизисБиоМед», Softline, ПАО «Сбербанк», Globus IT, АНО ОТО МКЭ, Межвузовский комитет по этике, Независимый междисциплинарный Комитет по этической экспертизе клинических исследований.