Рекомендации Комиссии по реализации Кодекса этики в сфере ИИ по теме: «Прозрачность алгоритмов искусственного интеллекта и информационных систем на их основе»

Обеспечить предсказуемость последствий использования Алгоритма и, как следствие, более высокий уровень доверия к нему со стороны существующих и потенциальных пользователей, а также со стороны третьих лиц, чьи права могут быть затронуты в результате легального использования Алгоритмов.

Как следствие, решение основной задачи прозрачности Алгоритмов позволяет обеспечить:

• реализацию потребителем своего права на осознанный и самостоятельный выбор Алгоритма среди аналогов;
• добросовестность действий Разработчика при раскрытии значимых фактов в отношении Алгоритма;
• накопление и систематизацию значимых для потребителя особенностей поведения Алгоритма как до проектирования информационных систем и сервисов с его использованием, так и в случае возникновения непредвиденных ситуаций;
• возможность распределения ответственности между Разработчиками в сложных информационных системах и сервисах, в которых различные Алгоритмы используются наряду с традиционными методами жесткого программирования поведения таких систем. 

  Последовательное и системное раскрытие значимых фактов в отношении Алгоритмов Разработчиками, которое включает в себя:

  • первичное раскрытие информации об Алгоритме, которое осуществляется Разработчиком при принятии решения о предоставлении широкой общественности информации о его разработке в любой момент времени, обусловленный привлечением инвестиций, грантового финансирования либо иной активности Разработчика;

  • дополнительное раскрытие информации при появлении результатов, значимым образом влияющих на оценку возможных последствий использования Алгоритма;

  • раскрытие информации потенциальному клиенту, предполагающее добросовестное информирование лиц, принимающих решение об использовании или внедрении Алгоритма в тех или иных сферах.

   

  Раскрытие значимых фактов Разработчиками в отношении Алгоритмов может осуществляться в свободном формате, удобном для широкой общественности и отдельных категорий потребителей такой информации, включая форматированные полнотекстовые документы, веб-страницы на корпоративных сайтах,специализированные машиночитаемые форматы для последующего использования в базах данных и инструментах повышения индивидуальной производительности труда (включая цифровые персональные помощники).

   

  При этом Комиссия рекомендует обеспечить неизменность опубликованных документов, а в случае необходимости их изменения – надлежащее версионирование для сохранения доступа к документам, содержавшим ранее опубликованную информацию.

  Комиссия полагает целесообразным со временем сформировать по отдельным значимым фактам надлежащую инфографику, классификаторы и иные способы повышения понятности документов для сокращения временных издержек пользователей при ознакомлении с информацией в отношении значимых фактов прозрачности Алгоритмов.

   

  С учетом специфики деятельности Разработчиков, применение всех без исключения Рекомендаций остается возможной, но не обязательной мерой по обеспечению прозрачности Алгоритмов. При этом меры по обеспечению прозрачности Алгоритмов в отдельных случаях (например, до заключения соглашения с потенциальным заказчиком либо инвестором) могут быть отнесены как к законному интересу заказчика (инвестора), и, как следствие, могут использоваться в качестве одного из условий заключения соглашения. Равно как и отсутствие возможности раскрытия той или иной информации Разработчиком может быть отнесено к законному интересу такового, если соответствующее раскрытие может привести к нарушению коммерческой тайны, о чем потенциальные заказчики уведомляются по их требованию.

   

  Первичное раскрытие информации об Алгоритме осуществляется Разработчиком добровольно, адресовано широкой общественности, общедоступно и содержит следующую информацию о значимых фактах:

  • цели обучения Алгоритма: какие цели были поставлены перед Алгоритмом при его обучении (с использованием простой лексики);
  • метрики оценки эффективности Алгоритма: какая функция от каких параметров оптимизировалась при проведении машинного обучения (с использованием профессиональной лексики, включая математические формулы);
  • состав обучающей выборки данных: какие данные использовались для обучения, были ли это стандартизированные наборы данных, если нет – то указывается метод сбора данных и иные важные особенности, способные по мнению Разработчика повлиять на статистические свойства обучающей выборки по сравнению с генеральной выборкой;
  • использованные алгоритмы машинного обучения: описание на профессиональном языке использованных стандартных алгоритмов и их комбинаций в формате, не нарушающем коммерческие права Разработчиков. 

    Кроме этого, на основании указанных значимых фактов при первичном раскрытии информации от Разработчиков ожидаются аргументированные суждения о следующих значимых фактах:

  • известные Разработчику недостатки обучающей выборки данных, включая указание категорий либо комбинаций свойств объектов, заведомо либо вероятно в ней отсутствующих вследствие источника данных, либо особенностей их сбора;

  • известные Разработчику недостатки использованных Алгоритмов, включая указание на недостатки, которые обусловлены их комбинацией;
  • результаты, полученные Разработчиком на собственных тестовых выборках данных, включая индикативное информирование о доле ложно-положительных и ложно- отрицательных рекомендаций при их применимости, а также характеристиках объектов, на которых Алгоритм работает лучше или хуже, чем в среднем на тестовой выборке данных.Комиссия полагает не этичным для Разработчиков намеренно затруднять идентификацию потребителями недостатков обучающей выборки данных или использованных при обучении алгоритмов.