Постановление о Рекомендациях по нормативному регулированию использования искусственного интеллекта, включая этические стандарты для исследований и разработок |
|
Межпарламентской Ассамблеи государств — участников Содружества Независимых Государств |
|
Рассмотрев представленный Постоянной комиссией МПА
СНГ
1. Принять Рекомендации по нормативному регулированию использования искусственного интеллекта, включая этические стандарты для исследований и разработок (прилагаются). 2. Направить указанные рекомендации в
парламенты государств — участников Межпарламентской Ассамблеи СНГ и
рекомендовать |
|
Председатель Совета Ассамблеи |
В. И. Матвиенко |
|
Санкт-Петербург 14 апреля 2023 года № 55-23 |
Приложение
к постановлению МПА СНГ
от 14.04.2023 № 55-23
Межпарламентская Ассамблея государств — участников
Содружества Независимых Государств
РЕКОМЕНДАЦИИ
по нормативному регулированию
использования искусственного интеллекта,
включая этические
стандарты для исследований и разработок
Развитие технологий искусственного интеллекта (ИИ) становится серьезным вызовом для правовой системы государств — участников Содружества Независимых Государств (СНГ), системы государственного управления и общества в целом. Это обусловлено, с одной стороны, неуклонным повышением степени автономности действий систем ИИ в решении задач, вызванных технологическим прогрессом, экономической и политической конкуренцией, с другой стороны, низким уровнем правовой определенности в вопросах использования систем ИИ.
В государствах — участниках СНГ, с учетом общего исторического прошлого, тесных экономических связей и заинтересованности в дальнейшем сотрудничестве, целесообразно развивать единый системный подход к интеграции правовых и этических норм в государственную политику в сфере ИИ. Объединенные усилия важно направить на продвижение ответственного, открытого и безопасного подхода к процессу внедрения и использования систем ИИ в странах Содружества.
Основываясь на принципах Концепции сотрудничества государств — участников Содружества Независимых Государств в области цифрового развития общества и Плана первоочередных мер по ее реализации, принятых Советом глав правительств СНГ в октябре 2019 года, а также на международном опыте разработки сходных документов, Межпарламентская Ассамблея предлагает руководствоваться следующими рекомендациями по нормативному регулированию использования ИИ, включая этические стандарты для исследований и разработок.
1. ОБЩИЕ ПОЛОЖЕНИЯ
1.1. Цель Рекомендаций
Целью настоящих Рекомендаций является определение единых основ формирования системы правовых и этических норм, призванных стимулировать разработку и применение систем ИИ в различных отраслях экономики государств — участников СНГ с соблюдением прав граждан и обеспечением безопасности личности, общества и государства.
1.2. Основные понятия
Для целей настоящих Рекомендаций используются следующие основные понятия:
искусственный интеллект (ИИ) — комплекс технологических решений, позволяющий имитировать когнитивные функции человека, включая самообучение и поиск решений без заранее заданного алгоритма, и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека;
система искусственного интеллекта — множество элементов, находящихся в отношениях и связях друг с другом и образующих определенную целостность, которая содержит искусственный интеллект.
1.3. Приоритетные задачи развития сферы ИИ
К приоритетным для развития сферы ИИ в государствах — участниках СНГ рекомендуется относить следующие задачи:
1) поддержка научных исследований с целью обеспечения развития ИИ на мировом уровне;
2) разработка и развитие программного обеспечения, в котором используются технологии ИИ;
3) повышение доступности и качества данных, необходимых для развития технологий ИИ;
4) повышение доступности и уровня развития аппаратного обеспечения, необходимого для решения задач в сфере ИИ;
5) повышение уровня обеспечения рынка технологий ИИ квалифицированными кадрами;
6) повышение уровня информированности населения о технологиях ИИ;
7) создание комплексной системы регулирования общественных отношений, возникающих в связи с использованием и дальнейшим развитием технологий ИИ, на основе единых подходов.
2. ПРАВОВЫЕ И ЭТИЧЕСКИЕ ПРИНЦИПЫ РЕГУЛИРОВАНИЯ
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
2.1. Правовые принципы регулирования
При формировании регулирования в сфере ИИ рекомендуется использовать следующие правовые принципы.
2.1.1. Защита прав граждан
Не допускается использование ИИ и систем ИИ, нарушающее права и свободы граждан, на любом из этапов технологического цикла, от разработки до завершения использования. При разработке, обучении и внедрении систем ИИ необходимо соблюдать права и свободы граждан, включая право на защиту персональных данных, право на неприкосновенность частной жизни, личную и семейную тайну.
2.1.2. Минимизация рисков
Разработчикам, операторам систем ИИ и иным лицам, участвующим в разработке, внедрении и использовании систем ИИ, следует принимать меры, направленные на минимизацию рисков нарушения прав и свобод граждан, а также рисков для безопасности общества и государства.
2.1.3. Открытость для технологического развития
Представителям публичной власти в государствах — участниках СНГ следует создавать необходимые условия для развития отрасли ИИ с учетом актуальных потребностей индустрии. Государственную политику рекомендуется направить на поощрение научных и коммерческих разработок в сфере ИИ, создание благоприятных условий для жизни и труда квалифицированных кадров и ведения высокотехнологичного бизнеса, а также на международную кооперацию и сотрудничество в сфере ИИ.
2.1.4. Риск-ориентированный подход
Законодательным органам в государствах — участниках СНГ при регулировании ИИ не следует создавать необоснованные регуляторные барьеры для технологического развития. Регулирование в сфере ИИ должно учитывать потребности отрасли и вероятность реализации рисков, от которых планируется защита субъектов.
2.1.5. Профессиональная оценка
Для оценки потенциальных рисков, возникающих при использовании систем ИИ и развитии ИИ, следует привлекать профильных специалистов по конкретному вопросу в сфере ИИ, которые могут предоставить по запросу необходимую информацию, основанную на проведенных научных исследованиях и (или) верифицируемых данных о практическом опыте.
2.1.6. Баланс интересов
При разработке и принятии нормативных правовых актов следует соблюдать баланс интересов между технологическим развитием и защитой прав граждан, общества и государства. Государствам — участникам СНГ рекомендуется предусмотреть механизмы и процедуры, направленные на принятие сбалансированных решений при возникновении противоречий.
2.1.7. Технологический суверенитет
Согласованную государственную политику государств — участников СНГ в сфере ИИ рекомендуется направить на развитие информационных технологий и обеспечение необходимого уровня технологического суверенитета на пространстве СНГ.
2.1.8. Исключительность военной сферы
По вопросам применения систем ИИ и кооперации в военной сфере рекомендуется разрабатывать специальное регулирование, направленное на обеспечение безопасности и защиту государственных интересов. Положения настоящих Рекомендаций рассчитаны на системы ИИ, применяемые исключительно в гражданских целях.
2.1.9. Поддержка конкуренции
Рекомендуется обеспечить равные для всех субъектов предпринимательской деятельности экономические возможности по коммерциализации использования систем ИИ, возможности защиты от злоупотреблений доминирующим положением и соглашений, ограничивающих конкуренцию на территории государств — участников СНГ. Также рекомендуется обеспечить равный доступ к данным из государственных и муниципальных информационных систем, необходимым для обучения ИИ. При обеспечении равного доступа возможно установление определенных ограничений и обязательств, направленных на защиту прав и свобод граждан, интересов общества и государства, если обеспечивается их применение на равной основе ко всем субъектам.
2.1.10. Расширение сферы саморегулирования
По вопросам, которые не создают рисков или создают минимальные риски для прав и свобод граждан, интересов общества и государства, рекомендуется стимулировать применение добровольных стандартов и иных форм «мягкого права».
2.1.11. Гармонизация законодательства
Государствам — участникам СНГ следует координировать развитие правового регулирования сферы ИИ на основе единых подходов по ключевым вопросам для формирования единого рынка ИИ.
2.2. Этические принципы регулирования
Для регулирования ИИ рекомендуется обеспечить применение и развитие следующих этических принципов:
1) приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод;
2) запрет на причинение вреда человеку в результате работы систем ИИ;
3) подконтрольность человеку в той мере, в которой это технически возможно;
4) проектируемое соответствие закону, в частности требованиям безопасности;
5) объяснимость функционирования систем ИИ, включая критерии для принятия автоматизированных решений;
6) определение лиц, ответственных за действия конкретных систем ИИ;
7) недопущение манипуляции поведением человека для противоправных целей;
8) недопущение дискриминации граждан при использовании систем ИИ для противоправных целей.
3. ОСНОВНЫЕ НАПРАВЛЕНИЯ НОРМАТИВНОГО РЕГУЛИРОВАНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Для обеспечения единого концептуального подхода к регулированию систем ИИ рекомендуется разрабатывать следующие направления нормативного регулирования.
3.1. Разработка единой терминологической базы
Отсутствие единого понимания терминов препятствует формированию системного подхода к регулированию любой сферы, включая ИИ. В рамках данного направления рекомендуется выработать глоссарий, в котором будет зафиксирован единый подход к определению терминов, используемых в сфере ИИ, для государств — участников СНГ.
3.2. Обеспечение необходимого уровня безопасности систем ИИ
3.2.1. Общие требования к безопасности
Обеспечение необходимого уровня безопасности систем ИИ является ключевым условием внедрения технологий ИИ. Законодательство государств — участников СНГ уже содержит общие требования к безопасности продуктов (товаров, работ и услуг), однако с учетом развития технологий ИИ рекомендуется систематизировать и уточнить такие требования применительно к системам ИИ.
Развитие правового регулирования в сфере обеспечения информационной безопасности рекомендуется осуществлять с учетом целей, задач и содержания законодательства государств — участников СНГ об информационной безопасности, включая правовое регулирование критической информационной инфраструктуры и защиту персональных данных граждан государств — участников СНГ.
3.2.2. Разработка единых технических требований
Для эффективного внедрения технических решений на основе ИИ на территории государств — участников СНГ важно обеспечить единство технических требований, включая различные стандарты и процедуры сертификации. Рекомендуется сформировать единый подход к техническим требованиям, предъявляемым при оценке соответствия систем ИИ. Это позволит осуществлять внедрение и развитие систем ИИ на всем рынке государств — участников СНГ без дополнительных затрат, вызванных различиями в технических требованиях, а также создавать экосистемы сервисов в рамках стран Содружества.
3.2.3. Защита потребителей
С целью защиты прав потребителей при приобретении продуктов (товаров, работ, услуг), основанных на работе систем ИИ, рекомендуется разработать правила, касающиеся:
— реализации существующих прав потребителей с учетом особенностей продуктов (товаров, работ, услуг), функциональность которых определяется и может изменяться системами ИИ;
— подтверждения и оценки соответствия продукции при внедрении в нее ИИ, включая оценку соответствия функциональным требованиям и требованиям безопасности;
— включения в системы ИИ функциональных особенностей, обеспечивающих возможность оператора прекратить деятельность системы ИИ в критической ситуации («красная кнопка»);
— стимулирования выработки и принятия разработчиками и производителями систем ИИ этических норм в области обработки информации, добросовестного информирования об основных функциональных особенностях систем ИИ, а также внедрения систем добровольной сертификации соответствия таким нормам.
3.3. Повышение доверия к системам ИИ
3.3.1. Юридическая ответственность за вред, причиненный в результате работы систем ИИ
Рекомендуется разработать правила, по которым определяется лицо или круг лиц, несущие ответственность за вред, причиненный в результате нарушения работы систем ИИ.
При разработке правил следует учитывать, что в создании и использовании систем ИИ может участвовать широкий круг лиц, из-за чего определение ответственного лица или ответственных лиц становится затруднительным. В связи с этим рекомендуется определить порядок применения общих норм и (или) разработать специальные правила, определяющие ответственных лиц или распределение ответственности между ними. Для этого потребуется принять аргументированное решение, учитывающее существующие подходы к решению проблемы, включая варианты безусловной ответственности, распределенной ответственности по цепочке, страхование с регрессным взысканием, а также предпринять попытку выработки новых или комбинированных подходов.
Следует учитывать, что безусловная ответственность оператора систем ИИ должна быть ограничена в случае технической невозможности оператора воздействовать на заранее определенные алгоритмы.
Также важно учитывать, что повышенные требования к разработчику в части ответственности и (или) формирования компенсационных фондов могут снизить стимулы для развития бизнеса в данной сфере.
3.3.2. Страхование
Рекомендуется определить случаи и условия обязательного страхования ответственности за вред, причиненный в результате действия систем ИИ. Это особенно важно для случаев причинения вреда при труднопредвидимых обстоятельствах.
Требования к определению размера страховых сумм следует дифференцировать в зависимости от рисков, порождаемых системой ИИ, и степени ее автономности.
3.3.3. Прозрачность и объяснимость решений, принимаемых при помощи системы ИИ
Рекомендуется определить случаи, в которых операторы систем ИИ и (или) разработчики обязаны раскрывать или предоставлять информацию конкретным лицам, например уполномоченному органу или потребителю. Информация может включать следующие сведения:
— факт использования систем ИИ;
— исходный код;
— объем и цели обработки данных;
— данные о проведении успешного тестирования безопасного использования ИИ;
— данные о внутренних ограничениях системы ИИ;
— сведения о лице, ответственном за действия системы ИИ;
— сведения об инвесторах в систему ИИ.
Также рекомендуется принять меры, направленные на повышение цифровой грамотности среди широкого круга лиц и на финансирование просветительских проектов в сфере ИИ.
3.4. Обеспечение доступа к данным для обучения и использования систем ИИ в рамках единого подхода
Для повышения эффективности внедрения и развития систем ИИ рекомендуется обеспечить доступ к наибольшему количеству массивов данных. Чем больше полной и актуальной информации предоставляется для систем ИИ, тем выше точность принимаемых решений и ниже вероятность принятия дискриминационного решения, в силу способности системы к самообучению (машинному обучению). Вместе с тем возникает проблема возможного нарушения прав граждан, особенно это касается права на неприкосновенность частной жизни и права на защиту персональных данных.
С целью повышения доступности и качества данных рекомендуется адаптировать законодательства государств — участников СНГ для обеспечения:
— безопасного и ответственного доступа разработчиков систем ИИ к данным и безопасного обмена различными типами данных, включая данные, собираемые государственными органами и медицинскими организациями;
— особых условий (режимов) доступа к данным, включая персональные данные, с целью выполнения научных исследований, обучения систем ИИ и разработки технологических решений на их основе, а также правовых условий для организации идентификации с использованием технологий ИИ.
Одним из ключевых способов решения данной задачи является разработка единых требований к обезличиванию персональных данных, что позволит снизить риски нарушения прав на защиту персональных данных и личную и семейную тайну.
Следует рассмотреть возможность введения специальных оснований для обработки данных, связанных с обучением ИИ, и ухода от практики формальных требований, создающих дополнительные барьеры для развития технологий, но фактически не защищающих права субъектов.
Для существующих режимов профессиональной тайны (врачебная тайна, банковская тайна, тайна связи, адвокатская тайна и другие) рекомендуется проработать вопрос целесообразности и возможности определения условий, при которых субъекты профессиональной тайны вправе привлекать для обработки соответствующих сведений сторонние организации.
Кроме того, рекомендуется определить пределы свободного использования данных системами ИИ таким образом, чтобы обеспечить баланс между защитой интересов правообладателей и развитием технологий.
3.5. Регулирование, способствующее внедрению и использованию систем ИИ
3.5.1. Тестирование технических решений на основе систем ИИ
Рекомендуется разработать проекты актов, позволяющих осуществлять тестирование внедрения новых технологий, включая системы ИИ, на территории всех государств — участников СНГ в рамках экспериментальных правовых режимов (regulatory sandbox). Такая правовая конструкция, являясь формой сотрудничества технологических компаний и государственных органов, позволяет протестировать технологии в условиях, наиболее близких к реальным, отменить на время действие определенных ограничений, содержащихся в законодательстве, преодолеть возможные правовые барьеры (если эксперимент окажется удачным) при обеспечении контроля за соблюдением прав граждан.
3.5.2. Финансирование технического развития
Рекомендуется разработать программы финансовой поддержки организаций, занимающихся разработкой и внедрением технологий ИИ (как малого и среднего бизнеса, так и научных учреждений) в государствах — участниках СНГ. Также рекомендуется создавать дополнительные стимулы для использования и коммерциализации результатов исследований научных учреждений в данной области.
3.5.3. Совершенствование порядка охраны прав на результаты интеллектуальной деятельности
Рекомендуется разработать правила, по которым будет предоставляться охрана произведениям, созданным при помощи систем ИИ с высокой степенью автономности. Для определения правового режима результатов интеллектуальной деятельности, созданных с использованием систем ИИ, необходимо решить вопросы об оригинальности, о наличии творческого и (или) интеллектуального труда при создании произведения, о возможности охраны таких произведений в качестве вложений в процесс обучения системы и создания результата (объект смежного права). При этом необходимо определить пределы допустимого использования произведений, права на которые принадлежат третьим лицам, для целей машинного обучения. Также необходимо рассмотреть вопрос об оптимальном сроке для охраны такого результата.
3.5.4. Просвещение и рынок труда
При выработке государственной политики в сфере занятости рекомендуется учитывать влияние, которое может оказать расширение применения систем ИИ на рынок труда и на востребованность отдельных профессий.
Рекомендуется на государственном уровне решать вопросы подготовки профессиональных кадров в сфере ИИ и обеспечить возможность переподготовки для лиц, чья профессиональная деятельность в большей степени автоматизирована. Также рекомендуется повышать общий уровень цифровой культуры, цифровой грамотности населения наиболее доступными способами, своевременно адаптировать учебные программы в образовательных учреждениях к меняющимся технологическим условиям и складывающемуся в связи с этим рынку труда. Кроме того, рекомендуется создавать благоприятные условия для развития и использования различных возможностей в образовательных целях и поощрять массовую просветительскую деятельность.
С целью привлечения иностранных специалистов высокого уровня в сфере ИИ рекомендуется предусмотреть меры, облегчающие их въезд и работу в государствах — участниках СНГ, а также создавать для них конкурентоспособные условия проживания, включая равный доступ к защите нарушенных прав в административном и судебном порядке.
3.6. Международное сотрудничество
Государствам — участникам СНГ рекомендуется принимать активное участие в разработке международных документов в сфере ИИ, прежде всего в рамках Организации Объединенных Наций и ее специализированных учреждений, Шанхайской организации сотрудничества, БРИКС, Евразийского экономического союза.
Целесообразно также обеспечить активное участие специалистов государств — участников СНГ в разработке международных стандартов и иных документов, в том числе на ключевых международных площадках (Международная организация по стандартизации, Международная электротехническая комиссия, Международный союз электросвязи, Организация экономического сотрудничества и развития, Институт инженеров электротехники и электроники).
4. ЗАКЛЮЧИТЕЛЬНЫЕ ПОЛОЖЕНИЯ
Для целей развития положений настоящих Рекомендаций могут быть приняты модельные законы и иные акты, содержащие:
— определения основных терминов в сфере ИИ;
— этические принципы, стандарты и правила;
— общеобязательные правила, касающиеся одного или нескольких аспектов, указанных в разделах 2–3 настоящих Рекомендаций.
Приняты на пятьдесят пятом
пленарном заседании
Межпарламентской Ассамблеи
государств — участников СНГ
(постановление № 55-23 от 14.04.2023)