Этика искусственного интеллекта в деятельности ЮНЕСКО

С подачи генерального секретаря ООН А. Гуттереша вопросы глобального гуманитарного сотрудничества по проблематике ИИ были делегированы ЮНЕСКО, мандат которой наиболее полно охватывает текущие и потенциальные сферы применения ИИ и сквозных технологий. Старт практической деятельности по данной теме совпал с избранием в 2017 г. нового генерального директора ЮНЕСКО О. Азуле — бывшего министра культуры и коммуникаций Франции в правительстве Ф. Олланда, взявшей новое направление под личный контроль и покровительство.

Основной акцент в «цифровой» деятельности ЮНЕСКО на период 2020–2021 гг. сделан на подготовке проекта текста Рекомендации по этике ИИ при содействии Специальной группы экспертов (в целях обеспечения максимальной инклюзивности каждый эксперт утверждался О. Азуле лично). Согласно опубликованному графику, Рекомендация должна быть представлена для утверждения странами-членами в ходе 41-й сессии Генеральной конференции ЮНЕСКО, намеченной на осень 2021 г.

Содержательная основа проекта Рекомендации об этических аспектах ИИ должна была, не выходя за рамки, следовать следующим базовым принципам ЮНЕСКО:

— Рекомендация должна поощрять поиск, а в идеале — заложить общую для всех стран — членов ЮНЕСКО основу «интеллектуальной и нравственной солидарности человечества» в сфере этики ИИ;

— Рекомендация не должна подталкивать страны-члены к делегированию контрольно-надзорных функций неким международным регуляторам, включая структуры, относящиеся к системе ЮНЕСКО, поскольку «Организация отказывается от всякого вмешательства в дела, по существу входящие во внутреннюю компетенцию этих стран»;

— Рекомендация может и должна соответствовать «интересам обеспечения всеобщего уважения справедливости, законности и прав человека, а также основных свобод, провозглашенных в Уставе ООН». Это означает, что документ должен учитывать национальные подходы стран-членов к пониманию сути прав человека и допустимым пределам их ограничения и не противоречить им. В ситуациях, при которых отсутствует общее видение или консенсус, Секретариат должен проводить ревизию соответствующих частей текста вплоть до полного изъятия из него всех спорных и неоднозначных формулировок;

— Рекомендация должна поддерживать страны — члены ЮНЕСКО «предоставлять всем людям полные и равные возможности для […] беспрепятственных исканий истины и свободного обмена мыслями и знаниями». Иными словами, разный технологический потенциал государств не может являться объективным основанием для молчаливого узаконивания практики «позитивной дискриминации» в угоду интересам развитых стран. Распространенная в международных отношениях схема «подтягивания» развивающихся стран и регионов до определенного уровня или стандарта на условиях, подразумевающих принятие в «пакете» с технологической помощью предустановленных идеологических, морально-этических, культурных и других установок (особенно активно этим «промышляют» США и страны Евросоюза), не должна акцептироваться ООН и ее структурными подразделениями […]»;

— Рекомендация, среди прочего, может содержать призыв к странам — членам ЮНЕСКО способствовать «сохранению, увеличению и распространению знаний» по этике ИИ, а также «поощрять сотрудничество народов во всех областях умственной деятельности».

Однако будем честны: неукоснительное следование указанным выше принципам, конечно, вряд ли возможно. Осознавая современные реалии межгосударственного сотрудничества на ведущих международных площадках, надежда выработать справедливый и сбалансированный документ по этике ИИ изначально представлялась не более чем иллюзорной.

Окончательно «убил интригу» откровенно волюнтаристский подход Секретариата ЮНЕСКО к учету и отражению в тексте проекта документа мнений и аргументов, входящих в Специальную группу экспертов: мнения и доводы «немейнстримовых» членов спецгруппы отвергались или просто игнорировались. Кроме того, на протяжении всей многомесячной экспертной работы складывалось впечатление, что некоторые ответственные сотрудники Секретариата, а также ряд якобы «независимых» экспертов из разных стран мира, фактически действовали в унисон и при этом с оглядкой на всем известные западные ИИ-гиганты, а не на Устав ЮНЕСКО.

Свое слово сказало и французское лобби в ЮНЕСКО. Пользуясь спортивной терминологией, французы выжали максимум из имевшегося у них преимущества «своего поля» (известно, что О. Азуле очень благосклонно относится к инициативам, исходящим из Елисейского дворца, что, в свою очередь, поддерживается на исполнительском уровне, на котором доминируют граждане Франции, замещающие около трети всего штатного состава ЮНЕСКО).

За, казалось бы, общими благими формулировками и призывами, по ходу документа обнаруживались идеи скрытого протекционизма в интересах крупного капитала. По всей видимости, эти же лица лоббировали появление в тексте Рекомендации прозападных политических установок, императивно подталкивающих страны — члены ЮНЕСКО к одному единственному алгоритму действий при реализации ключевых положений Рекомендации. В нарушение уставных принципов поддержки и защиты этнокультурного многообразия и самобытности мировому сообществу, далеко неоднородному по своей природе, предлагается ориентироваться на этические нормы, рамки и меры оценки работы систем ИИ, выработанные исключительно на базе неоднозначных неолиберальных правочеловеческих стандартов и ценностей.

По этим и некоторым другим причинам текст проекта документа получился в целом несбалансированным и тяжеловесным как с научно-технической, так и с политико-правовой точек зрения.

На примере нешуточного внешнего воздействия на процесс разработки Рекомендации по этике ИИ становится все очевиднее, что нынешняя недостаточная вовлеченность нашей страны в продвижении собственных интересов в сфере ИИ и сквозных технологий на международной арене многократно умножает риски, связанные с развитием, применением и регулированием цифровых технологий в самой России. Пассивная позиция на политическом и экспертном уровнях, а также отстраненность отечественного бизнеса в среднесрочной перспективе грозят:

— потерей конкурентного преимущества и возможностей извлекать прибыль из российских наработок в сфере цифровых технологий;

— необходимостью реагировать «по факту», то есть подстраиваться под выработанные без учета российских национальных и бизнес-интересов решения международного сообщества по регулированию цифровой отрасли, отдельных ее элементов и технологий, прежде всего ИИ;

— частичной, а при неблагоприятном сценарии — полной потерей Россией своего цифрового суверенитета, включая широкие легальные возможности для иностранных владельцев ИИ-технологий проникать на внутрироссийский рынок с целью формирования поведенческих моделей и идеологических воззрений у россиян, извлекая при этом еще и огромную финансовую прибыль.

Таким образом, несмотря на не слишком оптимистичный вектор развития тематики ИИ в ЮНЕСКО, отстраняться и уж тем более отказываться от работы по этому направлению не стоит. Наоборот, представляется крайне важным вести дело к оперативной мобилизации всех имеющихся средств и возможностей, включая активное привлечение отечественного бизнеса, в целях наступательного продвижения объединенной российской ИИ-повестки в ООН и других ведущих международных организациях. России пока еще вполне по силам «вклиниться» в процесс формирования правил «игры» на глобальном цифровом рынке, например, путем формирования пула сторонников из числа стран, не испытывающих большого желания следовать в фарватере навязываемой «коллективным Западом» унифицированной модели цифрового развития.

Вопросы политики, права и перспективы равноправного международного цифрового сотрудничества

Проблематика искусственного интеллекта (ИИ), несмотря на, казалось бы, сугубо техническое преломление, в последние годы плотно вошла в политическую и гуманитарную повестку ООН. Значительную роль в этом сыграли принятые на саммите Всемирной организации в 2015 г. цели устойчивого развития (ЦУР), представляющие собой список из 17 глобальных целей и 169 задач. Успешная реализация большинства из них связана с необходимостью консолидировать усилия человечества по перезапуску привычной, но стремительно устаревающей социально-экономической и политической формации общества в виде его технологически более совершенной «цифровой» версии. Предполагается, что переход от третьей к четвертой промышленной революции (характеризуется развитием и массовым внедрением киберфизических систем в глобальное производство) позволит наработать и задействовать дополнительные резервы в целях стимулирования роста мировой экономики, повсеместной ликвидации бедности, снижения негативного воздействия человека на окружающую среду и т.д. Необходимыми предпосылками такой трансформации являются внедрение во все ключевые сферы жизни общества принципиально новой технологической базы, способной ускорить эволюцию основных социально-экономических процессов, а также создать новые и повысить эффективность существующих производственных цепочек. Ведущая роль в этом отводится «умным» высокотехнологичным системам, использующим в своей работе ИИ или его отдельные компоненты.

Олег Гуров:
Этические вопросы искусственного интеллекта: мост между человеком и технологией

Выбор ЮНЕСКО не случаен

На сегодняшний день особую актуальность в международном дискурсе, включая площадки ООН, получили темы, связанные с вопросами:

а) выработки неких общепризнанных «золотых» стандартов технического и нормативного регулирования ИИ;

б) определения допустимых «пределов» развития и воздействия алгоритмических систем на человека;

в) правоприменительной практики как на международном, так и на национальном уровнях.

С подачи генерального секретаря ООН А. Гуттереша вопросы глобального гуманитарного сотрудничества по проблематике ИИ были делегированы ЮНЕСКО, мандат которой наиболее полно охватывает текущие и потенциальные сферы применения ИИ и сквозных технологий. Старт практической деятельности по данной теме совпал с избранием в 2017 г. нового генерального директора ЮНЕСКО О. Азуле — бывшего министра культуры и коммуникаций Франции в правительстве Ф. Олланда, взявшей новое направление под личный контроль и покровительство. Она с энтузиазмом откликнулась на инициативу высшего руководства ООН выстроить на площадке Всемирной организации некий многоуровневый механизм, отвечающий за координацию глобальных процессов по цифровизации общества. Свою миссию на треке ИИ О. Азуле охарактеризовала слоганом: «Искусственный интеллект с человеческими ценностями в интересах устойчивого развития».

Основной акцент в «цифровой» деятельности ЮНЕСКО на период 2020–2021 гг. сделан на подготовке проекта текста Рекомендации по этике ИИ при содействии Специальной группы экспертов (в целях обеспечения максимальной инклюзивности каждый эксперт утверждался О. Азуле лично)^[1]. Согласно опубликованному графику, Рекомендация должна быть представлена для утверждения странами-членами в ходе 41-й сессии Генеральной конференцией ЮНЕСКО, намеченной на осень 2021 г.

Максим Карлюк:
Этические и правовые вопросы искусственного интеллекта

Геополитический фактор

Фокус внимания на цифровые технологии в целом и ИИ в частности со стороны А. Гуттереша и О. Азуле не случаен: с 90-х гг. ХХ в. кризис всей ооновской системы нарастает как снежный ком. Большинство участников международного процесса открыто говорят о том, что погрязшая в интригах и бюрократии Всемирная организация оказалась неспособна эффективно работать над достижением своих главных уставных целей, включающих в себя поддержание мира и безопасности, борьбу с бедностью, ускорение глобального экономического роста, обеспечение доступности качественной медицины и образования, защиту прав человека, борьбу с изменением климата и др. Ярким примером глубокого аппаратного кризиса ООН стала затеянная на рубеже XX–XXI веков институциональная реформа, затронувшая в том числе главный политический орган — Совет Безопасности. Процесс трансформации, а, по большей части, его имитация, продолжается и по сей день, поскольку Организация плотно увязла в трясине межгосударственных противоречий и взаимных претензий без каких-либо осязаемых шансов на скорые прорывные решения и договоренности. По этой причине в ООН по многим действительно важным международным проблемам принимаются компромиссные полумеры или временные «технические» решения, которые устраивают незначительное число членов Организации.

На этом фоне вопросы регулирования ИИ и смежных технологий, защиты персональных данных и свободы Интернета отвоевывают себе все больше и больше места в актуальной повестке ООН. С одной стороны, это объективный процесс, обусловленный стремительной «цифровизацией» общества и неуклонно возрастающим значением этого тренда для глобальной экономики, балансирующей на грани рецессии более десятка лет. С другой — данная проблематика в силу своей относительной новизны характеризуется (пока что!) отсутствием глубинных и непреодолимых противоречий по религиозным, расовым или этнокультурным признакам между большинством стран и регионов мира. Это одна из немногих возможностей продемонстрировать реальную, а не «бумажную», эффективность ООН и укрепить пошатнувшийся в последние десятилетия имидж Организации.

Таким образом, первоочередная цель выработки под эгидой ЮНЕСКО универсальной Рекомендации по этике ИИ вполне очевидна — в случае успеха предпринимаемых А. Гуттерешем и Секретариатом ЮНЕСКО усилий по «переориентации» ООН на темы ИИ и смежных технологий, Всемирная организация получит новую точку опоры для отскока со дна изрядно затянувшегося кризиса. Создание полноценного «работающего» (а не декларативного) международного цифрового сотрудничества станет той самой спасительной повесткой, которая задаст новый вектор деятельности ООН и, вероятно, сдвинет с мертвой точки реформу этой громоздкой бюрократической системы.

Понимание сложившейся ситуации естественным образом наводит на одну простую мысль: вне зависимости от того, каким на выходе будет текст Рекомендации ЮНЕСКО, сам факт разработки первого в своем роде глобального документа по проблематике ИИ представляется важным элементом в новом «цифровом измерении» деятельности ООН. В случае принятия Рекомендации странами-членами, она практически при любом раскладе окажет позитивное воздействие на имидж ЮНЕСКО и всей ооновской машины. Таким образом, становится очевидно, что вопрос о гипотетической нецелесообразности запуска работы над этим документом на политическом уровне никогда не поднимался. Наоборот, находясь еще на ранней стадии экспертной проработки, данный проект Рекомендации (уже!) расценивался ооновским руководством и лично О. Азуле в качестве одной из опор новой международной архитектуры цифрового сотрудничества под эгидой Всемирной организации, где ЮНЕСКО отведена роль основной движущей силы. При этом задачи, которые должны решаться в странах-членах в случае принятия Рекомендации на Генконференции ЮНЕСКО в 2021 г., на самом деле, не так уж и важны. Главное — это активная демонстрация прогресса в работе над документом, свидетельствующего о перспективности нового «цифрового измерения» на фоне многочисленных глубинных проблем и противоречий геополитического характера в современной системе международных отношений.

Максим Федоров:
Искусственный интеллект — это не терминатор и не сверхсущество с благими намерениями

Мандат и уставные цели ЮНЕСКО в контексте ИИ

Существует мнение, что еще в период принятия решения о необходимости разработки некоего глобального документа по ИИ и/или на стадии формулирования контуров будущей Рекомендации, фокус внимания Секретариата ЮНЕСКО был направлен на решение внутренних задач, связанных с институциональной реформой ООН, а также на повышение собственной важности в глазах международного сообщества. С формальной точки зрения такая линия, безусловно, вступает в противоречие с положениями Устава ЮНЕСКО, обязывающими Секретариат Организации действовать беспристрастно и исключительно в интересах всего человечества (читай: с равным учетом интересов всех стран и народов), а не в интересах международных чиновников.

Исходя из сути преамбулы Устава, а также зафиксированных в ст. 1 Устава целей и задач ЮНЕСКО (определяют рамки и основной вектор международного сотрудничества в сфере образования, науки и культуры), содержательная основа проекта Рекомендации об этических аспектах ИИ должна была, не выходя за рамки, следовать следующим базовым принципам ЮНЕСКО:

— Рекомендация должна поощрять поиск, а в идеале — заложить общую для всех стран — членов ЮНЕСКО основу «интеллектуальной и нравственной солидарности человечества» в сфере этики ИИ;

— Рекомендация не должна подталкивать страны-члены к делегированию контрольно-надзорных функций неким международным регуляторам, включая структуры, относящиеся к системе ЮНЕСКО, поскольку «Организация отказывается от всякого вмешательства в дела, по существу входящие во внутреннюю компетенцию этих стран»;

— Рекомендация может и должна соответствовать «интересам обеспечения всеобщего уважения справедливости, законности и прав человека, а также основных свобод, провозглашенных в Уставе ООН». Это означает, что документ должен учитывать национальные подходы стран-членов к пониманию сути прав человека и допустимым пределам их ограничения и не противоречить им. В ситуациях, при которых отсутствует общее видение или консенсус, Секретариат должен проводить ревизию соответствующих частей текста вплоть до полного изъятия из него всех спорных и неоднозначных формулировок;

— Рекомендация должна поддерживать страны — члены ЮНЕСКО «предоставлять всем людям полные и равные возможности для […] беспрепятственных исканий истины и свободного обмена мыслями и знаниями». Иными словами, разный технологический потенциал государств не может являться объективным основанием для молчаливого узаконивания практики «позитивной дискриминации» в угоду интересам развитых стран. Распространенная в международных отношениях схема «подтягивания» развивающихся стран и регионов до определенного уровня или стандарта на условиях, подразумевающих принятие в «пакете» с технологической помощью предустановленных идеологических, морально-этических, культурных и других установок (особенно активно этим «промышляют» США и страны Евросоюза), не должна акцептироваться ООН и ее структурными подразделениями. Согласно своему Уставу, ЮНЕСКО призвана защищать равноправие входящих в нее стран-членов, а также обязана четко фиксировать в своих документах, что, например, процесс разработки и последующего внедрения этики ИИ не должен монополизироваться и каким-либо образом навязываться третьим странам со стороны владельцев технологий и аффилированных с ними разработчиков программного обеспечения или «выразителей общественного мнения»;

— Рекомендация, среди прочего, может содержать призыв к странам — членам ЮНЕСКО способствовать «сохранению, увеличению и распространению знаний» по этике ИИ, а также «поощрять сотрудничество народов во всех областях умственной деятельности», т.е. отражать только те сферы и подходы к взаимодействию по ИИ, которые объективно находят понимание и поддержку у всех вовлеченных в эту работу государств. Таким образом, текст Рекомендации не должен сводиться к детальной кодификации этических правил и норм для систем ИИ, а, наоборот, призван лишь формировать общий для всех стран — членов ЮНЕСКО фундамент, на котором они смогут самостоятельно выстроить соответствующий национальной специфике свод этических норм (законов) для технологий ИИ.

Однако будем честны: неукоснительное следование указанным выше принципам, конечно, вряд ли возможно. Идеальные условия без влияния внешних факторов существуют, пожалуй, лишь в рамках лабораторных исследований. По этой причине, а также осознавая современные реалии межгосударственного сотрудничества на ведущих международных площадках, надежда выработать справедливый и сбалансированный документ по этике ИИ изначально представлялась не более чем иллюзорной.

Окончательно «убил интригу» откровенно волюнтаристский подход Секретариата ЮНЕСКО к учету и отражению в тексте проекта документа мнений и аргументов, входящих в Специальную группу экспертов: мнения и доводы «немейнстримовых» членов спецгруппы отвергались или просто игнорировались. Кроме того, на протяжении всей многомесячной экспертной работы складывалось впечатление, что некоторые ответственные сотрудники Секретариата, а также ряд якобы «независимых» экспертов из разных стран мира, фактически действовали в унисон и при этом с оглядкой на всем известные западные ИИ-гиганты, а не на Устав ЮНЕСКО. Забегая вперед, отметим, что за, казалось бы, общими благими формулировками и призывами, по ходу документа обнаруживались идеи скрытого протекционизма в интересах крупного капитала. По всей видимости, эти же лица лоббировали появление в тексте Рекомендации прозападных политических установок, императивно подталкивающих страны — члены ЮНЕСКО к одному единственному алгоритму действий при реализации ключевых положений Рекомендации. В нарушение уставных принципов поддержки и защиты этнокультурного многообразия и самобытности мировому сообществу, далеко неоднородному по своей природе, предлагается ориентироваться на этические нормы, рамки и меры оценки работы систем ИИ, выработанные исключительно на базе неоднозначных неолиберальных правочеловеческих стандартов и ценностей. Стоит ли удивляться, что такие «стандарты» по большей части распространены в странах «коллективного Запада»?

По этим и некоторым другим причинам текст проекта документа вместо того, чтобы стать компактным и изящным результатом творческих усилий видных представителей международного научного сообщества, получился в целом несбалансированным и тяжеловесным как с научно-технической, так и с политико-правовой точек зрения.

Людмила Гонтарь:
Правовое регулирование ИИ и принцип «сетевой нейтральности»

В поиске баланса

С первого дня работы специальной международной группы экспертов ЮНЕСКО стало очевидно, что разные научные школы предполагают различное понимание взаимодействия человека и машины. Ряд экспертов были не прочь отразить в тексте Рекомендации такие «связи» человека с ИИ ни много ни мало как «отношения» (relationship), в то время как российское научное сообщество традиционно выступает против такого подхода, поскольку «отношения» подразумевают взаимный интерес и действия сторон, что совершенно невозможно в контексте человека и ИИ. В итоге более чем спорную формулировку удалось заменить на корректную и эмоционально нейтральную — «взаимодействие» (interaction). Однако все черновые версии Рекомендации испытывали явный дефицит научных подходов к описанию различных аспектов воздействия ИИ на человека и общество.

Однако, в чем не было никакого дефицита, так это в гендерной проблематике, плотно «оккупировавшей» себе одно из центральных мест в правочеловеческом блоке вопросов как в финальной, так и во всех ранних версиях документа. Это тем более странно, что с древнейших времен и по сей день одним из принципиальных и по сути неустранимых раздражителей в межгосударственных отношениях является проблема разжигания ненависти и дискриминации по признакам расы, цвета кожи, вероисповедания и языка, но никак не по признакам гендера. Каждый день в информсводках (мы все этому свидетели) проходит масса информации о непрекращающихся старых или новых этнических и религиозных конфликтах в Северной Америке, Западной и Восточной Европе, Африке, Ближнем Востоке, Средней Азии…. Тем не менее в правочеловеческом блоке вопросов текста Рекомендации на первый план Секретариат ЮНЕСКО выводит вопросы гендерного равноправия, причем с заделом на их расширенное толкование, выходящее за рамки классической связки мужчина-женщина.

В эпоху очевидного культивирования в международном дискурсе темы защиты прав ЛГБТ-сообщества, ряд стоящих за этим процессом стран «коллективного Запада» ведут дело к официальному закреплению в повестке ООН и других авторитетных организаций именно расширенного подхода к пониманию «гендера». Однако с научно-технической точки зрения ИИ не имеет половой принадлежности и не может быть каким-либо образом ассоциирован или, наоборот, не ассоциирован с группой лиц, принадлежащей к тому или иному сексуальному меньшинству. Сама постановка вопроса для сути данной Рекомендации является бессмысленной, поскольку ничего не добавляет к раскрытию темы взаимодействия человека со сложными алгоритмическими системами. Смысл появляется, только если рассматривать документ как идеологически-заряженный инструмент воздействия на страны — члены ЮНЕСКО с целью их приобщения к «передовым» правочеловеческим стандартам «цивилизованного» сообщества.

Стремление Секретариата ЮНЕСКО навязывать свою волю и отдельные политические установки странам-членам, обходя при этом мнения экспертов, отмечалось не только в вопросах гендера. По итогам нескольких раундов обсуждений отчетливо проявился императивный стиль Секретариата к составлению большинства смысловых блоков текста Рекомендаций. Любая более или менее конкретно сформулированная мысль, либо идея сопровождалась настойчивым призывом к государствам-членам применять ее на практике именно так, как это прописано в документе, т.е. буквально. Стилистика языка включала в себя повсеместное использование модального глагола «should», автоматически накладывающего моральные обязательства на страны-члены, поскольку речь в таком случае идет о настоятельной рекомендации.

Реагируя на выбранный Секретариатом язык, эксперты специальной группы договорились, что формулировки параграфов документа, начинающиеся с директивного «should», будут изменены на в целом нейтральный вариант — «encouraged». Среди аргументов звучали в том числе тезисы о том, что ЮНЕСКО не следует диктовать суверенным государствам, какие положения Рекомендации и каким образом они должны выполнять, поскольку существует масса стран, для которых ИИ — это всего лишь набор определений из Википедии, а сами ИИ-технологии у них мало где используются или не используются вовсе. Несмотря на эти возражения, финальная на сегодняшний день редакция текста по-прежнему изобилует различного рода прямыми указаниями. По мнению Секретариата, слабое техническое развитие стран не является достаточным основанием для отказа от разработки на национальном уровне нормативных документов в области ИИ (!).

Помимо этого, ряд экспертов отмечал, что сам характер работы, временные сроки, которые устанавливал Секретариат, а также неясные критерии учета замечаний участников спецгруппы в совокупности не способствовали принятию консенсусных решений. Характерным примером того, как чиновники ЮНЕСКО уходили от неприятной для них дискуссии по сюжетам, в которых просматривался политический заказ и ангажированность, стала лаконичная и часто повторявшаяся формулировка: «Здесь мы останавливаться не будем». Такую фразу эксперты слышали не раз, в том числе при затрагивании вопросов разработки глобальных стандартов в области ИИ. Упоминание российской стороной вслух того факта, что на разработку полноценных международных стандартов и технических отчетов нужны десятки научно-исследовательских институтов и миллионы человеко-часов, было воспринято как сопротивление воли Секретариата. Высказанное в связи с этим опасение, что, включая в текст Рекомендации неоднозначные положения, эксперты автоматически ставят под угрозу собственную репутацию, было полностью проигнорировано другими «заинтересованными» участниками, активно ратовавшими за наполнение документа такими смелыми идеями. При этом оставшиеся эксперты заняли отстраненно-выжидательную позицию, а специалисты по технической части единодушно отказались от выражения своего мнения.

Отдельно следует остановиться на том, как Секретариат ЮНЕСКО представил (вернее, не представил) экспертной группе результаты проведенного в июле 2020 г. онлайн-опроса стран — членов ЮНЕСКО, а также заинтересованных физических и юридических лиц со всего мира, на предмет оценки и возможного внесения субстантивных предложений в первую редакцию проекта Рекомендации. Несмотря на настойчивые просьбы экспертов предоставить им подробный анализ «обратной связи», включая «сырые» необработанные данные, международные чиновники ограничились лишь общими фразами из серии, что «в целом, такая-то группа стран поддерживает такое-то мнение, а другая группа или регион просят поподробнее отразить в тексте такие-то аспекты».

Подход международных чиновников к организации работы над Рекомендацией, к сожалению, обернулся крахом надежд хотя бы на имитацию таких важных составляющих любой коллективной деятельности, как транспарентность и инклюзивность. Они подменялись (порой весьма топорным способом) некими «общими для всех» интересами с очевидным игнорированием аргументов и предложений, если таковые не вписывались в заранее смоделированную Секретариатом парадигму. Таким образом, в нынешней редакции документ представляет собой по большей части мнение и интересы «уполномоченных» лиц Секретариата ЮНЕСКО (а также стоящих за ним разного рода лоббистов), но никак не экспертной группы.

Олег Шакиров, Евгения Дрожащих:
Искусственный интеллект и его партнёры

ЮНЕСКО на страже внешнеполитических интересов Франции

К слову, помимо внутриооновской аппаратной игры, а также ощущавшегося влияния крупных международных ИИ-корпораций на процесс разработки Рекомендации, свое слово сказало и французское лобби в ЮНЕСКО. Пользуясь спортивной терминологией, французы выжали максимум из имевшегося у них преимущества «своего поля» (известно, что О. Азуле очень благосклонно относится к инициативам, исходящим из Елисейского дворца, что, в свою очередь, поддерживается на исполнительском уровне, на котором доминируют граждане Франции, замещающие около трети всего штатного состава ЮНЕСКО).

Так, в текст Рекомендации был включен ряд междисциплинарных вопросов, не являющихся принципиальными для понимания этических аспектов ИИ, но являющихся принципиальными для действующей администрации Э. Макрона: упоминавшаяся ранее «расширенная гендерная проблематика», а также некая «приверженность» развитых государств добровольному содействию в становлении национальных политик в сфере ИИ в странах третьего мира, включая Африку (континент, традиционно входящий в зону «особой ответственности» Парижа в силу известных исторических связей).

Здесь стоит уточнить, что повышенный интерес официального Парижа к ЮНЕСКО был всегда, что вполне объяснимо хотя бы с точки зрения географического фактора расположения штаб-квартиры Организации, однако на новый уровень этот интерес вывело избрание О. Азуле на пост Гендиректора ЮНЕСКО. Уже в феврале 2018 г., т.е. спустя несколько месяцев после ее вступления в должность, Межминистерский комитет по международному сотрудничеству и развитию при Президенте Франции представил документ о мерах по поддержке внешнеполитических целей и задач Франции на 2018–2022 гг. В числе прочего в нем были очерчены актуальные для Э. Макрона направления применения Францией «мягкой силы» через «гуманитарное содействие» с ежегодным финансированием в размере 0,55% от ВНД страны. Важными геополитическими задачами названы упомянутые:

а) усиление влияния Парижа в бывших колониях Африки (всего указано 19 стран) путем реализации культурно-образовательных, социальных и инфраструктурных проектов;

б) продвижение французского понимания проблематики гендерного равенства, в том числе в рамках многосторонних форматов (международные организации и неформальные объединения государств).

Более того, еще до запуска работы над Рекомендацией по этике ИИ в отчете ЮНЕСКО «Об управлении искусственным интеллектом и передовыми ИКТ в цифровом обществе» (представлен на Форуме ООН по управлению Интернетом в Берлине в ноябре 2019 г.) отмечалось, что ИИ существенно увеличил возможности информационно-коммуникационных технологий, которые могут быть использованы для достижения Целей устойчивого развития ООН. В связи с этим авторы доклада предлагают оценивать развитие ИИ с помощью принятых в ООН индикаторов ROAM (Human Rights, Openness, Accessibility, Multistakeholder Participation) по ключевым категориям: права человека, открытость, доступность и участие всех заинтересованных сторон. Кроме того, в систему оценки включены и междисциплинарные вопросы — гендерное равенство и Африка (!) — те самые ключевые аспекты международной политики Э. Макрона, изящно инкорпорированные в приоритетные направления деятельности ЮНЕСКО. Они же на вполне легальной основе плавно перекочевали в соответствующие смысловые блоки текста Рекомендации.

Стоит ли удивляться, что попытки российской стороны сбалансировать во многом односторонний процесс разработки документа конструктивными предложениями с целью выхода на действительно консенсусные, отвечающие интересам большинства стран, формулировки неоднократно торпедировались Секретариатом?

Антон Колонин:
Следующие цели в гонке ИИ — объяснимость и обучаемость

Учет интересов и равноправие не для всех

Довольно цинично смотрелись отказы международных чиновников принимать в работу и инкорпорировать в текст документа конкретные формулировки и субстантивные предложения, подкрепленные ссылками на уставы ООН и ЮНЕСКО, а также резолюции Генассамблеи ООН, принятые абсолютным большинством стран мира. Речь, в частности, шла о таком важном для России и многих других государств фундаментальном принципе международного права как невмешательство в дела суверенных стран. В контексте смысла Рекомендации он был сформулирован следующим образом (на основе ст.2, аб. 7 Устава ООН и Принципа II (k) Декларации ООН о недопустимости интервенции и вмешательства во внутренние дела государств): «Каждое государство — член системы ООН должно оставаться свободным от любого международного давления, даже если такое давление направлено на ускорение внутреннего развития той или иной страны. Если такая страна имеет намерение ограничить использование на своей территории технологий, связанных с ИИ, или вообще отказаться от их использования, а также отказаться от применения соответствующих этических норм или ограничить их применение в пределах своих национальных границ, то такой выбор должен соответствующим образом соблюдаться и уважаться международным сообществом, особенно в рамках системы ООН».

К сожалению, это и некоторые другие заслуживающие внимания предложения были просто проигнорированы Секретариатом ЮНЕСКО. Российский подход по своей сути противоречил магистральной линии «коллективного Запада» выйти на универсальную для всех стран-членов «инструкцию по применению» с набором готовых политико-правовых шаблонов. Причем более-менее успешно реализовывать принципиальные положения документа страны третьего мира смогли бы только с помощью развитых западных государств и аффилированных с ними ИИ-корпораций.

Таким образом, побочным итогом прошедшей серии экспертных обсуждений и нескольких «сборок» текста Рекомендации стала очевидная «заряженность» Секретариата ЮНЕСКО и некоторых международных экспертов, входящих в спецгруппу, на достижение предопределенного результата. Они, по изложенным выше причинам, в своей работе над документом не учитывали и не собирались учитывать разный технологический потенциал большинства стран мира. Как и ранние версии документа, актуальная редакция Рекомендации фактически «открывает двери» для ситуации, при которой недостаточно развитые государства окажутся перед выбором между «плохим» и «очень плохим» сценариями. Им придется решать, обратиться ли за помощью к технологически более «продвинутым» партнерам (по сути, попасть в подчиненное положение к крупному международному бизнесу) или оказаться на обочине процесса стремительной цифровизации глобальной экономики и общества с очевидной перспективой увеличить и без того значительное технологическое отставание от государств в лидирующей группе.

Складывается впечатление, что тематика ИИ в рамках ЮНЕКСО и, вероятно, всей системы ООН, стремительно обрастает политическим контекстом, накачиваемым в свою очередь экономическими интересами развитых стран и аффилированного с ними бизнеса. Причем тренд на «усложнение» изначально формально технического направления, очевидно, будет только усиливаться, что в недалеком будущем грозит нешуточными баталиями ведущих «игроков» на основных ооновских и не только площадках. Как представляется, борьба за глобальный «цифровой» рынок если еще не началась, то находится в стадии активной подготовки.

Сергей Карелов:
Каким будет место России в мире реализованных ИИ-стратегий?

Международное регулирование ИИ без России?

На примере нешуточного внешнего воздействия на процесс разработки Рекомендации по этике ИИ становится все очевиднее, что нынешняя недостаточная вовлеченность нашей страны в продвижении собственных интересов в сфере ИИ и сквозных технологий на международной арене многократно умножает риски, связанные с развитием, применением и регулированием цифровых технологий в самой России. Пассивная позиция на политическом и экспертном уровнях, а также отстраненность отечественного бизнеса в среднесрочной перспективе грозят:

— потерей конкурентного преимущества и возможностей извлекать прибыль из российских наработок в сфере цифровых технологий. Тенденции таковы, что de facto, а впоследствии и de jure, произойдет закрепление привилегированных позиций за нынешними активными «игроками», стремящимися через международные договоренности получить неограниченный доступ к национальным цифровым рынкам и информпространствам по всему миру;

— необходимостью реагировать «по факту», то есть подстраиваться под выработанные без учета российских национальных и бизнес-интересов решения международного сообщества по регулированию цифровой отрасли, отдельных ее элементов и технологий, прежде всего ИИ;

— частичной, а при неблагоприятном сценарии — полной потерей Россией своего цифрового суверенитета, включая широкие легальные возможности для иностранных владельцев ИИ-технологий проникать на внутрироссийский рынок с целью формирования поведенческих моделей и идеологических воззрений у россиян, извлекая при этом еще и огромную финансовую прибыль.

Таким образом, несмотря на не слишком оптимистичный вектор развития тематики ИИ в ЮНЕСКО, отстраняться и уж тем более отказываться от работы по этому направлению не стоит. Наоборот, представляется крайне важным вести дело к оперативной мобилизации всех имеющихся средств и возможностей, включая активное привлечение отечественного бизнеса, в целях наступательного продвижения объединенной российской ИИ-повестки в ООН и других ведущих международных организациях. России пока еще вполне по силам «вклиниться» в процесс формирования правил «игры» на глобальном цифровом рынке, например, путем формирования пула сторонников из числа стран, не испытывающих большого желания следовать в фарватере навязываемой «коллективным Западом» унифицированной модели цифрового развития. Однако существующее «окно возможностей» стремительно схлопывается, поэтому времени на раздумья и выработку плана действий остается совсем немного.

Авторы выражают искреннюю благодарность за обсуждение вопросов, связанных с этикой ИИ в деятельности ЮНЕСКО: к.ю.н. Д.В. Огородову (Российская ассоциация международного права), к.ист.н. А.С. Лунькову (ИФП УрО РАН), к.э.н. А.В. Абрамовой (МГИМО), А.Г. Игнатьеву (МГИМО), к.ю.н. А.В. Незнамову (ПАО Сбербанк), А.А. Кулешову (МФТИ), к.т.н. П.М. Готовцеву (НИЦ «Курчатовский институт»), А.А. Ждановой (Сколтех).

1. В соответствии с решением 40-й сессии Генеральной конференции ЮНЕСКО (ноябрь 2019 г.), Организации было поручено в течение двух лет разработать первый глобальный нормативный документ об этических аспектах искусственного интеллекта в виде рекомендации для стран-членов.