Итоги G20: робот не должен причинить вред человеку

28–29 июня 2019 г. в Осаке проходила встреча лидеров «Группы двадцати» — формата, возникшего в ответ на вызовы международной финансовой системы и затем трансформировавшегося в ключевую площадку для обсуждения более широкого круга вопросов обеспечения устойчивого экономического роста.

Главным официальным итогом двухдневных дискуссий (и предшествовавшей длительной подготовки на экспертном уровне) стало принятие Осакской декларации лидеров стран «Группы двадцати». На фоне уже достаточно привычных положений данный документ имеет одно существенное отличие от своих предшественников: в нем впервые находит полноправное отражение проблема развития и внедрения технологии искусственного интеллекта (ИИ). В основу поддержанных Принципов «Группы двадцати» в области развития искусственного интеллекта легли (практически слово в слово, за исключением вводной части) Рекомендации ОЭСР по ИИ, принятые 22 мая 2019 г.

Необходимо отметить, что на фоне отсутствия единого международно-правового режима для ИИ (ООН, МСЭ, Всемирный банк находятся в стадии разработки общих и секторальных стандартов) поддержка Рекомендаций ОЭСР на уровне «лидеров» увеличивает роль данной организации как одной из опор системы глобального управления. В условиях, когда «машинное обучение, распознавание образов и автономное планирование» выходят из «исследовательских лабораторий в мир коммерческих приложений», когда искусственный интеллект проникает в самые разные области (от диагностики симптомов пациента до автономизации транспортных средств и прогнозирования урожая агрокультур), когда не обозначены окончательные контуры областей применений ИИ, равно как и трудно предсказуемы потенциальные риски его внедрения, члены «Группы двадцати» продемонстрировали готовность своевременно реагировать на появление нового «параметра» в уравнении «глобального экономического развития».

28–29 июня 2019 г. в Осаке проходила встреча лидеров «Группы двадцати» — формата, возникшего в ответ на вызовы международной финансовой системы и затем трансформировавшегося в ключевую площадку для обсуждения более широкого круга вопросов обеспечения устойчивого экономического роста. Несколько дней мировое сообщество внимательно следило за чередой пленарных сессий и проходивших «на полях» встреч «с глазу на глаз». В центре внимания оказались дискуссии по торгово-экономическим, финансовым, климатическим вопросам. Значительный исследовательский и медийный ажиотаж вызвали встречи президента США Д. Трампа с президентом РФ В. Путиным и с председателем КНР Си Цзиньпином.

При этом главным официальным итогом двухдневных дискуссий (и предшествовавшей длительной подготовки на экспертном уровне) стало принятие Осакской декларации лидеров стран «Группы двадцати». На фоне уже достаточно привычных положений данный документ имеет одно существенное отличие от своих предшественников: в нем впервые находит полноправное отражение проблема развития и внедрения технологии искусственного интеллекта (ИИ). Так, до 2017 г. включительно в лидерских декларациях «Группы двадцати» отсутствовало упоминание ИИ в целом. В 2018 г. в п. 9 лидерской декларации была включена фраза об обязательстве стран G20 продолжать работу над искусственным интеллектом, новыми технологиями и новыми бизнес-платформами в условиях цифровизации экономики. Тем не менее этим ИИ-вопросы ограничивались.

Наталья Еремина:
Саммит «Группы двадцати» в Осаке: большие ожидания и сложности

В 2019 же году в п. 12 декларации появился развернутый пассаж о том, что «искусственный интеллект при условии ответственного подхода к его разработке и использованию может стать движущей силой достижения Целей устойчивого развития и создания устойчивого и инклюзивного общества». Признав важность повышения доверия общественности к еще не изученной в полной мере технологии и сохранения центральной роли интересов человека, лидеры приветствовали Принципы «Группы двадцати» в области развития искусственного интеллекта, ставшие ранее (9 июня 2019 г.) приложением к Совместному заявлению министров торговли и цифровой экономики «Группы двадцати».

Согласно данному документу, страны G20, учитывая имеющийся опыт применения ИИ, выражают намерение сформировать благоприятные условия для разработки, исследования и применения (в том числе малыми и средними предприятиями) «человеко-ориентированного искусственного интеллекта» (human-centered AI). В Совместном заявлении признается значимость ИИ в достижении инклюзивного экономического роста и реализации социально-экономического потенциала граждан государств, входящих в G20. При этом с учетом специфики технологии и морально-этических, правовых и иных рисков ее диффузии, указывается на важность обеспечения ответственного использования технологии и предотвращения возникновения социальных разрывов.

Поддержанные «Группой двадцати» (но не обязательные к исполнению юридически) Принципы представляют собой более детализированную «инструкцию» по минимизации негативных последствий использования искусственного интеллекта. Они включают как сами принципы ответственного управления надежным ИИ, так и рекомендации для учета в формировании национальных политик и международного сотрудничества в сфере применения ИИ.

Сергей Шумский:
Искусственный интеллект: вызовы и угрозы России

Так, общепринятыми принципами (по сути — условиями) развития искусственного интеллекта были признаны:

— содействие инклюзивному росту, устойчивому развитию и благополучию (предполагает увеличение числа бенефициаров использования ИИ, сокращение экономического, социального, гендерного и иного неравенства);

— приоритетность человеческих ценностей и справедливости (подразумевает признание верховенства права, демократических ценностей, защиту прав и свобод человека);

— транспарентность и объяснимость (заключается в обеспечении доступа к общей информации о механизмах функционирования искусственного интеллекта, а также в случае необходимости — об алгоритмах, непосредственно составивших прогноз, рекомендацию или принявших решение);

— надежность, безопасность и стабильность (ИИ-системы, помимо беспрерывного функционирования в нормальных условиях, должны демонстрировать устойчивость к непредвиденным рискам безопасности, а причинно-следственные связи в их работе должны быть отслеживаемыми; предполагается, что разработчики ИИ должны на постоянной основе на каждой фазе разработки осуществлять риск-менеджмент);

— подотчетность (лица или организации, разрабатывающие или внедряющие искусственный интеллект, должны придерживаться перечисленных принципов и нести ответственность за свою деятельность).

Одновременно с этим страны «Группы двадцати» рекомендовали на национальном и международном уровне учитывать при составлении стратегий развития вопросы:

— инвестирования (государственного, государственно-частного) в научные исследования и разработку технологии искусственного интеллекта;

— содействия формированию цифровой экосистемы, благоприятной для исследования и практического применения ИИ, включающей цифровые технологии и инфраструктуру, а также площадки для обмена знаниями и информацией;

— создания правительствами благоприятной правовой основы для плавного перевода ИИ с «теоретических» на «практические» рельсы и формирования законодательной базы для тестирования инновационных технологий;

— повышения степени готовности населения к трансформации рынка труда — обучение населения базовым навыкам использования ИИ на рабочем месте и включение фактора «искусственного интеллекта» в программу развития социально ответственного бизнеса;

— расширения международного сотрудничества в сфере ИИ, предполагающего наращивание межгосударственных контактов в сфере НИОКР, выработку единой методологии измерения объемов применения ИИ.

Сергей Карелов:
Впереди ИИ-Национализм и ИИ-национализация

Неудивительно, что в последнем пункте страны G20 подчеркнули готовность сотрудничать с ОЭСР по вопросам расширения экспертизы в сфере эксплуатации технологии искусственного интеллекта. Это объясняется тем, что, во-первых, наряду с многочисленными специализированными агентствами ООН, ОЭСР как на экспертном, так и официальном уровне прорабатывает вопросы регулирования становящихся действительно автономными и непредсказуемыми систем. С 2016 г. члены Организации изучают потенциальные социально-экономические последствия внедрения слабого и сильного ИИ, периодически осуществляют техно-политические прогнозы, проводят форсайт сессии, посвященные ИИ-вызовам.

Во-вторых, именно члены ОЭСР первыми приняли общие Рекомендации по ИИ (22 мая 2019 г.), которые и легли (практически слово в слово, за исключением вводной части) в основу Рекомендаций «Группы двадцати». И хотя некоторые наблюдатели отметили, что формулировки ОЭСР носят достаточно расплывчатый характер, очевидной заслугой их подписантов (36 государств-членов ОЭСР, наряду с Аргентиной, Бразилией, Колумбией, Коста-Рикой, Перу и Румынией) стала сама попытка разработки универсальных этико-юридических аспектов применения ИИ.

Возвращаясь к факту включения тематики «искусственного интеллекта» в качестве отдельного пункта повестки дня G20, нельзя не отметить, что на фоне отсутствия единого международно-правового режима для ИИ (ООН, МСЭ, Всемирный банк находятся в стадии разработки общих и секторальных стандартов) поддержка Рекомендаций ОЭСР на уровне «лидеров» увеличивает роль данной организации как одной из опор системы глобального управления. В условиях, когда «машинное обучение, распознавание образов и автономное планирование» выходят из «исследовательских лабораторий в мир коммерческих приложений», когда искусственный интеллект проникает в самые разные области (от диагностики симптомов пациента до автономизации транспортных средств и прогнозирования урожая агрокультур), когда не обозначены окончательные контуры областей применений ИИ, равно как и трудно предсказуемы потенциальные риски его внедрения, члены «Группы двадцати» продемонстрировали готовность своевременно реагировать на появление нового «параметра» в уравнении «глобального экономического развития».