Искусственный интеллект и нацбезопасность: план по сохранению технологического превосходства США

Вопросы национальной безопасности традиционно занимают приоритетное место в повестке различных государств. США — ведущая сила НАТО и государство со стабильно самыми высокими оборонными расходами — не является исключением. В риторике американских политиков можно усмотреть попытки конструирования внешних угроз с целью сплочения американского общества и союзников, а также оправдания глобального лидерства США. Учитывая амбиции многих государств, инвестирующих в информационные и цифровые технологии и разработавших стратегии развития искусственного интеллекта (ИИ), дискуссии об удержании первенства в сфере ИИ оправданно приобретают все большую актуальность. В этой связи у политического руководства США возникает запрос на проведение анализа рисков и угроз, обусловленных развитием технологий искусственного интеллекта: насколько они реальны и опасны сегодня и в ближайшем будущем, как эти угрозы и вызовы модифицируются и с помощью каких средств им можно эффективно противостоять.

В 2018 г. в Соединенных Штатах в рамках закона «Об утверждении бюджета на национальную оборону в 2019 финансовом году» P.L. 115-232 (National Defense Authorization Act for Fiscal Year 2019) была создана Комиссия национальной безопасности по искусственному интеллекту для проведения обзора достижений США в области ИИ. В частности, согласно закону, некоторые задачи Комиссии включают оценку конкурентоспособности США в области ИИ, машинного обучения и связанных технологий, определение средств и методов, с помощью которых Вашингтон сможет поддерживать технологическое преимущество в данной области, а также выявлять риски, связанные с достижениями иностранных государств в области военного применения ИИ. 1 марта 2021 г. был опубликован отчетный документ внушительного объема (более 750 страниц) по выполнению поставленных перед Комиссией задач.

Развитие технологий открывает человечеству новые возможности. В то же время новая эпоха неизменно предвещает изменения, затрагивающие социальную, экономическую, политическую сферы жизни. Эра искусственного интеллекта заставляет посмотреть на безопасность в контексте цифрового развития, задуматься над иными ее аспектами и принять меры по адаптации к новым реалиям. Интересно, что в случае США, даже на уровне рекомендаций Комиссии, прослеживается преемственность подхода к поддержанию своих позиций на мировой арене. Подход основан на взаимодействии с союзниками, стремлении к открытию новых сфер для сотрудничества с ними (например, ИИ), к расширению альянсов, формулированию угроз. В рекомендациях акцент сделан на необходимости дополнительных инвестиций в НИОКР в сфере ИИ, поддержки технологического развития в целом, межведомственной координации и межгосударственного сотрудничества. Все это, безусловно, может привести к желаемым результатам, но при наличии финансовых, технологических и управленческих возможностей, а также в условиях надлежащей реализации. В сущности, эти рекомендации несут единый посыл: необходимо инвестировать в инновационные исследования в сфере ИИ, наращивать прикладные знания об ИИ и в конечном итоге выстраивать эффективную систему контроля над инфопотоками. Такая система контроля сможет обеспечивать Вашингтону дополнительную привлекательность американской системы подобно той привлекательности, которую США имеют благодаря действующей финансовой системе и роли американского доллара в мире.

Вопросы национальной безопасности традиционно занимают приоритетное место в повестке различных государств. США — ведущая сила НАТО и государство со стабильно самыми высокими оборонными расходами — не является исключением. В риторике американских политиков можно усмотреть попытки конструирования внешних угроз с целью сплочения американского общества и союзников, а также оправдания глобального лидерства США. Учитывая амбиции многих государств, инвестирующих в информационные и цифровые технологии и разработавших стратегии развития искусственного интеллекта, дискуссии об удержании первенства в сфере искусственного интеллекта оправданно приобретают все большую актуальность. В этой связи у политического руководства США возникает запрос на проведение анализа рисков и угроз, обусловленных развитием технологий искусственного интеллекта (ИИ): насколько они реальны и опасны сегодня и в ближайшем будущем, как эти угрозы и вызовы модифицируются и с помощью каких средств им можно эффективно противостоять.

Доклад Комиссии национальной безопасности по искусственному интеллекту

В 2018 г. в Соединенных Штатах в рамках закона «Об утверждении бюджета на национальную оборону в 2019 финансовом году» P.L. 115-232 (National Defense Authorization Act for Fiscal Year 2019) была создана Комиссия национальной безопасности по искусственному интеллекту для проведения обзора достижений США в области ИИ. В частности, согласно закону, некоторые задачи Комиссии включают оценку конкурентоспособности США в области ИИ, машинного обучения и связанных технологий, определение средств и методов, с помощью которых Вашингтон сможет поддерживать технологическое преимущество в данной области, а также выявлять риски, связанные с достижениями иностранных государств в области военного применения ИИ. 1 марта 2021 г. был опубликован отчетный документ внушительного объема (более 750 страниц) по выполнению поставленных перед Комиссией задач.

Доклад Комиссии национальной безопасности по искусственному интеллекту предлагает перспективный взгляд на вопрос безопасности в эпоху информационного общества — национальная безопасность рассматривается с точки зрения развития искусственного интеллекта, которое неизбежно приведет к реорганизации мира, тем самым ставя под угрозу лидирующие позиции США. К тому же есть явные претенденты на роль нового лидера в области технологий, к которым относят, прежде всего, Китай. В докладе Комиссия представила стратегию по сплочению союзников и партнеров для обеспечения безопасности в цифровую эпоху и повышения конкурентоспособности США в новой эре искусственного интеллекта.

Безусловно, искусственный интеллект расширяет степень уязвимости открытого американского общества перед недружественными акторами. В перспективе угрозы и вызовы ИИ станут еще более комплексными. Например, к угрозам будущего авторы относят эскалацию межмашинного (M2M) обмена данными с помощью автоматизированного командования и управления (С2), что еще больше усложняет контроль за потоком данных. Однако необратимость процесса развития искусственного интеллекта и его благой потенциал для решения ряда проблем, в том числе мирового масштаба, требуют от государственных и негосударственных акторов не противостоять тренду, а адаптироваться к нему.

Комиссия уделила внимание вопросу вероятной трансформации существующих угроз, которые с развитием ИИ могут принять более опасные формы. В частности, в первую очередь беспокойство авторов вызывает проблема манипуляций информацией, непосредственное значение для которых сыграет ИИ. Например, с помощью ИИ можно создавать оригинальный текстовый контент и манипулировать изображениями, аудио- и видеофайлами, которые будет очень сложно отличить от подлинных сообщений. Генерируемые ИИ-фейки и боты могут стать мощными распространителями «дезинформации», а следовательно, способны усилить позиции противников США в информационной войне. Предполагается, что такими противниками могут выступать, прежде всего, Китай и Россия, которых Вашингтон неоднократно обвинял в распространении дезинформации.

В этой связи Комиссия дает три рекомендации. Во-первых, авторы советуют создать совместную межведомственную оперативную группу и оперативный центр, чтобы координировать усилия по противодействию «злонамеренной» информации из иностранных источников. Дело в том, что в США ведущую роль в противодействии «злонамеренной информации» играет частный сектор, представленный медиакомпаниями. Однако необходим скоординированный ответ государства и бизнеса на подобный вызов, создаваемый потоками информации из иностранных источников. Правительству необходимо уделять больше внимания и ресурсов задачам обнаружения, атрибуции и аутентификации носителя «зловредной» информации. Оперативный центр, который предлагает создать Комиссия, должен быть оснащен современными цифровыми инструментами с поддержкой искусственного интеллекта и персоналом, обладающим специализированными знаниями. Он будет изучать ландшафт соответствующих государственных и частных субъектов, координировать их действия.

Александр Ермаков: :
Военные вызовы для США в третьем десятилетии века

Во-вторых, Комиссия рекомендует увеличить финансирование исследовательских программ Агентства перспективных исследовательских проектов Министерства обороны США (DARPA) по обнаружению, атрибуции и прекращению злонамеренных информационных кампаний с использованием ИИ, а также по проверке происхождения цифровых носителей.

В-третьих, авторы доклада советуют создать группу под эгидой Управления Белого дома по науке и технологической политике, которая будет заниматься исследованиями в области использования ИИ и связанных технологий для разработки и внедрения инструментов сертификации подлинности и происхождения контента.

Комиссия также предупреждает о возможном усилении кибератак за счет использования технологий машинного обучения, во избежание чего рекомендуется развивать «средства защиты»: Агентствам национальной безопасности необходимо приобрести определенное оборудование для обучения систем искусственного интеллекта обнаружению угроз в их сетях и реагированию на них. В перспективе это будет способствовать расширению обмена информацией на скорости машин, обнаружению аномалий на основе моделей поведения и предотвращению использования вредоносных программ в государственных сетях. Для достижения поставленных целей правительству следует ускорить создание Совместного центра киберпланирования и операций по образцу Национального контртеррористического центра. Планируется, что он будет работать как межведомственное подразделение киберразведки, ответственное за расследование угроз и координации ответов на них. В этой рекомендации Комиссия делает ставку как на внедрение инноваций, так и на межведомственную координацию.

Авторы не ограничились рассмотрением угроз в социальной и ИКТ-сфере. Комиссия призывает агентства национальной безопасности США повысить значимость биобезопасности и биотехнологий и обновить Национальную стратегию биозащиты ввиду возможностей использования генетических данных в злонамеренных целях.

В сущности, эти рекомендации несут единый посыл: необходимо инвестировать в инновационные исследования в сфере ИИ, наращивать прикладные знания об ИИ и в конечном итоге выстраивать эффективную систему контроля над инфопотоками. Такая система контроля сможет обеспечивать Вашингтону дополнительную привлекательность американской системы подобно той привлекательности, которую США имеют благодаря действующей финансовой системе и роли американского доллара в мире. Ликвидность американской валюты и развитая система корреспондентских счетов стимулируют широкое использование доллара. Одновременно это обеспечивает Казначейству возможность отслеживать и блокировать финансовые трансакции по всему миру. Таким образом, США добиваются соблюдения собственных режимов санкций, повышая их эффективность. Вашингтон широко трактует свою юрисдикцию и считает себя вправе применять ограничительные меры экономического характера против как американских, так и иностранных компаний, которые так или иначе используют финансовую систему США.

Однако систему противодействия распространению дезинформации еще только предстоит выстраивать. При этом раздражителем и одновременным стимулом будет конкуренция с другими государствами, которые тоже стремятся расширить свой арсенал для успешного ведения информационных войн. У США также есть преимущество в области технологий, но их положение остается уязвимым ввиду технологических достижений и амбиций Китая.

Интересна рекомендация по увеличению ассигнований на научные исследования и разработки в области ИИ в рамках оборонного бюджета. Комиссия считает необходимыми ежегодные расходы Министерства обороны США на эту статью в размере как минимум 8 млрд долл. Это соответствует курсу на увеличение расходов на ИИ: в 2019 г. новостное агентство «Bloomberg Government» сообщало о планируемых расходах Министерства обороны на НИОКР в сфере ИИ и машинного обучения в 2020 г. в размере 4 млрд долл. Тогда это считалось значительным ростом по сравнению с 2019 г. Рекомендуемые 8 млрд долл. — вдвое больший показатель, утверждение которого может потребовать компромиссы. Впрочем, такое направление модернизации может стать перспективным и оправданным.

Без союзников никуда?

Павел Карасев: :
Старые киберпесни на новый лад

Вступая в должность президента США и говоря о внешнеполитических целях, Дж. Байден намеревался реанимировать многосторонние форматы и консолидировать союзников. Столпом трансатлантического единства может стать оборонная и разведывательная деятельность, связанная с искусственным интеллектом. Европейским партнерам отчасти (как в случае с НАТО), а также иным государствам, дружественным США, будет удобно полагаться на достижения Америки в данной области. Для Вашингтона же важны и коалиционная поддержка союзников как таковая, и наращивание экспертизы в области ИИ. В этой связи Комиссия упоминает два блока, в рамках которых необходимо активизировать работу по указанному направлению, — НАТО и разведывательный альянс «Пять глаз», объединяющий спецслужбы США, Канады, Великобритании, Австралии и Новой Зеландии.

Более того, доклад содержит рекомендацию создать Атлантико-Тихоокеанское партнерство в области технологий безопасности («Atlantic-Pacific Security Technology Partnership»). Партнерство может сплотить под знаменами противодействия недружественным силам страны НАТО и Австралию, Японию, Южную Корею и Новую Зеландию. Многосторонняя консультативная сеть позволит улучшить военные и разведывательные возможности в регионе. Однако под вопросом вероятность создания такого партнерства, так как ряду государств, чье членство в Альянсе подразумевается, могут быть не вполне ясны его мотивы — искусственный интеллект сам по себе не воспринимается как ощутимая и настоящая опасность. Проблемы и угрозы создает его злонамеренное использование определенными акторами. Следовательно, речь может идти прежде всего об Азиатско-Тихоокеанском регионе. В качестве недружественной силы, потенциальное применение ИИ которой представляет опасность, подразумевается главным образом Китай. При таком раскладе европейские страны, вероятно, предпочтут остаться не втянутыми в прямую американо-китайскую конфронтацию, и, следовательно, воздержатся от участия в Альянсе, построенном преимущественно вокруг повестки Вашингтона.

***

Развитие технологий открывает человечеству новые возможности. В то же время новая эпоха неизменно предвещает изменения, затрагивающие социальную, экономическую, политическую сферы жизни. Эра искусственного интеллекта заставляет посмотреть на безопасность в контексте цифрового развития, задуматься над иными ее аспектами и принять меры по адаптации к новым реалиям. Интересно, что в случае США, даже на уровне рекомендаций Комиссии, прослеживается преемственность подхода к поддержанию своих позиций на мировой арене. Подход основан на взаимодействии с союзниками, стремлении к открытию новых сфер для сотрудничества с ними (например, ИИ), к расширению альянсов, формулированию угроз. В рекомендациях акцент сделан на необходимости дополнительных инвестиций в НИОКР в сфере ИИ, поддержки технологического развития в целом, межведомственной координации и межгосударственного сотрудничества. Все это, безусловно, может привести к желаемым результатам, но при наличии финансовых, технологических и управленческих возможностей, а также в условиях надлежащей реализации.