Искусственный интеллект и ядерное оружие

Понятие «Искусственный интеллект в военном деле» (ИИВД) появилось не вчера и не сегодня. ИИВД — это важное направление развития российских вооруженных сил, в том числе и их ядерной компоненты. Подобные технологии используются или планируются к использованию в целях оптимизации логистики, повышения эффективности материально-технического обслуживания, наращивания возможностей Системы предупреждения о ракетном нападении (СПРН), повышению устойчивости контуров управления ядерными вооружениями, вплоть до непосредственного ведения боевых действий. Говорить о каких-то внешних ограничениях в таких условиях сложно, однако коммуникация по поводу намерений между различными акторами, внедряющими ИИВД, позволит конкретизировать цели и задачи таких процессов и снизить вероятность непреднамеренной эскалации.

С точки зрения поддержки управленческих решений в области стратегических ядерных сил уже используются элементы ИИ. Но существует также угроза полной замены «человеческого» анализа военной ситуации в смысле формирования взглядов и оценок офицеров исключительно на основе выводов машины. Да, человек останется в цикле оценки ситуации, принятия решений и применения оружия, но он основывается исключительно на «машинных» данных. Такой сценарий представляется куда более угрожающим, причем для всех направлений пока еще человеческой деятельности. Кроме того, в данном контексте нельзя не отметить и качественный рост последствий враждебного внешнего воздействия на информационные системы, обеспечивающие доведение исходных данных до автоматизированных средств поддержки принятия решений, а также систем, непосредственно осуществляющих подготовку этих решений.

Особенности взаимодействия автономных боевых систем «под различным флагом», независимо от существующих отношений между этими «флагами» и среды такого взаимодействия, заслуживают пристального внимания мирового сообщества. Более того, в этой области точно не хватит никакого «порядка, основанного на правилах» — необходимо старое доброе международное право, например, в виде дополнений к соответствующим международным конвенциям и двухсторонним соглашениям о предотвращении инцидентов.

В начале этого года автору довелось поучаствовать в рабочем мероприятии под эгидой SIPRI и Pathfinder Foundation, посвященном проблематике внедрения машинного обучения и автономии в системах, связанных с ядерными силами. Вопросы взаимодействия новых технологий (к числу которых относится Искусственный интеллект в широком смысле этого слова) со средствами предотвращения глобального конфликта (равно как и обеспечения Армагеддона в случае необходимости) представляются одними из наиболее важных направлений для исследований.

Дмитрий Шефтелович:
Перспективы развития ИИ-технологий

В данной статье мы остановимся на российских подходах, однако отметим и более универсальные наблюдения. Подчеркнем, что понятие «Искусственный интеллект в военном деле» (ИИВД) появилось не вчера и не сегодня. ИИВД — это важное направление развития российских вооруженных сил, в том числе и их ядерной компоненты. Подобные технологии используются или планируются к использованию в целях оптимизации логистики, повышения эффективности материально-технического обслуживания, наращивания возможностей Системы предупреждения о ракетном нападении (СПРН), повышению устойчивости контуров управления ядерными вооружениями, вплоть до непосредственного ведения боевых действий. Говорить о каких-то внешних ограничениях в таких условиях сложно, однако коммуникация по поводу намерений между различными акторами, внедряющими ИИВД, позволит конкретизировать цели и задачи таких процессов и снизить вероятность непреднамеренной эскалации.

При рассмотрении ИИВД представляется крайне важным разделить использование ИИ в качестве инструмента поддержки принятия решений и реализации этих решений на уровне командования и ИИ в качестве непосредственно бортовой системы управления вооружениями и военной техникой (ВиВТ).

Базовые определения

Для начала обратимся к официальной терминологии. Энциклопедия РВСН, доступная в Интернете, предлагает определение ИИВД: «Область исследований, в которых модели, системы и устройства имитируют интеллектуальную деятельность человека (восприятие и логический вывод) в военном деле».

Три основных направления исследований:

1. Системы, основанные на знаниях.
2. Нейросистемы.
3. Системы эвристического поиска.

К специфическим для РВСН областям, к которым имеет отношение ИИВД согласно определению, отнесены:

• Системы поддержки принятия решений.
• Интеллектуальные системы и вооружения (в первую очередь бортовые системы управления).
• Экспертные системы (ЭС).

В данном контексте ЭС обозначают набор программных средств, которые реализуют методы ИИ, основанные на знаниях. ЭС позволяют накапливать знания из предметной области в рамках определенной модели знаний и на их основе привносить новые знания, решать интеллектуальные практические задачи, объяснять ход их решения.

В какой-то мере представленное выше определение является ограниченным и относится скорее к так называемому «Частному искусственному интеллекту».

Вместе с тем наличие весьма конкретного термина ИИВД в российском военном лексиконе является отличным подтверждением внимания, уделяемого данной тематике, а также основных направлений работы в области «интеллектуализации» подходов к решению задач, стоящих перед Вооруженными силами Российской Федерации.

Отметим, что и в недавно созданном Военном инновационном технополисе «ЭРА» нейронные сети, интеллектуальные системы обработки данных и разработка искусственного интеллекта — одни из приоритетных направлений.

Интеллектуальная логистика

В последние годы появилась открытая информация о конкретных исследованиях по применению ИИ в области логистики и материально-технического обеспечения.

Например, в 2015 году была предложена [1] модель автоматизированной системы управления материально-техническим обеспечением (в том числе в военное время) для подразделений мобильной группировки РВСН, вооруженных МБР на подвижных грунтовых ракетных комплексах (ПГРК). Согласно расчетам, внедрение такой АСУ может повысить качество управления, устойчивость связи (в том числе в условиях применения условным противником средств радиоэлектронной борьбы), а также значительно сократить объем передаваемой информации.

Дмитрий Стефанович:
Ядерно-кибернетические комплексы

В 2018 г. была опубликована [2] информация о разработке и тестировании модели на основе нейронной сети в качестве решения для прогнозирования остаточного времени работы элементов ракетных комплексов РВСН. Модель была создана с акцентом на определение значимости и расчета весов диагностических признаков с прицелом на последующее использование для различных моделей ВиВТ РВСН.

Модель была подтверждена в полномасштабном эксперименте, пусть и на сугубо гражданском оборудовании (кондиционере). Учитывая значительное количество заслуженных образцов ВиВТ и прочего оборудования, которые продолжают использоваться РВСН, а также неоднократное продление сроков эксплуатации ракетных комплексов, подобные решения должны стать очень полезными в целях поддержания боеготовности и оптимизации расходов.

Предупреждение, приказы и пуски

Еще одной важнейшей областью для автономного анализа и подготовки решений является Система предупреждения о ракетном нападении (СПРН) и связанные элементы военной организации государства. Основными задачами для технологий ИИ в этом случае являются оценка угрозы и прогноз ущерба. Это может помочь понять масштабы атаки, ее источник и возможные намерения, а также оперативно разработать адекватный сценарий ответных действий.

По мере перехода к ответным действиям, командные контуры ядерных сил приобретают ключевое значение. Машинное обучение и соответствующие технологии будут выполнять функцию поддержки принятия решений, в том числе в части организации маневрирования для выхода сил и средств из-под ударов противника, а также оптимизации планирования ответного удара. Обновление информации в реальном времени, слияние данных из различных источников и другие современные решения позволяют повысить качество боевого управления.

Автономная отдача и исполнение приказов на пуск ядерных ракет в рамках так называемой системы «Периметр»/«Мертвая рука» представляется теоретической возможностью, и человек всегда остается в цепочке принятия решений. Возможно, правильнее рассматривать эту систему в сочетании с «сигнальными ракетами» в качестве еще одного контура боевого управления СЯС. Однако полностью автоматизированный процесс нанесения ответного ядерного удара технологически осуществим, поэтому в случае стремительного ухудшения стратегической стабильности решение о предварительном делегировании полномочий «машинам» вполне может вернуться на повестку дня.

Война и мир после ИИ. Городской завтрак РСМД с Романом Дурневым и Николаем Маркоткиным

Таким образом, с точки зрения поддержки управленческих решений в области стратегических ядерных сил уже используются элементы ИИ. Но существует также угроза полной замены «человеческого» анализа военной ситуации в смысле формирования взглядов и оценок офицеров исключительно на основе выводов машины. Да, человек останется в цикле оценки ситуации, принятия решений и применения оружия, но он основывается исключительно на «машинных» данных. Такой сценарий представляется куда более угрожающим, причем для всех направлений пока еще человеческой деятельности. Кроме того, в данном контексте нельзя не отметить и качественный рост последствий враждебного внешнего воздействия на информационные системы, обеспечивающие доведение исходных данных до автоматизированных средств поддержки принятия решений, а также систем, непосредственно осуществляющих подготовку этих решений.

Война машин

Говоря об автономных системах вооружений в узком смысле, необходимо рассмотреть боевые действия с использованием ядерного оружия.

Наиболее перспективным направлением использования машинного обучения, технического зрения и подобных технологий «прямо сейчас» представляется целеуказание. Автоматизированная обработка изображений позволяет оперативно и эффективно распознавать типы целевых объектов, их точное местоположение и уязвимые элементы, а также оптимизировать распределение боеголовок.

Бортовые системы управления с использованием ИИ могут обеспечить более высокую точность и непредсказуемую маневренность. В частности, гиперзвуковые глайдеры (например, ракетная система «Авангард» с крылатым планирующим боевым блоком) и внешнее управление в ходе полета представляется весьма сложной задачей. Соответственно, интеллектуальные бортовые системы управления напрашиваются в качестве решения. Другими областями являются средства преодоления противоракетной обороны (ПРО) в целом, включая «умные» ложные цели и возможности случайной корректировки траектории.

Боевые действия под водой также представляются одной из областей, где автономность является важной прорывной технологией. Так, океанская многоцелевая система (автономный необитаемый подводный аппарат (АНПА) «Посейдон» (ранее известный как «Статус-6») может использоваться не только как средство доставки ядерных боезарядов мегатонного класса, но и в качестве инструмента повышения ситуационной осведомленности или высокоточного минирования. В каждом из этих сценариев ИИ выглядит не только очень полезным, но и весьма опасным в случае выхода из-под контроля или же столкновения нескольких АНПА «вероятных противников».

Вообще говоря, особенности взаимодействия автономных боевых систем «под различным флагом», независимо от существующих отношений между этими «флагами» и среды такого взаимодействия, представляются одной из важнейших областей и заслуживают пристального внимания мирового сообщества. Более того, в этой области точно не хватит никакого «порядка, основанного на правилах» — необходимо старое доброе международное право, например, в виде дополнений к соответствующим международным конвенциям и двухсторонним соглашениям о предотвращении инцидентов.

Последствия интеллектуального прогресса

Дмитрий Шефтелович:
Мини-конференция SIPRI: ИИ и риск ядерной войны

Российское ядерное оружие не предназначено для ограниченного применения, поэтому последствия его использования вполне могут быть апокалиптическими.

Машинное обучение, автономия и ИИ в широком смысле способствуют выживаемости, точности и преодолению ПРО, что делает их перспективным направлением военного развития. Представляется, что рост соответствующих характеристик будет способствовать укреплению стратегической стабильности, которая, по мнению МИДа России, обуславливается возможностью поразить противника и осуществить гарантированное возмездие.

Вместе с тем технический прогресс, тем более в военной области, традиционно сопровождается появлением новых угроз, а также подпитывает дилеммы безопасности в отношениях между различными акторами. Новые возможности вероятного противника всегда примеряют «на себя» как в контексте их потенциального применения, так и в смысле возможности завести себе нечто подобное уже для решения собственных задач.

Региональные и глобальные партнеры, как и вероятные противники, нуждаются в регулярных оценках российского ядерного потенциала. Они могут совершать ошибки, которые влияют на восприятие угрозы. Чтобы избежать таких ошибок с далеко идущими последствиями, модернизация ядерных сил и ядерные доктрины должны быть постоянной темой двусторонних и многосторонних дискуссий и консультаций.

ИИВД как элемент бортового управления ракет, противоракет и других систем, а также как средство поддержки принятия решений — реальность сегодняшнего дня. Это направление является одним из магистральных для научно-технического прогресса в целом. Таким образом, бесконечная битва «щита и меча» становится все более интеллектуальной и автоматизированной.

1. «Модель автоматизированной системы управления материальным обеспечением воинских частей и соединений РВСН в условиях развития системы материальнотехнического обеспечения ВС РФ», А.В. Исаев, В.И. Филатов, В.Н. Фёдоров, А.В. Гревцов, «Наука и Военная Безопасность» 3 (3) 2015, с.59.

2. «Модель определения значимости и расчета весовых коэффициентов диагностических признаков для прогнозирования остаточного ресурса сложной технической системы с неравномерной выработкой ресурса», О.В. Гайворонский, Д.Н. Картунин, И.А. Войцеховский, XLII Академические Чтения

По Космонавтике, сборник тезисов (2018), с.262