Read in English
Оценить статью
(Голосов: 8, Рейтинг: 4)
 (8 голосов)
Читать РСМД в
Вадим Козюлин

К.полит.н., профессор Академии военных наук РФ, главный научный сотрудник Центра военно-политических исследований Института актуальных международных проблем Дипломатической академии МГИМО МИД России, член Совета ПИР-Центра

Искусственный интеллект (ИИ) входит в военную сферу не только через новые вооружения. Как показывает обзор военных применений ИИ, он используется для анализа разведывательных данных, планирования операций, снабжения и обслуживания техники. Международное регулирование должно учитывать существенно разные задачи — ошибка в прогнозе ремонта двигателя и ошибка при выборе цели имеют неодинаковые последствия, даже если обе системы используют сходные методы обработки данных.

Наиболее предметная международная дискуссия развернулась вокруг смертоносных автономных систем вооружений (САС): заключительная в 2026 г. сессия Группы правительственных экспертов (ГПЭ) в рамках Конвенции о «негуманном» оружии (КНО), проходившая в Женеве 31 августа – 4 сентября, завершилась согласованием элементов возможного будущего инструмента. Дальнейшие решения предстоит принять на VII Обзорной конференции КНО 16–20 ноября 2026 г. Однако предмет регулирования военного ИИ шире автономного оружия: он включает влияние алгоритмов на решения командования, устойчивость управления и отношения между государствами.

Российская дипломатия рассматривает эту проблематику одновременно с правовой, военно-технической и политической точек зрения. В выступлении в Первом комитете Генеральной Ассамблеи ООН российская делегация связала применение ИИ с соблюдением действующего права, человеческим контролем и работой профильных переговорных площадок. Российский подход предусматривает не только ограничения, но и условия, при которых новые технологии способны повысить точность действий и уменьшить вероятность ошибок.

Устойчивость будущих договоренностей может основываться на понятных обязательствах, участии основных разработчиков, технической выполнимости требований и способности государств их реализовать. Российский подход предлагает обоснованную последовательность работы: исполнение действующих норм, уточнение понятий и процедур, а затем согласование дополнительных мер там, где доказана их необходимость.

Опора на действующее право позволяет предъявлять требования к применению оружия уже сейчас, не ожидая нового договора. При этом вопрос о дополнительных нормах сохраняется, но требует предметного обоснования: какую проблему не решает существующее право и каким образом предлагаемая мера ее устраняет? Такая постановка помогает избежать запретов с неопределенным содержанием и избирательным толкованием.

Технологическая конкуренция продолжится и при наличии международных правил. Соответственно, регулирование должно опираться на обязательства, которые государства одинаково понимают и способны выполнять. Российский подход связывает достижение этой цели с действующим правом, национальной ответственностью и равноправным межгосударственным согласованием.

Военный ИИ и пределы международного регулирования

Искусственный интеллект (ИИ) входит в военную сферу не только через новые вооружения. Как показывает обзор военных применений ИИ, он используется для анализа разведывательных данных, планирования операций, снабжения и обслуживания техники. Международное регулирование должно учитывать существенно разные задачи — ошибка в прогнозе ремонта двигателя и ошибка при выборе цели имеют неодинаковые последствия, даже если обе системы используют сходные методы обработки данных.

Наиболее предметная международная дискуссия развернулась вокруг смертоносных автономных систем вооружений (САС): заключительная в 2026 г. сессия Группы правительственных экспертов (ГПЭ) в рамках Конвенции о «негуманном» оружии (КНО), проходившая в Женеве 31 августа – 4 сентября, завершилась согласованием элементов возможного будущего инструмента. Дальнейшие решения предстоит принять на VII Обзорной конференции КНО 16–20 ноября 2026 г. Однако предмет регулирования военного ИИ шире автономного оружия: он включает влияние алгоритмов на решения командования, устойчивость управления и отношения между государствами.

Российская дипломатия рассматривает эту проблематику одновременно с правовой, военно-технической и политической точек зрения. В выступлении в Первом комитете Генеральной Ассамблеи ООН российская делегация связала применение ИИ с соблюдением действующего права, человеческим контролем и работой профильных переговорных площадок. Российский подход предусматривает не только ограничения, но и условия, при которых новые технологии способны повысить точность действий и уменьшить вероятность ошибок.

Военный ИИ как предмет регулирования

Для разбора проблем регулирования военного ИИ удобно выделить три группы его применения для решения военных задач: обработка информации и поддержка решений; обеспечение деятельности вооруженных сил; функции, непосредственно связанные с применением оружия.

К первой группе относятся анализ разведданных, обнаружение объектов, оценка обстановки и помощь в планировании. Ко второй — снабжение, прогнозирование неисправностей, обучение и моделирование, перечисленные в докладе Генерального секретаря ООН о военном ИИ. Граница между ними не всегда очевидна. Программа, которая сама не управляет оружием, может влиять на выбор цели через подготовленную для командира оценку. Третья группа включает функции боевого применения. Здесь важно различать искусственный интеллект и автономность: первый обозначает используемые технологии, вторая характеризует самостоятельность системы при выполнении задачи. Поэтому вопрос не сводится к тому, установлен ли на платформе ИИ. Необходимо выяснить, что именно ей поручено: прокладывать маршрут, распознавать объекты, предлагать цели или самостоятельно их поражать.

Отдельную область образуют кибероперации и информационное противоборство: российское Постпредство при ООН в выступлении Д.А. Полянского в Совете Безопасности обращает внимание на компьютерные атаки с использованием ИИ, воздействие на критическую инфраструктуру и распространение поддельных материалов. Здесь ущерб может причиняться без применения обычного оружия. Задачи регулирования пересекаются с международной информационной безопасностью, защитой гражданской инфраструктуры и невмешательством во внутренние дела государств.

Такое разграничение позволяет обсуждать не абстрактную «опасность ИИ», а требования к конкретной функции. Для системы снабжения на первый план выходят надежность расчетов и защита данных. Для системы, участвующей в выборе цели, необходимы также проверка правомерности применения, понятные полномочия оператора и порядок отмены решения.

Технологические ограничения и военно-политические риски

Можно выделить следующие технологические ограничения и военно-политические риски:

  1. Ошибки данных и моделей. Неполные обучающие данные, устойчивые ошибки распознавания и трудность объяснения результата сложной модели относятся к проблемам, выделенным в докладе ООН. В военной практике важно знать не только среднюю точность программы, но и то, в каких условиях она ошибается. Например, высокая доля правильных распознаваний сама по себе не показывает, насколько надежно система отличает военный объект от внешне похожего гражданского.
  2. Защита от вмешательства. В российском рабочем документе по САС защита от несанкционированного доступа включена в число мер снижения рисков наряду с надежностью и отказоустойчивостью. Считается, что для оценки безопасности недостаточно проверить, выполняет ли программа задачу при штатных условиях. Необходимо также установить, что произойдет при искажении входной информации, нарушении связи или попытке изменить настройки управления.
  3. Коллективное поведение. Для роевых комплексов трудно заранее оценить все результаты взаимодействия отдельных аппаратов, а в системах поддержки решений возникает риск чрезмерного доверия машинным рекомендациям; обе проблемы рассматриваются в представлении МККК по военному ИИ. В первом случае проверки отдельного аппарата недостаточно для оценки всей группы. Во втором требуется проверить уже совместную работу человека и программы: способен ли оператор заметить ошибку, располагает ли временем для ее проверки и вправе ли отклонить рекомендацию.
  4. Человеческий контроль. Россия предлагает связывать его не только с непосредственным управлением, но и с ограничением типов целей, района и времени применения, подготовкой персонала и возможностью вмешательства, как изложено в документе Российской Федерации для ГПЭ. Практический вопрос состоит в том, какие решения человек принимает заранее, за чем наблюдает во время выполнения задачи и что способен изменить. Простого подтверждения команды недостаточно для оценки качества контроля.
  5. Гуманитарные последствия и ответственность. Согласно российскому рабочему документу, позиция РФ исходит из сохранения ответственности государств и соответствующих лиц за создание и применение САС, а также роли должностного лица, которое ставит задачу и отдает приказ на применение. Для расследования инцидента потребуется установить, какие сведения получил командир, какие ограничения были заданы системе и на каком этапе возникла ошибка. То есть вопрос об ответственности непосредственно связан с технической возможностью восстановить ход событий.
  6. Эскалация и стратегическая стабильность. Ускорение военных решений и ошибочная оценка действий противника могут повышать риск непреднамеренной эскалации. В докладе ООН отдельно рассмотрены ядерное командование и управление, а также возможное использование ИИ для содействия созданию химического и биологического оружия. Общая проблема здесь заключается в сокращении времени на проверку информации и в расширении доступа к опасным возможностям. Для ядерной сферы необходимо разграничивать помощь в анализе данных и участие в управлении применением оружия; для химической и биологической сферы требуется оценивать влияние ИИ на выполнение существующих запретов.

Риски распространения не ограничиваются оружием массового уничтожения: Россия предлагает исключать попадание САС к негосударственным субъектам, способным использовать их в противоправных целях. Для решения этой задачи важно учитывать не только передачу готового изделия, но и доступ к компонентам и средствам управления.

Технологическая конкуренция и двойное назначение

Технологии ИИ допускают перенос гражданских разработок в военную сферу, что отмечается в обзоре ООН. Одни и те же методы анализа изображений, вычислительные средства и программные инструменты могут решать разные задачи. Это затрудняет проведение границы между контролем над вооружениями и ограничением технологического развития.

Если контролировать только готовую военную систему, за пределами ограничений останутся многие необходимые для ее создания компоненты. Если же распространить запреты на базовые модели и вычислительные ресурсы, последствия затронут гражданскую промышленность и исследования. Российский подход предусматривает, что определение САС не должно сдерживать технический прогресс и мирные исследования в области ИИ и робототехники.

Технологическая самостоятельность означает не только возможность приобрести оборудование и программное обеспечение. Государству нужны собственные специалисты, которые способны проверить систему, понять причины ее ошибок и оценить безопасность обновлений. Если такую проверку может провести только поставщик, зависимость от него будет сохраняться и после поставки техники.

Неравенство в доступе к технологиям влияет и на распределение выгод от ИИ: в выступлении в Совете Безопасности ООН российская делегация обращает внимание на углубление цифрового разрыва и риски технологической гонки, не подкрепленной сопоставимыми усилиями по обеспечению безопасности. Для будущих переговоров это поднимает вопрос о реализуемости будущих требований: ведь если государство не располагает испытательной базой и подготовленными кадрами, формальное принятие стандартов не гарантирует способности их выполнить.

Международные форматы обсуждения

Разные стороны военного ИИ обсуждаются на площадках с неодинаковыми полномочиями. Для понимания переговоров важно различать экспертную работу, принятие политических рекомендаций и выработку юридических обязательств.

ГПЭ по САС в рамках КНО занимается автономными вооружениями; согласованные в сентябре 2026 г. результаты охватывают рабочую характеристику САС, применимость международного гуманитарного права, человеческий контроль, суждение и ответственность. Это элементы возможного инструмента, а не вступивший в силу договор. Следующий этап требует определить его форму, содержание и порядок дальнейшей работы.

В Генеральной Ассамблее автономное оружие рассматривается, в частности, в резолюции 80/57, а более широкий круг военных применений ИИ стал предметом предусмотренного резолюцией 80/58 неформального обмена мнениями в Женеве 15–17 июня 2026 г. Таким образом, параллельно обсуждаются и конкретная категория вооружений, и технология, используемая во множестве военных задач. Распределение работы между этими направлениями остается частью переговорной повестки.

Россия предлагает использовать ГПЭ как основную площадку по САС, а Комиссию ООН по разоружению для вопросов военного ИИ, не охваченных другими форматами, исключая дублирование дискуссий. Такой порядок предполагает разделение задач при сохранении общей координирующей роли ООН. Переход от обсуждения новых рисков к разработке правил требует отдельного согласования.

Гражданская повестка ИИ отделена от военной: Независимая международная научная группа и Глобальный диалог по управлению ИИ имеют невоенный мандат, что подчеркивается в российском разъяснении по их учреждению. При подготовке первого Глобального диалога в 2026 г. российский представитель вновь возразил против включения военной концепции «ответственного применения» в его тематику. Работа дипломатических ведомств в данном случае включает контроль за соблюдением мандатов: изменение названия темы может повлечь перенос содержательной дискуссии на другую площадку.

За пределами ООН развиваются инициативы по «ответственному военному ИИ»: документ третьего саммита REAIM в Испании Pathways to Action содержит рекомендации по испытаниям, оценке рисков, подготовке персонала и мерам доверия. Сходные практические вопросы затрагивает инициированная США Политическая декларация об ответственном военном использовании ИИ и автономности. Участие в таких инициативах не придает этим подходам универсального договорного статуса, поскольку круг участников ограничен, а консенсуса нет даже среди присутствовавших государств.

Российские возражения касаются дублирования работы и попыток придать подходам ограниченного круга участников общее значение, как изложено в разъяснении позиции по проекту резолюции о военном ИИ. Вопрос о составе участников имеет практический смысл: от него зависит, будут ли в правилах учтены интересы государств, которые разрабатывают, приобретают и применяют соответствующие технологии. Не менее существенен порядок принятия решений: консенсус требует согласия всех, тогда как голосование по Политической декларации позволяет принять документ при сохранении возражений части участников.

Правовые и практические механизмы

Обсуждаемые решения можно объединить в три группы: исполнение действующего права, новые запреты и ограничения, добровольные принципы и меры доверия. На практике они могут сочетаться.

Россия исходит из того, что международное право, включая международное гуманитарное право (МГП), полностью применимо к системам вооружений с ИИ. Для практического разбора необходимо разделять: правомерно ли само применение силы и соблюдены ли правила ведения военных действий. Технические возможности оружия не заменяют ответа ни на один из них.

Правила ведения военных действий требуют различать военные и гражданские объекты, принимать меры предосторожности и не допускать чрезмерного сопутствующего ущерба гражданскому населению по отношению к конкретному и непосредственному ожидаемому военному преимуществу, как предусмотрено Дополнительным протоколом I к Женевским конвенциям. Для системы с ИИ это означает как необходимость проверить точность распознавания, так и достаточность доступной информации для правомерного решения в конкретной обстановке.

Дополнительный договор предлагается строить на сочетании запрета отдельных видов автономного оружия и ограничений для остальных. МККК выступает, в частности, за запрет непредсказуемых систем и автономных вооружений, предназначенных или используемых для непосредственного поражения людей. Для согласования такого подхода необходимы точные критерии. Иначе остается неясным, какие системы подпадут под запрет, как оценивать их свойства и на какие стадии (от разработки до применения) распространятся обязательства.

Человеческий контроль и ответственность

Контроль начинается до запуска системы. Российские предложения предусматривают ограничение целей, продолжительности, района и масштаба применения, возможность вмешательства и деактивации. Например, заранее заданные пределы могут запрещать системе выходить из определенного района или действовать после истечения установленного времени. Это иной способ контроля, чем непрерывное ручное управление, но он также связывает работу техники с решением человека.

Разногласия возникают при переводе общего требования в международную норму. Россия считает понятие «значимого человеческого контроля» недостаточно определенным для правового регулирования. Практическое согласование может строиться вокруг более конкретных вопросов. Кто назначает задачу, кто проверяет ограничения, какую информацию получает оператор и кто имеет право остановить систему? Ответы позволяют определить полномочия и основания ответственности без привязки к одной технической схеме.

Проверка на протяжении жизненного цикла

Правовая экспертиза нового оружия предусмотрена статьей 36 Дополнительного протокола I. В российском рабочем документе 2019 г. описана национальная система проверки вооружений как при разработке, так и во время эксплуатации, включая оценку соответствия этой статье. Смысл правовой экспертизы состоит в установлении допустимости применения оружия. Технические испытания отвечают на связанный, но другой вопрос: выполняет ли оно заданные функции с необходимой надежностью.

В российских предложениях 2024 г. предусмотрены разносторонние испытания на всех этапах жизненного цикла, в том числе в условиях, близких к реальным, определение готовности системы и подготовка операторов. Для ИИ важен и вопрос обновлений. Если после изменения программы меняется способ распознавания целей или выполнения задачи, результаты прежней проверки могут оказаться недостаточными; следовательно, требуется оценивать значимость изменений, а не считать любое обновление обычным обслуживанием.

Транспарентность, верификация и стратегические предохранители

Верификация, то есть проверка выполнения договоренностей, требует большего, чем обмен информацией. Сначала необходимо определить, какое именно обязательство проверяется. Для ИИ недостаточно подсчитать платформы: возможности системы могут измениться после обновления программы, а доступ к ней может раскрыть чувствительные данные и параметры. Поэтому будущие проверочные процедуры должны одновременно обеспечивать достоверность оценки и защиту военных секретов. В этой чувствительной сфере циркулируют различные подходы и предложения.

Россия допускает добровольный обмен практикой правовой экспертизы при соблюдении интересов национальной безопасности и коммерческой тайны. Более широкий набор мер доверия, включая экспертные контакты и кризисную коммуникацию, предложен в документе REAIM. Их назначение состоит в уменьшении неопределенности: государства получают больше сведений о подходах друг друга, не раскрывая устройство конкретных вооружений.

Для ядерной сферы Генеральный секретарь ООН предлагает сохранить принятие решений о применении оружия за людьми, а не машинами. Это требует отдельного обсуждения сложных информационных и управляющих функций. В целом есть общее понимание, что человеческое решение должно опираться на проверяемую информацию, поэтому оценка безопасности не может ограничиваться последним этапом отдачи приказа.

Содержание российской позиции

Российская работа по военному ИИ не сводится к заявлениям общего характера: в официальном выступлении в Первом комитете ООН в 2022 г. сообщалось о принятии 26 июля того же года Концепции деятельности Вооруженных Сил Российской Федерации в сфере разработки и применения систем вооружений с использованием технологий искусственного интеллекта. На международном уровне российские дипломаты представляют правовые подходы, предложения по снижению рисков и позицию по организации переговоров. Эти направления связаны общей задачей: согласовать требования безопасности с законными оборонными интересами.

Правовая основа состоит в применении уже существующих норм: Россия не видит на нынешнем этапе убедительных оснований для дополнительных запретов или адаптации МГП. Для такого подхода важно различать новый технический вопрос и пробел в праве. Сложность проверки алгоритма еще не означает, что отсутствует норма, определяющая допустимость его применения.

Практическая основа включает человеческий контроль, надежность, испытания, подготовку персонала, защиту от вмешательства и прекращение выполнения задачи, что закреплено в российском рабочем документе по САС. Государствам предлагается сохранять выбор конкретных способов исполнения этих требований. Это позволяет учитывать различия между системами и условиями их применения.

Возражения против концепции «ответственного применения» как единственной основы регулирования связаны с отсутствием согласованных критериев и международно-правовой определенности. Россия оспаривает не необходимость испытаний или подготовки операторов, а порядок превращения политической формулы в общее правило. Для международного согласования требуется установить содержание обязательств и одинаковые основания их оценки.

В вопросах переговорного процесса Россия отдает приоритет профильным межгосударственным площадкам и консенсусу, что отражено в позиции, изложенной в Первом комитете ООН. При этом возможность будущих договоров или инструментов мягкого права не исключается, а их форма и содержание не должны предрешаться до завершения дискуссии. Таким образом, нынешняя оценка достаточности права и выбор последующих международных мер относятся к разным этапам работы.

Наконец, Россия предлагает учитывать не только угрозы, но и возможное повышение точности вооружений и снижение вероятности ошибок, одновременно сохраняя условия для мирного развития ИИ и робототехники. Такой подход предполагает оценку свойств и способов применения технологии. Принадлежность разработчика к определенной стране сама по себе не является техническим критерием безопасности.

Перспективы регулирования

Устойчивость будущих договоренностей может основываться на понятных обязательствах, участии основных разработчиков, технической выполнимости требований и способности государств их реализовать. Российский подход предлагает обоснованную последовательность работы: исполнение действующих норм, уточнение понятий и процедур, а затем согласование дополнительных мер там, где доказана их необходимость.

Опора на действующее право позволяет предъявлять требования к применению оружия уже сейчас, не ожидая нового договора. При этом вопрос о дополнительных нормах сохраняется, но требует предметного обоснования: какую проблему не решает существующее право и каким образом предлагаемая мера ее устраняет? Такая постановка помогает избежать запретов с неопределенным содержанием и избирательным толкованием.

Консенсус обеспечивает участие государств, от которых зависит выполнение договоренностей. Для регулирования военных технологий особенно важно, чтобы правила принимали их разработчики и пользователи, а не только сторонники ограничений. Вместе с тем консенсусная работа нуждается в конкретных задачах, сроках и промежуточных результатах, иначе согласование позиций может затянуться.

Национальный выбор способов контроля позволяет не сводить разные системы к единой технической схеме. На международном уровне целесообразно согласовывать требования к результату: соблюдение права, определенность ответственности, пределы допустимого применения и возможность прекратить неправомерное действие. На национальном уровне необходимо обеспечить испытания, подготовку персонала и исполнение этих требований.

Сочетание ограничений с сохранением возможностей развития также имеет практическое значение. Мера должна снижать установленный риск, а не просто затруднять доступ к технологии. Иначе она может затронуть правомерные оборонные задачи и гражданские исследования, не обеспечив сопоставимого повышения безопасности.

На ближайшем этапе предметом согласования могут стать терминология, практика правовой экспертизы, проверка существенных программных изменений, подготовка операторов и предотвращение инцидентов. Стратегическая стабильность, нераспространение и военные применения ИИ вне категории САС требуют самостоятельной проработки без дублирования существующих форматов. Для ноябрьской Обзорной конференции КНО основная задача состоит в определении дальнейшего статуса согласованных элементов и содержания последующей работы.

Технологическая конкуренция продолжится и при наличии международных правил. Соответственно, регулирование должно опираться на обязательства, которые государства одинаково понимают и способны выполнять. Российский подход связывает достижение этой цели с действующим правом, национальной ответственностью и равноправным межгосударственным согласованием.


(Голосов: 8, Рейтинг: 4)
 (8 голосов)
Бизнесу
Исследователям
Учащимся