Опасные последствия применения технологий ИИ в военных целях

Если период с 2020 по 2021 гг. характеризовался в основном массовым сбором и анализом данных, то 2022 год ознаменовал эпоху «полевой обкатки» основанных на искусственном интеллекте программных средств. Сегодня активно используются продвинутые цифровые технологии на основе ИИ в качестве инструментов, способных оказывать значительное влияние на ход различных вооруженных конфликтов, в частности, специальной военной операции России.

На современном этапе государства — члены НАТО и партнеры Североатлантического альянса, а также американские технологические корпорации ставят вопросы выгоды на геополитической арене здесь и сейчас выше, чем потенциальные угрозы международной информационной безопасности в относительно недалеком будущем, разрабатывая и предоставляя военным основанные на искусственном интеллекте высокотехнологичные решения.

Такие программные инструменты, как Palantir AI, Primer AI и Clearview AI, которые применяются в рамках вооруженного конфликта на территории Украины, демонстрируют трансформацию методов ведения боевых действий. Более того, новые комплексные цифровые разработки вынуждают ставить вопрос об этичности их использования в каждом конкретном случае.

Вместе с тем широкий спектр применения программных средств на основе ИИ находится в «серой зоне» международного законодательства в сфере информационной безопасности, где международное сообщество только начинает делать первые шаги в попытке урегулировать бесконтрольный сбор данных и придать применению новых технологий искусственного интеллекта более прозрачный характер. Отсутствие отлаженного международного регуляторного механизма в отношении разработчиков технологий ИИ способствует предоставлению частным организациям и их заказчикам в лице правительств информации, носящей конфиденциальный характер на глобальном уровне, что может привести к возникновению новых очагов конфликта по всему миру.

Пандемия COVID-19 оказала колоссальное влияние на мировую экономику, резко переформатировала привычные политические, военные, социальные и бизнес-модели, а также стала значительным катализатором в развитии сектора информационных технологий. В результате глобальный рынок IT-индустрии получил огромное количество финансовых и интеллектуальных ресурсов. Существенные прорывы в том числе были достигнуты в области искусственного интеллекта (ИИ). Вместе с тем наряду с очевидными преимуществами ИИ появляются и новые виды информационных угроз.

Если период с 2020 по 2021 гг. характеризовался в основном массовым сбором и анализом данных, то 2022 год ознаменовал эпоху «полевой обкатки» основанных на искусственном интеллекте программных средств. Сегодня активно используются продвинутые цифровые технологии на основе ИИ в качестве инструментов, способных оказывать значительное влияние на ход различных вооруженных конфликтов, в частности, специальной военной операции России.

Передовые технологии дистанционного ведения боя

Сергей Себекин:
Угрозы международной информационной безопасности в эпоху Индустрии 4.0

Многочисленные статьи мировых СМИ, заявления первых лиц государств и технических экспертов показывают, что текущий вооруженный конфликт на Украине представляет «благодатную почву» для испытания современных методов ведения войны.

Так, в июле текущего года президент России В. Путин в отношении текущей специальной военной операции применил термин «гибридная война», заявив, что «сейчас против нас, по сути, ведётся гибридная война, используются беспрецедентные по масштабу нелегитимные антироссийские санкции». В июне министр цифровой трансформации Украины Михаил Федоров охарактеризовал текущие военные действия «технологической войной», а The Washington Post в декабре 2022 г. опубликовала на первой полосе статью под заголовком «Россия и Украина ведут первую полномасштабную войну беспилотников».

Именно современные технологии дистанционного ведения боя в значительной степени повлияли на текущий характер ведения боевых действий. Спутники, БПЛА, кибернетические возможности и искусственный интеллект с самого начала СВО находились в центре особого внимания иностранных вооруженных сил и частных технологических корпораций, в первую очередь — американских. Так, глава программы международной безопасности и оборонной политики американской корпорации RAND Джим Митр, заявил, что «мы действительно видим в режиме реального времени, как развивается ситуация на Украине, поэтому существуют коммерческие компании, которые спешат на помощь». При этом, по словам представителя министерства обороны США Саши Бейкер, Украина проявила «творческий подход к интеграции возможностей» Соединенных Штатов и других союзников.

Действительно, во многом именно благодаря высокой степени проникновения спутниковых технологий на территории Украины и стала возможна «полномасштабная цифровизация» вооруженного конфликта, позволяющая в режиме реального времени осуществлять сбор и анализ данных с целью дальнейшего принятия решений. Небольшие коммерческие беспилотники также стали важной частью противостояния, позволяя войскам заниматься сбором разведывательной информации, корректировать огонь артиллерии и авиации или же использовать дроны в качестве барражирующих боеприпасов. Большой вклад внесли и зарубежные корпорации, задействованные в сфере кибербезопасности, и киберцентры НАТО, которые поделились с Украиной имеющимися у них ресурсами и опытом, в частности, по обучению проведения наступательных операций в киберпространстве.

Наконец, колоссальное значение для проведения военных операций приобретают технологии искусственного интеллекта. По словам Кай-Фу Ли, генерального директора китайской венчурной компании Sinovation Ventures, технологии ИИ стали «третьей революцией в вооружении» после изобретения пороха и ядерного оружия, а сама многосторонняя гонка в данной сфере, если оставить ее без значимого урегулирования на международном уровне, в конечном итоге превратится в «гонку к забвению».

Однако на современном этапе государства — члены НАТО и партнеры Североатлантического альянса, а также американские технологические корпорации ставят вопросы выгоды на геополитической арене здесь и сейчас выше, чем потенциальные угрозы международной информационной безопасности в относительно недалеком будущем, разрабатывая и предоставляя основанные на искусственном интеллекте высокотехнологичные решения.

Ряд отечественных экспертов отмечает устоявшуюся среди западных стран практику: для большинства аппаратно-программных средств военного назначения на основе ИИ на первом этапе разрабатываются их гражданские прототипы, которые в дальнейшем адаптируются для военных нужд, что позволяет существенно снижать время и стоимость создания военных систем с искусственным интеллектом [1]. Ниже рассмотрим программные инструменты, которые являются технологией двойного назначения, что позволяет ставить вопрос об этичности их использования в каждом конкретном случае.

Palantir AI

«Страна, которая победит в битвах искусственного интеллекта будущего, установит международный порядок»
Алекс Карп, исполнительный директор Palantir Technologies Inc.

Один из ярких примеров использования технологий искусственного интеллекта на Украине — одноименная комплексная разработка американской корпорации Palantir Technologies Inc., специализирующаяся на разработке программного обеспечения для анализа данных и разведывательной работы. Данная система включает в себя платформу для интеграции, управления и анализа данных из различных источников с целью обработки больших объемов информации и предоставления интеллектуальных инструментов анализа данных, которые помогают оператору принимать обоснованные решения.

Palantir Technologies имеет глубоко укоренившиеся связи с правительством Соединенных Штатов, благодаря которым компания получила абсолютно доминирующее положение на рынке. Так, одним из первых инвесторов корпорации на раннем этапе стала аффилированная с Центральным разведывательным управлением США венчурная компания In-Q-Tel.

Сразу после начала СВО Алекс Карп стал первым из представителей крупного частного бизнеса, который посетил офис президента в Киеве с целью предложить услуги Palantir Technologies, и с того момента программные решения компании начали активно внедряться в систему управления украинскими войсками.

Предоставляемый на безвозмездной основе Украине комплекс Palantir AI имеет широкий спектр функций, направленный в первую очередь на устранение «тумана войны»:

1. использование защищенного канала связи с целью оперативного обмена разведданными между спецслужбами государств;
2. предоставление доступа к объединенной базе спутниковых снимков различных поставщиков, включая Maxar, Airbus, ICEYE, Capella и Национальное управление океанических и атмосферных исследования США, которое предоставляет тепловизионные изображения, регистрирующие применение артиллерии. Palantir AI способен получать данные с более 300 спутников с областью фокусирования до 3 метров;
3. анализ информации, позволяющий вычислить наиболее вероятное расположение войск противника. В результате каждого предпринятого действия цифровые данные подвергаются обновлению и корректируются системой с целью более точного прогнозирования;
4. использование широкополосной связи, предоставляемой компанией Starlink, которая насчитывает более 2,5 тыс. спутников на околоземной орбите;
5. возможность внедрения сторонних программных средств.

Обратная сторона эффективности системы Palantir AI — отсутствие этических принципов использования данной технологии в связи с ее универсальностью. Данная технология может быть задействована в различных сферах общественной деятельности, предоставляя оператору возможность применять Palantir AI в том числе в нарушение международных гуманитарных норм.

Так, в 2019 г. программное обеспечение Palantir AI использовалось Иммиграционным и таможенным управлением США с целью цифрового профилирования иммигрантов в рамках жесткой политики Дональда Трампа, что многими сотрудниками Palantir Technologies было воспринято в качестве предательства миссии компании «работать ради всеобщего блага». В результате корпорация столкнулась с сильным давлением со стороны активистов по защите гражданских прав, которые призывали прекратить сотрудничество с федеральным управлением.

Кроме того, в 2014 г. в рамках выполнения заказа для Агентства национальной безопасности Palantir Technologies разработала систему, предоставляющую сотрудникам АНБ доступ к электронным письмам, записям телефонных звонков, текстовым сообщениям и данным с камер наблюдения. В 2011 г. активисты из хакерской организации Anonymous выяснили, что Palantir Technologies принимала участие в программе противодействия проекту Wikileaks. В частности, специалисты компании предлагали использовать кибератаки и кампании по проведению дезинформации с целью дискредитации проекта Джулиана Ассанжа.

Применение системы Palantir AI вызывает опасения относительно потенциальных рисков, которые она может представлять для международной информационной безопасности, в частности:

• способность Palantir AI обрабатывать и анализировать огромные объемы данных, включая чувствительную и личную информацию, что угрожает сохранению приватности и конфиденциальности данных;
• учитывая тот факт, что Palantir AI часто используется правительственными организациями и службами разведки, существует потенциальная вероятность злоупотребления функционалом и нарушения гражданских свобод;
• используемые Palantir AI алгоритмы машинного обучения для анализа данных могут быть предвзятыми или содержать ошибки, что может привести к неправильным выводам и решениям;

Внедрение корпорацией Palantir Technologies основанных на искусственном интеллекте программных решений свидетельствует о значительной роли, которую технологии могут оказать на современный мир. Поскольку переход гражданского общества и театров военных действий в цифровую среду приобретает все более массовый характер, можно с большой долей уверенности утверждать, что данная тенденция продолжит развиваться в ускоренных темпах, а государства будут продолжать уделять значительное внимание данным разработкам.

В частности, поскольку члены Конгресса проявляют неподдельный интерес к пониманию перспектив разработки в сфере искусственного интеллекта, существует значительная вероятность того, что правительство США и в будущем продолжит спонсировать данное направление. Однако международному сообществу следует пристально следить за компаниями, разрабатывающими ПО данного типа, так как существует высокий риск применения данных программных решений в злонамеренных целях.

Primer AI

«Искусственный интеллект — это настолько мощная технология,
что владеющая ею страна быстро одержит победу над противником, у которого ее нет»
Шон Гурли, основатель Primer Technologies Inc.

Американская корпорация Primer Technologies Inc. была создана в 2015 г., и с момента своего основания зарекомендовала себя в качестве надежного партнера правительства США. В состав влиятельных сотрудников и советников компании входят значимые политические фигуры, занимающие влиятельные позиции в политикоформирующих сферах национальной безопасности США в области разведки, оборонной промышленности, кибербезопасности и передовых информационных технологий. Примечательно, что одним из главных инвесторов Primer Technologies является упомянутая ранее венчурная компания In-Q-Tel.

Евгений Пашенцев:
Злонамеренное использование искусственного интеллекта и вызовы международной информационно-психологической безопасности

Сфера деятельности Primer Technologies сосредоточена в первую очередь на технологиях распознавания изображений, транскрибирования речи, перевода и языковой обработки благодаря нейросети, которая обучается на значительных массивах данных. Сами программные решения компании представляют собой мощную инфраструктуру искусственного интеллекта, которая позволяет операторам создавать, настраивать и развертывать модели ИИ с целью обработки больших объемов информации.

Выступая в Конгрессе США, бывший исполнительный директор Primer Technologies Шон Гурли заявил, что искусственный интеллект способен увеличить эффективность операций Министерства обороны США, а выделение 5% от всего американского оборонного бюджета на ИИ и МО может предоставить Вашингтону значительное преимущество перед такими противниками, как Москва и Пекин.

Как заявляют в Primer Technologies, предоставляемые компанией решения на основе искусственного интеллекта и технологии обработки естественного языка, в частности, удовлетворяют потребность в ситуационной осведомленности, которая включает в себя стратегический анализ, обнаружение угроз, информационных операций, извлечение и анализ аудиозаписей, а также обучение и развёртывание пользовательских моделей искусственного интеллекта.

Область внедрения решений Primer AI включает в себя технологический и финансовый сектор, сферу национальной безопасности и различные отрасли крупной промышленности. Решения на основе искусственного интеллекта Primer AI способны:

• осуществлять поиск информации в рамках уточненной геозоны;
• производить широкий спектр мониторинга на основе глобальных источников данных, включая новости и социальные сети, на более чем 100 языках;
• распознавать текст на изображениях, обрабатывать аудиофайлы, удалять из них шум и выделять ключевые слова,
• сопоставлять отдельные графические и аудиоматериалы для формирования единой картины;
• отслеживать закономерности и противоречия в рамках информационного поля;
• генерировать отчет о ситуации в режиме реального времени.

Primer Technologies предоставляет свои инструменты как государственному сектору, так и частным заказчикам.

Алгоритмы искусственного интеллекта Primer AI были конкретизированы для нужд Украины и предоставлены Киеву на безвозмездной основе с целью выполнения шести задач:

1. перехват и сбор аудиоданных с помощью программного обеспечения, эмулирующего аппаратное обеспечение радиоприемника;
2. нейтрализация посторонних шумов, включая фоновую речь и музыку;
3. расшифровка и перевод русской речи;

4. выделение ключевых фраз, относящихся к ситуации на поле боя;
5. распознавание упомянутых в речи объектов для устранения неоднозначности и идентификации лиц, организаций и местоположений;
6. составление краткого или детального отчета на основе обработанных данных.

Как отмечают разработчики Primer AI, способность оперативно применять средства OSINT на основе полученных данных позволяет плохо оснащенным армиям получить превосходство над гораздо более подготовленным соперником на поле боя.

Primer AI представляет угрозу для международной информационной безопасности ввиду широкого спектра применяемой технологии:

1. существование частных компаний, использующих технологии искусственного интеллекта с целью обеспечения масштабного перехвата и анализа конфиденциальных данных, вызывает опасения относительно предоставляемой таким корпорациям власти и влияния, которое они могут оказать на государства в дальнейшей перспективе, ставя под угрозу международную информационную безопасность, что в свою очередь может привести к дестабилизации геополитической обстановки;
2. возможность сбора аудио информации посредством перехвата незащищенных радиосообщений может быть использована государствами и частными компаниями с целью нарушения частной жизни граждан или направлена на подрыв принципа корпоративной тайны транснациональных корпораций;
3. неверно расшифрованное несовершенным алгоритмом сообщение может привести к фатальным результатам на поле боя вплоть до уничтожения критической инфраструктуры, что в свою очередь спровоцирует гуманитарную катастрофу мирового масштаба.

Заинтересованность правительства Соединенных Штатов в технологиях Primer Technologies Inc. и доказанная эффективность применения Primer АI частными компаниями и ведомствами зарубежных государств свидетельствуют о перспективах разработки и намерении внедрения данной технологии во все сферы жизни современного общества. В связи с этим международным организациям необходимо выработать единый алгоритм, направленный на противодействие бесконтрольному развитию и применению широкого спектра возможностей Primer AI в злонамеренных целях, ставящих под угрозу информационную безопасность как на глобальном, так и региональном уровнях.

Clearview AI

«Так приятно видеть, как быстро Clearview AI был взят на
вооружение правоохранительными органами США»
Хоан Тон-Та, исполнительный директор Clearview AI

Датой создания американского стартапа Clearview АI считается 2017 год, при этом одним из инвесторов компании на раннем этапе ее становления значится крупный американский предприниматель Питер Тиль, который также является сооснователем Palantir Technologies Inc. Однако свою широкую известность компания получила в 2020 г., тогда же ее основатель Хоан Тон-Та столкнулся с массой критики со стороны международного сообщества в отношении своей деятельности.

Программное решение Clearview AI представляет собой наиболее яркий пример неоднозначного отношения общества по всему миру к разработанной технологии искусственного интеллекта в связи с крайне противоречивым использованием ПО и сбором необходимых для него данных. Принцип его действия заключается в биометрической идентификации человека по предоставленной фотографии на основе базы данных, которая состоит из более 30 млрд изображений, полученных из открытых источников, в основном крупнейших социальных сетей, включая Facebook, Instagram [2], Twitter и т.д. Заявленная разработчиками точность технологии составляет 99,6%, позволяя распознавать лица даже с физическими увечьями и в условиях недостаточной освещенности.

До 2020 года Хоан Тон-Та заявлял, что Clearview Al оказывает услуги только правоохранительным органам, не называя конкретных заказчиков. Однако позднее мировая общественность узнала о гигантском масштабе использования персональных данных. В число пользователей ПО входили более 2200 правоохранительных органов и учреждений в 27 странах (включая Федеральное бюро расследований, Министерство юстиции США, Фонд национального благосостояния), а также такие компании как ритейлеры Walmart, Best Buy, банки Bank of Аmeriса, Wells Fargo, операторы мобильной связи AT&T, Verizon, T-Mobile и др. Особенно необходимо отметить опыт использования Clearview AI сотрудниками Международной организации уголовной полиции, в рамках которого в 2019 г. было проведено более 320 поисковых запросов за 30 дней, что было подтверждено Генеральным секретариатом Интерпола.

В результате против Clearview AI неоднократно заводились судебные дела в США, а в Великобритании и Италии компания была оштрафована за отсутствие информирования граждан страны о сборе их личных фотографий на платформах социальных сетей. В свою очередь, такие технологические гиганты, как Google, Meta и Twitter также направляли Clearview официальные уведомления о запрете сбора личной информации на их платформах. Кроме того, использование компанией персональных данных без согласия владельцев было признано незаконным в Канаде, Великобритании, Франции, Австралии и Италии.

С февраля 2022 г. ПО Clearview АI на безвозмездной основе используется украинской стороной для идентификации российских военнослужащих, при этом Хоан Тон-Та отметил, что не имеет информации о конкретном использовании своего ПО на территории Украины, но выразил надежду, что Clearview AI не будет использоваться в нарушение Женевских конвенций.

Однако на текущий момент известно, что инструмент Clearview AI применяется для идентификации погибших российских военнослужащих с целью выявления их близких родственников и оказания в отношении последних психологического давления путем отправки изображений, сопровождаемых текстовыми сообщениями с угрозами. Британская группа по защите цифровых прав Privacy International призвала компанию Clearview AI прекратить свою работу на Украине, заявив, что потенциальные последствия использования технологии распознавания лиц «могут быть слишком ужасными, чтобы с ними мириться — например, принятие гражданских лиц за солдат». При этом эксперты отмечают, что Clearview AI стремится продемонстрировать работу ПО во время конфликта как способ прорекламировать себя правительственным клиентам по всему миру и «нажиться на трагедии».

В результате анализа особенностей инструмента Clearview AI можно выделить следующий список угроз для международной информационной безопасности со стороны данной технологии:

1. имеющаяся в распоряжении Clearview AI база данных пользователей может быть использована злоумышленниками в результате несанкционированного доступа к этим данным. Утечка информации такого рода может привести к серьезным последствиям для безопасности личности и стать причиной случаев массового мошенничества или других преступлений. В частности, в 2020 г. база данных Clearview AI была взломана неизвестными хакерами, которые получили доступ к списку всех клиентов компании;
2. несанкционированный сбор компанией персональных данных и использование этой информации для идентификации и слежения за людьми в любой точке мира может серьезно нарушать право на частную жизнь;
3. злонамеренное и неправомерное использование технологии со стороны правительств может спровоцировать усиление государственного надзора, масштабный социальный контроль и ограничение прав граждан;
4. погрешность в точности алгоритма наряду с необходимостью загрузки изображения высокого качества допускают вероятность ошибочной идентификации личности. В случае вынесения решения лишь на основе предоставленной Clearview AI информации существует угроза привлечения к ответственности невиновного лица;
5. сотрудничество компании Clearview АI с силовыми структурами может привести к внедрению технологии в летальное вооружение нового поколения, способное избирательно подходить к ликвидации целей, что в свою очередь может вызвать угрозу создания нового вида оружия массового уничтожения.

Алгоритмический сбор изображений практически с любой цифровой платформы позволяет таким технологическим компаниям, как Clearview АI воспользоваться текущей нестабильной геополитической обстановкой для расширения области своей деятельности, отбросив конфиденциальность персонального и государственного значения на второй план. В связи с противоречивой деятельностью Clearview AI в «серой зоне» международного законодательства представляется вероятным дальнейшее проникновение аналогичных инструментов в современное общество, что может вызвать стирание такого понятия как «приватность».

Выводы

Антон Тамарович, Алексей Алмаматов:
Искусственный интеллект идет в политику

Рассматривая применение технологий искусственного интеллекта в период вооруженного конфликта на территории Украины в рамках изученной здесь триады программных инструментов, представляется возможным сделать вывод о происходящей трансформации методов ведения боевых действий благодаря использованию новых комплексных цифровых разработок. Внедрение программных средств на основе искусственного интеллекта позволяет операторам исключать необходимость отправки данных в специализированный аналитический центр для дальнейшей обработки специалистами, значительно сокращая время принятия решения на местах. Особенно примечателен тот факт, что исторически военные технологии создавались преимущественно специализированными предприятиями военно-промышленного комплекса, но в настоящий момент значительная часть инструментов выпускается компаниями частного сектора, которые ранее не имели деловых отношений с правительствами стран в рамках военного сотрудничества.

Широкий спектр применения программных средств на основе ИИ находится в «серой зоне» международного законодательства в сфере информационной безопасности, где международное сообщество только начинает делать первые шаги в попытке урегулировать бесконтрольный сбор данных и придать применению новых технологий искусственного интеллекта более прозрачный характер. Отсутствие отлаженного международного регуляторного механизма в отношении разработчиков технологий ИИ способствует предоставлению частным организациям и их заказчикам в лице правительств информации, носящей конфиденциальный характер на глобальном уровне, что может привести к возникновению новых очагов конфликта по всему миру.

Так, 18 июля 2023 г., выступая на первом в истории заседании Совета Безопасности ООН по теме искусственного интеллекта, Генеральный секретарь ООН Антониу Гутерриш призвал международное сообщество срочно принять меры по контролю за развитием этой «необычной технологии» и создать на базе ООН орган, который мог бы сформулировать глобальные стандарты по регулированию сферы ИИ. Он отметил, что и военные, и невоенные варианты применения искусственного интеллекта могут иметь серьезные последствия для глобального мира и безопасности. Он также предупредил, что применение ИИ в целях совершения терроризма, преступлений и кибератак будет иметь крайне серьезные последствия для глобальной безопасности.

Для России обладание продвинутыми технологиями ИИ может стать значительным преимуществом, способным оказать существенное влияние на текущие геополитические процессы. В завершение можно привести цитату президента Российской Федерации из выступления во время конференции «Путешествие в мир искусственного интеллекта» 24 ноября 2022 г.: «Значение прорывов в сфере искусственного интеллекта колоссальное. Между государствами идет ожесточенное соперничество, и от того, каких результатов мы добьемся, зависит место России в мире, наш суверенитет, безопасность и состоятельность нашей страны».

1. Д.В. Галкин, П.А. Коляндра, А.В. Степанов «Состояние и перспективы использования искусственного интеллекта в военном деле» // Военная мысль. 2021 г. №1

2. Соцсети Instagram и Facebook принадлежат организации Meta, деятельность которой признана экстремистской и запрещена в России.