Распечатать
Оценить статью
(Голосов: 4, Рейтинг: 5)
 (4 голоса)
Поделиться статьей
Евгений Пашенцев

Д.и.н., проф., ведущий научный сотрудник Центра цифровых исследований Института актуальных международных проблем Дипломатической академии МИД России

Международный центр социально-политических исследований и консалтинга опубликовал в декабре 2021 г. доклад «Эксперты о злонамеренном использовании искусственного интеллекта и вызовах международной информационно-психологической безопасности». Данная работа стала результатом НИР в рамках исследовательского проекта №21-514-92001 «Злонамеренное использование искусственного интеллекта и проблемы информационно-психологической безопасности (ИПБ) в Северо-Восточной Азии», который был профинансирован Российским фондом фундаментальных исследований (РФФИ) и Вьетнамской академией социальных наук (ВАОН). Ответы, полученные в результате опроса девятнадцати экспертов из десяти стран, и их последующий анализ позволяют выделить наиболее серьезные угрозы международной информационно-психологической безопасности (МИПБ), обусловленные злонамеренным использованием искусственного интеллекта (ЗИИИ), и определить, какие меры следует использовать для их нейтрализации и каковы перспективы международного сотрудничества в этой сфере. Цель исследования — определить повысит ли ЗИИИ уровень угроз МИПБ к 2030 г. Особое внимание в публикации уделяется ситуации в Северо-Восточной Азии (СВА).

Международный центр социально-политических исследований и консалтинга опубликовал в декабре 2021 г. доклад «Эксперты о злонамеренном использовании искусственного интеллекта и вызовах международной информационно-психологической безопасности». Данная работа стала результатом НИР в рамках исследовательского проекта №21-514-92001 «Злонамеренное использование искусственного интеллекта и проблемы информационно-психологической безопасности (ИПБ) в Северо-Восточной Азии», который был профинансирован Российским фондом фундаментальных исследований (РФФИ) и Вьетнамской академией социальных наук (ВАОН). Ответы, полученные в результате опроса девятнадцати экспертов из десяти стран, и их последующий анализ позволяют выделить наиболее серьезные угрозы международной информационно-психологической безопасности (МИПБ)[1], обусловленные злонамеренным использованием искусственного интеллекта (ЗИИИ), и определить, какие меры следует использовать для их нейтрализации и каковы перспективы международного сотрудничества в этой сфере. Цель исследования — определить повысит ли ЗИИИ уровень угроз МИПБ к 2030 г. Особое внимание в публикации уделяется ситуации в Северо-Восточной Азии (СВА).

Ответы экспертов выявили широкий спектр угроз, которые представляет ЗИИИ для ИПБ отдельных лиц, групп, наций и всего человечества. Эксперты также признали (прямо или косвенно) наличие антиобщественных акторов, готовых реализовать эти угрозы. Ни один из экспертов не возложил вину за ЗИИИ на ИИ как таковой. К сожалению, в обществе, в том числе в странах — лидерах по развитию ИИ, существуют серьезные, но совершенно необоснованные опасения на счет данных технологий. Это может вызвать последующее движение новых «луддитов» (например, в связи с дальнейшим быстрым ростом автоматизации, ростом количественных и качественных возможностей ИИ). Принципиальной разницы в подходах специалистов в области социальных и технических наук к определению угрозы ЗИИИ нет. В ответах экспертов перечислены как технологии психологического воздействия, реализуемые через ЗИИИ, так и области антиобщественной деятельности, где ЗИИИ — это инструмент (или может стать таковым), который направлен против общества (деятельность преступных организаций, в том числе террористов; целенаправленное злонамеренное влияние на результаты выборов, референдумы и пр.).

Большинство экспертов отмечают значительное или сильное влияние ЗИИИ на рост угроз МИПБ. Примечательно, что никто из них такого влияния не отрицал; вопрос заключается только в степени такого влияния. Здесь эксперты разошлись в своих оценках, что, вероятно, отчасти связано с ограниченной статистической базой ЗИИИ в области МПБ. На вопрос о ситуации в 2030 г. десять (около 53%) экспертов ответили, что ЗИИИ вызовет «сильные» угрозы МИПБ, а девять (примерно 47%) — «заметные». Никто не указал на незначительный уровень такой угрозы, не говоря уже о ее отсутствии. Это говорит о необходимости превентивных мер против негативного сценария. Но худший сценарий развития событий следует не из перспективы дальнейшего развития технологий искусственного интеллекта, открывающих человечеству широкие возможности для социального прогресса, а из высокой вероятности углубления кризисов современного общества, усиления роли антисоциальных акторов. Последнее закономерно приводит к увеличению рисков ЗИИИ, в том числе в сфере МИПБ.

Исследование демонстрирует ограниченные, но реальные возможности международного сотрудничества в новой, крайне важной и проблемной области междисциплинарных исследований, где сегодня делаются первые шаги: ЗИИИ и МИПБ. В ходе опроса эксперты высказали совпадающие, существенно различающиеся и даже взаимоисключающие точки зрения, что понятно с учетом новизны и специфики обсуждаемых вопросов. Рассмотрение регионального аспекта проблемы ЗИИИ и МИПБ на примере СВА дало ценные результаты для выяснения природы и динамики развития угроз нового типа. Ведущие страны СВА из-за высокого уровня развития и внедрения ИИ сталкиваются с серьезными проблемами ЗИИИ в некоторых областях (злонамеренное использование дипфейков, негативные аспекты компьютерных игр с ростом использования ИИ и т.д.).

Полагаю необходимым обратить внимание на некоторые явления и тенденции, способствующие росту ЗИИИ. Крупнейшие компании в сфере высоких технологий активно используют ИИ в соответствии со своими узкими корпоративными интересами, зачастую идущими вразрез с интересами общества. Понятно, что компании, имеющие доступ к большим объемам данных для создания моделей ИИ, лидируют в его разработке. Ключевая группа в отрасли ИИ включает GAFAM — Google (Alphabet), Apple, Facebook (Meta), Amazon и Microsoft, также известные как «большая пятерка». Согласно анализу Wall Street Journal, на конец 2020 г. совокупная рыночная капитализация GAFAM достигла 7,5 триллиона долларов. Хотя технологическая отрасль долгое время пользовалась наибольшим доверием в обществе, за последние десять лет это доверие упало больше, чем в любом другом секторе. Так, американские технологические гиганты GAFAM были обвинены в ЕС в неуплате налогов, подавлении конкурентов, краже медиаконтента и угрозах демократии путем распространения фейковых новостей.

В условиях продолжающихся острых экономических проблем, обнищания сотен миллионов людей, быстрой концентрации мирового богатства в руках меньшинства, гонки вооружений и острых геополитических противоречий, ЗИИИ против МИПБ, проводимое силами различных антиобщественных акторов, может сыграть крайне негативную и опасную роль. Вот почему государства, особенно обладающие ведущим научным и техническим потенциалом, могут и должны сотрудничать, чтобы предотвратить использование антисоциальными субъектами информационных технологий, все в большей степени основанных на новых возможностях ИИ.

1. Международная информационно-психологическая безопасность (МИПБ) — защита международных отношений от негативных информационно-психологических воздействий, связанных с различными факторами международного развития. Последние включают целенаправленные усилия различных государственных, негосударственных и наднациональных субъектов по частичной/полной, локальной/глобальной, краткосрочной/долгосрочной, скрытой/открытой дестабилизации международной обстановки с целью получения конкурентных преимуществ, даже через  физическое устранение противника. 

Оценить статью
(Голосов: 4, Рейтинг: 5)
 (4 голоса)
Поделиться статьей
Бизнесу
Исследователям
Учащимся