Проблемы злонамеренного использования ИИ в контексте международной информационно-психологической безопасности БРИКС

5 октября 2023 г. в рамках шестого международного форума «Россия и Ибероамерика в турбулентном мире: история и современность» на базе Санкт-Петербургского государственного университета состоялись две сессии секции «Злонамеренное использование искусственного интеллекта и вызовы информационно-психологической безопасности БРИКС» под председательством доктора исторических наук, ведущего научного сотрудника Института актуальных международных проблем Дипломатической академии МИД России, профессора СПбГУ, Е. Пашенцева.

В мероприятии приняли участие как опытные, так и молодые исследователи, в том числе аспиранты и студенты из Бразилии, Беларуси, Китая, России, Румынии, Турции и Франции. Авторы восьми докладов ответили на многочисленные вопросы собравшихся. По итогам конференции необходимо отметить, что стремительное развитие ИИ сопровождается ростом угрозы его использования в злонамеренных целях. Технологии ИИ уже сегодня используются антисоциальными акторами, представляющими угрозу международной информационно-психологической безопасности. Вызов злонамеренного использования ИИ носит многоуровневый характер. Создание на международном уровне единого комплекса технических, политических и юридических мер позволит противостоять подобным угрозам.

5 октября 2023 г. в рамках шестого международного форума «Россия и Ибероамерика в турбулентном мире: история и современность» на базе Санкт-Петербургского государственного университета состоялись две сессии секции «Злонамеренное использование искусственного интеллекта и вызовы информационно-психологической безопасности БРИКС» под председательством доктора исторических наук, ведущего научного сотрудника Института актуальных международных проблем Дипломатической академии МИД России, профессора СПбГУ, Е. Пашенцева.

Андрей Кортунов:
На пути к искусственному интеллекту — пришествие демона Лапласа

В своем докладе «Злонамеренное использование искусственного интеллекта: вызовы информационно-психологической безопасности в Бразилии» Е. Пашенцев отметил, что Бразилия активно развивает технологии искусственного интеллекта (ИИ) и ИКТ, растет число научных центров и специалистов соответствующего профиля, однако общий уровень кибербезопасности продолжает оставаться крайне неудовлетворительным. Согласно новому отчету Trend Micro, Бразилия — вторая страна в мире, наиболее уязвимая для кибератак, что явно указывает на неэффективность существующих механизмов по предотвращению злонамеренного использования технологий. Очевидно, что стабильное развитие технологий не может рассматриваться без учёта контекста состояния кибербезопасности. Эта страна уступила только Соединенным Штатам по количеству заблокированных угроз в первой половине 2023 г. Отчет компании «Лаборатория Касперского» также подтверждает, что Бразилия лидирует по числу киберугроз в Латинской Америке. В феврале 2022 г. Бразилия была включена в список стран Spamhaus, где было обнаружено наибольшее количество спам-ботов. Большинство этих ботов используется для рассылки спама, фишинга и других вредоносных действий. Аналитики связывают их обилие в цифровом пространстве Бразилии с техническими, политическими и социально-экономическими факторами.

В докладе Е. Пашенцева уделено значительное внимание рискам использования глубоких фейков, чат-ботов, эмоционального ИИ и других технологий на основе ИИ для подрыва информационно-психологической безопасности Бразилии. При этом обращается внимание на то, что в Национальной стратегии кибербезопасности Бразилии, принятой в 2020 г., несмотря на изложение плана по укреплению кибербезопасности страны на 2020–2023 гг., ничего не говорится об угрозах злонамеренного использования ИИ с целью подрыва информационно-психологической безопасности. Несмотря на то, что Бразилия намерена включить ИИ и дезинформацию в повестку дня следующего заседания Рабочей группы G20 по цифровой экономике (GT) в 2024 г., проходящий процедуру рассмотрения в сенате страны законопроект № 2338 от 2023 г., регулирующий системы ИИ в Бразилии, хотя и определяет права людей, пострадавших от применения этих систем, и предусматривает наказание за нарушения, не упоминает об угрозах злонамеренного использования ИИ в информационно-психологической сфере. Между тем, по словам Пашенцева, острые социально-экономические проблемы Бразилии, активизация правых кругов внутри страны, недовольство США независимым курсом Лулы да Силвы и дальнейшее весьма вероятное обострение международной обстановки приведут к резкому росту информационно-психологических операций против правительства Бразилии при растущей роли технологий ИИ на всех этапах их планирования и осуществления.

Главный специалист ПАО «Газпром нефть» Е. Михалевич в своем докладе «Китайские законодательные инициативы в противостоянии злонамеренному использованию ИИ в информационно-психологической сфере» рассказала о том, что для правительства КНР обеспечение информационно-психологической безопасности и социально-политической стабильности — важный компонент поддержания общей архитектуры безопасности страны. Изучение нормативно-правовой базы КНР по контролю за использованием технологий глубокого синтеза вкупе с ее опытом в области противодействия угрозам злонамеренного использования ИИ путем внедрения системы социального кредита, цензурирования контента, распространяемого посредством социальных сетей, представляется важным для экспертов стран БРИКС, учитывая высокую степень неопределенности экономического и социально-политического развития в современном мире. Главная особенность китайского подхода к защите от злонамеренного использования ИИ — форсированный характер развития данной сферы. Как следует из официальных документов, все новейшие технологические разработки непременно должны учитывать фактор предупреждения злонамеренного использования, обеспечивая в том числе информационно-психологическую безопасность. По мнению китайского правительства, первоочередными мерами для противодействия рискам злонамеренного использования ИИ должны стать разработка национальной и в дальнейшем международной нормативно-правовой базы, регулирующей сферу ИИ, создание системы социальной этики путем обучения граждан информационной грамотности, а также осуществление общественного мониторинга путем налаживания системы социального доверия. Изучение опыта Китая по направлению противодействия рискам злонамеренного использования ИИ может оказаться полезным для всех членов БРИКС.

В докладе доктора политических наук, ведущего научного сотрудника Отдела исследований европейской интеграции Института Европы РАН Д. Базаркиной «Злонамеренное использование искусственного интеллекта: риски информационно-психологической безопасности в Южноафриканской Республике» рассматривается текущий уровень развития ИИ в ЮАР, а также существующие и потенциальные угрозы информационно-психологической безопасности, обусловленные злонамеренным использованием ИИ в этой стране, и инициативы по борьбе с ними. В их числе отмечаются: социальная дестабилизация внутри страны, связанная с автоматизацией производства, кибербуллинг, использование глубоких фейков в политическом противоборстве и т.д. Д. Базаркина отмечает, что большинство существующих рисков и угроз носит антропогенный характер: слабый ИИ используется самими людьми. В ответ на эти угрозы и риски правительство ЮАР разрабатывает национальное законодательство. Кроме того, в этой стране развиваются общественные инициативы, направленные на борьбу со злонамеренным использованием ИИ. Опыт ЮАР на данном направлении ценен для выработки общих принципов и механизмов противодействия «умным» психологическим операциям на основе ИИ в странах БРИКС.

Никита Соловьев:
Роль генеративных моделей ИИ в войне против истины

Мариус Вакарелу, доктор философии, советник проректора Национальной школы политических и административных исследований (Бухарест) в своем докладе «Злонамеренное использование Искусственного интеллекта против БРИКС: есть ли в этом необходимость?» отмечает, что геополитическая конкуренция представляется логичным и естественным продолжением развития технологий, влияющих на человеческое сознание и разум. В текущем веке борьба за глобальное превосходство ведется с помощью высокотехнологичных инструментов на основе ИИ, а тот факт, что право голоса стало универсальным, вынуждает все страны искать решения для информационно-психологической безопасности своих граждан. В этом контексте злонамеренное использование ИИ становится естественным в геополитическом соперничестве, несмотря на то что официальный дискурс запрещает такие методы использования. В своем докладе Вакарелу уделяет внимание перспективам использования ИИ в конкуренции между странами БРИКС и коллективным Западом.

Доктор технических наук, профессор, главный научный сотрудник Цзинанского Института суперкомпьютерных технологий Национального суперкомпьютерного центра в Цзинане (Китай) А. Райков выступил с докладом «Противодействие злонамеренному использованию общего искусственного интеллекта благодаря повышению его способности объяснения». В своем докладе он отметил, что опасность злонамеренного использования ИИ и возможность противодействия такому использованию будет стремительно расти с развитием вычислительной базы. К такому развитию относится увеличение мощности компьютеров, создание перспективных методов параллельных вычислений, а также улучшение объяснительных возможностей ИИ. Последние определяют уровень доверия к выводам и рекомендациям ИИ, которые могут быть правдивыми или ложными. Искусственный интеллект пока не научился решать сложные междисциплинарные задачи для синтеза объяснений, однако его возможности растут очень быстро благодаря развитию генеративных версий ИИ, разработке больших лингвистических моделей, увеличению мощности суперкомпьютеров.

Уже ведутся разработки элементов общего искусственного интеллекта. Однако, например, возможности генеративных версий ИИ, базирующихся на логическом статистическом подходе, имеют много ограничений, включая слабость учета персонализации и когнитивных семантик моделей ИИ, ограниченность длины токенов, игнорирование при создании искусственных нейронных сетей атомарной структуры естественных нейронов. Последние привносят в процессы смысловой обработки данных нелокальные квантовые и релятивистские эффекты. Рост производительности суперкомпьютеров ограничен трудностями дальнейшего уменьшения размеров транзисторов, большими энергозатратами на вычисления. Цифровое представление естественных аналоговых сигналов приводит к урезанию их спектров, и, как следствие, к увеличению времени вычислений при желании повысить их точность. Устранение таких ограничений требует новых научных исследований в области оптических вычислений, синтеза оригинальных оптических устройств и фотонных материалов. Эти исследования требуют международного и междисциплинарного научного сотрудничества и уникальной конвергентной технологии. Элементы такой конвергентной технологии и технологий оптических аналоговых вычислений нами отрабатываются в процессах коллективного стратегического планирования, а также моделирования на суперкомпьютерах сложных социальных и инженерных задач.

В. Романовский, исследователь из Белорусского государственного университета, в докладе «Приоритетные направления международного сотрудничества в области обеспечения международной информационно-психологической безопасности стран БРИКС:
аспект злонамеренного использования искусственного интеллекта» подчеркнул, что повышение внимания стран БРИКС к проблематике противодействия злонамеренному использованию ИИ стало закономерным ответом на факт деградации системы международных отношений, что характеризуется нарушением общественной безопасности, принятием заведомо невыгодных решений и принятием невыгодных международных договоров, ухудшением отношений с другими государствами, созданием социально-политической напряженности. Использование технологий на основе ИИ, по мнению В. Романовского, является одним из определяющих факторов, влияющих на рост информационно-психологической напряженности. В условиях увеличения темпов регионализации информационной сферы и возрастания угроз информационно-психологической безопасности, повышается значимость международного сотрудничества в рамках многосторонних объединений, таких как БРИКС, в целях выработки общего понимания масштабов угроз и возможных методов противодействия.

Евгений Пашенцев:
Злонамеренное использование искусственного интеллекта и вызовы международной информационно-психологической безопасности

Доктор философии, преподаватель геополитики в бизнес-школе EMlyon (Лион, Франция), Католическом институте Вандеи (ICES, Рош-сюр-Йон, Франция) и Институте социальных, экономических и политических наук (ISSEP, Лион, Франция), президент ассоциации Eurocontinent (Брюссель) Пьер-Эммануэль Томанн выступил с докладом «Злонамеренное использование ИИ и когнитивная война в контексте геополитического соперничества великих держав: опасность поляризации между многосторонними альянсами, такими как БРИКС, ШОС, ЕС, НАТО». В частности, он отметил, что угрозы злонамеренного использования ИИ в условиях когнитивного противоборства могут оказать глубокое и продолжительное воздействие на международную систему отношений посредством создания новых, несбалансированных геополитических иерархий. Это может привести к тотальной и перманентной войне и подвергнуть все человечество опасности. Многосторонняя система международных организаций типа ООН, ОБСЕ, НАТО и т. д., возникшая после Второй мировой войны, подвергается все большему числу вызовов, поскольку она основана на старом пространственном порядке, которого больше не существует. Одновременно мы наблюдаем расширение прав и возможностей новых многосторонних организаций, отражающих новый порядок, таких как БРИКС и ШОС. Профессор Томанн задается вопросом, можно ли избежать поляризации конкурирующих блоков различных государств и многосторонних организаций путем продвижения многостороннего сотрудничества в сфере обеспечения информационно-психологической безопасности, основанного на этическом и ориентированном на человека порядке в сочетании с лучшим геополитическим балансом сил. Очевидно, что продвигая новые модели глобального сотрудничества в области ИИ между «старыми» и «новыми» организациями и альянсами возможно предотвратить многие угрозы злонамеренного использования ИИ и избежать когнитивного противоборства.

Кандидат исторических наук, старший преподаватель кафедры политологии, истории и регионоведения Иркутского государственного университета, эксперт Института актуальных международных проблем Дипломатической академии МИД РФ С. Себекин в своем докладе «Вызовы демократии в эпоху искусственного интеллекта: как информационно-психологическое воздействие посредством ИИ может повлиять на политические процессы (на примере стран БРИКС)» показал, как технологии ИИ позволяют влиять на политические процессы в странах БРИКС посредством формирования информационной повестки, управления политическими предпочтениями и «настройки» необходимого электорального поведения целевых групп. Подобное воздействие может быть чревато серьезными последствиями — масштабной дезориентацией населения, нарушением основ гражданского общества, подрывом самого демократического процесса. Стремительное внедрение систем ИИ в странах БРИКС в условиях давления враждебных геополитических акторов создают благоприятные возможности для информационно-психологического воздействия с использованием технологий ИИ. С. Себекин отмечает, что одна из прогнозируемых особенностей технологий информационно-психологического воздействия посредством ИИ — находить «болевые точки» в политических процессах тех или иных государств, ставя под угрозу репутацию политических деятелей, навязывая ложные представления о политической ситуации и подрывая доверие к политическим институтам.

Заключение

В работе секции «Злонамеренное использование искусственного интеллекта и вызовы информационно-психологической безопасности БРИКС» приняли участие как опытные, так и молодые исследователи, в том числе аспиранты и студенты из Бразилии, Беларуси, Китая, России, Румынии, Турции и Франции. Авторы восьми докладов ответили на многочисленные вопросы собравшихся. Подводя итоги двух сессий работы секции, необходимо отметить, что стремительное развитие ИИ сопровождается ростом угрозы его использования в злонамеренных целях. Технологии ИИ уже сегодня используются антисоциальными акторами, представляющими угрозу международной информационно-психологической безопасности. Вызов злонамеренного использования ИИ носит многоуровневый характер. Создание на международном уровне единого комплекса технических, политических и юридических мер позволит противостоять подобным угрозам.