Искусственный интеллект как инструмент борьбы за сознание людей

Сегодня ИИ в глобальном цифровом пространстве — это, по сути, никем толком не регулируемый инструмент (причем чрезвычайно эффективный) геополитического и экономического влияния владельцев цифровых платформ и сервисов, задающих современные потребительские, общественно-политические и социокультурные тренды.

«Натренированная» должным образом ИИ-система способна выявлять «уязвимости» в мыслительных процессах принятия решений и, воздействуя на них, подталкивать человека к определенному выбору. Такой выбор будет восприниматься человеком как исключительно свой, базирующийся на принципе «свободной воли», а не навязанный со стороны хитрой машины.

К слову, в глобальных электронных СМИ и агрегаторах новостей подобные ИИ-системы используются для фильтрации, обработки и классификации информации (а с недавних пор избирательное «умное» цензурирование активно применяется и в отношении информационного контента в соцсетях), таргетированному доведению ее до конечного потребителя, как исходя из его личных предпочтений, так и с учетом редакционной политики цифровой платформы или издания. При этом в соцсетях основной фокус делается на оценке поведения и предпочтений пользователя в целях проактивного продвижения товаров и услуг «заказчиков», зачастую также обернутых в определенные социокультурные и политические установки. Большинство людей даже не догадывается, что информация из их аккаунтов используется с целью совершенствования алгоритмов ИИ по воздействию на их же поведенческую модель.

Происходит стремительная фрагментация международного информационного пространства в угоду сугубо коммерческим интересам или интересам государственно-частного партнерства (как долгосрочным, так и ситуативным). Формирование универсальной международной нормативно-правовой регуляторики или хотя бы неких общепринятых «правил игры» становится попросту невозможным.

При сохранении динамики актуальных трендов, через каких-нибудь 3–5 лет значение ИИ для массовых цифровых платформ и глобального информпространства в целом станет поистине колоссальным. Сложные алгоритмические системы превратятся в полноценный инструмент экономического и геополитического противоборства между технологически развитыми странами и аффилированного с ними крупного бизнеса. В условиях сохраняющихся полярных подходов в международном сообществе к нормативно-правовому регулированию современных ИКТ, разработчики и операторы ИИ-систем будут пользоваться этой неопределенностью и регуляторным вакуумом. Они станут еще активнее коммерциализировать свои сервисы и платформы в виртуальной среде, пытаясь с помощью передовых технологий «выгрызать» доли глобального рынка у прямых конкурентов. При этом в борьбе за пользователей такой «цифры» у последних целенаправленно будут формироваться новые критерии оценки и восприятия информации, подталкивающие их к определенному заранее смоделированному «заказчиком» алгоритму действий (выбору). Новая среда окажет также влияние на культурный код человека и его поведенческие паттерны, что в конечном счете может привести к определенному «выравниванию» социума в разных частях света (сторонники глобализации будут рады) или приведения его к некому общему знаменателю — единообразному цифровому шаблону потребителя. Как представляется, такой сценарий — это уравнение со множеством неизвестных, решение которого грозит непредсказуемым и, что немаловажно, весьма опасным результатом.

Широкое применение алгоритмов искусственного интеллекта (ИИ) на просторах «Всемирной паутины» стало объективным следствием ускорившейся в последние годы цифровизации общества, ведущей к стиранию национальных границ и размыванию этнокультурных особенностей человека в виртуальном пространстве. Огромные технологические возможности ИИ-систем органично встроились в ставшие уже традиционными цифровые сервисы (социальные сети, поисковики, агрегаторы новостей, маркетплейсы и пр.), существенно расширив инструментарий ИКТ по воздействию на сознание людей, влиянию на экономические процессы в масштабах отдельно взятых стран, регионов и даже континентов. Сегодня ИИ в глобальном цифровом пространстве — это, по сути, никем толком не регулируемый инструмент (причем чрезвычайно эффективный) геополитического и экономического влияния владельцев цифровых платформ и сервисов, задающих современные потребительские, общественно-политические и социокультурные тренды.

В ноябре 2020 г. в журнале Национальной академии наук США американские ученые опубликовали результаты своего исследования (Adversarial vulnerabilities of human decision-making) о возможностях ИИ манипулировать сознанием человека при принятии решений. Если кратко, то «натренированная» должным образом ИИ-система способна выявлять «уязвимости» в мыслительных процессах принятия решений и, воздействуя на них, подталкивать человека к определенному выбору (на данном этапе эффективность манипуляционных алгоритмов в лабораторных тестах составляет около 70%). Причем, что немаловажно, такой выбор будет восприниматься человеком как исключительно свой, базирующийся на принципе «свободной воли», а не навязанный со стороны хитрой машины.

К слову, в глобальных электронных СМИ и агрегаторах новостей подобные ИИ-системы используются для фильтрации, обработки и классификации информации (а с недавних пор избирательное «умное» цензурирование активно применяется и в отношении информационного контента в соцсетях), таргетированному доведению ее до конечного потребителя, как исходя из его личных предпочтений, так и с учетом редакционной политики цифровой платформы или издания. При этом в соцсетях основной фокус делается на оценке поведения и предпочтений пользователя в целях проактивного продвижения товаров и услуг «заказчиков», зачастую также обернутых в определенные социокультурные и политические установки. Большинство людей даже не догадывается, что информация из их аккаунтов используется с целью совершенствования алгоритмов ИИ по воздействию на их же поведенческую модель.

Взять хотя бы любимый (до момента блокировки) сервис бывшего президента США Д. Трампа — Twitter. В нем ИИ выполняет сразу две функции: а) подбирает наиболее интересные посты, основываясь на предыдущей активности пользователя (та самая проактивная функция); б) модерирует (эффективнее многих цифровых СМИ) недостоверный контент («фейкньюс») в русле критериев корпоративной политики, нацеленных якобы на поддержание высокой «чистоты», то есть качества информационного фона.

Однако применение ИИ в глобальном цифровом информационном пространстве не ограничивается только новостными ресурсами и соцсетями. Стоит также упомянуть самый распространенный в мире поисковик Google американской компании Alphabet. В последние годы корпорация использует технологии ИИ для автоматического осмысления сложных поисковых запросов, оптимизации поисковой выдачи, включая «деранкинг» нежелательных источников информации и отдельных публикаций (характерный пример — искусственное занижение с конца 2017 г. вероятности появления в поисковике Google ссылок на ресурсы медиахолдинга «РТ») и развития «умной» системы рекомендаций на принадлежащих компании ресурсах, в частности, YouTube. Такой подход Alphabet и многих других транснациональных корпораций ведет к стремительной фрагментации международного информационного пространства в угоду сугубо коммерческим интересам или интересам государственно-частного партнерства (как долгосрочным, так и ситуативным). Формирование универсальной международной нормативно-правовой регуляторики или хотя бы неких общепринятых «правил игры» становится попросту невозможным. В качестве иллюстрации — шесть из семи самых дорогих компаний мира являются американскими и китайскими ИКТ-гигантами, активно разрабатывающие и использующие алгоритмы ИИ в своих цифровых платформах и сервисах (Microsoft, Amazon, Alphabet, Apple, Facebook, Alibaba и Tencent). Согласно данным ведущей немецкой статистической компании Statista, их суммарная капитализация по итогам 2020 г. превысила 6,5 трлн долл. Для сравнения: бюджет России в том же году составил около 1,7 трлн долл. США.

Различные «умные» цифровые платформы, СМИ и соцсети, нанизанные на общую нить — Интернет — один из реальных примеров тотальной глобализации, проникающей в глубинную структуру человеческого общества без какого-либо серьезного противодействия, если не считать таковым пока еще сохраняющиеся, но постепенно стирающиеся этнокультурные и языковые барьеры. На первый взгляд, глобальное цифровое информпространство — это то «поле» или «песочница» (выражаясь техническим сленгом), в рамках которого всем активным участникам процесса — национальным правительствам, научно-экспертным кругам и крупным компаниям — вполне по силам выработать и апробировать единообразные подходы по внедрению и использованию ИИ-систем. Однако на практике ситуация проявляет себя с точностью до наоборот. Интернет и обитающая в нем «цифра» — это не только «территория свободы», но и место столкновения западноцентричной модели применения ИИ (в основе лежит принцип беспрепятственного продвижения технологических решений и ноухау на глобальном рынке с минимально возможным уровнем регулирования) с остальным миром, роль выразителя интересов которого активно примеряет на себя Китай.

При сохранении динамики актуальных трендов, через каких-нибудь 3–5 лет значение ИИ для массовых цифровых платформ и глобального информпространства в целом станет поистине колоссальным. Сложные алгоритмические системы превратятся в полноценный инструмент экономического и геополитического противоборства между технологически развитыми странами и аффилированного с ними крупного бизнеса. В условиях сохраняющихся полярных подходов в международном сообществе к нормативно-правовому регулированию современных ИКТ, разработчики и операторы ИИ-систем будут пользоваться этой неопределенностью и регуляторным вакуумом. Они станут еще активнее коммерциализировать свои сервисы и платформы в виртуальной среде, пытаясь с помощью передовых технологий «выгрызать» доли глобального рынка у прямых конкурентов. При этом в борьбе за пользователей такой «цифры» у последних целенаправленно будут формироваться новые критерии оценки и восприятия информации, подталкивающие их к определенному заранее смоделированному «заказчиком» алгоритму действий (выбору). Новая среда окажет также влияние на культурный код человека и его поведенческие паттерны, что в конечном счете может привести к определенному «выравниванию» социума в разных частях света (сторонники глобализации будут рады) или приведения его к некому общему знаменателю — единообразному цифровому шаблону потребителя. Как представляется, такой сценарий — это уравнение со множеством неизвестных, решение которого грозит непредсказуемым и, что немаловажно, весьма опасным результатом.