Распечатать
Оценить статью
(Голосов: 14, Рейтинг: 5)
 (14 голосов)
Поделиться статьей
Сергей Карелов

Основатель и Chief Technology Officer компании Witology, председатель Лиги независимых IT-экспертов, эксперт РСМД

Оценка состояния и потенциала развития искусственного интеллекта, приведенная в национальной стратегии России, не соответствует реальности. Реальное состояние и потенциал развития ИИ в России весьма низки, уступая большинству развитых стран мира.

Сравнение 14 стран (США, Китай, Япония, Великобритания, Южная Корея, Германия, Канада, Индия, Израиль, Франция, Финляндия, Сингапур, ОАЭ и Россия) проведено на основе Cambrian AI Index ©.

— Значения индекса первых 13 стран из списка рассчитаны аналитиками Фонда Конрада Аденауэра и приведены в отчете об исследовании фонда «Comparison of National Strategies to Promote Artificial Intelligence».

— Значение индекса для России рассчитано автором согласно методике, разработанной Cambrian Group по заказу Фонда Конрада Аденауэра и опубликованной в вышеназванном аналитическом отчете фонда. При расчете индикаторов и характеристик Cambrian AI Index © автором были, по возможности, устранены неоднозначности в их показателях.

Значение индекса Cambrian AI Index © у России примерно такое же, как у Франции и Финляндии. Среди 14 стран хуже показатели лишь у ОАЭ, по причине почти полного отсутствия там R&D в области ИИ.

Россия вряд ли может претендовать на хорошие мировые позиции в области ИИ при существующем уровне финансирования R&D:

— в 2 раза меньший процент от ВВП, чем во Франции или Сингапуре;

— в 3 раза меньший процент от ВВП, чем в Финляндии или Японии;

— в 4 раза меньший процент от ВВП, чем в Южной Корее или Израиле.

Цель развития ИИ, продекларированная в российской национальной стратегии - уникальна, будучи абсолютно непохожей на цели нацстратегий других стран.

Задачи, выполнение которых необходимо обеспечить для достижения поставленной цели:

— существенно отличаются от целей и задач нацстратегий других стран;

— носят явный антисанкционный оттенок;

— подразумевают ведущую и направляющую роль государства.

В целом, национальная стратегия России по развитию ИИ пренебрегает важнейшей ролью частных инвестиций и частного бизнеса для успешного развития прорывных технологий, делая ставку на крупные государственные и окологосударственные структуры, как при разработке планов развития ИИ в России, так и при реализации этих планов.

Ознакомившись с более чем сорока национальных ИИ-стратегий (включая официально еще не принятые, например, Норвегии и Аргентины), могу свидетельствовать — все они настолько разные, что поначалу невольно озадачиваешься — в чем причина столь серьезных отличий?

Ответ на этот вопрос лучше всего проиллюстрировать на примере. Представьте, что речь идет о стратегиях национальных олимпийских комитетов, отвечающих за подготовку национальных сборных к следующей олимпиаде. Комитет должен разработать стратегию подготовки сборной, назначить ответственных, проконтролировать выделение ресурсов под исполнение стратегии и проследить за ходом и результатом ее выполнения.

От чего же зависит выбор стратегии? Полагаю, что от следующих ключевых факторов:

  1. Оценка текущего состояния каждой из команд (по видам спорта) сборной на момент начала подготовки.
  2. Конкретные цели, поставленные на следующей Олимпиаде перед каждой из команд и всей сборной.
  3. Ресурсы, выделяемые каждой из команд на подготовку к следующей Олимпиаде.

А от чего будут зависеть результаты, которые покажет сборная на следующих Олимпийских играх?

Тоже не бином Ньютона:

  1. От верности оценки текущего состояния на момент начала подготовки.
  2. От уровня поставленных целей.
  3. От объема выделенных ресурсов.
  4. От качества и точности проработки стратегии.
  5. От тщательности контроля за ее исполнением.
  6. От уровня исполнительского мастерства при реализации стратегии, а также от тактических решений, принимаемых ответственными исполнителями.
  7. Ну и, понятно, от случая и удачи.

Вот, собственно, и все.

Критерии А–С легко объясняют, почему стратегии подготовки к следующим зимним играм у, например, США, Норвегии и Южной Кореи столь непохожи (пример условный):

  • У США:
    • огромная сборная, в которой представлены команды по всем видам спорта;
    • с учетом результатов прошлых игр и текущего состояния сборной, есть шансы взять медали лишь в половине видов;
    • и потому цель — при относительно скромных ресурсах на подготовку завоевать медали в половине видов.
  • У Норвегии:

    • состав команд сборной почти как у США;
    • с учетом результатов прошлых игр и текущего состояния сборной, есть хорошие шансы на медали у всех команд;
    • ну а цель — вложиться в подготовку ровно настолько, чтобы получить золотые медали как минимум в 1/3 видов спорта и серебряные — в половине видов.
  • У Южной Кореи:

    • сборная состоит из команд всего по 3 видам спорта;
    • опыта прошлых игр нет, а текущая оценка состояния команд не позволяет рассчитывать на медали;
    • цель же амбициозная — не пожалеть средств на подготовку, чтобы вырвать медали в двух из трех видов спорта.

Как нетрудно догадаться, критерии А–С одинаково справедливы, как для стратегии подготовки олимпийской сборной, так и для национальной стратегии развития искусственного интеллекта (ИИ).

А результаты исполнения обеих этих стратегий будут определяться одними и теми же параметрами 1–7.

Так что теперь мы готовы оценить уровень разработанной российской стратегии развития технологий искусственного интеллекта (ИИ) до 2030 г. Более того, мы можем в первом приближении даже прогнозировать результаты ее исполнения, и тем самым попытаться ответить на вопрос, вынесенный в заголовок, — каким будет место России в мире после реализации национальных стратегий развития ИИ.

1. Оценка текущего состояния в сфере ИИ

1.1 Почему такая оценка — нетривиальное дело

Несмотря на обилие всевозможных страновых индексов (перечень 11 из них, проанализированных в работе [1], см. на рис. 1), проведение такой оценки — задача совсем нетривиальная.

Рис. 1. 11 страновых индексов, проанализированных в работе [1]

Во-первых, почти все индексы методологически ограничены своим типом: исследование (опросы и/или анкетирование), композиция других индексов, анализ количественных данных, качественный экспертный анализ. Каждый из названных типов имеет свои преимущества и недостатки.

Во-вторых, поскольку сами определения ИИ у разных авторов сильно отличаются, это основательно запутывает сравнение.

Например:

  • компания Accenture определяет ИИ как спектр технологий, которые «расширяют человеческие возможности восприятия, осмысления, действия и обучения» [2];
  • а компания McKinsey видит в ИИ «способность машин проявлять человекоподобный интеллект» [3].

Естественно, что при столь несхожих определениях, характеристики, составляющие эти определения элементов, также будут сильно разниться.

В-третьих, индикаторы, используемые внутри индексов, также бывают трех типов, в зависимости от характера их связи с тем, что авторы называют ИИ.

  1. Индикаторы, непосредственно характеризующие уровень развития ИИ (например, число ИИ-стартапов в стране).
  2. Индикаторы, прямо влияющие на потенциал развития ИИ в стране (например, число высокопроизводительных компьютеров из списка ТОР 500).
  3. Индикаторы, косвенно влияющие на потенциал развития ИИ в стране (например, уровень цифровизации экономики и общества).

В-четвертых, (по очереди, но не по значимости) для расчета разных индексов используются разные (порой неполные, противоречивые или несравнимые) индикаторы, характеристики и другие индексы из весьма широкого круга источников.

Вышеназванные четыре фактора весьма затрудняют корректный и непротиворечивый сравнительный анализ текущего состояния и потенциала развития ИИ по странам мира.

В качестве иллюстрации приведу пример — 2019 Government AI Readiness Index, оценивающий потенциал правительств разных стран в использовании инновационных возможностей ИИ [4].

Рис. 2. ТОР30 стран и их показатели индекса 2019 Government AI Readiness Index [4]

Одного взгляда на рис. 2 достаточно, чтобы заметить весьма странное 20-е место Китая, пропустившего вперед даже ОАЭ. И это при том, что правительство Китая сделало ставку на ИИ и, по сути, направляет и контролирует все ключевые аспекты развития ИИ, в явном виде определив высший приоритет этого развития — интересы Компартии Китая и его правительства. Авторы Government AI Readiness Index прекрасно понимают нелепость 20-го места Китая в своем индексе. Но ничего поделать с этим пока не могут, поскольку:

  • одним из базовых индикаторов Government AI Readiness Index является Индекс открытости данных OKFN Open Data Index, а Китай в нем вообще не представлен;
  • найти же замену этому индикатору для Китая авторы Government AI Readiness Index не хотят, по-видимому, не желая поступиться строгостью своей методологии.

Этот пример показывает, насколько сложно (если вообще возможно) провести сравнительный анализ развития ИИ для большого числа стран, если не проявить методологическую гибкость. Понятное дело, что за эту гибкость придется платить обвинениями в недостаточно строгой методологии сравнительного анализа. Как у нас говорят, каждый должен сам решать, что ему нужно, — шашечки или ехать.

Пример того, как при сравнении состояния и потенциала развития ИИ можно не зацикливаться на «шашечках», а все же «ехать», будет приведен в следующем разделе.

1.2 Способы преодоления отсутствия или неоднозначности данных

Давайте рассмотрим самую свежую попытку преодолеть проблему «шашечки или ехать» путем создания нового индекса, названного Cambrian AI Index ©. Этот индекс был специально разработан Cambrian Group по заказу Фонда Конрада Аденауэра (Konrad-Adenauer-Stiftung) для нового трехтомного аналитического исследования фонда «Comparison of National Strategies to Promote Artificial Intelligence», вышедшего в этом году [5, 6, 7].

На сегодняшний день Cambrian AI Index © представляет собой наиболее всеобъемлющий и аккуратно выполненный синтез 26 разных по методологии индексов, индикаторов и характеристик. К плюсам этого нового индекса можно отнести следующее.

  1. В его основе наиболее широкое, но одновременно и весьма точное определение ИИ.

    «В самом широком смысле, ИИ — это способность машин учиться, делать выводы, планировать и воспринимать (т.е. обладать качествами, которые мы в первую очередь отождествляем с человеческим познанием). Эта способность приобретается цифровыми технологиями или гибридными цифро-материальными технологиями, которые имитируют когнитивные и физические функции людей. Для этой цели ИИ-системы не только обрабатывают данные, но и распознают закономерности, делают выводы и становятся все более умными с течением времени. Их способность адаптировать и улучшать вновь развитые навыки существенно улучшилась с начала века. Это также означает, что понятие, называемое нами ИИ, изменяется с каждым крупным технологическим прорывом, и поэтому определение ИИ должно периодически корректироваться».

  2. Индекс включает в себя широкий спектр индикаторов всех трёх типов: непосредственно характеризующие уровень развития ИИ, прямо влияющие на потенциал развития ИИ и косвенно влияющие на потенциал развития ИИ в стране.
  3. Базы фактов, используемых при расчетах различных индикаторов и характеристик, формирующих индекс, отобраны с истинно немецкой тщательностью, приоритетом надежности и сравнимости данных.

Тот факт, что в трехтомном отчете не нашлось места для оценки уровня развития ИИ в России, не должен удивлять. Причин тому, как минимум, две.

  1. В отчете дан анализ стран — мировых лидеров в области ИИ: текущих (США, Китай, Япония и Великобритании) и потенциальных (Южная Корея, Германия, Канада, Индия, Израиль, Франция, Финляндия, Сингапур, ОАЭ). Россия же, по представлениям авторов отчета, видимо, не относится ни к первым, ни ко вторым.
  2. Другая причина, скорее всего, в том, что в некоторых первичных индикаторах, составляющих Cambrian AI Index ©, данные по России либо отсутствуют, либо выглядят довольно неоднозначно.

Однако поскольку для нас первостепенную важность имеет оценка текущего состояния России в области ИИ и ее сравнение с другими странами, я взял на себя труд, использовав авторскую методику, самостоятельно рассчитать показатель Cambrian AI Index © для России, по ходу и по возможности устраняя лакуны и неоднозначности в первичных индикаторах.

Большинство индикаторов, используемых в Cambrian AI Index © вполне количественные и при этом непротиворечивые. Например, индикатор «число установленных в стране суперкомпьютеров, входящих в список 500 мощнейших суперкомпьютеров мира» (Number of 500 most powerful supercomputers per country). Это вполне конкретный показатель, фиксируемый на авторитетном ресурсе www.top500.org.

Рис.3. Топ-10 стран по числу установленных там суперкомпьютеров, входящих в список 500 мощнейших суперкомпьютеров мира (вверху) и топ-10 стран по вычислительной мощности установленных там суперкомпьютеров (внизу)

Исследовав приведенную на сайте таблицу суперкомпьютеров, входящих в список 500 мощнейших суперкомпьютеров мира, легко установить.

  • что замыкающий десятку лидеров Сингапур обладает 5 суперкомпьютерами из официального списка топ-500;
  • а Россия обладает лишь 2 суперкомпьютерами в этом списке, что:

    • уравнивает ее с Финляндией,
    • и отделяет пропастью от Германии, имеющей 21 суперкомпьютер в списке топ-500.

Но, к сожалению, далеко не все индикаторы, составляющие Cambrian AI Index © столь однозначны.

Вот пара типичных примеров:

  1. В индикатор квалифицированных университетов, обучающих по специальностям ИИ (Artificial intelligence CSRankings: Computer Science Rankings), ни один из российских университетов, к сожалению, пока не входит. Поэтому при расчете Cambrian AI Index © для России нами использован раздел Computer Science индекса World University Rankings 2019 (куда входят МГУ, МФТИ и МГТУ им Баумана). Такая подмена, конечно, дает некоторое преимущество России, ну да ничего не поделаешь, — нам «ехать» надо, а не «шашечки» считать.
  2. В индикаторе научных журналов «Scientific Journal Rankings — SJR по тематике Artificial intelligence» (используемой в Cambrian AI Index ©) Россия занимает лишь 31 место. Тогда как по тематике Computer vision and pattern recognition (в принципе, относящейся к ИИ) у России место повыше — 16. Нам показалось более объективным использовать комбинированный вариант характеристик по обеим тематикам, усреднив их. И эта подмена дает преимущество России. Но так, по мнению автора, корректнее. 31 место по научным публикациям вряд ли является релевантной оценкой вклада российской науки в ИИ. 24 место, правда, тоже не очень справедливо. Но тут уж ничего не поделаешь.

Третий пример выявленной неоднозначности при расчете показателя Cambrian AI Index © для России — это количественный индикатор, непосредственно характеризующий уровень и потенциал развития ИИ. Этот индикатор — «число ИИ стартапов в России», — весьма важен и показателен. И потому давайте разберемся с неоднозначностью этого индикатора подробнее.

1.3 Оценка числа ИИ-стартапов в России

Проблема в том, что этот показатель в исходной базе данных, использованной при расчете Cambrian AI Index ©, просто неточен. И это произошло вовсе не из-за небрежности аналитиков, ведущих эту базу, а из-за «особенностей национального расчета» числа ИИ-стартапов в России.

Используемый при расчете Cambrian AI Index © индекс Global AI компании Asgard & Roland Berger включает в себя 3 465 наиболее значимых ИИ-стартапов мира, отобранных из более 7 тыс. Среди них, согласно Global AI, есть 19 стартапов из России [8].

Рис. 4. Индекс Global AI компании Asgard & Roland Berger [8]

Если же учитывать все, а не только самые значимые ИИ-стартапы, то в России, согласно отчету Accuracy за 2019 г. [9], их примерно 40.

Рис. 5. Оценка совокупного числа ИИ-стартапов в мире по состоянию на 2018 г. [9]

Вместе с тем в наиболее свежем списке, опубликованном аналитиками TRACXN в августе 2019 г., указано, что в России уже 153 ИИ-стартапа. Однако анализ этого списка показывает, что сюда включены и компании, которые весьма сложно (если вообще возможно) отнести к категории стартапов. Например, компании ABBYY в этом году исполнилось уже 30 лет. Компания Cognitive Technologies, которой аналитики AI Startups отдают 1 место в списке российских ИИ-стартапов, не намного моложе ABBYY. Не говоря уже о том, что обе компании не замечены в привлечении венчурных инвестиций. Это вовсе не умаляет их достижений в области российских ИИ-разработок. Однако включение в списки российских стартапов компаний, никак не подходящих под это определение, лишь осложняет сравнение России с другими странами.

Каково же истинное число настоящих ИИ-стартапов (быстрорастущих компаний, деятельность которых финансируется бизнес-ангелами и/или венчурными инвесторами в соответствии с их «стратегией выхода») в России?

Экспертная оценка показывает, что число ИИ-стартапов в России находится где-то посередине между оценками Asgard & Roland Berger и TRACXN. Точно, увы, никто пока не удосужился посчитать. Но ориентировочно понятно, что это число измеряется десятками, а не единицами или сотнями. Такой вывод легко проверяется имеющейся статистикой венчурных сделок в России, публикуемой Фондом развития интернет-инициатив (ФРИИ) и совместным проектом PwC и РВК «MoneyTree: навигатор венчурного рынка». Согласно этой статистике, число сделок с ИИ-стартапами составляло в 2017–2018 гг. около 10+ в год. В то же время, как показывает статистика сектора ИИ венчурных инвестиций в США, в 2017–2018 гг. там происходило минимум 400–500 сделок в год. При наличии в США 1,4 тыс. только наиболее значимых ИИ-стартапов [8], это означает, что ежегодное число сделок составляло примерно 30–40% от общего числа ИИ–стартапов (иными словами, каждый стартап проводил очередной раунд финансирования в среднем раз в 2–3 года). Таким образом, из того факта следует, что в России происходит примерно 10+ сделок с ИИ-стартапами в год. Можно предположить, что их общее число составляет от 25 до 50, что подтверждает правильность оценки числа ИИ-стартапов в России, приведенной в [9].

При сравнении этой оценки числа ИИ-стартапов с общим числом российских компаний, занимающихся разработкой в сфере ИИ (см. рис. 6), напрашивается важный вывод.

Рис. 6. 329 российских компаний, занимающихся разработкой в сфере ИИ

Источник: http://airussia.online/

Подавляющее число российских компаний, занимающихся разработкой в сфере ИИ, — вовсе не стартапы. Что кардинально отличает Россию от большинства стран мира и говорит о крайне неразвитом в России венчурном финансировании. Столь низкая доля венчурного финансирования в сфере ИИ не может не сказываться на общем уровне и потенциале развития ИИ в России. Ведь венчурное финансирование — это далеко не только деньги. Не менее важно, что настоящий стартап с венчурным финансированием — это совсем иная модель бизнеса, чем у государственных или частных компаний, получающих финансирование в виде займов или грантов. Это модель бизнеса, ориентированная на взрывной рост за счет прорывных инновации и новых способов ведения бизнеса.

Насколько невыгодно в этом смысле положение России по сравнению с другими странами Европы, проиллюстрировано на рис. 7, показывающем соотношение трех параметров для разных стран [10]:

  • число ИИ-стартапов (горизонтальная ось);
  • «плотность» стартапов — отношение числа ИИ-стартапов к численности населения (вертикальная ось);
  • объем венчурного финансирования (площадь круга).

Рис. 7. Соотношение трех параметров для разных стран Европы: число ИИ-стартапов (горизонтальная ось), «плотность» стартапов — отношение числа ИИ-стартапов к численности населения (вертикальная ось), объем венчурного финансирования (площадь круга)

Источник: все страны кроме России [10], оценка параметров России сделана автором.

Если включить в список сравниваемых стран двух мировых чемпионов по населению – Китай и Индию, то по сравнению с ними, российские относительные показатели не столь плачевны. Показатель «число ИИ-стартапов на 1 млн населения» оказывается примерно таким же, как у Китая с его 1,4 млрд населения. Это позволяет России занять по этому показателю 15 место в мире, потеснив с него Индию (см. рис. 8), имеющую сейчас примерно такую же численность населения, что и Китай. По показателю «число ИИ-стартапов на 1 тыс. предприятий» Россия теснит уже Китай с его 15-го места в мире [11].

Рис. 8. На инфографике: слева – топ-15 стран по показателю «число ИИ-стартапов на 1 тыс. предприятий»; справа — топ-15 стран по показателю «число ИИ-стартапов на 1 млн населения

Источник: WELT.

Проведенный анализ показывает, что даже при отсутствии точного значения индикатора в используемом для составления индекса источнике, возможна экспертная оценка индикатора на основании анализа других доступных источников. И все здесь упирается в наличие разнообразных заслуживающих доверие источников и готовность составителей индекса поступиться методологическим единообразием.

Продемонстрировав разнообразные препоны, осложняющие страновое сравнение уровня и потенциала развития ИИ, а также проиллюстрировав способы преодоления таких препон, познакомимся с результатами, полученными при сравнении 13 стран и России по индексу Cambrian AI Index ©.

1.4 Сравнение 14 стран по состоянию и потенциалу развития ИИ

Сравнение 14 стран (США, Китай, Япония, Великобритания, Южная Корея, Германия, Канада, Индия, Израиль, Франция, Финляндия, Сингапур, ОАЭ и Россия) проведено на основе Cambrian AI Index © (см. выше раздел «Способы преодоления отсутствия или неоднозначности данных»).

  • Значения индекса первых 13 стран из списка рассчитаны аналитиками Фонда Конрада Аденауэра и приведены в отчете об исследовании фонда «Comparison of National Strategies to Promote Artificial Intelligence» [5, 6, 7].
  • Значение индекса для России рассчитано автором согласно методике, разработанной Cambrian Group по заказу Фонда Конрада Аденауэра (Konrad-Adenauer-Stiftung) и опубликованной в вышеназванном аналитическом отчете фонда. При расчете индикаторов и характеристик Cambrian AI Index © автором были, по возможности, устранены неоднозначности в их показателях. Примеры того, как это делалось, были приведены в предыдущих разделах.

Рис. 9. Cambrian AI Index © 14 стран

Источник: все страны, кроме России [5, 6, 7], значение индекса для России рассчитано автором.

Как видно из рис. 9, значение индекса Cambrian AI Index © у России примерно такое же, как у Франции и Финляндии. Среди 14 стран хуже показатели лишь у ОАЭ, по причине почти полного отсутствия там R&D в области ИИ.

Оставляя детальное рассмотрение каждого из 26 индикаторов индекса Cambrian AI Index © России для следующих публикаций, я, тем не менее, считаю важным здесь зафиксировать несколько выводов.

  • Каждый из 26 индикаторов по-своему важен для объективной и всесторонней оценки причин столь плачевного положения ИИ в России и поиска способов и путей его преодоления.
  • Но помня о законе Парето и старом анекдоте:

    • Лейтенант, почему ваш взвод не стрелял?
    • Видите ли, господин полковник, во-первых, не было патронов…
    • Отставить, «во-вторых» не требуется, напрашивается следующий вывод:

    Хотя прогресс в любой научно-технологической сфере определяется не только финансированием, все же это один из важнейших факторов. И потому Россия вряд ли может претендовать на хорошие мировые позиции в области ИИ при существующем уровне финансирования R&D:

    • в 2 раза меньший процент от ВВП, чем во Франции или Сингапуре;
    • в 3 раза меньший процент от ВВП, чем в Финляндии или Японии;
    • в 4 раза меньший процент от ВВП, чем в Южной Корее или Израиле.

1.5 Оценка состояния и потенциала развития ИИ в национальной стратегии России

Оценка, приведенная в национальной стратегии, мягко говоря, неадекватная. Фраза о том, что «Российская Федерация обладает существенным потенциалом для того, чтобы стать одним из международных лидеров в развитии и использовании технологий искусственного интеллекта», безосновательна и противоречит реальности.

Используемая аргументация в пользу этого предположения:

  • может вызвать лишь горькую улыбку (из-за апелляций к высокому уровню базового физмат образования, сильной естественно-научной школы, наличию компетенций в области моделирования и победам на международных олимпиадах школьников);
  • некорректна по сути в контексте тематики ИИ (как утверждение, что Россия входит в десятку лидеров по количеству научных публикаций по физике, математике, химии, которым авторы национальной стратегии тщетно пытаются замаскировать тот факт, что по публикациям в области ИИ Россия лишь на 31 (а в лучшем случае на 24) месте в мире.

Столь же удручающе выглядит и прочая аргументация о современной базовой ИКТ-инфраструктуре для развития ИИ.

Реальное положение базовых ИКТ, оцененное соответствующими индикаторами, формирующими Cambrian AI Index ©, помещает Россию по этому показателю на последнее место среди 14 рассмотренных стран. Если же есть желание посмотреть на этот показатель в более широком страновом контексте, то вот как выглядит индикатор IT Maturity, формирующий индекс AI Readiness, разработанный Capgemini Consulting [12].

Рис. 10. Индекс Artificial Intelligence Benchmark, включающий индикатор степени развитости IT в стране для развития ИИ [12]

Согласно этому индексу, по показателю готовности ИКТ-инфраструктуры для развития ИИ, Россия и среди 34 стран занимает последнее место.

Последним из аргументов в пользу хороших шансов войти в число мировых лидеров по ИИ, приведенном в национальной стратегии, является следующее:

«Продукты (услуги) отечественных организаций в сфере информационных технологий (например, поисковые и иные сервисы, социальные сети» пользуются высоким спросом и занимают лидирующие позиции на российском рынке и рынке Евразийского экономического союза».

Каким образом из того, что российский продукт или услуга продается в России, следует, что его производитель имеет хорошие шансы стать лидером на мировом рынке, — известно лишь авторам национальной ИИ-стратегии России. Однако они этим сокровенным знанием в тексте стратегии не поделились. Что же до упоминания рынка Евразийского экономического союза, то суммарный ИКТ-рынок 4-х стран, входящих, помимо России в этот союз, меньше российского. А последний составляет порядка 1% мирового. Т.е. ни российский ИКТ-рынок, ни рынок ЕАЭС по объему несопоставимы с мировым рынком. Что же до несопоставимости уровня конкуренции на них, то и она колоссальна.

Резюмировать этот раздел можно так.

  • Оценка состояния и потенциала развития ИИ, приведенная в национальной стратегии России, никак не соответствует реальности.
  • Реальное состояние и потенциал развития ИИ в России весьма низки, уступая большинству развитых стран мира.

2. Сравнение национальных стратегий развития ИИ

Вернемся к приведенной в начале нашего исследования метафоре, сравнивающей стратегию национального развития ИИ со стратегией подготовки национальной сборной к очередным Олимпийским играм.

Тогда можно зафиксировать, что раздел 1 был посвящен проверке верности оценки текущего состояния на момент начала подготовки

.

Теперь же нам предстоит оценить:

  1. уровень поставленных целей;
  2. объем выделяемых ресурсов;
  3. качество и точность проработки стратегии;
  4. возможность контроля ее исполнения.

Рассмотрению этих 4-х вопросов и будут посвящены следующие разделы.

2.1 Классификация целей национальных стратегий развития ИИ

Для классификации целей национальных программ развития ИИ существует несколько подходов. Воспользуемся подходом, реализованным национальным исследовательским центром Канады CIFAR в сравнительном исследовании национальных программ развития ИИ «Building an AI World: Report on National and Regional AI Strategies» [13].

В названном исследовании цели национальных стратегий классифицированы по следующим восьми направлениям.

  1. Научные исследования: создание новых исследовательских центров, хабов или программ в области фундаментальных и прикладных наук или увеличение существующего финансирования исследований, финансируемых за счёт средств федерального бюджета.
  2. «Развитие ИИ-талантов»: финансирование для привлечения, удержания и обучения отечественных или международных специалистов в области ИИ, в том числе финансирование кафедр и стипендий или создание специальных магистерских и докторских программ.
  3. «Навыки и будущие специальности»: инициативы по оказанию помощи студентам и вообще всем работающим в развитии навыков для будущих специальностей и, в частности, инвестиции в STEM-образование (наука, технология, инженерия и математика), цифровые навыки или обучение на протяжении всей жизни.
  4. Индустриализация ИИ-технологий: программы стимулирования внедрения ИИ в частном секторе бизнеса, включая инвестиции в стратегические секторы, финансирование ИИ-стартапов, малых и средних предприятий, реализация стратегий создания ИИ-кластеров ИИ или ИИ-экосистем.
  5. Правовое регулирование и стандарты: создание советов, комитетов или целевых групп для разработки стандартов, правил и законов этического и безопасного использования и развития ИИ. Эта область также включает в себя конкретное финансирование исследовательских или пилотных программ, направленных на создание понятного и прозрачного ИИ.
  6. Данные и цифровая инфраструктура: финансирование партнерств по открытым данным, платформ и баз данных, а также обязательства по созданию тестовых сред и регуляторно-нормативных тестовых полигонов.
  7. «ИИ в правительстве»: пилотные программы, использующие ИИ для повышения эффективности государственного управления, предоставления госуслуг и госуправления.
  8. «Инклюзивность и социальное благополучие»: обеспечение использования ИИ для содействия социальному и инклюзивному росту, обеспечивающему развитие предпосылок и перспектив для ИИ-сообщества.

Российская национальная стратегия развития ИИ не укладывается в данную классификацию целей. В российской национальной стратегии:

  • присутствуют лишь 4 из 8 целевых направлений вышеприведенной классификации;
  • присутствуют два целевых направления, отсутствующие в национальных стратегиях других стран:

    • разработка и развитие программного обеспечения, в котором используются технологии ИИ;
    • повышение доступности аппаратного обеспечения, необходимого для решения задач в области ИИ.

Здесь нужно отметить, что в российской национальной стратегии развития ИИ целевые направления называются «основными задачами развития ИИ». В качестве же цели сформулировано нечто, подобное целям Программы КПСС (1961 г.), основной целью которой было создание плана строительства коммунизма.

В российской национальной стратегии развития ИИ это «построение коммунизма» на основе ИИ сформулировано так:

«Обеспечение роста благосостояния и качества жизни её населения, обеспечение национальной безопасности и правопорядка, обеспечение устойчивой конкурентоспособности российской экономики, в том числе лидирующих позиций в мире в области ИИ».



2.2 Сопоставление целей национальных стратегий развития ИИ

Сопоставление целевых направлений национальных программ развития ИИ в России и 18 странах мира проиллюстрировано таблицей на рис. 11.

Рис. 11. Сопоставление целевых направлений национальных программ развития России и 18 стран мира

Источник: все страны кроме России [13], оценки по России принадлежат автору.

К этой таблице нужно дать 3 пояснения.

  • Степень приоритетности каждой из целей показана цветом (чем приоритетней, тем темнее).
  • Приоритетность направлений российской стратегии оценивалась по числу пунктов детализации при описании каждого из направлений в тексте стратегии (от 3 до 5 пунктов).
  • 2 оригинальных целевых направления, присутствующие лишь в российской стратегии, в таблице не отражены. Наличие у России этих двух целевых направлений, отсутствующих в стратегиях других стран, очевидно, вызвано санкционной политикой против России, ограничивающей ей доступ к программному обеспечению и оборудованию, необходимому для развития ИИ. У других стран проблемы санкций нет, и потому им нет необходимости писать что-то подобное. Они либо купят нужные SW и HW, либо (как Китай) сделают сами.

В зависимости от фокусировки национальных стратегий на те или иные из 8-и вышеназванных направлений в качестве приоритетных, национальные стратегии отнесены к трем классам:

  1. Стратегии с приоритетом научных исследований и развития ИИ-талантов.
  2. Стратегии с приоритетом на индустриализацию ИИ-технологий.
  3. Многоцелевые стратегии.

Стратегий класса А придерживаются 2 страны: Канада и Южная Корея. При этом обе страны фокусируют свои национальные стратегии лишь на 3–4 целевых направлениях.

Рис. 12. Приоритетность целевых направлений национальных стратегий Канады и Южной Кореи

Стратегий класса B придерживаются 4 страны: Австралия, Дания, Сингапур и Тайвань. При этом страны фокусируют свои национальные стратегии на 4–6 целевых направлениях.

Рис. 13. Приоритетность целевых направлений национальных стратегий Австралии, Дании, Сингапура и Тайваня

Стратегий класса С придерживаются 2 страны (Франция и Великобритания) и, в целом, Европейский союз. При этом все они ориентируют свои национальные стратегии практически на все целевые направления.

Рис. 14. Приоритетность целевых направлений стратегий Франции, Великобритании и Европейского союза

Российская национальная стратегия развития ИИ не подходит ни к одному из 3-х классов. Но даже если бы Россия не находилась под санкциями (заставляющими включить в стратегию 2 целевых направления, отсутствующие у других стран мира), соотношение остальных 4-х приоритетов отлично от любой из стран мира.

  • Важность первых двух приоритетов (научные исследования и «развитие ИИ-талантов») оценивается Россией так же, как и Швецией, Сингапуром и Мексикой.
  • А вторая пара уникальна. Важность правового регулирования и стандартов Россия оценивает, как и Швеция или Евросоюз. А значение данных и цифровой инфраструктуры Россией оцениваются выше всех стран мира.

2.3 Взгляд через призму альтернативной классификации

Чтобы получить «стереоскопическую картинку» сходств и различий национальной стратегии России от национальных стратегий других стран, посмотрим на российскую стратегию через призму иной классификации целей. Эта классификация так или иначе используется в нацстратегиях ряда стран. А национальная стратегия развития ИИ Мальты, официально принятая почти одновременно с российской, целиком выстроена по лекалам этой альтернативной классификации целей и, как российская, рассчитана до 2030 года [14].

Эта классификация «двухэтажная».

Верхний второй этаж стратегии держится на трех стратегических столпах:

  • Инвестиции, стартапы и инновации: должны быть предприняты инициативы для стимулирования инвестиций, исследований и разработок стартапами, а также для укрепления позиции страны, как центра или полигона практического применения ИИ.
  • Внедрение в государственном секторе: цель состоит в том, чтобы связать ИИ с государственным сектором для повышения уровня обслуживания, предоставляемого гражданам и предприятиям страны. Для этого планируются пилотные проекты на основе ИИ в конкретных областях: управлении движением, образовании, здравоохранении, обслуживании клиентов, туризме и коммунальных услугах.
  • Внедрение в частном секторе: направлено на повышение осведомленности и расширение возможностей для частных компаний использовать, развивать и интегрировать ИИ в своем бизнесе. Меры поддержки должны предоставляться в форме технологической экспертизы, предоставления инструментария и финансовой помощи.

Каждый столп на первом этаже опирается на три стратегические опоры (инструмента):

  • Образование и рабочая сила: все учащиеся высшей школы должны обладать знаниями из области ИИ. Кроме того, в ожидании того воздействия, которое технологические усовершенствования и автоматизация окажут на рынок труда, должны быть приняты меры, позволяющие работникам постоянно развивать новые цифровые навыки.
  • Этические и правовые рамки: это может включать добровольную национальную программу сертификации ИИ, направленную на то, чтобы гарантировать пользователям сертифицированные решения и приложения ИИ, — что эти решения соответствуют этическим нормам, ответственны и им можно доверять. Юридические эксперты также должны сформировать консультативный комитет по регулированию технологий, который будет иметь право консультировать по вопросам законодательства, регулирующего разработку и использование ИИ. Также должны быть созданы нормативно-регуляторная «песочница» для ИИ и «песочница» в области данных для ИИ, которые позволят тестировать инновационные концепции и приложения ИИ.
  • Инфраструктура экосистемы ИИ. Сюда входят, в частности, инвестиции в инструменты для реализации решений ИИ на национальном языке, инициативы по поддержке доступности данных, действия по снижению рисков кибербезопасности и другие меры, направленные на создание базовой инфраструктуры для поддержки процветающей экосистемы ИИ.

Через призму этой классификации целей российская стратегия выглядит еще более самобытной и ассиметричной.

И если на «первом этаже» классификации российская стратегия хотя бы совпадает по целям со стратегиями большинства стран мира, то на «втором этаже» целей совпадений практически нет. Целей (или задач, в терминологии российской нацстратегии) внедрения ИИ-решений в государственном и частном секторах, равно как и цели форсированного развития инвестиций, стартапов и инноваций, у нас, вроде как, совсем нет.

Как отдельное слово — понятие «инвестиции» встречается. Но в тексте российской нацстратегии это вовсе не ее цель, а одно из необходимых условий. И про это условие лишь написано, что оно должен быть. А как быть, если, как сейчас, его практически нет, в нашей нацстратегии ничего не сказано.

Ну а то, что слово «стартап» в тексте нацпрограммы вообще не встречается, можно понять и не читая ее. Достаточно прочесть раздел «Оценка числа ИИ-стартапов в России» выше.

Резюмировать этот раздел можно так.

  • Цель развития ИИ, продекларированная в российской национальной стратегии (Обеспечение роста благосостояния и качества жизни её населения… — см. полный текст выше)
    • уникальна, будучи абсолютно непохожей на цели нацстратегий других стран.
  • Мне эта цель более всего напоминает цель программы КПСС, принятой в 1961 г. — создание плана строительства коммунизма.
  • Задачи, выполнение которых необходимо обеспечить для достижения поставленной цели:

    • существенно отличаются от целей и задач нацстратегий других стран;
    • носят явный антисанкционный оттенок;
    • подразумевают ведущую и направляющую роль государства.
  • В целом, национальная стратегия России по развитию ИИ пренебрегает важнейшей ролью частных инвестиций и частного бизнеса для успешного развития прорывных технологий, делая ставку на крупные государственные и окологосударственные структуры, как при разработке планов развития ИИ в России, так и при реализации этих планов.

3. Объем выделяемых ресурсов

Сравнивать объемы средств на финансирование ИИ куда проще, чем состояние дел в сфере ИИ и цели стратегий развития этой сферы в разных странах.

9 стран зафиксировали конкретные бюджеты под выполнение своих стратегий развития ИИ.

Рисунок 15. Объемы средств, предусмотренные на финансирование своих национальных стратегий развития ИИ 9-ю странами

Как видно из таблицы, объемы выделенных средств существенно отличаются: от 22 млн долл. у Австралии до 2 млрд долл. у Южной Кореи.

У остальных стран подход к финансированию своих национальных стратегий развития ИИ не предусматривает заранее фиксированных бюджетов.

  • Некоторые страны планируют лишь финансирование ИИ на текущий год. Например, расходы на развитие в сфере ИИ Японии только в 2018 г. составили 580 млн евро.
  • Другие страны планируют финансирование своей нацстратегии ИИ в рамках других, уже действующих национальных программ и проектов.

    • Например, совокупное финансирование нацстратегии ИИ Германии, предусмотренное до 2025 г. в рамках других программ и проектов, составляет 3 млрд евро, что превышает официальные объемы финансирования, целевым образом выделенные под программы развития ИИ Францией (1,75 млрд долл.) и Великобританией (1,24 млрд долл.)
    • Еще более впечатляющий пример ОАЭ. Эта страна неспроста включена в перечень 14 стран, сравниваемых в предыдущих разделах по показателю Cambrian AI Index ©. С одной стороны, ОАЭ стартовали в международной ИИ-гонке чуть ли ни с последнего места. С другой, ОАЭ имеет беспрецедентно дерзкий план превратиться в одного из мировых лидеров в области ИИ. Ставка сделана на 3 ключевые фактора: (1) финансирование за счет привлечения венчурных инвестиций в стартапы и их выходы на IPO (ОАЭ таким образом уже получили 2,2 млрд долл. [15]); (2) привлечение ИИ-компетенций от IBM в рамках двустороннего соглашения; (3) привлечение ИИ-талантов из Индии в рамках двустороннего соглашения.
  • США, как всегда, действуют по-своему. Централизованного финансирования нацстратегии по ИИ нет. Но зато до 2025 г. планируется профинансировать 2 дюжины проектов и программ в сфере ИИ на сумму 35 млрд долл.
  • Китай просто заливает развитие ИИ деньгами. 6 региональных программ с финансированием (все в пересчете в евро) от 1,8 млрд до 12,8 млрд (с выделенным финансированием фундаментальных исследований в области ИИ 3,8 млрд), правительственная программа развития полупроводниковой индустрии (естественно, включающая чипсеты для ИИ) 15 млрд… об этом нужно писать отдельно и в красках.
  • Нужно также учитывать, что большинство европейских стран, во-первых, финансирует свои стратегии развития ИИ из двух источников: (1) из собственных бюджетов (например, у Дании это 150 млн долл. до 2025 г.) и (2) из бюджета Евросоюза, составляющего до 2021 г. 1,5 млрд долл. в год.
  • Наконец, крайне важный для понимания катастрофического отставания России пример финансирования развития ИИ в Израиле. Здесь основной источник финансирования — венчурные инвестиции в стартапы и их выходы на IPO. На сегодня таким образом в развитие ИИ Израиля уже вложено 7,5 млрд долл. международного финансирования, что создало в Израиле уникальную по плотности и качеству ИИ-экосистему, включающую 950 ИИ-стартапов.

Рис. 16. Уникальная ИИ-экосистема Израиля, включающая 950 стартапов

Источник https://www.startuphub.ai.

Ну и сакраментальный вопрос — а что у нас?

В рамках федерального проекта «Цифровые технологии» национальной программы «Цифровая экономика», утверждены семь дорожных карт, в числе которых «Искусственный интеллект и нейротехнологии». Предусмотренное на реализацию этой дорожной карты финансирование составляет 392 млрд рублей, из которых 334,9 млрд — внебюджетные источники. По текущему курсу это финансирование составляет 6,1 млрд долл.

Если не сравнивать это финансирование с Китаем и США, оно может показаться неплохим.

Если же учесть, что только израильские ИИ-стартапы уже получили на развитие ИИ большую сумму (7,5 млрд долл.), а за ближайшие годы, уж точно, меньше не получат, то становится за державу обидно.

5. Перспективы исполнения российской ИИ стратегии

Нам осталось оценить два фактора, определяющие перспективы исполнения российской ИИ-стратегии:

  • качество и точность проработки стратегии;
  • возможности контроля ее исполнения.

Здесь нам нет необходимости изобретать велосипед. Хорошая работа по оценке указанных двух факторов для нацстратегий стран — лидеров по развитию ИИ уже проведена.

Это, в первую очередь, уже не раз упоминавшийся 3-х томный отчет Фонда Конрада Аденауэра [5, 6, 7]. И конечно же отчет Stiftung Neue Verantwortung — берлинского некоммерческого аналитического центра, специализирующегося на вопросах государственной политики на стыке технологий и общества [1].

Все написанное в этих отчетах об оценке двух ключевых факторов, определяющих перспективы исполнения любой ИИ-нацстратегии, относится и к российской нацстратегии. И если эти соображения применить к анализу российской нацстратегии, получается примерно следующее:

  1. Наличие точных, понятных, объективно измеримых KPI является ключевым условием, необходимым (но не достаточным) для успеха любой стратегии.
  2. Национальные стратегии развития ИИ требуют наличия в них 4-х типов KPI:
    1. Исходные KPI (количественные и качественные), оценивающие статус и потенциал ИИ в стране, и ресурсы, доступные для реализации стратегии развития ИИ.
    2. Целевые KPI (количественные и качественные), оценивающие результат, — насколько достигнуты поставленные в стратегии цели.

Примеры KPI:

  • Исходный количественный — объем финансирования на исполнение нацстратегии.
  • Исходный качественный — гибкость и оперативность управления постатейным финансированием исследований.
  • Целевой количественный — число патентов по ИИ, поданных в конкретном году.
  • Целевой качественный — полнота и проработанность принятых стандартов в сфере ИИ.
  • В настоящем документе не ставится цель оценить перспективы исполнения всех нацстратегий развития ИИ в мире. Желающие могут познакомиться с такой оценкой для стран, лидирующих в области ИИ, в рекомендованных выше отчетах.

    Нам же остается зафиксировать собственную оценку перспектив исполнения ИИ нацстратегии России по развитию ИИ, воспользовавшись четырьмя вышеназванными типами KPI.

    • К цели, сформулированной в российской нацстратегии:

      «Обеспечение роста благосостояния и качества жизни её населения, обеспечение национальной безопасности и правопорядка, обеспечение устойчивой конкурентоспособности российской экономики, в том числе лидирующих позиций в мире в области ИИ.»

      — ни количественные, ни качественные KPI неприменимы. Это, собственно, и послужило мне поводом сравнить российскую ИИ-стратегию с программой КПСС. Достижение подобным образом сформулированной цели невозможно ни подтвердить, ни опровергнуть. И потому все зависит только от воли оценивающего. А оценивать выполнение российской ИИ-стратегии, как и прочих нацпроектов и нацпрограмм, будет известно кто — высшие чиновники. И, вероятно, — они оценят выполнение и этой нацстратегии на высоком уровне.
    • Исходные KPI для шести т.н. задач российской ИИ-нацстратегии либо отсутствуют, либо не являются реальными KPI для них. Поэтому просто нет смысла даже пытаться оценивать названные в российской ИИ-нацстратегии KPI, типа «сильной естественно-научной школы», «наличия компетенций в области моделирования» или «побед на международных олимпиадах школьников», безотносительно к какой задаче эти KPI приписали разработчики российской ИИ-стратегии. Большинство же остальных KPI сформированы по замечательному шаблону — «увеличение количества Х» или «существенный рост Х» (где Х — «организаций», «результатов», «индекса цитируемости» и т.д.). Причем насколько эти «количества» планируется увеличить, не важно. И если даже они не увеличатся, а уменьшатся, все равно никто этого проверить не сможет, поскольку исходных количественных KPI для этих «количеств» не названо.
    • Целевые KPI названы в стратегии аналогично неконкретным и неизмеримым способом.

      • Так, новые разработанные в ходе исполнения стратегии российские микропроцессоры «должны быть широко представлены» на российском и международном рынках.
      • А российские университеты «должны занимать лидирующие позиции в мире по направлениям в области ИИ».
      • «К 2024 году должны быть созданы необходимые правовые условия для достижения целей, решения задач и реализации мер, предусмотренных настоящей Стратегией».
      • «К 2030 году в Российской Федерации должна функционировать гибкая система нормативно-правового регулирования в области искусственного интеллекта».

      Комментировать подобные целевые KPI, полагаю, нет смысла. Все и так ясно.

      Резюмируя предыдущий раздел, я написал, что становится «за державу обидно».

      Резюмировать этот раздел могла бы фраза профессора Н. Зубаревич, сказанная ею в ответ на вопрос, каким образом губернаторы могут выполнить свои KPI по долголетию, ожидаемой продолжительности жизни и демографическому росту в своих регионах.

      «Как без приличного роста ресурсов все это выполнить, для меня большая человеческая загадка. Правда, я ответ на нее знаю. Нарисуют.»

      Вот и российская национальная стратегия развития ИИ написана так, чтобы отчет об ее успешном исполнении можно было бы легко и безнаказанно «нарисовать».

      Вместо заключения

      Полагаю, заключение для этого текста не требуется. Все довольно очевидно.

      Вместо этого лишь вернусь к метафоре стратегии подготовки национальной сборной к следующей Олимпиаде, с которой мы начали рассмотрение вопроса — каким будет место России в мире, после реализации национальных стратегий развития ИИ в 2031 г.

      Продолжая эту метафору, мы можем теперь предположить следующее.

    • Текущее состояние на момент начала подготовки нашей сборной крайне переоценено.
    • Спектр поставленных целей весьма широк, как и их уровень — сборная собирается стать, как минимум, призером по большинству видов спорта олимпийской программы.
    • Объем выделенных на подготовку ресурсов, мягко говоря, не впечатляет.
    • Качество и точность проработки стратегии очень слабые.
    • Реальный контроль за ее исполнением практически невозможен.

    Следовательно, у этой стратегии, как это бывало и в прошлом в России, будет «хорошее начало, кипучая серёдка и страшный конец».

    Тем не менее я по-прежнему верю, что в сфере ИИ в мире будет-таки три лидера: США, Китай и Россия. Ну а когда это произойдет — в 2031 или позже, а может и раньше, — не знает никто.

    Веру не нужно обосновывать. И я не буду. Просто верю.

    Список упоминаемых источников.

    1. Benchmarking National AI Strategies. Stiftung Neue Verantwortung. 2018. (URL)

    2. Accenture. Boost your AIQ - Transforming into an AI Business, 2017 (URL)

    3. McKinsey Global Institute. Artificial Intelligence - The Next Frontier, 2017 (URL)

    4. Oxford Insights. 2019 Government AI Readiness Index, 2019 (URL)

    5. Konrad-Adenauer-Stiftung. Comparison of National Strategies to Promote Artificial Intelligence, 2019, Part 1 (URL)

    6. Konrad-Adenauer-Stiftung. Comparison of National Strategies to Promote Artifcial Intelligence, 2019, Part 2 (URL)

    7. Konrad-Adenauer-Stiftung. Evaluation of the German AI Strategy, 2019 (URL)

    8. Asgard & Roland Berger. Artificial Intelligence A strategy for European startups, 2018 (URL)

    9. Accuracy. Overview of leading artificial intelligence clusters around the globe, 2019 (URL)

    10. Roland Berger, France Digitale. Joining the dots – A map of Europe’s AI ecosystem, 2018 (URL)

    11. Institut der deutschen Wirtschaft. Künstliche Intelligenz: Israel und Finnland vor China, 2018 (URL)

    12. Capgemini Consulting. Artificial Intelligence Benchmark, 2018 (URL)

    13. CIFAR. BUILDING AN AI WORLD: Report on National and Regional AI Strategies, 2018 (URL)

    14. Malta: The Ultimate AI Launchpad. A Strategy and Vision for Artificial Intelligence in Malta 2030, 2019 (URL)

    15. MICROSOFT. Artificial Intelligence in Middle East and Africa. Outlook for 2019 and Beyond, 2018 (URL)

(Голосов: 14, Рейтинг: 5)
 (14 голосов)

Прошедший опрос

  1. Каковы, по вашему мнению, цели США в отношении России?
    Сдерживать военно-политическую активность России  
     262 (44.48%)
    Добиться распада и исчезновения России  
     172 (29.20%)
    Создать партнерские отношения с Россией при условии выполнения требований США  
     94 (15.96%)
    Создать союзнические отношения в противовес Китаю на условиях США  
     61 (10.36%)
Бизнесу
Исследователям
Учащимся