Искусственный интеллект: вызовы и угрозы России

Сегодня дискуссии об искусственном интеллекте (ИИ) можно встретить повсюду — и на телевидении, и на страницах глянцевых журналов. Но такое уже не раз случалось в прошлом, и всякий раз периоды энту­зиазма и увлечения ИИ-технологиями сменялись последующими разочарованиями. Где гарантия, что и в этот раз возлагаемые на технологии надежды не окажутся несбыточными?

В статье отстаивается тезис, что время ИИ наступает только сейчас, и что именно ИИ замыкает технологический пакет нового экономического уклада. Т.е. сегодня ИИ представляет собой стратегически самую важную технологию, является пропуском в новое цифровое будущее.

Главная угроза современной России — оказаться одной из стран — аутсайдеров гонки ИИ, дополнить экспорт сырой нефти экспортом сырых данных, оставив все их высокие переделы и всю прибавочную стоимость более развитым экономикам.

Соответственно, Россия должна предпринять экстраординарные усилия по развитию у себя соответствующих компетенций, чтобы не упустить свой шанс занять место в ряду технологически развитых стран.

Нужен ли России искусственный интеллект?

Сегодня дискуссии об искусственном интеллекте (ИИ) можно встретить повсюду — и на телевидении, и на страницах глянцевых журналов. Но такое уже не раз случалось в прошлом, и всякий раз периоды энтузиазма и увлечения ИИ-технологиями сменялись последующими разочарованиями. Где гарантия, что и в этот раз возлагаемые на технологии надежды не окажутся несбыточными? Тем более, что тема ИИ сегодня находится на пике ажиотажа (см. Рис. 1). Чем же тогда сегодняшняя ситуация отличается от того, что уже бывало раньше?

Рис. 1: Глубокие нейронные сети, «рабочая лошадка» современного ИИ, находятся сегодня на пике ажиотажа и завышенных ожиданий. За этим неизбежно следуют разочарования, и лишь постепенно, но мере взросления технологий — выход па плато продуктивности. Однако, но мнению Gartner [16], плато продуктивности для глубокого обучения ожидается довольно скоро — в пределах ближайших 5 лет.

В этой статье отстаивается тезис, что время ИИ наступает только сейчас, и что именно ИИ замыкает технологический пакет нового экономического уклада. Т.е. сегодня ИИ представляет собой стратегически самую важную технологию, является пропуском в новое цифровое будущее. Соответственно, Россия должна предпринять экстраординарные усилия по развитию у себя соответствующих компетенций, чтобы не упустить свой шанс занять место в ряду технологически развитых стран.

Преодоление барьера сложности

Развитие человеческой цивилизации можно рассматривать как процесс постоянного обучения, т.е. накопления знаний. Действительно, что отличает современного человека от его далеких предков — ранних homo sapiens? Физиологически — ничего, единственное различие — в объеме накопленных человечеством знаний. Под знаниями здесь понимаются не столько тексты, сколько операционные знания «на кончиках пальцев» представителей всех человеческих профессий. Они передаются, как формально, в виде научных статей, технических регламентов, должностных инструкций и т.д., так и неформально, от наставника к ученику.

Эти знания направляют поведение людей и приводят в действие всю мировую экономику. Их суммарный объем определяет сложность «экономического организма» и объем производимых экономикой благ. Блага цивилизации можно измерять не деньгами, а количеством доступных товаров и услуг [10]. Чем разнообразнее товарная номенклатура, тем больше возможностей имеет человек для удовлетворения своих потребностей, тем выше степень развития экономики, Т.е. экономическое благополучие прямо пропорционально количеству накопленных человечеством знаний.

Роман Дурнев, Кирилл Крюков, Андрей Титов:
В погоне за совершенным интеллектом?

Рост благосостояния означает, что объем этих знаний растет быстрее, чем численность населения. Действительно, расселение homo sapiens по Земле началось около 100 тысяч лет назад с африканской популяции численностью порядка 10⁵ человек. Сегодня нас уже 1010, т.е. численность населения увеличилась на пять порядков. Однако номенклатура изделий за то же время увеличилась на десять порядков — с нескольких вариантов каменных орудий до 10^{10<.sup> (разнообразие маркировки современных штрихкодов UPC).}

Количество накопленных знаний растет примерно пропорционально квадрату числа людей, в головах которых эти знания «установлены» [i], Очевидно, что накапливаться с такой скоростью бесконечно знания не могут. Рано или поздно начнут сказываться естественные ограничения человеческого мозга, из-за которых суммарный объем памяти человечества растет с ростом населения линейно, т.е. гораздо медленнее.

Гипотеза автора состоит в том, что это «рано или поздно» уже наступило. Человечество уже столкнулось с проблемой преодоления барьера сложности экономики с ее растущей номенклатурой изделий и глобальной системой разделения труда.

Предельно упрощая ситуацию, предположим, что все люди специализируются каждый на каком-то одном «изделии». В первобытном обществе при минимальном разделении труда все были заняты производством одних и тех же изделий, т.е. человеческие знания многократно дублировались. Рост экономики обеспечивался все более рациональным использованием совокупной памяти человечества — углублением разделения труда и появлением всё большего числа профессий. Современный мир, по-видимому, приближается к предельной степени разделения труда, когда набор знаний каждого специалиста становится уникальным. В этом пределе разнообразие изделий приближается к своему теоретическому максимуму — количеству людей (см. Рис. 2).

Хорошим индикатором приближения человечества к этому пределу служит изменение закона роста численности населения [5]. На протяжении всей известной истории вплоть до последней трети XX века население Земли росло приблизительно по гиперболе: ∞ (t₀ – t) ^–1 с точкой сингулярности t₀ ≈ 2026 г. [17]. Затем гиперболический рост начал замедляться, и примерно с 2000 г., относительный темп роста населения постоянно снижается. Можно трактовать этот факт как свидетельство того, что текущий технологический уклад исчерпал свой потенциал и больше не в состоянии поддерживать прежние темпы роста. Преодоление барьера сложности возможно только в рамках нового цифрового технологического уклада.

Рис. 2

Новый технологический уклад

По существующим представлениям экономика развивается циклично, через технологические революции, в процессе которых происходит смена технологических укладов [6],[8]. Каждый такой уклад характеризуется:

• Обильными запасами относительно дешевого базового ресурса.
• Пакетом технологий, эффективно эксплуатирующим этот ресурс.
• Организацией рынка, соответствующей этому технологическому пакету.

Переход к новому укладу возможен только после формирования полного пакета новых технологий, который постепенно складывается в недрах старого уклада, где каждая из них по отдельности еще не может реализовать заложенный в ней потенциал. Таким образом, всегда существует какая-то одна замыкающая технология, без которой установление нового уклада невозможно, и появление которой инициирует новую технологическую революцию. Несложно догадаться, что, по мнению автора, именно такой замыкающей технологией является сегодня искусственный интеллект.

Ресурсной основой уходящего индустриального технологического уклада является дешевое и обильное углеводородное топливо, энергетическая основа современной экономики. Технологический пакет составляют технологии массового машинного производства и глобальные транспортные сети. Наконец, организацию сложных цепочек создания стоимости обеспечивают транснациональные компании.

Что будет определять облик нового цифрового технологического уклада?

Новый обильный и дешевый ресурс

Основным ограничивающим фактором индустриального уклада, как было предположено выше, является не истощение энергетических ресурсов, а ограниченные возможности человеческого мозга по управлению все более сложной глобальной экономикой. «В каждом продукте, которым мы пользуемся в начале XXI века, доля прямых и косвенных управленческих затрат составляет от 50 до 80%» [2].

Ответом на этот вызов стало появление и быстрое развитие компьютерных технологий. Компьютеры позволили вынести часть алгоритмов из головы человека в среду, где они могут исполняться в миллиарды раз быстрее. Соответственно, все, что удается формализовать, переносится из головы человека в эту новую искусственную цифровую среду. Зародыш новой фазы в недрах старого уклада растет согласно закону Мура — удвоение компьютерных мощностей и снижение удельной стоимости вычислений каждые полтора–два года. Собственно, этот закон и описывает появление у человечества нового обильного и дешевого ресурса. Рано или поздно экспоненциально растущие вычислительные мощности компьютеров должны превзойти практически постоянные «вычислительные мощности» людей.

В каком-то смысле, этот момент уже наступил, и сегодня мы живем в эпоху все нарастающего «навеса» компьютерных мощностей, все более превосходящих совокупную «вычислительную мощность» людей (количество людей, умноженное на максимальный объем их индивидуальных знаний и на скорость доступа к этим знаниям) [ii] — см. Рис.3.

Рис. 3: Рост совокупных компьютерных мощностей, согласно [12]. Они сосредоточены не в процессорах общего назначения (CPU, нижняя ветка), а в графических ускорителях (GPU, верхняя ветка), которые, в основном, и используются для обучения искусственных нейросетей.

Таким образом, компьютерные мощности представляют собой новый дешевый и обильный ресурс для становления нового цифрового технологического уклада. Более того, в отличие от остальных ресурсов, он постоянно и очень быстро растет и дешевеет, т.е. является сегодня основным потенциальным источником экономического роста [iii].

Однако, пока что этот заложенный в компьютерах потенциал еще практически не задействован, Большую часть времени они попросту простаивают. Согласно недавнему докладу McKinsey [15], развитие цифровых технологий в США последние 30 лет сопровождалось снижением темпов роста производительности труда.

По мнению автора, только машинный интеллект способен раскрыть истинный экономический потенциал компьютеров.

Новый технологический пакет

Почему именно машинный интеллект? Что принципиально нового добавит он к имеющимся компьютерным технологиям? И почему этих технологий недостаточно для эффективной эксплуатации растущих и дешевеющих компьютерных мощностей?

Ответ лежит на поверхности. Просто совокупный объем всех когда-либо созданных компьютерных алгоритмов ничтожно мал по сравнению с объемом всех человеческих знаний. Компьютеры, выражаясь бытовым языком, «быстрые, но глупые». Соответственно, принятие основной массы решений по-прежнему остается за людьми, а компьютеры играют вспомогательную роль, осуществляя лишь те операции, которые удалось формализовать и автоматизировать. В результате, несмотря на все инвестиции в информационные технологии, их влияние на экономику весьма ограничено.

Сергей Карелов:
Впереди ИИ-Национализм и ИИ-национализация

Процесс формализации человеческих знаний идет крайне медленно, т.к. алгоритмы создаются небольшой прослойкой людей, программистами (их сегодня порядка 10⁷). Объём знаний в компьютерных программах ограничен совокупными знаниями программистов, которые на три порядка меньше общего объема человеческих знаний.

Если алгоритмы и дальше будут создаваться людьми, этот процесс может затянуться навеки, с учетом скорости обновления знаний. Единственный выход — избавиться от узкого горла «ручного» программирования и перепоручить создание программ компьютерам. Этот процесс автоматического порождения алгоритмов обеспечивается машинным обучением.

Таким образом, только машинное обучение, подкрепленное достигнутым уровнем компьютерных мощностей, способно в сжатые сроки резко повысить машинный интеллект до человеческого уровня и загрузить эти мощности теми задачами, которые сегодня доступны только людям.

Именно это мы и наблюдаем в последние несколько лет, после того, как основной парадигмой ИИ стало т.н. глубокое обучение [13]. Именно с этим подходом связаны недавние успехи в задачах компьютерного зрения, распознавания речи, машинного перевода и т.д., где узко специализированный машинный интеллект достигает уровня человека, т.е. может его частично заменять.

Иными словами, именно искусственный интеллект является замыкающей технологией нового технологического пакета, необходимой и достаточной для начала новой промышленной революции,

Новая организация рынка

В каждом укладе можно выделить базовые «клетки» его «экономического организма» [8]. Первая промышленная революция породила фабрики, вторая — транснациональные корпорации. Каким будет основной способ организации рынка в новом цифровом укладе? Как в него впишутся технологии искусственного интеллекта?

Основой индустриального уклада является массовое производство и распределение товаров. Производители наполняют рынок товарами, ориентируясь на массовый спрос. Всякий нестандартный спрос остается неудовлетворенным.

В цифровом мире рынки настроены на индивидуальные потребности. Возможность удовлетворить любой спрос кратно расширяет объем рынка за счет эффекта длинного хвоста [7]. Это касается также и рынка труда: как любой товар находит своего покупателя, так и любые способности, знания и навыки находят свое применение в составе временных проектных команд с уникальными комбинациями уникальных компетенций. С передачей части работ интеллектуальным агентам со сверхчеловеческими способностями производительность труда может вырасти на порядки.

Прецизионный matchmaking между спросом и предложением будут обеспечивать цифровые платформы, оперирующие цифровыми двойниками услуг, товаров и людей. Собственно, это мы сегодня и наблюдаем: компании новой экономики предоставляют исключительно и только персонализированные услуги: Google и Facebook осуществляют индивидуальную доставку информации и рекламы, Amazon и Netflix помогают подбирать товары и развлечения по своему вкусу, угадывая потребности пользователей по их цифровым следам.

Новые компании-платформы сегодня активно теснят транснациональные компании прошлого уклада и растут темпами, кратно превышающими рост мировой экономики (см. Рис. 4, 5).

Рис. 4: Крупнейшими мировыми компаниями становятся лидеры нового цифрового уклада.

Рис. 5: Лидеры нового уклада растут опережающими темпами. Среднегодовые темпы их роста (20–60%) на порядок превышают темпы роста мировой экономики (2,5–3%).

Это объясняется эффектом положительной обратной связи, характерным дня новой экономики, основанной па машинном обучении: больше клиентов — больше данных — лучше качество сервиса — еще больше клиентов. Ведь результаты машинного обучения пропорциональны объему данных. Поэтому компании новой экономики, успевшие первыми захватить свой сегмент рынка, быстро уходят в отрыв.

Гонка за искусственным интеллектом

Понимание исключительной роли лидерства в экономике нового уклада породило новую технологическую гонку — за искусственным интеллектом. В последние пару лет свои национальные стратегии в области искусственного интеллекта появились сразу у двух десятков стран [9].

Едва начавшись, новая гонка уже не уступает ядерной и ракетной гонкам XX века по масштабу инвестиций, которые при этом продолжают расти двузначными темпами. Лидируют в ней с большим отрывом ее инициаторы — США и Китай (см. Рис. 6).

Рис. 6: Вложения в главные технологические гонки — ядерную, ракетную и ИИ. Данные по Манхэттенскому проекту и проекту Аполлон взяты из Википедии и пересчитаны в доллары 2016 года, вложения в ИИ в 2016 году — оценка [11].

Участники гонки спешат включиться в глобальные цепочки создания стоимости набирающей силу новой экономики, с гораздо более высокой производительностью труда [iv].

Оставшиеся в стороне страны будут все больше отставать от лидеров по уровню, качеству и продолжительности жизни с риском отстать окончательно и превратиться в failed states. Их суверенитет будет носить в значительной степени иллюзорный характер, т.к. все основные экономические решения будут приниматься без их участия и без учета их интересов.

Рабочая тетрадь РСМД «Международные и социальные последствия использования технологий искусственного интеллекта»

С этих позиций, главная угроза современной России — оказаться одной из таких стран, дополнить экспорт сырой нефти экспортом сырых данных, оставив все их высокие переделы и всю прибавочную стоимость более развитым экономикам.

Вызов России

Сегодня для России открывается редкое окно возможностей — поучаствовать в становлении новой экономики более-менее на равных, застолбить за собой какие-то сектора быстро растущих новых рынков, пока лидеры гонки ИИ не ушли в отрыв.

Конечно, у США здесь имеется существенный задел, но это отнюдь не предопределяет их победу в новой гонке. Вышедшая недавно замечательная книга [14] обосновывает высокие шансы Китая догнать и перегнать США в этом соревновании. Стратегия Китая опирается на его естественные конкурентные преимущества — лидерство в мобильных платежах и электронной торговле, обилие порождаемых ими данных, высококонкурентную среду малого и среднего бизнеса.

Стратегия России тоже должна опираться на ее конкурентные преимущества, например на исторически сильную физико-математическую и программистскую школы. Сегодня это реальное преимущество, т.к. центры создания стоимости перемещаются от производства в разработку и дизайн [v], и основной производительной силой становится интеллект разработчиков [4].

Россия является поставщиком этих элитных кадров, не получая взамен практически ничего. Экономическая отдача от них возможна лишь при наличии крупных отечественных компаний, застолбивших за собой определенные сегменты рынка новой экономики. Эти компании — центры компетенций мирового уровня, породят платежеспособный спрос на лучшие российские кадры и будут осаждать их у себя. Они же станут покупателями успешных венчурных проектов для ускорения своего роста, обеспечивая внутренний спрос для российской венчурной индустрии.

По мнению автора, российская стратегия должна предусматривать создание нескольких десятков высокотехнологичных компаний с оборотами каждая в десятки миллиардов долларов, входящих в мировую экономическую элиту — список Forbes Global 2000. Если исходить из современной доли России в мировом ВВП, в этом списке должно быть не менее 2%, т.е. более 40 российских компаний (сегодня их всего 25) [vi].

Поддержку выхода российских компаний на новые мировые рынки призвана обеспечить Национальная Технологическая Инициатива. На выходе, в ближайшие 10–15 лет, пока окно возможностей не закрылось, усилиями сообщества НТИ и государства должны появиться и закрепиться на новых рынках не менее 15 российских цифровых «единорогов» масштаба АФК «Система» и ОАК (единственных пока российских высокотехнологичных компаний в списке Forbes Global 2000).

Это — настоящий вызов для России, но именно на такой результат, по мнению автора, должна ориентироваться российская стратегия развития цифровой экономики. И это действительно потребует от нас экстраординарных усилий.

Список литературы

1. А.В. Коротаев, С.Ю. Милков, и Л.Е. Гринина. Анализ и моделирование глобальной динамики. Ленанд, 2018.

2. Д.А. Ковалевич и П.Г. Щедровицкий. Конвейер инноваций, https://asi.ru/conveyor-of-innovations/, 2015.

3. В. Завидовская и К. Карпов. Рейтинг компаний по производительности, труда сотрудников. https://bcs-express.ru/novosti-i-analitika/reiting-kompanii-po-proizvoditel-nosti-truda-sotrudnikov, 2017.

4. И. Р. Агамирзян. Технологическое лидерство: воспользоваться шансом. Вызов 2035, стр. 8–15. Олимп-Бизнес, 2016.

5. С.П. Капица. Общая теория роста человечества: сколько людей жило, живет и будет жить на Земле. М.: Наука, 1999.

6. Карлота Перес. Технологические революции и финансовый капитал. Дело, 2011.

7. Крис Андерсон. Длинный хвост. Эффективная модель бизнеса в Интернете. МИФ, 2012.

8. П.Г. Щедровицкий. История промышленных революций и вызовы III промышленной революции. https://voutu.be/_cpWkGwZMSI, 2016.

9. С.В. Карелов. Впереди, ИИ-национализм и ИИ-национализация.

http://russiancouncil.ru/activity/digest/longreads/vperedi-ii-natsionalizm-i-ii-natsionalizatsiva/, 2018.

10. Eric D Beinhoeker, The origin of wealth: Evolution, complexity, and the radical remaking of economics. Harvard Business Press, 2006.

11. Jacques Bughin, E. Hazan, S. Ramaswamy, M. Chui, T. Allas, P. Dahlstrom, N. Henke, and M. Trench. Artificial intelligence-the next digital frontier. McKinsey Glob Institute URL https://www.mckinsey.de/files/170620_studie_ai.pdf, 2017.

12. M. Hilbert and P. Lopez. The world’s technological capacity to store, communicate, and compute information. Science (New York, NY), 332(6025):60-65, 2011.

13. Yann LeCun, Yoshua Bengio, and Geoffrey Hinton. Deep learning. Nature, 521 (7553):436-444, 2015.

14. Kai-Fu Lee. AI Superpowers: China, Silicon Valley, and the New World Order. Houghton Mifflin, 2018.

15. James Manyika, Jaana Remes, Jan Mischke, and Mekala Krishnan. The productivity puzzle: a closer look at the United States. McKinsev Global Institute, 2017.

16. К. Panetta. 5 Trends Emerge in the Gartner Hype Cycle for Emerging Technologies, 2018. https://www.gartner.com/smarterwithgartner/5-trends-emerge-in-gartner-hype-eyele-for-emerging-teehnologies-2018/, 2018.

17. Heinz Von Foerster, Patricia M. Mora, and Lawrence W. Amiot. Doomsday: Friday, 13 november, ad 2026. Science, 132(3436):1291-1295, 1960.

i. Мировой ВВП также пропорционален квадрату численности населения [1], т.е. действительно растет пропорционально объему знаний.

ii. Предел индивидуальных знаний определяется скоростью усвоения знаний человеком (10 байт в секунду скорость речи). За 60 лет непрерывного обучения по 12 часов в день человек может усвоить максимум 1010 байт. Соответственно, предельное количество знаний в головах всего человечества: 1020 байт. Предельную «вычислительную мощность» человечества (1021 байт/сек) получим, умножив эту величину на «тактовую частоту» мозга ~ 10 Гц.

iii. Конечно, компьютерные мощности — это не природный, а технологический ресурс. Но технологические пакеты складываются из стеков различных технологий, нижние этажи которых служат ресурсом для верхних. Мы остановились на вполне зрелой массовой технологии производства чипов, т.к. в противном случае пришлось бы считать основным ресурсом цифровой экономики кремний или даже песок.

iv. К примеру, выручка Apple в расчете на одного сотрудника — около 2,2 млн долл., в 7 раз выше, чем у Роснефти и в 70 раз выше, чем у Ростелекома. [3]

v. В продукции той же Apple 89% стоимости составляют дизайн, инжиниринг и бренд, а на производство компонент и сборку приходится лишь 11%. [4]

vi. Причем, 10 лет назад их было 29, и их число будет неуклонно снижаться по мере вытеснения из этого списка компаний уходящего уклада.