ИИ-национализация
Проект РСМД
«Впереди ИИ-национализм и ИИ-национализация»
«Впереди ИИ-национализм и ИИ-национализация»
Страх отстать в мировой гонге за превосходство в сфере ИИ породил тренд ИИ-национализма. Однако этим дело не ограничивается.
Когда выяснилось, что проводимая Китаем политика интеграции целей и ресурсов частного бизнеса и государства (Military-Civil Fusion) позволила КНР в считанные годы практически догнать ранее недосягаемого мирового лидера в области ИИ — США, стало ясно, что и остальным странам ничего не остается, как пойти тем же путем.
Вместо привычного для развитых стран разделения государства и бизнеса, заговорили о преимуществах ИИ-национализации — интеграции ресурсов государства и частных компаний, выравнивания скоростей внедрения инноваций в области ИИ и рефокусировки их стратегических целей на получение государством экономических, политических и военных преимуществ на международной арене.
Повестка ИИ-национализации разделяется на:
— повестку лидеров гонки ИИ;
— повестку аутсайдеров гонки ИИ.
Когда выяснилось, что проводимая Китаем политика интеграции целей и ресурсов частного бизнеса и государства (Military-Civil Fusion) позволила КНР в считанные годы практически догнать ранее недосягаемого мирового лидера в области ИИ — США, стало ясно, что и остальным странам ничего не остается, как пойти тем же путем.
Вместо привычного для развитых стран разделения государства и бизнеса, заговорили о преимуществах ИИ-национализации — интеграции ресурсов государства и частных компаний, выравнивания скоростей внедрения инноваций в области ИИ и рефокусировки их стратегических целей на получение государством экономических, политических и военных преимуществ на международной арене.
Повестка ИИ-национализации разделяется на:
— повестку лидеров гонки ИИ;
— повестку аутсайдеров гонки ИИ.
Повестка лидеров гонки ИИ — США и Китая
Некоторые эксперты приводят аргументы, что Китай пока что чуть ли не вдвое отстает в области ИИ от США [29].
Расчет Индекса ИИ-потенциала по методике из [29] показывает почти двойное отставание Китая от США.
Однако, комплексный анализ гражданских и военных прорывных технологий Китая [30], результаты слушаний в комиссии United States-China Economic and Security Review Commission [31] и её итоговый отчет Конгрессу США [32], а также новейший отчет по углубленному анализу вооружений Китая [33] зафиксировали примерный паритет в развитии ИИ-технологий США и Китая
При рассмотрении девяти наиболее прорывных классов технологий двойного применения эксперты Конгресса США отнесли ИИ к группе из 3-х классов технологий, по которым между США и Китаем примерный паритет [31]
1
В долгосрочной стратегии развития вооружений Китая автономные беспилотные системы и ИИ обладают высшим приоритетом развития.
2
Особенности китайской дорожной карты развития ИИ, отдающей высокий приоритет созданию «интеллектуального (智能化) оружия», включив его в перечень 4-х критических технологических областей «strategic frontier» (战略前沿), в которых ставится цель превзойти американских военных, используя стратегию «leapfrog development» (跨越发) — перепрыгивания через несколько стадий развития.
3
Намерение Китая использовать ИИ для ускорения совершенствования так называемого «козырного оружия» — «accelerate the development of shashoujian (杀手锏) armaments», по иронии судьбы, переводимого на английский как Trump Card.
Но речь вовсе не о президенте Трампе, а о т.н. «шатсёшианском вооружении».
Термин шатсёшиан (杀手锏) может быть переведен по-разному: в переводе на английский — это «козырь» или «булава убийцы», а на русский — «киллер». Термин ссылается на китайскую легенду, в которой шатсёшиан использовался для неожиданного выведения из строя более сильного врага с помощью хитрого трюка (типа пращи, которой Давид поразил Голиафа). В свое время председатель Компартии Китая Цзян Цзэминь так использовал термин шатсёшиан: «За что враг больше всего боится, то мы и должны атаковать». С тех пор военная доктрина Китая установила приоритетное развитие «козырного оружия» — шатсёшиан, хитроумно бьющего в самые болезненные уязвимости противника. Ну а ИИ, как оказалось, очень при таком подходе полезен.
Термин шатсёшиан (杀手锏) может быть переведен по-разному: в переводе на английский — это «козырь» или «булава убийцы», а на русский — «киллер». Термин ссылается на китайскую легенду, в которой шатсёшиан использовался для неожиданного выведения из строя более сильного врага с помощью хитрого трюка (типа пращи, которой Давид поразил Голиафа). В свое время председатель Компартии Китая Цзян Цзэминь так использовал термин шатсёшиан: «За что враг больше всего боится, то мы и должны атаковать». С тех пор военная доктрина Китая установила приоритетное развитие «козырного оружия» — шатсёшиан, хитроумно бьющего в самые болезненные уязвимости противника. Ну а ИИ, как оказалось, очень при таком подходе полезен.
Роберт Ворк, бывший замминистра обороны США с 2014 по 2017 гг.
Военные США прекрасно осведомлены о ставке Китая на «козырное оружие». Как сказал Роберт Ворк, бывший замминистра обороны США с 2014 по 2017 гг., «китайская стратегия победы — это битва за разрушение систем (systems destruction warfare), поскольку в ней основное внимание уделяется электронно-парализующему воздействию на командование и управление войсками противника, а не физическое уничтожение танков, кораблей и самолетов».
Наиболее простым и очевидным примером может быть использование коллективного интеллекта роя микродронов для вывода из строя авианосцев.
Другой пример — интеллектуализация ракетного оружия. Здесь перед ИИ ставится цель «качественного расширения возможностей ракет по восприятию внешней информации (感知) и принятию на этой основе решений (决策) в целях итогового выполнения (执行) миссий, «осознавая» (认知) происходящее и проявляя способности к обучению» [34].
По большому счету, как сказал недавно один из высоких чинов Пентагона: «Первая нация, развернувшая на поле боя электромагнитное импульсное оружие, способное отключить вражеские системы управления, изменила бы лицо войны. И далеко не очевидно, что в этой гонке победят Соединенные Штаты». И речь здесь идет ни о чем ином, как объединении возможностей электромагнитного импульсного оружия и ИИ.
Подробное описание всего ландшафта потенциальных угроз от приоритетного внедрения Китаем ИИ-технологий в передовые системы вооружений см. в [35].
Пока что США и Китай в области ИИ идут ноздря в ноздрю. Но немало экспертов считают, что максимум через декаду китайский авторитаризм одержит убедительную победу над американской демократией за счет абсолютного доминирования в объеме собираемых данных. Уже сейчас у Китая собрано вчетверо больше данных, чем у США. И этот разрыв растет.
Наиболее простым и очевидным примером может быть использование коллективного интеллекта роя микродронов для вывода из строя авианосцев.
Другой пример — интеллектуализация ракетного оружия. Здесь перед ИИ ставится цель «качественного расширения возможностей ракет по восприятию внешней информации (感知) и принятию на этой основе решений (决策) в целях итогового выполнения (执行) миссий, «осознавая» (认知) происходящее и проявляя способности к обучению» [34].
По большому счету, как сказал недавно один из высоких чинов Пентагона: «Первая нация, развернувшая на поле боя электромагнитное импульсное оружие, способное отключить вражеские системы управления, изменила бы лицо войны. И далеко не очевидно, что в этой гонке победят Соединенные Штаты». И речь здесь идет ни о чем ином, как объединении возможностей электромагнитного импульсного оружия и ИИ.
Подробное описание всего ландшафта потенциальных угроз от приоритетного внедрения Китаем ИИ-технологий в передовые системы вооружений см. в [35].
Пока что США и Китай в области ИИ идут ноздря в ноздрю. Но немало экспертов считают, что максимум через декаду китайский авторитаризм одержит убедительную победу над американской демократией за счет абсолютного доминирования в объеме собираемых данных. Уже сейчас у Китая собрано вчетверо больше данных, чем у США. И этот разрыв растет.
Кай-Фу Ли — главный идеолог, бизнес-практик, венчурный гуру и проводник на пути превращения Китая в мирового лидера в области ИИ.
Как сказал один из самых осведомленных в вопросах ИИ-противостояния Китая и США специалистов и мой бывший коллега по «Silicon Graphics» Кай-Фу Ли (см. его новую книгу «ИИ Superpowers: China, Silicon Valley, and the New World Order»): «На самом деле в ИИ существует лишь одна фундаментальная инновация — глубокое обучение. И всё, что делается сейчас в области ИИ — лишь подстройка глубокого обучения под нужны конкретных прикладных областей».
А для глубокого обучения нужно как можно больше данных. И тот, кто обладает бóльшими данными, скорее всего, уже выиграл соревнование. Хотя, как говорил Смок Беллью, «никто не проиграл, пока никто не выиграл», и США так просто не сдастся в гонке ИИ-вооружений.
Пока же в ближайшем будущем просматривается дуополия. При этом два мировых лидера в области ИИ — США и Китай — имеют диаметрально противоположные стратегии:
— Китайская стратегия — продолжать делать «ЭТО» во что бы ни стало;
— Американская стратегия — всячески препятствовать Китаю делать «ЭТО».
Детальное описание, что такое «ЭТО», содержится в [36]. Ну а вкратце речь идет о следующем:
А для глубокого обучения нужно как можно больше данных. И тот, кто обладает бóльшими данными, скорее всего, уже выиграл соревнование. Хотя, как говорил Смок Беллью, «никто не проиграл, пока никто не выиграл», и США так просто не сдастся в гонке ИИ-вооружений.
Пока же в ближайшем будущем просматривается дуополия. При этом два мировых лидера в области ИИ — США и Китай — имеют диаметрально противоположные стратегии:
— Китайская стратегия — продолжать делать «ЭТО» во что бы ни стало;
— Американская стратегия — всячески препятствовать Китаю делать «ЭТО».
Детальное описание, что такое «ЭТО», содержится в [36]. Ну а вкратце речь идет о следующем:
1
Использование протекционистских мер по защите своего рынка от импорта и конкуренции в области ИИ.
2
Спонсируемое государством незаконное или «околозаконное» приобретение интеллектуальной собственности в области ИИ посредством: физической кражи, кибер-шпионажа, нарушения экспортного законодательства США, контрафакции и пиратства.
3
Навязывание или принуждение американских компаний передавать ИИ-технологии китайским компаниям, как правило, в обмен на ограниченный доступ к китайскому рынку.
4
Выкачивание ценной открытой информации непосредственно из первоисточников научных инновационных идей (университеты, лаборатории, исследовательские центры), а также через скупку талантов из всех смежных областей: бизнес, финансы, экспертиза.
5
Господдержка инвестиционной деятельности китайских компаний в перспективные ИИ-технологии за пределами Китая.
Упоминаемые отчеты
29. «Deciphering China's AI Dream. The context, components, capabilities, and consequences of China's strategy to lead the world in AI» отчет опубликован Future of Humanity Institute, University of Oxford в марте 2018 г.
Упоминаемые отчеты
30. «Planning for Innovation: Understanding China's Plans for Technological, Energy, Industrial, and Defense Development» отчет подготовлен US-China Economic and Security Review Commission в июле 2016 г.
Упоминаемые отчеты
Упоминаемые отчеты
32. «2017 Report to Congress of the U.S.-China Economic and Security Review Commission» Executive Summary and Recommendations отчета и его полный текст
Упоминаемые отчеты
33. «China's Advanced Weapons Systems» отчет подготовлен Jane's by IHS Markit для U.S.-China Economic and Security Review Commission в мае 2018 г.
Упоминаемые отчеты
30. «Planning for Innovation: Understanding China's Plans for Technological, Energy, Industrial, and Defense Development» отчет подготовлен US-China Economic and Security Review Commission в июле 2016 г.
31. «CHINA'S ADVANCED WEAPONS. HEARING BEFORE THE U.S.-CHINA ECONOMIC AND SECURITY REVIEW COMMISSION»
32. «2017 Report to Congress of the U.S.-China Economic and Security Review Commission» Executive Summary and Recommendations отчета и его полный текст
33. «China's Advanced Weapons Systems» отчет подготовлен Jane's by IHS Markit для U.S.-China Economic and Security Review Commission в мае 2018 г.
31. «CHINA'S ADVANCED WEAPONS. HEARING BEFORE THE U.S.-CHINA ECONOMIC AND SECURITY REVIEW COMMISSION»
32. «2017 Report to Congress of the U.S.-China Economic and Security Review Commission» Executive Summary and Recommendations отчета и его полный текст
33. «China's Advanced Weapons Systems» отчет подготовлен Jane's by IHS Markit для U.S.-China Economic and Security Review Commission в мае 2018 г.
Упоминаемые отчеты
34. «Chinese Advances in Unmanned Systems and the Military Applications of Artificial Intelligence—the PLA's Trajectory towards Unmanned, "Intelligentized" Warfare» – Testimony before the U.S.-China Economic and Security Review Commission в июле 2017 г.
Упоминаемые отчеты
35. «Implications of China's Military Modernization» - Testimony before the U.S.-China Economic and Security Review Commission в феврале 2018 г.
Упоминаемые отчеты
36. «How China's Economic Aggression Threatens the Technologies and Intellectual Property of the United States and the World» отчет опубликован White House Ofce of Trade and Manufacturing Policy в июне 2018 г.
Повестка аутсайдеров гонки ИИ
Реальное положение таково, что в аутсайдерах AI гонки оказались все, кроме ее лидеров — США и Китая. И хотя технологически развитые страны, типа Франции и Германии или Индии и Южной Кореи, казалось бы, несопоставимы со странами третьего мира по уровню развития ИИ-технологий, — и тем, и другим уготована участь превратиться в ИИ-колонии стран лидеров.
Абсолютное лидерство США и Китая по числу научных публикаций по теме глубокого обучения. Источник: Digital Transformation Monitor
По словам уже упоминавшегося самого признанного в Китае и США эксперта по ИИ-технологиям Кай-Фу Ли:
“
В гонке ИИ только США и Китай находятся в выигрышном положении. Остальные страны, может, и имеют большое население, но они не имеют ИИ-технологий уровня тех, какими располагают Google, Tencent, Baidu, Alibaba, Facebook и Amazon. И потому им ничего не остается, как превратиться в поставщиков данных для тех американских или китайских ИИ-компаний, программное обеспечение которых доминирует в их странах… США и Китай, уже обладающие наивысшей мощью в области ИИ за счет огромного объема накопленных ими данных, в дополнение получат еще больше данных от всех стран — аутсайдеров гонки ИИ. Что превратит их в недосягаемых лидеров
Кай-Фу Ли описывает этот процесс так.
“
…бóльшая часть денег, полученных от ИИ, будет поступать в США и Китай. ИИ — это отрасль, в которой сила порождает силу: чем больше данных у вас есть, тем лучше ваш продукт; чем лучше ваш продукт, тем больше данных вы можете собрать; чем больше данных вы сможете собрать, тем больше талантов вы сможете привлечь; чем больше талантов вы можете привлечь, тем лучше ваш продукт. Этот логический круг обладает волшебной силой, а США и Китай уже накопили таланты, долю на рынке и данные, чтобы привести его в движение. Такое глобальное геополитическое будущее вызывает большое беспокойство, поскольку у большинства стран просто не будет выбора, кроме как стать вассальным государством США или Китае: я отдаю вам свои данные и делаю все, что вы пожелаете, а вы взамен помогаете накормить бедных в моей стране.
Здесь опять процитирую Кай-Фу Ли.
“
Если большинство стран не смогут облагать налогом сверхприбыльные ИИ-компании (потому что это будут американские и китайские компании — СК), чтобы субсидировать своих работников, какие у них будут варианты? Я предвижу только одно: если они не захотят ввергнуть свой народ в нищету, они будут вынуждены вести переговоры с той страной, которая предоставляет большую часть своего программного обеспечения для ИИ — Китаем или Соединенными Штатами. По сути, это означает стать экономически зависимой от одной из двух держав, принимая субсидии на социальное обеспечение в обмен на то, чтобы позволить «родительским» национальным ИИ компаниям продолжать получать прибыль от пользователей зависимой страны. Такие экономические договоренности изменили бы сегодняшние геополитические союзы.
Вот такой получается ИИ-неоколониализм. Вместо золота и серебра страны-колонизаторы в XXI веке получают их заменитель — большие данные для обучения своих ИИ-технологий. А странам-колониям остается только уповать на цивилизаторский дух ИИ-неоколониалистов и их финансовую помощь.
Однако, и здесь, как и в гонке ИИ двух лидеров, «никто не проиграл, пока никто не выиграл».
Например, европейские страны пытаются хоть что-то сделать, дабы избежать участи колоний, поставляющих США большие данные.
Признавая уже свершившийся проигрыш как США, так и Китаю в инфраструктуре и масштабах ИИ-программ, европейские специалисты характеризуют свои возможности в области ИИ, как «маленькие капли блеска» и предаются мечтаниям «как мы берем эти капли блеска и объединяем их вместе».
— В июне 2018 г. 600 ведущих европейских экспертов в области ИИ призвали европейских и национальных лидеров резко увеличить поддержку исследований в области ИИ, отмечая, что они имеют решающее значение для будущего Европы. Инициатива предусматривает создание Общеевропейской конфедерации лабораторий по исследованию ИИ (CLAIRE).
— Также в июне директор Германского национального центра исследований ИИ выступает за объединение усилий европейских стран и создания «ЦЕРНа в области ИИ».
— В августе уже 1000 ведущих европейских экспертов в области ИИ призвали к разработке общеевропейского подхода и созданию European Lab for Learning and Intelligent Systems (ELLIS).
— 7 сентября в Брюсселе прошел симпозиум по ИИ, цель которого — обсуждение с Европейской комиссией путей сокращения радикального отставания Европы от США и Китая.
Однако, и здесь, как и в гонке ИИ двух лидеров, «никто не проиграл, пока никто не выиграл».
Например, европейские страны пытаются хоть что-то сделать, дабы избежать участи колоний, поставляющих США большие данные.
Признавая уже свершившийся проигрыш как США, так и Китаю в инфраструктуре и масштабах ИИ-программ, европейские специалисты характеризуют свои возможности в области ИИ, как «маленькие капли блеска» и предаются мечтаниям «как мы берем эти капли блеска и объединяем их вместе».
— В июне 2018 г. 600 ведущих европейских экспертов в области ИИ призвали европейских и национальных лидеров резко увеличить поддержку исследований в области ИИ, отмечая, что они имеют решающее значение для будущего Европы. Инициатива предусматривает создание Общеевропейской конфедерации лабораторий по исследованию ИИ (CLAIRE).
— Также в июне директор Германского национального центра исследований ИИ выступает за объединение усилий европейских стран и создания «ЦЕРНа в области ИИ».
— В августе уже 1000 ведущих европейских экспертов в области ИИ призвали к разработке общеевропейского подхода и созданию European Lab for Learning and Intelligent Systems (ELLIS).
— 7 сентября в Брюсселе прошел симпозиум по ИИ, цель которого — обсуждение с Европейской комиссией путей сокращения радикального отставания Европы от США и Китая.
«Особый аутсайдер».
Позиции России в гонке ИИ
Позиции России в гонке ИИ
Вопрос о потенциале и перспективах России несколько сложнее простого отнесения её к аутсайдерам гонки.
Во-первых, теоретически существует сценарий, в котором аутсайдеры могли бы получить преимущество перед лидерами в области ИИ для военных целей. Этот сценарий остался за границами статьи, поскольку в ней не ставилась задача рассмотреть все сценарии, а лишь наиболее вероятные из них. Но, тем не менее, упомянуть сценарий, благоприятствующий аутсайдерам, необходимо, поскольку он прорабатывается и анализируется весьма авторитетными экспертами. Этот сценарий рассматривался в только что вышедшем осеннем тематическом выпуске журнала «Foreign Policy's Fall 2018», посвященном будущему войны (The Future of War). В статье Michael C. Horowitz «The Algorithms of August», в анализе перспектив такого сценария, Россия выделена в качестве «особого аутсайдера» — потенциально способного, подобно Китаю, составить конкуренцию в борьбе за лидерство.
Во-вторых, сочетание традиционной российской асимметричности ответов на геополитические вызовы в совокупности с все еще существующим немалым научно-технологическим наследием СССР могут иметь вполне серьезные последствия на стыках технологий ИИ с новыми классами вооружений (от гиперзвука до систем электронного подавления сигналов). А ведь есть еще стык ИИ с квантовыми вычислениями и кое-что еще, что может принципиально изменить расклад военных сил в ближайшем будущем.
Так что с Россией всё не так однозначно. И это заслуживает отдельного экспертного анализа, поскольку даже лучшие из существующих работ на эту тему (например, «Влияние технологических факторов на параметры угроз национальной и международной безопасности, военных конфликтов и стратегической стабильности») названных вопросов касаются лишь вскользь.
Во-первых, теоретически существует сценарий, в котором аутсайдеры могли бы получить преимущество перед лидерами в области ИИ для военных целей. Этот сценарий остался за границами статьи, поскольку в ней не ставилась задача рассмотреть все сценарии, а лишь наиболее вероятные из них. Но, тем не менее, упомянуть сценарий, благоприятствующий аутсайдерам, необходимо, поскольку он прорабатывается и анализируется весьма авторитетными экспертами. Этот сценарий рассматривался в только что вышедшем осеннем тематическом выпуске журнала «Foreign Policy's Fall 2018», посвященном будущему войны (The Future of War). В статье Michael C. Horowitz «The Algorithms of August», в анализе перспектив такого сценария, Россия выделена в качестве «особого аутсайдера» — потенциально способного, подобно Китаю, составить конкуренцию в борьбе за лидерство.
Во-вторых, сочетание традиционной российской асимметричности ответов на геополитические вызовы в совокупности с все еще существующим немалым научно-технологическим наследием СССР могут иметь вполне серьезные последствия на стыках технологий ИИ с новыми классами вооружений (от гиперзвука до систем электронного подавления сигналов). А ведь есть еще стык ИИ с квантовыми вычислениями и кое-что еще, что может принципиально изменить расклад военных сил в ближайшем будущем.
Так что с Россией всё не так однозначно. И это заслуживает отдельного экспертного анализа, поскольку даже лучшие из существующих работ на эту тему (например, «Влияние технологических факторов на параметры угроз национальной и международной безопасности, военных конфликтов и стратегической стабильности») названных вопросов касаются лишь вскользь.
К чему ведет
ИИ-национализация?
ИИ-национализация?
При всем различии повесток гонки ИИ лидеров и аутсайдеров, они предполагают одни и те же шаги, ведущие, по сути, к ИИ-национализации по китайской схеме.
В первую очередь, это создание у себя в странах единых гражданско-военных комплексов по разработке ИИ-технологий.
«В докладе подчеркивается необходимость тесного сотрудничества между государственным и частным секторами для наращивания синергии вокруг гражданских и военных инноваций в ИИ. Для этих целей различные субъекты из государственного и частного секторов должны будут обмениваться данными, являющимися сырьем для машинного обучения. Очевидно, что это приведет к техническим и законодательным трудностям из-за противоречий требований безопасности и конфиденциальности. Тем не менее, парламентская комиссия Вильяни и министр бороны, похоже, намерены декомплементировать (интегрировать) гражданские и военные исследования и инновации в области ИИ. Заявленная цель — построить гражданско-военный комплекс технологических инноваций, ориентированных на цифровые технологии и, более конкретно, на ИИ. В отличие от предыдущих десятилетий, когда результаты военных публичных исследований проникали в гражданскую сферу, гражданский сектор в настоящее время является лидером в области исследований и инноваций. Авторы отчета сознают меру этого важного сдвига и поэтому предлагают внедрить наилучшие адаптированные инструменты для облегчения передачи технологий из одной сферы в другую».
Конечно, гиганты ИИ-бизнеса будут всячески сопротивляться этому. Например, 1 июня 2018 г. Google объявил, что не возобновит свой контракт с поддержкой военной инициативы США под названием Project Maven. Этот проект является первой оперативно развернутой в Ираке системой глубокого обучения ИИ для классификации изображений, передаваемых с военных беспилотников. Решение Google не продлевать контракт с военными последовало после того, как примерно 4 000 из 85 000 сотрудников Google подписали петицию о запрете участия Google в создании «технологий ведения войны».
Ответ последовал незамедлительно.
Уже 6 июня 2018 г. была опубликована статья Грегори Аллена, эксперта «Центра новой американской безопасности», под заголовком «Исследователи ИИ должны помочь с некоторыми военными разработками». В статье сформулирован новый «этический императив» для коммерческих ИИ-компаний:
Ответ последовал незамедлительно.
Уже 6 июня 2018 г. была опубликована статья Грегори Аллена, эксперта «Центра новой американской безопасности», под заголовком «Исследователи ИИ должны помочь с некоторыми военными разработками». В статье сформулирован новый «этический императив» для коммерческих ИИ-компаний:
“
Этическим выбором для ИИ-инженеров Google было бы участие в проектах национальной безопасности, а не их избегание.
О призывах сотрудников Google отказаться от участия в Project Maven, автор пишет:
“
Такие призывы создают большую моральную опасность. Внедрение передовых ИИ-технологий в армию столь же неизбежно, как когда-то было с электричеством. Но этот переход чреват этическими и технологическими рисками. Однако, участие в этом процессе талантливых исследователей, и в том числе, таких компаний, как Google, абсолютно необходимо, для того, чтобы помочь военным оставаться на правильной стороне этических норм.
На помощь Google, по сути, обвиненной в том, что свои этические принципы ее сотрудники ставят выше национальной безопасности, поспешили коллеги по ИИ-индустрии. В июле Илон Маск, соучредители DeepMind, учредитель Skype и несколько известных ИИ-профессионалов призвали коллег по отрасли подписать обещание не создавать «летальное автономное оружие» на основе ИИ-технологий, известное как «роботы-убийцы» (что это, см. [37]).
В августе уже 116 известных ИИ-деятелей и специалистов подписали письмо с призывом к ООН запретить летальное автономное оружие. В своем заявлении группа заявляет, что развитие такой технологии приведет к «третьей революции в войне», которая могла бы равняться изобретению пороха и ядерного оружия.
В августе уже 116 известных ИИ-деятелей и специалистов подписали письмо с призывом к ООН запретить летальное автономное оружие. В своем заявлении группа заявляет, что развитие такой технологии приведет к «третьей революции в войне», которая могла бы равняться изобретению пороха и ядерного оружия.
Старший советник НАТО, основатель и директор Digital Society Institute при ESMT, Сандро Гайкен (Dr Sandro Gaycken)
И пока ООН молчит, ответ поступил от старшего советника НАТО Сандро Гайкена, отметившего, что такие инициативы в высшей степени самодовольны и могут дать авторитарным государствам асимметричное преимущество.
«Если эти наивные хиппи — разработчики из Кремниевой долины не понимают уровня угроз, то ЦРУ должно их заставить понять» — сказал Гайкен.
«Заставить понять» нужно не только гигантов ИИ-индустрии типа Google, но и множество перспективных стартапов, работающих на переднем крае ИИ-разработок.
«Стартапы должны быть встроены в крупные корпоративные структуры, иметь доступ к требуемым данным и создавать высококачественные ИИ» — считает Гайкен.
Эта же логика распространяется и на отдельных специалистов по ИИ — все они должны работать на решение задач нацбезопасности.
«Существуют огромные различия в том, как талант можно использовать в авторитарных и демократических системах. Военное командование и управляющие экономикой авторитарных государств могут заставить граждан, экспертов и ученых работать на них. В таких странах, если вам нужны очень хорошие мозги, вы можете просто заставить любых специалистов работать на вас» — объясняет Гайкен.
Трудно представить подобную картину в США:
— ИИ-стартапы, работающие на гигантские ИИ-корпорации;
— Гигантские ИИ-корпорации, работающие на военных;
— ИИ-специалисты, по требованию военных работают там, где скажут (как «шарашки» при Сталине).
Но ведь так было в СССР. И сейчас наблюдается подобная ситуация в Китае…
Смогут ли власти США внедрить подобную практику у себя, зависит, в конце концов, лишь от уровня угроз. Ведь любая демократия кончается там, где объявляется высокий уровень угроз для национальной безопасности.
Как недавно написал в этой связи Адам Гарфинкл — основоположник журнала The American Interest, работавший спичрайтером нескольких госсекретарей США — в статье с подзаголовком «Как экономическая конкуренция с Китаем может заставить Соединенные Штаты походить на своего противника»:
«В результате возникнет смесь искушений и давления, чтобы каким-то образом сблизить промышленные IT активы США с государственным контролем».
А многие влиятельные лица в США вполне уверены, что ИИ-война с Китаем уже началась. Осталось лишь убедить в этом большинство американцев. Что после избрания Трампа не кажется такой уж фантастикой.
«Если эти наивные хиппи — разработчики из Кремниевой долины не понимают уровня угроз, то ЦРУ должно их заставить понять» — сказал Гайкен.
«Заставить понять» нужно не только гигантов ИИ-индустрии типа Google, но и множество перспективных стартапов, работающих на переднем крае ИИ-разработок.
«Стартапы должны быть встроены в крупные корпоративные структуры, иметь доступ к требуемым данным и создавать высококачественные ИИ» — считает Гайкен.
Эта же логика распространяется и на отдельных специалистов по ИИ — все они должны работать на решение задач нацбезопасности.
«Существуют огромные различия в том, как талант можно использовать в авторитарных и демократических системах. Военное командование и управляющие экономикой авторитарных государств могут заставить граждан, экспертов и ученых работать на них. В таких странах, если вам нужны очень хорошие мозги, вы можете просто заставить любых специалистов работать на вас» — объясняет Гайкен.
Трудно представить подобную картину в США:
— ИИ-стартапы, работающие на гигантские ИИ-корпорации;
— Гигантские ИИ-корпорации, работающие на военных;
— ИИ-специалисты, по требованию военных работают там, где скажут (как «шарашки» при Сталине).
Но ведь так было в СССР. И сейчас наблюдается подобная ситуация в Китае…
Смогут ли власти США внедрить подобную практику у себя, зависит, в конце концов, лишь от уровня угроз. Ведь любая демократия кончается там, где объявляется высокий уровень угроз для национальной безопасности.
Как недавно написал в этой связи Адам Гарфинкл — основоположник журнала The American Interest, работавший спичрайтером нескольких госсекретарей США — в статье с подзаголовком «Как экономическая конкуренция с Китаем может заставить Соединенные Штаты походить на своего противника»:
«В результате возникнет смесь искушений и давления, чтобы каким-то образом сблизить промышленные IT активы США с государственным контролем».
А многие влиятельные лица в США вполне уверены, что ИИ-война с Китаем уже началась. Осталось лишь убедить в этом большинство американцев. Что после избрания Трампа не кажется такой уж фантастикой.
Упоминаемые отчеты
28. «FOR A MEANINGFUL ARTIFICIAL INTELLIGENCE» отчет подготовлен парламентской комиссией Франции под руководством Седрика Виллани по поручения Премьер министра Франции.
Упоминаемые отчеты
37. «Initial Reference Architecture of an Intelligent Autonomous Agent for Cyber Defense», URL US Army Research Laboratory, март 2018 г.
Автор: Сергей Карелов, основатель и Chief Technology Officer компании Witology, председатель Лиги независимых IT-экспертов, эксперт РСМД.
Подготовили Николай Маркоткин, Анастасия Толстухина и Александр Тесля.
Подготовили Николай Маркоткин, Анастасия Толстухина и Александр Тесля.