Робототехника и ИИ в России: разработки есть, а законодательства — пока нет

2019 год должен стать переломным для российских высоких технологий — готовятся к выходу национальные стратегии по развитию робототехники и искусственного интеллекта, также ожидается, что будут приняты законы, регулирующие эти отрасли. Менеджер по связям со СМИ и правительственными структурами РСМД Николай Маркоткин побеседовал с руководителем Исследовательского центра «Робоправо», советником юридической компании «Dentos» Андреем Незнамовым о содержании национального законодательства в сфере ИИ и робототехники и перспективах международного регулирования смертоносных автономных систем.

2019 год должен стать переломным для российских высоких технологий — готовятся к выходу национальные стратегии по развитию робототехники и искусственного интеллекта, также ожидается, что будут приняты законы, регулирующие эти отрасли. Менеджер по связям со СМИ и правительственными структурами РСМД Николай Маркоткин побеседовал с руководителем Исследовательского центра «Робоправо», советником юридической компании «Dentos» Андреем Незнамовым о содержании национального законодательства в сфере ИИ и робототехники и перспективах международного регулирования смертоносных автономных систем.

robotrends.ru
Андрей Незнамов

Сейчас в России разрабатывается закон об использовании роботов. Не могли бы Вы рассказать о нем в общих чертах? В чем будет его суть? Что он будет регулировать? Зачем он нужен?

В России сейчас два разных трека. Первый — это создание стратегии развития отрасли, отдельно в робототехнике, отдельно в сфере искусственного интеллекта. Второе направление — это создание основ законодательства по робототехнике и искусственному интеллекту. Проект такого федерального закона является частью национального проекта «Цифровая экономика». По плану подготовки, законопроект должен быть разработан, обсужден и принят Государственной Думой летом 2019 г. Сейчас обсуждается техническое задание.

Мы провели исследование о том, как нужно регулировать роботов и искусственный интеллект. По его итогам мы предложили ряд направлений для законодательного регулирования. Это вопросы терминологии — что такое искусственный интеллект, что такое роботы; вопросы ответственности; вопросы принципов регулирования. Также мы предложили меры стимулирования и поддержки отрасли и минимальные требования к мерам безопасности. Ключевая идея нового закона будет заключаться в том, чтобы минимально навредить интересам индустрии и наоборот поддержать ее развитие. При этом одновременно необходимо соблюсти баланс с обеспечением интересов общества и государства, в первую очередь с точки зрения безопасности. Мы стараемся любыми способами донести до законодателей мысль, что 90% нормативных актов в этой сфере в других странах направлены на поддержку отрасли, а не на то, чтобы ее регулировать.

Расскажите немного про зарубежные практики регулирования роботов и искусственного интеллекта. Какие вы считаете наиболее прогрессивными?

Абсолютный мировой тренд — это принятие стратегии развития искусственного интеллекта, они есть уже в нескольких десятках стран. Например, во Франции стратегия переживает уже вторую и третью редактуру. Совсем недавно с большим опозданием свою стратегию опубликовали в США, хотя еще три года назад в администрации Б. Обамы были сделаны первые проекты по стратегии. В сфере искусственного интеллекта очень силен Китай. Когда он в 2017 г. опубликовал свой план развития технологий искусственного интеллекта нового поколения, весь мир просто взорвался. Потому что в этом плане содержится полноценное описание того, как Китай будет абсолютно доминировать в сфере искусственного интеллекта в 2020, 2025 и 2030 гг.

Сергей Шумский:
Искусственный интеллект: вызовы и угрозы России

Одна из самых лучших практик в сфере робототехники — у Южной Кореи. Они одни из первых приняли закон о роботах (в 2008 г.), который действует до сих пор. Объем производства робототехники здесь удвоился уже в 2014 г. Очень хорошие практики есть в Японии, которая традиционно сильна в этой сфере. В Европейском союзе есть целый проект комплексного регулирования роботов —«Нормы гражданского права о робототехнике», много различных обсуждений на уровне разных отдельных европейских стран. В США есть проект дорожной карты по робототехнике, переживший уже несколько воплощений. В общем, достаточно четко видно, что Россия идет с двух-, трех-, четырех-, а в некоторых случаях и с пятилетним опозданием.

А в целом робототехника, как отрасль, насколько хорошо развита в России?

Хорошо развита. Существует распространенное заблуждение, что в России нет ни роботов, ни искусственного интеллекта, и нам незачем писать законы на эту тему. Мне сначала тоже так казалось, но я посетил очень много мероприятий, разговаривал со многими робототехниками, разработчиками искусственного интеллекта. В России традиционно очень сильная инженерная школа, поэтому здесь есть и то, и другое.

Не все знают, что в стране есть целые компании, которым удается не просто производить роботов, но и экспортировать их в те страны, куда, казалось бы, это делать невозможно — например, в Японию. Такие ростки, безусловно, нужно поддерживать. Если будет принято законодательство, которое будет способствовать развитию этой индустрии, представьте, что мы сможем сделать, если государство будет помогать.

Разработка и производство каких роботов сейчас в России развито лучше всего?

Это, прежде всего, военные роботы. Военная робототехника вообще двигатель многих разработок не только в России. Из гражданских — это, в первую очередь, сервисная робототехника. В сфере медицины постепенно появляется целый ряд разработок. Промышленная робототехника у нас, к сожалению, пока развита достаточно слабо.

Вадим Козюлин:
Три группы угроз смертоносных автономных систем

Если говорить о беспилотных транспортных средствах, насколько я понимаю, сейчас также ведется работа над тем, чтобы создать юридические основания для их функционирования. Не могли бы Вы рассказать об этом?

В ноябре 2018 г. было принято постановление правительства, которое позволило проводить правовой эксперимент по тестированию высокоавтоматизированных автомобилей на дорогах общего пользования. Это то, чего нам категорически не хватало. Можно тестировать некоторые виды условно беспилотных машин на дорогах общего пользования в Москве и Татарстане. Нужно получить разрешение, убедиться в безопасности своей разработки в специальном центре НАМИ, получить разрешение на изменение конструкции машины в МВД, паспорт эксперимента и так далее.

Это зачатки регулирования. У нас можно тестировать только один вид машин — серийные, переделанные под автоматизированное вождение, в которых человек сидит на месте водителя. На мой взгляд, это не соответствует уровню разработок. Уже сейчас в десятках стран мира есть законодательство, разрешающее тестирование полностью беспилотных машин, а мы разрешили только один вид. Более того, у нас не разрешено тестирование машин, которые изначально созданы как беспилотные, в которых даже руля нет. Такие разработки в России есть, а законодательства — нет. Это, конечно, большая проблема. Я надеюсь, что в 2019 г. мы сможем это поправить, создав необходимую правовую базу и расширив границы для экспериментов. России объективно беспилотные машины нужны, пожалуй, больше чем кому-либо в мире.

Вы имеете ввиду грузовые перевозки?

Любые, потому что у нас большая смертность на дорогах. 90% аварий — результат человеческого фактора. У нас гигантские расстояния, при этом во многих регионах вы можете, как робот, долго ехать из города в город. Внедрение беспилотных машин у нас напрашивается.

Не так давно в Европарламенте была озвучена инициатива классифицировать роботов как «электронных личностей». Какие вы видите в этом плюсы и минусы? Движется ли Россия в этом направлении?

— Нет стран, где робот был бы признан электронной личностью. С юридической точки зрения, в том чтобы наделить робота правами, нет никакой сложности. Другое дело, нужно ли это в реальности и соответствует ли это развитию технологий. Из того, что я сейчас вижу, наделять роботов правами, безусловно, пока рано.

Рабочая тетрадь РСМД «Международные и социальные последствия использования технологий искусственного интеллекта»

А если говорить о перспективе, когда искусственный интеллект будет более развит, и сможет принимать самостоятельные решения?

Я вынужден констатировать, что момент, когда мы будем наделять роботов или искусственный интеллект какими-то правами, будет настолько не соответствовать сегодняшнему положению дел, что никто из нас даже не будет рассуждать в текущей парадигме. Технологии развиваются экспоненциально. То, что кажется сегодня неочевидным или наоборот очень далеким, уже через пять лет может стать переломным. Более того, некоторые ученые обосновали, что когда будет создан «сильный» искусственный интеллект, он настолько быстро выйдет из-под контроля, что, вполне возможно, нас уничтожит. Этот экзистенциальный момент является более приоритетным, чем дискуссия о наделении искусственного интеллекта правами.

Если «сильный» ИИ будет создан, нам будет не до прав, потому что он будет экспоненциально самосовершенствоваться. Мы с вами сидим, разговариваем, на конференциях выступаем, работаем, спим, едим, а он каждую секунду себя улучшает. Этот экспоненциальный взрыв, когда мы уже не сможем контролировать развитие ИИ, многие называют точкой сингулярности. Когда мы в нее придем, я думаю, что вопрос, будут ли у искусственного интеллекта права, уже не будет актуален.

Группа правительственных экспертов при ООН долгое время обсуждала вопрос регулирования использования военных дронов, однако в итоге из-за позиции ряда стран, включая Россию, ограничилась набором рекомендаций. Скажите, на Ваш взгляд, каковы перспективы международного регулирования использования беспилотников в том числе в военных целях?

Перспективы регулирования как раз сейчас перед нами раскрываются. Кампании вроде «Stop Killer Robots» вне себя от злости потому, что Россия, Израиль, США и несколько других государств блокируют все начинания в этой сфере, в то время как почти все страны мира вроде бы поддерживают запрет подобных летальных вооружений. Мне кажется, что здесь люди идут против правды, а я как юрист привык смотреть на сухие факты.

Сухие факты заключаются в том, что во многих странах такие разработки ведутся, а у целого ряда стран такие разработки есть. Другой сухой факт — робот позволяет экономить. Я говорю об инфраструктуре, обеспечении, человеческих потерях. Одно дело если над вражеской территорией летает дрон, другое — живой пилот в самолете. Правда заключается в том, что использовать такие боевые системы выгодно как с экономической, так и с гуманитарной точки зрения. Умирает робот, а не человек.

Хороший пример — Южная Корея. Это маленькая страна, обладающая одной из сильнейших в мире армий. Она вынуждена держать мощную армию, тратить огромные средства на ее содержание и военные разработки, потому что находится в такой политической ситуации. Южная Корея — один из лидеров по разработке военной робототехники. Когда ты ходишь по какому-нибудь южнокорейскому городу, то слышишь вой — в мирное время летают истребители. Южная Корея как раз одна из тех, кто категорически против запрета. Я думаю, что в вопросах регулирования военных беспилотников государствам очень тяжело будет найти какой-то консенсус.