Распечатать Read in English
Оценить статью
(Голосов: 5, Рейтинг: 5)
 (5 голосов)
Поделиться статьей

20 мая 2019 г. в РСМД состоялось обсуждение проекта Модельной конвенции о робототехнике и искусственном интеллекте. Документ представили экспертному сообществу его авторы руководитель Исследовательского центра «Робоправо» Андрей Незнамов и партнер международной юридической фирмы Dentons Виктор Наумов. Как подчеркнули разработчики, при написании конвенции ими руководила инициатива создать свод динамичных правил, которые регулировали бы этические и правовые аспекты в области робототехники и искусственного интеллекта. Необходимость принятия конвенции авторы объясняют особой значимостью развития и применения этих технологий, а также несовершенством их правового регулирования на национальном и мировом уровнях.

20 мая 2019 г. в РСМД состоялось обсуждение проекта Модельной конвенции о робототехнике и искусственном интеллекте. Документ представили экспертному сообществу его авторы руководитель Исследовательского центра «Робоправо» Андрей Незнамов и партнер международной юридической фирмы Dentons Виктор Наумов. Как подчеркнули разработчики, при написании конвенции ими руководила инициатива создать свод динамичных правил, которые регулировали бы этические и правовые аспекты в области робототехники и искусственного интеллекта. Необходимость принятия конвенции авторы объясняют особой значимостью развития и применения этих технологий, а также несовершенством их правового регулирования на национальном и мировом уровнях.

С проектом Модельной конвенции можно ознакомиться на сайте «Робоправо».

В обсуждение документа приняли участие:

  • Андрей Крутских, специальный представитель Президента по вопросам международного сотрудничества в области информационной безопасности,

  • Илья Рогачев, директор Департамента по вопросам новых вызовов и угроз МИД России,

  • Олег Эскин, генеральный конструктор ОАО «Концерн Гранит», генерал-майор запаса ФСБ России,

  • Владимир Овчинский, советник министра внутренних дел РФ,

  • Владислав Шершульский, директор по технологической политике Microsoft,

  • Альберт Зульхарнеев, директор ПИР-Центра,

  • Александр Крамаренко, директор по развитию РСМД,

  • Роман Дурнев, заместитель начальника научно-исследовательского управления Российской академии ракетных и артиллерийских наук (РАРАН),

  • Максим Карлюк, научный сотрудник Института права и развития ВШЭ-Сколково,

  • Леонид Ковачич, шеф-редактор РИА Новости, китаист,

  • Елена Введенская, доцент кафедры философии РНИМУ им. Пирогова,

  • Елена Середкина, доцент кафедры философии и права Пермского национального исследовательского политехнического университета,

  • Юрий Черный, руководитель Центра по изучению проблем информатики ИНИОН РАН, доцент кафедры медиаобразования Института журналистики, коммуникаций и медиаобразования МПГУ

  • Игорь Шнуренко, специалист по искусственному интеллекту и криптовалютам,

  • Александр Федотовских, председатель Комитета по науке и инновациям объединения работодателей Севера России «Северные промышленники и предприниматели» / РСПП,

  • Николай Маркоткин, руководитель проекта РСМД по искусственному интеллекту,

  • Анастасия Толстухина, руководитель проекта РСМД по кибербезопасности.

Илья Рогачев, директор Департамента по вопросам новых вызовов и угроз МИД России отметил, что при разработке подобного документа необходимо учитывать политический аспект. В настоящее время идёт процесс изучения возможностей робототехники и ИИ в качестве оружия. Договориться на международном уровне об универсальных правилах в областях, тесно связанных с национальными интересами государств, бывает нелегко. Угроза восстания машин, несмотря на свою несостоятельность, является актуальной с точки зрения повестки.

Андрей Крутских, спецпредставитель президента по вопросам международного сотрудничества в области информационной безопасности, выразил мнение, что разработка норм правового регулирования ИИ и робототехники будет эффективна под эгидой ООН. Он напомнил, что российская резолюция по информационной безопасности («Достижения в сфере информатизации и телекоммуникаций в контексте международной безопасности») была принята Генассамблеей ООН, что говорит о целесообразности дискуссии по вопросам ИКТ (информационно-коммуникационных технологий) на площадке Организации Объединённых Наций.

Владимир Овчинский, советник министра внутренних дел РФ, отметил перспективность применения технологий ИИ в оперативно-розыскной, правоохранительной, судебной деятельности. Опираясь на опыт европейских, американских, китайских служб безопасности, Владимир Овчинский на примерах продемонстрировал уже использующийся потенциал искусственного интеллекта в этой сфере. Также он озвучил определение ИИ, которым пользуются службы безопасности: «Искусственный интеллект — это программно-аппаратный комплекс, обеспечивающий поддержку в принятии результативных решений в динамичной, неустойчивой среде, в установленное время, на основе заведомо неполной, нечеткой и не имеющей полной доказательной базы информации». По его мнению, недостаточно рассматривать феномен искусственного интеллекта исключительно в рамках ИКТ. «Велосипед изобретать всё равно придётся», — сказал Владимир Овчинский, подчёркивая необходимость рассмотрения этического и правового регулирования ИИ как отдельного, крайне важного аспекта.

В ходе обсуждения конвенции был озвучен тезис о том, что в экспертном сообществе пока нет консенсуса по поводу терминологии в области ИИ и робототехники. На взгляд разработчиков документа, понятию «робот» («роботизированный механизм», «умный робот») нет и не будет единого определения. Авторы предлагают определять содержание этих понятий в соответствии с их общепринятым значением в конкретной стране и (или) применительно к конкретной модели робота. При отсутствии такой возможности Андрей Незнамов и Виктор Наумов предлагают использовать международные стандарты, в частности ISO 8373:2012 «Роботы и робототехнические устройства. Термины и определения». (Статья 3).

Тем не менее, для обсуждения конвенции нечётко заданная терминология может являться камнем преткновения или яблоком раздора. Также сложность возникает при попытке выделить ИИ и робототехнику в отдельный вид технологий или отнести их к уже существующим, например, к ИКТ.

В ходе дискуссии Елена Середкина, доцент кафедры философии и права Пермского национального исследовательского политехнического университета привела в пример опыт Германии. В ФРГ законотворчество в этой области в качестве объекта рассматривает не совокупность технологий, а их конкретные виды. К примеру, существует правовое регулирование по беспилотным автомобилям и роботам-сиделкам.

Также во время дискуссии участники приводили в пример опыт Китая в области регулирования.

Генри Киссинджер, которого цитировал при открытии обсуждения Александр Крамаренко, директор по развитию РСМД, в конце своей статьи для The Atlantic (How the Enlightenment Ends) заявил: «Очевидно одно: если мы не начнем эту работу в ближайшее время, очень скоро мы поймем, что уже опоздали».

Авторы проекта модельной конвенции планируют учесть высказанные в рамках обсуждения предложения в доработанной версии документа. Обновленный проект конвенции будет представлен на II конференции РСМД по искусственному интеллекту, а также направлен в МИД России, международные организации и институты.

Видео


Оценить статью
(Голосов: 5, Рейтинг: 5)
 (5 голосов)
Поделиться статьей

Текущий опрос

Каковы, по вашему мнению, цели США в отношении России?

Прошедший опрос

  1. Какие глобальные угрозы, по вашему мнению, представляют наибольшую опасность для человечества в ближайшие 20 лет? Укажите не более 5 вариантов.

    Загрязнение окружающей среды  
     474 (59.03%)
    Терроризм и экстремизм  
     390 (48.57%)
    Неравномерность мирового экономического развития  
     337 (41.97%)
    Глобальный системный кризис  
     334 (41.59%)
    Гонка вооружений  
     308 (38.36%)
    Бедность и голод  
     272 (33.87%)
    Изменение климата  
     251 (31.26%)
    Мировая война  
     219 (27.27%)
    Исчерпание природных ресурсов  
     212 (26.40%)
    Деградация человека как биологического вида  
     182 (22.67%)
    Эпидемии  
     158 (19.68%)
    Кибератаки на критическую инфраструктуру  
     152 (18.93%)
    Недружественный искусственный интеллект  
     74 (9.22%)
    Падение астероида  
     17 (2.12%)
    Враждебные инопланетяне  
     16 (1.99%)
    Другое (в комментариях)  
     10 (1.25%)
Бизнесу
Исследователям
Учащимся