Скатывание в пропасть

В ответ на волну терроризма и миграционный кризис государства — члены ЕС ужесточают законодательные меры по обеспечению безопасности, что неизбежно оборачивается ослаблением их демократических институтов. Объясняя абсолютную необходимость решительности своих действий надуманными причинами, элита ЕС ограничивает полномочия законодательной и судебной ветвей власти в интересах власти исполнительной. С появлением искусственного интеллекта, не приведет ли этот процесс к катастрофическим последствиям?

«Будущие разработки в области искусственного интеллекта и машинного обучения значительно сократят расходы на определение правил и стандартов. Исходя из этого, мы предсказываем появление мира «микродиректив», в котором будет точно определяться, что допустимо в каждой конкретной ситуации, а что — нет. Такие «микродирективы» будут в значительной степени автоматизированы. При изменении состояния мира или цели закона, правовые нормы будут немедленно обновляться путем внесения в самих себя корректив в соответствии с новыми условиями. Закон станет «самоуправляемым».

Сторонники такого сценария подчеркивают резкое сокращение издержек, преимущества использования прогнозных технологий и возможности коммуникационных технологий для лучшего информирования граждан. Критики же указывают на риски институциональных потрясений из-за изменения баланса политических институтов, прежде всего из-за удара по судебной системе. Кроме того, в нормативном плане возникает отдельный вопрос о том, способны ли автоматизированные алгоритмы реализовать концептуальные задачи, учитывая, что право на конфиденциальность, несомненно, будет нарушено, поскольку машинам для принятия решения необходимо собирать данные о поведении людей.

В ответ на волну терроризма и миграционный кризис государства — члены ЕС ужесточают законодательные меры по обеспечению безопасности, что неизбежно оборачивается ослаблением их демократических институтов. Объясняя абсолютную необходимость решительности своих действий надуманными причинами, элита ЕС ограничивает полномочия законодательной и судебной ветвей власти в интересах власти исполнительной. С появлением искусственного интеллекта, не приведет ли этот процесс к катастрофическим последствиям?

Суровые времена требуют принятия суровых мер

Ряд государств — членов ЕС, в частности, Великобритания, Нидерланды и Франция, уже создали правовую основу для введения «чрезвычайного положения». Другие страны, такие как Бельгия, наблюдая за продолжающимися политическими дебатами относительно особых судебных дел, связанных с терроризмом, наращивают выделение ресурсов властям и полиции для борьбы с терроризмом и ограничивают свободу выражения мнения. Правительства государств — членов ЕС расширяют сферу действия правовых положений о преступлениях, связанных с терроризмом, снижают процессуальные гарантии (такие как право на справедливое судебное разбирательство) и разрабатывают новые указания для предотвращения радикализации. Некоторые из этих мер вызывают обеспокоенность своим сомнительным соответствием принципу законности, включая правовую определенность, а также соблюдение прав на свободу собраний и выражения мнений.

Рабочая тетрадь РСМД
Международные и социальные последствия использования технологий искусственного интеллекта

На пути к полицейскому государству?

После террористических атак в 2015 и 2017 гг. чрезвычайное положение во Франции продлевалось не менее шести раз, пока, наконец, не было отменено в ноябре 2017 года [1]. Однако в течение этого периода Франция принимала законы, которые делали режим чрезвычайного положения или, по крайней мере, отдельные его аспекты, нормой жизни.

Сегодня французские органы безопасности и государственные служащие значительно расширили свои полномочия. В феврале 2016 г. правительство страны провело соответствующую реформу уголовного права, которая была принята Национальным собранием Франции и Сенатом в мае 2016 года. По словам ведущих французских политиков, целью закона является усиление борьбы с организованной преступностью, терроризмом и его финансированием, а также повышение эффективности и обеспечение надлежащего уголовного судопроизводства. По мнению критически настроенных наблюдателей, этот закон закрепляет меры чрезвычайного положения в гражданском законодательстве Франции. Так, криминальная полиция и прокуроры теперь имеют право прослушивать телефонные разговоры, осуществлять видеонаблюдение и перехватывать интернет-данные без получения согласия суда. Прокуроры наделены правом проводить домашние обыски по ночам без судебного постановления. Полиция может держать в полицейском участке подозреваемых (причем неважно за какие преступления) в течение четырех часов без права обращения за помощью к адвокату. И это лишь некоторые примеры.

Прежде чем отменить чрезвычайное положение, французские законодательные власти расчистили путь для «целенаправленных и адекватных мер по предотвращению терроризма и борьбе с ним» [2] продлением летом и осенью 2017 года применения закона № 55-385 от 3 апреля 1955 г. о чрезвычайном положении. При этом полномочия властей и полиции были значительно расширены за счет судебных органов. В то время как ведущие политики продолжают настаивать, что этим юридическим нововведениям нет никакой реальной альтернативы, их критики утверждают, что эти законы нарушают международные соглашения о правах человека.

Ограничение суверенитета государств-членов [3]

Элита ЕС отчаянно ищет пути выхода из миграционного кризиса. Комиссия Евросоюза недавно представила предложение по этой проблеме, указав, что Агентство Европейского союза по безопасности внешних границ «Фронтекс» должно быть существенно усилено посредством дополнительного финансирования и расширения штата. Сейчас его штат составляют 1200 сотрудников, и в течение двух лет предполагается его увеличение до 10 тыс. человек. Бюджет агентства предлагается увеличить до 11,3 млрд евро (2021–2027 гг.). Одним из наиболее спорных вопросов этой инициативы является то, что должностным лицам «Фронтекс» предлагается передать полномочия по решению суверенных задач на внешних границах, включая разрешение или запрещение въезда, проставление штампа на проездных документах, патрулирование границ и задержание лиц. Проект также предусматривает, что в случае крайней необходимости официальные лица «Фронтекс» могут быть наделены полномочиями по охране границ страны даже без обращения с соответствующей просьбой государства-члена. Этот вопрос обсуждался среди прочих за закрытыми дверями в ходе заседания Совета ЕС в Зальцбурге в середине сентября. Новые предложения, в целом, поддерживаются такими странами, как Австрия и Германия, однако южные государства — члены ЕС относятся весьма скептически к такому масштабному расширению функций и полномочий агентства.

Максим Карлюк:
Этические и правовые вопросы искусственного интеллекта

Замена несовершенных законов алгоритмами?

В ответ на возросшую угрозу терроризма и миграционный кризис государства — члены ЕС ужесточают законодательные меры по обеспечению безопасности, что неизбежно приводит к усилению исполнительной власти за счет ослабления демократических институтов. Кроме того, элита ЕС стремится, среди прочего, установить централизованный политический контроль. Однако это может произойти только при условии существенного ограничения суверенитета государств-членов. Когда упоминается «Фронтекс», официальные лица ЕС не скрывают, что речь идет об «отказе от суверенитета». Это вызывает тревогу на фоне и без того превалирующего дефицита демократических начал в государствах Евросоюза. В ЕС отсутствует как общая конституционная основа, так и единая правовая система на всех уровнях. Это включает в себя последовательное разделение властей, полную демократическую легитимизацию центральных институтов ЕС, таких как Еврокомиссия, признание принципа субсидиарности, а также федеральную структуру отдельных государств-членов.

Учитывая растущую роль искусственного интеллекта в сфере управления, подобное развитие событий может иметь катастрофические последствия. Алгоритмы, большие данные и искусственный интеллект уже дают о себе знать в области законодательства. Ключевой термин «самоуправляемый закон» звучит на соответствующих международных форумах и приводится в публикациях все чаще и чаще. Используя аналогию с «самоуправляемым автомобилем», пропагандисты «самоуправляемого закона» полагают, что машины с искусственным интеллектом вскоре окажут существенное влияние на процесс законотворчества:

«Будущие разработки в области искусственного интеллекта и машинного обучения значительно сократят расходы на определение правил и стандартов. Исходя из этого, мы предсказываем появление мира «микродиректив», в котором будет точно определяться, что допустимо в каждой конкретной ситуации, а что — нет. Такие «микродирективы» будут в значительной степени автоматизированы. При изменении состояния мира или цели закона, правовые нормы будут немедленно обновляться путем внесения в самих себя корректив в соответствии с новыми условиями. Закон станет «самоуправляемым».

Сторонники такого сценария подчеркивают резкое сокращение издержек, преимущества использования прогнозных технологий и возможности коммуникационных технологий для лучшего информирования граждан. Критики же указывают на риски институциональных потрясений из-за изменения баланса политических институтов, прежде всего из-за удара по судебной системе. Кроме того, в нормативном плане возникает отдельный вопрос о том, способны ли автоматизированные алгоритмы реализовать концептуальные задачи, учитывая, что право на конфиденциальность, несомненно, будет нарушено, поскольку машинам для принятия решения необходимо собирать данные о поведении людей [4].

Антон Колонин:
Коллективный интеллект — будущее человечества или гибель личности?

Абсолютизм искусственного разума

Перспектива реальности применения подобных технологий уже в ближайшем будущем вызывает тревогу. Подобный сценарий никак нельзя назвать пустой фантазией, если вспомнить, как быстро мы привыкли, например, к тому, что дорожным движением управляют компьютеры [5].

Давайте сыграем в несложную интеллектуальную игру. Что означает правовое закрепление специальных компетенций для исполнительной власти, если существует только минимальное определение того, когда, где и как могут осуществляться эти особые компетенции?

Это означает предоставление полной свободы действий для применения силы без какой-либо четкой увязки с правовыми нормами и без какого-либо сопутствующего контроля со стороны судебных органов. Если называть вещи своими именами — это произвол беззакония в полном смысле слова.

Что означает техническая реализация искусственного интеллекта в форме «самоуправляемого закона» для системы органов государственной власти?

В плане системной организации «самоуправляемый закон» будет относиться к законотворческой деятельности. На деле же, подобная практика приведет к созданию объединенной системы между законотворчеством, применением существующего законодательства и дальнейшим развитием прецедентного права. В этой связи становится очевидным, что «самоуправляемый закон» приведет к роспуску как законодательной, так и судебной ветвей власти.

Если государства—члены ЕС будут по-прежнему предоставлять специальные полномочия исполнительной власти вкупе с великодушным юридически оформленным разрешением использовать «самоуправляемый закон», они вскоре столкнутся с тем, что эта власть начнет беспорядочно и беспрестанно сама устанавливать для себя правила игры.

Другими словами, это будет институциональный государственный произвол, управляемый искусственным интеллектом.

Постскриптум

В сфере валютной политики Еврозоны государства — члены ЕС уже отдали мощному центральному руководящему органу значительную часть своего суверенитета. На Европейский центральный банк не распространяются все положения законодательства ЕС, и он устанавливает свои собственные правила. Кроме того, отдавая дань глобализации и распространению цифровых технологий, европейская валютная политика подвергается воздействию алгоритмов, тогда как влияние государств-членов и их политических представителей сводится к минимуму.

Впервые опубликовано на английском языке на сайте PICREADI.

1. Таким образом, президентские выборы в конце апреля и начале мая 2017 г. проводились в условиях режима чрезвычайного положения.

2. Выступление президента Французской Республики перед Европейским судом по правам человека 31 октября 2017 г.

3. В данном контексте термин «суверенитет» используется главным образом в значении роли верховной власти в процессе принятия государственных решений и поддержании порядка, принятом в политической теории, а не как понятие международного права.

4. Anthony Casey & Anthony Niblett, "Self Driving Laws", 66 University of Toronto Law Journal 429 (2016) [1] Ibidem, p. 438

5. Если взять правовую систему Австрийской Республики, то каждый сигнал устройства, управляющего дорожным движением, регулируется отдельным правовым актом в форме предписания или распоряжения.