Борьба глобальных технологических компаний с террористическим контентом в Интернете

Один из последних трендов в сфере управления Интернетом — усиление контроля над контентом, который в свое время задали Китай и Россия. Этот тренд имеет глобальный охват — достаточно взглянуть на внушительный список стран, поддержавших Крайстчерчский призыв к действию по искоренению террористического и насильственного экстремистского контента в Интернете. Франция, Великобритания, Индия, Япония, Индонезия и многие другие государства, поддержав призыв, поставили под вопрос право неограниченной свободы распространения информации в сети.

Не секрет, что сегодня террористы стремятся использовать блага наступающей цифровой эпохи в злонамеренных целях, а именно — распространять опасный контент, рекрутировать новобранцев, финансировать террористические группировки, транслировать террористические акты через различные интернет-ресурсы. В этой связи многие правительства, опасаясь угрозы радикализации населения, требуют от глобальных интернет-платформ ужесточения борьбы с экстремистским и террористическим контентом. Например, в мае 2017 г. парламент Великобритании раскритиковал Twitter и Facebook за их неспособность удалять экстремистский контент. На саммите «Группы семи» в Торонто в 2018 г. от министров безопасности также звучали требования к технологическим компаниям усилить противодействие опасному контенту.

Реагировать на призывы властей глобальные технологические компании начали задолго до трагического инцидента в Крайстчерче. Так, в июне 2017 г. Facebook, Microsoft, Twitter и YouTube создали под эгидой ООН Глобальный Интернет-форум по противодействию терроризму (Global Internet Forum to Counter Terrorism, GIFCT). Участники Форума обязались: 1) разрабатывать и распространять технологии для своевременного реагирования на террористический контент в Интернете; 2) финансировать исследования и обмениваться передовым опытом с целью выработки действенных методов борьбы с опасным контентом.

В стороне от Крайстчерчского призыва и порожденных им новых институтов и механизмов осталась российская сторона, которая не была приглашена к обсуждению и поддержке документа.

Здесь важно указать на разницу в подходах к государственно-частному партнерству. В России подчеркивают важность государственно-частного партнерства при сохранении ведущей роли государства в вопросах обеспечения безопасности. Остальным стейкхолдерам (неправительственным организациям, частным компаниям и т.д.) отводится вспомогательная роль. Западные компании, напротив, выделяют ведущую роль бизнеса в этом вопросе. Например, в своем блоге Том Берт, вице-президент Microsoft по вопросам безопасности, отметил: «Интернет — детище частного сектора, который в первую очередь ответственен за его работу, развитие и безопасность». Правительства, по его мнению, должны играть важную роль в обеспечении и соблюдении норм поведения в киберпространстве, а также в предотвращении наносящих ущерб нападений со стороны других государств.

Несмотря на разницу в подходах, прослеживаются общие точки, где российские и западные интересы пересекаются:

1. Усиление контроля за информационными потоками в Интернете.
2. Вовлечение различных стейкхолдеров в процесс решения проблемы.

Угроза распространения противоправного контента в сети — глобальна и трансгранична. В России Интернет не фильтруется так, как это происходит в Китае с помощью «Великого китайского файрвола». Миллионы российских граждан пользуются западными интернет-платформами, браузерами и мессенджерами, и тот опасный контент, который там распространяется — наша проблема в том числе. В этой связи важен диалог между сторонами даже если российская сторона в лице правительства и частных компаний не присоединилась к Крайстчерчскому призыву и не является членом сопряжённых с ним организаций. Существующие пересечения в интересах важно и нужно использовать, ведь, по сути, мы идем разными дорогами к одной цели — очистке информационного пространства от опасного контента.

Необходимо наладить каналы связи между российскими и западными стейкхолдерами и договориться о способах взаимодействия и сотрудничества; определить критерии, по которым будет осуществляться выявление экстремистского и террористического контента, чтобы не допустить ложной идентификации; обмениваться техническими наработками решения проблемы.

Площадкой для обмена мнениями по указанной проблеме мог бы стать межправительственный комитет экспертов открытого состава, цель которого — разработка международной конвенции о противодействии использованию информационно-коммуникационных технологий в преступных целях.

Один из последних трендов в сфере управления Интернетом — усиление контроля над контентом, который в свое время задали Китай и Россия. Этот тренд имеет глобальный охват — достаточно взглянуть на внушительный список стран, поддержавших Крайстчерчский призыв к действию по искоренению террористического и насильственного экстремистского контента в Интернете. Франция, Великобритания, Индия, Япония, Индонезия и многие другие государства, поддержав призыв, поставили под вопрос право неограниченной свободы распространения информации в сети.

Не секрет, что сегодня террористы стремятся использовать блага наступающей цифровой эпохи в злонамеренных целях, а именно — распространять опасный контент, рекрутировать новобранцев, финансировать террористические группировки, транслировать террористические акты через различные интернет-ресурсы. В этой связи многие правительства, опасаясь угрозы радикализации населения, требуют от глобальных интернет-платформ ужесточения борьбы с экстремистским и террористическим контентом. Например, в мае 2017 г. парламент Великобритании раскритиковал Twitter и Facebook за их неспособность удалять экстремистский контент. На саммите «Группы семи» в Торонто в 2018 г. от министров безопасности также звучали требования к технологическим компаниям усилить противодействие опасному контенту.

Крайстчерчский призыв

Андрей Кортунов:
Терроризм любителей как дополнительный налог на блага цивилизации

Крайстчерчский призыв к действию по искоренению террористического и насильственного экстремистского контента в Интернете (Christchurch Call), с которым выступило правительство Новой Зеландии в мае 2019 г., — апофеоз требований правительств предпринять решительные меры в этой области.

В интервью CNN новозеландский премьер-министр Джасинда Арден заявила: «Наше предложение — не столько про регулирование, сколько про то, что IT-компании должны сесть с нами за один стол и признать, что у них тоже есть роль».

Напомним, что 15 марта 2019 г. террористу удавалось в течение 17 минут проводить онлайн-трансляцию массового убийства в мечетях Крайстчерча через приложение Facebook Live. В Facebook видео было доступно в течение 29 минут, а на таких платформах, как YouTube, Instagram, Twitter — в течение нескольких часов. В итоге из-за медлительности глобальных цифровых платформ эту трансляцию посмотрели миллионы пользователей по всему миру.

Для Новой Зеландии, как и для многих других государств, данный инцидент стал сигналом к принятию решительных мер. По инициативе новозеландской и французской сторон в Париже 15 мая был проведен саммит с участием правительственных лидеров 17 государств, Еврокомиссии и представителей восьми технологических компаний (Amazon, Daily Motion, Facebook, Google, Microsoft и др.) [1]. Крайстчерчский призыв, по сути, представляет собой план действий, который призывает подписавших его участников принять ряд мер, направленных на предотвращение использования Интернета в качестве инструмента для террористов.

Всего на сегодняшний день к призыву присоединились 48 стран, ЮНЕСКО, Совет Европы, Европейская Комиссия и восемь технологических компаний.

Интересно, что три важных государственных актора остались в стороне от призыва — Россия, Китай и США. Пекин и Москва официально не прокомментировали свой отказ присоединиться к призыву. Вашингтон сослался на приверженность принципу свободы слова, в целом поддержав общие цели документа. В США на государственном уровне борются с опасным контентом, но другими методами. Противодействие идет не через блокировку информации, а через распространение такого контента, который, по заверению Белого дома, призван «обезоруживать» сообщения террористов.

ГЧП в чистом виде

Крайстчерчский призыв — в чистом виде государственно-частное партнерство. При анализе текста документа выявляется четкое разделение полномочий между правительственными органами и бизнесом для решения обозначенной проблемы.

Например, от правительств требуется:

• противодействовать движущим факторам терроризма и насильственного экстремизма;
• повышать медийную грамотность;
• обеспечить эффективное законодательство в этой сфере;
• обеспечить применимость этических стандартов для СМИ при освещении террористических актов.

Татьяна Канунникова:
Как Европа пытается понять онлайн-экстремизм

Техническая же часть решения проблемы, включая контроль за контентом (его фильтрация и блокировка), отдана под ответственность технологических компаний. От них, среди прочего, требуется:

• разработать инструменты для предотвращения загрузки насильственного террористического и экстремистского контента;
• повышать транспарентность при обнаружении и удалении контента;
• обеспечить регулярную отчетность;
• гарантировать, что алгоритмы, разработанные и используемые компаниями, не направляют пользователей на экстремистский контент.

Также в документе указывается на ряд совместных обязательств правительств и поставщиков интернет-услуг, среди которых можно отметить следующие:

• ускорение исследований по поиску и разработке технических решений;
• обеспечение надлежащего сотрудничества с и между правоохранительными органами в целях расследования и уголовного преследования за осуществление незаконной деятельности в Интернете;
• разработка процессов, позволяющих правительствам и поставщикам интернет-услуг оперативно, эффективно и согласованно реагировать на распространение террористического и экстремистского контента.

GIFCT идет на помощь

Реагировать на призывы властей своевременно выявлять опасный контент в сети глобальные технологические компании начали задолго до трагического инцидента в Крайстчерче. Так, в июне 2017 г. Facebook, Microsoft, Twitter и YouTube создали под эгидой ООН Глобальный Интернет-форум по противодействию терроризму (Global Internet Forum to Counter Terrorism, GIFCT). Участники Форума обязались:

1. разрабатывать и распространять технологии для своевременного реагирования на террористический контент в Интернете;
2. финансировать исследования и обмениваться передовым опытом с целью выработки действенных методов борьбы с опасным контентом.

Работу Форума поддержала Еврокомиссия, выделившая на его нужды 10 млн евро. Кроме того, для борьбы с ненавистью и экстремизмом совместно с Google.org был создан инновационный фонд, бюджет которого составил 5 млн долларов. Данный фонд предоставляет гранты некоммерческим организациям, которые борются с ненавистью как в виртуальном, так и в реальном мире.

GIFCT придерживается принципа мультистейкхолдеризма, поэтому активно сотрудничает с небольшими интернет-компаниями, представителями гражданского общества, учеными, правительственными и неправительственными организациями. Благодаря Управлению ООН по борьбе с терроризмом и инициированной ООН программе TechAgainstTerrorism Форум работал с более сотней технологических компаний по всему миру. Для заинтересованных сторон были организованы конференции в Европе, Азиатско-Тихоокеанском регионе и Кремниевой долине. Кроме того, участники GIFCT посещают министерские заседания «Группы семи» и активно взаимодействуют с Европолом.

Вместе с тем участие в Форуме открыто не для всех. Так, в ноябре 2019 г. быстро развивающейся китайской интернет-платформе TikTok было отказано в членстве, так как она не соответствует установленным критериям — соблюдение определенных условий в области прав человека и публикации отчетов о прозрачности. У членов Форума есть опасения по поводу того, что TikTok может собирать данные и практиковать цензуру.

Методы борьбы с опасным контентом

Александр Мамаев:
Киберхалифат: какие приложения использует ИГ?

Один из главных методов борьбы с опасным контентом — постоянное пополнение общей отраслевой базы данных «хэшей» — уникальных цифровых «отпечатков пальцев» террористического и экстремистского контента (фото и видео материалы). Такая база позволяет любому члену Форума автоматически находить и удалять противоправный контент на своих цифровых платформах еще до его публикации. За два года работы GIFCT было накоплено более 200 тыс. уникальных хэшей. В дополнение к указанной базе данных с января 2019 г. участники форума получили возможность безопасно обмениваться с отраслевыми партнерами URL-ссылками, которые ведут на веб-сайты с террористическим и экстремистским контентом.

Всего на сегодняшний день к общей отраслевой базе данных имеют доступ 13 компаний и сервисов: Microsoft, Facebook, Twitter, YouTube, Ask.fm, Cloudinary, Instagram, JustPaste.it, LinkedIn, Verizon Media, Reddit, Snap и Yellow. Как мы видим, доступ к данной базе открыт в основном для компаний, базирующихся в США.

В поддержку Крайстчерчского призыва Amazon, Facebook, Google, Twitter и Microsoft выпустили совместное заявление, в котором указали, что документ расширяет работу GIFCT. Также в своем заявлении компании обозначили девять шагов по противодействию террористическому и экстремистскому контенту в Интернете, почти половина из которых должна предприниматься совместно с правительственными структурами и другими заинтересованными сторонами. Среди действий, которые обязались предпринимать компании, можно выделить следующие:

• своевременно обновлять условия использования различных цифровых платформ и услуг;
• создавать на онлайн-платформах возможности получения обратной связи от пользователей об обнаружении противоправного контента;
• совершенствовать технологии за счет дополнительных инвестиций;
• сотрудничать между отраслью, правительственными и неправительственными организациями с целью создания протокола для срочного реагирования на противоправные действия;
• регулярно публиковать отчеты о прозрачности, касающиеся обнаружения и удаления террористического контента.

Все больше новых инициатив

Интересен тот факт, что вокруг Крайстчерчского призыва начали появляться новые институты, инструменты и формы сотрудничества бизнеса с правительственными структурами и организациями гражданского общества.

В сентябре 2019 г. было принято решение преобразовать GIFCT в независимую организацию. Участники Форума объявили, что расширят сотрудничество между компаниями, правительственными учреждениями и экспертами.

В поддержку «призыва к действию» компании согласились предпринять дополнительные меры:

• создать официальные каналы связи для оперативного обмена информацией с компаниями, не входящими в GIFCT, а также другими заинтересованными сторонами;
• внедрить совместные протоколы инцидентов, что дает возможность компаниям быстрее и эффективнее реагировать на возникающие противоправные действия в Интернете (такой протокол описывает шаги, которые компании могут предпринять для оперативной реакции на атаку).

Анастасия Толстухина:
Бизнесу тоже нужен киберкодекс

Для того, чтобы предпринимаемые меры по борьбе с опасным контентом не нарушали права человека, было принято решение организовать Консультативную сеть по Крайстчерчскому призыву. Сеть будет состоять из организаций гражданского общества, которые будут стремиться «интегрировать широкий круг точек зрения и выполнять обязательства, изложенные в Призыве, в отношении поддержки прав человека и онлайн-свобод, а также прав жертв терроризма».

Здесь также стоит отметить, что в сентябре прошлого года Microsoft, Hewlett Foundation, MasterCard и еще несколько крупных ИТ-корпораций совместно с благотворительными фондами приняли решение учредить Институт кибермира (CyberPeace Institute) с целью оказания помощи жертвам киберпреступлений.

Испытание на «профпригодность»

Первым серьезным испытанием на «профпригодность» обновленного GIFCT стал инцидент в Германии. Напомним, что 9 октября 2019 г. вблизи синагоги в городе Галла неизвестные открыли стрельбу, видео с которой было выложено в сеть. Отснятый материал оставался на интернет-платформе Twitch в течение 65 минут, его посмотрели около 2200 человек. Копии видео распространялись через Telegram, 4chan и другие сервисы (все они не являются участниками GIFCT).

Видеозапись стрельбы не попала на более крупные интернет-платформы, такие как Facebook и YouTube, и GIFCT расценил это как позитивный сдвиг в области борьбы с экстремистским контентом. Во многом это произошло по причине того, что впервые был активирован упомянутый выше Протокол по инцидентам в области контента (CIP). Среди предпринятых действий в рамках протокола можно отметить: во-первых, оперативную загрузку хэшей видео злоумышленников и другого связанного контента в общую хэш-базу данных GIFCT; во-вторых, своевременное оповещение об инциденте правительства Германии и Европола.

На официальном сайте Форума отмечается, что этот инцидент показал те уязвимые области, в которых требуется доработка механизмов борьбы с опасным контентом. Более того, участники Форума намерены упростить процесс принятия решений, усилить обмен информацией с различными заинтересованными сторонами и обеспечить дальнейшее совершенствование общих систем блокировки.

Цель одна, подходы разные

В стороне от Крайстчерчского призыва и порожденных им новых институтов и механизмов осталась российская сторона. В СМИ прошла информация, что российские компании не были приглашены к подписанию документа.

Кевин Гоурлей, Мария Смекалова:
Снижение кибер-рисков: возможно ли объединение усилий государства и бизнеса?

Вместе с тем представители российских интернет-платформ заявили, что их собственные правила в целом соответствуют содержанию призыва. «Одноклассники» приветствуют создание правил обращения с экстремистским контентом. Кроме того, данная социальная сеть постоянно совершенствует инструменты по оперативному выявлению и блокировке запрещенного контента, используя в первую очередь так называемые нейросети, которые научились определять сцены насилия по заданным паттернам и скрывать из публичного доступа опасный контент. «ВКонтакте» также использует нейронные сети для автоматического поиска и блокировки экстремистского контента. Опасные посты по запросам пользователей или государственных органов блокируются в течение нескольких минут.

В стороне от Крайстчерчского призыва осталось и российское правительство, которое также не было приглашено к обсуждению и поддержке документа.

Можно предположить, что призыв в том виде, в котором сегодня он существует, при всех его благих намерениях вряд ли бы устроил российскую сторону. Как уже говорилось ранее, Крайстчерчский призыв — это государственно-частное партнерство в чистом виде, где достаточно много ответственности за безопасность сети отдано IT-компаниям. Однако Россия неизменно подчеркивает важность ГЧП при сохранении ведущей роли государства в вопросах обеспечения безопасности. Остальным стейкхолдерам отводится вспомогательная роль. Если же рассмотреть подход западных компаний, то мы увидим, что они выделяют ведущую роль бизнеса в этом вопросе. Например, в своем блоге Том Берт, вице-президент Microsoft по вопросам безопасности, отметил: «Интернет — детище частного сектора, который в первую очередь ответственен за его работу, развитие и безопасность». Правительствам он отводит важную роль в обеспечении и соблюдении норм поведения в киберпространстве, а также в предотвращении наносящих ущерб нападений со стороны других государств.

Несмотря на разницу в подходах, прослеживаются общие точки, где российские и западные интересы пересекаются:

1. Усиление контроля за информационными потоками в Интернете.
2. Вовлечение различных стейкхолдеров в процесс решения проблемы.

Угроза распространения противоправного контента в сети глобальна и трансгранична. В России Интернет не фильтруется так, как это происходит в Китае с помощью «Великого китайского файрвола». Миллионы российских граждан пользуются западными интернет-платформами, браузерами и мессенджерами, и тот опасный контент, который там распространяется — наша проблема в том числе. В этой связи важен диалог между сторонами даже если российская сторона в лице правительства и частных компаний не присоединилась к Крайстчерчскому призыву и не является членом сопряжённых с ним организаций. Существующие пересечения в интересах важно и нужно использовать, ведь, по сути, мы идем разными дорогами к одной цели — очистке информационного пространства от опасного контента.

Необходимо наладить каналы связи между российскими и западными стейкхолдерами и договориться о способах взаимодействия и сотрудничества; определить критерии, по которым будет осуществляться выявление экстремистского и террористического контента, чтобы не допустить ложной идентификации; обмениваться техническими наработками решения проблемы.

Площадкой для обмена мнениями по указанной проблеме мог бы стать межправительственный комитет экспертов открытого состава, цель которого — разработка международной конвенции о противодействии использованию информационно-коммуникационных технологий в преступных целях.

1. На саммите в Париже 15 мая 2019 года Крайстчерчский призыв поддержали 17 государств (Великобритания, Япония, Австралия, Канада, Франция, Германия, Индонезия, Индия, Ирландия, Италия, Иордания, Нидерланды, Новая Зеландия, Норвегия, Сенегал, Испания, Швеция), Еврокомиссия и восемь технологических компаний (Amazon, Daily Motion, Facebook, Google, Microsoft, Qwant, Twitter, YouTube).