Новая осознанность: сможет ли общество вернуть себе контроль над технологиями?

Когда начиналась вторая промышленная революция, не было недостатка в оптимистических прогнозах, но прошло двести лет, и природа наносит ответный удар, настолько сильный, что речь идет о самом выживании нашего вида. Сегодня мы перешли от «экономики внимания» к «капитализму слежки», который переносит модель извлечения ресурсов с недр Земли на человеческое сознание и эмоции. Они предсказываются, контролируются и управляются, на них делаются ставки, сегодня фактически возник многомиллиардный рынок фьючерсов на человеческое поведение, и этот рынок бурно растет. В итоге сам человек становится другим. Не приведет ли это к тому, что природа, на этот раз человеческая, выведенная из равновесия, в будущем обрушится на нас с новой силой? Способны ли мы как человечество усвоить хоть какие-то уроки или надо готовиться к апокалипсису?

Транснациональные гиганты научились извлекать огромные прибыли, монетизируя психику и делая таким образом «новой нефтью» самого человека, во все большей степени ставя его под контроль безличных алгоритмов. Сильнее всего последствия бесконтрольного использования цифровых технологий бьют по детям, у которых нет привычки к «аналоговым» способам работы с информацией, нет иммунитета от интернет-зависимости.

Прогресс нельзя остановить, но общество может и должно его направлять, просчитывая последствия на перспективу. Русский писатель и философ Иван Ефремов полагал, что человечество с самого начала своей истории балансирует на «лезвии бритвы», и что только так оно может создавать великое и прекрасное, достигать вершин. Нужно и сейчас провести человечество по «лезвию бритвы», не останавливая прогресс, а задавая ученым и инженерам вектор на усиление возможностей и способностей человека, а не на их ослабление.

В своем недавнем выступлении генсек ООН Антониу Гутерреш с тревогой говорил о четырех «всадниках Апокалипсиса»: геополитической напряженности, экзистенциальном климатическом кризисе, росте недоверия, а также опасностях «темной стороны» high tech. Все эти угрозы взаимосвязаны: бесконтрольная эксплуатация природных ресурсов обогащает меньшинство, ухудшая экологическую ситуацию для большинства, что приводит к утрате веры в общественные, государственные и международные институты, что, в свою очередь, ведет к конфликтам между странами и к новой гонке за первенство в области «военного искусственного интеллекта».

Антон Колонин:
Коллективный интеллект — будущее человечества или гибель личности?

Рекламируемый как панацея для человечества, high tech часто лишь усиливает неравенство и глубину извлечения ресурсов, под которыми стали понимать уже и самих людей — «новую нефть».

Когда начиналась вторая промышленная революция, не было недостатка в оптимистических прогнозах, но прошло двести лет, и природа наносит ответный удар, настолько сильный, что речь идет о самом выживании нашего вида. Сегодня мы перешли от «экономики внимания» к «капитализму слежки», который переносит модель извлечения ресурсов с недр Земли на человеческое сознание и эмоции. Они предсказываются, контролируются и управляются, на них делаются ставки, сегодня фактически возник многомиллиардный рынок фьючерсов на человеческое поведение, и этот рынок бурно растет. В итоге сам человек становится другим. Не приведет ли это к тому, что природа, на этот раз человеческая, выведенная из равновесия, в будущем обрушится на нас с новой силой? Способны ли мы как человечество усвоить хоть какие-то уроки или надо готовиться к апокалипсису, как это делают многие капитаны индустрии, строя себе бункеры в Новой Зеландии или на Аляске?

Большинство, однако, не может переехать на Аляску, и, если мы хотим выжить как человеческий род, мы должны решать нарастающие проблемы здесь и сейчас. Для этого, прежде всего, необходимо их осознать. Нужно понять, с какой целью мы развиваем цифровые технологии, чего мы хотим добиться? Почему общественный контроль так сильно отстает от развития цифровых высоких технологий, и можно ли это исправить? Что делать конкретному человеку, объединениям людей, обществу, для того, чтобы избежать негативных последствий «темной стороны» high tech?

Некоторые эксперты говорят, что развитие технологий предопределено, и эта неизбежность рождает практику их употребления. Но это не так: технологии не существуют сами по себе в отрыве от общества, и их развитие определяется не мистикой, а вполне реальными целями, которые ставят те, кто управляет обществом. Так, домашний помощник «Гнездо» от Google собирает максимально возможную информацию о своих пользователях не потому, что так требует некая машина или алгоритм, а из-за экономического императива, который в условиях «капитализма слежки» становится неизбежным правилом для всех участников рынка. Рынку нужны данные, и рынок их получает.

Транснациональные гиганты научились извлекать огромные прибыли, монетизируя психику и делая таким образом «новой нефтью» самого человека, во все большей степени ставя его под контроль безличных алгоритмов. Сильнее всего последствия бесконтрольного использования цифровых технологий бьют по детям, у которых нет привычки к «аналоговым» способам работы с информацией, нет иммунитета от интернет-зависимости. Исследования психологов и нейробиологов говорят о массовом распространении цифрового аутизма, повышении тревожности у детей, ухудшении их памяти, снижению усидчивости, способности к обучению, прежде всего точным наукам. Появился уже медицинский термин — «математическая тревожность». Речь идет об импульсивно-негативной реакции детей и подростков на само слово «математика».

Елена Введенская:
Прошедшее, настоящее и будущее робоэтики

При этом общество становится новым объектом извлечения ресурсов и контроля. Индустриальное общество часто представляли в виде механизма с колесиками и шестеренками; кое-кто из художников приветствовал новую «эпоху машин», но большинство творцов выступали против того, чтобы человек воспринимался как одна из шестеренок в машине, цели которой он не понимает и не разделяет. Однако в сегодняшней антиутопии человек может оказаться в ситуации Грегора Замзы из «Превращения» Кафки. Он превратился в таракана, в существо, которое не может само себя узнать и вернуть себе прежний облик. Изменения поначалу мало заметны, но уже человека из 1990-х гг. наверняка поразили бы наши современники, прикованные к своим мобильным устройствам, живущие в виртуальной реальности соцсетей больше, чем в реальном мире.

Современное общество все больше напоминает пчелиный рой, где индивидуальная свобода подчинена некоему «знанию системы» в целом. Через генерированные сетями «машинного обучения» импульсы, воздействующие на эмоции, система направляет действия отдельных индивидуумов, управляя давлением на них со стороны и загоняя за определенные флажки. В таком обществе лишаются смысла такие понятия, как «демократия», «свобода воли», «политика», и даже, при всей внешней персонализации услуг, «индивидуальность». Снова подчеркнул бы, что особенно сильно воздействие системы на самых юных, ибо они выросли в этом «улье», и не имеют опыта другого общества и других отношений.

Можно ли изменить курс корабля с тем, чтобы он не налетел на скалы, которые уже виднеются на горизонте? Только мы все вместе можем это сделать. Сначала нужно увидеть проблему, не прячась за банальными формулировками, конспирологическими теориями и не оправдывая бездействие ложно понятой «объективностью» и лишающим воли фатализмом.

Алексей Туробов:
Битва за данные: ни конфиденциальности, ни безопасности?

Прогресс нельзя остановить, но общество может и должно его направлять, просчитывая последствия на перспективу. Русский писатель и философ Иван Ефремов полагал, что человечество с самого начала своей истории балансирует на «лезвии бритвы», и что только так оно может создавать великое и прекрасное, достигать вершин. Нужно и сейчас провести человечество по «лезвию бритвы», не останавливая прогресс, а задавая ученым и инженерам вектор на усиление возможностей и способностей человека, а не на их ослабление.

Отдельные люди и общество в целом должны перестать быть бездумными «пользователями», объектами управления со стороны алгоритмов. Им необходимо вернуть себе достоинство и возможности сознательного личностного и общественного развития.

Масштабная повестка цифрового развития в России создает как возможности, так и риски. Это требует широкого общественного обсуждения — но при этом нужна «новая осознанность». Что это такое? Это и способы «цифровой гигиены», и подходы «медийной грамотности» для всех и каждого. Это и комплексный, междисциплинарный подход экспертов в разных областях знания, ученых, философов, представителей общественных организаций, бизнеса и государственных структур к разработке и использованию цифровых технологий.

Некоторыми из этих вопросов, в частности, влиянием цифрового информационного поля на человека и общество, уже занимаются специалисты. Психологи-консультанты работают в области цифровой детоксикации, предлагая свои услуги прежде всего представителям власти и бизнеса. Однако представляется, что в условиях бурного развития новых технологий этого явно недостаточно.

Ефим Островский:
RAI: удалённый интеллект

Необходим более активный и всеобъемлющий подход, при котором методики «новой осознанности» будут доступны для всех без исключения членов общества, безотносительно их материального положения, возраста, пола или уровня образования. Необходима и работа над перспективой, постановка задач перед учеными, философами, политиками с тем, чтобы расширить человеческие способности без слепого полагания на технологические «протезы». «Новая осознанность» — это не отрицание технологического развития и науки, напротив, это возвращение этим понятиям их истинных человеческих значений. В объединении усилий для решения насущных глобальных проблем, доставшихся от прошлого, полного бездумной эксплуатации природных и внутренних ресурсов, человечество может добиться настоящих прорывов.

«Новая осознанность» — это активный, творческий гуманистический подход в использовании высоких цифровых технологий, при котором человек перестает быть «юзером», пользователем, и становится личностью, принимающей решения.

Уже сегодня формируется инициативная группа энтузиастов, которые считают, что назрела необходимость объединить усилия людей, озабоченных повесткой осознанного человеческого развития.