Немного о биороботах и их желаниях

Вы хотите быть биороботами?

Счастливыми, беззаботными существами, которыми мягко, мудро и ненавязчиво управляют со стороны.

Я — нет.

Но достаточно много людей, которые совсем не против такой судьбы.

Кадр из сериала HBO "Мир Дикого Запада"

Например, с ними недавно столкнулся мой хороший товарищ и коллега по инициативе «Новая осознанность» Юрий Чёрный, выступая перед студентами престижного московского университета. Рассказывал о развитии вычислительной техники, применении искусственного интеллекта, разумеется, коснулся угроз и рисков его применения.

О них говорят сейчас достаточно много, часть довольно очевидна — торговля пользовательскими данными, потеря приватности, переход к чисто реактивному поведению.

Несколько меньше говорят о других рисках, которые как раз вырастают из потери приватности и неограниченного доступа коммерческих компаний к этим данным — все более совершенный и мощный данных о вашем поведении позволяет его предсказывать. Всё более и более точно. Следующий шаг — не просто предсказание, а моделирование поведения человека. Сначала — чисто потребительского. Такие попытки уже есть — недаром так популярен лозунг маркетологов «Объясните клиенту его проблему» и прием «подталкивания к решению».

Ещё один логичный этап — формирование социального, общественного поведения человека, не просто предсказание, а формирование его социальных связей на основе анализа данных уже не только самого человека, но и его окружения. Фактически — моделирование социального окружения человека, и человеческого общества в целом. Речь идёт уже не о контроле за обществом, а о создании и постоянном управлении обществом с помощью мощных систем искусственного интеллекта.

Мой коллега считает такую перспективу пугающей, и я с ним полностью согласен. Так он и сказал слушателям. И тут же один из студентов, пожав плечами, сказал, что вообще ничего страшного в таком внешнем управлении жизнью не видит, полностью поддерживает такой вариант, и готов тут же передать все свои права и свободы такой системе искусственного интеллекта — пусть управляет, лишь бы ему было хорошо.

Сам я недавно точно такую же мысль слышал от одного очень успешного бизнесмена, профессора Сколтеха. Я хочу быть биороботом!, — улыбаясь, говорил он мне, — Я искренне этого хочу! Пусть мной управляют, я буду счастливым биороботом! Ведь, тем, кому я буду послушно относить свои деньги, выгодно, чтобы я был здоров, счастлив и обеспечен!

В принципе, именно об этом, разве что, в более мягкой форме, говорят по всему миру технооптимисты и прочие «евангелисты» безоглядного и бесконтрольного внедрения систем контроля на основе ИскИнов.

И сколковскому профессору, и эпатажному студенту такое будущее видится миксом рая с гуриями, нирваны и непрерывной транс-вечеринки. Золотым Веком, в котором все счастливы и беззаботны. И, самое главное, счастливы, здоровы и обеспечены они сами, система угадывает и исполняет их желания, поэтому, нет и причин для недовольства.

Жаль разочаровывать этих прекрасных людей по всему миру, но всё обстоит с точностью до наоборот.

Прекраснодушные люди, желающие занять место в тёплом стаде, совершают одну системную ошибку в своих рассуждениях, все остальные — уже следствие.

Они почему-то думают, что управлять ими будет некая автоматизированная совершенная система под управлением нечеловечески мудрого искусственного интеллекта.

Это совершенно не так — технологии, это орудия управления. Инструменты, как светофор, или банкомат. Рычаги управления будут находиться, как и прежде, у людей. Со своими желаниями, стремлениями и интересами.

Абсолютно непонятно, почему кандидаты в биороботы решили, что управляющая группа будет принимать их желания в расчёт? Тем более, исполнять?

Нет, уважаемые участники очереди в Матрицу, ваши желания никто не будет угадывать, тем более, придавать им значение. Система будет ваши желания формировать, а это кардинально иной подход. Для того, чтобы что-то хотеть самим необходимо сознание и осознанность желания. Я уж молчу об ответственности за последствия своих желаний.

Отдавая свои права, обязанности и свободу воли «на аутсорс», во внешнее управление, человечество отдает туда и ответственность за формирование своего будущего.

Так что, кандидаты в биороботы будут хотеть только то, что необходимо системе и выгодно для ее эффективного функционирования.

Зачатки этого мы можем видеть в том же Китае, с его системой социального рейтинга — в выигрышном положении тот, кто ведет себя наиболее социально одобряемым образом. В капиталистическом мире есть и не менее жёсткий аналог — кредитный рейтинг. Добавляем к этому систему прогнозирования и формирования социального окружения и…

Что это такое маячит, до боли знакомое? Ба, да это же башни-излучатели из «Обитаемого острова» братьев Стругацких.

Но есть и куда более существенное в условиях нашего «пост-пост-капитализма» магическое заклинание, разбивающее в прах мечты счастливых биороботов. Оно состоит всего из двух слов.

Ресурсы и издержки.

Любое эффективное производство строится на строгой экономии ресурсов. Не должно быть потрачено ни на грамм-миллиметр-копейку больше, чем это необходимо для данного товара, или услуги. Если есть возможность продать потребителю продукт максимально дешёвый в производстве, его и будут производить. И — продавать. Вопрос качества при этом, разумеется, отходит на второй план.

Конечно, мне могут возразить — этот вариант подходит не для любого товара, не для любого потребителя, есть и vip-сегмент. Но, давайте честно, неужели вы думаете, что потребители vip-товаров действительно собираются выпустить управление жизнью из своих рук.

Нет, всё куда проще, тем более, если под рукой есть мощные технологии управления поведением. Просто, потребности массового биоробота-потребителя система будет формировать так же, как и его поведение. Постепенно понижая планку восприятия. Собственно, это происходит уже сейчас. Запланированное устаревание, система аренды вместо владения, призывы жить «здесь и сейчас», пропаганда модели «вкладывай во впечатления», а не в собственный дом… Цепочку можно продолжать.

Все это связано со вторым волшебным словом — ресурсы.

Их не так много, они крайне ценны, и тратить их на всех — попросту глупо. Тем более, если есть возможность убедить массового потребителя, что тот минимум, который они получают, это совершенно нормально, и больше им просто не надо. Биоробот будет счастлив и тому, что он получил — и будет искренне верить, что это именно его желание и ощущение.

Мы же помним, что права, свободы, и ответственность за принятие решений он отдал системе?

И здесь возникает еще один неудобный для адептов технооптимизма вопрос. А в чьих руках, собственно, система? Выясняется интересный момент – на данный момент большинство серьезных разработок ведут частные компании, а используют их в первую очередь гигантские транснациональные корпорации.

Которым, по большому счёту, на интересы государств наплевать. Надо ли говорить, что контроль за такими мощными и выгодными инструментами корпорации никогда из рук не выпустят, даже, если и передадут их официально правительствам?

Единственная цель корпораций — получение прибыли для своих владельцев. Что автоматически возвращает нас к вопросам эффективности и распределению ресурсов. И стимулирования потребления, кстати (эффективный вариант предложил американский писатель Пол Фредерик в романе «Торговцы космосом» — искренне рекомендую).

В итоге, получаем очень интересный вариант развития событий, причем, по всему миру (западному — точно, у Востока своя специфика, но…), при котором получаем сращивание, а то и прямую замену государственного управления корпоративным (де-юре, или де-факто, не так важно), разгон потребления, снижение качества продукции, резкое сокращение социальной сферы с одновременным разгоном и примитивизацией индустрии развлечений.

Отчего-то мне кажется, что в такое светлое будущее эпатажный студент не хочет.

Но технооптимисты и техноевангелисты ему о таком варианте ничего не скажут, а тех, кто скажет назовут фантастами и алармистами.

Между тем, именно этот вариант корпоративного формирования общества в той, или иной мере реализуется уже сейчас по всему миру.

Мне кажется — пора задумываться и включать хотя бы элементарную логику.

Хотя, именно её любители жить беззаботно отдают на аутсорс в первую очередь.