Писательские фабрики и читательские фермы

Конкуренция на рынке внимания обостряется, и для того, чтобы вырваться вперед, книгоиздатели готовы применить технологии искусственного интеллекта. Он станет главным действующим лицом литературного процесса, идеальным «литературным негром», критиком и маркетологом. Писателей ждут фабрики, а читателей — фермы, где они будут помогать настраивать творческую машину. Но, возможно, технологическая сингулярность, сделав сверхразум независимым, вдохнет в литературу вторую жизнь.

В феврале 2019 г. одна из ведущих в мире лабораторий по развитию искусственного интеллекта (ИИ) OpenAI опубликовала описание своей модели GPT-2, обладающей выдающимися литературными способностями. Отталкиваясь от некоторого образца, нейросеть может написать внятный и качественный текст практически любого объема, причем делает это, в отличие от прежних моделей, без участия человека. Как утверждается, качество текстов очень высоко по всем метрикам и читатели не способны распознать, что «произведение» сгенерировано машиной.

Идеальный фейкомат

Четыре сценария для ИИ в литературе: дискуссия в Библиотеке Достоевского

Машины-писатели сегодня работают по предсказательной модели, то есть, основываясь на предыдущем тексте, они предсказывают следующее слово, фразу и так далее. В итоге получается текст заданного объема. Языковым сырьем для таких машин служит Википедия, объем которой составляет сегодня порядка 50 млн статей, новости и другие материалы из Интернета, а также оцифрованные книги. Этот гигантский по объему массив данных позволяет машине-писателю уже сейчас без труда скомпилировать новость или журналистский материал, который люди примут за написанный человеком.

Прежним моделям, однако, требовался ручной ввод некоторых данных, относящихся к теме текста, а значит итоговый текст не был в полной мере машинным. Модель GPT-2 значительно лучше, чем прежние модели, справляется с такими языковыми задачами, как ответы на вопросы, понимание прочитанного, краткий пересказ и машинный перевод. Она самостоятельно ищет относящиеся к теме материалы, анализирует их, если нужно переводит, ставит сама перед собой новые языковые задачи и так далее. Более того, через социальные сети GPT-2 выявляет именно те факты и темы, которые гарантированно вызовут интерес читателей, и, проанализировав обратную связь, может проверить качество текстов.

OpenAI — уважаемое в мире разработчиков искусственного интеллекта учреждение, которое базируется в Сан-Франциско и основано известными предпринимателями Илоном Маском [1] и Сэмом Альтманом. Маск не раз предупреждал об опасностях, которыми чревато бесконтрольное развитие технологий ИИ, вот и в этот раз лаборатория выпустила предостережение. В нем говорится, что полная версия модели GPT-2 не будет доступна разработчикам из опасений, что те смогут применить ее в дурных целях, например, для создания весьма правдоподобных фейковых новостей.

Надо сказать, примерно в то же самое время искусственный интеллект научился создавать правдоподобные фотографии людей, не существующих в реальности. Фейковость фото сможет распознать другая машина, но будут разработаны алгоритмы, которые обманут и ее, то есть началась гонка прикладных технологий ИИ, и человеку, возможно, скоро придется перестать доверять своим глазам, а полагаться на заключения алгоритмов.

Разумеется, очень скоро и другие разработчики смогут достичь того же уровня, что и OpenAI. Это напрямую касается не только журналистики, но и большой литературы: ведь модель GPT-2, вероятно, уже сегодня может написать сиквел, например, «Унесенных ветром» или очередной роман Дарьи Донцовой.

Антропоцентризм

Мы очень любим бинарные вопросы, и один из них звучит так: «сможет ли машина заменить писателя?» Сразу предполагается и ответ: «нет, не сможет», так как мало того, что мы считаем себя неповторимыми, мы уверены и в том, что ИИ как наше создание будет всегда нуждаться в нашей опеке, что мы всегда сможем управлять им, а в крайнем случае просто выдернем штепсель из розетки.

Андрей Незнамов:
Робототехника и ИИ в России: разработки есть, а законодательства — пока нет

Врожденный антропоцентризм вынуждает нас противопоставлять себя миру — как возникшему без нашего участия, так и созданному нами самими. Мы склонны отделять машину от человека — хотя она уже давно стала частью нашего коллективного разума, если угодно, коллективного человеко-машинного интеллекта.

Что такое искусственный интеллект? Чисто ли это маркетинговый термин, созданный с целью выбивания денег на науку? Часто ИИ определяют в духе «сепульки» из «Звездных дневников Ийона Тихого» Станислава Лема: «Сепульки очень похожи на муркви, а своей цветовой гаммой напоминают мягкие пчмы. Разумеется, их практическая функция другая, но думаю, Вам, как человеку взрослому, мне не нужно этого объяснять».

Не углубляясь в пчмы и муркви, попробуем все же дать этой уклончивой сущности определение. Я бы сказал, что на сегодняшний день искусственный интеллект — это комплекс датчиков, нейросетей, вычислительных облаков, компьютерного оборудования, инфраструктуры и конечных агентов, а также людей, занимающихся обслуживанием комплекса, служащий для решения любых задач по управлению на основе собранных данных.

Конечному пользователю все равно, что происходит внутри системы, во всех хитросплетениях которой разберется разве что сам искусственный интеллект. Для потребителя ИИ — это черный ящик, который обеспечивает удобство и комфорт, взяв на себя рутинные дела. Ты говоришь ему: «Алекса, квинтет си-бемоль мажор Римского-Корсакова», он со скоростью света шерстит информацию в облаках, и вот уже из колонок призывно доносятся звуки валторны.

Для индустрий, в том числе книготорговой и издательской, ИИ — это такой же черный ящик, только принимающий решения, которые до него принимали люди. Очень удобно переложить ответственность на черный ящик, решения которого не верифицируемы и не подлежат исправлению, даже если они нам не нравятся.

Чтобы понять, как технологии ИИ изменят книгоиздательство и книготорговлю, рассмотрим треугольник «издатель — писатель — ИИ».

Netflix как образец

Готова ли издательская индустрия к приходу ИИ? Конечно, да — и это не пассивная готовность, сродни обреченности ягненка перед волком, а вполне осознанное желание решить с помощью ИИ свои проблемы.

Книгоиздатель конкурирует даже не с другими издательствами, а со всей индустрией развлечений, в которой ИИ уже вполне успешно внедряется, перестраивая модель бизнеса. Компания Netflix анализирует при помощи ИИ огромный массив данных, собранный с десятков миллионов подписчиков. Данные о просмотренных фильмах или, скажем, о фильмах, которые «не зашли», отправляются в режиме реального времени на облака компании. Там запросы классифицируются и потребителю предлагаются произведения, отобранные ИИ специально для него. Ничто не мешает применить тот же принцип в книгоиздании. Завтра «умная книга», подключенная к интернету вещей, будет передавать в облако данные о том, какое место вам особенно понравилось и даже какие эмоции вы при этом испытали.

Сергей Шумский:
Искусственный интеллект: вызовы и угрозы России

Я несколько забежал вперед, но и сейчас та же самая система GPT-2 может проанализировать текст с точки зрения стиля и языка, подходящих для той или иной категории читателей. Показатели эффективности измеряемы и могут быть улучшены через алгоритмы SEO-оптимизации подобно тому, как это делается сегодня с журналистскими текстами.

Таким образом, уже совсем скоро вполне возможны саморедактирующиеся книги, содержание которых будет меняться по мере сбора данных о реакции читателей. В будущем можно себе представить читательские фермы, где профессиональные чтецы будут читать «черновые» книги одну за другой с тем, чтобы улучшить их показатели еще до выхода в свет. Похожие на фермы по выращиванию бройлеров заведения, скорее всего, будут иметь дело с литературным ширпотребом.

Работа по принципам Netflix резко улучшит показатели прежде всего монополистов — ведь на внедрение систем с ИИ у небольших издательств не будет денег. В России процесс монополизации книжной индустрии зашел очень далеко. Группа компаний «Эксмо-АСТ» владеет не только ведущими книгоиздательскими брендами, но и крупнейшими книготорговыми сетями, платформами по продаже электронных книг. А то, что «Эксмо-АСТ» видит решение в технологиях Big Data и ИИ, отметил недавно в интервью газете «Коммерсант» сам президент группы Олег Новиков.

По его мнению, главная задача — «соотносить ассортимент рынка с предпочтениями читателей», а это и есть рецепт Netflix.

Сначала ИИ будет опробован в книготорговле и логистике. Затем наступит черед издательского дела, где начнут с маркетинга книжных серий. ИИ для каждой ниши читателей подберет темы, поможет редакторам написать синопсисы и найдет оптимальных авторов, руководствуясь критериями цены и качества.

Качество можно будет подправить за счет редактуры. Библиотека стилей, которые используются в современной российской литературе, не очень велика. Оптимизировать редактуру легко сможет тот же GPT-2 или ИИ с более продвинутыми редакторскими способностями.

Затем дело дойдет до автора.

Смерть писателя

Писатель, работающий на крупное издательство, — а только так можно скромно прожить за счет писательского труда — сегодня превращен в «литературного негра», работника конвейера на фабрике проектов. Исключение составляют некоторые крупные имена, но они лишь подтверждают правило. Даже они, впрочем, принимают активное, и, видимо, обязательное участие в продвижении книг своего издателя, пишут по его заказу положительные рецензии на книги издательства и отрицательные — на книги конкурентов, поддерживают книги «своих» при присуждении литературных премий и так далее. Про обычных трудяг и говорить нечего: они работают не за деньги, а за надежду выбиться в «большую лигу».

Независимо от лиги, впрочем, писатели утратили статус «вершителей дум». Сегодня писатель конкурирует с соцсетями, развлекая читателя, занимая его время в экономике внимания и вызывая желание в экономике соблазна. Как и его книга, он сам — продукт, и потому нуждается в постоянном маркетинге. ИИ может помочь ему в этом — если писатель согласится занять свое место в системе.

Роман Дурнев, Кирилл Крюков, Андрей Титов:
В погоне за совершенным интеллектом

До авторов доводятся задачи по производству продукта с определенными потребительскими свойствами, в соответствии с запросами целевой аудитории и ее социально-демографическими характеристиками. Работа напоминает производство телесериалов, где одни пишут диалоги, другие описания, третьи складывают все вместе, четвертые шлифуют, доводят до конца, или переписывают. Все эти процессы можно сегментировать и оптимизировать при помощи алгоритмов.

Единственный путь для писателя стать профессионалом, то есть жить на доход от издания своих книг — это стать раскрученным брендом. ИИ может в этом помочь, не только улучшая тексты, вводя туда ключевые слова запросов или шлифуя стиль, но и предлагая выигрышные сюжеты, наборы действующих лиц, продающиеся повороты фабулы. Используя алгоритмы для создания петель обратной связи, можно улучшать произведения на ходу, особенно через читательские фермы. Увеличить продажи можно и оптимизируя мельничную сеть критиков с тем, чтобы она не молола впустую в ненужных местах. Литпремии, производство и сопровождение скандалов, другие приемы по продвижению авторов — все это алгоритмизируется.

ИИ как слуга

При внедрении ИИ произойдет слияние писателя, издателя и маркетолога в одно целое.

ИИ как писатель неутомим и производителен, он одновременно сможет работать над множеством произведений. Он бессмертен и поэтому может вечно дорабатывать и своё, и чужое. Представьте себе Толстого, который к Нацбесту-2019 сделал бы кавер-версию «Войны и мира» под историю о Безухове-попаданце. Текст романа перестанет быть окончательным, закрепленным раз и навсегда, он будет меняться, реагируя на обратную связь, полученную от читательской фермы и до его публикации, и после. Любой писатель теперь может быть аккуратно поправлен и приведен в соответствие с требованиями политкорректности, это немногим сложнее задачи ретуширования фотографий.

Можно было бы создавать и писательских кентавров, скажем, скрестить 40 процентов Прилепина с 45 процентами Донцовой, добавив по 5 процентов Акунина, Улицкой и Орхана Памука. Можно будет просчитывать композитного автора, состоящего из наиболее популярных писателей в оптимальных пропорциях, и регулярно выдавать читателям этакий буквенный «суп месяца».

Мастер фейков, ИИ сможет создавать фиктивные писательские биографии и развивать их в режиме реального времени.

Вначале потребуется много работы по кодированию существующей литературы. К этой работе, пожалуй, придется привлечь писателей и критиков, которые изнутри знакомы с алгоритмами процесса. Вероятно, при монополистах будут созданы писательские фабрики. Труд, требующий еще большего участия людей, предстоит проделать и по кодированию эмоциональной реакции читателей. Для этого будут созданы читательские фермы. У читателей будут сканировать мозг во время чтения романов и отслеживать активность нейронов. Собранные данные будут поступать в облако и использоваться для производства новых продуктов и улучшения старых.

Понадобится специфическое оборудование, вроде чипов, которые вживляют крысам в голову во время экспериментов по изучению активности мозга. Вероятно, к этому времени уже будут разработаны неинтрузивные технологии получения такой информации.

Вероятно, писательские фабрики и читательские фермы будут организованы как онлайн-платформы в стиле этакого «литературного Uber».

Найдутся ли желающие работать на столь странных и даже пугающих платформах? Скорее всего, у людей не будет особенно большого выбора, и многим из них придется обслуживать экономику искусственного интеллекта.

Что касается страшилок про ИИ, то их лучше всех напишет сам ИИ. Зная себя лучше людей, он сможет создать целый жанр такой литературы.

После сингулярности

Ефим Островский:
RAI: удалённый интеллект

Футуролог Ник Бостром считает, что как только ИИ приблизится по своим возможностям к мозгу человека, то сразу же его превзойдет. Не задерживаясь в этой точке, ИИ будет развиваться взрывным образом и очень скоро поставит под контроль ресурсы всей планеты.

Этот момент называется технологической сингулярностью, потому что никто не знает, что произойдет дальше. Вряд ли ИИ будут нужны деньги, капитализм, потребители, рынок. Впрочем, едва ли ИИ, став сверхразумом, решит избавиться от нас совсем — в том числе и потому, что искусственный разум — это часть разума коллективного.

Есть надежда на то, что задолго до технологической сингулярности человек как составная часть коллективного интеллекта изменит свое поведение и себя самого. Не углубляясь в дискуссию о трансгуманизме, в приложении к судьбе литературы можно сказать одно — у измененного человечества и измененного человека может и должен возникнуть новый язык.

Сверхразуму вряд ли будет нужна новая информация — ее он и сам соберет. С другой стороны, ему будет крайне интересен опыт человека как писателя, но, разумеется, не в меркантилистской ипостаси, а как создателя настоящей литературы. Можно даже предположить, что сверхразум будет «читать» настоящих писателей из удовольствия — ведь это существо информационное, оно питается информацией, и какой же информационный пир готовит для настоящего ценителя литература! Возможно, больше всего сверхразум оценит человеческий юмор, который показывает несоответствие реального идеальному и примиряет с этим несоответствием.

Сверхразуму точно будут не нужны банкиры, военные, политики, но, вполне вероятно, он устроит настоящий рай для писателей. Для сверхразума не будет проблемой перенести автора в любое время и место какой-то исторической эпохи. Писатель будет жить прямо в дополненной реальности — размером хотя бы с целую планету. Какая-то часть окружения может быть материальной, какая-то — виртуальной, при этом сверхразум будет ставить писателя в определенные ситуации, провоцировать его или испытывать, как это описано в «Солярисе» у Станислава Лема.

Сверхразум, конечно, будет руководствоваться своей логикой, но именно поэтому ему будет интересен человеческий взгляд на мир. Можно предположить, что часть этого интереса будет сродни тому любопытству, которое мы испытываем к жизни отдаленных племен Амазонии, но такой взгляд со стороны позволяет нам как бы посмотреть в зеркало на самих себя.

Писатели, в конечном итоге, как раз и будут держать перед сверхразумом такое зеркало.

1. Илон Маск в феврале 2019 г. заявил о том, что покидает Good AI в связи с разногласиями по планам развития компании и необходимостью сосредоточиться на проблемах в Tesla и SpaceX.