Литература в эпоху Больших Языковых Моделей

Году в 2018 я написал краткую заметку, где очень критически отозвался о перспективах алгоритмического, машинного искусства. Основной мыслью той краткой заметки было то, что искусство не является и не может быть результатом некой "структурной", алгоритмической и случайной составляющих. Тогда всё было довольно просто, согласитесь. Но с тех пор многое поменялось. Возросла опасность того, что Алекс Страполи, говоря о генерации музыки машинами, называл "богохульством". Теологическая терминология для меня не является родной, но я понимаю, откуда такой пафос. Отказываясь от творчества, с извечной тягой человечества к рационализаторской экономии сил, к конформизму во всём, в том числе и душевных делах, перепоручая творческий акт механическим подручным, мы совершаем предательство того божественного, что в нас может быть, той искры творчества, которую бы стоило ценить пуще всего остального в себе. В этом смысле сгенерированное искусство, безусловно является кощунством.

Большие языковые модели очень многое поменяли за эти 6-7 лет. Но фактор случайности в их празднословной болтовне по-прежнему очень велик. Где он проявляется? – очень просто. LLM модели с первой по самую свеженькую мыслят отдельными словами, всякий раз оценивая, какое слово наиболее вероятно человек подставил бы на её месте на данную позицию. Для пущего правдоподобия выбирается не наиболее вероятное, а одно из с вероятностной отсечкой 0.7. Опять проклятая вероятность, и мысль условного чатбота, трепещущая будто флюгер на переменчивом ветру. Человеческие тексты устроены не так: отдельные слова бусинками нанизываются на нитку мысли. В стихосложении, наверное, бывают исключения, когда удачная рифма представляется подарком богов, и потому простительным становится небольшое искажение изначального смысла в угоду красоте. Но стихосложение, как вершина словесного искусства, последним станет доступно машинам. И до сих пор я сомневаюсь, как электронный поэт сумеет осуществить эту дикую компрессию смыслов и нюансов в короткие строки, фиксированные формы, не решит ли оптимизировать часть из этих необязательных задач и решать только понятные ему.

Параллель из мира геймеров. Многие сетуют на то, что NVIDIA вместо технологии Ray Tracing в новых видеокартах принялась развивать технологию, заменяющую её, но делающую это в несколько ином ключе, – а именно технологию dlss, где кадры "предугадываются" нейронными сетями. Качество растёт, но любители компьютерных игр не торопятся называть получающееся реальностью, а напротив сетуют на ощущение подделки. А от технологии нейросетевого апскейлинга, на самом деле, очень недалеко и до достраивания нужных кадров, сюжетов, образов в рассказы от искусственного интеллекта. Именно так, во всех плодах искусственного интеллекта люди всегда будут на подсознательном уровне, на уровне спинного мозга если не чувствовать, то ожидать фальши. И отчасти это предубеждение будет заслуженным: искусство не может быть компиляцией на сто процентов, хоть 1% чего-то подлинного в нём должен оставаться. Это тот случай, когда ложка мёда может обратить в мёд бочку дёгтя. В этом состоит неожиданный плюс засилия нейросетевых поделов: читатели начинают больше ценить всё, созданное человеком, даже если оно и несовершенно, но несовершенство его служит залогом милой подлинности.

Существует и другое очень важное замечание. Какую роль сыграли Пушкин с Жуковским для нашей литературы, Данте для итальянской, а Рабле для французской? Они стали создателями современного литературного языка, не умаляя ценности архивных диалектов, они смогли сделать литературу общедоступной. Способен ли на такую революцию LLM, понизим ставки: способен ли ИИ-поэт быть Хлебниковым?
А если даже он что-то и попробует генерировать силами вариационных энкодеров, как это принято у них называть, то поверят ли этому люди, примут ли они новый язык. Пушкин выдумал не полностью синтетическое эсперанто, он, подозреваю, слушал, как говорят друг с другом представители его сословия, на каком языке говорит народ, на каком языке поёт свои частушки. В этом не было пагубной случайности.
А по поводу создания нового языка, недавно вышло две строгих, научных статьи Макса Шелерета о том, что искусственный интеллект, а Большие Языковые Модели и подавно не способны к созданию нового. Там говорилось о прорывных научных теориях, творимых вне устоявшихся научных концепций. С математической точки зрения от искусственного интеллекта невозможно ожидать создания с нуля теорий, подобных квантовой механики. Ради справедливости стоит отметить, что и от человека ожидать подобного сложно. Такие теории – результат совместных усилий множества людей, множества нерядовых людей, каждый из которых был самородком, буквально одним на миллион. И развитие таких теорий происходило в течение десятилетий. Сила же литературы в субъективности и в том, насколько твоя субъективность убедительна. Мы и сейчас не знаем всех тайн языка, как живого существа. Так как же можно ждать от бездушного компилятора, что он сможет создать новые средства выражения, которые сумеют захватить весь мир?!

Новые формы выразительности в поэзии, возможно, новые жанры литературы, – скажите на милость, как с этим, в принципе, способен справиться электронный писатель, прочитавший пусть даже абсолютно изданное человечеством. Подозреваю, количество в данном случае начнёт играть даже противоположную роль, сковывая и ограничивая потенциальную вариативность, как это следует, например, из теоремы Байеса...

Мне очень нравится фраза Реми Гурмона о том, что бессмертным литературное произведение делает либо поэзия, либо юмор. И вот на последнее большие языковые модели неспособны принципиально на данном этапе своего развития. Способно ли создать, изобразить юмористическую ситуацию устройство, лишённое чувства юмора, которое не смеётся само?

Да, это вопрос, во многом, философский: у кого присутствует чувство юмора, а кто его лишён. Но, как мне кажется, иные домашние животные ближе к постижению нашего понимания юмора, чем конструкции, которыми реализуется ныне искусственный интеллект. Я думаю, и вы отлично представляете поведение домашних животных, и иные представители canis lupus отлично представляют разницу между серьёзным и несерьёзным поведением и начинают дурачиться с нами. И до сих пор у меня стоит перед глазами пример, как хозяин клал на бортик наполненной ванны угощение, чтобы затем искупать свою собаку, свалившуюся бы внутрь. Но собака, будто бы разгадав его план, лукаво посмотрела на хозяина. Умение комбинировать словарные конструкции, обозначающие юмористические ситуации, отнюдь не значит возможности распознавать нелепые, гротескные ситуации и, более того, чрезвычайно тонкого мастерства, позволяющего щипать за эти тонкие струны в душах людей. Даже став блестящим эссеистом в рамках какого-то языка или культуры, едва ли искусственный интеллект сможет сочинить примитивный анекдот или распознать действительно комичную ситуацию...

Преувеличенная опасность.
С другой-то стороны, опасность того, что поделки искусственного интеллекта заполонят мир литературы, не кажется ныне уж очень серьёзной: сомнительно, что кто-нибудь бы стал усиленно развивать Большие Языковые Модели для создания прозы в то время, как чтение перестало быть развлечением большинства. К моему удивлению, среди нынешних школьников большинство не читает книг, предпочитая более короткие развлекательные жанры. Это не только их выбор, но и повод инженеров и программистов ориентироваться на массовые и менее требовательные сферы, которые проще подделать.

А если, в свою очередь, ИИ-писатель не будет ориентирован на самых требовательных читателей, если не сумеет преодолеть детских болезней в виде шаблонности, дурных повторений, хаотично выбираемых стилей, то он и не сможет претендовать на роль автора, потому что искусство суть стремление к совершенству, а не ориентация на среднего читателя.

Тут важна мысль и чисто технического свойства: пока ипостаси больших языковых моделей применительно к литературе довольно убого представляют себе структуру какого бы то ни было художественного произведения даже после прочтения миллиона томов. А если все эти немыслимые технические конструкции требуют отдельной настройки или работы бригады литераторов по очеловечиванию порождений искусственного разума, то эксперимент становится не очень чистым, напоминающим битву Каспарова с компьютером, окружённым толпой гроссмейстеров.

Продолжая удачно подвернувшуюся мысль, мы так долго и так дружно высмеивали батальоны литературных негров ставшей притчей во языцех Донцовой, что перестали считать это явление угрозой, более того, несколько близоруко стали считать эту бездарную мазню единственным олицетворением упомянутой угрозы. Тогда как, скорее всего, было и много других. Было, как раньше среди авторов, писавших роман за неделю, так и в наше многогрешное время – бойко строчащих исторические детективы на потребу массового читателя (и только уважение к гражданской позиции означенного автора не позволяет мне открыто называть его по имени). Так вот, взгляните теперь на проблему нейросетевого писателя, несколько отстранившись, позвольте себе мысленную экстраполяцию – принципиальной разницы между бригадой мастеровых с пером и бумагой или же, на современный лад, с клавиатурой ноутбука, с одной стороны, и нейросетевым рифмоплётом – с другой, нет. Второе – элементарно предельный случай батальона литературных работников с количеством тем самых миньонов, стремящимся к бесконечности и, формально, имеющим доступ ко всем памятникам мировой литературы. Но подобный доступ отнюдь не означает того, что хоть кто-нибудь из них обладает самостоятельной личностью и каким-то уникальным опытом, который бы ему стоило воплощать на бумаге. Напротив, и тут мне не откажешь в логике: чем больше подобный безликих подельников в штате, тем меньше вероятность того, что среди попадётся подлинный самородок, тем меньше будет вклад самородка, а в случае предельного перехода и вовсе его вклад устремится к нолю! В лучшем случае, ежели все “негры” хорошо подготовлены, мы получим добротное произведение, но гениальные творения делаются несколько другим образом.

Чего я боюсь, так это того данная теория нейросетевого писателя, способного творить в любом стиле – предельно постмодернистичная по своей сути – приведёт не только к краху постмодернизма, лишив его последних остатков души, но и на более низком уровне, приведёт к кризису доверия литературе. Мы с вами пытаемся обосновать теоретическую невозможность нейросетевой литературы, пытаемся выработать отношение к ней, ещё не появившейся на свет, ещё не достигшей уровня настоящего искусства, тогда как читатель, жаждущий развлечений, испытывает подсознательное, подспудное отвращение к литературе, написанной машиной. Это отношение носит ярко выраженный дорассудочный характер, оно сводится к боязни подвоха, подделки, фальшака. Не умея достоверно отличить подделку от творения рук человеческих, рядовой читатель начинает подозревать всех вокруг, начинает охоту на ведьм, предъявляя завышенные требования к тем рассказикам в интернете, которые он высокомерно оценивает. Но в целом всё необратимо сводится к потере доверия, к тому, что слово печатное – практически всегда ложь, ибо за ним уже не стоит правды, за ним не стоит подлинных чувств, запахов, страстей, боли и, тем более, нет там отчаянной радости живого существа.

О важности несовершенства.

В течении долгих лет, на протяжении нескольких веков искусство и литература стремились к совершенству. Живопись достигла определённого логического потолка на этом пути чуть раньше, разочаровавшись в реалистической манере изображения. После этого начались многочисленные эксперименты, которые облегчили задачу, сделав поиски абсолюта бессмысленными, поскольку в противном случае человечество неожиданно может прийти к тому же чёрному квадрату.

По моим представлениям, вполне может быть и ошибочным, пика своего совершенства русская литература достигла в творчестве Набокова и Бунина, после которых наступила пауза в поисках идеальной отточенности стиля. И именно этот путь должен спасать литературу в эпоху Больших Языковых Моделей. Литература не обязана искать совершенства, не обязана стремиться к идеалу: спасение в своеобычности, в уникальных выразительных средствах, в формальной непонятности. Нейросетевой автор пока не понимает, как правильно, на основе авторского почерка генерировать "шероховатости" стиля. Шероховатости есть отпечаток уникального авторского опыта, его долгого жизненного пути, а отнюдь не белый шум, как бы не велик был соблазн выставить всё именно таким образом. С возрастом я всё чаще и чаще задумываюсь о том, что я говорю не на каком-то обобщённо русском языке, а на языке моих предков, моих родных, наследую их привычки и обороты. Более того, на мне, да и на всяком другом авторе лежит отпечаток истории, из какого он города, в каких деревнях проводил летние каникулы. И это вплотную нас подводит к тезису о том, что, по-хорошему говоря, несмотря на усилия уже упоминавшегося Пушкина, несмотря на изначальную устремлённости литературы к совершенству единый инструмент русского языка – всё же некоторая идеализация. Язык будет отличным в различных губерниях нашей безграничной родины. И слава богу, ведь именно в этом состоит оберег человеческой литературы от замещения нейросетевой.

Позвольте мне небольшое отступление и слишком, наверное, вольное сравнение с музыкальными инструментами. Электроорган "Хаммонд B3" был полноценным музыкальным инструментом, который мог подражать традиционному духовому органу, а мог извлекать принципиально новые звуки, связанные с немного иным способ звукоизвлечения, с возможными перегрузами, с теми же вращающимися колонками Лесли. Появившиеся позже синтезаторы могли мастерски воспроизводить звуки в свою очередь Хаммонда, заглядывая в огромную библиотеку уже записанных звуков. Но эта экономия усилий и делала звукоизвлечение ограниченным, повторяющимся, лишала звукоизвлечение уникальности. Невозможно играть полностью новую музыку, на базе звуков, извлечённых кем-то много лет назад. Я полагаю, аналогия довольно прозрачна: у вас не получится полностью новой литературы, без сомнения великой литературы из фраз, сказанных кем-то другим. И это не отрицания методов постмодернизма, это отрицание именно нейросетевого творчества, сводящемуся к хору фраз, сказанных кем-то другим. Кто-то вспомнит про метод хаотичного нарезанных ленточек из слов и предложений, который был предложен Берроузом. Но, во-первых, большинство фраз были как раз его собственными. Во-вторых, главным персонажем его литературных бесчинств, остающимся всегда за рамками повествования был его собственный фантасмагорический образ. Изрекай тоже самое нейросетевой прозаик, поверили бы мы столь же безоглядно во всё, скомпилированное Большой Языковой Моделью, подражающей автору «Голого завтрака»?

Моя основная мысль, моё главное устремление здесь – это, повторяя размышления Юваля Ноя Харари, отыскать то дело, тот досуг, которым сможет заниматься человек, когда все остальные виды деятельности будут захвачены механическим турком. Юваль в качестве примера говорил о религиозных спорах, похожих на те, что сейчас проводят израильские ортодоксы. Я бы предложил литературное творчество, которое не только не стоит отдавать на откуп БЯМ, но и проделать что будет вряд ли возможным, что я и пытаюсь доказать. По крайней мере, с теоретической точки зрения подобную "литературу" я бы не стал относить однозначно к творчеству. Но мы обязаны задаться и другим вопросом: сейчас, в наше прогрессивное время для кого в большей степени существует литература – для читателей или же для самих авторов?

На днях попалась примечательная цитата, не имеющая прямого отношения к теме моего исследования:
"Однако поскольку рабский труд непроизводителен вообще, а сфере духа в особенности, все его работы умерли задолго до смерти самого академика."

К попыткам нейросетевой литературы у меня именно такое отношение: всё это рабский, низкоквалифицированный труд. Труд, который допускает унификацию, имеет индустриальную природу, такой труд не может претендовать на звание искусства. Помнится, на уроках литературы в школе 1233 хорошая, но недалёкая учительница Ольга Леонидовна, размышляя над строками, Некрасова, кажется, говорила, что печной горшок ничуть не менее ценное произведение искусства, чем строки Пушкина. И я, помнится, уже тогда сильно засомневался в её словах. Горшки высокого или среднего качества может по всему миру слепить миллион человек. А строки, подобные пушкинским, мог сочинить только великий поэт, да и то не каждый. Бессмысленно и кощунственно сравнивать уникальные, штучные произведения искусства с ремесленным или промышленным производством. А в случае прихода в литературу искусственного интеллекта, она грозит стать отраслью промышленности.

Но вот и довод противоположного свойства. Появление масштабной деревообрабатывающей промышленности и заводского производства мебели не уничтожил столярный труд окончательно. Он существенно сократил сферу его применения и переклассифицировал ручное производство мебели в область штучных товаров, которым, по сути, уже не страшна никакая индустриализация, потому что они предлагают "изделия" иного уровня, иного качества с совсем другим уровнем отношения к деталям. Полагаю, именно такой эволюции мы можем ждать от литературы, и именно такая эволюция допустима. Пускай произведения массовой литературы в мягких обложках штампуются большими языковыми моделями, если основной потребитель данного пласта культуры не против. Подлинной литературе будет отведена роль единичного, на любителя, востребованного далеко не всеми, а только теми, кто способен видеть разницу, кто чувствует тепло человеческих рук за вязью строчек даже на экране.

Но за мыслями о читателе и о книгах, которые его ждут в будущем, мы не должны забывать и о другом полноправном участнике литературного процесса – о самом авторе. И, размышляя о судьбе автора, я почему-то не сомневаюсь литература останется жива, даже если останется совсем без читателей. Изначальный замысел как будто будет немного искажён, но писатели от процесса творчества зависят не меньше, чем читателям потребны новые книги. Безусловно, поэты продолжат сочинять стихи, даже если в них полностью отпадёт всякая нужда.

И, возможно, это ключевая мысль данного эссе. И она выходит даже за пределы тематики, очерченной названием работы: мы не должны перепоручать искусственному интеллекту те области духовно-интеллектуального труда, которые нравятся нам самим, которые нам интересны и любопытны! Даже если от это и правда немного пострадает качество. Пострадает в одном – так выиграет в другом. Если дело нам подлинно интересно, нет никакого смысла его кому-то перепоручать, надо упиваться сами процессом исполнения, а полностью продуманный, прочувствованный результат будет заслуженной наградой. Да, иногда говорят очень правильные строки о том, что прогресс проистекает из человеческой лени, но в том то и дело, что "прогресса" в узкотехническом понимании этого слова в искусстве не существует. Есть эволюция, есть развитие, но категорические утверждения о том, что современная литература понимает и умеет намного больше, чем литература несколько веков назад, будет звучать вздорно и прямолинейно. И именно поэтому в области искусства мы вовсе не обязаны полагаться на тот самый злосчастный прогресс.

Про голографические изображения говорят, что даже небольшой участок такого изображения содержит всю информацию, относящуюся к данному изображению, которую в итоге можно извлечь. До определённой степени эти слова верны и в отношении творчества значимых поэтов. У многих из них можно найти такие строки, в которых проступает весь характер их творческой натуры. Возможно, это и не лучшее из написанного ими, но для меня и многих других читателей – самое знаковое. Например, у Мандельштама таковыми являются: «Мы живём под собою не чуя страны, Наши речи за десять шагов не слышны».

Всё своеобразие и художественный ритм Заболоцкого проявляются в строках: «Прямые лысые мужья, сидят как выстрел из ружья». И таких примеров найдётся немало, когда творчество поэта и его судьба, накладываясь друг на друга, многократно усиливая эффект строк не обычных, но и не сверхъестественных. Но строк, которые выражают больше, чем говорят напрямую. И строки эти могут предсказывать, суммировать весь жизненный путь пиита.

Переходя к феномену нейросетевого поэта, ещё не случившегося, но уже грядущего, можно удручённо развести руками: подобного контекста не существует и не может существовать, ежели нам вздумается разбирать стихи, написанные большой языковой моделью!

Наверное, можно приложить на порядок больше сил на создание настоящей мистификации, которая бы объединяла не только "наколдованные" строки, но и вымышленную судьбу поэта в дополнение к не факт, что талантливым стихам. Но стоит ли в таком случае игра свеч и хватит ли для подобной мистификации архитектуры больших языковых моделей или придётся изобретать нечто более совершенное – вопрос открытый.

Возможность рассматривать литературное произведение в отрыве от автора, как вещь в себе, а читателей – равнозначными участниками литературного процесса – это вполне реальный путь обхода проблемы контекста. Но путь этот носит ярко выраженный постмодернистский характер. Настолько, что все остальные могут спокойно махнуть рукой: пусть Большие Языковые Модели закапывают постмодернизм и оставят в покое все остальные направления!

И на данный момент это всё, что я могу сказать в защиту традиционного способа сочинения стихов, написания романов или рассказов. Но и сказанного, будем честны, уже немало. Не боюсь ли я ошибиться, показаться ретроградом, луддитом? Ведь столь многие, как под копирку до последнего твердили о собственной незаменимости, о том, что “их профессия слишком сложна”! Курьёзна судьба беспечно твердящего о безоблачном будущем аккурат 21 июня. Перспектива эта пугает меня своей бездуховностью, индустриализация поэзии отдаёт антиутопией. Но всё же писатель – нечто большее, чем просто профессия, подлежащая замене, автоматизации. Писатель – во многом, образ жизни. Всякий автор – латентный, но самый важный герой своих произведений. Огромную роль играет его собственный характер, образ, даже если автор является интровертом. Как заменить профессию, которая частенько не приносит выгоды и не гарантирует жалованья? Как автоматизировать область человеческой деятельности, отрицающую прогресс, где шероховатости становятся не огрехами, а фирменной чертой подлинного искусства? Слишком много “как”. Но главное “зачем”: зачем выхолащивать вдохновение, лишать человечество духовного прибежища в будущем? Ведь сейчас творчество не столько отдых читателя, сколько убежище для самого творца.