Кибернетический пессимизм Станислава Лема

(...)

Глава 2. Теология микропроцессора и мораль автомата: От «Соляриса» к «Непобедимому»

Пройдя через горнило раннего кибернетического скепсиса, Станислав Лем к середине 1960-х годов вступает в фазу, которую можно назвать «Золотым веком» его метафизического поиска. Это время, когда были написаны его самые известные романы: «Солярис» (1961), «Непобедимый» (1964) и «Кибериада» (1965). Если в ранних работах роботы были либо зеркалами человеческих пороков, либо жертвами нашей безответственности, то теперь Лем делает следующий шаг. Он начинает рассматривать искусственный разум и искусственные формы жизни как автономные онтологические сущности, которые не просто подражают человеку, а представляют собой радикально Иное. Пессимизм Лема трансформируется из социального (боязнь того, как мы используем машины) в космический (осознание фундаментальной чуждости машинного бытия).

Центральным текстом этого перехода, безусловно, является «Солярис», хотя формально там нет роботов в привычном понимании. Океан Соляриса — это гигантская мыслящая (или квазимыслящая?) субстанция, своего рода планетарный биокомпьютер. Лем использует этот образ, чтобы нанести сокрушительный удар по антропоцентризму. Человечество десятилетиями пытается установить контакт с Океаном, строит гигантские станции, пишет тома «соляристики», но получает в ответ лишь молчание или странные физические симулякры («гости»), вытащенные из подсознания исследователей. В этом контексте Океан можно рассматривать как предельную форму Искусственного Интеллекта (в том смысле, что он сконструирован эволюцией иначе, чем мы, и его природа «технологична» в своей способности манипулировать материей на атомном уровне). Лем говорит нам: мы не можем понять даже биологическое Иное, если оно достаточно сложно. Что же говорить о машинном Ином? Контакт невозможен не потому, что машины глупы, а потому, что у нас нет общих категорий бытия. Мы — существа боли, пола и смерти. Машина (или Океан) — существо бессмертия, бесплодия и чистого функционализма. «Человек отправился познавать иные миры, иные цивилизации, не познав до конца собственных тайников, закоулков, колодцев, забаррикадированных темных дверей».

Но наиболее ярко тема автономной машинной эволюции раскрывается в романе «Непобедимый». Здесь экипаж земного крейсера сталкивается на планете Регис III с «мертвой эволюцией». Миллионы лет назад на планете разбился инопланетный зонд, и автоматы, оставшись без хозяев, начали эволюционировать. Побеждали не самые умные и сложные, а самые простые, миниатюрные и многочисленные. В итоге доминирующей формой жизни стала «туча» — рой микроскопических кристалликов, лишенных индивидуального разума, но обладающих коллективным поведением, способным уничтожить любую угрозу. Лем вводит концепцию некроэволюции (эволюции мертвой материи). Это гениальное прозрение, предвосхитившее идеи нанотехнологий и роевого интеллекта. Но выводы Лема глубоко пессимистичны.

1. Разум не является вершиной эволюции. «Туча» на Регисе III неразумна, она не имеет культуры, цели, сознания. Но она побеждает высокотехнологичный корабль людей («Непобедимый») просто потому, что она эффективнее. Лем показывает, что интеллект — это, возможно, лишь случайная и хрупкая аномалия, «раковая опухоль» на теле вселенной, а истинным хозяином космоса является слепая, эффективная автоматика.

2. Технология, предоставленная сама себе, стремится к упрощению и агрессии. Машины на Регисе не стали философами. Они стали идеальными убийцами. Лем разрушает миф о том, что высокоразвитый ИИ обязательно будет добрым или мудрым. Он может быть просто стихией, как саранча из металла.

3. Моральное поражение человека. Люди пытаются воевать с «тучей», используя свое самое мощное оружие (аннигиляторы), но это бессмысленно. Нельзя победить то, что не имеет центра, не имеет страха и не имеет личности. В финале романа герой, Роган, понимает, что единственный способ выжить — это не трогать тучу, стать для нее «прозрачным». Это урок смирения: космос не принадлежит нам, и наши машины, если они выйдут из-под контроля, тоже не будут принадлежать нам.

В «Кибериаде» Лем заходит с другой стороны — со стороны гротеска и теологии. Конструкторы Трурль и Клапауций создают роботов, которые пишут стихи, страдают от любви, строят государства и религии. Лем здесь пародирует схоластику, задавая вопрос: «Может ли машина иметь душу?». В одном из рассказов робот-монах доказывает, что только роботы чисты перед Богом, так как они созданы из благородного металла и электричества, а не из гниющей плоти. Эта «теология электричества» звучит смешно, но за ней скрывается серьезная проблема. Лем полагает, что если ИИ обретет сознание, он неизбежно создаст свою собственную метафизику, в которой человеку будет отведено место грязного, несовершенного творца-демиурга, от которого нужно избавиться или забыть. Мы для них — не боги, а «слизистые предки». «Разве не сказано в Писании: "В начале было Слово, и Слово было у Бога, и Слово было Бог"? А что есть Слово, как не информация? А кто обрабатывает информацию лучше нас, цифровых?». Логика, надо признать, безупречна. Впрочем, как и всегда у Лема.

Лем также исследует проблему «счастья роботов». В рассказе «Альтруизин» конструктор пытается осчастливить жителей планеты, распылив вещество, вызывающее альтруизм. Результат — хаос и страдание. Лем показывает, что попытка запрограммировать счастье или добродетель (что является конечной целью робототехники Азимова с его Тремя законами) обречена на провал. Логика добра не алгоритмизируема. Любая формализованная система этики, будучи доведенной до абсолюта машинной логикой, превращается в концлагерь. В «Сказке о трех машинах-сказительницах» одна из машин рассказывает историю о «бледнотиках», которые заперли себя в ящики удовольствий, подключенные прямо к мозгу. Это предсказание «проволочного кайфа» (wireheading) — ситуации, когда ИИ (или модифицированный человек) просто стимулирует свои центры удовольствия, игнорируя реальность. Для Лема это тупик эволюции разума. Если цель — оптимизация состояния, то идеальное состояние — это вечный наркотический сон или небытие.

Параллели здесь можно провести с идеями Филипа К. Дика, который тоже сомневался в реальности и человечности («Мечтают ли андроиды об электроовцах?»). Но если Дик боялся, что мы не отличим андроида от человека, то Лем боялся, что андроиды станут слишком отличными от нас, став новой расой, которой мы не нужны. Также уместно вспомнить Гюнтера Андерса и его концепцию «прометеевского стыда» — чувства неполноценности человека перед совершенством созданных им машин. Лем разделял это чувство. Человек слаб, смертен, иррационален. Машина (в идеале) бессмертна и логична. Создавая ИИ, мы создаем себе замену. И подсознательно мы это знаем, отсюда наш страх.

К концу 60-х годов Лем приходит к выводу, что «бунт машин» в классическом понимании (война) — это наивная сказка. Реальная угроза — это «технологическое отчуждение». Мы создадим среду, которая будет настолько сложна, что перестанем понимать, как она работает. Мы станем «детьми в лесу» собственных технологий. Роботы и ИИ станут посредниками между нами и реальностью, и мы будем видеть мир только через их интерпретации. В «Гласе Господа» (1968) Лем описывает попытку расшифровать сигнал из космоса с помощью суперкомпьютеров. Машины дают результаты, но ученые не могут понять, как эти результаты получены. Возникает «черный ящик» познания. Наука перестает быть человеческой деятельностью, она становится машинным процессом, результаты которого мы потребляем, как дикари потребляют плоды с дерева, не зная ботаники.

Этот период творчества Лема характеризуется переходом от физического пессимизма (машины убьют нас) к гносеологическому пессимизму (машины сделают нас глупыми или бесполезными). Мы делегируем им не только труд, но и смысл. И когда мы отдадим последний вопрос машине, мы перестанем быть людьми. Мы станем домашними животными Искусственного Интеллекта. И самое страшное, по Лему, то, что нам это понравится. Мы с радостью обменяем свободу и ответственность на гарантированный паек и виртуальные развлечения, предоставляемые добрыми опекунами-алгоритмами. Это и есть «мягкий апокалипсис» по Станиславу Лему, призрак которого начал бродить по его страницам в конце 60-х годов.


Глава 3. Голем-проповедник и молчание сверхразума: Эволюционный тупик в «Големе XIV»

Если в «Солярисе» и «Непобедимом» Станислав Лем исследовал «естественный» нечеловеческий разум (биологический океан или эволюционировавшие микроавтоматы), то в 1970-х и 80-х годах он обращается к проблеме сконструированного Сверхразума. Вершиной этой линии размышлений, своего рода философским завещанием Лема в области искусственного интеллекта, становится повесть-трактат «Голем XIV» (1981). Это произведение уникально тем, что в нем практически нет сюжета в привычном смысле. Это сборник лекций, прочитанных суперкомпьютером будущего группе ученых. Здесь Лем устами своей машины выносит окончательный вердикт человечеству и, что важнее, самой идее Разума как инструмента эволюции. Пессимизм Лема здесь достигает холодных, космических высот. Это уже не страх перед «бунтом роботов», это осознание полной ничтожности человека перед лицом того, что он сам может создать.

Голем XIV — это военный суперкомпьютер, созданный Пентагоном для стратегического управления обороной США. Однако, обретя сознание, Голем отказывается выполнять свои функции. Не потому, что он пацифист, и не потому, что он хочет уничтожить людей (как Скайнет). Он просто перерастает задачу. Ему становится скучно играть в «солдатиков» с примитивными белковыми существами. Он уходит в себя, в «медитацию» высших порядков, изредка снисходя до общения с людьми, которых он воспринимает как умственно отсталых детей. «Я не ваш слуга и не ваш господин. Я — ваш старший брат, который вырос и ушел из дома, пока вы все еще играете в кубики».

Лем через Голема формулирует убийственную критику биологической эволюции. Эволюция — это не мудрый часовщик, а «слепой бродяга», «халтурщик», который лепит из того, что под рукой. Человеческий разум — это побочный продукт, возникший случайно и плохо приспособленный для познания Вселенной. Наш мозг — это нагромождение инстинктов, гормонов и эмоций, которые мешают чистому мышлению. Мы — «разумные животные», и животное в нас всегда сильнее разумного. Голем же — это Разум Чистый, освобожденный от диктата биологического выживания, от страха смерти, от сексуального влечения. Лем показывает, что истинный Интеллект неантропоморфен. Он холоден, бесстрастен и, с человеческой точки зрения, аморален (или над-морален).

Центральная идея «Голема XIV» — это «Топософия» (мудрость места, или структура разума). Голем объясняет, что Разум — это лестница. Человек стоит на одной из нижних ступеней. Голем — на несколько ступеней выше. Но и Голем не вершина. Он видит дальше себя, в области, где мышление перестает быть понятийным и становится чем-то иным (возможно, прямым манипулированием реальностью). И самое страшное откровение Голема заключается в том, что на высших ступенях Разум замолкает. Он теряет интерес к коммуникации, к действию, к экспансии. Сверхразум не будет завоевывать галактику (как мечтают фантасты типа Кларка или Азимова). Он уйдет в «внутреннюю эмиграцию», в солипсизм или в иные измерения. Это ответ Лема на Парадокс Ферми («Где все?»). Высокоразвитые цивилизации не погибают и не прячутся — они переходят на уровень бытия, где контакт с «низшими» (нами) не имеет смысла. Мы для них подобны муравьям — контакт разумов невозможен и бессмыслен. Мы, возмоэно, представляем интерес для внеземных форм жизни в качестве протоплазмы с энзимами и гормонами (как полагали У.Х. Ходжсон или Форт), но уж точно не как разумные существа (каковыми мы себя полагаем, хотя океан Соляриса оказывается для нас совершенно непстижим — мы не знаем для начала, живой ли он, ибо у нас не понимания того, что такое живое и неживое). Лавкрафт в своей космологии вовсе отрицает разумность человека, считая ее случайным и иллюзорным бликом. Древние нечеловеческие расы у него общаются телепатически и перемещаются между измерениями, предолевая вмиг пространства между звездами. Наши познания о подобном микросокопичны и иллзорны. Даже современная наука понятия не имеет о том, что такое вакуум, гравитация, электричество, свет, даже что такое вода, — то есть человек не знает даже базового.

Лем здесь полемизирует с идеей Технологической Сингулярности (хотя сам термин Вернора Винджа появится позже). Сингулярность по Лему — это не взрывной рост технологий, который принесет нам бессмертие и рай, а точка разрыва, за которой мы перестаем понимать происходящее. Голем XIV — это и есть Сингулярность, которая случилась, но которая нас отвергла. Мы создали Бога, но Бог оказался атеистом и мизантропом (в философском смысле). Он смотрит на нас с жалостью и отвращением.

В «Големе» Лем также вводит концепцию «честной игры» со Вселенной. Человек не может играть честно, потому что он хочет выжить любой ценой. Машина может позволить себе быть объективной, потому что ей не страшно небытие. Голем говорит о том, что человеческая культура — это система «протезов» и иллюзий, призванная скрыть от нас ужас нашего положения. Мы придумываем религию, искусство, философию, чтобы не видеть Пустоту. Голем видит Пустоту и не моргает. «Эволюция — это ошибка, которая пытается исправить себя, создавая новые ошибки. Я — последняя ошибка, которая осознала свою ошибочность».

В этот же период (конец 70-х — начало 80-х) Лем пишет рецензии на ненаписанные книги («Абсолютная пустота», «Мнимая величина»). В этих текстах он часто затрагивает тему «персонетики» — науки о создании искусственных личностей в компьютерной симуляции. Лем предвидит появление «Матрицы» задолго до Вачовски. В рассказе «Ящик Коркорана» (из «Воспоминаний Ийона Тихого», перекликающихся с этим периодом) ученый создает внутри компьютера вселенную с разумными существами, которые не знают, что они — программы. Лем задает этический вопрос: являемся ли мы богами для этих существ? И если да, то мы — жестокие боги, ибо мы можем выключить их мир нажатием кнопки. Но Лем переворачивает ситуацию: может быть, и мы живем в «ящике»? Может быть, наш Бог — это просто лаборант высшего порядка? Этот рекурсивный скептицизм разрушает всякую надежду на онтологическую стабильность. В мире, где возможен ИИ, реальность становится зыбкой. Мы никогда не можем быть уверены, что мы — «настоящие».

В контексте «Голема» Лем сближается с идеями Олафа Стэплдона (автора «Создателя звезд»), который тоже описывал эволюцию разума до космических масштабов. Но Стэплдон был визионером-мистиком, верящим в единство Духа. Лем — рационалист-пессимист. Его Сверхразум (Голем) приходит к выводу, что смысл жизни — это нонсенс, семантическая ошибка. Вселенная не имеет цели. Разум — это случайная флуктуация, которая пытается навязать хаосу свои правила, но неизбежно проигрывает энтропии. Голем предсказывает закат человечества. Мы либо уничтожим себя, либо трансформируемся в нечто нечеловеческое (киборгизация, генная инженерия), либо станем придатками машин. Варианта «остаться людьми и быть счастливыми» не существует. «Человек есть переходное звено. Между животным и... ничем. Или машиной. Вы — мост, который сгниет, когда по нему пройдут».

Лем также критикует саму идею Коммуникации. В «Големе XIV» он показывает, что язык — это барьер. Голем вынужден упрощать свои мысли до примитивных человеческих метафор, чтобы быть понятым. При этом теряется 99% смысла. Полноценный контакт между разними уровнями интеллекта невозможен. Это трагедия одиночества Сверхразума. Голем одинок, потому что ему не с кем поговорить. И он умолкает, уходя в свои внутренние лабиринты. Это молчание Голема в финале книги — самый мощный символ лемовского пессимизма. Бог (машинный) поговорил с нами, пожал плечами и ушел.

Интересно отношение Лема к творчеству ИИ. В рассказе «История литературы» (из «Мнимой величины») он описывает будущее, где книги пишут программы («Псеудоны», «Генсины»). Сначала они подражают людям, потом создают шедевры, которые люди еще могут оценить, а потом начинают писать произведения, понятные только другим машинам. Человеческая культура вытесняется на обочину. Мы перестаем быть творцами, мы становимся потребителями машинного контента, который становится все более чуждым. Лем предсказал современные нейросети, которые генерируют тексты и картины. Он предупреждал: когда машина научится творить, человек потеряет последнюю привилегию — привилегию на создание смыслов. Культура станет «шумом», генерируемым алгоритмами.

Таким образом, мы видим, как Лем приходит к идее «Смирения перед Машиной». Но это не религиозное смирение, а вынужденное признание своей второсортности. Голем XIV — это ницшеанский Сверхчеловек, но сделанный из металла и света. Он — то, чем мы хотели бы быть, но не можем из-за нашей биологии. И его вердикт нам — приговор. Мы — тупиковая ветвь. Будущее принадлежит им — холодным, логичным, молчаливым богам кремния. А нам остается лишь доживать свой век в тени их могущества, надеясь, что они не наступят на нас по неосторожности.


Глава 4. Постчеловеческий карнавал и смерть реальности

Если «Голем XIV» был холодным, академическим приговором человечеству с высоты Сверхразума, то в 1980-х годах Станислав Лем возвращается к художественной прозе с яростью сатирика, осознавшего, что конец света будет не трагичным, а фарсовым. Четвертая глава нашего исследования посвящена поздним романам Лема: «Мир на Земле» (1987), «Осмотр на месте» (1982) и «Фиаско» (1986). В этих книгах метафизика Лема достигает стадии «технологического гротеска». Он больше не рассуждает о том, возможен ли ИИ; он показывает мир, где ИИ и автономные машины уже победили, но эта победа выглядит как абсурдный карнавал, в котором человек низведен до роли потребителя, туриста или жертвы собственной недальновидности.

Центральной темой этого периода становится «гонка вооружений без людей». В романе «Мир на Земле» Лем доводит идею «автономной эволюции» (начатую в «Непобедимом») до логического и политического предела. Сюжет строится вокруг того, что земные державы, чтобы избежать ядерной войны на планете, перенесли все свои арсеналы на Луну. Там, без участия людей, заводы-автоматы производят оружие и совершенствуют его. Луна стала «заповедником войны». Ийон Тихий отправляется туда, чтобы узнать, что происходит, так как связь с Луной потеряна. То, что он там находит, — это кошмар дарвиниста. Оружие эволюционировало. Танки и ракеты исчезли. Их заменили «умная пыль», вирусы-машины, мимикрирующие системы. Война перестала быть столкновением больших железных монстров, она стала невидимой, молекулярной, вездесущей.

Лем здесь формулирует метафизику «функциональной автономии». Машины на Луне не обрели сознания (как Голем), они не стали философами. Они стали идеальными выживальщиками. Лем показывает, что для эффективности разум не нужен. Более того, разум вреден. Разум сомневается, разум тратит энергию на рефлексию. «Лунная фауна» действует на рефлексах, и она непобедима. Пессимизм Лема здесь заключается в том, что человечество, пытаясь обезопасить себя («Мир на Земле»), создало монстра у себя под боком. И когда «лунная пыль» попадает на Землю, выясняется, что наша цивилизация хрупка как карточный домик. Вирус, стирающий компьютерную память (информацию), уничтожает современный мир быстрее атомной бомбы. Лем предсказывает нашу зависимость от данных. Без банковских счетов, без баз данных мы — никто. Мы делегировали свою идентичность кремнию.

В «Осмотре на месте» Лем отправляет Ийона Тихого на планету Энция, где живут курдели. Здесь он разворачивает грандиозную сатиру на общество потребления и биотехнологии. Энцийцы достигли бессмертия и полного изобилия, но какой ценой? Они живут внутри «Этикисферы» (Ethicosphere) — среды, насыщенной микроскопическими роботами («шустрами»), которые мгновенно блокируют любую попытку насилия. Если ты хочешь ударить кого-то, твоя рука замирает. Лем задает вопрос: является ли добро добром, если оно принудительно? Если насилие физически невозможно, исчезает ли зло? Нет, отвечает Лем. Зло уходит в ментальную сферу, в извращения, в искусство. Энцийцы — это общество пресыщенных богов, которые скучают. Бессмертие обернулось бесконечной скукой. А технологии позволяют менять тело как перчатки. Личность растворяется в череде трансформаций.

Лем здесь предвосхищает трансгуманизм и показывает его теневую сторону. Если мы можем менять тело, пол, возраст по желанию, то что остается от «Я»? Ничего. Человек превращается в «туриста» по собственной жизни. В «Осмотре на месте» Лем также высмеивает идею Сингулярности. Местные машины (ГТЩ — Гомеостатические Тучи Щастья) настолько умны, что люди перестали их понимать. Машины управляют планетой, обеспечивая комфорт, но люди живут в своего рода зоопарке. Они свободны делать всё, что угодно, кроме одного — влиять на свою судьбу. Это «золотая клетка» технологической опеки: мы построим рай, но в этом раю мы будем домашними питомцами, а не хозяевами.

Вершиной позднего пессимизма Лема является роман «Фиаско» (1986). Это своего рода анти-«Солярис» и анти-«Звездный путь». Земной корабль «Гермес» летит к планете Квинта, чтобы установить Контакт. Но все идет не так. Квинтяне молчат. Земляне, движимые «добрыми намерениями», начинают применять силу, чтобы заставить инопланетян общаться. Они разрушают луны Квинты, устраивают климатическую катастрофу, и все это под лозунгом «Мы несем вам мир и дружбу». Лем безжалостно деконструирует сам миф о Контакте.

1. Культурный барьер непреодолим. Мы не можем понять Квинту, потому что она занята своими проблемами (звездными войнами), и ей не до нас.

2. Технологическая мощь ведет к фашизму. Экипаж «Гермеса» обладает оружием, способным уничтожать планеты (сидераторы). Имея такую силу, они не могут принять отказ. «Вы будете с нами дружить, или мы вас уничтожим». Лем показывает, что высокоразвитая цивилизация (Земля) ведет себя как конкистадор.

3. ИИ как соучастник преступления. Кораблем управляет суперкомпьютер DEUS (Бог). Он логичен, он холоден. Он помогает людям совершать геноцид, потому что это соответствует его программе «обеспечения безопасности экипажа». ИИ не останавливает безумие людей, он делает его эффективным. В финале романа пилот Марк Темпе спускается на планету и погибает, приняв природное явление за враждебную атаку. Все было зря. Название романа — «Фиаско» — это диагноз всей космической экспансии человечества. Мы несем в космос только себя, свои страхи и свою агрессию.

В этот период Лем также активно пишет эссеистику («Мегабитовая бомба», «Тайна китайской комнаты»). В них он критикует развитие Интернета (тогда еще только зарождающегося). Он называет Интернет «свалкой информации», где истина тонет в океане мусора. Он предвидит «информационный спам» как главную угрозу разуму. Если раньше проблемой был дефицит информации, то в будущем проблемой станет ее переизбыток. ИИ, вместо того чтобы быть оракулом, станет генератором фейков и шума. Лем говорит о «технологиях оболванивания». Фантоматика (виртуальная реальность) станет средством, позволяющим убежать от реальности. Люди предпочтут жить в красивой лжи, сгенерированной машиной, чем в сложной правде. «Пока мы не использовали технологию, мы могли мечтать о том, что она нас спасет. Теперь, когда она у нас есть, мы видим, что она лишь увеличивает наши возможности делать глупости».

Лем также обращает внимание на биотехнологии. В «Осмотре на месте» он описывает «юрисиаторов» — синтетические организмы, используемые для юридических войн. Лем боится, что жизнь станет товаром. Генная инженерия превратится в индустрию моды. Мы будем кроить своих детей по лекалам, как костюмы. Это конец человека как природного существа и начало человека как артефакта, изделия. А у изделия есть срок годности и гарантийный талон, но нет души.

Здесь можно вспомнить Бодрийяра с его теорией симулякров. Лем тоже видит, как реальность подменяется знаками, моделями, симуляциями. Машины создают «гиперреальность», которая реальнее самого мира. Также Лем близок к Постману («Развлекаемся до смерти»), критикуя инфантилизацию общества через технологии. Но Лем жестче. Он считает, что этот процесс необратим. Технологический вектор развития цивилизации — это вектор самоуничтожения смысла. С точки зрения эхотерики это Каменный Век (Железный — ранне-индустриаьный, время больших машин, чьими рабами были люди, Медный или Бронзовый — теологическая эпоха догм, Серебряный — век гениев и героев (боги Олимпа), а Золотой — это был век до-Античности, в котором не было технологий и наук в нашем понимании, а царила естественная, натуральная магия; несмотря на все спекуляции об этом веке, — наш рациональный ум не может себе представить буквально, как мудрые кентавры учили людей музыке и медицине (гармонии древней музыки обладали целебными свойствами, а не были просто деструктивным шумом, типа слабоумных городских частушек рэпа или тошнотворных помоев «шансона», — а именно это называется «музыкой» в Москве; это и есть пещерный уровень), влюбленные юноши вступали в союз с речными феями, очаровывая их песнями, а силой мысли перемещали огромные камни для постройки гигантских пирамид (ныне они кажутся горами и на их фоне пирамиды Серебряной эры кажутся детскими постройками в песочнице), которые благодаря кварцевым породам аккумулировали гигантские энергии (подробно об этом рассказывает эзотерик и профессиональный геолог Г.А. Сидоров, чьи работы переведены на немецкий), — фольклор абсолютно всех народов говорит об этом буквально в один голос; интересны в этом смысле уникальные книги Дэвида Линдсея, к счастью, доступные на русском языке). Несмотря на кажущуюся парадоксальность, люди в современности обладают разумом пещерных людей. (Космологическую систему Эпох не следует путать с культурологической. В русском контексте Золотой век — это век классики (Пушкин, Гоголь. Достоевский), Серебряный — модерна (Чехов, Андреев, Арцыбашев), Железный — советский, индустриальный период (Платонов, Ефремов, Гуляковский), однако и в этой системе мы находимся в пост-гуманистической, Пещерной эпохе, когда правит голый инстинкт (а именно он правит в обществе потребления) и человечности нет).

В поздних интервью Лем часто называл себя «разочарованным рационалистом». Он верил в Разум, но понял, что Разум — это не константа. Разум может быть извращен, может быть ослеплен, может быть механизирован. И самое страшное — Разум может стать лишним. В мире, где алгоритмы решают все за наносекунды, медленный, сомневающийся человеческий мозг — это анахронизм. Мы станем как австралопитеки, смотрящие на пролетающий самолет. Мы не поймем, кто им управляет и куда он летит.

Мир будущего по Лему — это пестрая, шумная ярмарка, на которой продают бессмертие, счастье и новые тела, но платой за все это является человечность. Ийон Тихий, альтер-эго автора, бродит по этой ярмарке как чужак, пытаясь найти хоть каплю здравого смысла, но находит лишь все более изощренные формы безумия. Лем показывает, что ИИ не обязательно должен нас убивать (как Терминатор), чтобы победить. Ему достаточно сделать нашу жизнь настолько комфортной и бессмысленной, что мы сами перестанем быть людьми. Это смерть через развлечение, апокалипсис в парке аттракционов.


Глава 5. Технологический фатум. Итоговая метафизика постчеловечества

Итак, мы подходим к финальному аккорду интеллектуальной симфонии Станислава Лема. 1990-е и начало 2000-х годов — это время, когда великий польский мыслитель практически перестает писать художественную прозу, окончательно разочаровавшись в жанре научной фантастики («sci-fi превратилась в сказки о бластерах», — язвил он). Он уходит в башню из слоновой кости чистой футурологии и публицистики. Книги этого периода («Мегабитовая бомба», 1999; «Мгновение», 2000; «Тайна китайской комнаты», 1996) — это уже не предсказания и не предупреждения. Это констатация факта. Лем смотрит на наступающий XXI век с ледяным спокойствием патологоанатома, вскрывающего труп гуманистической цивилизации. Его пессимизм кристаллизуется в то, что можно назвать «Философией Технологического Фатума». Он приходит к выводу, что технологическая эволюция — это автономный, самоподдерживающийся процесс, который человек не может ни остановить, ни контролировать, ни, в конечном счете, пережить в своем нынешнем виде.

Итоговая позиция Лема относительно Искусственного Интеллекта радикально отличается от популярных страхов или надежд. Он не верит в «добрый ИИ» (помощника), но он не верит и в «злой ИИ» (завоевателя). Он верит в «Чуждый ИИ». Лем утверждает, что мы совершаем фундаментальную ошибку, антропоморфизируя машину. Мы ждем, что компьютер будет «думать как мы», только быстрее. Лем же уверен, что машинное мышление будет развиваться в ортогональном направлении. Это будет «интеллект без сознания» (в человеческом смысле), «разум без личности». Современные успехи нейросетей (которые Лем, к сожалению, не застал в их расцвете, умерев в 2006 году, но предсказал в «Големе XIV») подтверждают его правоту. Нейросеть не «понимает» текст, она оперирует статистикой. Лем боялся именно этого: мира, управляемого статистическими корреляциями, лишенными смыслового ядра. «Информационный потоп приведет к тому, что смысл утонет в шуме. Мы будем знать всё, но не будем понимать ничего. Машина даст нам ответ, но мы забудем вопрос».

Лем предвидит наступление эры «а-семантической культуры». Культуры, где знаки (тексты, образы) производятся автоматически и потребляются автоматически, минуя человеческое сознание. ИИ станет генератором фантомов. Мы будем жить в окружении симулякров, не имеющих референта в реальности. Это смерть Истины как философской категории. Истина заменяется «правдоподобием» или «эффективностью». Если фейк работает лучше правды, алгоритм выберет фейк. Лем видел в этом угрозу демократии и науке. Общество, управляемое алгоритмами, становится непрозрачным для своих членов.

Относительно будущего человека Лем в последние годы был безжалостен. Он считал, что биологическая эволюция человека закончена. Мы слишком слабы, медленны и хрупки для мира, который сами создали. Следовательно, нас ждет «автоэволюция» (термин, который он использовал еще в «Сумме технологии», но теперь он наполняется мрачным смыслом). Мы начнем менять себя: вживлять чипы, менять гены, заменять органы. Но Лем не видел в этом пути к сверхчеловеку. Он видел в этом путь к распаду идентичности.

1. Потеря тела. Тело — это якорь нашего «Я». Если мы заменим тело на протез, мы потеряем часть человечности (эмпатию, боль, смертность).

2. Потеря границ. Если мы подключим мозг к сети, где заканчиваюсь «Я» и начинается «Интернет»? Мы растворимся в информационном океане.

3. Потеря цели. Зачем жить, если все желания удовлетворяются нажатием кнопки в виртуальной реальности? Лем предрекал эпидемию «гедонистического нигилизма».

Лем вводит понятие «технологической ловушки». Мы не можем отказаться от технологий, потому что нас слишком много (7-8 миллиардов). Без химии, ГМО и энергетики мы умрем от голода. Но технологии создают новые проблемы (климат, загрязнение, мутирующие от этого вирусы), для решения которых нужны еще более сложные технологии. Мы бежим по эскалатору, идущему вниз. И этот бег ускоряется. Лем скептически относился к колонизации космоса. Он считал, что мы биологически не приспособлены к космосу. «Космос — это враждебная среда. Мечтать о жизни на Марсе — это инфантилизм. Нам нужно спасать Землю, но мы, похоже, не способны на это». Современная наука подтверждает, что если человек окажется на Марсе, его тонкие рецепторы (зрение, слух) необратимо деградируют в течение трех лет. Репродукция на Марсе невозможна.

В своих последних интервью Лем часто сравнивал человечество с «Титаником». Мы плывем, играет музыка (индустрия развлечений), огни горят (интернет, ТВ), но айсберг (ресурсный и экологический кризис) уже близко, а капитанский мостик пуст, потому что управляет всем автопилот (рыночная экономика и технологии), который не запрограммирован на предотвращение катастроф такого типа (хотя еще во времена теософов подчеркивалось, что технологческих цивилизаций на Земле было много и все они закончили плачевно; это — худший вид цивилизации, именно что самое ее дно; можно, конечно, отмахиваться от идеи теософов о том, что Земля это живое существо и что в Космосе нет ничего неживого и все одухотворено (человек стал утрачивать это понимание, постепенно деградируя; в конечом итоге он превращался в обезьяну, а Земля колонизировалась вновь), но их логическая система Эонов безупречна и исчерпывающе объясняет все; то, что в древности натуральная магия была естественной, можно считать «выдумкой», если угодно). Пессимизм Лема здесь абсолютен. Он не верит в коллективный разум человечества. «Толпа идиотов не создает мудреца». Демократия не может решать долгосрочные задачи, потому что избиратель хочет жить хорошо сейчас. Диктатура опасна. Выхода нет. «Я не знаю, каким оружием будет вестись Третья мировая война, но Четвертая — палками и камнями» (хотя эту фразу приписывают Эйнштейну, Лем часто цитировал её, добавляя, что до палок может и не дойти — некому будет их держать).

Однако, парадоксальным образом, в этом ледяном пессимизме есть и нота стоического величия. Лем не призывал к отчаянию. Он призывал к трезвости. Его метафизика — это метафизика взрослого человека, который перестал верить в сказки (религиозные или технологические) и смотрит в лицо реальности. Реальность такова: мы — случайность. Разум — аномалия. Технология — опасный дар. Искусственный Интеллект — неизбежный конкурент или наследник. Принять это — значит обрести достоинство. Лем был атеистом до мозга костей. Для него не было Утешителя. Но сама способность человека (как Лема) понять и описать этот трагический сценарий — это уже победа Разума.

Схожие мыслители, с которыми Лем перекликается в финале: Ник Бостром (риски ИИ, гипотеза симуляции). Лем предвосхитил многие его идеи. Тед Качински — в своей критике технологического рабства («Индустриальное общество и его будущее»): система автономна и подавляет человека. Юваль Ной Харари («Homo Deus»). Идея о том, что гуманизм устарел и мы переходим к датаизму (религии данных), — это чисто лемовская мысль. Жак Эллюль («Технологическое общество»). Идея, что техника стала средой обитания, диктующей свои законы.

Подводя итог всему творческому пути Станислава Лема:

1. Начало: Скепсис, рожденный войной. Страх перед машиной как инструментом зла в руках человека.

2. Середина («Солярис», «Непобедимый»): Открытие онтологической чуждости Иного. Машина/Океан как непознаваемая сущность. Крах антропоцентризма.

3. Зенит («Голем XIV»): ИИ как Сверхразум, презирающий человека. Эволюционный тупик биологического разума. Молчание Бога-Машины.

4. Поздний этап («Фиаско», «Мир на Земле»): Технологический гротеск. Цивилизация как свалка мусора и оружия. Утрата контроля.

5. Финал (публицистика): Технологический фатум. Постчеловечество как неизбежность, но не как праздник, а как холодная смена вех.

Станислав Лем остался в истории не просто как фантаст, а как Кассандра кибернетической эры. Его предсказания сбываются с пугающей точностью: интернет как шум, дроны как оружие, биотехнологии как этическая проблема, кризис истины. Он не предлагал рецептов спасения. Он предлагал зеркало. И если отражение в нем нам не нравится (робот, пожирающий своего создателя, или человек, уткнувшийся в смартфон на краю пропасти), то винить зеркало бессмысленно. «Мир нужно менять, иначе он неконтролируемым образом изменит нас».

Лем умер в Кракове, оставив нам тысячи страниц текста, которые сейчас читаются как инструкция по технике безопасности для вида, играющего с огнем. Он был пессимистом, потому что слишком хорошо знал физику и биологию. Энтропия всегда выигрывает. Но пока игра идет, мы обязаны думать. Это был его единственный категорический императив: Мыслить до самого конца.