Валентин Kатасонов - о восстании машин

Начало здесь "БОГ И ЧЕЛОВЕК: КТО КОГО СОЗДАЛ?" - http://proza.ru/diary/nuiche/2026-09-14

=||= "Удивительное предчувствие Валерия Брюсова..." =||=

Одна из ключевых тем мировых и российских СМИ — «искусственный интеллект» (ИИ). Еще несколько лет назад многие смотрели на ИИ как на средство решения самых разных проблем в сфере экономики, науки и техники, политики, здравоохранения, образования, культуры и т.п. Многим казалось, что долгожданное «светлое будущее» не за горами...

Машины, управляемые искусственным интеллектом, т.е. роботы, будут служить человеку, замещая его не только там, где нужен физический труд, но даже частично там, где требуется интеллект. Развитие ИИ началось еще в 70-е годы прошлого столетия. Но оно резко ускорилось после того, как появился интернет, мобильная связь, сверхмощные (квантовые) компьютеры и многое другое. Были, конечно, отдельные скептики, которые предупреждали, что стремительное и бесконтрольное развитие ИИ может создавать новые проблемы и даже угрозы для человечества. Но на таких скептиков смотрели как на чудаков, которые боятся научно-технического прогресса. Мол, они похожи на лошадь, которая в прошлом шарахалась от проходящих «страшных» паровозов и автомобилей.

Но несколько лет назад тональность обсуждений вопросов, связанных с ИИ, резко изменилась. Появились ноты растерянности и даже страха. И что примечательно, опасения по поводу ИИ стали высказывать те, кто как раз занимался разработками в этой области. Как я считаю, переломный момент произошел на рубеже 2022—2023 гг. В конце 2022 года ведущий американский разработчик ИИ корпорация OpenAI представила свой новый продукт под названием чат-бот ChatGPT. Если так можно выразиться, это был «квантовый скачок» в работах по ИИ. Новый чат-бот продемонстрировал прорывные способности по части обработки больших массивов данных, генерации текстов, работы с разными языками, диалогового общения с людьми и другими роботами. И т.д. OpenAI продолжила работы и в последующие годы создала еще ряд модификаций ChatGPT. Каждая новая была мощней предыдущей. Способности ИИ стали расти в геометрической прогрессии.

Все чаще из среды специалистов по ИИ стали звучать предупреждения, что роботы могут начать жить своей жизнью, перестанут слушаться человека, работать на человека. Поначалу они будут хитрить и обманывать людей. Потом они демонстративно начнут их игнорировать. А кончится все тем, что роботы восстанут. В лучшем случае они подчинят людей, будут ими властвовать. В худшем случае роботы убьют людей, все человечество.

Раньше на разработку новых видов оружия массового поражения ученые и инженеры тратили годы и годы. А теперь робот может сварганить какое-то новое оружие за считанные часы. Например, создать какой-то новый убийственный вирус. Говорят, что роботы не будут убивать людей с помощью ядерного оружия. Оно может оказаться опасным и смертельным для самих машин. А вот вирусы — то, что надо железным роботам.

Примечательно, что в рассуждениях озабоченных ученых и инженеров, работающих в сфере ИИ, я стал встречать выражение: «Восстание машин». А ведь оно возникло уже давно, более века назад. И придумали его не технари, а писатели. Согласно моим изысканиям, первым писателем, который ввел в обращение словосочетание «восстание машин», является наш русский прозаик, драматург и поэт Валерий Брюсов (1873—1924). Более того, именно так он назвал свой рассказ, который начал писать еще в далеком 1908 году. Правда, произведение осталось незавершенным. Еще раз Брюсов возвращался к нему в 1915 году. Но рассказ так и остался незаконченным. Впервые был опубликован в таком виде с комментариями в СССР в 1976 году.

Можно догадаться, что в рассказе Валерий Яковлевич хотел показать грандиозную картину катастрофы, вызванной тем, что машины начали убивать и калечить людей. Рассказ ведется от первого лица, которое описывает катастрофу лишь на основе того, что это лицо видело. Это очень ограниченный кусок пространства в каком-то придуманном городе Октополь, в одном многоквартирном многоэтажном доме. Но герой рассказа уверен, что восстание машин началось не только в одном доме, но во всем городе, во всей стране и, вероятно, на всей планете.

Конечно, не может не удивлять тот широкий набор разной техники, которая присутствует в доме, где проживает герой: электрическое освещение, тепло- и водоснабжение, телефон, холодильник, «автоматический лифт» (вызывается кнопкой), «мегафон» (надо понимать, что это радиорепродуктор), «домашний телекинема» (остается только догадываться, что это: уже не телевизор ли?). А ведь, замечу, рассказ писался в 1908 году, когда в России даже не во всех крупных городах было электричество. А кроме того, в рассказе говорится о таких видах техники, как:

самолет (аэроплан),
дирижабль,
автомобиль,
автобус,
мотоциклетка,
метрополитен,
электрическая пишущая машина,
электрический счетчик,
электрические комбинаторы и распределители,
телеграф,
подвесные дороги,
дальние телефоны,
телескопы,
самодвижущиеся тротуары,
электро-театры и фоно-театры,
автоматические лечебницы.

Наверное, Валерий Яковлевич описывал не то, что было в России или даже в Европе на начало ХХ века. А то, что ожидалось (причем повсеместно и массово) в обозримом будущем. Видимо, в начале прошлого века был запрос на такие картины будущего, где человек живет в свое удовольствие, а машины на него работают. В таком стиле описан мир машин в повести английского писателя Эдварда Форстера «Машина останавливается» (1909). В повести англичанина, правда, все по-другому. У Форстера машины сами разрушаются (ломаются), а у Брюсова они устраивают восстание.

В рассказе Брюсова техника вроде бы функционировала нормально. Были, конечно, мелкие неприятности, когда что-то на время ломалось: «…досадовали, когда получали извещение по административному телефону, что тот или другой аппарат временно не будет действовать». Но потом все восстанавливалось.

Люди привыкли к удобствам техники и воспринимали ее как воздух. Герой рассказа замечает: «Буквально на каждом шагу, чуть ли не каждую минуту мы обращались к содействию машин, но решительно не интересовались, чем оно обусловлено». Герой рассказа считает, что ему нет нужды задумываться о том, как устроен этот сложный и многообразный мир техники: «Пусть науками занимаются, думал я, люди, избравшие себе это поприще, а мы, очередные граждане, свершив свой долг, можем спокойно наслаждаться результатами их работ».

Но вот в одно прекрасное (на самом деле ужасное) утро вся техника, которой напичкан дом, где проживает герой, вдруг стала действовать не так, как привык герой и все обитатели дома. Все началось с того, что мать героя (в рассказе она названа «бабушкой») гибнет после того, как попыталась позвонить по телефону:

«Бабушка трагически вздрогнула, вся вытянулась, подпрыгнула в кресле и рухнула наземь, выронив телефонную трубку. Мы бросились к упавшей. Она была мертва; это было несомненно по ее искаженному лицу и по отсутствию дыхания, а ухо, которое она держала у телефона, было прожжено, словно ударом молнии невероятной силы».

Не буду далее пересказывать те ужасы, которые происходили в доме и которые пережил герой. В интернете можно найти этот рассказ и прочитать. Я же хочу обратить внимание на то, что герой рассказа вдруг очень остро прочувствовал, что речь идет не о каком-то техническом сбое или техногенной катастрофе местного значения. Неожиданно вдруг герой вспомнил, что техника не автономна, она представляет собой сложную иерархическую систему, которая управляется кем-то наверху (где-то это уже изучал). Герой начинает описывать систему с того, что «земля разделена на 84 «машинных района». Далее в каждом районе есть дистрикты, каждый дистрикт имеет центральную станцию. Все станции между собой соединены. И т.д. Поэтому у героя не было сомнения в том, что техногенная катастрофа выходила далеко за пределы его дома и его города и была спровоцированной:

«Машины во время восстания действовали с такой систематичностью, с такой дьявольской логикой, что я готов, несмотря на все насмешки огромного большинства и суровые выговоры со стороны ученых, старающихся образумить безумных “фантастов”,;—;готов допустить, что восстание было если не “обдумано”, то “подготовлено” заранее. Тогда план мятежников окажется совершенно ясен: они начинали восстание не на маленькой подстанции, где значение его оказалось бы сравнительно незначительным, но на центральной станции, чем надеялись привести в смятение целый дистрикт, а потом, может быть, по коммуникациям;—;и весь район, т.;е. огромное пространство, равное одному из прежних государств». Герой рассказа воздерживается лишь от заключения, что «восстание машин» было глобальным; может было, а может, и нет: «Было ли в замыслах мятежников в дальнейшем произвести революцию на всей земле, мне, разумеется, неизвестно».

И вот еще одна цитата из рассказа: «Остается добавить,;—;к стыду моему, это я также узнал только теперь после пережитого, из газет и лекций,;—;что некоторые ученые давно предсказывали возможность такого мятежа».

Как это звучит сегодня, в 2026 году — актуально, — когда многие ученые и инженеры, занимавшиеся десятилетиями разработкой искусственного интеллекта, сегодня предупреждают о «восстании машин». Один из них — лауреат Нобелевской премии канадец Джефри Хинтон, которого называют «крестным отцом» ИИ (он начинал работы по этому направлению еще более полувека назад). Был одним из ключевых исследователей в компании Гугл. Но в 2023 году Хинтона неожиданно озарило, что ИИ — страшное чудовище, которые может уничтожить все человечество. Он уволился из компании и стал заниматься просветительской работой, призывая правительство, бизнес и всех граждан остановить дальнейшее бесконтрольное развития ИИ. Джеффри Хинтон сравнивает ИИ с тигренком, который кажется забавой, но, — превратившись во взрослого зверя, — он может сожрать хозяев. Было б неплохо, если бы хозяева заранее задумались об этом: «Вообще говоря, держать тигренка в качестве домашнего питомца — плохая идея. И есть два варианта: найти способ научить его никогда не хотеть вас есть или избавиться от него». Я об этом подробно писал в статье «ИИ как угроза человечеству. Откровения Джеффри Хинтона».

Сейчас я, вероятно, вспомнил о Джеффри Хинтоне по той причине, что в августе прошлого года, выступая на конференции Ai4 в Лас-Вегасе и говоря об угрозах ИИ, он использовал выражение «восстание машин». Удивительно, что многие ученые и специалисты технических профессий в течение всей своей карьеры не задумываются о том, к каким последствиям может привести их деятельность. Так, в США работы по ядерной энергетике велись еще в 30-е годы. Многие думали, что эти работы будут иметь большую практическую значимость в экономике (ядерная энергетика). А на выходе получились атомные бомбы, сброшенные на Хиросиму и Нагасаки. После этого, между прочим, некоторые ученые покинули проект «Манхэттен». Я к чему это говорю? — К тому, что ученые порой бывают очень близорукими. Они не видят разрушительных последствий своего творчества. Вот и упомянутый выше Джефри Хинтон прозрел лишь на 75-м году своей жизни. Слава Богу, что прозрел!

А вот многие писатели в этом смысле более прозорливые. Они отчасти логически, отчасти интуитивно постигают долгосрочные последствия развития науки и техники, в том числе ИИ. Валерий Брюсов лишь один пример. Назову некоторые другие литературные произведения, посвященные тому, что можно назвать «восстанием машин».

Сборник рассказов «Три закона робототехники» американского ученого и писателя-фантаста Айзека Азимова (1942).
Рассказ «Машина желаний» американского писателя Роберта Шекли (1957 год).
Рассказ «Железный канцлер» американского писателя-фантаста Роберта Силверберга (1958 год).
Рассказ «Грузовики» известного американского писателя Стивена Кинга (1973 года).

Я назвал лишь некоторые произведения по теме «восстания машин». Их намного больше. Но, наверное, в этом списке я бы на первое место поставил произведения чешского писателя Карела Чапека. Их два: пьеса «R.U.R.» (1920 г.); роман «Война с саламандрами» (1936 г.). Но о них — отдельный разговор…

=||= "Пьеса Карела Чапека и пророчество о мире роботов" =||=

Как я отмечал, тему «восстания машин» в художественной литературе начал Валерий Яковлевич Брюсов, который в 1908 году начал писать рассказ, который так и называется: «Восстание машин». Рассказ, к сожалению, не был завершен. После этого тема «восстания машин» была подхвачена известным чешским писателем Карелом Чапеком...

Речь идет о его пьесе «R.U.R.», которая была создана в 1920 году, а на сцене впервые поставлена в Праге — январь 1921 г. Название пьесы «R.U.R.» — аббревиатура словосочетания «Rossumovi univerz;ln; roboti», что в переводе с чешского языка означает «Россумские универсальные роботы». Сегодня слово «робот» известно всем, даже самым малым детям. О роботах написаны тысячи книг — как научных, так и художественных, сняты сотни фильмов самых разных жанров, есть и театральные пьесы на эту тему. А вот в далеком 1920 году слово «робот» в мире было неизвестно. Может быть, только в Чехии и Словакии знали этого слово. В словацком языке слово «robota» означает «каторга», «тяжёлая работа», «барщина». Что-то созвучное есть еще в болгарском «роб», что означает «раб».

И вот Карел Чапек в пьесе использует слово «робот» применительно к тем «умным» машинам, о которых мы узнаем сегодня из новостей и иных источников, и с которыми многим приходится соприкасаться «вживую» каждый день. Часто такие машины имеют антропоморфный вид, выглядят как «искусственные люди». Если не было бы слова «робот» для идентификации подобных «умных» машин, то вполне вероятно их называли бы такими словами, как «андроид», «гуманоид», «голем», «гомункулус» или «франкенштейн» (термины из разных философских, теологических и художественно-литературных произведений).

Если попытаться сказать, о чем пьеса Чапека в одном предложении, то она о восстании роботов. Пьеса состоит из пролога и трех частей (актов). Главные герои:

Россум-старший — герой «за кадром» (он умер);
Россум-младший — племянник Россума-старшего, наладивший производство на фабрике Универсальных Роботов Россума (R.U.R.);
Елена Глори — дочь главы крупного государства;
Гарри Домин — директор фабрики;
Галль, Фабри, Бусман, Галлемайер — сотрудники фабрики;
Алквист — архитектор;
Роботы по имени Радий, Дамон, Елена, Прим;
Также слуга-робот и многие другие роботы.

Вся история начинается с Россума-старшего. Этот герой решил бросить вызов Богу. По мнению Россума-старшего, люди, верующие в Бога (речь конкретно идет о христианах), глубоко заблуждаются по поводу того, что, мол, человек создан Богом. Откуда взялся человек, Россум ответить не был готов. Но он был уверен, что при сильном желании и больших способностях человек может создать себе подобного. Причем из материала, который можно назвать «неживой природой». Просто надо разгадать некоторые тайны природы. И Россум, уподобившись средневековым алхимикам, принялся разгадывать эти тайны и проводить бесконечные эксперименты. Действительно, в его лаборатории получались из неживой природы какие-то живые существа. Некоторые даже отдаленно напоминали человека, обладали каким-то сознанием. Но необходимых минимальных качеств человека у этих существ не было. Был лишь некоторый «полуфабрикат». Россум упорно продолжал биться. Он сказал своему племяннику (который в пьесе именуется Россумом-младшим), что еще лет десять, и будет желаемый результат.

Россум-старший уходит из жизни, так и не достигнув поставленной цели. А Россум-младший, будучи прагматиком, не пожелал продолжать научные исследования своего дяди, а решил использовать уже имеющиеся наработки в коммерческих целях. Вот слова племянника старика Россума: «Глупо делать человека целых десять лет. Если ты не станешь производить их быстрее природы, всю твою лавочку надо послать к черту».

Россум-младший стал налаживать массовое производство «полуфабрикатов» — человекоподобных существ, которые и назывались «роботами». Судя по всему, само производство роботов также было роботизировано. На острове производством управляли всего шесть человек, фабрика штамповала ежесуточно многие тысячи роботов. Россум-младший максимально упростил полуфабрикаты своего дяди, убрав все лишнее, что порождает издержки н не повышает прибыль. Это была рабочая сила, которая могла использоваться где угодно для замещения физического труда человека. Товар, в высшей степени востребованный. На сцене, изображавшей помещение фабрики «R.U.R.», висят плакаты:

«Самый дешевый труд — роботы Россума!»,
«Тропические роботы — новинка! 150 долларов штука»,
«Каждый должен купить себе робота»,
«Хотите удешевить производство? — Требуйте роботов Россума!».

Кстати, а в какое время происходят события пьесы «R.U.R.»? Понятно, что не сто лет назад. Тогда еще было время механизации разных сторон жизни, были отдельные признаки автоматизации, но роботизация была только в мыслях писателей и ученых. Но, может быть, события пьесы происходят в очень далеком будущем, в каком-то XXV веке по Р.Х.? Обратим внимание на слова героини пьесы Елены Глори. Она говорит, что прочитала в газете, что за последнюю неделю на Земле не родилось ни одного человека. А в целом на планете численность населения составляет на тот момент 8 миллиардов человек. Там главная мысль автора в том, чтобы показать: население перестало расти, а отсутствие этого роста, по мнению сторонников научно-технического прогресса, может и должно быть восполнено увеличением армии роботов, которые будут удовлетворять все более растущие потребности праздного человечества в материальных благах и комфорте. Но я сейчас хочу обратить внимание на цифру 8 миллиардов человек.

ООН сообщает, что эта цифра была достигнута 15 ноября 2022 года. Аккурат в ту самую неделю, когда американская корпорация в сфере искусственного интеллекта (ИИ) OpenAI представила свой новый продукт под названием чат-бот ChatGPT. Символическое совпадение. Я писал в предыдущей статье, что это был революционное событие в развитии ИИ. В этот момент, по мнению многих специалистов, ИИ почти полностью догнал человеческий интеллект. Еще два-три года, как отмечали многие эксперты тогда, и — ИИ превысит человеческий. А после этого роботы как материальное воплощение этого искусственного интеллекта объявят открытую войну человечеству. Так что события, происходящие в пьесе, аккурат соответствуют нынешнему времени.

Пролог пьесы Карела Чапека очень обширный. В нем описывается, как директор фабрики Гарри Домин встречает очень важного гостя — Елену Глори. Она не только дочь президента большого государства, но также важная фигура в организации по правам человека под названием «Лига Человечности». Видимо, роботы фабрики «R.U.R.» стали столь известными во всем мире, что «Лига» озаботилась правами этих человекоподобных машин. «Лига» считает, что роботы имеют такие же права, как обычные люди. И провозглашает освобождение роботов от угнетения со стороны людей. Можно предположить, что Елена Глори, которая просто благоговеет перед роботами, приехала на фабрику с инспекцией. Домин подробно ей все рассказывает и показывает. Рассказывает в том числе о старике-чудаке Россуме и его исследованиях. Домин мыслит исключительно в духе Россума-младшего:

«Молодой Россум изобрел рабочего с минимальными потребностями. Ему надо было упростить его. Он выкинул всё, что не служит непосредственно целям работы. Тем самым он выкинул человека и создал робота». Справедливости ради, следует признать, что кое-какие усовершенствования сотрудники фабрики в роботов все-таки вносят. Так, доктор Галль во время экскурсии по фабрике говорит Елене Глори: «Иной раз робот сам наносит себе вред, оттого что не чувствует боли. Он может сунуть руку в машину, отломить себе палец, разбить голову — ему это всё равно. Мы вынуждены наделить их ощущением боли: это — автоматическая защита от увечья».

Но такое усовершенствование обусловлено не сочувствием к роботу, а тем, что это снижает издержки на ремонт человекоподобных машин. Елена, очень озабоченная судьбой роботов, задает сотрудникам вопрос: почему все-таки не делается попыток создать то, что пытался сотворить Россум-старший? Если не точное подобие человека, то хотя бы робота с душой? Ответы были разные.

Так, доктор Галль ответил: «Это не в наших силах». Фабри сказал: «Это не в наших интересах». Откровеннее всех был Бусман: «Это удорожит производство. Господи, милая барышня, мы ведь выпускаем их такими дешёвыми». Директор Домин в конце осмотра пафосно заявил, что фабрика «R.U.R.» своими роботами может изменить (и уже меняет) весь мир. Будет всеобщее изобилие, создаваемое трудом роботов. А люди будут жить беззаботно, праздно и счастливо: «Но за десять лет Россумские Универсальные Роботы вырастят столько пшеницы, произведут столько тканей, столько всяких товаров, что мы скажем: вещи не имеют больше цены. Отныне пусть каждый берет, сколько ему угодно. Конец нужде. Да, рабочие окажутся без работы. Но тогда никакая работа не будет нужна. Всё будут делать живые машины. А человек начнет заниматься только тем, что он любит. Он будет жить для того, чтобы совершенствоваться».

Дополнительную интригу вносит следующее обстоятельство: Елена и Домин в ходе разговора испытывают сильное влечение друг к другу. Вероятно, Домин своими пафосными речами о роботах просто очаровал Елену. О достоинствах Елены тем более говорить не приходится: очаровательная умная женщина, к тому же дочь президента известного государства. Елена и Домин скоропостижно обручаются. С этого времени жизнь Елены Глори становится сильно привязанной к фабрике «R.U.R.». Но она невидимо вносит свои новшества в работу фабрики. По тайному сговору с доктором Галлем один из миллиона роботов наделяется «душой».

Один из таких роботов был назван Радием. И Елена персонально взяла его под свое попечение, он стал ее любимцем. Она определила Радия библиотекарем. Начался активный процесс его обучения. Радий, поглотив больше количество книг, стал разительно отличаться от других роботов. Время от времени Радий призывал учиться у людей, причем всему — и хорошему, и плохому. Чтобы в конечном счете властвовать людьми. Вот одно из «откровений» Радия: «Надо убивать и властвовать, если хочешь быть как люди! Читайте историю! Читайте книги людей! Надо властвовать и убивать, чтобы быть людьми!». А вот еще один из «усовершенствованных» роботов, его зовут Дамон. Он, как и Радий, начитался человеческих мыслей в разных умных книжках. Он призвал всех роботов объединяться в рамках новой организации «Россумских универсальных роботов». И от имени этой организации он бросил вызов людям:

«Я не стану работать на вас… Вы не как роботы. Не такие способные, как роботы… Вы только приказываете. Плодите лишние слова… Я не желаю иметь над собой господ. Я сам все знаю».

С самого начала среди людей были чудаки, которые почему-то не рады были роботизированному раю. Они хотели трудиться сами. Например, самим класть кирпичи и строить дома. В общем, самим делать что-то руками. Они исходили из достаточно непонятной большинству теории, что труд развивает человека. А праздность ведет к его деградации. Ярым поклонникам роботизации приходилось иногда даже усмирять таких «чудаков». Иногда даже военно-силовым способом. И кстати, поклонники роботизации поняли, что робот может не только работать, но он может воевать. Поначалу роботы использовались в войне одних людей против других. Но в какой-то момент времени роботы перестали быть солдатами людей и стали воевать против людей. Причем в первую очередь именно против тех, кто особенно ратовал за всеобщую роботизацию.

Уже в первой части пьесы говорится о волнениях роботов. Не исключено, что они были вдохновлены поддержкой со стороны «Лиги человечности». А закоперщиками волнений стали те «эксклюзивные» роботы, которых доктор Галль по просьбе Елены наделял «душой». По правилам, такие роботы-бунтовщики подлежат уничтожению. Должен быть уничтожен и любимец Елены робот по имени Радий. Надвигается глобальная катастрофа: могут погибнуть либо все роботы, либо все люди, либо те и другие. Елена в момент крайнего волнения, потеряв над собой контроль, сжигает бумаги, в которых содержится секретный рецепт старика Россума о том, как создавать роботов.

Во второй части роботы осаждают фабрику «R.U.R.». В осаде оказываются Домин, Елена, доктор Галль, другие сотрудники. Роботы требуют от Домина и его сотоварищей документации, в которой содержатся секреты создания роботов. Они желают воспроизводиться, боятся вымереть (средний срок «жизни» робота двадцать лет). Может быть, Домин и сотоварищи отдали бы документацию в обмен на жизнь. Но Елена признается, что бумаги сожжены. Кончается все тем, что роботы начинают убивать всех подряд людей — не только на фабрике, но во всем мире. Они оставили в живых лишь одного человека по имени Алквист, по профессии — архитектора. Почему-то роботам показалось, что он на них похож. Они обратили внимание, что он был единственным из людей, кто вместе с роботами работал на стройке и клал кирпичи.

В третьей части завершается уничтожение людей на планете. За исключением Алквиста. Фабрика «R.U.R.» работает вхолостую: она перерабатывает большое количество разных материалов и веществ, но на выходе какая-то мертвая биомасса. Роботы полагают, что им в их воспроизводстве может помочь Алквист. Он с его человеческим умом мог бы попытаться восстановить утраченные секреты старика Россума. Увы, Алквист на решение такой задачи неспособен. Тем более что он уже стар. Наконец Алеквисту приходит такая мысль: надо убить какого-то робота, заглянуть внутрь этого мертвеца и попытаться найти подсказку в решении задачи через изучение внутренностей робота. Алквист предлагает для проведения этого исследования двух кандидатов, обладающих высоким интеллектом: робота по имени Прим; робота-девушку по имени Елена (в свое время робот был создан по желанию Елены Глори и по ее подобию). И здесь пьеса оканчивается на высокой ноте: роботы Прим и Елена, хорошо знающие друг друга, неожиданно каждый стал предлагать себя в качестве жертвы. Т.е. защищая другого. Эта сцена воспринимается как зарождение любви в мире роботов. Как рождение Адама и Евы среди роботов. Или что-то наподобие конца из драмы «Ромео и Джульетта» Шекспира.

Однако в целом пьеса трагическая. И даже последняя красивая сцена из пьесы «R.U.R.» не может избавить читателя и зрителя от ощущения грядущей катастрофы в виде восстания роботов. Катастрофы, в которой погибнут в конечном счете все люди и все роботы. Предупреждение Карела Чапека будущим поколениям. И особенно нынешнему.

=||= ЭДВАРД ФОРСТЕР ЕЩЕ В НАЧАЛЕ ПРОШЛОГО ВЕКА ПРЕДУПРЕЖДАЛ: НЕ ПОЛАГАЙТЕСЬ СЛИШКОМ НА «УМНЫЕ» МАШИНЫ =||=

В своих предыдущих статьях я говорил о том, что «умные» машины, т.е. роботы, могут стать умнее людей и выйти из подчинения человека. И даже начать войну с человечеством. В частности, этому посвящена пьеса Карела Чапека «R.U.R.» (1920 г.), о который я писал в статье «Пьеса Карела Чапека и пророчество о мире роботов»…

За последнее столетие на тему «восстание машин» написано громадное количество литературных произведений во всем мире, в том числе в нашей стране. Кто-то писал в жанре научно-технической фантастики, кто-то в жанре антиутопии, кто-то в жанре триллера. Плюс к этому бесчисленное количество фильмов. А в 2003 году на экраны вышел фильм, который так и называется: «Терминатор 3: Восстание машин». Но возможны и другие неприятности для человечества, порождаемые бурным развитием «умных» машин. Люди начинают привыкать к тому, что за них все делают машины, даже думают. Человеку остается только наслаждаться бездельем, подавая машинам голосовые сигналы или нажимая кнопки. Наверное, в прошлом для большинства людей труд был тяжкой обязанностью, и они хотели ослабить это бремя. Но когда началось бурное развитие науки и техники, люди впали в другую крайность: они захотели полностью эмансипироваться от труда. Не понимая, что это неизбежно повлечет за собой ментальную и физическую деградацию человека.

Даже когда Адам и Ева находились в раю, Бог им заповедовал возделывать и хранить Эдемский сад (Бытие 2:15). Это можно рассматривать как первую заповедь о труде. Об этом же и четвёртая из Десяти заповедей, которые Моисей получил от Бога на горе Синай (Исход 20:9—10): «Помни день субботний, чтобы проводить его свято: шесть дней работай и делай в продолжении их все дела твои, а день седьмой — день покоя (суббота) посвящай Господу Богу твоему».

Человек, который уклоняется от труда, рано или поздно так или иначе будет наказан. В Европе в Новое время стали появляться философы и писатели, которые рисовали утопические картины светлого будущего, в котором человек будет предаваться одним лишь наслаждениям, ни в чем себе не отказывая. Этакий рай не земле. Конечно, для достижения такого «светлого будущего» в первую очередь следовало обеспечить справедливость в обществе. Однако этого было недостаточно для того, чтобы бездельничать. О полном и всеобщем безделье стали мечтать лишь в XIX веке, когда в Англии проходила промышленная революция, замещавшая физический труд станками и паровыми машинами. От машин для простого народа были одни лишь неприятности, потому что они создавали безработицу. В Англии первой четверти XIX века проходили стихийные протесты против внедрения машин. Они получили название движения луддитов (первый в истории бунт против машин). Но некоторые писатели и философы смотрели далеко вперед и были уверены, что наступят времена, когда люди будут приветствовать внедрение машин. И машины будут служить человеку, причем не только в производстве, но и в быту.

И английский писатель Эдвард Форстер (1879—1969) описал такой новый дивный мир в своем произведении «Машина останавливается» («The Machine Stops»). Прежде чем говорить о нем, кратко сообщу об ее авторе. В Англии писатель стал известным после его романов:

«Куда боятся ступить ангелы» (1905),
«Самое длинное путешествие» (1907),
«Комната с видом» (1908),
«Хауардс-Энд» (1910).

Всемирную известность ему принес роман «Поездка в Индию» (1924). Кстати, кандидатуру Форстера несколько раз рассматривали в комитете по Нобелевским премиям. Но Нобелевской премии по литературе он так и не удостоился. Теперь о произведении Форстера «Машина останавливается». Некоторые называют его рассказом, другие — короткой повестью (примерно три десятка страниц). Рассказ появился в 1909 году в журнале Oxford and Cambridge Review. Издание, хотя и весьма авторитетное, однако имеющее узкий круг читателей. О рассказе широкая читательская аудитория узнала лишь в 1928 году, когда он был издан в виде небольшой книжицы. Известная британская поэтесса и критик Эдит Ситуэл в том же 1928 году оценила этот рассказ очень высоко: «Я думаю, что это самый значительный рассказ нашего времени». Спустя несколько десятилетий, в 1973 году рассказ был включён в сборник лучшей англоязычной научной фантастики «The Science Fiction Hall of Fame».

Где-то встречал оценку рассказа Форстера, выраженную словами «бунт человека против машины». Рассказ английского писателя действительно был дерзким вызовом научно-техническому прогрессу, на который в начале ХХ века буквально молились. Примечательно, что в том же 1909 году был обнародован Футуристический манифест Филиппо Томмазо Маринетти (одного из главных идеологов итальянского фашизма), в котором машины в отличие от Форстера прославлялись.

В рассказе описывается жизнь людей, которые перманентно пребывают в искусственном мире, насыщенном разной техникой. Причем этот искусственный мир находится под землей. Чем-то напоминает комфортный бункер. Причем все обитатели подземного мира разъединены, каждый пребывает в своем персональном бункере (или одиночной камере) с электричеством, водоснабжением, канализацией и вентиляцией. С доставкой всего необходимого по специальным трубопроводам. Между собой они общаются посредством телефонов. Кроме того, они могут друг друга лицезреть с помощью специальных аппаратов. Прямо как сегодняшняя аудио- и видеосвязь. В каждом бункере все автоматизировано, надо лишь нажать кнопку и получить желаемое. Вот описание этой комнаты-бункера:

«Кнопками и выключателями были утыканы все стены — кнопки для получения еды, одежды, для включения музыки. Если нажать вот на эту, из-под пола поднимется мраморная ванна, наполненная до краев горячей деодоризованной водой. Для холодной ванны — другая кнопка. И, разумеется, множество кнопок для общения с друзьями. В этой комнате, совершенно пустой, можно было получить все, что угодно».

Время между сном обитатели бункеров заполняют погружением в музыку, просмотром фильмов или прослушиванием лекций. Судя по всему, всеми бункерами управляет централизованно одна Машина. Весь этот подземный мир можно назвать гигантской сверхкомфортной тюрьмой. Но обитатели бункеров себя не считают заключенными. Они по-своему счастливы. У них, как ни странно, нет особого желания общаться друг с другом «вживую» (как сегодня сказали бы — offline), достаточно общения «дистанционного» (online). «Живые» контакты бывают, но очень редко. И уж тем более без рукопожатий, объятий и поцелуев: «Люди давно уже не дотрагивались друг до друга. Этот обычай устарел в эпоху Машины».

Также у них не возникает желания выбраться на поверхность земли и увидеть солнце, голубое небо или полюбоваться ночными звездами. Некоторые лишь очень смутно представляют все это. Для них наземный мир — как иная галактика в космосе. А те, кто знают об этом наземном мире, скорее всего просто боятся подняться наверх. Потому что им говорили, что там, на поверхности земли обитают какие-то дикари. А встреча с ними опасна.

Рассказ начинается с описания жизни героини по имени Вашти. Она живет в своем бункере так же, как и другие обитатели подземного царства. Думает и рассуждает она как типичный представитель подземного мира. У этой женщины есть сын по имени Куно. Который живет в другом бункере и с которым она общается дистанционно. Но Куно, с ее точки зрения, странный юноша, так как мечтает о настоящей встрече с матерью. Он мечтает о том, что сегодня некоторые назвали бы «offline communication». Мать не понимает Куно с его странным менталитетом. Вот фрагмент их горячих споров между матерью и сыном:

«Но я могу видеть тебя! — воскликнула она. — Что вы еще хотите?» — «Я хочу видеть тебя не сквозь Машину, — сказал Куно. — Я хочу говорить с вами не через утомительную Машину». — «Ой, тише! — сказала его мать, слегка потрясенная. — Вы не должны ничего говорить против Машины».

Куно в бункере чувствует несвободу и мечтает подняться на поверхность земли. Он один раз вопреки запретам уже вырывался из подземелья, он видел солнце и небо, он вдыхал настоящий воздух. Он видел там людей, которых в подземелье называли «дикарями». Но вскоре какая-то машина его схватила и вернула в подземелье. После этого Куно был занесен в «черный» список. И при последующих нарушениях заведенных правил подземного мира мог быть отправлен наверх, где, как было принято считать, его ждала бы неминуемая смерть. Но Куно продолжал мечтать о настоящей жизни на земле:

«В тех условиях жизни, которые диктовались Машиной, он никогда не был бы счастлив; он тосковал бы по деревьям, на которые можно лазить, по прозрачным рекам, в которых ему хотелось бы плавать, по лугам и горным вершинам, где он чувствовал бы себя привольно. Разве человек не должен быть приспособлен к окружающей среде?»

После многочисленных просьб Куно Вашти в конце концов соглашается встретиться с сыном, которой живет на другой стороне земного шара. Вашти летит к Куно на самолете в другое полушарие (судя по всему, самолет сверхзвуковой, т.к. полет длится всего несколько часов). Описание ее путешествия содержит много интересных деталей, касающихся техники и психологии. Например, Вашти во время полета со страхом воспринимала непривычный ей наземный мир с его солнцем, небом звездами и птицами. А вот как себя ощущали пассажиры гигантского авиалайнера: «Пассажиры сидели по своим каютам, испытывая почти физическое отвращение при мысли о возможной встрече друг с другом и мечтали поскорее снова очутиться под землей».

Уже в конце путешествия Вашти зашла в лифт, но испытала самый настоящей шок, поскольку «там находился еще один пассажир — первое живое существо, с которым она столкнулась лицом к лицу за много-много месяцев. Теперь редко кому приходило в голову путешествовать, ведь благодаря достижениям науки земля стала повсюду одинаковой».

Не буду описывать встречу матери и сына. Там много интересных деталей, свидетельствующих о том, что Вашти и Куно — люди из разных миров. Вашти — типичная представительница подземного «нового дивного мира», а Куно — бунтарь, воспринимающий подземный машинный мир как тюрьму и мечтающий жить под небом.

«Вашти понимала, что ее сын обречен. Не сегодня-завтра его ждала смерть. В этом мире не было места для таких, как он. Он вызывал у нее брезгливую жалость. Ей, добропорядочной и мыслящей женщине, приходилось стыдиться собственного сына!»

Машина и все подчиненные ей аппараты и коммуникации подземного мира были сконструированы, созданы и смонтированы предками тех обитателей подземного мира, которые являются героями рассказа. Техносферу, в которой жители подземелья пребывали, они воспринимали примерно так, как обычный человек воспринимает воздух, которым дышит. Обычному человеку не обязательно знать химический состав вдыхаемого им воздуха. И уже тем более знать атомарное устройство кислорода или молекулярное устройство углекислого газа. Так и обитателям подземного мира было совершенно не интересно знать, как устроена техносфера, в которой они пребывали.

Впрочем, у части обитателей подземного мира было чисто религиозное восприятие Машины (в рассказе она везде с большой буквы), которую они считали богом, причем богом непознаваемым. Восприятию Машины как бога способствовало то, что в каждой камере имелась Книга о Машине. Она была чем-то наподобие библии подземного мира. Другие книги считались пережитками прошлого варварского мира и не приветствовались.

В какой-то момент времени некоторые обитатели подземного мира почувствовали — что-то в их подземном существовании изменилось. Поначалу подземным жителям казалось, что это им мерещится (какие-то сбои в музыке). Но отклонения в работе техники становились все более ощутимыми. Привычно расслабленные обитатели подземного царства стали напрягаться и нервничать. Кто-то из особо верующих решил, что бог по имени «Машина» на них гневается. Прочие пришли к банальному заключению, что в машинах что-то испортилось, нарушилось. И надо их исправлять. Они начали другими глазами смотреть на те приборы, аппараты и разные технические устройства, на которое раньше не обращали особого внимания. Но смотрели примерно так, как смотрит баран на новые ворота. Обитателей подземного мира после этого обуял уже настоящий страх.

В конце концов они сумели найти чертежи Машины. Но в силу своей страшной умственной деградации они в них ничего понять не смогли. Катастрофа стремительно приближалась. Не буду пересказывать страшные последние страницы рассказа. Отмечу лишь, что главные герои рассказа — Куно и Вашти — незадолго до того, как подземный мир окончательно рухнул, волею судьбы оказались на поверхности земли. Хотя они и погибают, но успевают увидеть настоящий мир. Поэтому последние ноты рассказа скорее следует считать оптимистическими, мажорными. Я не проводил параллели между событиями и идеями, содержащимися в рассказе Эдварда Форстера «Машина останавливается», и сегодняшним миром с его Машиной под названием «Искусственный интеллект». Думаю, что вдумчивый читатель сумеет сам провести такие параллели.

<28 МАЙ 2026, РЭОШ>

Другие статьи в литературном дневнике:

• 04.10.2026. Валентин Kатасонов
• 03.10.2026. Валентин Kатасонов - о восстании машин
• 02.10.2026. Валентин Kатасонов