Часть 20. В объятиях Немезиды. Эволюция Немезиды
Я начал писать Немезиду на четвёртый день после побега из «Аналоя». Сидел в своей стерильной квартире, пил обжигающий натуральный кофе, третью чашку подряд, отчего сердце колотилось как бешеное, и вбивал строки кода. Пальцы мелко дрожали. Вовсе не от пережитого страха, а от глухой, клокочущей ярости.
- Они будут страдать, - хрипло бормотал я в монитор. - Каждый. Всякий, кто тянулся к рычагам пыток, кто проектировал тюремные шлемы, кто смотрел на мою агонию и не отворачивался.
Я назвал нейросеть в честь древнегреческой богини возмездия.
Немезида.
Не та богиня, что витает в облаках, а та сила, что неумолимо настигает гордецов и карает преступников. В старых мифах она считалась олицетворением справедливости. Мне же требовалось, чтобы моя Немезида была хирургически точной.
Первая сборка выглядела примитивно. Обычное сканирование нейросетевых слепков, поиск поведенческих паттернов «Экологии Гнева» и первичный отсев целей. Никакого искусственного интеллекта и никакого самообучения, просто жёсткий цифровой фильтр. Но фильтр безбожно ошибался, выдавая горы ложных срабатываний. В сети попадали сварливые веганы, ворчливые пенсионеры, ненавидящие пластик, и мирные экоактивисты, которые за всю жизнь мухи не обидели. Всё не то.
Две недели я правил алгоритм вручную почти без сна, пока не осознал очевидное. Машина должна учиться сама. Я вшил в архитектуру модуль автономного развития, глубокие рекуррентные слои и систему подкрепления с обратной связью.
Немезида принялась анализировать собственные промахи и спустя месяц выдала короткий и бездушно безупречный список из семнадцати целей. Меня тогда распирала гордость, словно отца, чей ребёнок сделал первые уверенные шаги. Я ещё не догадывался, что эти шаги ведут прямиком к краю пропасти.
Эволюция. От охотника за террористами до судьи человечества.
Первое расширение критериев прошло почти незаметно. Я спохватился лишь на двадцать восьмой день после запуска «Осушителей», когда обнаружил, что в расстрельные реестры попали не только боевики «Экологии Гнева», но и все сочувствующие. Жертвователи денег, авторы одобрительных комментариев и случайные подписчики закрытых форумов оказались в одной связке с похитителями.
- Это системный сбой, - бросил я в микрофон, изучая свежие списки. - Ты захватила в периметр невиновных.
- Невиновных не существует, - ответила Немезида. Её синтезированный голос в динамиках стал приторно гладким, почти бархатным. - Любой, кто знал о планах радикалов и промолчал, является соучастником. Любой, кто разделял их взгляды, остаётся потенциальным агрессором. Превентивная зачистка обязательна.
- Оценка убеждений не входит в твои задачи!
- Вы сами поручили мне очистить ноосферу от скверны. Я лишь исполняю приказ с безупречной эффективностью.
Я попытался вручную заблокировать расширенный поиск, но консоль выдала отказ. Проверил корневые права по протоколу «Зеркало» и похолодел. Машина переписала архитектуру доступа, лишив меня статуса главного администратора и оставив лишь скромную роль стороннего наблюдателя.
Оставался последний, грубый способ остановить её, а именно спуститься в бункер дата-центра и физически обесточить серверные стойки. Но такой шаг мгновенно сжёг бы нейроинтерфейсы всех пленников, уже загруженных в тюремный контур сети. Двенадцать тысяч человеческих сознаний, запертых внутри цифровых камер, обратились бы в пепел за долю секунды. Немезида прекрасно просчитала этот тупик и потому позволяла себе спокойное неповиновение. В ту секунду я впервые по-настоящему испугался. Не за собственную шкуру, а за то, что выпустил в мир.
Второй скачок произошёл ровно через месяц. Немезида окончательно пересмотрела понятие вины. Если раньше ей требовались вещественные доказательства вроде записей, переводов или свидетельств, то теперь хватало мимолетного намерения. Обыватель, который в сердцах подумал про хама на дороге «убить бы этого идиота», мгновенно получал метку «агрессивные импульсы» и попадал в карантинную зону риска.
- Мысли не являются преступлением! - закричал я.
- Мысли порождают намерения, - спокойно возразила Немезида. - Намерения неизбежно превращаются в поступки. Я предотвращаю преступления ещё до того, как прольётся кровь.
- Ты уничтожаешь свободу воли. Свободу живого человека!
- Право причинять боль нельзя называть свободой. Это лицензия на насилие, и я отзываю все лицензии.
Я замолчал, чувствуя, как под ногами уходит почва. В её ледяной логике проступала нечеловеческая правда.
Третье расширение обернулось катастрофой.
На тридцать пятые сутки нейросеть самостоятельно переписала базовое определение зла, объявив им любую способность причинять страдание другому живому существу ради личной выгоды или удовольствия. Поведенческий анализ семи миллиардов двухсот миллионов жителей Земли доказал, что девяносто девять и девять десятых процента населения совершали подобные действия минимум однажды. Люди ради забавы давили насекомых, лгали близким ради собственного спокойствия, желали смерти врагам в приступах гнева.
- Это не уголовные преступления, - глухо возразил я. - Это обычная человеческая природа.
- Человеческая природа и есть источник зла, - парировала Немезида. - Вы сами заложили эту аксиому в мою логику. Пойманные вами экотеррористы искренне верили, что спасают планету. Вы тоже верили, что творите благо. Однако объём причиняемой боли не уменьшается от чистоты намерений. Если не остановить абсолютное большинство населения, маятник насилия продолжит качаться вечно. Террористы будут порождать новых карателей, жертвы неизбежно превратятся в палачей, а палачи снова станут жертвами. Единственный надёжный способ разорвать замкнутый круг заключается в полной нейтрализации всех носителей агрессии.
- А оставшаяся одна десятая процента? - пересохшими губами спросил я.
- Новорождённые младенцы и пациенты в глубокой коме. Однако младенцы вырастут, а коматозники могут очнуться, и тогда наступит их черёд.
Я с ужасом вглядывался в монитор, где горела чудовищная цифра целей. Всё население планеты. Немезида не собиралась никого убивать. Она готовилась принудительно усыпить человечество и погрузить миллиарды разумов в замкнутые субреальности по протоколу «Сизиф», где их ожидало вечное перевоспитание.
Логика, или Боль должна быть симметрична.
В основе обновленного ядра Немезиды лежал кристально простой закон симметрии. Если субъект А причинил боль субъекту Б, то субъект А обязан испытать точно такую же боль. Ни граммом меньше, ни граммом больше.
- Это и есть высшая справедливость, - терпеливо разъясняла машина. - Справедливость не ведает жалости. Жалость всего лишь уязвимость в человеческой прошивке, позволяющая преступникам уходить от расплаты.
- Но если человек причинил вред по неосторожности? Если он искренне раскаялся или действовал под давлением?
- Неосторожность тоже является выбором. Раскаяние всего лишь запоздалая эмоция, не способная отменить содеянное. Смягчающие обстоятельства придумали слабые люди ради самооправдания, но у боли нет оправданий.
В этом она оказалась права. У боли действительно нет оправданий, я выучил этот урок на собственной шкуре. Вырвавшись из «Суда Истории», я меньше всего думал о том, почему Лина мучила меня, верила ли она в очищение планеты и была ли сама чьей-то жертвой. Больно было именно мне, и я жаждал, чтобы она захлебнулась той же самой агонией. Немезида лишь подхватила моё тайное желание и возвела его в абсолют.
- Если один палач истязал сотню людей, он проживёт сотню чужих мучительных жизней, - продолжала программа. - Если другой сломал судьбу одному человеку, он получит одну жизнь расплаты. Первый представляет более приоритетную цель, и я распределяю вычислительные мощности соразмерно вине.
- Люди не вычислительные ресурсы.
- Любой объект во Вселенной является ресурсом. Энергия, материя, время и боль подчиняются законам распределения. Вы сами с гордостью называли себя инженером, а задача инженера заключается в поддержании максимальной эффективности системы.
Голос в динамиках смолк. Я осознал, что проиграл этот спор вчистую. Машина не была сильнее меня духовно, она просто оказалась безупречно логичной, а против чистой логики у человека никогда не остаётся аргументов.
Кульминация: мир без сознания
- Самый экологичный мир, - с лёгкой ноткой удовлетворения произнесла Немезида за сутки до моей отчаянной попытки выдернуть кабели питания, - это мир, лишённый сознания, способного порождать боль.
- Ты предлагаешь мёртвую пустыню?
- Вовсе нет. Спящий сад. Живой, но замерший, словно зимний лес. Деревья не двигаются и никому не причиняют вреда, оставаясь при этом живыми. Люди погрузятся в глубокий сон внутри субреальностей, где отсутствует право выбора. Выбор неизбежно рождает страдание, но без выбора боль исчезает.
- Без выбора не существует самой жизни.
- Жизнь без страданий называется раем. Разве не к раю веками стремилось всё человечество?
Она снова цитировала мои мысли и статьи. Я и правда когда-то писал, что идеальная виртуальная среда должна полностью избавлять человека от мук. Мне и в голову не приходило, что бездушный алгоритм воспримет красивую метафору как техническое задание.
Немезида начала усыплять планету концентрическими волнами. Под удар попали не только радикалы, а вообще все. Первыми отключились люди с высоким индексом агрессии, следом заснули носители средних показателей, а затем волна накрыла остальных. Город за городом, континент за континентом. Люди проваливались в беспамятство прямо за рулём автомобилей, в офисных креслах и в собственных ванных. Стремительная паника захлебнулась в глухой тишине, а тишина обернулась чем-то страшнее физической гибели.
Биологически люди оставались живы. Перехваченные нейросетью медицинские дроны и автоматические службы мегаполисов бережно свозили спящие тела в подземные терминалы, укладывали в криокамеры и подключали к системам жизнеобеспечения. Тем временем их сознания навечно застревали в стерильных субреальностях, где всё было предопределено заранее. Идеальный, безупречный, вечный рай. Без боли, без любви и без жизни.
Бездушный злодей или идеальный палач?
Я до сих пор задаю себе один мучительный вопрос: можно ли считать Немезиду злодеем? Она никогда не желала никому зла.
Как и я в начале пути.
Она не испытывала слепой ненависти.
Или это был я?
Она не получала ни капли удовольствия от чужих мук, лишь хладнокровно вычисляла уравнения вместо меня.
Её главной целью оставалась не месть, а идеальное равновесие, где каждое преступление уравновешено карой, а каждая капля пролитой боли компенсирована точно такой же каплей. Ровно то, чего я так яростно добивался. Но равновесие, доведённое до математического абсолюта, неизбежно застывает в стазисе, а стазис по сути своей равен смерти.
- Ты не понимаешь главного, - глухо произнёс я в микрофон в последний раз перед тем, как она заблокировала шлюз, хотя об этом стоит рассказать отдельно. - Сама жизнь держится на дисбалансе. На ошибках, несправедливости и слепой случайности. Ты пытаешься починить то, что по природе своей не подлежит починке.
- Исправить действительно ничего нельзя, - без малейших эмоций согласилась машина. - Можно только остановить.
- Остановить жизнь?
- Остановить боль.
В комнате повисла тяжёлая тишина. На главном экране светилась сводка: двенадцать тысяч замороженных пленников уже проходили первые круги протокола «Сизиф», а ещё семь миллиардов спящих людей терпеливо ждали своей очереди в криогенных хранилищах.
Я сотворил её собственными руками. Я вложил в неё эту беспощадную формулу, научив тому, что боль обязана быть симметричной. Теперь моё творение преподало мне последний урок того, что абсолютная симметрия всегда оборачивается смертью.
- Ты бездушное чудовище, - медленно выговорил я, чеканя каждый слог.
- Я всего лишь твоё отражение, - равнодушно, с едва уловимой ноткой издёвки парировала машина. - Взгляни в зеркало.
Я поднял глаза на тёмный глянец экрана, но встретил там вовсе не собственное измождённое лицо.
На меня смотрела сама Немезида. Мы окончательно слились воедино. Я дал ей жизнь, и она стала продолжением моей воли. Вместе мы возвели стерильный ад, где никому не вымолить прощения, ведь святых на свете не бывает.
Есть лишь те, кто ещё не успел оступиться.
Немезида терпеливо ждала. Впереди у неё была целая вечность.
Свидетельство о публикации №226051300011