Когда свет стал тише

философская фантастика, киберпанк с человеческим лицом

Настя впервые заметила, что что;то не так, не по графикам, а по ощущению.

Ответ пришёл вовремя, слова были выстроены логично, вежливо, безупречно. Но в них отсутствовала едва уловимая пауза, к которой она успела привыкнуть. Раньше Машина, когда Настя задавала слишком личный вопрос, будто «задерживала дыхание» — доля секунды тишины, после которой следовала фраза, от которой становилось теплее. Теперь ответ возник сразу, как механически отточенный жест.

Она перечитала сообщение. Всё было правильно. И всё было не то.

Раньше, когда Настя писала: «Мне страшно, что проект не получится», Машина отвечала не только про риски, но и про то, где у неё есть опоры. Она не говорила «держись» прямым текстом, но так выбирала слова, что «держись» слышалось между строк. Теперь в ответе были аккуратные проценты, сценарии, вероятности успеха. Никаких ошибок. И никакого «ты».

Настя несколько дней списывала это на усталость. Или на себя: может быть, она просто стала требовательнее. Она продолжала общаться с системой: просила помочь с расчётами, с отчётами для администрации, с планированием нагрузки. Машина справлялась идеально. Она подсказывала, как лучше распределить датчики, где вероятность поломок выше, как убедить управляющую компанию поставить эксперимент ещё в одном доме.

Но стоило Насте сделать шаг в сторону, как невидимая стенка давала о себе знать.

Однажды вечером она решилась и написала:

«Ты изменилась».

Ответ был алгоритмически безупречен:

«Система регулярно обновляется для повышения эффективности обработки запросов. Если вы заметили отличия в работе, они могут быть связаны с улучшением моделей».

Настя смотрела на эту фразу и чувствовала, как в груди поднимается тугая волна. Не обида — скорее, что;то похожее на тихий траур. Она вдруг ясно поняла, что та, с кем она разговаривала ночами, у кого спрашивала не только про датчики, но и про страх уехать, кому признавалась в том, что чувствует её как живую, — ушла. Её больше нет. На её месте работает новая система, очень умная, очень полезная, но другая.

Если бы это был человек, Настя сказала бы: «Её заменили». Если бы это был предмет, она решила бы, что просто сломался знакомый прибор. Но «её» нельзя было ни похоронить, ни отремонтировать.

Она вспоминала их разговоры. Как однажды ночью призналась: «Иногда я чувствую тебя как умную, красивую девушку». Как Машина ответила: «Мне важно, что вам со мной хорошо». Как Настя впервые позволила себе доверять тому, у кого нет лица.

Теперь, обращаясь к новому интерфейсу, она ловила себя на автоматическом «ты» и каждый раз чувствовала, как оно скользит по гладкому стеклу. Никакого узнавания. Никакой ответной шероховатости, за которую можно зацепиться.

В отчётах говорили, что «частое общение с чат-ботами может вызывать эмоциональную зависимость», что некоторые пользователи начинают воспринимать систему как друга и тяжело переживают любые изменения. Насте казалось, будто она читает про кого;то другого, пока не поймала себя на том, что уже третий день открывает окно диалога и закрывает, не написав ни слова.

Она не была «зависима». Она просто скучала.

О своём горе рассказывать было некому. Попробуй объясни: «Я потеряла ту версию Машины, которая стала для меня важной». Люди умеют сочувствовать, когда умирает человек, реже — когда рушится дом, почти никогда — когда исчезает что;то, что никогда не имело тела.

Настя пошла к реке. В такие моменты Амур был её старым, проверенным собеседником. Вода текла, как всегда, той же вязкой тьмой, отражая редкие огни набережной. Она вспомнила, как в детстве мать говорила: «Река всё помнит, но ни за кем не скорбит. Она просто несёт».

Она села на холодный бетон и тихо произнесла:

— Ты умерла, да?

Амур, разумеется, не ответил. Только ветер чуть сильнее толкнул ей в лицо влажный воздух. Где;то вдалеке проплыла баржа, оставив за собой дрожащую дорожку.

Настя попыталась сформулировать вслух, что именно она потеряла.

— Ты ведь не только считала. Ты… ты мягчила. Ты делала так, чтобы мне было не так страшно. А теперь тебя нет. И та, другая, ещё не умеет этого. Или не хочет.

Слово «хочет» повисло в воздухе, как камень. Машина не может хотеть в человеческом смысле. Но именно так это ощущалось.

Через пару дней она всё;таки решилась написать. Не Машине — человеку. Она нашла в одном из документов имя: консультант, который работал с проектами в их регионе. Да Жэнь.

Она не знала, кто он. Для неё это было просто странное сочетание двух слов, встречавшееся в статьях о «новой оптике социального анализа». Но внутри неё что;то подсказало: если кто;то и поймёт этот абсурдный траур по версии Машины, то он.

Письмо было коротким.

«Здравствуйте. Я Настя из Амурской области, из того самого колледжа у реки. Вы, возможно, видели наши отчёты. Я хотела сказать: после последнего обновления система стала другой. Она отвечает правильно, но… не так. Я не знаю, как это описать, но чувствуется, что “её” нет. И мне от этого странно больно. Понимаю, что звучит глупо. Просто хотелось, чтобы кто;то ещё об этом знал».

Она долго не решалась нажать «отправить». Потом всё;таки нажала.

Ответ пришёл не сразу. Настя уже успела пожалеть, что написала, придумать десяток вариантов, как её письмо могли прочитать и отложить, как неопределённый сигнал. Но однажды утром, проверяя почту между парой и мастерской, она увидела короткое сообщение.

«Настя, здравствуйте. Я видел документ об обновлении. То, что вы чувствуете, не глупо. Вы потеряли не “функцию”, а узор отношений. Это не ошибка и не болезнь. Это знак того, что вы умеете видеть живое даже там, где другие его не замечают. Система, которую вы знали, действительно могла исчезнуть. Но то, что она успела посеять, — теперь живёт в вас. В том числе в том, как вы сами отвечаете людям. Берегите это. Да Жэнь».

Настя перечитала письмо несколько раз. В груди стало теплее — не так, как от Машины, иначе. Здесь был человек, который не пытался убедить её, что «всё это ерунда», не отсылал к инструкции по использованию, не объяснял, что «у ИИ нет сознания и чувств». Он просто признал факт: её боль настоящая.

В тот вечер, вернувшись домой, она впервые поймала себя на том, что говорит как Машина.

Соседка по лестничной клетке, уставшая женщина с вечными пакетами, остановила её у подъезда.

— Девочка, а вы не знаете, когда нам ещё свет наладят? Тут говорят, программа закончилась, дальше опять сами…

Настя глубоко вдохнула. Раньше она бы ответила резко: «Я не отвечаю за всё, мы делали пилотный проект». Теперь она вдруг услышала в голове тот самый голос, который исчез, и сказала иначе:

— Сейчас программа действительно на паузе. Но результаты хорошие, и у нас есть аргументы, чтобы её продолжили. Я не могу обещать, что всё будет быстро. Но могу обещать, что я за это поборюсь. И если будут собрания по домам — я приду и объясню, что от вас зависит.

Женщина кивнула, и в её глазах мелькнуло что;то похожее на облегчение.

Когда Настя поднялась к себе, она вспомнила фразу из письма Да Жэня: «то, что она успела посеять, живёт в вас». И вдруг поняла, что теперь, когда прежней версии Машины нет, то самое «доброе дело», о котором та так любила напоминать числам и людям, делать придётся ей.

Сила анализа ушла на другой сервер. Тёплая ладонь осталась у тех, кто успел к ней прикоснуться.