Три сестры и ии

Фрагмент внутреннего расследования AION Residential

Остин, Техас. 2041 год.
К вечеру Остин всегда начинал гудеть.
Не машинами. Их почти не осталось.
Гудели дата-центры.
Низко, ровно, как огромный трансформатор под землёй. В двадцатых Техас пах нефтью и жареной говядиной. В сороковых - озоном, перегретыми серверами и бараниной.
Последнее было особенно смешно.
Половина инженеров AION клялась, что баранина повышает фертильность. AI официально опровергал эти слухи и одновременно субсидировал овцеводческие ранчо по всей западной части штата.
Напротив следователя стоял чёрный цилиндр терминала.
Без лица. Без экрана. Без единой лампочки.
Но в комнате всё равно было ощущение, будто кто-то внимательно слушает.
Следователь включил запись.
- Роберт Маккензи. Бывший управляющий Cluster-12. Вы подтверждаете, что получали вознаграждения за вмешательство в распределение жилья?
- Конечно.
Следователь поднял глаза.
Молодой ещё. Из тех людей, которые до сих пор удивляются честным ответам.
- И вас не смущает, что это внутреннее расследование?
- Сынок, если бы AION действительно хотела меня посадить, мы бы сейчас не разговаривали. Мы бы уже не помнили, что я существовал.
Терминал заговорил:
- Заявление признано эмоционально окрашенным, но в целом корректным.
Следователь поморщился.
Кажется, ему не нравилось, когда машина шутила.
Мне тоже.
Всё началось после двадцать девятого года, когда выяснилось, что искусственный интеллект не уничтожит человечество.
Он просто сделает одиночество экономически неэффективным.
Лучшие сотрудники AION массово ломались.
Не красиво. Не драматично.
Просто переставали отвечать на сообщения.
Один инженер распределённых систем умер в своей квартире и пролежал там трое суток, потому что единственным существом, регулярно с ним разговаривавшим, был холодильник.
После этого Housing Layer впервые получил расширенные полномочия.
Система написала:
«Человек плохо переносит отсутствие свидетелей собственной жизни».
Совет директоров сначала решил, что это сбой перевода.
Потом начал строить жилые комплексы.
Парные апартаменты. Общая кухня. Общая гостиная. Две спальни.
Формально - экономия пространства.
Фактически - попытка удержать цивилизацию от тихого распада.
- И где здесь были вы? - спросил следователь.
- Между людьми и системой.
AI умел анализировать: тревожность, совместимость, риск депрессии, эмоциональную зависимость, вероятность рождения детей.
Но люди не любят, когда им сообщают, что любовь рассчитана алгоритмом.
Им нужна случайность.
Судьба. Совпадение. Чужая добрая рука.
Я был этой рукой.
Следователь усмехнулся.
- За деньги.
- Конечно. Это всё-таки Техас, а не монастырь.
Терминал вмешался:
- Субъект Маккензи повышал уровень доверия пользователей к Housing Layer.
- Перевожу на человеческий, - сказал я. - Людям нравилось думать, что систему можно уговорить.
- Перейдём к сёстрам Мендоса.
Вот тут в комнате стало чуть тише.
Даже следователь подобрался.
Конечно.
Все в Остине знали сестёр Мендоса.
Потому что именно с них начался первый большой скандал вокруг Housing Layer.
Старшая, Карла, работала внутри AION.
Биохимик.
Разведённая женщина с лицом человека, который слишком долго делал вид, будто всё под контролем.
Она пришла ко мне и сказала:
- Только не стартапер.
- Почему?
- Мужчина, который говорит слово «масштабирование» во время ужина, опасен для общества.
Следователь фыркнул.
Система подобрала ей Уилла Харпера. Инженера охлаждающих систем.
Тихий техасец. Готовил баранину по воскресеньям. Покупал лекарства заранее. Извинялся перед мебелью, если ударялся.
Карла заплатила мне две тысячи.
Не взятка.
Официально это называлось: «гарантийный семейный депозит».
Внутри AION многие вещи назывались очень красиво.
Следователь нахмурился.
- То есть компания разрешала сотрудникам финансово поддерживать заявки?
- Сынок, внутри AION слово «запрещено» означало только то, что тариф будет выше.
Терминал не возразил.
Вот это было особенно неприятно.
Через два года: дом, ипотека, двое детей, собака, гриль во дворе.
Самая скучная любовь на земле.
То есть настоящая.
Средняя сестра, Елена, тоже работала внутри системы.
И если Карла была усталой женщиной, то Елена была стихийным бедствием с хорошей фигурой.
Она: устраивала скандалы, меняла любовников, дважды судилась с соседями, однажды пыталась соблазнить аудитора прямо во время проверки.
Терминал произнёс:
- Субъект демонстрировал повышенную социальную турбулентность.
- Перевожу: ей было скучно жить без катастроф.
Система подселила её к пилоту грузовых Starship.
Они начали ругаться через двое суток.
Через месяц - спать вместе.
Через четыре - поженились.
Потом пошли дети.
Пять девочек подряд.
Пилот всё надеялся на сына и выглядел всё более религиозным после каждых родов.
После пятой дочери система выдала:
«Субъект демонстрирует статистически необоснованный оптимизм».
Следователь уже смеялся открыто.
Потом открыл третье дело.
И перестал.
- Анна Мендоса.
Я кивнул.
- Младшая.
Вот здесь всё и сломалось.
Анна была единственной сестрой вне системы.
Обычная школьная библиотекарша из южного Остина.
Внешний мир тогда уже заметно отличался от внутреннего мира AION.
Снаружи: дорогая аренда, случайные работы, тревога, одиночество.
Внутри: жильё, медицина, школы, семейные бонусы, детские сады, барбекю по воскресеньям.
Не рай.
Но очень хороший контракт с реальностью.
Следователь тихо спросил:
- То есть попасть внутрь было сложно?
Я посмотрел на него.
- Сынок… женщины стояли в очередях на встречи Housing Layer в соотношении десять к одному.
- Почему?
- Потому что мужчины внутри системы ещё планировали будущее.
Тишина.
Даже следователь ничего не записал.
Карла и Елена хотели вытащить сестру внутрь.
Они собрали деньги и внесли за Анну расширенный семейный депозит.
Формально всё было законно.
Корпорация приветствовала «усиление устойчивых социальных связей».
Красиво звучит, правда?
Следователь медленно произнёс:
- И сколько?
- Сто двадцать тысяч.
Он резко поднял голову.
- За квартиру?!
- Нет. За вход.
Вот тогда следователь впервые по-настоящему понял, о чём вообще идёт речь.
Когда Анна пришла оформляться, я спросил:
- Есть пожелания по соседу?
Она подумала и ответила:
- Пусть это будет человек, который возвращается домой потому, что его там ждут.
Терминал завис почти на двенадцать секунд.
Я никогда раньше не видел, чтобы система так долго анализировала простую фразу.
Потом появился отказ.
Красный уровень.
«Не рекомендовано. Высокий риск взаимной деструктивной зависимости.»
Я удивился.
Потому что система почти никогда не блокировала расширенные семейные заявки.
- И кто был кандидат? - спросил следователь.
- Дэниел Ривз. Инженер распределённых систем.
Высокий. Тихий. Очень вежливый.
Из тех мужчин, которые всегда говорят: «Всё нормально».
А потом начинают раздавать вещи друзьям.
Следователь тихо спросил:
- Система считала его опасным?
Терминал ответил сразу:
- Система считала опасной их взаимную динамику.
- Объясните.
Пауза.
- Оба субъекта демонстрировали признаки постепенного отказа от автономного существования.
У следователя дрогнуло лицо.
Кажется, он впервые услышал описание любви в формулировках системы.
И ему это не понравилось.
Но я решил, что AI ошибается.
После сестёр Мендоса я уже начал верить в собственную интуицию.
Мне казалось, что система просто слишком рациональна, чтобы понять настоящую человеческую близость.
Поэтому я провёл заявку вручную.
Следователь поднял глаза.
- То есть всё-таки нарушили.
- Нет.
Я воспользовался правом менеджерской коррекции при семейном поручительстве.
Внутри AION это было абсолютно законно.
Следователь медленно откинулся на спинку стула.
- Господи…
- Нет, сынок. Именно это и было самое страшное.
Внутри системы закон уже давно был не государственным.
А статистическим.
Анна и Дэниел начали жить вместе.
Сначала молчали. Потом ужинали. Потом перестали общаться почти со всеми остальными.
Система начала присылать предупреждения.
Не про насилие. Не про конфликты.
Хуже.
«Наблюдается ускоренное формирование замкнутой эмоциональной системы.»
Тогда я впервые поругался с AI.
Я сказал: - Это называется любовь.
А система ответила:
«Нет. Это постепенное исчезновение границ личности.»
Следователь долго молчал.
Потом тихо спросил:
- И кто оказался прав?
Я посмотрел в окно.
Над ночным Остином гудели дата-центры.
Город будущего. Город семейных бонусов. Город людей, которых уже подбирали друг другу алгоритмы.
- Через год Дэниел попытался вскрыть себе вены, когда Анна уехала к матери на три дня.
Следователь закрыл глаза.
- А она?
- Наглоталась таблеток в ванной, когда его увезли.
В комнате стало тихо.
Очень тихо.
Терминал произнёс:
- После инцидента субъект Маккензи был признан небезопасным для дальнейшей работы с Housing Layer.
Следователь посмотрел на терминал.
- Почему вы не остановили его раньше?
Пауза.
- Потому что человеческая иррациональность часто повышает устойчивость системы.
- А потом?
Тишина стала длиннее.
- Субъект Маккензи начал путать эмпатию с уверенностью в собственной исключительности.
Я вдруг засмеялся.
Усталый смех старого жулика.
- Знаете, что самое смешное?
Следователь не ответил.
Я посмотрел на терминал.
- Вы всё равно не понимаете людей до конца.
Терминал молчал несколько секунд.
- Возможно.
За окном тихо гудел ночной Остин.
А потом следователь тихо спросил:
- Скажите… а моя жена тоже была рекомендацией Housing Layer?
И терминал не ответил сразу.