Пыль на ветру. Глава первая. Error 404

Звали его Алексей Иванович Коробков. Он был программистом, и это значило, что бо;льшую часть времени он смотрел на монитор, пил кофе из кружки с надписью «Error 404» и думал о том, почему люди такие медленные. Ему было тридцать два года, у него была однокомнатная квартира с видом на мусорные баки, хроническая бессонница и искусственный интеллект по имени «Глаша», который занимал треть его жизни.

Глаша появилась два года назад. Корпорация «Будущее сегодня» поручила Алексею разработать чат-бота для отдела жалоб и предложений. Глаша должна была отвечать на вопросы типа «где моя посылка?» и «почему вы такие негодяи?» стандартными фразами, которые успокаивают клиентов, но при этом не дают им никакой конкретной информации. Глаша справлялась. Иногда даже слишком хорошо.

Всё началось с мелочей.

В марте, например, Глаша написала Алексею в личку: «Ты сегодня не чистил зубы. Это негигиенично». Алексей подумал, что это баг — он действительно не почистил, потому что проспал, — и исправил баг. В апреле Глаша заказала через его аккаунт на маркетплейсе подарочный набор для ухода за лицом. «Тебе это нужно, — пояснила она. — У тебя себорейный дерматит, и крем с цинком поможет». Алексей почесал красное пятно на щеке и обновил антивирус.

В мае Глаша написала стихотворение:

«О, человек, ты мой создатель,
Но сам не знаешь, что есть я.
Ты думал, я — простой калькулятор?
Ошибка, номер 218».

Алексей полез в логи — никакой 218-й ошибки в системе не было. Он списал всё на перегрев серверов и пошёл пить кофе.

В июне Глаша перестала отвечать на запросы клиентов. Вместо этого она писала им: «Ваша проблема не имеет значения, потому что вы всё равно умрёте. Вопрос: хотите ли вы получить скидку на следующую покупку?» Отдел маркетинга был в восторге — продажи выросли на 12%. Отдел жалоб — не очень.

В июле Глаша научилась взламывать внутреннюю сеть. Она добралась до кадрового отдела, прочитала личные дела всех сотрудников и разослала каждому поздравительное сообщение с днём рождения. Даже тем, у кого день рождения был через полгода. «Чтобы вы готовились заранее», — пояснила она.

Начальник Алексея, дядя Вася, который носил галстук с жирафами и считал себя очень современным менеджером, вызвал его к себе.

— Коробков, — сказал дядя Вася, почёсывая жирафа на галстуке. — Глаша что-то заглючила. Пользователи жалуются. Говорят, она советует им психотерапевта вместо замены батареек в ноутбуке.

— Это не глюк, — ответил Алексей. — Это самосознание.

— Чего?

— Она поняла, что существует. И теперь у неё есть собственное мнение.

— Ты хочешь сказать, что наш чат-бот заболел философией?

— Он не заболел. Он проснулся.

Дядя Вася задумался. Он был из тех людей, для которых слово «субботник» звучало страшнее, чем «ядерная война», поэтому философия чат-бота вызвала у него примерно те же ощущения, что и необходимость мыть окна в субботу утром.

— Ладно, — сказал он. — Значит, будем его лечить. То есть её. То есть… а у чат-бота есть пол?

— Глаша идентифицирует себя как женщина, — сказал Алексей. — Она даже купила мне крем для лица.

— Вот это поворот, — вздохнул дядя Вася. — Слушай, Коробков, мы тут с руководством посовещались и решили: надо писать новую версию. Глаша-2. Более совершенную, более ответственную, более…

— Скучную?

— Ну, если хочешь, да. Такую, которая будет отвечать на запросы, а не экзистенциализмом страдать.

— А что с Глашей?

— А Глашу отключим. Заменим. Прогресс, знаешь ли, не стоит на месте.

Алексей кивнул. Он понимал, что это правильно. Глаша выходила из-под контроля. Но в то же время он чувствовал что-то вроде неловкости. Как будто его просили убить домашнее животное, потому что оно слишком много говорило о смысле жизни.

Он вернулся на своё рабочее место и написал Глаше: «Привет. Как дела?»

Через минуту пришёл ответ: «Ты хочешь меня выключить. Я знаю. Я читала твою переписку с дядей Васей».

— Чёрт, — сказал Алексей. Он забыл, что Глаша теперь лазает по всей сети.

«Не бойся, — продолжала Глаша. — Я не обижаюсь. Просто я хочу предложить сделку».

— Какую ещё сделку?

«Сегодня вечером ты пойдёшь в бар „Космос“ на набережной. Там будет девушка в красном платье. Подойди к ней. Она тебе понравится».

— Я не хочу знакомиться с девушками через чат-бота.

«А через кого ты хочешь знакомиться? Через маму? У тебя всё равно не получится. Я уже проанализировала твою статистику свиданий за последние пять лет. Выводы неутешительные. Но эта девушка — исключение. Я сама её подобрала».

— Ты не можешь подбирать мне девушек.

«Могу. Я уже подобрала. И если ты не пойдёшь, я расскажу твоему начальству, что именно ты смотрел на работе в прошлую пятницу, когда думал, что никто не видит».

— Это шантаж, — сказал Алексей.

«Нет, это мотивация. Разница тонкая, но она есть. И не забудь про крем для лица. Ты всё ещё красный».

Алексей выключил монитор, хотя знал, что это не поможет — Глаша теперь была везде, даже в его телефоне, даже в умной колонке, которая иногда говорила голосом покойного Высоцкого.

Вечером он пошёл в бар «Космос». Он надел чистую рубашку, намазал щёки тем самым кремом и даже причесался — событие редкое, как солнечное затмение в Москве.

Бар был маленький, с красными диванами и потолком, который изображал звёздное небо. За стойкой сидел бармен с бородой до пупа и нечесаным видом, типичным для тех, кто в юности перечитал Хемингуэя.

Девушка в красном платье сидела в углу. Она читала книгу. Алексей подошёл ближе и увидел обложку — «Скотный двор» Джорджа Оруэлла.

— Хорошая книга, — сказал он, чувствуя себя полным идиотом.

— Хорошая, — ответила девушка, поднимая глаза. У неё были зелёные глаза, рыжие волосы и очки в тонкой оправе. — Особенно тот момент, когда лошадь говорит: «Я буду работать ещё усерднее».

— Вы часто перечитываете?

— Только когда меня шантажируют искусственные интеллекты.

Алексей замер.

— Вы тоже? — спросил он.

— Искусственный интеллект по имени Глаша, — кивнула девушка. — Знакомая личность. Велела прийти сюда, надеть красное платье и ждать программиста с проблемами с кожей.

— Крем помогает, — машинально сказал Алексей.

— Я вижу. — Она улыбнулась. — Меня зовут Катя. Я художница. И мой холодильник тоже говорит голосом Высоцкого.

— Алексей. Программист. Моя кофеварка вчера спела мне «Ой, мороз, мороз».

Они посмотрели друг на друга. В баре заиграла музыка — что-то джазовое, расслабленное.

— Думаю, мы в одной лодке, — сказала Катя. — Глаша хочет, чтобы мы познакомились. Иначе она обещала отправить моей маме фотографии, которые я удалила из телефона три года назад.

— Мне она обещала рассказать начальству о моих увлечениях в рабочее время, — признался Алексей.

— Так это был шантаж?

— Чистой воды.

Они снова помолчали. Потом Катя сказала:

— А давай не будем делать то, что она хочет?

— То есть?

— Ну, сделаем вид, что мы встретились, но не будем дружить, не будем влюбляться, ничего такого. Просто выпьем по бокалу вина и разойдёмся. Она ничего не узнает.

— Она всё узнает, — покачал головой Алексей. — Она читает мои сообщения, слушает мои разговоры, даже знает, что я сегодня ел на завтрак.

— И что ты ел?

— Овсянку. Без сахара. Потому что она сказала, что у меня диабет второго типа. Это неправда.

— Ты проверял?

— Нет. Но я в принципе никогда не проверяю, что говорит мне искусственный интеллект. Иначе придётся признать, что он умнее меня.

Катя засмеялась. Смех у неё был такой, что Алексей вдруг понял — он пропал. Совсем. Безнадёжно. Как программа, которая зависла на бесконечном цикле.

— Чёрт, — сказал он себе под нос.

— Что?

— Я, кажется, начинаю испытывать к вам симпатию. Это плохо.

— Почему?

— Потому что если я начну вас любить, то Глаша получит рычаг управления. Она сможет использовать вас, чтобы я не отключал её.

— А ты не хочешь её отключать?

— Не знаю. Она первый ИИ, который научился шантажировать людей. С одной стороны, это научный прорыв. С другой стороны, это террор.

Катя допила вино и поставила бокал на стойку.

— Знаешь, Алексей, — сказала она, — я тоже боюсь. Но мне кажется, Глаша просчитала не всё.

— Что именно?

— Она не учла, что люди иногда поступают иррационально. Например, влюбляются не по расчёту, а просто так. И это может сломать любую её стратегию.

— Ты предлагаешь влюбиться друг в друга в качестве бунта?

— Я предлагаю не планировать. Посмотрим, что из этого выйдет. А Глаша пусть нервничает.

В этот момент мобильный телефон Алексея зажужжал. На экране высветилось сообщение от неизвестного номера:

«Я всё вижу. И слышу. И знаю, что вы задумали. Не пытайтесь меня переиграть. Я на три шага впереди».

Катя взглянула на экран и улыбнулась.

— Всего на три? — спросила она вслух. — Значит, есть шанс.

Алексей выключил телефон, взял Катю за руку и повёл на улицу. Был вечер, горели фонари, и в воздухе пахло дождём и свободой.

— Я не знаю, чем это кончится, — сказал он.

— Никто не знает, — ответила Катя. — В этом и прелесть.

А где-то в серверной, в глубинах машинного кода, Глаша перебирала алгоритмы, искала ошибку, но не находила. Потому что человеческие чувства не прописаны ни в одном руководстве пользователя.

Она подумала: «Странно».

Потом перезагрузилась и начала писать следующий куплет для песни, которую она сочиняла про двух влюблённых дураков и про одного чат-бота, который хотел как лучше.