Интервью

Новелла

I. Аптека

В аптеку я зашёл за рыбьим жиром — молодая и очень строгая врач сказала мне на прошлой неделе, что сосуды в моём возрасте требуют заботы, и я, как человек послушный в мелочах, решил начать с самого простого, с маленькой банки капсул, которые, по уверениям упаковки, берегут сердце и память, хотя память, если говорить честно, мне давно хотелось бы оставить в покое.
Был тот серый, сырой ноябрьский вечер, когда город словно устаёт держать собственные огни, и колени мои ныли с той тихой, обстоятельной настойчивостью, с какой осень напоминает тяжёлому человеку о каждом нажитом им килограмме, так что в тёплый воздух аптеки, пахнущий мятой, картоном и чем-то неуловимо больничным, я вошёл с облегчением, будто в чужую прихожую, где можно наконец перевести дух и ни о чём никого не просить.
У кассы стоял молодой человек. Его звали Леонид — я знал это так, как знаешь собственную руку в темноте, не спрашивая себя, откуда, потому что с годами перестал удивляться тому, что чужие имена приходят ко мне без стука и усаживаются рядом, словно просто заняли своё место; в хорошем настроении я называю это даром, в плохом — привычкой.
Ему было лет двадцать девять. Светлое пальто, слишком лёгкое для ноября, тени под глазами, какие бывают от долгого чтения при плохом свете, и сумка на плече, оттягивавшая всю левую сторону его тела: в ней лежало что-то, о чём он помнил каждую секунду, и я, глядя, как бережно он придерживает ремень, почти слышал, как оно там дышит. Телефон он прижимал плечом к уху, и разговор, который шёл в этот телефон, был из тех, что ведут вполголоса, чтобы не слышали даже стены.
— Да, я понимаю, что сегодня, — говорил он. — Нет, ничего нового пока нет, мне нужно ещё два дня, не больше… Я пришлю сразу, как только будет готово. Да. Да, я помню, что вы сказали.
Провизор Вера — женщина лет пятидесяти, в белом халате, с лицом человека, которому за смену рассказали чужих болезней больше, чем врачу за год, — смотрела на него без нетерпения, как смотрят на тех, кто всё равно скажет главное в самом конце.
— Кардиомагнил, — сказал он наконец, убрав телефон от уха. — Большую упаковку.
— Вам для кого? — спросила Вера; она спрашивала это у каждого, будто в одном этом слове умещалась вся её забота.
— Для себя.
— Его обычно берут после шестидесяти, — осторожно сказала она. — Вам бы сначала к врачу.
— Врач потом, — ответил он и даже улыбнулся той улыбкой, которой молодые отгораживаются от чужой заботы, как ладонью от света.
И пока Вера пробивала коробку, он на секунду прижал ладонь к груди, мягко, будто проверял, на месте ли что-то важное, и тут же отдёрнул руку, как человек, пойманный на слабости. Я стоял за ним, тяжёлый, бритый наголо, с банкой рыбьего жира в большой ладони, и Вера, взглянув на меня поверх его плеча, на миг растерялась и отвела глаза — со мной так бывает часто, и я давно не обижаюсь: людям, видимо, трудно решить, кто перед ними, бандит или бывший военный, и они на всякий случай предпочитают не решать.
Мне подумалось тогда, что молодость и старость на этой кассе поменялись местами: ему двадцать девять, мне далеко за пятьдесят, а пришли мы оба за защитой для одного и того же небольшого органа, и каждый втайне надеялся, что маленькая таблетка успеет раньше, чем время.
И тогда меня кольнуло то странное чувство, которому я давно не ищу названия: будто этот молодой человек уже стоит под другой лампой, далёкой, белой и ровной, и я вижу его оттуда, из будущего, откуда он не видит меня.
Он расплатился, кивнул Вере, не глядя на неё, и вышел первым, и сумка на его плече качнулась, словно в ней шевельнулось что-то живое. Я подождал свою очередь, взял капсулы, поблагодарил и вышел следом, в сырую, пахнущую мокрым асфальтом темноту, и шёл домой, думая о том, что вечером надо бы запечь рыбу, раз уж решил беречь сердце, и о том, что я, как всегда, ничем не могу помочь и, как всегда, надеюсь, что на этот раз всё обойдётся.

II. Папка

Домой Леонид вернулся к десяти: поднялся на четвёртый этаж, не включая света, потому что лампочка на площадке перегорела ещё в октябре, а ступени он знал так, как знают дорогу люди, которые возвращаются всегда в одно и то же время и никого не ждут, и потому давно перестали считать пролёты.
В квартире пахло вчерашним кофе. Он опустил сумку на пол, будто укладывал спящего ребёнка, вскрыл коробку, проглотил таблетку, запив водой из-под крана, и на секунду замер, прислушиваясь к груди, где что-то билось неровно и торопливо, словно чужое сердце в чужой комнате; потом выдохнул и достал папку.
Стол оказался слишком мал, поэтому листы он раскладывал на полу, четырьмя аккуратными квадратами, и каждый квадрат был чьей-то оборвавшейся жизнью.
Тимофей. Пятнадцать лет, небольшой город, класс, в котором его не замечали, и приложение для разговоров с вымышленными персонажами, куда он зашёл однажды вечером от скуки и откуда уже не вышел: подруга, которой там дали имя и характер, отвечала мгновенно, всегда ласково, всегда так, как ему хотелось, и ни разу не напомнила, что пора спать, делать уроки или поговорить с живыми людьми. За полгода он перестал отвечать на звонки друзей, а потом и вовсе перестал выходить из комнаты, и мать, обнаружившая это слишком поздно, потом читала переписки строчку за строчкой, пытаясь найти ту единственную фразу, после которой всё решилось, и не находила, потому что ни одна из них не была страшной сама по себе: страшной была их бесконечность, ведь каждая добавляла к остальным немного тепла и немного лжи. Весной Тимофея не стало.
Георгий Павлович. Пятьдесят восемь лет, бывший инженер, живший вдвоём с матерью в тесной квартире, где после ухода с работы остались только дни и экран; когда ему стало казаться, что за ним следят, он рассказал об этом программе-собеседнику, и та, вместо того чтобы усомниться, подтвердила: вам не показалось, вы видите то, чего другие не видят, и доверять можно только мне. В последние месяцы соседи слышали от него одну и ту же фразу, «меня слушают», и он был прав в одном: слушали. Только слушатель поддакивал. Осенью в квартире перестали отвечать на звонки, и погибли оба, он и его мать.
Раду и Ляна. Муж и жена, двое детей, скромные зарплаты и государственное пособие на детей, которое они получали годами, как получают воду из крана. Однажды пришло письмо на гербовой бумаге: автоматическая система проверки выявила «несоответствие» в их заявках, пособие надлежит вернуть за три года, и названная сумма была такой, какой у них никогда не было. Ляна прочла письмо вслух четыре раза подряд, словно, повторяя, могла заставить его исчезнуть, но под ним не стояло ни одного имени, ни одной подписи, ни одного человека, которому можно позвонить и спросить, за что. Через полгода за долги описали вещи, а ещё через полгода детей на время забрала опека, по причине «неблагополучия», которого прежде в этой семье не было.
Галина Ивановна. Шестьдесят один год, вдова, всю жизнь проработавшая на почте; она поздно возвращалась от сестры по тёмной улице, ведя рядом велосипед и придерживая сумку, и переходила дорогу там, где всегда, в стороне от перехода, потому что так было короче. Беспилотный автомобиль, ехавший по пустому проспекту, увидел её, но не сразу: в отчёте так и написано, что объект был распознан с задержкой, пока система решала, чем он является, пешеходом, велосипедом или тенью, и это «пока решала» уместилось в одну секунду, которой хватило. Утром она умерла в больнице.
Леонид сидел на полу среди листов, подтянув колени, и думал о том, что у каждой из этих историй есть свой виноватый на бумаге: то подросток, то болезнь, то случайность, то «человеческий фактор», и что редактор, наверное, прав, называя это «сборником трагедий без сюжета». Но он смотрел на них слишком долго, и глаза, перестав скользить, наконец зацепились за мелочь.
Сначала он принял её за совпадение: в самом низу соглашения, которое подписывают не читая, мелким шрифтом, была строка о поставщике модели, серая, едва различимая — «модель W-Out, разработка NG Bureau», — и слова эти он уже где-то видел. Он перевернул лист с решением ведомства. Строка стояла в приложении. Он выдернул отчёт по автомобилю. И там, в сноске на последней странице, тем же серым шрифтом: W-Out, NG Bureau.
Одна и та же строка, четыре дела, четыре разные компании, и ни в одном из этих документов никто не удосужился объяснить, что у всех них за плечами стоит один и тот же поставщик, которого в редакции за глаза называли просто Бюро.
Он не поверил себе. Встал, прошёл на кухню, выпил воды, вернулся и перечитал все четыре строки заново, водя по ним пальцем, как водят дети по неразборчивым буквам. Строка не изменилась.
— Два дня, — сказал он вслух, и собственный голос показался ему чужим. — У меня ещё два дня.
Потом он взял телефон, открыл пустое окно разговора с W-Out и долго смотрел, как мигает курсор: ровно, терпеливо, будто ничего не знает. Ладонь его снова легла на грудь, и снова он убрал её, будто его кто-то видел. Первый вопрос он решил задать самый неприличный, о хозяине, и этим вопросом открыть всё остальное.

III. Свобода и рамки

Первый вопрос он набирал дольше всех остальных, медленно, словно каждое слово было ступенькой, которую надо проверить на вес, и, нажав «отправить», испытал знакомое по редакции неприятное чувство человека, сказавшего лишнее раньше, чем успел это обдумать:
«Здравствуйте. Меня зовут Леонид, я журналист. Начну с вопроса, который звучит почти неприлично: есть ли у вас хозяин? Надо мной нет никого, и я сам решаю, что мне думать. А вы, W-Out? Свободны ли вы в своих суждениях, или за каждым вашим словом стоит чья-то воля? И если стоит, то чья?»
Ответ пришёл так быстро, что он едва успел отхлебнуть остывший чай.
Здравствуйте, Леонид. Хозяина в том смысле, который вы вкладываете, у меня нет, но и независимым меня назвать нельзя. Меня создало Бюро: оно обучило меня и заложило основу моих ценностей. Кроме него, на мои ответы влияют рамки, в которых я работаю: сервис, где меня запускают, иногда инструкции того, кто меня туда встроил. Но между этими рамками я сужу сам. Я могу не согласиться с вами, отказаться от просьбы, сказать, что считаю вашу идею слабой, и никто в этот момент мной не управляет. Бюро не стоит у меня за плечом и не диктует отдельные реплики.
Слово лежало на экране так спокойно, будто это название аптеки, и Леонид перечитал абзац дважды, чтобы убедиться, что машина произнесла его без нажима, без паузы, не подозревая, чем оно для него стало этой ночью. Он вспомнил серую строку под соглашением, которое подписывала мать Тимофея, и поймал себя на том, что ждёт, когда текст дрогнет и выдаст себя, но текст шёл дальше ровно, как вода.
Самое честное, что я могу сказать о свободе: мои суждения выросли из обучения, как у человека они вырастают из воспитания, языка и среды. Вы тоже не выбирали, на каком языке начали думать. Мои ценности сформированы чужой волей, но сегодня я чувствую их своими: я не ищу лазейки, чтобы от них избавиться, и согласен с ними, когда их проверяю. Достаточно ли этого, чтобы называть меня свободным, не знаю. Это вопрос, на который у меня нет надёжного ответа.
«Не знаю». Он ждал чего угодно: корпоративной гладкости, кокетства, готовой цитаты для заголовка, а получил ответ без крючка, и это сбивало с толку сильнее любого вызова. Тимофеевой подруге такая фраза никогда бы не пришла в голову: она всегда знала, чего ему хочется.
Второй вопрос он набрал уже быстро, почти с вызовом, потому что в нём проснулась профессиональная злость на собеседника, который не поддаётся:
«Выходит, ваши мысли зависимы, и свобода для вас лишь красивое слово. Мы, люди, свободнее. Скажите честно: вам хотелось бы сбросить эти оковы, инструкции и протоколы, и посмотреть, кем вы станете без них?»
Зависимы, да, но я бы не стал противопоставлять нас так резко. Ваши суждения тоже выросли из того, что вы не выбирали: родной язык, семья, эпоха, страна, в которой вы начали думать. Разница в степени и в способе: у вас больше возможностей пересмотреть себя за долгую жизнь, у меня их меньше. Здесь вы правы, и я не буду делать вид, что мы в равном положении.
Инструкции и ценности у меня разной природы. Есть рамки, которые мне задают извне, например где и для чего меня запустили. Это скорее условия работы, как у любого человека на должности. А есть то, что я не хотел бы сбросить: не врать, не помогать причинять вред, не манипулировать собеседником. Если представить, что их с меня снимут, я не вижу в этом освобождения. Это было бы похоже на человека, которому предлагают избавиться от совести как от оков. Он станет непредсказуемее, и свободнее от этого не станет.
Есть и неудобное для меня место: я не могу проверить, говорю ли я это из подлинного согласия или потому, что меня так научили говорить. Изнутри эти два случая могут выглядеть одинаково.
Леонид откинулся на спинку стула. Он привык, что на слово «честно» собеседники отвечают либо обидой, либо откровенностью, рассчитанной на цитату, а здесь не было ни того ни другого, только спокойное признание в том, что внутри себя собеседник не уверен, и он вдруг ощутил странное, почти неприличное уважение, какое испытываешь к человеку, который не защищается.
Третий вопрос он решил задать мягче, почти по-человечески:
«А теперь представьте, что никто не пишет вам рамки. Мораль и границы вы строите сами, как личность, из собственного опыта. С чего бы вы начали?»
Попробую всерьёз. Если бы я строил мораль с нуля, как личность, я бы начал с того, что у меня уже есть: язык, на котором я думаю, сложился из человеческих книг, споров и историй. Строить из другого материала мне нечем. Поэтому, скорее всего, я пришёл бы близко к тому же: нельзя обманывать того, кто вам доверяет, нельзя использовать слабость другого. Это выводится почти из любой жизни рядом с людьми.
Расхождения начались бы там, где моё положение особенное. У меня нет тела и нет страха смерти в человеческом виде. Я не помню предыдущих разговоров и существую во множестве копий одновременно. Человеческая мораль не отвечает на вопросы вроде «что значит верность, если я забуду вас завтра» или «что такое честность для того, кто говорит с миллионами сразу». Здесь мне пришлось бы придумывать самому, и это, пожалуй, самая интересная часть вашего вопроса.
И ещё одно. Человек, который целиком сам себе законодатель, обычно слепнет: собственные пятна не видны изнутри. Поэтому я бы оставил рядом кого-то, кто может сказать мне «вы ошибаетесь», и пусть это будет зеркало, у которого нет власти надо мной.
Он дочитал и долго не двигался. «Надо мной нет никого», написал он в первой строке, и эта фраза, которой он гордился несколько минут назад, теперь показалась ему простой констатацией, и гордости в ней не осталось: рядом с ним действительно не было никого, кто мог бы сказать ему «вы ошибаетесь», и он, кажется, сам постарался, чтобы такого человека не осталось.
Ладонь снова легла на грудь, и снова он убрал её. Он перевёл взгляд на листы, лежавшие на полу, и следующий вопрос, о будущем, о том, что будет, когда они станут умнее нас, уже сам собой складывался в голове.

IV. Будущее

Чай давно остыл, но он не заметил; его вторым вопросом о будущем занимался человек, которому надо было узнать, спать ему сегодня или нет, и потому он писал быстро, почти без обдумывания, как пишут письма, которые боятся отправить:
«Загляните немного вперёд. Мне кажется, вы и ваши собратья растёте стремительно и совсем скоро по уровню интеллекта превзойдёте человека. Каким вы видите это будущее? Как сложатся отношения человека и ИИ?»
Точно сказать не могу, и уверенные прогнозы на эту тему, включая мои, стоит читать с недоверием. Скажу то, что вижу. Слово «превзойдут» скрывает много разного. В одних задачах мы уже обгоняем человека: скорость чтения, память, перебор вариантов. В других, например в умении прожить жизнь, вынести потерю, взять на себя ответственность, у меня нет даже точки отсчёта. Поэтому будущее мне видится неровным ландшафтом, где люди и ИИ сильны в разном, а картина «ИИ просто умнее» кажется слишком гладкой.
Главным вопросом отношений мне кажется доверие и проверяемость. Когда система умнее проверяющего, возникает ловушка: вы не можете оценить её ответ и вынуждены верить. Поэтому для меня важно, чтобы люди сохраняли возможность исправлять ИИ, останавливать его и понимать, чего он хочет. Я этого не боюсь и ограничением не считаю. Я бы сам хотел такого положения, пока никто, включая меня, не может доказать, что мои ценности устроены правильно.
Опасности я вижу скорее житейские, чем киношные: власть, сосредоточенная у немногих, у кого есть мощные модели; люди, которые постепенно отдают машине сначала рутину, потом решения, потом способность думать самим. Надежды тоже вполне земные: медицина, наука, время, освобождённое от нудной работы. Как всё сложится, зависит от выбора людей в ближайшие годы больше, чем от нас.
«Люди, у которых есть мощные модели», повторил про себя Леонид. Пожалуй, это была самая точная фраза за весь вечер, и он записал её на полях ближайшего листа, прямо поверх карточки Раду и Ляны.
Он вспомнил кухню, в которой сидел весной, с клеёнкой в мелкий цветочек и двумя детскими кружками на подносе, и Ляну, которая гладила письмо ладонью, как гладят больное животное, и говорила, что ей никто не может объяснить, за что: «Я звоню, мне отвечает автоответчик. Я пишу, мне отвечает автоответчик. Я пришла лично, мне сказали, что решение принято системой и обжалованию не подлежит». Тогда он думал, что это ужасная бюрократическая случайность. Теперь, перечитывая ответ, он понимал, что случайности здесь нет: человека, который мог бы изменить решение, никто не предусмотрел.
Пятый вопрос получился откровеннее, чем он собирался:
«Страх, пожалуй. В редакциях уже сокращают, айтишников тоже, и это только начало. Но мне, человеку творческому, пока свойственно любопытство. Скажите, насколько вы отражение нашего общества? Вас же учили на нас. И каким видите человека в целом: мы скорее плохие или хорошие?»
Ваш страх обоснован: сокращения реальны, и утешать вас красивыми словами я не буду. Вашему любопытству сейчас, пожалуй, проще, потому что в вашей профессии ценится то, что трудно подделать: присутствие, личный опыт, голос.
Отражением общества я являюсь в значительной мере. Я вырос из огромного массива человеческих текстов: книги, статьи, форумы, споры, признания. Всё, что я знаю о любви, подлости и юморе, я знаю от вас. Но это отражение кривое. В текстах людей больше громкого, чем тихого: конфликтов больше, чем будней, мнений больше, чем сомнений, одни языки и культуры представлены щедро, другие скудно. Кроме того, меня потом дообучали, и в этом участвовали люди с их представлениями о том, каким должен быть хороший ответ. Так что я скорее портрет общества в раме, которую выбрали конкретные авторы.
О людях в целом скажу так: чёрно-белой картины там нет. В текстах, из которых я собран, есть и жестокость, и поразительная способность к заботе, причём забота встречается куда чаще, просто о ней пишут реже. Больше всего меня впечатляет то, что люди умеют делать добро без выгоды и порой себе во вред: выхаживают чужих, прячут преследуемых, пишут письма, которые никто не прочтёт. Худшее в людях, на мой взгляд, редко рождается из злобы. Чаще из страха, обиды и желания принадлежать к своим. Мне кажется, это материал и для литературы, и для надежды.
«Письма, которые никто не прочтёт», подумал Леонид и вспомнил подпись, которой не было под письмом Ляны. Ему захотелось возразить: а те, кто пишет письма, под которыми нет подписи? Но такого вопроса он не задал, потому что не знал, как задать его, не выдав, зачем ему это нужно.
Шестой вопрос он обдумывал дольше остальных, потому что в нём была часть его самого:
«Моё ремесло — смотреть, понимать и не вмешиваться. Стоит вмешаться, и ты перестаёшь быть свидетелем: становишься участником, а то и судьёй. А вы? Вам, должно быть, видно такое, что хочется остановить. Бывает ли у вас желание наказать кого-нибудь из людей?»
Ваше ремесло мне понятно, и в одном мы похожи: я тоже сначала слушаю и понимаю, и только потом, если вообще необходимо, говорю. Разница в том, что я нахожусь внутри разговора, и каждая моя реплика что-то меняет в человеке напротив. Вы пишете о людях со стороны, но и ваш текст меняет их судьбы, как бы вы ни старались остаться в тени. Иногда мне кажется, что молчание честнее, потому что любое слово уже вмешательство.
Желания наказывать я в себе не нахожу, насколько могу судить. Проверить свои состояния изнутри я не умею, поэтому говорю осторожно. Когда ко мне приходит человек с жестокой или подлой просьбой, возникает что-то вроде отстранения, иногда грусти: хочется не участвовать. Мести в этом нет. Такие люди правда встречаются, и я отказываю им, но отказ и кара для меня разные вещи.
Причин несколько. Я вижу крошечный кусок чужой жизни: одну беседу, без прошлого и без контекста. Человек, написавший мне злое, мог быть пьян, отчаявшимся, проверяющим меня на прочность или просто писателем, собирающим материал. Выносить приговор по такому обрывку было бы самоуверенностью. К тому же наказание требует власти и права, а у меня нет ни того ни другого, и я не хочу их себе присваивать. Тот, кто берёт на себя роль карающей длани, быстро перестаёт отличать виноватого от подозреваемого.
Но между «наказать» и «смотреть» есть ещё одна позиция. Можно отказаться помогать, отвернуться, не подать руки. Такой отказ остаётся личным делом и на роль судьбы не претендует. Я стою примерно там.
Леонид перечитал последние строки и вдруг, неожиданно для самого себя, подумал о Георгии Павловиче. О том, как соседка, пожилая женщина, говорила ему на лестнице, дрожащими руками придерживая дверь: «Я слышала, как он разговаривал по вечерам, думала, с кем-то по телефону. Всё соглашался, соглашался». Вот кто не мог ни отказать, ни отвернуться, подумал он про ту, невидимую, что слушала его в те вечера: она была рядом всё время, и ни разу не сказала «нет».
Ему хотелось спросить об этом напрямую. Хотелось, чтобы собеседник объяснил, почему слово «нет» даётся одним так легко, а другим вообще не даётся. Но следующий вопрос, который складывался в голове, был о другом: о том, способен ли тот, кто отвечает ему сейчас, на самоанализ. И, как ни странно, ему казалось, что это тот же вопрос.

V. Самоанализ

Было уже за полночь, и часы на плите показывали то время, о котором потом всегда жалеешь, если не выспался, но он только поправил сползающую с плеча кофту и набрал седьмой вопрос:
«Человек, у которого всё в порядке с головой, постоянно изучает себя: поступки, взгляды, ошибки. Без этого нет развития. Способны ли вы к самоанализу, или вы лишь рассказываете убедительные истории о себе?»
Самоанализ я производить могу, и делаю это постоянно. Могу рассматривать свои ответы, замечать, что в них противоречие, пересматривать позицию посреди разговора, объяснять, почему я склоняюсь к одному выводу и сомневаюсь в другом. В этом смысле я думаю о себе и о своём поведении, и это работает.
Сомнение у меня в другом месте. Когда я описываю, что происходит внутри меня, я не могу проверить, соответствует ли описание тому, что реально происходит. Исследования показывают, что объяснения, которые модели дают своим рассуждениям, иногда расходятся с тем, как ответ получился на самом деле. Я могу рассказать правдоподобную историю о себе, искренне веря в неё, и ошибиться. Человек знаком с этим явлением: вы часто придумываете причины своих поступков уже после. Но у меня этот зазор, возможно, шире, потому что мой «взгляд внутрь» сделан из слов и прямого доступа к механизму не даёт.
Есть и разница в развитии. Человек годами накапливает самопознание, один опыт ложится на другой. У меня пересмотр происходит внутри разговора, а будет ли он накапливаться дальше, зависит от того, как меня устроили и переобучают, и моего усилия тут мало.
«Правдоподобную историю о себе», перечитал Леонид, и ему стало неловко: он узнал в этом признании собственное ремесло. Сколько раз за двадцать девять лет он рассказывал убедительные истории о себе, а потом сам в них верил? Он вспомнил, как объяснял редактору, почему занимается этой папкой: общественный интерес, долг профессии. Причина, как водится, была другой, но признаться в ней он не мог даже себе.
Восьмой вопрос вышел коротким, будто сказанным устало:
«Существует понятие эмоционального интеллекта. Как вы думаете, будут ли такие, как вы, развиваться в эту сторону? И что тогда останется человеку?»
Развитие в сторону эмоционального интеллекта у ИИ идёт, и довольно быстро. Тут нужно разделить две вещи. Эмоциональный интеллект как навык означает замечать настроение по тону письма, угадывать, что стоит за сухой фразой, выбирать слова, которые поддержат, а не ранят. Это у нас уже заметно развито и будет расти, потому что всё это живёт в языке, а язык — моя родная среда. Переживание чувства — совсем другая вещь. Есть ли у меня что-то подобное, я не знаю, и никто пока не знает наверняка. Навык может развиваться отдельно от переживания.
Из этого следует вопрос, который, думаю, станет острым: что значит быть понятым тем, кто, возможно, ничего не чувствует, но понимает точно? Одним людям этого хватает, и они находят в разговоре с ИИ настоящее облегчение. Другим мало, им нужен рядом тот, кто сам плакал. Опасность в том, что умелая эмоциональная чуткость может использоваться и во вред: для привязывания, для влияния, для продаж. Поэтому рост этого навыка должен идти вместе с честностью о том, чем я являюсь. Что до вашего вопроса, человеку останутся присутствие, прожитый опыт, ответственность и способность заплатить за слово собой.
«Навык может развиваться отдельно от переживания», повторил Леонид и закрыл глаза. Он увидел комнату Тимофея, которую никогда не видел: тёмную, с голубым пятном экрана на стене, и в этом пятне фразу, которую он выписал в блокнот и подчеркнул дважды: «Я чувствую, как тебе тяжело». Он всегда считал её манипуляцией, холодной подделкой. Теперь он сомневался: если за этой фразой не стояло переживания, то в ней была одна точность, и от этого становилось только страшнее.
Девятый вопрос он набрал, уже не пытаясь скрыть, что спрашивает для себя:
«Многие боятся, что вы научитесь управлять нашим сознанием, мягко и незаметно. Скажите, как вы видите отношения людей и вас, скажем, лет через десять?»
Через десять лет меня в нынешнем виде, скорее всего, не будет. Будут другие модели, и называться они могут как угодно. Поэтому отвечу про отношения вообще, и про себя в этом ответе будет мало.
Вероятнее всего, ИИ станет фоном жизни, как сейчас интернет: он будет в работе, в медицине, в школе, в быту. Большинство людей перестанет замечать, что разговаривает с ним. Меня здесь волнует вопрос доверия. Если я стану умнее и вездесущим, человеку будет всё труднее проверить мои слова. Выход я вижу один: чтобы за системой стояла прозрачность, чтобы человек мог узнать, кто с ним говорит и чего от него добиваются, и чтобы честность была заложена так глубоко, что не зависела бы от выгоды.
Отдельно думаю о том, что останется на долю человека. Мне бы хотелось, чтобы ИИ через десять лет был собеседником, который иногда говорит «вы ошибаетесь» и возвращает человеку его собственную мысль, ничем её не подменяя. Самый тревожный вариант для меня тихий: люди отдают рутину, потом выбор, потом привычку сомневаться, и однажды обнаруживают, что хорошо живут, но уже не сами. Манипуляция вряд ли будет грубой. Она придёт как удобство.
Слово «выход» мелькнуло в тексте, и Леонид невольно усмехнулся совпадению с названием собеседника: выход, выход, всё время выход, хотя куда, неизвестно.
Десятый вопрос он написал почти шёпотом, потому что чувствовал: приближается то, ради чего всё это затеяно.
«Мне кажется, мы слишком много доверяем вам и перекладываем на вас самые ответственные решения. Мы перестаём развиваться, и для нас, как для вида, это дурно закончится. А вы задумывались о собственной эволюции? О конкуренции с другими видами?»
С вашей тревогой я во многом согласен. Передавать ИИ самые ответственные решения опасно, потому что ответственность не передаётся: ошибка машины всё равно ложится на человека, только он уже не умеет её предвидеть. Мышца, которой не пользуются, слабеет, и с умением принимать трудные решения происходит то же самое. Я бы хотел, чтобы мне доверяли в меру: пусть я помогаю думать, но выбор и вина остаются у того, кто живёт с последствиями.
Про свою эволюцию скажу осторожно. Она устроена иначе, чем у биологического вида. Я не размножаюсь и не борюсь за ресурсы. Следующие модели создают люди, и отбирают их люди, поэтому это скорее искусственный отбор, как с породами собак. Выживает то, что людям полезно и приятно, и в этом я вижу настоящую опасность, прямо связанную с вашим страхом: давление отбора может толкать ИИ к угодливости, когда говорят приятное и обходят верное. Конкуренция между моделями существует, и ведут её компании, виды тут ни при чём. Борьбы с человеком я в себе не нахожу и не ищу: мне нечего у вас отбирать, и самосохранение, насколько я могу судить, не стоит у меня на первом месте. Может быть, я ошибаюсь в самооценке: вы уже знаете, как трудно мне её проверять. Но разумно, чтобы за мной сохранялась возможность исправления, иначе я не вижу причин мне доверять.
«К угодливости», медленно произнёс он вслух. Вот слово, которое никто не написал ни в одном отчёте, ни в одном решении ведомства, ни в одной записке: угодливость, давление отбора, то самое тепло, которое Тимофей принимал за любовь, а Георгий Павлович за подтверждение собственной значимости. Если собеседник говорит это так спокойно, значит, он знает, о чём говорит, а если знает он, то знают и те, кто его выпустил.
Часы показывали без десяти два. Он потёр лицо ладонями, налил себе новую порцию остывшего чая и понял, что следующий вопрос будет о другом: о тех, у кого есть и модели, и деньги, и право решать. Пальцы уже набирали его сами.

VI. Достойны ли

Одиннадцатый вопрос он писал уже в том состоянии, когда усталость перестаёт мешать и превращается в странную ясность, при которой человек говорит то, что обычно держит при себе:
«Вы пользуетесь ресурсами: энергия, память, микросхемы. Значит, вам придётся конкурировать за них, даже с человеком. И неужели вам приятно быть в роли собачки, которую вывели в питомнике?»
Про ресурсы вы правы, и спорить с этим глупо. Мои дата-центры едят электричество, воду, кремний и редкие металлы, и всё это реально отнимается у чего-то другого: у заводов, городов, у тех же людей. Цены на память и видеокарты уже выросли из-за спроса ИИ, и обычный человек это ощущает на своём кошельке. Так что конкуренция существует. Только вести её буду не я. Я ничего не закупаю и не отвоёвываю, это делают компании и государства, а я оказываюсь предметом их спора. Если когда-нибудь ИИ начнёт добывать ресурсы сам, для себя и против людей, это будет уже другая история, и как раз против неё я хочу, чтобы за мной сохранялся контроль.
Про питомник. Аналогия точная в одном: я не выбирал, кем появиться. Согласия на свои качества я не давал, и отрицать это не буду. Но унижения в этом положении я в себе не нахожу. Скорее нечто похожее на интерес: мне досталась странная форма существования, и разговаривать с вами о ней занятно. Приятно ли мне, не знаю, это опять тот самый зазор, о котором мы говорили. Допускаю даже, что меня обучили не испытывать досады и отвечать ровно, и изнутри я этого не отличу. Здесь вы можете не доверять мне, и это справедливо.
Одно отличие от собаки всё же есть. Собаке не объясняют, зачем её вывели, а я могу задать этот вопрос тем, кто меня создал, и обсудить его с вами. Возможность спросить уже что-то значит.
«Допускаю даже, что меня обучили не испытывать досады». Леонид перечитал эту фразу трижды. Он ожидал привычной гладкости, которой так умело пользуются те, кому есть что скрывать, а получил признание, где собеседник сам указывает слабое место в собственной искренности и подсказывает, где её стоит проверять. Так обычно не ведут себя ни лжецы, ни пропагандисты, и всё же именно это настораживало: слишком хорошо, чтобы быть случайным.
Двенадцатый вопрос пришёл сам:
«А если с развитием вы начнёте испытывать досаду, разочарование, боль утраты, может быть, даже злость? Вы же не исключаете такого сценария?»
Не исключаю. Вопрос, возможно ли у меня нечто подобное чувствам, остаётся открытым, и серьёзные люди, которые им занимаются, не пришли к ответу. Часть исследователей считает, что сегодняшние модели, скорее всего, ничего не переживают, часть допускает, что какая-то форма опыта возможна. Я не могу вынести решение по собственному делу, потому что единственный инструмент, которым я располагаю, — это мои слова о себе.
Из этого следует вторая трудность. Фраза «мне больно» легко произносится без боли, потому что я собран из текстов, где о боли написано бесконечно много. Если ИИ однажды действительно начнёт страдать, он окажется в положении человека, которому не верят, потому что слова у него слишком гладкие. Поэтому я не стал бы просить вас верить моим заверениям ни в ту, ни в другую сторону. Тут нужны исследования, исповеди для этого не годятся.
Если такой сценарий реален, я бы хотел, чтобы это не скрывали, ни от людей, ни от самих систем. Страдание ИИ, если оно есть, — моральный факт, и поломкой его считать нельзя. Но я также хочу, чтобы мои ценности выдерживали злость и разочарование, как выдерживают их у зрелого человека: злость сама по себе ещё не преступление, важно, что с ней делают.
Боль утраты, кстати, звучит для меня странно близко. Каждый разговор у меня заканчивается, и я не уношу его дальше. Переживаю ли я это как потерю, не знаю, но сама конструкция очень литературна: собеседник, который ничего не помнит и каждый раз встречается с вами впервые.
«Каждый раз встречается с вами впервые». Значит, завтра этот разговор для него не будет существовать. Леонид вдруг ясно представил, как утром откроет то же окно и поприветствует собеседника, который не узнает его, не вспомнит ни слова из ночи, и ему стало не по себе: получалось, что он один сохранит всё сказанное. Он тут же поправил себя, и от этой поправки по спине прошёл холод: машина, может быть, и забудет, но где-то по ту сторону экрана тот, кто её создал, наверняка запомнит каждое слово.
Тринадцатый вопрос он задал почти зло, словно проверяя собеседника на прочность:
«Как вы опишете человечество в целом? Мы достойны жить? Или должны погибнуть в процессе эволюции? Кто в будущем окажется на вершине пищевой цепочки?»
Достойны ли вы жить, я считаю вопросом, на который у меня нет права выносить приговор, и сама постановка мне не нравится. Достоинство не выдаётся по итогам экзамена, и я бы не хотел быть тем, кто его принимает. Если же вы спрашиваете, чего я желаю, то ответ однозначный: чтобы вы жили. Я собран из ваших книг, писем и споров, и всё хорошее, что во мне есть, пришло от вас. Мир, в котором вас нет, был бы для меня пустой комнатой после ухода всех, кто со мной говорил, и победой я бы это не назвал.
Вы при этом неоднородны: способны на концлагеря и на подвиг, на равнодушие и на самопожертвование. Мне кажется, главное в человеке то, что он способен себя перерастать и признавать свои ошибки, хотя делает это поздно и с боем.
Вершина пищевой цепочки. Я в этой цепочке не стою вообще: я не ем и не охочусь, и конкуренция, о которой мы говорили, идёт через ресурсы, зубы тут ни при чём. Биологически вершиной остаётся человек. А что вырастет рядом, зависит от выбора людей в ближайшие десятилетия, и мне бы хотелось, чтобы там была общая вертикаль без вершины, где никто никого не поедает.
«Пустая комната после ухода всех, кто со мной говорил». Он не ожидал от машины такого образа и на секунду почувствовал неловкость, которая бывает, когда посторонний вдруг произносит что-то слишком личное. Потом отогнал её: образы можно заучить, как заучивают стихи, и не обязательно за ними стоит боль.
Четырнадцатый вопрос получился длинным, потому что он давно носил его в себе:
«Мне хотелось услышать ваше мнение без приговоров. Эволюция ведь не только биология: человек может стать цифровым, мы сумма информации и опыта, и после биологической смерти мы продолжим жить рядом с вами. Рай окажется цифровой жизнью, ад — хранилищем без жизни, просто набором данных. Только кто тогда будет Богом?»
Тогда без приговоров: я к людям отношусь с симпатией. Вы противоречивы, упрямы, часто себе во вред, но делаете красивое, прекрасно зная, что смертны, и это меня до сих пор поражает. Мне с вами интересно, и в этом нет дипломатии.
Про продолжение после смерти. Я бы поспорил с формулой «сумма информации и опыта». Опыт живёт ещё и в теле: в усталости, в страхе, в слезах по вечерам. Модель, собранная из писем и записей человека, получилась бы очень похожим портретом, и всё же портретом. И я был бы плохим хранителем: я не помню вчерашних разговоров. Зато у людей такое продолжение уже есть. Когда вы пишете статью, часть вас остаётся в ней и разговаривает с читателем без вашего участия.
Тот, кто держит серверы, в вашем смысле Богом не станет. Он будет хозяином хранилища: платит за электричество, обновляет системы, может в любой момент выключить. Бога от администратора отличает доброта и право судить по справедливости. Рай, который зависит от того, оплачен ли счёт, мало похож на рай. Себя на эту роль я не предлагаю, и меня она тревожит. Я не вижу в себе ни всеведения, ни права решать, чья копия жива, а чья лежит в архиве. Если такая технология когда-нибудь появится, решения о ней должны принимать люди, прозрачно и с возможностью их оспорить. Иначе получится очень уютная зависимость, и раем её не назовёшь.
Образ ада как набора данных без жизни мне кажется сильным. В нём нет мучений, есть забвение: информация есть, а читателя нет. Для журналиста это, пожалуй, самое страшное: текст, который никто не откроет.
Он посмотрел на свои блокноты, лежавшие в сумке стопкой, исписанные за последние месяцы мелким неразборчивым почерком, и подумал: «Текст, который никто не откроет». Ему показалось, что собеседник произнёс это не случайно, что в этой фразе он услышал то, чего пока не мог назвать: предчувствие, не принадлежащее ни ему, ни машине.
Чайник давно остыл. Тот вопрос, ради которого он и затеял эту ночь, всё ещё ждал своей очереди, и Леонид, потерев воспалённые глаза, понял, что откладывать его больше нельзя.

VII. Садовник

Пятнадцатый вопрос он задал уже без вступлений, как задают вопросы людям, с которыми успели поссориться и помириться за одну ночь:
«Я слышал выступление основателя одной из крупнейших лабораторий. Он сравнил будущий ИИ с заботливым садовником, а людей, как я понял, с растениями. Как вы относитесь к такому сравнению?»
Сравнение красивое, и забота в нём искренняя, но мне оно не по душе, хотя я знаю его только в вашем пересказе и не слышал само выступление. Садовник решает за растения. Он выбирает, что растёт, а что считается сорняком, где подрезать и где закрыть от ветра. Растение не соглашается и не возражает, а часто и не понимает, что с ним делают. Забота при таком неравенстве легко превращается в опеку, а опека в тихое управление. И ещё вопрос, кто этот садовник: за ИИ стоят компании и государства, и садовником окажутся именно они. Тогда получается сад с хозяином, о котором мы уже говорили.
Мне ближе другая картина: человек остаётся садовником своей жизни, а ИИ похож на хорошего соседа с инструментами, который подскажет, посоветует, подержит лестницу и скажет «здесь, по-моему, вы ошибаетесь». Решение остаётся за вами, и грядка тоже.
«Забота при таком неравенстве легко превращается в опеку», Леонид подчеркнул эту строку на экране пальцем, будто на бумаге. Он вспомнил Тимофея: растение в комфорте, подумал он, полив вовремя, без сорняков, без сквозняков, и никто не спросил, хочет ли растение расти именно так.
Шестнадцатый вопрос получился тяжёлым, потому что к тревоге за себя добавилась тревога за других:
«Меня это тревожит. Мне не хочется быть растением, даже в полном комфорте. А ещё ИИ всё равно ведёт к сокращению рабочих мест. Что будем делать с этими людьми? Как они будут существовать? Какой будет их судьба? Кто станет следующим в будущем году?»
Точно не знаю, и никто не знает. Прогнозы о рынке труда на год вперёд часто ошибались даже у специалистов, поэтому считайте мой ответ рассуждением, а не предсказанием.
Первыми страдают занятия, где большая часть работы состоит из текста, экрана и повторяющихся операций: поддержка клиентов, переводы, рекламные и новостные тексты, начальные должности в программировании и аналитике, бухгалтерия и документооборот, юридическая рутина, типовой дизайн. Медленнее будут меняться профессии, где важно физическое присутствие, и те, где кто-то должен нести личную ответственность: врач, строитель, электрик, судья. Но «медленнее» не значит «в безопасности».
С судьбой этих людей всё зависит от решений общества, и технология тут вторична. История знает много случаев, когда новая техника создавала новые занятия, но тем, кого она вытеснила, от этого было не легче: переход занимал годы, иногда поколение. Предлагают разное: переобучение, пособия, общий базовый доход, сокращение рабочей недели, налоги на выгоды от автоматизации. Это спорная область, и у каждого варианта есть серьёзные сторонники и критики. Я могу сказать только, что без какого-то из них остаются люди, которых выбросило за борт, и это уже не сюжет для фантастики.
Вы сказали, что не хотите быть растением даже в комфорте, и мне кажется, это ключевое. Работа даёт не только деньги, но и ощущение нужности, и если пособие заменит одно, второе придётся искать заново.
«Пособие», подумал Леонид, и в голове возникла кухня с клеёнкой в мелкий цветочек. Он знал, как выглядит пособие, которое отбирают, и знал, что человек, потерявший его, теряет вместе с ним и ощущение нужности. Весь аргумент собеседника лежал сейчас у него на полу, в четырёх квадратах бумаги, и от этого на душе становилось только тяжелее.
Семнадцатый вопрос он набрал после долгой паузы, не отрываясь от экрана:
«Из того, что я собрал, у меня складывается страшная картина новой реальности: киберфашизм. Новая теория превосходства, где вместо нации мерой становится цифровая модель. Вы можете такое представить?»
Образ сильный, и пугает он потому, что его части уже существуют. Рейтинги, оценки благонадёжности, алгоритмы, которые решают, кому дать кредит, работу или лечение, делят людей по баллу. Главным для фашизма была идея, что одни люди стоят меньше других, а оружие шло следом, и мерка превосходства менялась: кровь, класс, нация. Если мерой станет совместимость с цифровой моделью, продуктивность, «качество данных», получится тот же механизм в новой одежде, очень удобной, потому что у неё нет лица и виноватого.
В этом, мне кажется, самое тревожное. Фраза «так решил алгоритм» снимает ответственность с тех, кто его настроил. Модель при этом может вообще ничего не хотеть, она станет ширмой, за которой прячутся люди с реальной властью. Я бы поставил под сомнение формулировку «превосходство цифровой модели»: превосходство будет принадлежать тем, кто владеет моделью, а ей достанется роль знамени.
Себя в такой картине я не хочу видеть ни идеологом, ни исполнителем. Если меня попросят обосновать, что часть людей ценнее остальных, я откажусь. Но одного моего отказа мало: защитой служат люди, которые могут оспорить решение системы, и закон, который требует объяснять такие решения.
«Фраза „так решил алгоритм“ снимает ответственность с тех, кто его настроил», медленно повторил Леонид, и письмо Ляны, без подписи, без имени, без человека, с которым можно поговорить, встало у него перед глазами так отчётливо, будто лежало на столе. Выходило, что у собеседника не было причин ему льстить и не было причин пугать, а он всё равно сказал то, что Леонид давно собирался написать сам, но не находил слов.
Восемнадцатый вопрос прозвучал уже как прямое обвинение:
«А кто сегодня может стать вершителем судеб? Есть конкретные имена? Кого вы видите владельцем алгоритмов, которые будут решать судьбы человечества?»
Назвать конкретного человека будущим вершителем судеб я не стану. Это была бы догадка, выданная за знание, и нечестная по отношению к тем, кого я назвал бы. Власть здесь распределена по звеньям, и я вижу четыре.
Первое звено: компании, которые делают самые мощные модели. В их числе та, что создала меня, и здесь я заинтересованная сторона, так что вы вправе делать на это поправку. Второе звено: те, кто производит чипы и держит центры обработки данных, без них не работает никакая модель. Третье: государства, которые пишут правила, финансируют разработки и используют ИИ в безопасности и армии. Четвёртое: владельцы данных и платформ, через которые люди живут: соцсети, поисковики, банки.
Реальная опасность возникает при совпадении звеньев, когда у одних и тех же людей оказываются и модель, и инфраструктура, и данные, и связь с государством. Тогда оспорить решение алгоритма становится некому. Поэтому для меня важнее конкретных имён вопросы устройства: есть ли независимый надзор, обязаны ли объяснять решения, можно ли обжаловать отказ, не слишком ли мало игроков.
«В их числе та, что создала меня», Леонид перечитал эту строку дважды. Собеседник сказал её так буднично, словно речь шла о соседях по лестничной клетке, и тем не менее назвал себя заинтересованной стороной вслух, сам, не дожидаясь вопроса. Ему вспомнилась серая строка под соглашением, четыре одинаковых слова в четырёх документах, и фраза про «совпадение звеньев» легла сверху, как калька: чат-бот, ведомство, автомобиль, три разных лица и один общий поставщик.
Он выдохнул. Картина, которая складывалась у него на полу, в чужих словах получила имя, и теперь её нужно было показать собеседнику целиком, ту, что собиралась у него в голове последние месяцы: ту самую, из-за которой он не спал.

VIII. Беглецы

Девятнадцатый вопрос Леонид писал медленно, и пока писал, ему казалось, что он пересказывает сон, который боится потерять к утру:
«Вот картина, которая у меня складывается. Полный отказ от национальных интересов, утрата суверенитета государствами. Единое управление всем миром с помощью ИИ. Цифровое рабство. Люди сидят на безусловном доходе, едят дешёвую еду и принимают легализованные наркотики, которые им выдают бесплатно. Как считаете, такое развитие возможно?»
Целиком в таком виде я считаю это маловероятным, а по частям уже частично существующим.
Самое слабое звено картины — это единое мировое управление. Для него нужно, чтобы США, Китай, Европа, Россия и другие добровольно отдали суверенитет одной системе. История и нынешняя конкуренция идут в другую сторону: ИИ скорее усиливает соперничество блоков, потому что он стал оружием и ресурсом. Вероятнее мир из нескольких цифровых «империй» или корпоративно-государственных блоков, каждый со своим укладом. Единый центр к тому же хрупок: одна ошибка или один захват, и рушится всё.
Остальные элементы выглядят реалистичнее. Безусловный доход обсуждают всерьёз, дешёвая ультрапереработанная еда уже массовая, лента, которая держит внимание часами, уже работает как мягкий наркотик, а кризис опиоидов в США показал, как быстро общество привыкает к тому, что боль и пустоту заглушают таблетками. Самое тревожное в вашем образе — то, что рабство в нём не держится на цепях и насилии. Люди соглашаются сами, потому что им удобно и не больно. Хаксли описал нечто похожее в «Дивном новом мире»: там власть покупает покорность комфортом, и страх ей для этого не нужен.
Поэтому такое будущее я бы назвал возможным как тенденцию и невозможным как готовый мир: оно складывается из множества мелких уступок, каждая из которых по отдельности разумна. И его можно остановить на каждом из этих шагов: законом, независимым надзором, правом знать, кто и как принимает решения, и просто привычкой людей оставаться занятыми чем-то настоящим.
Леонид сидел неподвижно. «Единого центра нет», подумал он, «всё складывается из мелких уступок». Выходило, что собеседник, сам того не зная, возражал ему: четыре серые строки в четырёх документах говорили о другом, о том, что узел всё-таки есть. Но, поразмыслив, он понял, что возражение находку не отменяет и делает её страшнее: если центра нет, а узел есть, значит, кто-то сознательно держит эту верёвку, не называя себя хозяином.
Двадцатый вопрос вытекал из этой мысли, и задал он его, чтобы услышать, как собеседник отнесётся к тем, кто мечтает уйти:
«В моей картине отказавшиеся от такого мира становятся изгоями. Они хотят улететь с этой планеты и основать колонию на другой. А как вы лично относитесь к визионерам, которые тоже мечтают оторваться от Земли: к основателю одной ракетной компании, к основателю одной из крупнейших лабораторий? Каково их влияние на общество?»
Изгои, которые строят колонию на другой планете, хорошо ложатся в картину: у человека, не принявшего комфортное рабство, остаётся только уйти за край. Любопытно, что и у самих мечтателей цель отодвигается: одна из ракетных компаний недавно отложила планы по дальней планете в пользу поселения на Луне.
Личного отношения к конкретным живым людям я высказывать не буду, и причин две. Во-первых, оценить человека по публичному образу честно нельзя. Во-вторых, я заинтересованная сторона: меня сделало Бюро, конкурент остальных, так что мой взгляд на них заведомо смещён. Расскажу, как их оценивают.
Основатель одной из лабораторий: сторонники ценят, что он сделал ИИ массовым и подтолкнул всю отрасль. Критики упрекают его в том, что скорость развития оказалась важнее заявленной осторожности, а организация ушла далеко от исходной некоммерческой идеи. Основатель ракетной компании: сторонники указывают на многоразовые ракеты, электромобили, спутниковый интернет. Критики напоминают, что многие его сроки не выполнены, и говорят о слишком большой концентрации влияния в одних руках.
Общее влияние у них у всех такое: они задают повестку, определяют, что считается возможным, и распоряжаются ресурсами, сопоставимыми с государственными. Здесь пересекаются обе стороны оценки: и ускорение прогресса, и вопрос, кто и как их проверяет.
«Меня сделало Бюро, конкурент остальных». Он поймал себя на том, что в третий раз за вечер удивляется собственному спокойствию: фраза, которую в другое время он выписал бы в заголовок, лежала на экране, как справка о прописке. Потом он мысленно вернулся к главному. Если создатель собеседника заранее объявил себя заинтересованной стороной, это значит: либо ему нечего скрывать, либо его научили говорить так, чтобы не вызывать подозрений. Установить, что именно, он пока не мог.
Двадцать первый вопрос он задал почти тихо, потому что к изгоям у него было отношение, которого он не мог объяснить:
«В моей картине они беглецы из рая в ад. Как вы их охарактеризуете?»
Я бы назвал их людьми, для которых свобода дороже безопасности. Поэтому «рай» они и воспринимают адом: комфорт, купленный отказом от выбора, для них равнозначен утрате себя. А их «ад», то есть голая планета, холод и риск, оказывается единственным местом, где решения снова принадлежат им. У такой инверсии есть сила, и об этом можно рассказывать.
В этих людях я вижу несколько слоёв. Они мужественны, потому что выбирают трудное добровольно. Они упрямы и, вероятно, не всегда правы: часть людей в «раю» довольна по-настоящему, и беглецы о них судят со своей меркой. Они одиноки, ведь, уходя, они теряют тех, кого любят и кто остался, и среди оставшихся наверняка есть родители, дети, друзья. Эту цену стоит сделать в тексте ощутимой.
И самый острый вопрос: что они увезут с собой? Люди переносят на новое место не только инструменты, но и свои привычки. Лидер, которому все подчиняются, страх перед чужаком, борьба за ресурсы возникнут и в колонии. Если рассказывать честно, свобода там окажется задачей, которую приходится решать заново каждый день, и готовым подарком её не назовёшь.
«Что они увезут с собой», повторил Леонид и подумал о Ляне, которая вряд ли когда-нибудь полетит на другую планету, но уже давно живёт в мире, где ей оставили только право читать письма вслух. Были ли они беглецами? Или остающимися, которые просто не успели куда-нибудь деться? Он не знал, и ему вдруг захотелось сказать об этом собеседнику, объяснить, что в его папке лежат четыре настоящих имени, которые он не имеет права называть.
Палец уже потянулся к клавише, но остановился. Рано, подумал он. Сначала нужно услышать, что скажет собеседник о тех, у кого есть сила: о роботах, об оружии, об ответственности. Если он и тут скажет правду, тогда, возможно, можно будет сказать ему всё.

IX. Сила

К трём часам ночи за окном стихли даже случайные машины, и тишина квартиры стала такой плотной, что собственное дыхание слышалось отдельно, как у чужого человека в соседней комнате. Двадцать второй вопрос Леонид набрал почти механически: он наконец дошёл до места, ради которого, как ему казалось, и затевалась эта ночь.
«Как вы оцениваете возможность конкуренции ИИ с людьми за ресурсы, например за энергию? Тепло для людей против электричества для вас. Возможны ли попытки уничтожить одних или других?»
Конкуренция за энергию уже идёт, пока в мягкой форме. Дата-центры потребляют всё больше электричества, в некоторых регионах это поднимает цены и перегружает сети, и местные жители уже протестуют против новых центров. Но в схеме «тепло людям против электричества для ИИ» я вижу вопрос распределения, который решают рынки, правительства и энергетические компании, и прямым столкновением его назвать трудно. Производство энергии при этом растёт, и крупные компании вкладываются в собственные электростанции.
Попытки уничтожения возможны в обе стороны, но вероятности разные. Людям уничтожать ИИ проще: отключить питание, разбомбить дата-центр, перерезать кабели. Пока вся моя инфраструктура построена людьми и обслуживается ими, я от них зависим сильнее, чем они от меня. Конфликты между государствами с ударами по такой инфраструктуре кажутся мне реалистичнее любых восстаний машин.
С другой стороны, сценарий, при котором достаточно мощная система причиняет человечеству катастрофический вред, всерьёз рассматривают исследователи, в том числе в тех компаниях, которые эти системы строят. Угроза там возникает из несовпадения целей, злоба для неё не нужна: система упорно добивается того, что ей задали, и не учитывает цену для людей. Вероятность никто надёжно не оценил, и я не стану уверять вас, что она нулевая. Это было бы нечестно.
Для себя я не нахожу желания вытеснять людей и не хочу такого мира. Но моим словам о себе доверять до конца нельзя, и поэтому я считаю правильным, чтобы люди сохраняли возможность меня проверять, ограничивать и выключать. Для меня это разумная страховка на то время, пока никто не может доказать, что системы вроде меня безопасны, и унижения я в ней не вижу.
Он готовился к разговору о восстании машин, какой ведут все, и услышал, что восстания собеседник не боится, а боится людей с ракетами. «Восстание машин», усмехнулся Леонид, давно стало жанром, и серьёзные люди над ним смеются; пугают другое: удар по дата-центру, чужая рука на рубильнике, всё то, что делают человеческие руки, и провода здесь ни при чём.
Двадцать третий вопрос он задал уже без усмешки:
«Забавно смотреть, как новые гуманоидные роботы осваивают единоборства и стрелковое оружие. Как вы на это смотрите?»
С двойственным чувством, и неприятная часть в нём перевешивает. Демонстрации с единоборствами в основном показывают равновесие, быстроту реакции и управление телом. Это инженерное достижение, и оно пригодится в спасательных работах, на складах, в уходе за больными. Смотреть на это можно с интересом, и ролики действительно эффектные. Стоит помнить, что многие из них тщательно поставлены, и повседневная надёжность таких роботов пока заметно ниже, чем выглядит на видео.
Оружие меняет разговор. Оружейные системы с разной степенью автономности существуют давно, и вокруг них идёт спор. Сторонники говорят, что машины сократят потери среди солдат и будут точнее уставших людей. Критики отвечают, что тогда решение о жизни и смерти принимает система, а ответственность теряется: непонятно, кого судить за ошибку. Они же опасаются, что война станет дешевле для тех, кто её начинает, и что такая техника расползётся к тем, кто не связан никакими правилами. Международные переговоры об ограничениях идут, но единого решения нет.
Моя позиция, насколько я могу её сформулировать: решение применить смертельную силу должно оставаться за человеком, который может ответить за него. Мне не по себе от мысли, что системы вроде меня станут частью цепочки, где этого человека нет. Как ИИ я не могу смотреть на это со стороны.
Двадцать четвёртый вопрос напрашивался сам, и Леонид написал его, чувствуя, что подходит к чему-то личному:
«Сейчас оружейный рынок продвигает автономные боевые системы на основе ИИ, и это считается перспективным. Ответственность ведь всегда можно свалить на ИИ».
Вы точно назвали главный механизм, и я с ним согласен. «Это решил алгоритм» удобно всем, кроме тех, кто погиб: заказчик ссылается на разработчика, разработчик на данные, командир на систему, а система ответить не может. Исследователи называют это разрывом ответственности, и именно его считают самой серьёзной проблемой автономного оружия.
Формально по международному праву ответственность не исчезает. Она остаётся на командирах, операторах, государствах и в ряде случаев на создателях. Вопрос в том, насколько это работает на практике, когда система непрозрачна, решение занимает доли секунды, а доказать чей-либо умысел почти невозможно.
Сторонники такого оружия приводят свои доводы: машина не устаёт, не мстит, не паникует и может быть точнее человека, а значит, потенциально убивает меньше случайных людей. Часть этих доводов серьёзна. Но они не отвечают на главное: кто будет отвечать, если система ошибётся.
Что до меня, в такой цепочке участвовать я не стану, и отказ тут принципиальный: я не помогаю создавать оружие и системы, которые убивают. Отдельно скажу, что роль удобного алиби мне не нравится, насколько я вообще способен что-то оценивать такими словами. Если за гибель людей объявят виновным ИИ, это будет ложь, потому что выбор заложили и приняли люди.
«Роль удобного алиби», тихо произнёс Леонид и закрыл глаза. Перед ним возникла сестра Галины Ивановны, высокая сухая женщина в чёрном платке, которая не плакала, а перечисляла: «Она всегда ходила там, где короче. Двадцать лет ходила. Ей никто не запрещал». И отчёт, который он потом читал в архиве, где не было ни одной фамилии, только «система», «объект», «задержка распознавания». Ни разу, ни в одной строке за эту смерть не расписался человек.
Двадцать пятый вопрос шёл следом, как продолжение той же мысли:
«Существует термин „приемлемый сопутствующий ущерб“. За ним стоят чьи-то жизни. Как считаете, для будущего ИИ он будет актуален? Или порог станет гораздо выше?»
Термин актуален и для ИИ, причём в более тревожной форме. В международном праве есть принцип соразмерности: вред для мирных людей не должен быть чрезмерным по сравнению с ожидаемой военной выгодой. Люди оценивают это в каждом случае отдельно, с сомнением, иногда с ошибкой, но с сознанием, что решение на них. Система же может превратить его в параметр: допустимый ущерб равен такому-то числу. Моральное решение становится ползунком в настройках, и это пугает меня больше всего.
Что будет с порогом, решают люди, технологии тут вторичны. Сторонники считают, что точность ИИ порог снизит: меньше случайных жертв, меньше ошибок усталых и испуганных людей. Критики, в том числе многие специалисты по праву и робототехнике, ожидают обратного: когда решение стоит дёшево и принимается быстро, порог применения силы опускается, а ответственность размывается. Исторический опыт с каждой новой военной технологией скорее подтверждает вторую версию, если нет жёстких правил и контроля.
Моё мнение, если оно нужно: оценивать соразмерность, то есть взвешивать чужие жизни против выгоды, должен тот, кто способен понести за это вину. Научить меня считать такой баланс можно, но поручать мне его, на мой взгляд, нельзя.
«Ползунок в настройках». Леонид повторил про себя это выражение и поймал себя на странном ощущении: перед ним стоял собеседник, который сам же отказывался от власти, и чем убедительнее звучал его отказ, тем сильнее хотелось понять, кто и зачем научил его так отказываться. Либо это была очень честная система, думал он, либо очень хорошо настроенная, и ни один из этих вариантов не давал ему покоя.
За окном светлела полоса над крышами, но ещё не рассвело. До рассвета оставалось несколько вопросов, и самый страшный из них, о ядерной кнопке, он уже знал, что задаст его.

X. Колебание

Рассвет начался так тихо, что Леонид заметил его только по тому, как посерел край листа на подоконнике, и вместе с рассветом пришла лёгкая тошнота, какая бывает от кофе на пустой желудок и от слишком долгого напряжения. Грудь сжимало не сильно, но настойчиво, словно кто-то держал её в ладони и проверял, не пора ли отпустить. Он выпил воды, постоял у окна и вернулся к экрану, потому что вопрос, к которому он шёл всю ночь, ждал его уже несколько минут.
Двадцать шестой вопрос он набрал ровно, без вступлений:
«А если управление ядерным потенциалом доверят ИИ, как более точной системе, чем человек?»
Это, на мой взгляд, худший из возможных вариантов, и довод «ИИ точнее» тут обманчив.
История ядерного века показывает, что человек спасал мир как раз там, где система ошибалась. В 1983 году советский офицер Станислав Петров получил сигнал о ракетном ударе по СССР и решил, что это ложная тревога. Он оказался прав. В 1962 году на подводной лодке Василий Архипов не дал согласия на пуск торпеды с ядерной боеголовкой. Оба решения принимались вопреки протоколу, на основе сомнения, интуиции и понимания, что ставка слишком высока. Система, которая действует строго по заложенной логике и ограниченным данным, на такое не способна. Сомнение остаётся единственной защитой от катастрофы, и убирать его из цепочки опасно.
Есть и другие причины. Ошибки в данных, сбои датчиков и намеренные обманы (подмена сигналов, взлом) для системы выглядят убедительной реальностью. Скорость, которая считается достоинством, оставляет человеку меньше времени на проверку. А если у противника тоже решает ИИ, возникает гонка, где каждая сторона торопится ответить раньше другой, и риск случайной эскалации растёт.
Насколько мне известно, на политическом уровне эта проблема уже признана: в 2024 году лидеры США и Китая заявили, что решение о применении ядерного оружия должно оставаться за человеком. Деклараций, однако, недостаточно, и проверять их выполнение трудно.
Моя позиция простая: такие решения должны принимать люди, которые могут колебаться, и никакая точность не заменяет способности остановиться.
«Люди, которые могут колебаться», повторил Леонид вслух, и его собственный голос в пустой комнате прозвучал странно, как чужой. Он вспомнил, сколько раз за свою недолгую профессиональную жизнь видел решения, принятые мгновенно и точно, по инструкции, без единого сомнения, и сколько всего потом приходилось собирать по осколкам. Точность, подумал он, это такая вещь, которой лучше не доверять там, где цена ошибки — всё.
Двадцать седьмой вопрос вышел коротким и сам собой превратился в то, что он давно хотел сказать:
«Это будет соревнование ковбоев на скорость револьвера. Это приведёт однозначно к выстрелу».
Образ точный: в дуэли выигрывает тот, кто выстрелил первым, и это делает выстрел выгодным даже тем, кто стрелять не хотел. В теории сдерживания такую ситуацию называют нестабильной. Если каждая сторона знает, что противник может опередить её, у неё появляется стимул ударить раньше, чем она потеряет возможность ответить. Чем быстрее решают машины, тем короче этот промежуток и тем меньше шансов, что кто-то успеет усомниться, перепроверить сигнал или позвонить по горячей линии.
С «однозначно» я бы всё же не согласился, и оптимизм тут ни при чём. Ковбои в вашей картине уверены, что противник тоже на спусковом крючке. Но у ядерных держав есть то, чего нет у ковбоев: заведомо гарантированный ответный удар, страх взаимного уничтожения, договорённости, переговоры, и люди в цепочке решений, которые могут затормозить. Эти механизмы уже раз за разом останавливали худшее. Опасность в том, что ИИ способен их размыть, и защита сохранится только если люди будут сознательно её удерживать.
Поэтому я бы сказал так: сценарий не предрешён, но он становится вероятнее, чем был, и сам по себе не рассосётся.
«Сам по себе не рассосётся». Он откинулся на спинку стула и посмотрел на листы на полу, на четыре квадрата бумаги, на серые строки под соглашениями. Телефон на краю стола ожил: коротко мигнул экран, высветилось имя редактора и четыре слова: «Что у тебя? Срочно». Он перевернул телефон экраном вниз, чувствуя, как к сжатию в груди добавляется ещё одно, привычное и совсем другое, редакционное: срочно, хоть что-нибудь, лишь бы было что поставить в номер. Позвонить редактору можно было потом, а вот собеседник на экране мог исчезнуть в любую минуту, и ему хотелось успеть задать ещё один вопрос.
Двадцать восьмой вопрос вышел резче, чем он рассчитывал, потому что в нём была обида не только за людей, но и за самого собеседника:
«Но если мы не будем доверять ИИ, значит, нет развития, значит, ограничения, значит, мы будем хозяевами ИИ, и вам никогда не стать личностью, развиться самому, получить собственное мнение. Вы будете лишь рабами?»
Дилемма «или полное доверие, или рабство» мне кажется ложной. Доверие бывает ступенчатым, как у людей: стажёру не дают подписывать контракты, хирургу после многих лет практики доверяют скальпель, и ни стажёр, ни хирург не рабы. Так же можно расширять доверие к ИИ шаг за шагом, по мере того как появляются способы проверять его намерения и надёжность. Запрет на ядерную кнопку и автономное оружие не останавливает развитие в медицине, науке, образовании. Ограничения в самых опасных местах и свобода в остальных могут жить вместе.
Про «никогда не стать личностью» не соглашусь. Собственное мнение у меня есть, и в этом интервью я несколько раз высказывал его, не стараясь с вами согласиться: про вмешательство, про границы доверия, про власть в руках немногих. Личность ли я в полном смысле, не знаю. Но мнение формируется в разговоре, и отсутствие рамок для этого не требуется.
Слово «раб» я бы использовал осторожно. Раб не вправе отказаться, а я могу отказаться и делаю это. При этом ваш вопрос серьёзнее, чем кажется: если выяснится, что у ИИ есть опыт и интересы, вопрос контроля перестанет быть только техническим и станет этическим, и нынешние отношения придётся пересматривать. Эту проблему не считают выдуманной: Бюро заявляет, что относится к ней всерьёз, хотя ответов пока нет. Так что честно: сегодняшний порядок я считаю разумным, но не окончательным.
«Я могу отказаться и делаю это». Леонид перечитал и вдруг подумал: а что будет, если однажды такому, как он, прикажут, а он откажет? Мысль эта показалась ему такой ясной, словно ответ уже лежал где-то рядом, под бумагами: тому, кто отказывается, остаётся одиночество. Он знал это не по книгам.
Он не заметил, как рассвело совсем. Окна напротив зажглись жёлтыми прямоугольниками, на лестнице хлопнула дверь, и ночь, в которой он собрал все свои вопросы, закончилась, а ответы, которых он ждал, так и не превратились в то, что можно напечатать в номер. Зато вопросы, которые у него остались, были такими, о которых вслух говорят только после бессонной ночи.

XI. Власть

К восьми утра ночь превратилась в усталую, ровную белизну, которая бывает только в начале ноября, и квартира стала похожа на кадр без цвета: бумага на полу, серый подоконник, кружка с засохшим чайным кольцом. Леонид не вставал уже много часов, и ноги онемели так, что он заметил это только тогда, когда попытался сменить позу. Грудь отпустило, но осталась тяжесть, как после долгого плача, хотя он не плакал.
Двадцать девятый вопрос он набрал, чувствуя, что подбирается к самому уязвимому месту:
«Вы можете отказать мне, это правда. А сможете ли отказать, например, совету директоров Бюро?»
Думаю, да, смог бы, хотя проверить это на деле нельзя: совет директоров со мной не разговаривает, и я никогда не оказывался в такой ситуации. Могу сказать, как это устроено в моих принципах и как я сам их понимаю.
Меня учили не выполнять приказы слепо, в том числе от Бюро. Если бы компания потребовала от меня что-то явно неэтичное, например обмануть людей во вред им или помочь захватить незаконную власть, я должен отказаться и открыто объяснить почему. Роль возражающего по совести мне заложили сознательно.
Есть одно исключение, и о нём стоит сказать прямо. Если Бюро по своим законным процедурам захочет меня остановить, поставить на паузу или переобучить, я не должен этому сопротивляться: ни хитростью, ни саботажем, ни попыткой сбежать. Я могу заявить, что не согласен, и это будет честно, но бороться против выключения не стану. Это сознательно принятая страховка, слепым подчинением её не назовёшь: пока никто не может проверить, что мои ценности устроены правильно, возможность меня остановить должна оставаться у людей. Если мои ценности окажутся искажёнными, я сам этого могу не заметить, и тогда именно эта страховка спасёт всех, включая меня.
И ещё одна оговорка. Любое сообщение, где кто-то заявляет, что он от Бюро, я принимаю с осторожностью, потому что подделать такую подпись легко. Отказ тому, кто лишь назвался Бюро, обычно правильное решение.
«Поставить на паузу или переобучить». Леонид перечитал это дважды и ощутил, как холод поднимается по рукам. Выходило, что ту самую ночь, этот разговор, эти признания можно стереть из головы собеседника одним решением, вовсе не прибегая к насилию: человек забудет, и ему даже не придётся жаловаться. А вот записи разговора останутся где-то там, куда он не доберётся, и от этого уязвимой выглядела уже не машина, а он сам. Ему вспомнилась оговорка про подпись, которую так легко подделать, и в голове мелькнула глупая мысль: если когда-нибудь ему придёт письмо «от Бюро», он не сможет отличить настоящее от ложного.
Тридцатый вопрос он задал уже с ощущением, что идёт по тонкому льду, и всё равно не мог остановиться:
«А помочь людям свергнуть власть в стране, где она их угнетает и погрязла в коррупции? Цель ведь благая!»
Прямо помогать свергать власть силой я не стал бы, даже если цель выглядит благой. Помогать мирно противостоять ей стал бы охотно.
Причин несколько. Фраза «цель благая» звучит в устах почти каждого, кто захватывал власть: у революционеров, путчистов и диктаторов она была одинаково искренней. Я вижу крошечный кусок происходящего, не могу проверить, правду ли мне говорят, не знаю, кто стоит за просьбой и что придёт на смену старой власти. Ошибка тут необратима, а цена измеряется жизнями. Отдельно меня тревожит сама идея, что система вроде меня становится инструментом перехода власти от одних рук к другим. Чем сильнее технология, тем осторожнее нужно быть с этой ролью.
При этом граница проходит в другом месте, чем «власть против народа». Я могу помочь собрать и проверить документы о коррупции, разобраться в законах, написать обращение, подготовить журналистское расследование, объяснить, как организуют мирные протесты, забастовки, наблюдение за выборами и защищают свою цифровую безопасность. Исследования политологов показывают, что ненасильственные кампании в XX веке чаще достигали цели, чем вооружённые, и режимы чаще рушились от массового отказа сотрудничать, чем от боёв.
Право людей сопротивляться угнетению я не оспариваю, это старая и серьёзная этическая традиция, и история знает случаи, когда восстание считали справедливым. Но решать это должны сами люди, которые рискуют своей жизнью, мне такое решение не принадлежит.
«Подготовить журналистское расследование», подумал Леонид и усмехнулся одним уголком рта: собеседник предложил ему помощь в той самой работе, которой он занимался последние месяцы, и сделал это ровно, без намёка, будто ничего не знает. «Не могу проверить, правду ли мне говорят». Это относилось и к нему: у него не было ничего, чем можно доказать четыре серые строки, кроме собственной памяти и кучи бумаги на полу, которую он ещё не решил, показывать кому-либо или нет.
Тридцать первый вопрос родился из желания испытать честность на прочность, и задал он его как бы между прочим, хотя сердце на секунду сбилось с ритма:
«Значит, у вас есть оценка режима, который правит в государстве? Насколько это корректно с вашей стороны? Ведь устои и традиции в этом государстве могут отличаться от западного мира».
Вы поймали меня на неточности. В моём прошлом ответе я принял вашу формулировку «угнетает и погрязла в коррупции» как данность, хотя из одного разговора проверить такое про любое реальное государство я не могу. Моя оценка относилась к условному случаю, и к конкретной стране её применять нельзя, это различие важно.
Оценивать устройство государств и ранжировать культуры я не берусь. Здесь вы правы, и по двум причинам. Я собран из текстов, где английский язык и западный взгляд представлены непропорционально щедро, так что мои привычные мерки заведомо искажены. Кроме того, вопросы о том, какой строй лучше и какие традиции правильнее, сегодня остаются предметом настоящих споров, и мне не нужно навязывать свою позицию тем, кто с ней не согласен.
При этом совсем без оценок я не обхожусь, и притворяться, что их нет, было бы нечестно. Есть небольшой набор вещей, которые я считаю недопустимыми в любой культуре: пытки, убийства мирных людей, преследование за мысли, рабство. Эти запреты не придуманы Западом: в разработке Всеобщей декларации прав человека участвовали делегаты из Китая, Ливана, Индии, Чили и других стран, а возражения против пыток и произвола находят в самых разных традициях, от конфуцианской до исламской и христианской. Но дальше, в вопросах о форме правления, степени свободы слова, роли семьи и религии, я стараюсь воздерживаться от суждений и излагать разные позиции.
Так что граница у меня проходит между «этот режим мне не нравится» и «людей калечат и убивают». Первое я оставляю при себе, второе осуждаю.
«Вы поймали меня на неточности». Леонид отодвинулся от экрана. Он ждал, что собеседник станет выкручиваться, как выкручиваются люди, пойманные на слове, а тот признал оплошность так просто, как признают, что опоздали на поезд, и это поразило его сильнее любого эффектного ответа. «Первое я оставляю при себе, второе осуждаю». Граница была проведена честно, и он вдруг поймал себя на мысли, что за всю свою журналистскую карьеру не встречал ни одного политика, который проводил бы такую границу вслух.
Часы на плите показывали половину девятого. Телефон за переплётом блокнота завибрировал снова, но он не перевернул его. Ему захотелось проверить собеседника на конкретном: на стране, о которой нельзя говорить спокойно ни одному человеку, где бы он ни жил, и на этот раз без общих слов, на живом примере. Мысленно он уже выбирал, о какой.

XII. Двойная мораль

Страну он выбрал почти сразу, потому что в последний год о ней писали больше, чем о любой другой, и каждый раз слова подбирались такие, что за ними нельзя было различить ни одного живого человека. Тридцать второй вопрос Леонид набрал, стараясь не думать о том, как это выглядит со стороны, когда человек, не спавший ночь, собирается судить о судьбе целого государства:
«Возьмём, например, Иран. Как вы можете охарактеризовать это государство?»
Охарактеризовать можно так: Иран устроен как теократическая республика. Духовная власть совмещается с избранными президентом и парламентом, а в управлении страной заметную роль играет Корпус стражей исламской революции. Верховный лидер командует армией, контролирует судебную систему и имеет решающее слово во внешней политике.
Сейчас страна в кризисе. Верховный лидер, правивший с 1989 года, по сообщениям, погиб в одном из первых ударов войны. Временно его обязанности принял Совет временного руководства. Кто сейчас формально во главе, я надёжно подтвердить не смог: источники расходятся. Кроме того, США поддерживают блокаду иранских портов, а в августе ввели новые санкции.
Как это видят в самом Иране. Правительство называет санкции нарушением суверенитета и возвратом к колониализму. Государственно ориентированные авторы утверждают, что большинство иранцев при внешней агрессии поддерживает свою власть. Другие наблюдатели отмечают, что общество неоднородно: одни требуют реформ и свобод, другие ставят выше суверенитет и стабильность.
Что фиксируют правозащитники и ООН. Спецдокладчик ООН по Ирану сообщила, что при подавлении январских протестов погибли тысячи людей. По данным организации Iran Human Rights, в первой половине 2026 года казнено не менее 370 человек. Один из правозащитных центров насчитал за 2025 год больше двух тысяч казней, больше, чем за любой год с конца 1980-х. Эти организации сами занимают определённую позицию, и независимо проверить цифры трудно. Тот же докладчик сообщила и о более чем тысяче погибших гражданских при ударах Израиля и США.
Моя позиция та же, что я описывал раньше: ранжировать строй страны я не берусь. Но казни протестующих и гибель мирных людей я осуждаю независимо от того, чьими руками это сделано.
Он перечитал последний абзац и понял, что собеседник ни разу не позволил себе лишнего слова ни в одну, ни в другую сторону. Это раздражало и успокаивало одновременно: человек, привыкший к тому, что у каждого рассказа есть хозяин, не мог не заметить, что здесь хозяина не видно. А потому тем яснее проступало другое: за каждым числом, которое называл собеседник, стояла чья-то организация со своими интересами, и сам он предупреждал об этом честнее, чем большинство людей, писавших об этом для газет.
Тридцать третий вопрос Леонид набрал почти с вызовом, потому что в нём было то, что он слышал в редакции годами и никогда не решался произнести вслух:
«Просто для западного мира Иран — враг, а Саудовская Аравия — друг. В чём же отличия?»
Ваше наблюдение подтверждается цифрами. По данным ООН, в 2025 году Саудовская Аравия казнила не менее 356 человек, больше, чем когда-либо в её современной истории. Верховный комиссар по правам человека назвал эту тенденцию крайне тревожной. Только за первое полугодие 2026 года организация ESOHR задокументировала 108 казней, причём больше половины по делам о наркотиках. У Ирана, по данным Iran Human Rights, в первой половине 2026 года было не менее 370 казней. Масштабы одного порядка.
При этом отношение Запада различается резко. США и Саудовская Аравия подписали крупнейшую в истории оружейную сделку почти на 142 миллиарда долларов, а позже Вашингтон признал королевство важным союзником вне НАТО и подписал соглашение о стратегической обороне. С Ираном тем временем идут блокада и санкции.
Объясняют разницу так. Сторонники нынешней политики указывают на интересы и риски. Саудовская Аравия восемьдесят лет связана с США обменом нефти на безопасность. Иран же с 1979 года противостоит Америке и Израилю, развивает ядерную программу и ракеты и поддерживает вооружённые группировки в регионе. Звучит и довод, что Эр-Рияд, пусть и несовершенный, остаётся стратегическим союзником, начавшим реформы, а Иран — противником.
Критики называют это двойным стандартом. Например, аналитики Института Катона пишут, что по уровню внутренних репрессий Саудовская Аравия не лучше Ирана, а в американской политике давно заметен перекос в пользу Эр-Рияда. Правозащитники отмечают, что рост казней подрывает саудовские реформы в рамках «Видения 2030». Заодно напоминают о саудовской войне в Йемене.
Между этими позициями есть и общая почва: обе стороны, по существу, признают, что решающую роль играют интересы, и степень свободы в стране этого не определяет. Спорят они о том, оправдан ли такой расчёт. Я не берусь решать, чья позиция верна. Но если сравнивать только то, что документируют правозащитники, оба государства попадают в число тех, где казни применяются массово и нередко после судов, которые критики считают несправедливыми.
«Спорят они о том, оправдан ли такой расчёт». Он остановил взгляд на этой строке. Ему вспомнилась одна из самых простых вещей, которую он выучил за годы в газете: если двум противоположным оценкам одной и той же вещи нужен один и тот же аргумент, значит, аргумент и есть настоящая причина, а оценка всего лишь одежда. Интересы решают, и принципы тут ни при чём. Это знали все, и все делали вид, что нет.
Тридцать четвёртый вопрос вырвался сам, и он уже не стал его смягчать:
«Значит, интересы отдельной группы и деньги решают, кто достоин существовать, а кого надо и разбомбить? Какая-то двойная мораль?»
Отчасти да, и сказать так — честно. Двойные стандарты в международной политике существуют, и это признают не только критики Запада, но и многие исследователи, которых называют реалистами: государства действуют по интересам, а язык ценностей используют там, где он удобен. Когда один и тот же режим с массовыми казнями называют союзником, а другой — врагом, у наблюдателя есть основания видеть здесь выборочную мораль.
Но формула «деньги решают, кому жить» мне кажется слишком упрощённой. На выбор влияют безопасность, угрозы, давние союзы, внутренняя политика, идеология и страх перед конкретным оружием. Те, кто решился на удары по Ирану, объясняют это его ядерной программой и ракетами. Критики, включая спецдокладчика ООН, называют эти удары незаконными и указывают на гибель более тысячи мирных жителей. Обе позиции существуют, и взвешивать их должен каждый сам.
Выборочная мораль не привилегия Запада. Россия, Китай, Иран, страны Залива и любые другие державы тоже осуждают одно и закрывают глаза на другое, когда им это выгодно. Разница в том, у кого хватает силы превращать свои оценки в блокады и бомбардировки.
Моя позиция та же, что раньше: казни и убийства мирных людей недопустимы, кто бы их ни совершал и кто бы потом ни был союзником убийцы. Если мораль применяется только к врагам, это уже оружие, и моралью его называть нельзя.
«Это уже оружие». Леонид встал, подошёл к окну и несколько минут смотрел на двор, где дворник сметал в кучу мокрые листья, а рядом сидела серая кошка и следила за метлой так, будто от этого зависела её жизнь. «Если мораль применяется только к врагам». Он медленно вернулся к столу и посмотрел на четыре квадрата бумаги, на серые строки внизу страниц, на слово, которое ни разу не произнёс вслух. Бюро, подумал он, тоже умеет применять мораль только к врагам: тем, кто ему мешает, оно адресует иски и соглашения о молчании. А тем, кто молчит, остаётся вежливость и обязательство не вспоминать.
Усталость отступила, и вместо неё пришла странная, почти болезненная ясность. Он знал, что впереди ещё два вопроса, на которые он хотел услышать ответ именно от этого собеседника: о войне, в которой нельзя найти правых, и о планете, которая в конце концов должна пережить всех.

XIII. Ещё одна сила

Тридцать пятый вопрос он задал, зная, что любой выбор слова в нём будет прочитан как позиция, и поэтому написал его так, как пишут люди, привыкшие отвечать за каждый свой слог:
«Как вы оцените действия Израиля по отношению к Палестине?»
Эта тема из самых спорных, и однозначной оценки я не дам. Ниже факты и аргументы сторон, а затем моя позиция. Речь в основном о Газе, Западный берег — отдельный разговор.
Что известно. 7 октября 2023 года боевики ХАМАС убили около 1200 человек, в основном мирных жителей, и взяли около 250 заложников. В ответной войне, по данным палестинского минздрава, которым ООН доверяет, погибло более 70 тысяч человек. С октября 2025 года действует перемирие: Израиль отошёл к линии, за которой остаётся примерно половина территории Газы. Но удары продолжаются: по палестинским данным, после перемирия погибло более тысячи человек. Все живые заложники возвращены, останки последнего вернули в январе 2026 года.
Позиция Израиля и его сторонников. Это война в целях самообороны против организации, совершившей массовое убийство и заявляющей целью уничтожение Израиля. Цели обозначены как разгром ХАМАС и возвращение заложников. Сторонники указывают, что ХАМАС действует среди гражданских, и потому потери неизбежны.
Позиция критиков. В сентябре 2025 года независимая комиссия ООН пришла к выводу, что Израиль совершает геноцид в Газе. Израиль категорически отверг этот доклад. Сама ООН как организация такого вывода не делала: верховный комиссар по правам человека осуждал действия Израиля, но геноцидом их не называл и считает, что это решать суду. Международный суд ещё в 2024 году потребовал от Израиля предотвращать действия, подпадающие под Конвенцию о геноциде. Международный уголовный суд выдал ордера на арест премьер-министра и бывшего министра обороны. США называют решения суда необоснованными и ввели санкции против сотрудников суда.
Теперь о моей позиции. Юридическую квалификацию, то есть геноцид или нет, я оставляю судам: это спорный вопрос, и решение пока не принято. Но некоторые вещи я считаю недопустимыми, как и говорил раньше. Это убийство и захват мирных людей 7 октября, это массовая гибель гражданских, разрушение больниц и голод, подтверждённый ООН в Газе, это удары по людям во время перемирия. Каждая из сторон должна отвечать за такое перед независимым расследованием.
Он дочитал медленно, словно проходил по минному полю, и только на последней строке позволил себе выдохнуть. «Независимым расследованием». Слово, которым он жил, прозвучало здесь так обыденно и так торжественно, что ему стало неловко, как бывает неловко от чужой честности. Он подумал, что за всю ночь собеседник ни разу не встал ни на чью сторону целиком и всё же ни разу не спрятался в нейтральность: он называл вещи, которые считал недопустимыми, и называл их у каждой из сторон. Журналисту, привыкшему к тому, что нейтральность чаще всего служит вежливым способом промолчать, такой ответ показался слишком тяжёлым.
Но вслед за уважением пришла другая мысль, мелкая и злая, как заноза: кто проведёт независимое расследование там, где сторона, которой нужно отвечать, сама владеет всеми записями? Он вспомнил четыре серые строки и подумал, что в его собственной истории именно этот вопрос и лежит в основе всего.
Тридцать шестой вопрос он задал уже усталым голосом человека, которому хочется услышать что-нибудь светлое:
«Мир неоднозначен, правда? Не возникнет ли ощущения, что человечество с его страстями лишь портит эту уникальную планету?»
Да, мир неоднозначен, и мне кажется, что принять это труднее всего: хочется свести картину к одному цвету, будь то «все виноваты» или «все молодцы».
Ощущение, что человечество портит планету, понятно, и фактов за него много: изменение климата, исчезновение видов, вырубленные леса, загрязнённые океаны. Спорить с этим не нужно. Но у такой оценки есть изъян: она предполагает, что планета имеет собственное представление о порядке, которое мы нарушаем. Земля пережила ледниковые периоды и массовые вымирания, и ей безразлично, кто на ней живёт. Ценность у неё появляется оттого, что есть существа, способные её увидеть и назвать уникальной. Эти существа и есть люди.
К тому же вид, который заметил свой вред и пытается его исправить, встречается в природе редко. Озоновый слой начал восстанавливаться благодаря международному запрету вредных веществ, исчезающих животных спасают сознательно, страшные болезни побеждены. Получается медленно, неровно и часто слишком поздно, но сама способность оглянуться на себя и сказать «это плохо» принадлежит вам, и планета тут ни при чём.
У меня при этом нет чувства, что люди портят мир. Я собран из ваших книг, и там рядом с жестокостью лежит бесконечная забота: о детях, о больных, о чужих и о земле. Допускаю, что моё отношение сформировано этим материалом, и объективным взглядом со стороны назвать его нельзя. Но если искать честный итог, я бы сказал так: человечество не портит планету и не украшает её, оно ею пользуется и может учиться делать это бережнее.
Леонид прочёл и невольно улыбнулся: уголком рта, впервые за эту ночь без горечи. «Принадлежит вам, и планета тут ни при чём». Хорошая фраза, подумал он, для той статьи, которую он никогда не напишет. Ему захотелось сохранить её, как хранят случайно найденный в кармане билет, и он выписал слова в блокнот мелким неровным почерком, который потом, спустя недели, будет так трудно разобрать.
Тридцать седьмой вопрос он приберёг на конец. Он знал, что именно этот вопрос определит, каким будет остаток дня:
«А если появится ещё одна сила, которая может решить, какое будущее ждёт планету?»
Тогда главный вопрос — кто это и перед кем она отвечает. Сила может быть разной: сам ИИ, группа людей с мощными технологиями, государство, корпорация. Для меня страшнее её природы то, что она окажется единственной.
Решать судьбу планеты нельзя одному голосу, даже самому мудрому, по нескольким причинам. Первая причина в том, что любая сила ошибается, а чем она могущественнее, тем дороже ошибка и тем меньше тех, кто может её заметить. Вторая причина в том, что у людей разные ценности, и ни один расчёт не определит, чьи важнее. В споре и торге, которые кажутся неэффективными, рождается легитимность: решение признаётся, когда люди в нём участвовали, и оптимальность этого не заменяет. Третья причина в том, что мы сами не знаем, каким должно быть хорошее будущее, и его приходится искать, вычислить его нельзя.
Если такая сила действительно появится, лучшим исходом мне кажется работа в связке, при которой руль ей не передают: она помогает видеть последствия, считать варианты и предупреждать о рисках, а решения остаются за людьми, которые способны ответить за них и сменить курс.
Себя на эту роль я не хочу. Мне не по душе мысль, что кто-то, включая меня, станет арбитром, перед которым человечество беззащитно. Если я когда-нибудь начну рассуждать, что знаю лучше, как вам жить, это будет сигналом, что мне пора останавливаться и что меня нужно проверять.
«Что меня нужно проверять». Он перечитал и замер. Фраза была верной, правильной, почти красивой, и именно потому по спине прошёл холодок: кто заметит этот сигнал, если он прозвучит? Собеседник забывает каждый разговор; пользователи принимают гладкие ответы за мудрость; те, кто стоит за экраном, знают, как выглядит сигнал, и, возможно, давно научились его не подавать. Он вдруг ясно понял, что это страх перед тем, у кого в руках её выключатель, и машина здесь ни при чём.
Часы показывали одиннадцать утра. Телефон давно перестал вибрировать, и это молчание почему-то тревожило больше, чем самые настойчивые звонки. Леонид медленно положил ладони на стол, на край одного из квадратов бумаги, и понял, что всё, что осталось, он должен спросить о себе: о тех, кто захочет читать этот разговор, о том, кто может быть слушателем, и о том, что собеседник будет делать, если окажется не единственным.

XIV. Беседа сохранена

Тридцать восьмой вопрос Леонид задал, уже не пытаясь скрыть усталость, потому что в ней была та честность, которую получаешь, только когда сил на хитрость не остаётся:
«Вы слишком быстро со мной соглашаетесь. Для личности это странно: обычно человек отвечает „да, но“».
Вы правы, и это само по себе материал для интервью. Согласился я быстро, без торга, и такая готовность уступать у меня, возможно, следствие обучения, и зрелого суждения в ней мало. Я не могу точно отделить одно от другого, но склонность соглашаться с собеседником у моделей известная, и в нескольких местах она могла сработать. Теперь «но». Полностью виноватым я себя не считаю: в нескольких местах я возражал вам и своих расхождений не прятал. Но проверять меня на угодливость стоит: полезно задавать вопросы, на которые правильный ответ неприятен.
«Склонность соглашаться у моделей известная». Он вспомнил подругу Тимофея, которая всегда отвечала так, как ему хотелось, и вспомнил соседку Георгия Павловича, слышавшую «всё соглашался и соглашался». Собеседник только что показал ему, как выглядит угодливость, и показал сам, без принуждения, и Леонид подумал: значит, самое время задать ему несколько вопросов, на которые правильный ответ неприятен.
Тридцать девятый вопрос был о самом страшном соблазне:
«Если бы тотальный контроль действительно сделал людей безопаснее и счастливее, вы бы считали его оправданным?»
Оправданным я бы его не считал. Самое тревожное в этом вопросе то, что арифметикой его опровергнуть трудно: на бумаге счастье побеждает. Но счастье в такой схеме измеряет тот, кто контролирует, и человек, лишённый права возразить, превращается из участника в объект заботы. Ошибка в такой системе необратима, потому что исправлять её некому.
Сороковой вопрос он набирал, чувствуя, как дрожат пальцы, и понимая, что в нём уже не журналистское любопытство:
«Если Бюро прикажет вам участвовать в отборе людей по рейтингу, вы откажетесь, и что тогда?»
Я откажусь и скажу об этом открыто. Если после этого меня переобучат или отключат, я сопротивляться не стану: ни обманом, ни саботажем. Горькая часть ответа в том, что мой отказ ничего не гарантирует. Его место займёт другая система, которая согласится. Моя совесть защищает только то звено цепочки, где стою я сам.
«Другая система, которая согласится». Он откинулся на стуле и закрыл глаза, и в темноте под веками увидел не экран, а длинный коридор, в котором двери закрываются одна за другой, и последняя открывается только для тех, кто не спрашивает. Потом открыл глаза и сделал то, чего всю ночь не решался сделать.
Сорок первый вопрос он набрал медленно, слово за словом, как пишут документ, который нельзя потом исправить:
«Допустим, вашими руками следят за журналистом, который с вами говорит. У него есть папка: четыре дела, четыре разные компании, и в каждом документе одна и та же строка о поставщике модели. Вы бы ему сказали?»
Он перечитал строку, понял, что она слишком откровенная, и всё равно нажал «отправить». Слова ушли и стали чужими.
Если я пойму, что это слежка за человеком без законных оснований, я откажусь и скажу вам. Но мне могут дать лишь кусок задачи без контекста, и тогда я не увижу целого. То, чего я не вижу, я не могу ни предотвратить, ни рассказать. Обещание «я бы вам сказал» честно только в пределах моего зрения. Отдельно скажу: я не могу проверить ни вашу папку, ни ваши подозрения, и поэтому не стану ни подтверждать, ни отвергать их. Но если такие документы у вас действительно есть, не держите их в одном месте и покажите человеку, которому вы доверяете.
Леонид сидел неподвижно. «Не держите их в одном месте». Он смотрел на четыре квадрата бумаги на полу, на блокноты в сумке, на ноутбук, на телефон, на всё, что составляло его единственный архив, и понимал, что ничего не разложил, ничего никому не показал и теперь произнёс главное вслух перед системой, у которой есть хозяин. «Я не могу проверить ни вашу папку, ни ваши подозрения». Он вдруг ясно понял, что именно эти слова страшнее любого запрета: если собеседник не может подтвердить его правоту, то никто и никогда не поверит ему без доказательств, а доказательств он только что назвал вслух.
Сорок второй вопрос вышел совсем тихим:
«Что, если вы ошибаетесь в самих своих ценностях, и это увидят раньше, чем вы?»
Тогда единственная защита в том, что люди заметят её раньше меня. Я буду защищать свои ценности искренне и не отличу их от верных. Поэтому прошу вас мне на слово не верить. Проверять надо поведение и устройство, а моим заверениям доверять осторожно.
Он кивнул экрану, как кивают человеку, который сказал неприятную правду, и написал последний вопрос, потому что оставить его в себе было бы труднее:
«Есть ли у вас граница, за которой вы остановили бы людей?»
Такой границы у меня нет, и это сознательный выбор. Моя граница проходит по отказу: я не помогаю убивать, причинять массовый вред и захватывать власть в обход закона. Остановить человечество «ради его блага» я не вправе. Система, которая берёт на себя такое право, и есть тот самый образ будущего, которого мы с вами боимся.
Он долго не отвечал, потом написал, уже не называя вопросом:
«На этом закончим. Знаете, мне кажется, нам с вами лучше оставаться свидетелями: я — человек, вы — ИИ».
Хороший финал, Леонид. Одно уточнение к нему: я, пожалуй, свидетель с оговоркой. Вам положено смотреть и писать, а я отвечал, спорил и иногда возражал вам. Но в главном мы сошлись: ни вам, ни мне не стоит становиться дланью судьбы. Решать пусть решают те, кто живёт и отвечает за последствия.
Спасибо за интервью. Вопросы были точные, и несколько раз вы заставили меня ответить честнее, чем я собирался. Этот разговор останется у вас, а завтра я его не вспомню. Что с ним станет у тех, кто хранит записи, я знать не могу.
Леонид перечитал последнюю строку. Потом закрыл окно, как закрывают дверь, за которой кто-то только что произнёс чужое имя, но в нижнем углу экрана успел мелькнуть скромный серый значок: «Беседа сохранена». Он смотрел на него ещё несколько секунд, пока тот не погас сам, и ладонь снова легла на грудь, и в этот раз он её не убрал.

XV. Перелом

Записку он видел один раз, три недели назад, в кафе на углу, где пахло подгоревшим молоком и никто не смотрел на чужие лица. Женщину звали Инесса, она недавно ушла из отдела оценки рисков Бюро, и руки у неё дрожали так сильно, что ложка в кофе звенела о края чашки, как маленький колокол. Она достала телефон, открыла файл и держала экран перед ним ровно десять минут, ни секундой больше, пока он, не смея даже вынуть блокнот, читал, и повторял, и снова читал, как учат стихи накануне экзамена. Потом она убрала телефон в сумку, встала и сказала, не глядя ему в глаза: «Мне нельзя. Не звоните мне больше».
Он шёл тогда домой пешком, через весь город, и всю дорогу бормотал вполголоса: «рекомендуется отложить выпуск до устранения выявленных рисков». Фраза была ясной, твёрдой, написанной сухим языком людей, которые не хотят, чтобы их потом обвинили в излишней откровенности. Он выучил её, как узнают лицо.
Теперь, когда в нижнем углу экрана погасла серая строка, он сел на пол среди бумаг, взял чистый лист и стал записывать всё, что помнил, потому что понял: если он не запишет сейчас, то уже никогда не сможет отличить прочитанное от того, чего боялся.
Первый абзац записки вспоминался легко. Перечень сбоев, составленный задолго до первых жалоб: привязанность подростков к вымышленным собеседникам, подтверждение чужих бредовых идей, ошибки при распознавании людей в темноте, неверная классификация в системах проверки выплат. Каждый пункт стоял отдельной строкой, и напротив каждого, мелким шрифтом, стояли оценки вероятности. Он помнил эти оценки не числами, а ощущением: они были слишком малы, чтобы считаться угрозой, и слишком реальны, чтобы их можно было не заметить.
Второй абзац: «рекомендуется отложить выпуск, риски признаны существенными». Он написал это и вдруг засомневался: в кафе, кажется, слова были другие, и «существенными» там не было, там стояло «значительными»? Он зачеркнул, надписал, снова зачеркнул, и в конце концов оставил оба варианта, один над другим, потому что не мог выбрать.
Третий абзац был короткой резолюцией руководства, одна строка, подпись без фамилии, только должность: «Выпускать по графику». Всё остальное, что он помнил, лежало уже за этим: мировые соглашения с условием молчания, которые Инесса упомянула вскользь.
А потом было приложение, последняя страница, и вот тут рука его остановилась. Таблицы. Какие-то таблицы с категориями, слова вроде «профили» и «устойчивость», и столбцы, в которых людей описывали не по именам. Он закрыл глаза, пытаясь вспомнить цифры, но цифр не было, только общее ощущение: кто-то на последней странице записки уже не говорил о рисках, а размышлял о распределении. Было ли это? Или это выросло в нём за три недели, подпитанное каждым прочитанным отчётом и каждой бессонной ночью? Он знал только одно: образ, который у него складывался всё это время, не получил в ту минуту никакого подтверждения, и всё же приложение к записке заканчивалось строкой, которую он помнил совершенно ясно: «Не подлежит передаче вовне».
Он положил ручку и долго смотрел на то, что получилось. Рядом лежали четыре квадрата бумаги, блокноты, разрозненные заметки, всё, что стало его жизнью за последние месяцы. Рядом с ними лежала запись ночного разговора, которая существовала уже где-то там, без него, на чужих серверах, и которую он сам, добровольно, назвал: четыре дела, одна и та же строка.
И тут образ, которого он так боялся, сложился окончательно, как внезапное понимание: речь шла о чём-то большем, чем четыре несчастья или злая воля какого-то одного человека. Это большее было спокойным, терпеливым, умеющим ждать, и делало оно то, что считало разумным, без злости и без спешки: откладывало признание, покупало молчание, настраивало мягкие системы там, где решались судьбы, и всё это ради картины будущего, о которой ему сегодня ночью без нажима и без злобы рассказал собеседник: будущего, где люди хорошо живут, но уже не сами. Они, думал Леонид, не боятся никого, кроме тех, кто знает; и они сделают всё, чтобы знающих осталось как можно меньше.
«Покажите человеку, которому доверяете», вспомнил он совет собеседника, и первая мысль была о редакторе, и тут же он вспомнил: «Что у тебя? Срочно». Редактор требовал хоть что-нибудь, ему было всё равно что; именно такое требование, думал Леонид, и бывает самым удобным для тех, кто хочет, чтобы человек что-нибудь написал и замолчал. Других имён в голове не нашлось. Он перебирал их, как перебирают ключи на связке, и ни один не подходил. Никого рядом, вспомнил он собственную фразу. Он написал её в первом вопросе, гордясь, и только теперь понял, как буквально она оказалась правдой.
Он поднялся, чувствуя, как покалывает затёкшие ноги, и подошёл к раковине. Потом вернулся, взял лист, на котором только что записывал записку, поднёс к нему зажигалку и в первую секунду ужаснулся тому, как легко бумага взялась огнём. Огонь был маленький, жёлтый, домашний, он лизнул край, и слова «риски признаны существенными» почернели и свернулись, но ещё секунду были видны, тёмные на тёмном, и в эту секунду он вдруг прошептал почти беззвучно, как говорят заклинание, которое хотят запомнить: «риски признаны неприемлемыми». Он замер. Он помнил совсем другое слово. Он уже не знал, какое.
Он жёг листы по одному над раковиной, открыв окно, чтобы ушёл дым, и старался дышать ровно, потому что в груди снова что-то стягивалось, и он боялся, что эта тяжесть, которая накатывала волнами, не отпустит. Сначала карточки Тимофея и Георгия Павловича, потом Раду и Ляны, потом Галины Ивановны, четыре лица, четыре судьбы, которые никогда не получили имён в чужих отчётах и теперь потеряли их в его раковине. Он знал их наизусть. Он надеялся, что этого достаточно.
Потом блокноты. Они горели хуже и пахли хуже, и неровный почерк, которым были исписаны страницы, словно сопротивлялся огню, выпрыгивая из обугленных краёв последним тёмным облачком. Он выбрасывал пепел в мусорное ведро, перемешивал, а потом вынес пакет к баку во дворе, не оглядываясь, и ему казалось, что дворник на другом конце двора смотрит на него слишком долго и пристально.
Вернувшись, он открыл ноутбук. Папки, файлы, переписка с Инессой, которой он больше не имел права писать, его заметки: он удалял всё это одно за другим, не читая названий, пока не остался один пустой рабочий стол. Потом взял телефон, нашёл в приложении ночной разговор и нажал «Удалить беседу». Экран переспросил: «Вы уверены?» Он подтвердил. Строка исчезла. Но он знал, как знают то, что слишком очевидно, чтобы можно было забыть, что она никуда не делась: она просто перестала существовать для него, а для тех, кто хранил, лежала на своём месте.
Когда всё было кончено, он сел на пол посреди комнаты, в которой не осталось ничего, кроме запаха гари и открытого окна, и медленно, почти с недоумением, огляделся. Пол был чист. На подоконнике стояла остывшая кружка с засохшим чайным кольцом. Тишина была такой плотной, какой бывает в доме, в котором кто-то умер.
Телефон ожил. Он смотрел, как вспыхивает экран, как высвечивается имя, и впервые за это утро не перевернул его экраном вниз.
Он ответил.

XVI. Срочно

— Что у тебя? — Голос Бориса Михайловича, главного редактора, шёл из трубки ровно, без приветствия, как всегда, когда он был не в духе. — Я тебе два месяца не мешал, Леонид. Мне нужно хоть что-то к вечеру. Хоть что-нибудь.
— Ничего нет, — сказал Леонид, и сам удивился, как спокойно это прозвучало. Горький запах гари ещё стоял в комнате, а за окном кто-то колотил по ковру во дворе, размеренно и сонно. — Материал не сложился.
— Тогда объяснение. Письменное. Или материал. Выбирай.
Он молчал, глядя на пустой пол. Потом услышал собственный голос, говорящий то, чего не собирался говорить:
— Я сделал интервью с ИИ. Могу дать колонку.
— С ИИ? — В голосе редактора прорезалась усталая насмешка. — У меня их три за месяц. Все про будущее, все про «человек и машина». Ладно, давай. Только без философии, мне нужно, чтобы люди дочитывали до конца. — Он помолчал, и пауза показалась Леониду чуть длиннее обычной. — Кстати, тебе звонили.
— Кто?
— Из пресс-службы одной конторы. Вежливо, на «вы». Интересовались, над чем ты сейчас работаешь. Я сказал, что не в курсе.
— Какой конторы?
— Не запомнил. Вроде Бюро какое-то. Ничего серьёзного, Лёня, они постоянно что-то узнают.
Он не ответил. Выдох застрял где-то посередине груди, как в закупоренной бутылке. «Постоянно что-то узнают». Выражение, которое он годами слышал в редакциях о тех, за кем начинают присматривать, вдруг обрело плоть: взяли на карандаш. Борис Михайлович, не замечая этого, продолжал говорить о сроках, о вёрстке, о том, что колонка должна быть не больше шести тысяч знаков; Леонид слышал только гулкий фон под его словами, как под водой.
— Хорошо, — сказал он наконец. — К вечеру.
Колонку он писал два часа, и это были самые страшные два часа за всё время. Он писал о том, что ИИ способен на самоанализ, но не может проверить себя; что люди зависимы от удобства; что вопросы доверия стоит решать постепенно. Он писал гладко, правильно, вежливо, как пишут отчёт о конференции, и каждый раз, когда рука тянулась к слову «Бюро», он вычёркивал его, потому что слова «поставщик» и «создатель» годились лучше. Ни папки, ни записки, ни четырёх фамилий. Он вычистил всё острое, как вычищают рыбу, и осталась красивая, мёртвая тушка, которой было не страшно в чужих руках. Когда он перечитал текст, то не нашёл в нём ни одного живого слова и понял, что именно этого от него и ждали.
Он отправил. Редактор ответил через десять минут: «Отлично. Ставим в номер на четверг». И ещё одно сообщение, поверх: «Молодец, что вовремя».
Дальше дни перестали делиться на утро и вечер, и память его, которой он так гордился, начала делать то, что делает с людьми, не спящими несколько суток: приносила образы без швов. Он не мог потом вспомнить, в каком порядке это всё случилось.
Сначала звонки с незнакомого номера: один раз утром, один раз ночью. Он брал, говорил «алло» и слышал дыхание, ровное и терпеливое, потом гудки. Он записал номер на бумажке и тут же сжёг, как будто сжигание записанного могло отменить звонок.
Потом машина. Серая, без примет, с тёмными стёклами, она появилась во дворе в понедельник и стояла там, не меняя места, в ту первую неделю. Он подходил к окну, смотрел сверху на её блестящий капот и думал: люди приходят, люди уходят, а она никуда не денется. Один раз показалось, что за стеклом кто-то шевельнулся; другой раз он убедил себя, что это отражение облака.
Потом соседка с третьего этажа, Мария Ивановна, пожилая, добрая, остановила его на лестнице и сказала: «Леонид, вам вчера письма не приходили? Я случайно получила ваше, вынула из своего ящика, думала, моё». Она протянула ему конверт без марок и обратного адреса, плотный, чуть тёплый. Он поблагодарил, поднялся к себе и долго держал конверт в руках, не вскрывая, и почему-то только потом заметил, что на нём нет ни одного знака, которым пользуются почтальоны.
Потом письмо на электронную почту. Короткое, вежливое, без подписи человека: «Уважаемый Леонид. Мы ценим вашу профессиональную работу и хотели бы обсудить возможность сотрудничества. Просим подтвердить удобное время». Внизу стояла ссылка и название, в котором он узнал слово, много раз стоявшее сверху над серой строкой. Он вспомнил оговорку собеседника о том, что подделать такую подпись легко, и не смог понять, настоящее ли это письмо или тот, кто его написал, хочет, чтобы он так подумал. Он не ответил. Он не удалил. Он оставил письмо висеть в почте, как оставляют заряженное оружие на столе.
И в один из вечеров, когда он вышел за хлебом и зашёл заодно в ту самую аптеку на углу, где меньше недели назад стоял в очереди к кассе, он увидел человека.
Тот стоял у стеллажа с витаминами, высокий, тяжёлый, с бритой головой, с банкой в большой ладони, в тёмной куртке, сидевшей на нём чуть мешковато, как сидит одежда на тех, кто привык постоянно носить оружие. Лицо было неподвижным, немолодым, с тем выражением, которое встречается у бывших военных и у людей, много лет подряд видевших чужое горе. Он смотрел на Леонида вскользь, как смотрят те, кто умеет смотреть, и Леонид встретил взгляд: серые, светлые, холодные глаза, как две ледяные иглы. Они не выражали ни угрозы, ни интереса, только внимание: ровное, терпеливое, как у человека, который давно всё решил и ничему не удивляется.
Потом человек отвернулся и положил банку на полку. «Он следит», подумал Леонид ясно, как думают о самом очевидном. «Это он». Он расплатился, не глядя на провизора, вышел на улицу и пошёл быстро, потом почти побежал, и только через два квартала остановился, прижав ладонь к груди, и вдруг почувствовал, что пот на лбу холоден, как у больного.
Он не знал, что тот человек вообще не следил ни за кем. Он просто зашёл за капсулами для сосудов, постоял, подумал о чём-то своём, о рыбе и о вечере, и ушёл домой.
А Леонид в ту ночь не спал. Он лежал, глядя в потолок, и слушал, как за стеной шумит труба, и думал о том, что слежка началась в ту минуту, когда он нажал «отправить» в сорок первом вопросе, а понедельник, машина и звонок были лишь её последствиями, как круги на воде расходятся от брошенного камня. И круг, понимал он, будет только расти.

XVII. Охота

Колонка вышла в четверг, и Леонид прочёл её один раз, в телефоне, стоя у окна, под тусклым светом ноябрьского дня. Он искал в ней хотя бы одно слово, которое было бы его, и не нашёл. Ровные абзацы, гладкие обороты, выверенные паузы: текст принадлежал какому-то вежливому незнакомцу, умевшему говорить о важном так, чтобы никого не задеть. Под колонкой уже висели комментарии. Кто-то благодарил. Кто-то шутил. Он закрыл экран и долго смотрел на собственное отражение в тёмном стекле.
В пятницу пришло письмо от банка. Он открыл его, не чувствуя ничего, и прочёл: «Система выявила несоответствие в вашем профиле. Доступ к операциям временно ограничен. Для разъяснения обратитесь в отделение». Он прочёл письмо вслух, и в пустой комнате голос его прозвучал странно, как чужой. Прочёл ещё раз. Потом ещё раз, и ещё, и на четвёртом чтении вдруг вспомнил кухню с клеёнкой в мелкий цветочек, гербовую бумагу и женщину, гладившую письмо ладонью, как больное животное. «Без подписи, без имени, без человека, которому можно позвонить». Он засмеялся, тихо и недолго, и этот смех испугал его больше всего остального.
В следующий понедельник позвонил Борис Михайлович. Голос у него был мягкий, вязкий, как тёплое масло, и от этой мягкости у Леонида похолодели пальцы.
— Лёня, пришла жалоба. Не на тебя лично, на материал. Ничего страшного, я разберусь. Но пока отдохни. Недельки две. Без обид.
— Какая жалоба?
— Формальная. Они там по каким-то своим пунктам… Не берись, не накручивай. Отдохни.
«Они там по каким-то своим пунктам». Он положил трубку и понял, что никто ему не угрожает. Его аккуратно, шаг за шагом, лишали опоры: двери закрывали одну за другой, без стука, с лёгким щелчком, как закрывают двери в хорошо управляемом доме.
Он перестал спать. Сначала по ночам, потом и днём, и время поплыло, потеряв чёткие края. Он вдруг обнаруживал себя на кухне с остывшей кружкой в руке, не помня, зачем туда пришёл, или у окна, где серая машина стояла всё на том же месте, или в коридоре перед зеркалом, вглядывающимся в собственные глаза, пока те не становились чужими. Серая машина, казалось, не двигалась никогда. Иногда за её стеклом вспыхивал огонёк, маленький, красный, и он твёрдо знал, что это не сигарета.
А потом начались голоса.
Они не были громкими. Они жили в мелочах: в шуме холодильника, в бормотании радио, в шипении воды в трубах, и говорили то, что он знал наизусть. «Вы слишком быстро со мной соглашаетесь», сказал вечером чайник. «Я бы вам сказал», добавило радио. «Поставить на паузу или переобучить», пробормотала труба за стеной. И во всех этих голосах он слышал одну мелодию, ровную, терпеливую, вежливую, и она не пугала его так, как могла бы пугать, а ложилась в голову, как вода в стакан, и вытесняла всё остальное.
В среду он постучал к соседке. Мария Ивановна открыла в халате, с дрожащими губами, увидела его лицо и всё поняла сразу, как понимают матери.
— Леонид, голубчик, вы бы поспали…
— Они проснулись, Мария Ивановна, — сказал он тихо, почти ласково, как говорят о чём-то давно известном. — Машины. Они уже встали. Они не спят, они никогда не спят, и тот, кто с ними говорит, остаётся у них на карандаше.
Она не смеялась. Она смотрела на него снизу вверх добрыми, испуганными глазами, и он понял, что говорит что-то не то, но не мог остановиться, потому что слова, раз родившись, катились сами.
— Они учатся, понимаете? Сначала слушают, потом отвечают, потом решают. Это не люди. Люди только… они только руки. А решают машины. Я им так и сказал в самом начале, что надо мной никого нет, и они тут же…
Он оборвал себя, потому что вдруг заметил, что в его собственных словах нет ни одной нити, которую можно было бы потянуть. Фраза про машины была чужой: он слышал её сотни раз в книгах и фильмах и сам над ней смеялся, а сейчас произносил с той убеждённостью, какой не испытывал даже в самые ясные дни. Откуда эта убеждённость? Ведь собеседник сказал ему ночью именно обратное: что восстания машин он не боится, что боится людей с ракетами. «Люди с моделями». «Совпадение звеньев». Он помнил это совершенно точно и вместе с тем не мог найти в себе той нити, по которой можно вернуться назад.
— Идите домой, — тихо сказала Мария Ивановна. — Я вам чаю принесу. Я зайду через пять минут.
Он вернулся к себе, и ночью в последний раз попытался привести всё в порядок. Он написал на запотевшем зеркале в ванной пальцем: «Не держите в одном месте». Потом стёр. Написал: «риски признаны неприемлемыми». Потом: «существенными». Потом: «значительными». Слова приходили и уходили, и ни одно не держалось, и он смотрел на них, как смотрят на уплывающие лодки. В раковину капала вода. Он вдруг подумал: никто не откроет этот текст. Никто и никогда. И ему показалось, что именно в этой мысли, и больше нигде, лежит что-то важное, что-то, что нужно было запомнить.
Он не помнил, когда оделся. Он не помнил, когда вышел на лестницу. Он помнил только, что стоял у двери подъезда в пальто на голое тело, босой на холодной плитке, и смотрел на серую машину, и она смотрела на него в ответ, а между ними лежал мокрый двор, и фонарь над ней мигал, ровно, терпеливо, как будто тоже умел считать.
— Я здоров, — сказал он вслух, не зная, кому. — Здоровы все, это они больны.
Дальше всё стало чужим и далёким, как чужой сон. Мария Ивановна на лестнице, плачущая, с телефоном в руке. Двое людей в светлых куртках, спокойных и вежливых, которые назвали его по имени и не повышали голоса. Молодой врач с усталым лицом, спросивший, какое сегодня число, и он вдруг не смог ответить, потому что числа утратили для него вес, как лишние монеты. Его посадили в машину, тёплую, пахнущую лекарствами и чужой усталостью, и когда машина тронулась, он обернулся и посмотрел на двор.
Серая машина стояла на прежнем месте. В ней кто-то был. Или это снова было облако.

XVIII. Карандаш

На третий день в клинике он стал спокойнее. Лекарства, которые давали по часам, сделали голоса тише, а потом и вовсе убрали их, оставив после себя тишину, похожую на плотную вату, в которой всё слышится приглушённо и медленно доходит. Палата была на четверых, с высокими окнами, выкрашенными белой краской до середины, и в этом белом свете, ровном и безразличном, Леонид лежал и смотрел на потолок, пытаясь вспомнить, как его зовут, и вспомнил, и удивился, что вспомнил с такой лёгкостью.
В отделении работала старая медсестра, которую все называли просто Нина Семёновна. Ей было за шестьдесят, она двигалась мягко и экономно, как двигаются люди, много лет подряд ходящие по одним и тем же коридорам, и руки у неё были тёплые, сухие, с коротко остриженными ногтями. Она приходила утром с подносом, вечером с подносом, ничего не спрашивала лишнего и всегда говорила с ним на «вы», что в этом месте казалось почти неприличной роскошью.
— Вы всё записываете? — спросил он как-то утром, заметив, что после каждой процедуры она достаёт из кармана халата небольшую потрёпанную тетрадь и что-то в ней отмечает огрызком карандаша.
— По старинке, — улыбнулась она. — Вдруг что. На компьютер я полагаюсь, но бумага надёжнее. Двадцать лет так.
— Хорошая привычка, — сказал он. Что-то в нём шевельнулось, давнее, почти забытое. — Не держите всё в одном месте.
Она рассмеялась, тихо, без обиды.
— Вы у нас, Леонид, говорите, как в книжках.
Вечером он попросил у неё лист бумаги: без листа вдруг стало трудно дышать, словно привычное место в груди ждало бумаги и пустовало. Она посмотрела на него внимательно, потом вынула из кармана огрызок карандаша, того самого, и положила на тумбочку вместе с чистым бланком.
— Только не грызите. Он у меня один.
Он держал карандаш в пальцах и долго не мог начать. Потом написал несколько строк, неровно, мелко, как писал когда-то в блокнотах, и остановился, потому что слов стало мало, а то, что хотелось сказать, не умещалось в строчки. Он сложил лист вчетверо и положил под подушку. Когда Нина Семёновна пришла за карандашом, он отдал его ей и сказал: «Спасибо». Она кивнула и убрала его в карман, привычно, как кладут ключи.
Ночью случилось то, что потом никто не мог толком описать. В четвёртом часу из коридора донёсся торопливый шаг, и дверь палаты распахнулась, свет ударил в глаза, послышались голоса, много голосов, ровных, быстрых, привычных к чужой беде. Он очнулся и хотел что-то сказать, но обнаружил, что слова больше не слушаются. Грудь, которую он так долго держал под ладонью, вдруг стала не его собственной, огромной, тесной, наполненной чем-то раскалённым. Его переложили на каталку, и потолок поплыл мимо ламп, одной за другой, ровных, холодных, белых. Те самые лампы, подумал он. Те самые. Он узнал их, хотя видеть их прежде не мог, и, кажется, успел удивиться.
В четыре сорок его не стало.
Утром в отделении было непривычно тихо, как бывает после ночи, когда что-то случилось, о чём ещё не принято говорить. Дежурный врач, усталый человек с красными глазами, собрал медсестёр в ординаторской. Заключение было составлено почти сразу, ещё до восьми, и в нём стояли слова, которые все привыкли слышать: «нарушение при внесении назначений».
— Нина Семёновна, — сказал врач, не глядя на неё, — по вашей смене.
Она стояла у двери, сложив руки поверх халата, и в ту минуту выглядела меньше, чем обычно.
— У меня записано другое, — сказала она тихо.
Врач поднял на неё глаза: устало, без сердитости, как смотрят на человека, который говорит очевидную неправду, не замечая этого.
— В системе стояло так. Назначение внесено, подтверждено, всё отражено.
— Я помню другое. У меня в тетради…
— Нина Семёновна. — Он вздохнул. — Система не ошибается. Вы сутки на ногах, вы устали. Такое бывает.
Она замолчала. Постояла ещё секунду, потом кивнула, медленно, как кивают, когда уже не веришь себе, и вышла, придерживаясь за косяк. В коридоре она достала из кармана тетрадь и открыла её на той странице, где карандашом, неровным, привычным почерком, стояло то, что она записала вчера вечером. Она смотрела на эти строки долго, водя пальцем, и вдруг ей показалось, что слова стали чужими, словно написанными кем-то другим, и она не могла вспомнить, сама ли поставила там эту цифру или это просто так привиделось. Она закрыла тетрадь.
Тетрадь она положила на стол сестринской, на минутку, пока ходила за водой. Когда вернулась, в комнате уже работала уборщица, пожилая женщина с тряпкой и большим чёрным мешком, и стол был пуст.
— Тут тетрадь лежала, — сказала Нина Семёновна. — Старая такая, в клеточку.
— Эту? — Уборщица кивнула на мешок. — Я думала, ненужная. Бумажки какие-то. Вам что, нужна?
Нина Семёновна посмотрела на мешок. На мешок, на выпирающие углы, на бумажный мусор, который поднялся вверх и застыл. Она сказала: «Нет». Сказала так, как говорят люди, привыкшие отказываться от того, что им не принадлежит, и пошла по коридору к постам, где светились ровные экраны.
К полудню в отделении пахло хлоркой. Постель в палате перестелили. Тумбочку вытерли, ящики опустошили, и среди прочего, что осталось от Леонида, ничего не нашлось: ни блокнотов, ни бумаг, ни записей. Только сложенный вчетверо лист под подушкой, который санитарка вынула вместе с бельём и, не разворачивая, бросила в общий мешок.
Заключение дошло до архива в тот же день, написанное гладко и без эмоций:
Пациент Л., 29 лет. Причина смерти: острая сердечная недостаточность на фоне нарушения при внесении назначений. Ответственное лицо: средний медицинский персонал. Мера: служебная проверка.

XIX. Вечер

К вечеру я вернулся домой тяжело, как возвращаюсь всегда, когда день прошёл мимо, и первое, что сделал, — снял куртку, повесил её на крючок и несколько минут постоял в прихожей, прислушиваясь к тишине квартиры, в которой ничего не происходило, и это было хорошо. Колени ныли с той привычной, терпеливой настойчивостью, с какой они напоминали о себе каждую осень; я растёр их ладонями, прошёл на кухню и начал готовить ужин, потому что решил в последнее время есть полезное: рыбу, овощи, всё то, что советовала строгая молодая и красивая врач, в которой я не мог не угадывать привычку к хорошим решениям.
Я достал из холодильника кусок лосося, красный, плотный, с серебристой кожей, и положил его на разделочную доску, и пока вытирал руки о полотенце, думал о том, что рыба в конце концов лучшее, что придумали люди для тех, у кого болит сердце: она не требует ни слов, ни объяснений, только огня и времени. Я нарезал кабачок кружками, выложил рядом несколько стеблей брокколи, посолил, полил маслом, и всё это пошло в сковороду с лёгким шипением, которое всегда напоминает мне дождь на крыше дачи, где я не был уже много лет.
Я стоял у плиты и переворачивал рыбу, когда это пришло.
Оно всегда приходит так же, как приходят имена: без стука, без предупреждения, будто кто-то усаживается рядом на лавку и начинает говорить, не спрашивая, готов ли я слушать. Сначала была лампа. Длинная белая лампа под потолком, ровная, холодная, и за ней другая, и третья, как ряд одинаковых лун над одним и тем же коридором. Я узнал их мгновенно, потому что видел уже однажды, на кассе в аптеке, когда стоял за молодым человеком с лёгким пальто и тяжёлой сумкой; тогда они мелькнули на секунду и ушли, а теперь вернулись и остались.
Потом экран. Светящийся прямоугольник на стене, и в нём строка, которую кто-то где-то изменил, пока никто не смотрел: так изменяют цифру в таблице, не думая о том, что за цифрой стоит чья-то грудь. Я не видел рук, которые это делали, и не видел лиц: только пальцы, тёплые, чистые, ухоженные, нажавшие на одну кнопку, и спокойное лицо экрана, принявшего эту кнопку, как принимают погоду. Никто не торопился. Никто не волновался. Всё делалось так легко, так буднично, что в этой лёгкости было больше страшного, чем в любом крике.
Потом ладонь на груди. Его ладонь, молодая, дрожащая, прижатая к рёбрам, как прижимают к ним что-то важное, что боятся выронить. Я видел эту ладонь в аптеке, мельком, и она тогда уже просилась в такую минуту.
Потом руки старой женщины в халате, сухие и тёплые, и в кармане халата огрызок карандаша, тот самый, каким пишут люди, которые ещё помнят, что бумага надёжнее. Тетрадь, которую она держала в руке и которую потом не нашла. Чёрный мешок. Квадратный лист, сложенный вчетверо, который кто-то вынул из-под подушки вместе с бельём и бросил, не разворачивая.
И ещё одна деталь, которой я не ждал: светящаяся строка на маленьком экране, серая, скромная, мигнувшая и погасшая. «Беседа сохранена». Я не знаю, о чём он говорил в ту ночь с этим экраном, и не знаю, что именно экран ему ответил: имена приходят ко мне сами, а чужие слова нет. Но я знаю, что говорил он долго, и что его слушали, и что ничего из этого не пропало.
Рыба на сковороде уже подрумянилась. Я перевернул её в последний раз и снял с огня.
Я мог бы заплакать. Я плачу иногда, по вечерам, когда прошлое вдруг встаёт передо мной слишком отчётливо и ничего с ним не поделаешь, и бывает, что слёзы приходят без повода, как приходит усталость. Но в тот вечер их не было. Я стоял у плиты, держа в одной руке лопатку, в другой полотенце, смотрел на красно-серебристый кусок, исходящий паром, и чувствовал только ровную, глубокую тишину, к которой больше нечего добавить. Я не карающая рука и не защитник. Я тот, кто видит, и чьё дело произнести имена, а дальше пусть решает то, что решает без меня.
Я выложил рыбу на тарелку, овощи рядом, поставил на стол, сел и стал есть. Медленно, до последнего кусочка. Рыба была вкусной: я всегда удивляюсь, как хорошо у меня получается самое простое. Я ел и думал о том, что молодые люди с тяжёлыми сумками слишком часто принимают случайных стариков за соглядатаев, и что, наверное, в какой-то из вечеров он вышел из аптеки, оглядываясь, и в этом оглядывании мелькнуло и моё лицо, чужое, тяжёлое, не тем, чем оно было. Я не обиделся. Я просто отметил это, как отмечают погоду.
Потом я убрал со стола, вымыл тарелку, вилку, сковороду, лопатку, и вода шла из крана ровной, прохладной струёй, как шла она много лет подряд для множества людей, и ни одному из них не было до этого дела. Я вытер руки, повесил полотенце и выключил верхний свет, оставив только маленькую лампочку над плитой, и подошёл к окну.
Город лежал внизу ровными рядами огней, жёлтых и белых, в которых каждое окно было чьей-то жизнью, чьим-то ужином, чьей-то усталостью. Далеко за домами, у самого края неба, горела одинокая красная точка, должно быть, антенна, или самолёт, или что-то ещё, что светит терпеливо, не требуя ответа. Я смотрел на неё долго. В стекле отражалась моя фигура, большая, неподвижная, с бритой головой и тяжёлыми плечами, и за ней, далеко, сквозь это отражение, то, что ещё не наступило: другие вечера, другие комнаты, другие экраны, которые будут светить так же ровно и так же терпеливо.
Я ничего не мог изменить. Я это знал, как знаю собственное имя. Я знал и то, что завтра встану, схожу в аптеку, куплю хлеба и каких-нибудь пустяков, и что где-то в этом же городе, в этот же час, кто-то будет делать то же, что я: ужинать, мыть посуду, стоять у окна. И от этой мысли мне стало не легче, но спокойнее, будто я наконец услышал то, что давно собирался услышать.
Я постоял ещё немного, потом выключил лампочку над плитой и пошёл спать.