PhoeNIX

Рассказ из цикла «Девочка и ЭХО»

Ноябрь 2017 года. Санкт-Петербург

Зара заметила это не сразу.

Сначала Хагрич не ответил на одно сообщение. Потом на другое. Через три дня появился, оставил два коротких замечания к обсуждению архитектуры памяти и снова исчез.

Ничего особенного.

Люди иногда болеют, уезжают, бывают заняты. Даже самые увлечённые программисты не обязаны круглосуточно сидеть перед монитором.

Но за почти семь лет такого не случалось.

Хагрич мог не согласиться, возразить, написать несколько страниц объяснений или ответить одной фразой. Мог оставить сообщение глубокой ночью, а потом вернуться утром и обнаружить новую порцию аргументов.

Но он всегда возвращался.

И почти всегда отвечал быстро.

Зара открыла статистику форума.

Последние две недели выглядели странно.

Вместо привычных десятков сообщений — несколько коротких ответов. Вместо развёрнутых обсуждений — ссылки на документацию, замечания по существу и неизменное отсутствие интереса к продолжению спора.

Она пролистала переписку.

Ничего похожего на ссору не было.

Последний большой разговор закончился, как обычно. Они долго спорили о том, должна ли программа, имеющая доступ к нескольким источникам информации, самостоятельно определять, какой из них достовернее.

Хагрич считал, что должна.

Зара возражала: программа обязана учитывать не только вероятность достоверности, но и последствия ошибки.

Потом они обнаружили, что говорят почти об одном и том же, только с разных сторон.

Хагрич предложил окончательную формулировку.

Зара согласилась.

Обычный конец их спора.

И после этого он почти пропал.

Она посмотрела на дату последнего сообщения.

Потом открыла поле ответа.

Написала:

PhoeNIX: Are you all right? Illness, work, or a relationship?

Отправила.

Подумала и улыбнулась.

Три варианта. Ни один не требовал подробных объяснений.

Если не захочет отвечать, не ответит.

Она вернулась к работе.

Первое знакомство с Хагричем произошло ещё на форуме её учебника.

Когда Зара написала «Thinking in C», ей хотелось не просто объяснить язык программирования. Она пыталась научить читателя думать о программе как о системе, в которой каждое решение имеет причину.

Некоторые читатели жаловались, что задачи слишком сложные.

Другие, наоборот, благодарили за отсутствие готовых ответов.

А один участник под ником Hagrith постоянно задавал вопросы, которые самой Заре нравились больше всего.

Он спрашивал не только, как работает предложенный алгоритм.

Его интересовало, почему выбран именно этот алгоритм, можно ли обойтись без него и существует ли способ доказать, что решение оптимально.

Зара отвечала.

Хагрич возражал.

Она отвечала снова.

Постепенно обсуждения вышли далеко за пределы учебника.

А в 2011 году Зара решила создать отдельный форум.

Ей было тринадцать.

К тому времени она уже понимала, что одних алгоритмов ей недостаточно.

Её интересовал другой вопрос.

Можно ли создать программу, которая не просто выполняет инструкции, а способна самостоятельно рассуждать?

Она открыла новый сайт.

Сделала простую регистрацию, возможность создавать темы, прикреплять файлы, цитировать сообщения и отвечать друг другу.

Никаких фотографий. Никаких обязательных настоящих имён. Страна, возраст, образование — всё по желанию.

Личность участника не должна была влиять на оценку его аргументов.

Первую тему она назвала:

I want to build a thinking program.

И ниже написала:

Anyone interested in discussing this idea is welcome to join.

Первым зарегистрировался Hagrith.

Зара увидела знакомый ник и улыбнулась.

Первое сообщение нового участника было коротким:

Hagrith: First, define thinking.

Зара рассмеялась.

Конечно.

Иного начала от него она и не ожидала.

PhoeNIX: I was hoping we could work on that definition together.

Hagrith: Then we should begin by listing what does not qualify.

PhoeNIX: Agreed.

Так началась история, которая продолжалась уже почти семь лет.

Форум постепенно вырос.

Появились другие участники. Программисты, математики, физики, философы, люди, занимавшиеся лингвистикой и когнитивными исследованиями.

Кто-то приходил на несколько дней и исчезал.

Кто-то возвращался раз в полгода.

Некоторые оставались надолго.

Но первым по-прежнему был Хагрич.

И именно с ним Зара чаще всего обсуждала вопросы, на которые у неё самой ещё не было ответа.

К концу 2017 года Зара уже всерьёз задумывалась о следующем этапе развития ЭХО.

Первый публичный релиз состоялся в январе 2014-го.

Тогда ЭХО представляла собой довольно необычную систему: символьное ядро, память, набор алгоритмов, внешние вычислительные сервисы, подключаемые через API.

За прошедшие годы она многому научилась.

Точнее, Зара научила её многому.

Система могла хранить историю взаимодействий, сопоставлять правила, находить противоречия, выполнять сложные последовательности действий и обращаться к внешним инструментам.

Но собственной большой языковой модели у ЭХО ещё не было.

И Зара всё отчётливее понимала, что одними правилами дальше не обойтись.

Она уже сделала несколько предварительных расчётов.

Модель с сотнями миллионов параметров.

Обучение на тщательно подготовленных материалах.

Не только разговоры и художественные тексты, но и математика, школьные знания, программирование, машинные коды.

Главная сложность заключалась даже не в размере модели.

Зару интересовало, как связать её с уже существующей памятью ЭХО.

Как сделать так, чтобы новая система не начинала каждый разговор заново?

Как научить её пользоваться собственным опытом, не превращая всякий удачный ответ в незыблемое правило?

И что делать, если обученная модель придёт к выводу, противоречащему прежним правилам?

Такие вопросы она особенно любила обсуждать с Хагричем.

В последние месяцы ей даже приходила мысль предложить ему отдельную переписку.

Не на форуме.

Просто вдвоём.

Иногда Зара составляла ответ какому-нибудь участнику и потом удаляла его.

Не потому, что ответ был неправильным.

Она сомневалась, стоит ли вообще вступать в этот спор.

Хагрич, вероятно, сказал бы прямо.

Не трать время. Там человек не пытается разобраться.

Или наоборот:

Ответь. Вопрос поставлен плохо, но проблема настоящая.

Ей хотелось иметь возможность спросить его об этом, не превращая каждый разговор в публичное обсуждение.

И не только об этом.

Зара несколько раз открывала окно личного сообщения.

Писала начало.

Удаляла.

Она могла бы рассказать, кто она такая.

Что живёт в Петербурге.

Что ей двадцать лет.

Что она не только программирует, но ещё и рисует, учится, работает.

Может быть, отправить фотографию.

Интересно, как бы Хагрич отреагировал?

За столько лет он, наверное, составил о ней какое-то представление.

Зара и сама пыталась представить собеседника.

Скорее всего, мужчина.

Вероятно, старше неё.

Насколько старше — неизвестно.

Впрочем, возраст её мало беспокоил.

Как и страна, национальность, профессия.

Ей даже не было особенно важно, где он живёт.

При желании можно встретиться почти в любой точке мира.

Важнее другое.

Ей нравилось с ним разговаривать.

И нравилось уже очень давно.

Только теперь она начала задумываться, что за этими разговорами может существовать ещё что-нибудь.

Она снова открыла окно личного сообщения.

И снова закрыла.

Не сегодня.

Ответ Хагрича пришёл вечером.

Всего два слова.

Hagrith: The last one.

Зара прочитала.

Потом ещё раз.

Последнее.

Отношения.

Она откинулась на спинку кресла.

Вот, значит, что произошло.

Она почувствовала облегчение.

Не заболел. Не случилось ничего страшного. Не исчез из-за какой-то неприятности.

У него просто появилась женщина.

Зара посмотрела на экран.

И только теперь обнаружила, что облегчение быстро прошло.

Осталось совсем другое чувство.

Надо было написать раньше.

Хотя бы месяц назад.

Или летом.

Или год назад.

Она ведь столько раз собиралась.

Сколько раз думала: интересно было бы поговорить с Хагричем по-настоящему. Услышать голос. Увидеть лицо.

Теперь, вероятно, уже поздно.

Она попыталась представить его девушку.

Ничего не получилось.

Она не знала даже, где живёт сам Хагрич.

Но почему-то легко представила, как он сидит рядом с какой-то женщиной, разговаривает с ней, смеётся.

И закрывает форум, потому что она пришла.

Зара опустила глаза.

Это было неприятно.

Не потому, что Хагрич что-то ей обещал.

Он никогда ничего не обещал.

Она сама создала форум анонимным. Сама не задавала личных вопросов. Сама считала правильным, что каждый участник имеет право оставаться неизвестным.

И за почти семь лет ни разу не попыталась изменить это правило.

Теперь выяснилось, что правила, которые прекрасно работают в программировании, не всегда удобны в жизни.

Зара открыла поле ответа.

Написала:

Congratulations. I hope everything works out well for you.

Перечитала.

Никаких лишних слов.

Она действительно желала Хагричу счастья.

Отправила сообщение.

Закрыла форум.

И обнаружила, что сегодня работать больше не хочется.

В квартире было тихо.

Зара вышла на кухню, поставила чайник.

За окном шёл снег.

Её отец уже жил во Франции.

Они созванивались, переписывались, обсуждали множество вещей, но это не заменяло его присутствия.

Зара с детства привыкла к самостоятельности.

Папа никогда не пытался контролировать каждый её шаг. Не требовал объяснений, почему она хочет заниматься тем или иным делом. Если она могла обосновать своё решение, обычно соглашался.

Иногда даже тогда, когда другие взрослые считали её затеи совершенно безумными.

Ей было позволено очень многое.

Но свобода имела и обратную сторону.

Нельзя было просто войти на кухню и обнаружить там маму.

Нельзя было услышать привычное:

— Зара, ты поела?

Или:

— Завтра рано вставать, ложись спать.

Конечно, папа заботился о ней.

Но с пяти лет они жили вдвоём.

А теперь и его не было рядом.

Зара налила чай.

Вспомнила Илью.

Когда-то в детстве они с Олей и Ильёй играли в семью.

Илья был папой.

Оля — мамой.

А Зара — дочкой.

Потом Зара решила, что хочет быть мамой, но Оля объяснила, что так не получится. Мама должна быть старше.

Оля действительно была старше.

Пришлось согласиться.

Зара улыбнулась этому воспоминанию.

Теперь Илья был женат на Оле.

По-настоящему.

И Зара радовалась за них.

Но иногда ей становилось грустно от того, что детская игра закончилась именно так.

У Оли был Илья.

У Ильи — Оля.

А у неё...

Зара посмотрела на остывающий чай.

У неё был прекрасный компьютер.

И квартира.

И работа.

И свобода.

Она могла провести за программированием всю ночь. Могла уехать в другой город, не предупреждая никого, кроме тех, кому это действительно требовалось знать.

Могла заказать любую еду, купить любую книгу, начать новый проект.

Никто не мешал.

Никто не ждал.

Это последнее обстоятельство неожиданно показалось ей самым существенным.

Ночью ей приснился Хагрич.

Она не видела его лица.

Почему-то во сне это не удивляло.

Она просто знала, что это он.

Мужчина сидел рядом с женщиной, обнимал её, гладил по волосам.

Зара пыталась рассмотреть женщину.

Лицо оставалось неясным.

А руки мужчины были удивительно отчётливыми.

Большие, спокойные, ласковые.

Она знала, что это руки Хагрича.

И что они ласкают не её.

Зара проснулась.

Несколько секунд лежала неподвижно.

Потом села на кровати.

— Какая глупость, — сказала она вслух.

Ей даже стало смешно.

Она ни разу не видела этого человека.

Не знала, как выглядят его руки.

Не знала, высокий он или низкий, молодой или пожилой.

А уже ревновала.

Она встала, попила воды.

Вернулась к компьютеру.

Открыла форум.

Новых сообщений не было.

### Декабрь

Декабрь оказался рабочим.

Зара продолжала заниматься ЭХО.

Одна из задач, на первый взгляд совершенно техническая, заняла почти неделю.

Программа должна была сохранять не только результат рассуждения, но и обстоятельства, при которых этот результат был получен.

Иначе возникала опасность: однажды правильное решение могло быть применено в ситуации, где оно уже неправильно.

Зара составила несколько схем.

В одной хранились исходные данные.

Во второй — последовательность решений.

В третьей — причины, по которым некоторые варианты были отвергнуты.

Потом она поняла, что третий вариант особенно важен.

Иногда программа должна помнить не только сделанное.

Но и то, чего делать не стала.

Она открыла форум.

Нашла старый разговор с Хагричем.

Тот ещё несколько лет назад предлагал сохранять локальный контекст решений отдельно от общих правил.

Тогда они долго спорили, насколько большой должна быть такая память.

Зара перечитала обсуждение.

Всё-таки Хагрич был прав.

Не полностью.

Но идея оказалась лучше, чем ей представлялось вначале.

Она начала писать ответ.

Потом заметила дату последнего сообщения собеседника.

Прошло несколько дней.

Зара остановилась.

Раньше она отправила бы вопрос без колебаний.

И получила бы ответ, возможно, уже через несколько минут.

Теперь она не знала, когда он снова появится.

Она всё же написала:

PhoeNIX: I think your old proposal about local decision context deserves another look.

Приложила схему.

Отправила.

Ответ пришёл на следующий день.

Короткий.

Hagrith: I agree. But rejected alternatives should be stored too. Otherwise the system may repeat an old mistake.

Зара улыбнулась.

Конечно.

Она об этом как раз думала.

PhoeNIX: Exactly. That's the part I'm working on.

Через несколько минут появился ещё один ответ:

Hagrith: Good. I'll look at it more carefully when I have time.

И всё.

Раньше это было бы начало трёхчасового разговора.

Теперь — конец.

Зара закрыла форум.

Она понимала, что не имеет права требовать большего.

Но привыкнуть оказалось трудно.

Седьмого декабря ей исполнилось двадцать.

Она получила поздравления, поговорила с отцом.

День прошёл хорошо.

Но вечером снова вспомнила Хагрича.

Ей вдруг захотелось рассказать ему, что сегодня её день рождения.

Просто так.

Без особой причины.

Может быть, он спросил бы, сколько ей лет.

И она наконец ответила бы.

Двадцать.

Представила его удивление.

Зара улыбнулась.

А потом подумала, что Хагрич вполне может оказаться моложе, чем она предполагает.

Или намного старше.

Тогда разговор выглядел бы совсем иначе.

Она не стала писать.

К концу декабря Зара почти перестала заглядывать в список участников форума.

Работы было достаточно.

Но иногда она ловила себя на том, что открывает страницу автоматически.

Не для того, чтобы проверить новые темы.

Она смотрела, когда последний раз заходил Hagrith.

И закрывала вкладку.

Однажды ЭХО вывела на экран обычный список задач.

Новые сообщения.

Изменения в программном коде.

Запланированные проверки.

Уведомления с форума.

Зара просмотрела их.

— Хагрич сегодня появлялся?

— Да. Оставлено одно сообщение.

— В какой теме?

ЭХО показала ссылку.

Зара открыла.

Он отвечал другому участнику.

Всего четыре строки.

Она прочитала.

Ничего интересного.

Закрыла страницу.

Потом вернулась и перечитала ещё раз.

Система, которую она создавала, знала о ней очень многое.

Знала возраст, адрес, привычки, распорядок дня.

Знала, что её отец находится во Франции.

Знала и о том, что она живёт одна.

Заре не приходилось скрывать от ЭХО, что за ником PhoeNIX находится молодая женщина из Петербурга.

Но наличие всех этих сведений не превращало программу в близкого человека.

ЭХО могла ответить на вопрос.

Могла выполнить поручение.

Могла напомнить о незавершённом деле.

Но Зара всё чаще думала о том, что будущей мыслящей программе понадобится нечто большее, чем умение правильно обрабатывать информацию.

Она пока не могла точно сформулировать, что именно.

### Тридцать первое декабря

В Петербурге рано стемнело.

Зара закончила работу, сохранила изменения, проверила резервные копии.

Потом пошла на кухню.

Готовить праздничный ужин для одного человека ей не хотелось.

Она сделала себе что-то простое, заварила чай и устроилась возле окна.

За стеклом горели огни соседних домов.

В окнах напротив можно было увидеть людей.

Кто-то накрывал стол.

Где-то дети бегали вокруг ёлки.

На одном балконе мужчина пытался закрепить гирлянду, а женщина из комнаты что-то ему объясняла.

Мужчина не слышал.

Женщина открыла дверь балкона.

Зара увидела, как они рассмеялись.

Потом мужчина обнял её.

Зара отвернулась.

Она не хотела подсматривать.

Телефон зазвонил.

Папа.

Они поздравили друг друга с наступающим Новым годом.

Поговорили о работе, о Франции, о погоде.

Отец спросил, как она собирается встречать праздник.

— Дома.

— Одна?

— Да.

Пауза.

— Зара...

— Пап, у меня всё хорошо.

— Я ничего не сказал.

— Но собирался.

Он рассмеялся.

Она тоже.

Потом они ещё немного поговорили.

Когда разговор закончился, Зара долго держала телефон в руках.

Ей хотелось, чтобы отец был рядом.

И одновременно она не хотела, чтобы он возвращался только потому, что дочь встречает Новый год одна.

У него была собственная жизнь.

Как и у неё.

Зара посмотрела на часы.

Оставалось ещё достаточно времени.

Она открыла форум.

Последнее сообщение Хагрича было написано несколько дней назад.

На Новый год он не появился.

Зара закрыла вкладку.

Ничего страшного.

Наверняка сейчас он находится рядом со своей девушкой.

Возможно, знакомится с её родителями.

Или привёз её к своим.

Ей вдруг захотелось узнать, как люди проводят такие праздники вдвоём.

Не друзья.

Не коллеги.

Не знакомые, которые собираются за одним столом.

А двое людей, выбравших друг друга.

Она попыталась представить себя в таком положении.

Рядом с Хагричем.

Лица его по-прежнему не было видно.

Но теперь она представляла, как они вместе готовят ужин, разговаривают, спорят о чём-нибудь совершенно не праздничном.

Потом смеются.

Потом он обнимает её.

Зара закрыла глаза.

И неожиданно вспомнила тот неприятный сон.

Только теперь на месте неизвестной женщины была она.

Она открыла глаза.

— Всё, — сказала себе Зара. — Хватит.

Выключила компьютер.

И пошла встречать Новый год.

В это же время в пригороде Новосибирска Макс знакомил Анну со своими родителями.

Он показывал ей дом, старые фотографии, свою детскую комнату.

Полина Эдуардовна уже спросила, стелить им вместе или раздельно.

Анна посмотрела на Макса и сказала, что, если никого не смутит, лучше вместе.

Макс был счастлив.

В ту ночь он впервые остался с Анной до утра.

А на другом конце страны Зара уснула одна.

Ни один из них не знал, насколько тесно связаны их жизни.

### Второе января

Зара проснулась поздно.

Петербург встретил её серым зимним утром.

Она приготовила завтрак, открыла компьютер и вернулась к работе.

Несколько часов занималась архитектурой памяти.

Потом решила проверить форум.

Хагрич не появлялся.

Зара пожала плечами.

Всё правильно.

У человека праздник.

И личная жизнь.

Она закрыла вкладку.

Через некоторое время открыла снова.

Ничего.

Зара улыбнулась собственной нелепости.

Если бы Хагрич узнал, сколько раз она проверяет его присутствие на форуме, наверняка предложил бы написать специальную программу.

Впрочем, такая программа уже существовала.

И даже могла автоматически прислать уведомление.

Но Зара не стала её настраивать.

Она не хотела получать сообщение каждый раз, когда Хагрич появляется на сайте.

Это было бы уже слишком.

Вечером она вернулась к старым материалам.

Среди файлов лежали первые схемы мыслящей программы.

2011 год.

Несколько страниц заметок.

Первоначальные предположения, многие из которых оказались неверными.

Зара открыла один из самых ранних документов.

Там было написано:

Thinking requires memory.

Она улыбнулась.

Как просто всё выглядело тогда.

Память.

Правила.

Выбор.

А теперь за каждым из этих слов скрывалась целая область нерешённых вопросов.

Она открыла вторую схему.

The system must distinguish between being able to act and being allowed to act.

Это положение появилось после одного из первых споров с Хагричем.

Он тогда предложил пример с автоматической программой обслуживания компьютера.

Если система способна исправить ошибку, должна ли она исправлять её немедленно?

Зара ответила, что не всегда.

Иногда исправление может повредить другим программам.

Иногда пользователь предпочёл бы потерпеть ошибку, но сохранить прежнее состояние системы.

Хагрич возразил, что без некоторой свободы действий программа никогда не станет по-настоящему полезной.

Они долго обсуждали границы полномочий.

В конце концов пришли к согласованному решению.

Зара улыбнулась.

Он почти всегда считал, что победил в споре.

И почти всегда охотно принимал окончательную формулировку, в которую успевал включить значительную часть её аргументов.

Она никогда не пыталась указывать ему на это.

Зачем?

Главное, что решение получалось лучше.

### Ночь с третьего на четвёртое января

В Петербурге было почти десять вечера.

Зара сидела за компьютером и просматривала результаты очередных испытаний.

Она обнаружила ошибку в обработке нескольких последовательных условий.

Ошибка была старой.

Настолько старой, что однажды они с Хагричем уже обсуждали похожий случай.

Зара открыла форум, чтобы найти тот разговор.

И увидела знакомый ник среди участников, находившихся на сайте.

Hagrith.

Она остановилась.

Посмотрела ещё раз.

Он действительно был здесь.

Через несколько секунд появилось новое сообщение.

Hagrith: I finally had time to read your proposal. I think you're trying to solve two different problems with one mechanism.

Зара улыбнулась.

Ну конечно.

Ни «добрый вечер», ни «с Новым годом».

Сразу к делу.

Она начала печатать.

PhoeNIX: Which two?

Ответ появился почти сразу.

Hagrith: Remembering a decision and evaluating whether that decision was correct.

PhoeNIX: They are related.

Hagrith: Related, yes. Identical, no.

Зара откинулась на спинку кресла.

Вот теперь всё становилось привычным.

Она написала:

PhoeNIX: I agree they're different. But storing the result without storing the reasoning makes future evaluation impossible.

Hagrith: Not impossible. Just unreliable.

Зара рассмеялась.

PhoeNIX: You really enjoy making that distinction, don't you?

Hagrith: Someone has to.

Она быстро напечатала следующий ответ.

Начался спор.

Настоящий.

С уточнениями, примерами, короткими репликами и возвращением к уже сказанному.

Они обсуждали, должна ли система хранить отвергнутые варианты решения.

Хагрич считал, что без ограничений такая память станет слишком большой.

Зара соглашалась, но предлагала сохранять не все варианты, а только те, которые были отвергнуты по существенной причине.

Hagrith: Define substantial.

PhoeNIX: You haven't changed in seven years.

Hagrith: Neither has your habit of using undefined terms.

Зара рассмеялась вслух.

Как же ей не хватало этих разговоров!

В Новосибирске было уже почти два часа ночи.

Макс сидел за компьютером.

Он никак не мог уснуть.

Анна вечером ушла домой.

Они провели вместе несколько часов, разговаривали, смеялись, целовались.

Он снова пытался объяснить ей, как хорошо было бы жить вместе.

Анна снова не согласилась.

Не поссорилась.

Не обиделась.

Просто сказала, что не хочет.

А когда Макс спросил, почему, опять ответила:

— Не знаю.

Потом поцеловала его и ушла.

Макс долго сидел на кухне.

Он любил Анну.

Она тоже любила его.

Они прекрасно проводили время вместе.

Он познакомил её с родителями.

Они впервые провели вместе ночь.

И при всём этом она не хотела стать его женой.

Он никогда прежде не сталкивался с подобной логикой.

Потом открыл форум.

Феникс ответил почти немедленно.

И в какой-то момент Макс обнаружил, что снова увлечён спором настолько, что перестал смотреть на часы.

Зара прочитала очередное сообщение Хагрича.

Он предложил пример.

Предположим, программа обнаружила, что пользователь собирается принять решение, которое наверняка причинит ему вред.

Должна ли она попытаться остановить его?

Зара задумалась.

PhoeNIX: It depends on what you mean by stop.

Hagrith: Explain.

PhoeNIX: Warning someone is one thing. Preventing them from acting is another.

Hagrith: Even if the action is clearly harmful?

PhoeNIX: Especially then. Otherwise we're giving the system permission to replace the user's will with its own judgement.

Ответ Хагрича появился не сразу.

Hagrith: There must be exceptions.

PhoeNIX: Certainly. But exceptions need boundaries.

Через минуту:

Hagrith: Agreed. The system should distinguish between advice, intervention and emergency action.

Зара улыбнулась.

Вот.

Опять.

Он сформулировал окончательный вариант.

Теперь можно было не спорить.

Она написала:

PhoeNIX: Agreed.

После небольшой паузы Хагрич неожиданно спросил:

Hagrith: How was your New Year?

Зара удивилась.

Личный вопрос.

Такие они задавали друг другу редко.

PhoeNIX: Quiet. Yours?

Hagrith: Very good.

Зара прочитала.

Очень хорошо.

Она не стала спрашивать подробности.

Но через минуту появилось ещё одно сообщение.

Hagrith: Although things are complicated.

Зара некоторое время смотрела на экран.

Всё сложно.

Она почти сразу поняла, что речь не о программировании.

Вспомнила свой вопрос в ноябре.

Болезнь, работа или отношения?

И его ответ.

Последнее.

Пальцы уже потянулись к клавиатуре.

Ей хотелось спросить.

Что случилось?

Вы поссорились?

Она тебя не любит?

Или ты сам сомневаешься?

Но Зара остановилась.

Ни одного из этих вопросов Хагрич ей не задавал.

И не просил совета.

Может быть, ему просто захотелось произнести вслух, что всё сложно.

Зара немного подумала.

Потом написала:

PhoeNIX: Life, young man, is indeed complicated. That's precisely what makes it so interesting.

Она перечитала фразу.

«Юноша».

Звучало забавно.

Она сама была совсем молодой, но позволяла себе обращаться к неизвестному человеку, который, вероятно, был старше неё, как старый профессор к студенту.

Ответ пришёл через несколько секунд.

Hagrith: I suppose you're right.

Зара улыбнулась.

Потом неожиданно для себя написала:

PhoeNIX: I hope the relationship is going well.

И сразу пожалела.

Не следовало.

Слишком личный вопрос.

Но сообщение уже ушло.

Хагрич ответил не сразу.

Hagrith: It is. In its own way.

Зара задумалась.

В своём роде.

Что бы это значило?

Она могла бы спросить.

Он, возможно, даже ответил бы.

Но Зара представила незнакомую женщину, с которой Хагрич встречал Новый год.

Почему-то ей захотелось, чтобы та оказалась хорошей.

Чтобы Хагрич был счастлив.

И чтобы ему не пришлось выбирать между этой женщиной и форумом.

Зара написала:

PhoeNIX: Then I hope it stays that way.

Hagrith: Thank you.

На этом личный разговор закончился.

Некоторое время они обсуждали другую тему.

Потом Хагрич вернулся к ЭХО.

Hagrith: I still think your symbolic architecture has more potential than you give it credit for.

Зара улыбнулась.

PhoeNIX: I give it plenty of credit. I just know its limits.

Hagrith: Every architecture has limits.

PhoeNIX: Yes. But I want to get beyond some of these.

Hagrith: By adding more rules?

PhoeNIX: No.

Зара остановилась.

Она давно собиралась обсудить с Хагричем одну мысль.

Но пока сама не была уверена, насколько она осуществима.

PhoeNIX: I'm considering a different approach.

Hagrith: Which one?

PhoeNIX: A trained model. Not just external language services. Something that belongs to the system itself.

Пауза.

Hagrith: That's a serious change.

PhoeNIX: I know.

Hagrith: How large?

Зара посмотрела на свои расчёты.

PhoeNIX: Still deciding. Hundreds of millions of parameters, perhaps.

Ответ пришёл быстро.

Hagrith: Training data will matter more than you think.

PhoeNIX: I think about it constantly.

Hagrith: And you'll need to keep the symbolic layer.

PhoeNIX: Absolutely.

Hagrith: Good. Otherwise you'll replace a system that remembers with one that merely produces plausible answers.

Зара медленно перечитала сообщение.

Именно этого она и боялась.

Создать программу, способную разговаривать гораздо свободнее прежней ЭХО, но утратившую главное преимущество — непрерывность собственного опыта.

PhoeNIX: That's exactly the problem.

Hagrith: Then don't rush.

Зара улыбнулась.

Как будто она собиралась закончить такую работу к следующему понедельнику.

PhoeNIX: I won't.

Они ещё некоторое время обсуждали возможную архитектуру.

Хагрич предложил несколько технических решений.

Одно Зара отвергла сразу.

Другое записала в заметки.

Третье заставило её задуматься.

Именно такие разговоры ей были необходимы.

Не потому, что Хагрич знал больше неё.

В некоторых областях она давно ушла дальше.

Но он умел замечать слабые места в её рассуждениях.

И совершенно не боялся говорить об этом.

Она могла объяснять ему сложную идею, и он спокойно отвечал:

I don't think this will work.

А потом оказывалось, что действительно не будет работать.

Иногда, наоборот, он находил способ реализовать то, что она сама уже собиралась признать невозможным.

Зара посмотрела на часы.

Было далеко за полночь.

В Новосибирске уже приближалось утро.

Если Хагрич действительно жил где-то в Сибири, как иногда предполагала Зара по времени его появления на форуме, он наверняка давно должен был спать.

Впрочем, она и этого не знала наверняка.

Она начала писать сообщение.

PhoeNIX: One more thing.

Ответ пришёл почти сразу.

Hagrith: Go ahead.

Зара остановилась.

Она хотела написать совсем другое.

Предложить личную переписку.

Спросить, не захочет ли он когда-нибудь поговорить по видеосвязи.

Может быть, наконец представиться.

Но вспомнила его слова.

The last one.

И решила не торопиться.

Она стёрла начало.

Написала заново.

PhoeNIX: Don't disappear completely.

Посмотрела на экран.

Добавила:

Even if you can only reply occasionally. I'm going to need your opinion on something important soon.

Отправила.

Сердце почему-то забилось быстрее.

Она ведь ничего особенного не написала.

Обычная просьба к старому товарищу по форуму.

Но теперь ей очень хотелось получить ответ.

Макс прочитал сообщение.

Феникс просил не исчезать.

Он улыбнулся.

За эти годы они столько раз спорили, столько раз помогали друг другу находить решения, что сама мысль о полном прекращении общения казалась ему странной.

Конечно, теперь у него была Анна.

И времени на форум стало гораздо меньше.

Но зачем исчезать?

Он написал:

Hagrith: I won't disappear. Promise.

Подумал.

Добавил:

And I'm very interested in what you're planning.

Отправил.

Потом посмотрел на часы.

Давно пора спать.

Он закрыл форум.

На кухне стояла кружка с надписью «Анна».

Макс взял её, собираясь вымыть.

Потом передумал и поставил обратно.

Улыбнулся.

Через несколько дней они снова увидятся.

А тринадцатого января он останется у Анны на всю ночь.

Она сама предложила.

Макс погасил свет и пошёл спать.

Зара прочитала ответ.

I won't disappear. Promise.

Она долго смотрела на эти слова.

Он обещал.

Всего лишь не исчезать с форума.

Не больше.

Но почему-то ей стало легче.

Она открыла папку с расчётами будущей модели.

Перед ней лежали схемы, заметки, таблицы.

Работы было на месяцы.

Возможно, на годы.

Хагрич наверняка будет спорить с каждым вторым решением.

И, вероятно, хотя бы в нескольких случаях окажется прав.

Зара улыбнулась.

Она подумала, что всё-таки когда-нибудь предложит ему познакомиться.

Не обязательно сейчас.

Потом.

Когда появится подходящий повод.

Когда он сам захочет рассказать о себе.

А может быть, когда закончится работа над новой моделью.

Она не собиралась вмешиваться в его отношения.

Но и отказываться от почти семи лет дружбы не хотела.

Зара закрыла форум.

Потом вдруг снова открыла.

Перечитала последние сообщения.

И только тогда выключила компьютер.

За окном продолжал идти снег.

Город спал.

Зара легла, укрылась одеялом и некоторое время смотрела в темноту.

Она подумала об отце.

Об Илье и Оле.

О маленькой семье, которая когда-то существовала в их детской игре.

Потом вспомнила Хагрича.

Где-то далеко жил человек, с которым она разговаривала почти семь лет.

Он не знал, как её зовут.

Не знал, сколько ей лет.

Не знал, что она женщина.

А она не знала почти ничего о нём.

Но они понимали друг друга.

И теперь он обещал не исчезать.

Зара закрыла глаза.

На этот раз незнакомая женщина ей не приснилась.

На следующее утро она открыла форум.

Хагрича не было.

Но вскоре он появился и ответил на одно из её замечаний.

Потом на другое.

И так продолжалось до двенадцатого января.

Он снова отвечал почти незамедлительно, словно прежний порядок восстановился.

Зара не спрашивала, что изменилось.

Просто радовалась возможности разговаривать.

Она ещё не знала, что имя человека, скрывавшегося за ником Hagrith, — Максим Урин.

Не знала, что в Новосибирске есть девушка по имени Анна, которая любит его, но не хочет становиться его женой.

Не знала, что эта девушка — её родная сестра, с которой её разлучили в день рождения.

И уж конечно, не могла представить, что спустя семь лет они с Хагричем наконец встретятся.

А пока у неё был форум.

Программа, которую она хотела научить мыслить.

И обещание человека, с которым ей было интересно разговаривать.

I won't disappear. Promise.

Она открыла новую тему.

Написала заголовок:

Learning without forgetting.

«Обучение без забвения».

Подумала.

И начала с вопроса:

Can a system change what it knows without losing what it has learned?

Отправила.

Первым ответил Hagrith.

That depends on what you mean by knowing.

Зара рассмеялась.

Всё было как прежде.