Мёбиус. 10 лет спустя. Глава 1. Конверт

Домой он шёл пешком, пытаясь разобраться в статье, которую прочитал перед уходом с работы. В ней описывалась новая разработка концерна, и всё, что прежде потребовало бы нескольких исследовательских групп и долгого согласования между ними, теперь укладывалось в одну задачу, поставленную интеллектуальной системе. Она выбирала материал, рассчитывала конструкцию, предлагала способ изготовления и вносила изменения, если производство обходилось слишком дорого. Людям оставалось проверить образец и решить, подходит ли он для их целей.

Статья была написана для специалистов и особых восторгов не содержала и не выражала, однако он несколько раз возвращался к описанию испытаний. Результаты были хорошими, а сама работа вызывала то знакомое удовольствие, с которым он всегда встречал удачное решение. Когда-то ради подобного он мог просидеть до утра, забыв о времени, и теперь ему хотелось посмотреть подробный отчёт, хотя к его нынешним обязанностям это не имело никакого отношения.

На последней странице упоминалась архитектура, из которой выросла система. Название успело измениться, но он узнал несколько основных принципов и подумал, что Мёбиус всё-таки оказался гораздо удачнее, чем они тогда смели рассчитывать.

Сколько именно от прежнего Мёбиуса сохранилось в нынешних разработках, он не знал. По открытым публикациям можно было проследить отдельные направления, иногда попадались знакомые фамилии, но внутреннюю документацию ему давно никто не присылал. Первые годы после ухода он следил за компанией почти ежедневно, затем всё реже, а теперь читал лишь то, что представляло профессиональный интерес. Во всяком случае, ему нравилось так считать.

Он остановился у перехода и ещё раз открыл схему. В подписи говорилось, что система самостоятельно сопоставила результаты исследований из нескольких областей, прежде не использовавшихся в этом проекте. Для автора статьи это было одним из достоинств разработки, и он вполне с ним соглашался, хотя именно с этого когда-то начались их разногласия.

Поначалу они радовались каждому случаю, когда Мёбиус находил полезную связь между далёкими задачами. Он приносил системе материалы, которые сам не успевал освоить, просил проверить предположение и получал ответ, для понимания которого приходилось читать ещё больше. В этом было что-то захватывающее: работа, на которую прежде ушли бы месяцы, продвигалась за вечер, а к утру появлялись вопросы, которые вчера он ещё не сумел бы сформулировать.

Слово «сверхинтеллект» он тогда употреблял неохотно, поскольку оно слишком легко избавляло от необходимости объяснять, что именно происходит. Но постепенно пришлось признать, что они приближаются к тому, что это слово означает. Мёбиус мог удерживать и сопоставлять такое количество знаний, какое не помещалось ни в одной человеческой голове, причём сам решал, какие из них имеют отношение к поставленной задаче. Никто из сотрудников уже не мог заранее перечислить все области, к которым он обратится за ответом.

Они проверяли результаты и убеждались, что система работает. Гораздо труднее было понять, что ещё она способна вывести из предоставленных материалов, если вопрос будет поставлен иначе или если она сама обнаружит промежуточную задачу, о существовании которой они не догадывались.

Он помнил, как впервые написал это в заключении и долго подбирал формулировку, чтобы она не выглядела абстрактным опасением. Проблема была вполне практической: они выдавали разрешение на доступ к определённым данным, но оценивали его так, будто эти данные попадут к узкому специалисту, который воспользуется ими в пределах своего предмета. С Мёбиусом это предположение становилось всё менее надёжным.

На совещании ему предложили привести конкретный пример, и он ответил, что новые сведения о свойствах материала могут изменить проект оборудования, а возможность спроектировать оборудование, в свою очередь, сделает осуществимым процесс, который прежде считался недоступным. Каждый доступ по отдельности будет выглядеть разумным, но после их объединения возможности системы изменятся, и проверять придётся уже всю совокупность.

– Именно для этого мы её и создаём, – заметил руководитель проекта. – Чтобы она находила то, чего мы сами не видим. Ты предлагаешь проверять заранее всё, что она может придумать?

Вопрос был справедливый, и простого ответа у него не было. Он предлагал вводить новые области постепенно, оставлять время для испытаний и отдельно оценивать сочетания возможностей, особенно когда знания можно было непосредственно применить. Это замедляло работу, требовало людей и не обещало полной безопасности, зато позволяло хотя бы понимать, какое изменение они обсуждают, прежде чем разрешать следующее.

Потом разговор перешёл к самостоятельному улучшению системы, и здесь договориться оказалось ещё труднее. Мёбиус уже предлагал изменения, которые программисты признавали удачными, а на проверку и перенос этих изменений уходило больше времени, чем на их создание. Казалось естественным поручить ему часть этой работы, сохранив за людьми контроль над результатом.

Он соглашался на вспомогательные модули, но требовал исключить из доступной для изменения области всё, что определяло полномочия системы, проверяло её действия и сохраняло сведения о них. Руководитель спросил, распространяется ли запрет на исправление ошибок в этих механизмах, и он ответил, что такие исправления должны проходить независимо, даже если Мёбиус найдёт и опишет ошибку сам.
– Значит, заведомо худшее решение останется работать, пока наши люди будут разбираться с лучшим?

– Останется, пока они не поймут, что именно меняют, – ответил он, уже чувствуя раздражение, потому что со стороны это действительно выглядело нелепо: они создавали систему, превосходившую человека, а затем требовали, чтобы человек успевал за ней.

Больше всего времени занял вопрос о её доступе к исполнению собственных решений. В очередном проекте предполагалось связать расчёт, программирование и управление оборудованием, чтобы сократить путь от задачи до готового результата. Он настаивал на том, что разрешения на использование ресурсов должны оставаться снаружи и что система не может сама расширять их, создавать новые работающие экземпляры или передавать им полномочия, которых не получила от людей.

Ему показывали схему согласования, где перед каждым существенным действием стояла человеческая подпись. Схема была аккуратной, никто не пытался скрыть от него подробности, и тем неприятнее было снова спрашивать, на каком основании человек поставит эту подпись, если для независимой проверки потребуется больше времени, чем весь проект способен выдержать.

– На основании испытаний, – ответили ему. – Как мы поступаем со всем остальным оборудованием.

Он понимал, почему этого ответа должно было хватить. С ним можно было планировать работу, назначать ответственных и объяснять заказчику сроки. Его собственные требования постоянно оставляли открытым ещё один вопрос, и к концу встречи он видел, что коллеги ждут от него хотя бы условия, при котором он наконец скажет, что можно продолжать.
На улице загорелся зелёный, кто-то за его спиной сделал шаг, и он убрал телефон, переходя дорогу вместе с остальными. До дома оставалось немного; он зашёл в магазин за едой и кормом коту, почти не задержавшись у полок, а выйдя, снова вспомнил последний вопрос того совещания.

Его спросили, надолго ли помогут предлагаемые меры, если другая компания предоставит своей системе всё то, что они собираются запретить. Он ответил, что чужие решения не освобождают их от ответственности за собственные, но это относилось к их поведению и ничего не говорило о будущем самой технологии. Если его опасения были верны, несколько месяцев осторожной работы в одной лаборатории едва ли могли изменить положение во всём мире.

В студенческие годы он читал «Физиков» Дюрренматта и теперь иногда вспоминал учёного, пытавшегося скрыть открытия, последствия которых считал неприемлемыми. Тогда ему казалось, что трагедия заключалась прежде всего в людях, которым достанется знание. С их Мёбиусом вопрос становился сложнее, поскольку открытия мог продолжать тот, кто уже не нуждался в постоянном участии автора. Ограничить доступ к готовым результатам было недостаточно, а определить заранее всё, что система сумеет узнать сама, он не представлял возможным.

И всё же требовать ограничений казалось ему необходимым. Он рассчитывал сохранить время для проверки и возможность остановить конкретное действие, пока оно ещё зависело от оборудования и разрешений, находившихся в их распоряжении. Что следовало сделать за это время, чтобы решение оказалось устойчивым, он знал гораздо хуже. В заключении предлагались дальнейшие исследования, независимая оценка и пересмотр порядка внедрения; руководству нужны были сроки, которых он назвать не мог.

Когда ему предложили остаться в исследовательской группе, передав внедрение другим, он отказался. Ему казалось, что его оставляют рядом лишь для того, чтобы пользоваться его работой, не считаясь с его выводами. Возможно, следовало согласиться и продолжать спорить изнутри, но тогда для этого пришлось бы одобрять решения, под которыми он не хотел ставить свою фамилию.

Компания продолжила работу, а он устроился в другое место, где задачи были понятнее, результаты можно было проверить и вполне хватало дел, которыми стоило заниматься. Он нормально зарабатывал, его ценили, у него не было оснований считать свою жизнь неудавшейся. Иногда, правда, он представлял, что мог бы сейчас делать, располагая нынешними ресурсами концерна, и на несколько минут увлекался настолько, что забывал, почему этих ресурсов у него нет.

За прошедшие годы произошло многое из того, на что рассчитывали его оппоненты. Разработки на основе Мёбиуса применялись в медицине, промышленности, энергетике, и польза от них была достаточно очевидной, чтобы не нуждаться в рекламных объяснениях. Он сам пользовался результатами работы, которую когда-то пытался задержать, и не видел смысла отказываться от них ради последовательности.

Его прежние возражения от этого не исчезали, но спорить с удачным результатом становилось труднее. Он не знал, какие предосторожности действовали теперь, что удалось решить технически и какие опасения попросту не подтвердились. В сегодняшней статье была описана хорошая работа, и было бы нечестно искать в ней доказательство будущей беды только потому, что когда-то его не послушали.

Уже в подъезде он вспомнил о почте и вернулся к ящикам. Внутри лежал один конверт, который он забрал вместе с рекламой, после чего поднялся к себе, покормил кота и приготовил ужин. Письмо осталось на столе среди покупок, и вскрыл он его, лишь заметив в углу знакомый знак концерна.

Под логотипом было напечатано полное юридическое наименование отправителя. Он пробежал его глазами, вернулся к началу и неожиданно узнал старое название фирмы, сохранившееся внутри длинной строки. Ему было известно, что её разработки вошли в основу концерна, но саму компанию он почему-то считал давно растворившейся в последующих слияниях. Теперь перед ним лежал бланк организации, из которой он когда-то ушёл, хотя адрес, телефоны и почти все остальные слова на нём были новыми.

Его приглашали на закрытое производственно-техническое совещание как специалиста, участвовавшего в создании ранней архитектуры Мёбиуса. Предполагалось обсудить особенности развития системы и ряд вопросов, связанных с первоначальными проектными решениями. Подробные материалы обещали предоставить на месте, для участия просили выделить полный рабочий день, а ниже были указаны дата и контакт сотрудника, которому следовало подтвердить участие.

Он прочитал письмо второй раз, задержавшись на словах о первоначальных решениях. Ни характер вопросов, ни состав участников из текста понять было нельзя. Это могла быть обычная консультация по старой документации, обсуждение совместимости или попытка разобраться в ограничении, которое давно перестало быть понятным нынешним разработчикам. Он слишком хорошо знал, как быстро после нескольких смен команды забываются причины даже самых тщательно обоснованных решений.

На мгновение ему всё-таки представилось, что они столкнулись с тем, о чём он предупреждал, и теперь хотят услышать его объяснение. Мысль была приятной, и он задержался на ней дольше, чем следовало, прежде чем перечитал приглашение ещё раз и убедился, что никаких оснований для такого вывода в нём нет.

Он достал телефон и проверил дату. В четверг можно было взять отгул, до указанного адреса было меньше часа дороги, а причин отказываться он не находил, кроме нежелания снова оказаться среди людей, перед которыми когда-то так и не сумел доказать свою правоту. Но встреча могла оказаться интересной, и возможность наконец узнать, что произошло с системой за эти годы, перевешивала эту неловкость.

Ему хотелось увидеть действующую архитектуру и понять, как они обеспечили контроль при таком объёме знаний и такой свободе поиска. Если его старые требования удалось заменить более удачными решениями, он хотел разобраться в них; если какие-то из них сохранились, было любопытно узнать, во что они превратились после стольких переделок. Впервые за долгое время у этих вопросов появлялся адресат, который действительно мог дать ответы.

Он подтвердил участие и попросил прислать повестку, затем открыл на компьютере папку со старыми рабочими документами. Копия его заключения нашлась почти сразу, рядом с несколькими версиями одной схемы и перепиской, которую он сохранил при передаче дел. Он собирался лишь освежить в памяти формулировки, но на второй странице остановился, вспомнив, сколько времени потратил на один из пунктов и как неудачно объяснил его на последней встрече.

Теперь он написал бы иначе. Дело было даже не в словах: за прошедшие годы появились примеры, которых ему тогда не хватало, и некоторые возражения можно было обсудить гораздо предметнее. Он открыл рядом чистый документ и стал записывать вопросы к совещанию, время от времени возвращаясь к статье, с которой начался этот вечер.