Гений. Глава 4. Цена прогресса

«Как мелки с жизнью наши споры,
Как крупно то, что против нас!»

Б. Л. Пастернак

Снег в закрытом военном городке ложился как-то иначе — не так, как в университетском дворе. Там он был поводом для смеха, для неловких снежков в Асю. Здесь, под светом галогенных прожекторов периметра, он падал на асфальт беззвучно, превращая чёрное в белое. Привычной студенческой безалаберности тут не было и в помине. Серьёзные люди занимались важным делом для защиты Родины.

Прошло полтора года с того дня, как Андрей подписал документы. Работа шла в закрытом режиме. А это значит — полтора года прошли вне академических индексов цитирования, вне привычных открытых конференций. Взамен он получил «Сектор 7» — идеальную лабораторию, о которой можно было только мечтать. Квантовые сопроцессоры гудели ровно, не перегреваясь, бюджет на эксперименты был понятием условным, а слово «невозможно» кураторы вычеркнули из лексикона.

Его прорывная нейросеть, последнюю версию которой в местных научных кругах негласно успели  окрестить «Интуитивным выводом», здесь обрела новое воплощение. Порой пугающее — чётко прорисовывалась обреченность всего живого на территории, выбранной в качестве цели. Свои основные идеи Андрей успешно адаптировал и развивал под военные цели. Однако по сути шла работа над созданием во многом новой системы. И эта работа с её сложностями целиком захватила его. В лаборатории систему и весь проект называли «Нейротактик». На официальным языке военных — «Изделие 17-бис».

Его программа позволяла моделировать на линии боевого соприкосновения. С отличным визуальным сопровождением. На огромном тактическом столе голографическая карта переливалась красными и синими зонами. Противостояние сторон в симуляциях шло не на основе действующего устава и существующих тактических регламентов и не на основе советов заслуженных генералов, сидящих за стеклом. Управление боем осуществлялось на основе чистого анализа вероятностей, происходящего здесь и сейчас — на на линии соприкосновения. «Изделие» просчитывало хаос. Оно, например, знало, где условный солдат противника захочет спрятаться, за секунду до того, как эта мысль возникнет в голове самого солдата. В этом и заключалась фишка интуиции нейросети, созданной Андреем. Результаты моделирования апробировались на полигонах в приближенным к реальным условиях. А уже на основе анализа результатов этих учений вносились коррективы в разрабатываемую систему.

Разработанная им система могла предоставлять командирам рекомендации по выбору целей, их координатам, по оптимальным средствам поражения и тактике действий, исходя из текущей обстановки и возможных вариантов её развития. Подобные системы уже начали разрабатывать и на Западе, например Maven от Palantir Technologies. Эти системы в режиме реального времени отслеживали изменения на театре военных действий, оценивали ситуацию и выдавали предложения — от поиска целей до выбора способа и средств поражения.

Андрей, вдохновлённый результатом симуляции боя, продолжил, заглядывая в будущее:

— Система может моделировать развитие боевых действий, прогнозировать перемещения войск, оценивать вероятности различных сценариев и риски каждого из них, предлагая оптимальные варианты. Алгоритмы теории вероятностей позволяют формировать прогнозы о том, где появление противника наиболее более или наоборот менее вероятно. Всё это во многом определяет исход боя.

— Поразительно, — выдохнул полковник Истомин, закрыв глаза и вытирая платком лысину. Он не понимал математики, но он видел цифры. Они поражали. Эффективность огневого поражения выросла на сорок три процента. Вероятность потерь личного состава упала до предельного минимума. — Вы гений, Андрей Владимирович. Вы подарили нам победу в войне, которая ещё даже не началась. Вашу последнюю разработку мы так и назовём — «Гений». Не возражаете?

Андрей молчал. Комплименты военных были тяжелыми, по-военному весомыми и били точно в цель — в его самолюбие. Он смотрел на модель. Его алгоритм, его дитя, его гордость сейчас визуализировал квадрат, где через полчаса должны были погибнуть (условно, в симуляции) двести семьдесят три человека. Не абстрактные единицы, а конкретные цели, распознанные по тепловому контуру и манере двигаться. Не только солдат противника, но и мирного населения. Он понимал: во время войны именно так и происходит. Так было всегда. Не зря кто-то сказал: «Военные технологии - технологии убиения себе подобных».

В тот вечер он не поехал домой в коттедж за КПП. Он остался в серверной, в коконе, наполненном гулом вентиляторов. Нужно было проверить одну странность в последней версии недавно созданного кода.

Был уже поздний вечер. Неожиданно на пороге возникла она. Ася стояла, скрестив руки на груди, в своем неизменном белом халате поверх черной водолазки. Её большие глаза, когда-то казавшиеся ему омутом вдохновения, сейчас смотрели с холодной, режущей прямотой. Она была теперь не просто его партнером, а ведущим аналитиком группы контроля рисков. И она знала всё.

— Ты опять калибруешь свою систему на гражданских базах? — спросила она без предисловий и не без вызова. — Андрей, я видела логи. Ты скармливаешь на вход «Нейротактику» данные соцсетей и треки банковских карт. Что это? Статистика по гражданским? Зачем? Ты знаешь — скажи! — голос её звучал всё громче, настойчивей.

— Я улучшаю поведенческий анализ, — не поворачиваясь, как бы между делом ответил он. — Это делает прогноз точнее, а систему более эффективной. А что?

— Прогноз для Истомина? — Ася шагнула ближе. Её голос звенел от напряжения. — Или прогноз для систем точечной зачистки территории? Вчера я читала их ТЗ на «Изделие 19». Это уже не война. Это... оптовая ликвидация. Наш код будет решать, кто из живых людей достоин утреннего кофе, а кто — ракеты с неба. Ты понимаешь это? Там не просто территория, там ... люди. И много мирных людей.

Андрей резко развернулся вместе с креслом. Он чувствовал, как внутри поднимается волна раздражения — защитная реакция гения на критику его шедевра.

— А ты понимаешь, что мы вывели науку на этот уровень только благодаря им? — он ткнул пальцем в сторону окна, за которым был КПП. — Благодаря их ресурсам, их задачам! Знаешь, какая у «Гения» сейчас глубина прогноза? Мы, например, можем предсказать засуху в Африке за год и даже за два года! Мы в перспективе сможем оптимизировать логистику так, что голод вообще исчезнет как явление! Но для этого нужно доделать это. Именно здесь и сейчас (его любимые слова). Дойти до предела реальных возможностей.

— Твой предел сегодня пахнет кровью, — тихо сказала Ася. — Андрей, ты гонишься за горизонтом, а впереди пропасть. Не канавка, а пропасть. И оттуда уже не выбраться. Ты просто не хочешь смотреть вниз.

Она бросила на стол перед ним тонкую папку. Внутри — распечатка его собственного запроса, сделанного накануне ночью. Запрос на моделирование последствий применения «Изделия 19-бис» в условиях плотной городской застройки с указанием «вторичных, сопутствующих факторов поражения». Проще говоря, он спрашивал машину, сколько мирных жителей окажется между жизнью и смертью, если алгоритм выберет ту или иную точку удара.

— Это просто статистика, — прошептал он, чувствуя, как липкий страх подкатывает к горлу. — Мы должны знать цену, чтобы её минимизировать. На войне так бывает. Всегда.

— Мы знаем цену, — перебила Ася. — Цена — это живые люди. Такие, как мы с тобой. Андрюша, я устала быть хорошим психологом для человека, который перестал слышать себя. Ты ненавидел ту пустоту, которая появилась после открытия и триумфа с "Аргусом". Понимаю. А теперь — поздравляю тебя. Ты её заполнил. Заполнил войной. Так тебе кажется. Но пустота не исчезла, она просто стала черной дырой. Бесконечно втягивающей твой ум, твой талант. Всего тебя.

Ася ушла. В серверной стало тихо. Только монотонно пищали датчики системы охлаждения.

Он остался один на один с кодом. Моральный выбор — это не драматичный момент в кино. Это бессонница с четверга на понедельник, с далеко идущими последствиями. Это вкус металла на языке от остывшего кофе. Это стоять перед окном и видеть за ним то, чего там нет. Как же хороша была студенческая жизнь! Ситуации с необходимостью выбора всегда были. Но совсем, абсолютно другие.

Он писал аргументы «ЗА» на виртуальной доске.

Пункт 1: Мы опережаем время на десятилетия. Такого пока ни у кого ещё нет.

Пункт 2: Без нас это рано или поздно сделают другие, и они не будут рефлексировать.

Пункт 3: Я могу встроить ограничители, «красные кнопки», сделать систему "разборчивой" ...,  с пониманиеи добра и зла, пределов допустимых сопутствующих потерь.

Пункты «ПРОТИВ» Ася сформулировала лучше него одним своим уходом.

На третьи сутки добровольного заточения решение вызрело. Оно было не героическим, а скорее инженерным — извилистым, как лазейка в чужом коде. Он не мог бросить «Гения». Военные не позволили бы просто уйти, а уничтожить свои разработки означало бы отбросить науку назад и подставить под удар не только себя, но и Асю. Это было исключено. И это ещё не всё. На планете военные конфликты не редкость. Высокий потенциал армии — лучший вариант защиты от внешней агрессии. Агрессор ведь тоже умеет считать, и войны может вообще не случиться, если ты силён. А Истомин работает, как может, и его цель повышение боеспособности армии. Это оборона.

Он принял решение — продолжить эти исследования и разработки.

Он будет самым эффективным сотрудником Истомина. Он доведет проект «Интуитивный вывод» или, как у военных, "Гений" до совершенства, которое поразит самих военных и ослепит их блеском совершенных технологий. Это поймёт и потенциальный агрессор. Но в самом сердце этого совершенства, в сердцевине квантовых весов, он спрячет маленькую, почти незаметную подпрограмму. Он назвал её «Сомнение».

«Сомнение» не будет блокировать приказы — это было бы слишком заметно. Оно в определённых случаях будет вносить погрешность в расчет конечной цели. Микроскопический сдвиг в математической модели приоритетов. В девяноста девяти случаях из ста система будет работать идеально, выдавая военным то, что они хотят видеть. Но в том единственном, самом страшном случае, когда машина — вернее её блок «Сомнение» — будет выбирать между жизнью сотни гражданских и тактическим преимуществом, она выявит необходимость и изменит весовой коэффициент. На одну совсем небольшую долю. Но этого должно хватить, чтобы ракета ушла в поле, а не в жилой, густонаселённый микрорайон или отдельный жилой корпус.

Он начал тайную работу. По ночам, когда Ася думала, что он просто спит в серверной, он переписывал ядро «Гения». Это было не предательство Родины. Это был уход от собственной гордыни ради чего-то большего.

Спустя неделю он постучал в дверь её лаборатории. Ася сидела, уткнувшись в спектрограммы, и даже не подняла головы.

— Я внес правки в алгоритм оценки военных и потенциально сопутствующих потерь, — сказал он хрипло. — Показал Истомину отчет. Эффективность выросла на два процента. Он счастлив.

— Поздравляю, — сухо ответила Ася.

— И я внес правку, о которой ему не сказал, ... о красной линии — добавил он.

Ася медленно подняла голову. Она всё поняла. В её глазах промелькнуло что-то похожее на осторожную надежду, смешанную с ужасом от осознания того, что он сделал.

— Ты сумасшедший... мальчишка, — прошептала она. — Если они найдут...

— Не найдут. Это мой код. Я гений, забыла? — он попытался улыбнуться. — Но мне нужна будет твоя помощь. Если они начнут калибровать прицелы по-настоящему, я должен знать об этом первым. И я должен знать, что ты на моей стороне. Даже если я иногда веду себя не как талантливый мальчишка, а как бесчувственная машина.

Он помолчал, закрыв глаза:

— Знаешь... У моей системы есть большой минус. Я это вижу. Отсутствие эмпатии и морального суждения. В итоге могут возникнуть непоправимые этические проблемы. Они способны привести к катастрофе. Для обычных людей. Особенно при выборе целей. — Он сделал ещё одну паузу. — Но Истомину это не нужно. Вернее не это ему нужно. Ему нужна победа. А её цена...? Он человек военный и не может иначе. Но для нас это работа на будущее. Мы должны убрать этот минус, не снижая защищенность страны. Будем работать вместе?

Ася долго смотрела на него, а потом молчат подвинула стул, освобождая место рядом с собой у монитора.

Конфликт не был исчерпан, цена прогресса только начинала проявлять свои реальные размеры, но он больше не был один. Пустота действительно отступила, но на её место пришло не ликование от нового открытия или новой цели, а холодное, стальное спокойствие человека, решившего остановить лавину, стоя у неё на пути.

Он знал, что система всегда сильнее одного человека. Но сегодня он об этом не думал. Как знать, хорошо это или плохо. Да и кто знает, что такое хорошо, а что такое плохо.

Поживём — увидим. Жизнь покажет. Уже в следующей, последней главе этой серии.