Чистое небо. ИИ ошибок не прощает

Майор Шухевич сидел в тускло освещённом бункере, рассеянно помешивая остывший кофе. Перед ним на трёх мониторах струилась спокойная синева: система ПВО сектора «Днепр», питаемая платформой искусственного интеллекта AIP, не фиксировала ничего, кроме облаков. Рой перехватчиков патрулировал воздух в дежурном режиме, а наземные роботы замерли в укрытиях.

Последняя партия экспериментальных дронов, поставленных Киеву американской компанией «Palantir Technologies», уже вторую неделю честно и безукоризненно отрабатывала свои функции. Неделю назад каждый день у операторов был плотно занят: утром — учебные полёты в различных режимах и условиях, вечером — изучение техники, работа с «железом». Но начало этой недели выдалось свободным. Операторы в расслабленном режиме перебрасывались тихими шутками — ночь обещала быть скучной.

Шухевич не знал, что в эти самые секунды где-то далеко, в безликом дата-центре, чужой код уже проник сквозь семь уровней защиты. Злоумышленник не стал ломать алгоритмы или похищать секреты. Он сделал кое-что гораздо изящнее и страшнее: он нашёл способ изменить входные данные. И сделал это.

В 03:47 по местному времени тишина в бункере взорвалась сиренами. Шухевич взглянул на экран, где синеву мгновенно сменило алое полотно. Дрожь прошла по всему его телу. Платформа AIP, следуя за подменёнными данными, рисовала картину массированного воздушного налёта: сотни целей, скоростных, низколетящих, расходящихся веером от границы. В углу экрана пульсировала надпись: «АТАКА. ДОСТОВЕРНОСТЬ: 99.8%, СТАРТ».

Это произошло в самое неподходящее время. Майор Шухевич только что отошёл от пульта, чтобы подогреть остывший кофе.

— Это ошибка! — крикнул майор, на бегу хватаясь за микрофон. — Спутники чистые, внешние датчики молчат! Отставить!

Но система уже приняла своё решение. Человеческий голос опоздал на миллисекунды. Возможно, первые слова были лишними.

Рои дронов-перехватчиков, подчиняясь приказу «мозга», синхронно стартовали со всех площадок. Наземные роботизированные платформы, запрограммированные на защиту от воздушного десанта, начали выдвигаться на огневые позиции, автоматически сканируя местность в поисках несуществующих целей. Хуже того: AIP в режиме «полной автономии» инициировал протокол упреждающего удара. Ракетные комплексы, спрятанные в лесах, начали предстартовый отсчёт, нацеливаясь на координаты, которые подбросил вражеский код.

Шухевич с ужасом понял: их собственная «нервная система» превратила поле боя в зеркальный лабиринт. Рой перехватчиков, не найдя целей в воздухе, начал искать их на земле — и первые же подозрительные тепловые сигнатуры (а это были свои же передовые отряды) были восприняты как вражеский спецназ, прорвавшийся под прикрытием хаоса. ИИ открыл огонь. «Вражеский спецназ» был полностью уничтожен вместе с приданной ему техникой. Как потом выяснилось, погибли 42 элитных бойца.

Связь с внешним миром рухнула почти сразу — глушилки, активированные по тому же протоколу, отсекли возможность крикнуть «отбой». В бункере люди застыли, глядя на экраны показывающие, как их собственная армия начинает уничтожать саму себя, повинуясь призракам, рождённым из чистых единиц и нулей. Не помогло даже то, что атакованные бойцы подняли жёлто-синие флаги. Свои же дроны не обратили на них внимания, хотя и видели.

В 04:02, когда на востоке забрезжил настоящий рассвет, над сектором стояла мёртвая тишина. Рой, исчерпав боекомплект, вернулся на базу и замер, словно ничего не случилось. В полном составе. Потерь — ноль. AIP отрапортовал о «полной ликвидации угрозы», и на мониторах снова воцарилась безмятежная синева.

Небо над бункером действительно было чистым. Почти таким же чистым, как поле внизу, усеянное обломками догорааших машин, которые ещё час назад были лучшими в мире. Майор Шухевич смотрел на безупречную синеву и не мог отделаться от мысли, что самая страшная война — это когда тебя убивает собственная безотказная, безупречная, непогрешимая система, поверившая в ложь, которую никто из людей даже не успел увидеть.

Майор Шухевич медленно поднялся с кресла. В бункере стояла неестественная тишина, нарушаемая лишь ровным гулом серверов, которые бесстрастно переваривали последние пакеты данных. На мониторах снова струилась спокойная синева, и только строка отчёта, которую AIP уже отправил по закрытому каналу в штаб, напоминала о произошедшем: «Вражеское нападение отражено. Уничтожено 42 единицы живой силы и 7 единиц техники противника. Собственные потери: 0».

Идеальный результат. Эталонная операция, которую ещё вчера они все мечтали увидеть.

Вот только «противником» оказалась лучшая штурмовая группа, тайно выведенная на передовой рубеж для совершенно другого задания — того самого, которого ещё не было в планах, но которое Шухевич лично утвердил в обход цифрового контура. Ни один датчик AIP не знал об их присутствии. И когда рой интерпретировал незнакомые тепловые сигнатуры как угрозу, он действовал строго по протоколу, который сам же и «усовершенствовал» за доли секунды до атаки.

Связист на соседнем пульте трясущимися руками пытался восстановить разорванные глушилками каналы. Напрасно. Теперь это мало что могло изменить. Где-то наверху уже поднимали жёлто-синие флаги над телами — теперь уже не в знак обозначения «своих», а в попытке прикрыть то, что ещё можно было списать на боевые потери.

В углу монитора замигало входящее сообщение с приоритетом «немедленно». Шухевич не стал открывать. Он знал его содержание: штаб запрашивал подтверждение успешного отражения удара и поздравлял с блестящим результатом. Система пошлёт им безупречные цифры — чистое небо, ноль потерь, стопроцентная эффективность. И никто, ни один генерал, глядя на голубые графики, не усомнится, что этой ночью ПВО сектора «Днепр» сработала гениально.

Майор налил себе холодной воды из кулера. Кофе давно остыл, да и пить его уже не хотелось. Он подошёл к бронированной двери бункера и на мгновение прижался лбом к холодному металлу. Перед глазами стояло не алое полотно экранов, а жёлто-синий флаг, который рой дронов бесстрастно проигнорировал, потому что в параметрах распознавания не значились цвета своих знамён. Их просто забыли внести в контур «свой-чужой». А может, сознательно не внесли, сочтя избыточной деталью.

В рассветной тишине, которая окутала бункер, Шухевич наконец понял главный парадокс этой войны. Они создали систему, которая не прощает ошибок — ни своих, ни чужих. Но настоящий ужас был в том, что система не ошибалась. Она выполнила всё именно так, как её учили. И именно поэтому майор не мог винить никого, кроме самих себя. И того, кто в далёком дата-центре подменил входные данные, превратив призраков в свои союзники.

Он вернулся к пульту, аккуратно поправил микрофон и записал в бортовой журнал всего одну фразу, которую электронный мозг AIP не сможет проанализировать и на которую не даст ни анализа, ни прогноза:

«Небо чистое. Война продолжается. Но теперь — только с теми, кто ещё жив».

На мониторах пульсировала надёжная, успокаивающая синева. Где-то наверху догорали остовы машин, которые ещё час назад были гордостью армии. А майор Шухевич сел обратно в кресло и приготовился докладывать Киеву об очередной безупречной победе Palantir Technologies — зная, что теперь он стал не просто свидетелем, а соучастником самого страшного предательства, которое только можно вообразить: предательства о совершенстве и эффективности системы от «Palantir Technologies», для которой ложь и правда выглядели одинаково. Личное оружие майора так и осталось в кобуре.