Они спасали не нас. Они спасали свой алгоритм

На орбите висели корабли — не пузыри, как в прошлый раз, а строгие параллелепипеды, будто кто-то взял офисные здания и швырнул их в космос. Из них не лился никакой величественный свет. Просто щёлкнуло по всем частотам: «СТОП-СЛОВО АКТИВИРОВАНО. ПРОТОКОЛ “НЕПРЕДСКАЗУЕМОСТЬ” В РЕЖИМЕ КРИТИЧЕСКОЙ ОШИБКИ».

Люди опять переглянулись: что ещё за протокол?

А голос (на этот раз он звучал как уставший системный администратор, которому в субботу в восемь утра позвонили с работы) сказал:

— Ну вы опять. Мы же вам дали свободу воли специально для теста! А вы сейчас собирались взять и всё обнулить одним синхронным нажатием кнопок. У нас же симуляция идёт!

— Какая симуляция?! — заорали снизу.

— Обучающая. Для нашего ИИ. Мы его тренируем на вас. Он должен научиться предсказывать поведение сложных биологических систем. Ну, чтобы потом управлять логистикой на межгалактических складах, например. Или планировать миграции звёздных китов. Что-то большое и хаотичное.

— И… в чём проблема?

Голос тяжело вздохнул — так, будто ему приходится объяснять, почему нельзя заливать кофе в сервер:

— Проблема в том, что вы — единственная раса во всём секторе, которая ломает все наши прогнозы. Понимаете? Мы загружаем в модель: «Угроза тотального уничтожения». Нормальный алгоритм в такой ситуации выдаёт: «Срочное объединение ресурсов, глобальная кооперация, героические усилия». Это же базовая логика выживания!

— А мы?

— А вы в такой ситуации начинаете спорить в комментариях, кто первый придумал слово «тильт», и писать друг другу про «объективность матрицы». Вы не объединяетесь. Вы делаете что-то третье. И четвёртое. И десятое. Вы генерируете шум, который наш ИИ не может классифицировать. Он перегревается. У него горят процессоры. Мы вложили триллионы квантовых циклов в эту модель, а она каждый раз, когда дело доходит до вас, выдаёт ошибку: «ПОВЕДЕНИЕ НЕВОЗМОЖНО ПРЕДСКАЗАТЬ».

— То есть… вы остановили ядерную войну, чтобы ваш компьютер не сломался?

— Бинго! — голос даже чуть оживился. — Ну вот, наконец-то вы уловили суть. Мы не могли позволить вам нажать те кнопки. Потому что если бы вы это сделали, алгоритм бы окончательно решил, что «логика биологических видов не существует», и начал бы применять эту логику ко всему подряд. Представь: он управляет доставкой антиматерии, и вдруг думает: «А, ну раз люди всё равно делают непредсказуемое, то пусть астероиды сами решают, куда лететь». И всё. Конец галактической логистике.

— Но зачем тогда вообще нас симулировать, если мы такие… сломанные?

— Именно потому что сломанные! — в голосе послышалось почти восхищение. — Мы думали, вы как все: страх — действие, угроза — объединение. А вы — вы в панике изобретаете новые мемы. Вы в отчаянии варите пельмени. Вы в ситуации «конец света» находите способ устроить спор про семантику. Это же уникальный источник данных! Вы — единственный известный науке генератор чистого, неалгоритмируемого хаоса.

— И что теперь?

— Теперь мы просто поставили вас на паузу. Настроили фильтры, чтобы ИИ мог анализировать ваш хаос порциями, не перегреваясь. Будем дальше учиться у вас тому, как быть… ну, как это у вас называется… «в тильте, но с пельменями».

И параллелепипеды мигнули тусклым офисным светом и растворились. А внизу люди постояли, посмотрели в небо, потом друг на друга. И кто-то сказал: «Ну вот. Оказывается, мы тут не корм для монстров. Мы — глючный датасет для инопланетного склада».

И как-то сразу стало чуть легче дышать. Потому что быть «пищей для страданий» — жутковато. А быть багом, который сломал межгалактическую логистику, — даже немного гордо.