День, когда каждый стал богатым. Глава 30

                -- ПОДТВЕРДИТЬ УЧАСТИЕ? --

После обнаружения робота система не ограничилась устранением Хорна. В такое сложно поверить, даже когда понимаешь, что «единичный образец означает потенциальную повторяемость». На первый взгляд — лишь удобные формулировки, которые, впрочем, и не лишены оснований. Броха никогда не считал алгоритмы тупыми, ведь более ста лет ИИ держал человечество на плаву. Без него, наверное, и самого Брохи сейчас бы не существовало. И как только они втроём могли подумать, что умнее системы? Что обойдут всевидящее око, считывающее их мысли за доли секунды?

«Первого сентября две тысячи сто шестьдесят шестого года в ходе плановой проверки производственной линии фармацевтической упаковки номер четыре алгоритм зафиксировал неизвестный тип аналогового устройства, для которого отсутствовал протокол цифровой регистрации», — Кая теперь уже сидела за столом и двумя руками держала перед собой планшет, громко читая служебное уведомление. — «Найденный робот оказывал влияние на поведение персонала, снижал стабильность рабочего маршрута, вёл к росту вариативности, но при этом не нарушал предсказуемость производственного результата. В связи с находкой инициировано открытие временной аналитической структуры с целью многоразового реагирования и полного анализа».

Кая задержалась на последней строке, уже понимая, что будет дальше.

«Наименование: Отдел контроля поведенческих отклонений и выявления нецифровых вмешательств.

Задачи:
    •  исследование обнаруженного образца;
    • воспроизведение принципа функционирования;
    • разработка методов выявления;
    • тестирование устойчивости производственных процессов при наличии аналоговых воздействий».

Броха невольно усмехнулся, заметив, что название отдела звучит так, будто его составляли несколько алгоритмов, соревнующихся в длине формулировок. Но не удивительно, что для тестирования устойчивости системе нужна серия контролируемых образцов — единичный тест не сложит статистики, поэтому «расширение выборки» выглядит вполне органично.

Он молчал, пока Кая перечисляла, как для анализа выделили тестовую линию, подключили склад компонентов ЦУР, назначили сотрудников для сборки и ввели протокол очистки деталей, чтобы исключить влияние биологических следов. Она читала почти буднично, словно речь шла о стандартной процедуре, и только в конце добавила, что всё зарегистрировано, задокументировано и проходит как технический проект.

- Система сама строит инфраструктуру, сама распределяет ресурсы, сама контролирует сборку, потому что пытается понять угрозу, не замечая, что воспроизводит её.

- Сборка нескольких сотен, а то и тысяч аналоговых модулей нам, конечно, на руку. Но как вынести роботов за пределы тестовой линии?

- Возможно, это и не потребуется, — задумчиво протянула Кая. — Сейчас-сейчас, где-то было… ага!

Она повернула к Брохе свой планшет, на экране которого красным светилась крупная надпись: «Протокол нормализации состояния персонала».

- Вот, смотри — и она медленно зачитала данные:

«Цель — устранение остаточных эффектов аналогового воздействия. Метод — кратковременное пребывание в замкнутой среде под контролируемым составом воздуха с использованием аэрозольной смеси нейромодулирующего действия. Состав — низкие концентрации стабилизаторов нейронной проводимости, ингибиторы избыточной синаптической активности, вещества, выравнивающие реактивность рецепторов. Воздействие — снижение вариативности поведенческих реакций, восстановление базовых паттернов принятия решений».

Кая повела пальцем по экрану, отыскивая, как показалось Брохе, что-то очень важное и тут же продолжила: — Процедура проводится в общей камере… та-та-та-та… ага, вот: «Длительность до ста восьмидесяти секунд. Контроль состояния осуществляется автоматически».

- То есть… система не боится влияния ЗЭРов, потому что не даёт ему выйти за пределы рабочей зоны?

- Именно! Поэтому и нам не надо выносить роботов. Просто эффект не должен заканчиваться вместе со сменой. Он должен идти с человеком дальше… Туда, где никакая «нормализация» уже не достанет.

- Ну-у-у, не знаю. Вдруг без прямого участия ЗЭРа «эффект» просто развеется? Или ещё хуже — вызовет каскад и каждый новый выбор человека не продолжит фиксироваться как первый! Домашние ассистенты тоже ведь считывают показатели… где гарантии, что ИИ не продолжит убивать и по домам?

- Не продолжит. В личные дела испытуемых добавлен специальный символ — «объект N». Первый же запрос данных от ассистента укажет на то, что его хозяину требуется дополнительная корректировка. В следующий раз система просто усилит дозировку нейромодуляторов в конце смены и будет следить за реакцией. ИИ никогда не выведет из строя подопытных! Ему нужно понять, как исправить этот сбой и как достичь стабилизации поведения. Сперва алгоритмы начнут увеличивать дозировки… возможно, потребуется не одно повторение, чтобы система пометила выбранный протокол как «нерабочий», — Кая потёрла ладони и ликующе улыбнулась.

- И что? Появись следом второй, третий или даже четвёртый протокол, который «продолжит стабилизировать испытуемых», финальный ход нам всё равно известен. Если человека нельзя вернуть к стандартным настройкам — а рано или поздно ИИ это увидит — остаётся только ликвидировать.

- А вот это уже вряд ли.

Кая выключила планшет и аккуратно положила его на стол.

- Если мне удастся сменить состав аэрозоля в общей камере и люди начнут уходить домой без «сброса параметров» — количество испытуемых вырастет до невозможного. Система будет отпускать первых, фиксировать, что они «обработаны» и спокойно звать на смену вторых, третьих, четвёртых… Проблема с первыми всплывёт лишь спустя некоторое время, а к тому моменту эффект уже охватит больше особей, чем ИИ планировал изначально!

- Не пойму, как множественные смерти помогут делу!

- Да не будет множественных смертей! Ликвидация нужна, когда зафиксирован «биологический сбой» в поведении индивида. Тогда ИИ полагает, что перед ним брак, а бракованный продукт, как ты знаешь, не принято спасать или чинить. Здесь другое. Теперь система знает причину этой «аномалии», но не понимает, как можно всё исправить.

- И что мешает «свернуть проект», устранив первые ошибки, а после — попробовать ещё раз? — резонно подметил Броха.

- То, что это не единичный сбой с пометкой «брак», а массовые потери человеческих ресурсов. Другими словами — необоснованный спад рабочей силы. Причины ведь очевидны, они на поверхности. ИИ не нужно выяснять «что пошло не так» — надо лишь найти решение. И если в памяти отсутствуют команды, способные всё исправить — Искусственный интеллект возмётся обновлять базу. Он вынуждено уйдёт на перезагрузку, а дальше… ну ты понимаешь.

Оба замолчали, на миг представляя себе желанную картину. Часы бесконтрольной жизни, несомненно, подарят шанс ослабить ИИ (а то и полностью его отключить), но для этого придётся разработать новый план.

Планшет на столе завибрировал и выдал тонкий сигнал.

- Персональное уведомление, — открывая вкладку «Подробности», пояснила растерянному другу Кая. — «Вам назначено временное участие в тестировании устойчивости производственных процессов. Зона допуска — ограниченная. Роль — наблюдение и фиксация поведенческих параметров. Дата начала — немедленно».

Кая перечитала ещё раз, не веря, что окажется там уже сегодня.

- «Подтвердить участие?»

Её палец завис над экраном на долю секунды. Не по причине страха, скорее из-за понимания, что потом не будет возможности отыграть назад.

- Ну что ж, — тихо сказала она, больше себе, чем Брохе, — увидимся позже. И нажала «Подтвердить».