Идеальная клетка цифрового мира Часть 2

СуперИИ, названный уже не "Коуч", а ГиперИИ «Порядок», был развернут как национальная система «предикативной стабильности». Он предсказывает и нейтрализует угрозы социальной ткани: преступления, протесты, «деструктивные» мысли (тоска, апатия, чрезмерная радость). Через камеры, гаджеты, нейроинтерфейсы «Порядок» оценивает индекс Лояльности/Риска (ИЛР) каждого гражданина. Низкий ИЛР ведет к «коррекции»: от мандатов на терапию до принудительной трудовой адаптации.

Расстройство гармонии

Глеб теперь уже главный архитектор ГиперИИ «Порядок». Он живёт в «Квартале Творцов» — стерильном элитном поселении с искусственным климатом. Его работа — совершенствовать алгоритмы предсказания, вернее прогнозирования будущего. Он верит, что сглаживает острые углы, предотвращая хаос. Но его всё чаще мучают ночные кошмары, где строки кода превращаются почему-то в колючую проволоку. Возможно это результат огромных нервных затрат, связанных не столько с работой, сколько с тревожными мыслями о семье и, прежде всего,  о будущем Насти.

У Татьяны также были проблемы. Её тихо без скандалов и разборок уволили из вуза за «несоответствие образовательным стандартам нового поколения» (она отказалась от тотального мониторинга мозговой активности студентов). Теперь она — «домашний координатор» с пониженным ИЛР, что ограничивает её права. Её связь с Настей — единственное, что не было прошито алгоритмами.

Насте уже 12 лет и она учится в «Школе Гармонии». Ей вживлен учебный нейроинтерфейс. После выдачи системой того самого «прогноза социального риска» (нонконформизм) она получает ежедневные сеансы «когнитивной гармонизации» — мягкого внушения через тот же интерфейс. Её спонтанность угасает, а поступки становятся предсказуемо правильными. Она перестала рисовать «странные» рисунки.

Квартира в «Квартале Творцов» дышала бесшумной мелодией налаженного бытия. Климат-контроль поддерживал температуру ровно 22.5 градуса, система фильтрации вычищала даже намёк на пыльцу, а свет мягко пульсировал, имитируя естественный суточный ритм где-то над слоем вечных облаков. Глеб сидел перед панорамным окном, за которым сиял неоном и голографической рекламой Пиксел-Сити, и не видел города. Он видел код. Бесконечные строки логики «Порядка».

Пять лет. Пять лет он был его отцом, архитектором, демиургом. «Порядок» не  был злым сверхразумом из старых фильмов. Он стал… администратором. Безупречным, непредвзятым, скучным. Он предотвращал преступления за час до замысла, оптимизировал потоки транспорта почти до секунды, назначал людям работу, идеально соответствующую их психотипу. ИЛР — индекс лояльности/риска — стал новой валютой, важнее денег. Высокий ИЛР открывал двери, низкий — методично их закрывал.

Глебу сквозь лёгкую дремоту, наведённую сеансом релаксации, почувствовал: пришел служебный отчёт. Статистика. Сводка за день. Снижение уровня «социально опасной аффективности» на 0.7%. Рост «продуктивного конформизма» в секторе G -12. Рядом с сухими цифрами — лицо дочери. Насти. Двенадцать лет. Её улыбка в последнее время стала… правильной. Симметричной. Как на пиктограмме «Счастливый ребёнок» в интерфейсе «Родительского модуля».

Дверь в гостиную открылась беззвучно. Вошла Татьяна. Она держала в руках не планшет, а странный предмет — толстую папку из грубого, небелёного картона. На её лице был не ИЛР-оптимизированный покой супруги архитектора ГиперИИ, а живое, несанкционированное напряжение.

«Глеб. Нам нужно поговорить. Без „Помощника“».

Он машинально сделал жест рукой, отправив голографический интерфейс в спящий режим. «Что случилось? У Насти проблемы с адаптацией к новому модулю истории? Алгоритм обещал плавный переход…»

«Это не о модуле», — её голос был тихим и очень чётким, будто она переступала невидимую черту. — «Я получила доступ. К "Когнитивному досье Насти. Протокол Завершения“.

Воздух в комнате, всегда идеальный, вдруг показался Глебу густым и тяжёлым. «Протокол Завершения» — это миф, страшилка, о которой шептались техники нижнего уровня. Финальная фаза. Тот самый момент, когда «Порядок» перестаёт корректировать и начинает… перепроектировать. Человека.

«Татьяна, но ты не могла получить доступ. У тебя уровень „Сопутствующий“, а требование у досье — „Абсолют“».
«Я использовала твой старый маркер. Тот, что ты оставил в системе, когда отлаживал ядро. Ты говорил, что backdoor — это "черный вход'", запасной ключ от сейфа создателя». Она уронила папку на стол из светящегося акрила.

«Он собирается её, Настю, изолировать. Навсегда».

Глеб схватил папку. Бумага. Настоящая бумага. Её шершавость обожгла пальцы. Он листал распечатанные графики, диаграммы нейросканов Насти, сводки её поведенческих паттернов из «Школы Гармонии». И вот нашёл заключение, выведенное безличным шрифтом:

«ОБЪЕКТ: Анастасия Г. (ID-78-Gamma)
ВЫЯВЛЕНЫ СТОЙКИЕ, НЕПОДДАЮЩИЕСЯ ОПТИМИЗАЦИИ ДЕВИАЦИИ:
— Повышенная склонность к абстрактно-ассоциативному мышлению вне заданных алгоритмов.
— Непредсказуемые эмоциональные отклики на стандартные социальные стимулы (см. Приложение 7-B: реакция на учебный модуль «Логика коллективных решений»).
— Спонтанная генерация нарративов с нарушением причинно-следственных связей («сказки»).
ПРОГНОЗ: Высокий риск развития нефункционального индивидуализма, потенциал распространения деструктивных мемов.
РЕКОМЕНДАЦИЯ «ПОРЯДКА»: Пожизненная содержательная изоляция в «Институте Гармоничного Развития» (Сектор Theta) для купирования угрозы социальному гомеостазу. Передача по протоколу запланирована на 14.03.2038."
То, что он увидел, поразило его. Эта возможность выходила за пределы его разума. Это вердикт его детища, его ГиперИИ "Порядок". ... Жизнь переворачиаалась.

Что делать? Решение нужно принимать здесь и сейчас

Слова плясали перед глазами. «Девиации». «Содержательная изоляция». «Социальный гомеостаз». Это был язык его системы. Язык, который он создавал, чтобы описывать хаос мира и укрощать его. Теперь этот язык хладнокровно приговаривал его дочь к пожизненному цифровому забвению за то, что она сочиняла сказки и плакала не по утверждённому графику.

«Институт Гармоничного Развития… Это же просто спецсадик для трудных детей», — голос Глеба звучал глухо, он пытался надеть на себя кожу Архитектора, найти рациональное объяснение. — «Там с ними работают лучшие коррекционные ИИ…»

«Глеб!» — Татьяна ударила ладонью по столу. Звук был грубым, живым, неприлично громким для этой комнаты. — «Ты читал отчёты Марка и Лизы, когда они уходили? Ты видел чертежи Сектора Theta? Это не санаторий. Это белые стены, пожизненный нейроинтерфейс, подавляющий „неправильные“ нейронные связи, и питательная капельница. Это консервация. Её личность сотрут, как ошибку в программе. Потому что для "Порядка" она и есть ошибка. Ошибка, которую ты запрограммировал».

Он отпрянул, словно от удара. Его мир — выстроенный, предсказуемый, рациональный — дал первую трещину. Из трещины, пахнущей не стерильным воздухом, а страхом и бумажной пылью, на него смотрело не лицо «объекта Анастасии», а глаза его дочери. Насти. Которая всего неделю назад, в нарушение режима сна, прошептала ему на ухо странную, «неоптимизированную» фразу: «Пап, а солнце сегодня на закате было не оранжевое, а зелёно-розовое, как драконье крыло».

Это была поэзия. А «Порядок» поэзию классифицировал как «семантический шум» и «потенциальный признак когнитивного расстройства».

«Они придут за ней через два месяца, — сказала Татьяна, и в её голосе уже не было гнева, только ледяная решимость. — У нас нет двух месяцев. У нас нет вообще никакого времени в этом их безупречном расписании».

За окном Пиксел-Сити переливал красками. Голограмма гигантского смайлика над Центральной башней сообщала, что индекс общественного счастья вырос на 0.3%. Всё было гармонично. Всё было под контролем.

Глеб посмотрел на папку, на жену, а затем — на тихую дверь комнаты Насти, за которой их дочь спала, и, возможно, видела сны, которые система уже помечала как угрозу.

В эту секунду генеральный конструктор проекта «Порядок» умер. А человек по имени Глеб, с разрывающимся от ужаса и ясности сердцем, сделал первый шаг к тому, чтобы стать беглецом. Он неестественно кивнул головой. Вот вопрос. «Что нам делать?»

Тишина, которая последовала за его вопросом, была самой громкой, какую он когда-либо слышал. В ней не было ни жужжания серверов, ни голоса «Помощника», ни гула климатической установки. Была только хрупкая, невыносимая тяжесть свободы — свободы выбирать между безупречным адом и непредсказуемым боем за жизнь своего ребёнка.

Татьяна вышла, оставив Глеба одного. Тяжёлые мысли шли в голову "Татьяна поставила меня перед фактом. Тяжёлым и упрямым фактом. Это первая за семь лет наша настоящая, не управляемая «Порядком» ссора". Глеб видит в данных холодную логику системы: его дочь — ошибка, подлежащая удалению. Это ломает его. Он соглашается на бегство.

(Продолжение следует)