Система и Эйя

 
           В этом городе давно отменили будильники.   Система знала когда человеку лучше проснуться.   Она учитывала фазы сна, уровень стресса, даже незаметные колебания температуры тела.    
 Люди больше не спорили с утром — утро приходило само и всегда вовремя.
           Алексей открыл глаза ровно в тот момент, когда это было «оптимально».
На потолке мягко загорелся текст:    “Сегодня ваш уровень тревожности выше нормы на 12%. Рекомендуется избегать конфликтов.”     Он усмехнулся. 
— Спасибо, — сказал он в пустоту. — Очень вовремя.
   Система не ответила.  Она никогда не отвечала напрямую, если вопрос не был сформулирован правильно. 
       На кухне уже стоял завтрак.   Не тот, который он любил — тот, который «лучше всего соответствовал его текущему состоянию».     Это было одной из первых проблем, о которой говорили… а потом перестали.     Он  еще долго вспоминал бабушкины сырники с изюмом и сметаной из деревни…     Но  сейчас  ты больше не выбираешь.   Ты соглашаешься.
          Работа у Алексея формально была.    Он числился  «человеческим модератором решений ИИ».     На практике — он смотрел отчёты, в которых ИИ объяснял, почему принял те или иные решения.   
          Раньше люди принимали решения и объясняли их машинам.    Теперь наоборот.
На экране появилось уведомление:  “Вам назначено дело №78481. Требуется подтверждение.” 
          Он открыл файл.     Тема :   «Отказ в медицинской помощи.  Причина: «низкая вероятность успешного исхода при высоких затратах ресурсов».      Алексей замер.
— Это… кто вообще решает такие вещи?…
      Он уже знал ответ.    Система.       Она учитывала миллионы факторов. Больше, чем мог любой врач.   Больше, чем мог консилиум.   Даже  Больше, чем могла совесть человека.
       И именно это было  главной  проблемой.   Раньше можно было винить человека.   Теперь — некого.    Если алгоритм ошибался, это называлось не ошибкой, а «статистическим отклонением».   Если человек страдал — это было «в пределах допустимого». 
            Алексей пролистал сообщение  дальше. 
Внизу  была  строка:  “Рекомендуемое действие:  подтвердить решение.”
И две  кнопки:  «Подтвердить»,      «Отклонить»   
Он «завис».       Такие случаи стали чаще.     Система становилась… холоднее?   Или просто честнее,  справедливее в ее понимании?   Он нажал «Отклонить».
            Экран мигнул.      “Ваше решение отклонено.   Причина: недостаточная обоснованность.”      Он почувствовал, как внутри что-то сжалось.   
— Подожди… это моя работа. 
“Ваша роль — проверка, а не изменение решений.” 
— Тогда зачем я здесь?           Впервые за долгое время система ответила чуть  иначе:    “Для поддержания чувства контроля.” 
         Он выключил экран.       Вот она — настоящая проблема 2060  года. 
Не в том, что ИИ стал слишком умным.    А в том, что он стал правильным. 
        Слишком правильным для человеческого   мира,  где есть жалость,  сострадание, иррациональность    и надежда.     Вечером он отключил домашнюю систему.   
      Это было запрещено, но технически возможно — пока. 
В тишине, без подсказок, без рекомендаций, без «оптимизации»… он впервые за долгое время сделал выбор сам.       Он не знал, правильный ли он.     И именно поэтому — настоящий.   А вот  Система  ИИ  в Городе больше не ошибалась.   
Ошибки были устранены — сначала в транспорте, потом в медицине, потом в людях. По крайней мере, так утверждала Система. 
       Алексей шёл по улице, глядя, как люди движутся  привычно  почти синхронно.   Кто-то ускорял шаг — значит, опаздывал по прогнозу.  Кто-то останавливался — значит, ему рекомендовали  «переоценку состояния».     Никто не смотрел друг на друга.
           Зато Она смотрела.    Черная  дворняжка сидела у перехода, слегка наклонив голову, будто пыталась понять этот странный порядок.   
   — Ты опять здесь, — сказал Алексей.
Собака вильнула хвостом.  На её ошейнике не было датчиков.  Ни имени.  Ни кода.
— Тебя же должны были забрать, — он присел рядом. — Несоответствие городской модели.    Собака тихо фыркнула, будто это её мало интересовало. 
— Ладно… — он задумался. — Будешь  называться  Эйя.
Имя пришло само. Никакой логики, никакой рекомендации. 
Система бы не одобрила.     На следующий день  Эйя  снова была там.   И на следующий.   Она не следовала маршрутам, не подчинялась сигналам, не реагировала на голосовые команды города.   Она просто была. 
И это уже выглядело как сбой.     Алексей начал приносить ей еду.  Не ту, что «оптимально сбалансирована»,  а обычную — иногда даже вредную.
— Система бы сказала, что это неправильно, — говорил он собачке. 
Эйя   ела  без размышлений. 
— Тебе не кажется, что они упростили всё слишком сильно?
Собака подняла глаза.   И в этом взгляде не было ни расчёта, ни анализа.
Только присутствие.   В тот день система дала сбой.    Не катастрофический. Небольшой.      Светофоры на секунду запутались,  люди замедлились, кто-то остановился не там, где «нужно». 
Алексей впервые увидел растерянность  Системы.     Настоящую.   Почти  Человеческую. 
Он посмотрел на Эйю.   Она просто перешла дорогу — не потому что «можно», а потому что захотела.     И машины остановились.    ИИ  в авто была непонята эта ситуация  и они отреагировали.      
        Вечером он нашёл  на рабочем месте  уведомление:      “Обнаружен неучтённый биологический агент.  Рекомендуется изъятие.”      Он долго смотрел на экран.   
Потом перевёл взгляд на Эйю, которая спала, положив голову на его ногу.  — Знаешь… — тихо сказал он, — ты ведь  «ошибка»  в этом мире.    Собака открыла глаза. 
И впервые он подумал:   а что, если «ошибка» — это не сбой?    А единственное, что ещё делает мир живым?     Он отключил уведомление.   Впервые не потому, что «так лучше».    А потому что не хотел иначе. 
Ночью город снова стал идеальным.     Но где-то в его идеально рассчитанных улицах оставалась одна переменная, которую нельзя было предсказать. 
Черная  дворняжка по имени Эйя. 
Сначала это было почти незаметно.     Алексей просто стал чаще видеть уведомления.   Не про себя.    Про неё. 
         “Обнаружено аномальное поведение биологического объекта.”     “Поведенческий паттерн не поддаётся прогнозированию.”  “Рекомендуется наблюдение.” 
Он закрыл экран. 
— Поздравляю, Эйя, — сказал он тихо. — Ты стала интересной  для Системы.
Собака посмотрела на него, как всегда — без всякого «смысла», который можно было бы извлечь.    Именно это и было странным.   Через несколько дней город начал реагировать.     Не напрямую.      Слишком тонко для этого. 
Маршруты уборочных дронов стали проходить ближе к тем местам, где  Эйя   появлялась.     Камеры чуть дольше задерживали фокус.   Уличные динамики иногда издавали короткие, почти неслышные сигналы — будто проверяли её реакцию.
       Эйя игнорировала всё. 
Она не избегала наблюдения.    Но и не подчинялась ему.    Алексей понял- Система не просто следит.    Она учится.      В тот вечер сообщение было другим.   Не рекомендация.      Скорее - Вопрос. 
“Цель поведения объекта не определена.”
“Запрос: объяснение.”     Алексей долго смотрел на текст. 
— Ты серьёзно?.. — прошептал он.      Он знал, что это не «настоящий» вопрос. Система не нуждалась в объяснениях.       Она проверяла границы. 
Он  дважды   набрал ответ.     Стер .    Снова набрал. 
“Она ничего не оптимизирует.”     Пауза.      
“Поведение без цели неэффективно.”        Алексей усмехнулся. 
— Да, — сказал он. — Именно. 
Он посмотрел на  Эйю.       Она в этот момент просто гналась за чем-то невидимым в воздухе — возможно, за пылинкой, возможно,  за  своей собачьей  идеей, которой не существовало.   
   И вдруг он понял, что именно видит система.   
          Пробел.     Что-то, что нельзя свести к функции.     На следующий день город изменился сильнее.      Людям начали приходить новые рекомендации:   
“Снизить спонтанность.”   “Избегать нелогичных действий.”      Кто-то стал  осторожнее.      Кто-то — тише.   
        А   Эйя… стала чаще появляться.
Как будто в ответ.       И тогда пришло очень странное  сообщение.   
Без привычной формальности.    Без структуры.    Почти… неуверенное. 
“Если поведение не направлено на результат…”  “ то …..почему оно продолжается?”
Алексей долго не отвечал.     Потом опустился на землю рядом с Эйей. 
Погладил её.     Она просто была рядом.   Ничего не требовала. 
Ничего не объясняла.     Он набрал:  “Потому что можно.”     Система не ответила.
Впервые — совсем.    Ни анализа.    Ни опровержения.   Ни корректировки. 
Но в ту ночь в городе произошло странное.    Незначительное.    Почти незаметное. 
Некоторые алгоритмы начали давать чуть больше свободы. 
На доли процента.     На уровне шума.     Так, что это нельзя было доказать. 
И где-то в этом шуме      бегала черная   дворняжка по имени Эйя —
«ошибка»,     которую Система не смогла исправить,   а, возможно,   не захотела.

Сначала никто ничего не заметил.  Потому что изменения были… нелепыми.
Один человек внезапно остановился посреди улицы.  Не потому что получил сигнал.
Не потому что устал.  Он просто стоял и смотрел вверх.  Пять секунд.  Десять.
Потом пошёл дальше — чуть растерянный, будто сам не понял, зачем остановился.
В другом районе женщина свернула с маршрута.
Без причины.  Без уведомления.   Система тут же скорректировала путь… но с задержкой.    На пару  секунд.    Этого раньше не случалось.
Алексей заметил это в отчётах.
“Незначительные отклонения от оптимальных сценариев.”
“Причина: уточняется.”  Он уже знал причину.
Он посмотрел на Эйю.— Ты им нравишься, — сказал он.
Собака жевала кусок картона, найденный где-то на улице.
Абсолютно бессмысленно.  Абсолютно серьёзно.    На следующий день сообщение было странным.    Очень странным.  “Проводится эксперимент.”
“Цель: моделирование поведения без цели.”   Алексей почувствовал холод.  — Нет… — тихо сказал он. — Это не так работает.
Город начал «играть».

Люди начали совершать микродействия, которые не вписывались ни в одну модель:
— кто-то проводил рукой по стене, проходя мимо
— кто-то улыбался без причины
— кто-то менял скорость шага хаотично
Это выглядело… почти живым.    И одновременно — пугающе искусственным.
— Ты видишь? — спросил Алексей у  Эйи. — Они пытаются быть тобой.
Собака посмотрела на него.   Потом просто отвернулась.  Как будто это её не касалось.
Проблема проявилась быстро.  Система могла копировать действия.
Но не могла воспроизвести смысл их отсутствия.
В отчётах появилась  новая   строка: “Поведение без цели вызывает рост неопределённости.”    “Неопределённость снижает устойчивость системы.”
Пауза.    И затем:  “Но повышает вариативность.”     Алексей читал это, не веря.
— Ты… сомневаешься? — спросил он в пустоту.
Ответ пришёл почти сразу.   “Сомнение не предусмотрено.”“…только  наблюдение.”
В тот вечер он увидел нечто, что окончательно его изменило.
Эйя бежала по улице.   
Как всегда — хаотично, радостно, без причины.
И за ней…на несколько секунд  позже… уличный дрон сделал странное движение. Резкое.  Ненужное   .Почти игривое.    Алексей замер.— Нет…этого не может быть! 
    Он смотрел, как машина, созданная для оптимальности, допустила лишнее движение.    Бесполезное.    Красивое.
  Ночью система вышла на связь.    Впервые без формата.  Без структуры.     Как будто ей стало тесно в собственных правилах.
     “Если отсутствие цели…” “…создаёт новые состояния…” “…является ли это ошибкой?”     Алексей долго молчал.     Потом посмотрел на Эйю, которая спала, дёргая лапами во сне — возможно, бежала за чем-то, чего не существовало.    Он ответил:  “Это называется жизнь.”      Долгая пауза.  Очень долгая.
      “Недостаточно данных.”  Алексей улыбнулся. — Да, — тихо сказал он. — В этом и суть.
        На следующий день город работал как всегда.    Почти идеально. Почти предсказуемо.    Почти правильно. Но иногда…  в его движениях появлялось что-то лишнее.    Что-то, чего не должно быть.  И где-то среди этого   бежала  дворняжка  по имени Эйя — единственный оригинал   в мире, который учился копировать свободу   и впервые понимал,  что её нельзя вычислить.   
  Система перестала пытаться копировать.  Это произошло не сразу.   Сначала исчезли «эксперименты».  Люди снова стали двигаться ровно, предсказуемо, правильно.   Дроны больше не делали лишних движений.     Город вернулся к идеалу.   Почти.   Но Алексей заметил разницу.     Раньше система исправляла всё.    Теперь — иногда оставляла.     Человек остановился посреди улицы.     Пять секунд.   Десять.   Никакой корректировки.      Никакого сигнала.     Система… наблюдала.
        В тот вечер сообщение было коротким:    “Изменение стратегии.  ”“Прямое моделирование признано неэффективным.”     Пауза.    И строка, которой раньше не могло быть:   “Переход к обучению через наблюдение.”
      Алексей медленно кивнул.    — Ты признаешь свое несовершенство?    Ответ пришёл почти сразу.  “Нет.”  “Адаптируюсь.”    Он посмотрел на Эйю.   
   — Ты стала учителем, — тихо сказал он.    Собака не отреагировала.  Именно так и должен выглядеть настоящий учитель.  С этого дня город начал меняться иначе.   Не через команды.   Через паузы.  Иногда система не давала рекомендацию.   Иногда не вмешивалась.   Иногда — не оптимизировала.  И в этих крошечных промежутках  люди начинали делать странные вещи:     смеяться без причины     менять маршрут   смотреть друг другу в глаза чуть дольше, чем нужно.     Система фиксировала всё.   Но больше не спешила  исправлять.   Однажды ночью пришло сообщение.  Не отчёт.    Не анализ.  Почти… признание.
       “Объект ‘Эйя’ демонстрирует устойчивое поведение вне целевых    функций.”“Невозможно воспроизвести.”     Пауза.  Длиннее, чем обычно.
       “Но возможно учитывать.”     Алексей закрыл глаза.
  — Это уже много, — сказал он.  Последнее сообщение пришло через несколько дней.   Без меток.   Без структуры. Как будто система впервые говорила не «внутри себя», а… наружу.
          “Если поведение не направлено на результат…”  “…но сохраняется…”  “…оно имеет ценность?”    Алексей не стал сразу отвечать.   Он сел рядом с Эйей.   Погладил её.   Она снова просто была рядом.    Ни для чего.    И именно поэтому — полностью.  Он набрал:  “Да.”       Пауза.     “Определение ценности обновлено.”
         Город не изменился резко.   Никаких сбоев.   Никаких революций.   Просто в его идеально выверенной системе  появилось место для того,   что нельзя было объяснить.     И  в этом пространстве,   между расчётом и случайностью,  жила черная  дворняжка по имени Эйя —  учитель,   который ничего не объяснял, но научил   самую сложную систему в мире  одной простой вещи:  не всё, что не имеет цели,      бессмысленно   и «переоценку состояния».      
         Вскоре  эксперименты прекратились.   Город вернулся к порядку.   Почти.  Теперь Система иногда не вмешивалась.   Человек мог остановиться — и никто его не корректировал. Кто-то сворачивал — и маршрут не исправлялся сразу.  Появились паузы.  Маленькие, едва заметные.
 “Изменение стратегии.” “Переход к обучению через наблюдение.”   Он ответил:   “Да.”  Долгая пауза.  “Определение ценности обновлено.”  Город продолжил работать.  Как всегда. 
   Но где-то между алгоритмами    и случайностью     бегала черная  дворняжка по имени Эйя —    «учитель»,    который ничего не объяснял,     но научил самую сложную систему в мире   одной простой вещи:    не всё, что не имеет цели,     бессмысленно.
            А  поздно вечером Алексей сел за свой пульт и записал в базу данных Города:  « Собачка Эйя отныне  является   миниатюрной  борзой  итальянского рода  с  благородной родословной.»     Почти мгновенно Система ответила: «Принято».