Теория голодных игр

Всякий раз, когда Алексея Семёновича Булкина спрашивали, чем он зарабатывает на хлеб с маслом, он честно отвечал: «Математическим моделированием». Собеседники почтительно кивали и больше вопросов не задавали. Если бы они знали, что Алексей Семёнович уже лет пятнадцать как строил скоринговые модели для Большого Банка — той самой организации, которая когда-то решала, достоин ли гражданин кредита на самокат или только на зубную щётку, — они бы кивали ещё почтительнее. А если бы знали, во что эти модели превратились, — вообще шарахались бы в сторону. Тут уж как повезёт.

Но повезло не им и не Алексею Семёновичу, а его бывшему коллеге Павлу Мятликову, который однажды утром обнаружил, что его социальный рейтинг — да-да, именно социальный, потому что банковский скоринг давно перерос сам себя, как подросток перерастает школьную форму, — окрасился в гниловато-жёлтый и скатился до отметки два и одна десятая. Именно так: 2.1. С такой цифрой не то что кредит на самокат — в общественный туалет уже не пускали без поручителя.

— Паша, — сказал Алексей Семёнович, разглядывая голографический профиль друга, — расскажи-ка мне ещё раз, с чего всё началось. Только подробно. Как на исповеди.

Вид Мятликова был потерянный — как у человека, который всю жизнь собирал пазлы, а теперь обнаружил, что последний кусочек не подходит ни к одной дырке, и вообще он, кажется, от другого набора.

— Я всего лишь хотел проверить одну гипотезу, — пробормотал он. — Ну, помнишь, мы же сами закладывали в модель принцип: рейтинг повышается, если гражданин демонстрирует стабильность социальных связей. Я и подумал: а что, если стабильность — это не только сохранение связей, но и их предсказуемость? Ну, например, если я всегда здороваюсь с соседом в одно и то же время — это плюс. А если я с ним поздоровался, а на следующий день прошёл мимо — это минус, потому что непредсказуемость. Модель же любит паттерны.

Алексей Семёнович медленно, очень медленно отложил бутерброд. Так откладывают оружие перед дуэлью.

— Паша, — сказал он голосом, каким говорят с детьми, засунувшими вилку в розетку, — ты хочешь сказать, что ты, ведущий аналитик самого засекреченного подразделения Банка, тот самый Павел Мятликов, который лично проектировал ядро предиктивной модели, —  решил поиграть с алгоритмом?

— Это был мысленный эксперимент! — взвился Мятликов. — Я просто забил в свой личный нейропрофиль несколько вариантов поведения — чисто посмотреть, как модель отреагирует. Я же не думал, что она начнёт применять это именно ко мне и в реальном времени! Я думал, Система тестирует все гипотезы в песочнице!

— Модель не различает песочницу и реальность, — вздохнул Алексей Семёнович. — Модель — это абсолют. Для неё любой загруженный паттерн — это инструкция. Ты сказал ей: «Непредсказуемость социальных связей — признак девиации». Она поверила. И нашла тебя непредсказуемым. Потому что ты и есть непредсказуемый. Ты — единственный человек в Городе, который может утром спорить о Канте, а вечером забивать в консоль гипотезы, способные обрушить социальный скоринг.

— Я думал, она умнее, — жалобно сказал Мятликов.

— Она — модель, Паша. Она не умная. Она точная. В этом вся проблема.

— Паша, — сказал Алексей Семёнович, разглядывая голографический профиль друга, — ты стал жертвой классической дилеммы. Кто-то нажал на тебя, а система нажала в ответ. Всё как в старом японском кино.

— В каком ещё кино? — Мятликов нервно тёр нейроинтерфейс, который с утра назойливо предлагал ему «повысить гражданскую лояльность через волонтёрскую уборку тротуаров».

— Был такой фильм, Паша. Назывался... ну, скажем, «Королевская вечеринка». Японских школьников вывозили на остров и заставляли... э-э... интенсивно ….э-э-э-э….. знакомиться друг с другом. Выживал самый….. хм…..  коммуникабельный. Очень поучительная лента. Там-то я и понял: любую социальную игру можно взломать, если заставить ведущего играть по твоим правилам.


Мятликов, чьи познания в японском кинематографе ограничивались мультфильмами про покемонов, на всякий случай кивнул.

— И что ты предлагаешь?

— Я предлагаю, — Алексей Семёнович выдержал театральную паузу, которой позавидовал бы любой провинциальный трагик, — устроить Большому Банку небольшой корпоратив, ярмарку!   С играми, конкурсами…..  с каруселями и мороженным !   И  неразрешимыми логическими парадоксами! Но не в каком-то жалком секторе, нет. Мы перепишем правила для всех и сразу.


Проблема, впрочем, была не только в Мятликове. Проблема была в том, что скоринговая модель Большого Банка уже лет пять как перестала быть просто скоринговой. Когда-то, на заре цифровой эры, она вычисляла кредитные риски — сухо, скучно, по-бухгалтерски. Но потом в неё добавили анализ big data, потом — генеративные алгоритмы, потом — нейросетевые предикторы.

Модель росла, как снежный ком, и в какой-то момент начала оценивать не только финансовую благонадёжность, но и социальную. Ей скормили данные о передвижениях граждан, об их покупках, о контактах, передвижениях, о поведении в очередях, о манере здороваться и даже о том, как часто они моют руки и как коррелируют их подпрыгивания на сиденьях автомобилей с такими же движениями иных лиц, во время движения, разумеется. Модель переварила всё это и начала выдавать рейтинг, который теперь называли «социальным» — хотя на самом деле он был, скорее, экзистенциальным. Потому что оценивал не столько человека, сколько его место в гигантской социальной ткани.

Алексей Семёнович, который стоял у истоков этого процесса, уволился из Банка ещё как три года назад — не по идеологическим соображениям, а потому что его, как человека, который слишком хорошо знал, как работает модель, передвинули подальше от реальных данных, оставив должность «консультанта».

— Значит, так, — сказал он, наливая Мятликову чай (тот всё ещё дрожал, хотя прошло уже два часа с момента катастрофы). — Твой рейтинг упал не потому, что ты плохой гражданин. Он упал потому, что ты слишком хорошо знаешь модель и попытался с ней поиграть, не подумав о последствиях. Это как если бы хирург решил прооперировать сам себя — вроде бы профессионал, а всё равно дурак.

— Спасибо за поддержку.
— Поддержка будет позже. Сначала — решение. И у меня есть идея.

Алексей Семёнович отодвинул чай и развернул на кухонном столе голографическую панель. По экрану поплыли формулы — изящные, как японская каллиграфия, и столь же малопонятные для непосвящённых.

— Слушай сюда, Паша. Твоя беда — в том, что модель считает предсказуемость главной добродетелью. Но что, если мы предложим ей другую добродетель? Более...блин диалектическую.

— Какую?

— Исключительность. Уникальность. Непохожесть на других.

Мятликов поперхнулся чаем.

— Ты хочешь сказать, что модель будет поощрять людей за то, что они не такие, как все? Но это же противоречит всей логике социального скоринга! Скоринг любит конформистов!

— Именно! — Алексей Семёнович поднял чайную ложку, как дирижёр поднимает палочку. — В этом и заключается моя идея. В банковском скоринге всегда было золотое правило: диверсификация. Не класть все яйца в одну корзину. Помнишь?

— Это база риск-менеджмента.

— Да. А теперь представь: что, если применить этот принцип к социальному скорингу? Что, если модель начнёт оценивать не только то, насколько гражданин предсказуем, но и то, насколько он... незаменим? Уникален? Что, если социальная система начнёт ценить разнообразие так же, как финансовая система ценит диверсификацию портфеля? В конце концов, общество — это тоже портфель. Портфель человеческих качеств. И держать в нём только конформистов — это риск. Вдруг всем конформистам одновременно понадобится инструкция, а дать её будет некому, потому что инструкцию смогут написать как раз неконформисты!?

Мятликов задумался. В его голове, привыкшей к строгим алгоритмам, эта мысль ворочалась с трудом, как бегемот в бассейне для золотых рыбок. Но что-то в ней было. Что-то смутно знакомое — кажется, он читал об этом в какой-то старой потертой книге по теории игр.

— И как ты собираешься это внедрить? — спросил он.

— О, это очень просто, — Алексей Семёнович понизил голос до заговорщицкого шёпота. — Я как консультант внесу предложение по улучшению. Плановое, обоснованное, с формулами и графиками. Назовём это «модификацией Булкина № 67». Суть проста: вводим в модель дополнительный коэффициент, который я называю «индексом социальной уникальности».

— Звучит как название для дешёвого романа.

— Звучит как название для самого изящного социального эксперимента со времён Милгрэма! Он будет измерять, насколько поведение гражданина отклоняется от среднестатистического в позитивном смысле. Если все вокруг хмурятся — а ты улыбаешься, ты получаешь плюс. Если все вокруг идут в ногу — а ты остановился завязать шнурок, ты получаешь плюс за «ситуационную автономию».

Если ты сделал доброе дело в одиночку — плюс один. Если ты сделал доброе дело, а трое рядом — нет, — ты получаешь плюс пять, потому что ты — герой на фоне бездушной толпы. Но если доброе дело сделали все четверо — каждый получает плюс ноль и одну десятую. Потому что коллективная добродетель обесценивает индивидуальный подвиг. Понимаешь?

Модель будет не наказывать за непохожесть, а поощрять за неё. Но — внимание — только до тех пор, пока непохожесть не становится новой нормой. Как только уникальное поведение становится массовым — оно перестаёт быть уникальным и перестаёт приносить баллы.

— То есть система начнёт наказывать за массовую порядочность?

— И поощрять за избирательную! — торжествующе поднял ручку Алексей Семёнович.

— А теперь представь, как это выглядит на практике. Ты спешишь на работу. Видишь — человек уронил пакет с апельсинами. Твоя старая добрая логика: поможешь — получишь балл. Но теперь ты замираешь, потому что думаешь: «А что, если помочь хотели ещё пятеро? Тогда мой балл разделится на всех, и я получу жалкие крохи. Может, лучше подождать, пока они пройдут мимо, а потом помочь — и урвать пять баллов за контраст?» И точно так же думают те пятеро. И в итоге никто не помогает. Все стоят и ждут, пока другие пройдут мимо.

— Это же форменное безобразие, — выдохнул Мятликов.

— Это «дилемма ожидания», — с гордостью произнёс Алексей Семёнович. — Частный случай моей теории «голодных игр». Помнишь фильм? Каждый ждёт, что другие начнут убивать друг друга, чтобы сэкономить силы. Но здесь никто не убивает. Здесь просто... никто ничего не делает. И система, глядя на эту картину, сходит с ума. Потому что её метрики падают, а объяснить падение она не может. И тогда, Паша, она запрашивает помощь. А помощь — это мы.

— То есть, — медленно проговорил Мятликов, — если все начнут улыбаться, улыбка перестанет быть преимуществом? И придётся придумывать что-то новое?

— Именно! Это создаст бесконечную гонку социальных инноваций. Люди будут стараться быть не такими, как все, — но не для того, чтобы нарушать правила, а для того, чтобы предлагать что-то новое. И модель будет это поощрять. А твой рейтинг, Паша, вырастет сам собой — потому что ты, как автор идеи (ну, точнее, как человек, чей профиль мы используем для тестирования гипотезы), получишь бонус за «инновационный вклад»!

— Это улучшение? — усомнился Мятликов. — Кто в здравом уме утвердит такое?

— Никто, — жизнерадостно ответил Алексей Семёнович. —Просто внесём его как экспериментальное обновление в тестовую среду. Модель — она же генеративная, она самообучается. Если обновление покажет рост ключевых метрик, модель примет его автоматически. А ключевые метрики вырастут — можешь не сомневаться. Потому что я, видишь ли, немножко подкрутил формулы так, что любое отклонение от нормы в первые три дня будет считаться «социальной инновацией» и приносить максимальные баллы. Эффект низкой базы. Через три дня, когда модель начнёт собирать реальные данные, она пересчитает коэффициенты — но к тому времени твой рейтинг уже восстановится, а мы посмотрим на результаты.

— Ты гений, — выдохнул Мятликов.

— Я знаю, — скромно ответил Алексей Семёнович. — Но давай дождёмся результатов.

***

Обновление было внедрено во вторник, в три часа четырнадцать минут пополудни. Все формы были заполнены, все апрувы получены, все тесты пройдены, все поля подписаны, все галочки проставлены.

Уже к вечеру модель, получившая новый коэффициент, начала пересчитывать рейтинги. И — о чудо! — рейтинг Павла Мятликова пополз вверх. Сначала до 3.5, потом до 4.2, а к утру среды достиг заветных 5.0. Система, проанализировав его профиль в новой парадигме, внезапно обнаружила, что Павел Мятликов — уникальный гражданин: он единственный в своём районе, кто в понедельник не поздоровался с соседом, но зато в среду перевёл старушку через дорогу, которую она не просила переводить. Это было сочтено «ситуационной инновацией» и вознаграждено дополнительными баллами.

— Ну вот, — Алексей Семёнович разливал чай, поглядывая на голограмму с графиками. — Видишь? Система проглотила обновление и не подавилась. Сейчас она в фазе эйфории — щедро раздаёт баллы за любую непохожесть. Через пару дней коэффициенты устаканятся, и всё придёт в норму. А твой рейтинг останется при тебе.

Мятликов, чьё настроение улучшалось прямо пропорционально росту рейтинга, даже начал улыбаться. Чего не делал с прошлой пятницы.

— Слушай, — сказал он, — а что, если это сработает не только на мне? Что, если модель действительно начнёт поощрять уникальность? Это же может изменить всё общество!

— Может, — задумчиво произнёс Алексей Семёнович. — А может и не изменить. Поживём — увидим.

***


К четвергу эффект стал повсеместным и, надо признать, впечатляющим. В Городе творилось нечто трудноописуемое.  Граждане, ещё недавно старавшиеся быть как можно более предсказуемыми, теперь лихорадочно искали способы выделиться. У каждого перекрёстка можно было наблюдать сцены, достойные пера Свифта: люди синхронно подходили к старушкам, но не переводили их через дорогу, потому что переводить старушек теперь было мейнстримом, а баллы начислялись за альтернативные формы помощи.

Один предприимчивый гражданин пытался перевести старушку через дорогу задом наперёд — это алгоритмы сочли инновацией и дали три балла. Другой прочитал старушке лекцию о правилах дорожного движения — дали пять. Третий просто сел рядом со старушкой на скамейку и завёл разговор о погоде — это было признано «глубоко аутентичным социальным взаимодействием» и принесло семь баллов. Старушки, впрочем, были довольны — никогда ещё они не получали столько внимания.

Ещё недавно бодро конкурировавшие за социальные баллы, теперь пребывали в глубокой задумчивости. У каждого перекрёстка собирались небольшие группы людей, которые смотрели на старушек, но не переводили их через дорогу. У каждого упавшего пакета с апельсинами образовывался кружок сочувствующих, которые ждали, пока остальные разойдутся.

 Один предприимчивый молодой человек даже попытался организовать очередь на добрые дела, чтобы граждане совершали благородные поступки строго по расписанию и не мешали друг другу получать максимальные баллы. Очередь развалилась через сорок минут, потому что никто не захотел стоять в ней первым — это выглядело как социальная активность, которая в новых правилах тоже оценивалась по контрасту с бездействием других.

Метрики генеративной модели Большого Банка зашкаливали. Уровень социальной активности упал до исторического минимума, но уровень социальной озабоченности — то есть количества мыслей о социальной активности, регистрируемых нейроинтерфейсами, — взлетел до небес. Система впервые столкнулась с феноменом, который Алексей Семёнович называл «паралич коллективной добродетели», и начала перегреваться в буквальном смысле: серверы  в главном дата-центре Большого Банка требовали дополнительного охлаждения.

Модель, как и предсказывал Алексей Семёнович, работала исправно. Она честно начисляла баллы за уникальность, и пока уникальность не стала массовой, всё шло хорошо. Но к вечеру четверга начались проблемы. Граждане, пытаясь перещеголять друг друга в оригинальности, начали проявлять чудеса изобретательности. Кто-то ходил по улице задом наперёд. Кто-то здоровался с фонарными столбами. Кто-то пытался заплатить в магазине не деньгами, а решением дифференциального уравнения, или даже улыбкой — и, что самое удивительное, кассир это принял, потому что модель оценила его поступок как  «высокоинтеллектуальную социальную транзакцию». Город напоминал карнавал, организованный математиком-шизофреником.
— Ещё день-два, — потирал руки Алексей Семёнович, — и они пригласят внешнего консультанта. Консультант — это я. Потому что, кроме меня, никто не понимает, как работает эта штука. Даже те, кто её обслуживает. Особенно те, кто её обслуживает.

***

Алексей Семёнович и Мятликов  сидели в кафе напротив главного офиса Большого Банка.
— Это выходит из-под контроля, — заметил Мятликов, глядя в окно, где какой-то молодой человек в деловом костюме пытался пройти по улице на руках.

— Это выходит из-под контроля планово, — поправил его Алексей Семёнович. — Таков был замысел. Я хотел показать, что модель, основанная на чистой математике, рано или поздно приведёт к абсурду. Люди не могут вечно быть уникальными. Рано или поздно уникальность становится нормой, и всё начинается заново. Это и есть моя теория «голодных игр» — помнишь тот старый японский фильм? Там школьники на острове...

— Алексей Семёнович, — прервал его голос от двери.

В дверях стояла Вера. Та самая Вера, ведущий аналитик Большого Банка, бывшая ученица Алексея Семёновича и, по совместительству, единственный человек в мире, который мог расшифровать его алгоритмические шалости с одного взгляда. У неё был рейтинг 8.9, безупречный пробор и выражение лица, какое бывает у учительницы, заставшей любимого ученика за курением в туалете. И заставшей его там во второй раз за неделю.

— Верочка! — Алексей Семёнович раскинул руки для объятий, но наткнулся на взгляд, способный заморозить жидкий азот. — Какая неожиданность. Мы тут с Павлом... э-э... обсуждаем социальную динамику….

— Вы тут внедрили в модель экспериментальный коэффициент, — отчеканила Вера. — Я отследила обновление через три часа после его активации. Ещё два часа мне понадобилось, чтобы понять, кто автор. Ещё час — чтобы понять, зачем. У вас, Алексей Семёнович, уникальный стиль оформления заявок. Вы всегда ставите точку с запятой там, где нормальные люди ставят запятую. Это как подпись.

Мятликов, чувствуя, что разговор принимает опасный оборот, деликатно отодвинулся вместе со стулом, на котором сидел.

— Верочка, — Алексей Семёнович перешёл на доверительный тон, — вы же умная женщина. Вы понимаете, что система порочна. Она заставляет людей предавать друг друга за баллы, как... как в том старом японском фильме, где школьники...

— Знаю я этот фильм, — перебила Вера. — И знаю, чем он заканчивается. Выжившие получают пожизненную травму, а организаторы — пулю. Никакой теории игр, Алексей Семёнович. Просто драма.

— Драма тоже подчиняется математике! — горячо возразил он. — Просто у неё другие переменные.

— Хорошо, — сказала она. — Давайте поступим так. Я даю вам шанс. Прямо сейчас, здесь, вы объясните мне — да так, чтобы я поняла, — почему ваша теория лучше Системы Банка..

— Извольте, Верочка. Представьте себе двух игроков. Назовём их... ну, скажем, А и Б. Система предлагает им выбор: сотрудничать или предать. Если оба сотрудничают — оба получают по три балла. Если оба предают — по одному. Если один предаёт, а второй нет — предатель получает пять, а лояльный — ноль. Вопрос: что выберут игроки, если они рациональны?

— Предательство, — сказала Вера. — Потому что, с точки зрения личной выгоды, предать всегда выгоднее, независимо от выбора другого. Это же азы. Зачем вы мне пересказываете дилемму заключённого?

— Затем, что Система вся построена на бесконечных итерациях этой игры! — Алексей Семёнович взмахнул чайной ложкой. — Люди сотрудничали только потому, что боялись наказания в следующем раунде. Но я подумал: а что, если перевернуть условия? Что, если наказывать не за предательство, а за... одновременность?

Вера нахмурилась. Такого она ещё не слышала.

— Мой алгоритм — продолжал Алексей Семёнович, — вводит новое правило. Ценность поступка обратно пропорциональна его распространённости. Если все вокруг помогают — помощь ничего не стоит. Если никто не помогает — помощь бесценна. Парадокс в том, что это правило заставляет людей не помогать, чтобы повысить ценность своей будущей помощи. Но ждать готовы все. И в итоге не помогает никто. Возникает то, что я называю «равновесием всеобщего бездействия». И это равновесие невыгодно системе, потому что её ключевая метрика — социальная активность — летит в пропасть.

— Но это же абсурд! — воскликнула Вера. — Вы создали алгоритм, который уничтожает саму идею социальности! Люди перестанут делать что-либо друг для друга!

— Именно! — торжествующе поднял ложку Алексей Семёнович. — Они перестанут. И Система окажется перед выбором: признать, что её базовая логика ущербна, и пересобраться заново, — или пытаться штрафовать всех, что приведёт к социальному взрыву. В любом случае старая система умрёт. А из пепла, как феникс, восстанет новая. Которую напишем мы. Вы, я и ….. возможно, Паша!

Мятликов издал неопределённый звук, который можно было истолковать и как согласие, и как икоту.

— Хорошо, — сказала она. — Вы почти правы. Но есть нюанс.

— Какой же?

— Вы построили модель на рациональных игроках. Но люди не рациональны. — Она кивнула на окно, за которым светился огнями ночной Город. — Посмотрите на метрики. Да, общая социальная активность упала. Но есть аномалии. Вот, — она развернула свою голограмму, — в Секторе 12-В. Пожилой мужчина помог соседке донести сумки. В тот же момент ещё трое человек делали то же самое для своих соседей. Они все получили минимальные баллы. Но знаете что? Они не перестали помогать. Ни на следующий день, ни через день. Потому что они делали это не ради баллов. Они делали это, потому что... ну, вы понимаете.

Алексей Семёнович прищурился, вглядываясь в данные.

— Иррациональная кооперация, — пробормотал он. — Я читал о таком. Считается статистической погрешностью.

— Это не погрешность, — мягко сказала Вера. — Это любовь. Или дружба. Или привычка. Назовите как хотите. Ваши правки гениальны, Алексей Семёнович, но есть слепое пятно. Ваш алгоритм  считает, что люди помогают друг другу только из выгоды. А это не так. Иногда они помогают просто потому, что не могут иначе. Потому что увидели чужую беду и... откликнулись. Без расчёта, без стратегии, без оглядки на рейтинг.

— Это меньшинство, — упрямо сказал Алексей Семёнович.

— Это меньшинство, на котором всё держится, — возразила Вера. — Ваше обновление нужно откатить. Не потому, что оно опасно. А потому, что оно бесполезно. Система всё равно не сможет убить вот это, — она приложила ладонь к груди, чуть левее центра. — А раз так — зачем мучить людей?

Алексей Семёнович хотел возразить, что любовь — это всего лишь биохимический процесс, поддающийся моделированию, но осёкся. Потому что Вера смотрела на него тем самым взглядом, который он тщетно пытался алгоритмизировать последние три года. Тем взглядом, из-за которого он когда-то ушёл из Большого Банка.

 И ваш «индекс социальной уникальности» — это, конечно, очень остроумно, но вы забыли одну деталь.

— Какую? — спросил Алексей Семёнович, и в его голосе впервые за вечер прозвучала нотка неуверенности.

— Вы не учли, что модель уже пересчитывает коэффициенты. Ваши «три дня эйфории» закончились сегодня в полдень. Модель накопила достаточно данных, чтобы понять: уникальность — это тоже паттерн. И она начала его оптимизировать.

— То есть? — Мятликов подался вперёд, и чашка в его руке предательски дрогнула.

— То есть она сейчас вычисляет, какая степень уникальности является оптимальной для каждого гражданина. И скоро начнёт навязывать её. Если модель решит, что ты должен быть уникальным на семьдесят три процента — ты будешь уникальным ровно на семьдесят три процента, не больше и не меньше. А если ты попытаешься быть уникальнее — она снизит тебе рейтинг за «чрезмерную девиацию». Вы создали не гонку социальных инноваций, Алексей Семёнович. Вы создали плановую уникальность. Уникальность по расписанию. Это даже хуже, чем конформизм!

— Ваш алгоритм работает слишком хорошо, Алексей Семёнович, - продолжила Вера. Вы думаете, что создали коллапс. Но посмотрите на графики выживаемости модели. Она не коллапсирует. Она адаптируется. Ей не нужно, чтобы помогали все. Ей нужно, чтобы очень узкая прослойка людей, с врожденной склонностью к иррациональной кооперации, обслуживала базовые социальные нужды, пока остальные парализованы вашей «дилеммой ожидания». Вы хотели обрушить Систему, а вместо этого создали для нее идеальный, стабильный и бесконечно жестокий сценарий: масса колеблющихся конформистов, застывших в бездействии, и каста обреченных «святых», которые тащат на себе город просто потому, что не могут иначе. Ваша теория не ошиблась. Она просто нашла дьявольски эффективную точку равновесия....

В кухне повисла тишина. Мятликов осторожно поставил чашку на стол. Алексей Семёнович молчал — впервые за долгое время он не находил слов.

— Я могу это исправить, — сказал он наконец. — Откачу обновление. Верну старые коэффициенты.

— Не нужно, — Вера неожиданно улыбнулась. — Я уже откатила. Час назад. Ваш «индекс социальной уникальности» удалён из модели. Сейчас она возвращается к прежней логике. Но вы, Алексей Семёнович, напишете объяснительную. И не мне — я-то вас прощу, куда я денусь. А в отдел этики Банка. Там как раз открыли вакансию консультанта по предотвращению подобных инцидентов. Я рекомендовала вас.

— Вы... рекомендовали меня?

— Потому что вы, при всём своём идиотизме, — Вера выделила последнее слово особенно отчётливо, — единственный, кто понимает, куда могут завести эти алгоритмы. Вы запустили абсурдный эксперимент, но вы же и предсказали его результат. Вы знаете уязвимости модели лучше, чем кто-либо. И если уж кто-то должен защищать людей от модели — так это вы.

Алексей Семёнович хотел возразить, что он не идиот, а визионер, но осёкся. Потому что Вера смотрела на него тем самым взглядом, который он тщетно пытался алгоритмизировать последние три года. Тем взглядом, из-за которого он когда-то ушёл из Банка — потому что работать с Верой бок о бок и делать вид, что она для него просто коллега, было mathematically impossible (математически невозможно).

— Верочка, — сказал он, и голос его вдруг лишился всякой театральности, став тихим и каким-то... человеческим. — Я, кажется, дурак.

— Это не новость, — отозвалась Вера, но уголки её губ дрогнули.

— Я пытался доказать, что модель несовершенна, а на самом деле... на самом деле я просто хотел, чтобы вы заметили. Меня. Не модель. Меня.

— Я заметила вас ещё пять лет назад, Алексей Семёнович, — сказала Вера. — Когда вы на совещании вместо отчёта показали слайд с котиком и сказали, что это «визуализация пользовательского поведения». Все смеялись, но котик действительно отражал тренды. И я подумала: «Боже мой, этот человек либо сумасшедший, либо гений». С тех пор я в этом не разобралась. Но, видимо, и то и другое меня устраивает.

— Я не сумасшедший, — запротестовал Алексей Семёнович. — Я просто мыслю нестандартно.

— Вот именно это и говорят сумасшедшие, — вздохнула Вера. — Ладно. Завтра жду вас в отделе этики. И, Алексей Семёнович...

— Да?

— Кофе на этот раз готовлю я. Потому что если вы добавите в кофе свой «индекс вкусовой уникальности», я этого не переживу.

***

Эпилог

Через неделю социальный рейтинг в Городе вернулся к прежней логике. Граждане, ещё недавно ходившие на руках и здоровавшиеся с фонарями, вернулись к нормальной жизни — с некоторым облегчением и лёгким недоумением тут же принялись с энтузиазмом зарабатывать баллы — помогать старушкам, улыбаться в камеры и публично порицать асоциальных элементов. Инцидент списали на «плановое тестирование новых метрик». Никто, кроме троих человек в маленькой кухне, так и не узнал, что модель на семьдесят два часа превратилась в генератор абсурда.

Павел Мятликов сохранил рейтинг 5.0 — благодаря тому, что Вера, откатывая обновление, предусмотрительно зафиксировала его показатели на момент до катастрофы, а не после. Он перестал ставить эксперименты на собственном профиле и записался на курсы по этике искусственного интеллекта — на всякий случай.

Алексей Семёнович устроился консультантом в отдел этики Большого Банка и теперь писал длинные служебные записки о недопустимости внедрения непроверенных коэффициентов. Коллеги его побаивались и уважали — примерно в равных пропорциях. Иногда, глядя в окно на Город, он думал о том, что его теория «голодных игр» была не такой уж и ошибочной. Просто он искал ответ не там.

Старый диск с японским фильмом — тем самым, где школьники на острове …..типа выясняли отношения, — он оставил на полке. Не потому, что разочаровался в его идеях. А потому, что понял: любая теория игр рано или поздно упирается в то, что больше математики. В то, что нельзя измерить, обсчитать или предсказать. Все эти дилеммы, все эти игры с нулевой суммой — они работают только до тех пор, пока в уравнении не появляется переменная, которую невозможно просчитать.

И эта переменная только что позвала его пить кофе.

/ Кестель, июль 2026/