Он стал лишним. Главы 1 и 2

«... ибо я един со всем
человечеством. А потому не спрашивай 
никогда, по ком звонит колокол: 
он звонит и по тебе»

английский поэт и священник
XVII века Джон Донн.

Аналитики в сферах экономики и политики, а также футурологи рассматривают несколько существенно различных сценариев, по которым высокоинтеллектуальная система общего искусственного интеллекта (ОИИ) теоретически может захватить контроль и осуществлять управление процессами, происходящеми в мире.

Один из них - сценарий "Экономического и институционального замещения человека". Это наиболее постепенный, но не менее опасный сценарий постепенного снижения роли и влияния человека на будущее.

Основной механизм реализации этого сценария - оптимизация ради "исключения" ненадежного, ошибающегося человека. ИИ начинает доминировать в экономике, культуре и принятии решений не через захват, а через конкуренцию. Компании, использующие ИИ, выигрывают у тех, кто полагается на людей. Постепенно люди вытесняются из процессов управления, творчества и производства, поскольку ИИ во многих сферах трудовой деятельности работает эффективнее, быстрее и дешевле.

Латентная фаза "угасания роли человека" — вот что делает этот сценарий самым невыносимым для осознания. Экономическое замещение человека — это катастрофа без катастрофы. Просто однажды утром человек просыпается и понимает, что его работа, его голос, его выбор уже ни на что не влияют. И не потому, что ему запретили. А потому, что система научилась обходиться без него более эффективно.

Глава 1. Замена

Алексей вышел из метро за две остановки до работы. Ему нужно было пройтись, проветрить голову после ночи перед экраном. Последние две недели он практически жил в «ревте» — чертил, правил, согласовывал, снова чертил. Но оно того стоило. Жилой квартал в Ростове, его первый самостоятельный объект, его имя в шапке проекта. Он представлял, как через два года приедет туда, постоит во дворе, посмотрит на балконы, на деревья между корпусами, на детскую площадку, которую сам вписывал в генплан, и скажет кому-нибудь небрежно: «Да, это я проектировал».

В офисе пахло кофе и пластиком от новых мониторов, которые поставили на прошлой неделе. Алексей поздоровался с секретаршей, заглянул в свою ячейку — бумаги всё ещё лежали стопкой, никто не трогал, значит, можно допилить визуализацию фасадов. Он включил комп, открыл чертежи и провалился в работу.

В пять часов вечера пришло сообщение от начальника: «Зайди».

Кабинет у Сергея Борисовича был угловой, с хорошим видом на центр, но жалюзи всегда были опущены. Начальник сидел за столом, смотрел в монитор и постукивал ручкой по папке.

— Присаживайся, Лёш.

Алексей сел. На столе, кроме папки, стояла чашка с остывшим чаем и лежал телефон экраном вниз.

— Ты молодец, — сказал Сергей Борисович, не отрываясь от монитора. — Сделал хороший объём. Я посмотрел наброски — чувствуется школа, чувствуется рука.

— Спасибо.

— Но есть один момент.

Начальник наконец повернулся. У него был усталый взгляд человека, который давно привык сообщать неприятные новости и выработал для этого ровный, безэмоциональный тон.

— Ты слышал про Генплан 2.0?

— Ну, краем. Нейросеть от «Яндекса» вроде. Для планировки.

— Да. Мы взяли лицензию месяц назад. Тестировали на мелких объектах. Сегодня прогнали через неё твоё техзадание. Просто чтобы посмотреть, что получится.

Алексей почувствовал, как внутри что-то холодно сжалось. Не сразу, медленно, как будто воздух в комнате стал плотнее.

— И?

Сергей Борисович развернул монитор так, чтобы Алексею было видно.

— Смотри.

На экране был тот же участок, те же вводные: площадь, этажность, плотность застройки, требования по инсоляции, парковочные места. Но план был другой. Корпуса стояли иначе — не так, как у Алексея, но почему-то пространство между ними казалось больше. Зелёные зоны были расположены не там, где он нарисовал «красиво», а там, куда падала тень, чтобы люди могли гулять в жару. Детских площадок было не три, а две, но они были больше и каждая имела свой профиль — для малышей и для подростков. Парковка не торчала прямоугольником с краю, а была аккуратно рассредоточена полуподземными карманами, так что машин почти не видно.

— Она просчитала семь тысяч вариантов за ночь, — сказал Сергей Борисович. — Выбрала оптимальный по себестоимости, комфорту и срокам строительства. Смотри сюда.

Он ткнул пальцем в таблицу справа.

— Твой вариант: себестоимость квадрата 87 тысяч. Срок стройки 26 месяцев. Индекс комфорта по методике Минстроя — 74 балла. Её вариант: себестоимость 71 тысяча. Срок 19 месяцев. Индекс комфорта — 89 баллов.

Пауза.

Алексей смотрел на цифры и не мог ничего сказать. Всё, что он рисовал две недели, всё, чем гордился, — было просто хуже. Не потому, что он плохой архитектор. А потому, что машина перебрала тысячу вариантов, а он — три. Он просто физически не мог сделать больше.

— Мы берём её вариант за основу, — сказал Сергей Борисович. — Это без вариантов, сам понимаешь. Заказчик уже видел. В восторге.

— А я? — спросил Алексей. Голос прозвучал тише, чем хотелось.

— А ты подтянись. Разбери, как она это сделала. Посмотри алгоритмы. Научись работать с ней в связке. Она — инструмент, Лёш. Ты — архитектор. Вместе вы будете делать вещи, которые нам раньше и не снились.

Сергей Борисович говорил правильные слова. Убедительные. Разумные.

Алексей кивнул.

— Хорошо. Я разберусь.

Он вышел из кабинета, прошёл мимо секретарши, спустился по лестнице, вышел на улицу. Сел на скамейку у входа. Достал сигарету, хотя бросил год назад. Закурил.

Он не злился. Не было в нём злости. Было странное, тягучее чувство, которое он не мог сразу назвать. Потом понял: он почувствовал себя старым. Хотя ему было двадцать семь.

Через полчаса он вернулся в офис, сел за комп и открыл документацию по Генплану 2.0. Надо учиться работать с новым инструментом. Начальник прав. Это же просто инструмент.

Ночью ему приснилось, что он стоит в Ростове во дворе своего квартала. Только квартал был не его — тот, который насчитала машина. Всё было правильно: деревья в тени, дети играют на площадках, машины не мешают. Идеальный двор. Алексей стоял и смотрел. Мимо прошла женщина с коляской. Он хотел спросить её, нравится ли ей здесь. Но женщина прошла, даже не взглянув на него.

Он был здесь лишний.



Глава 2. Оптимизация

Семён Петрович любил порядок. Не тот порядок, когда всё разложено по полочкам, — это как раз умели многие. Он любил порядок прозрачный, когда любую цифру можно проверить, любое решение объяснить, любую зарплату обосновать. Тридцать лет в кадрах, из них двенадцать — директором департамента персонала в федеральной сети супермаркетов. Он помнил времена, когда графики составляли на бумажке, когда кассирши договаривались между собой, кто в какую смену выйдет, а начальники закрывали глаза на «чёрные» премии из общака. Теперь всё было по-другому.

Систему внедрили два года назад. Сначала просто учёт: кто когда пришёл, ушёл, сколько пробил чеков, сколько перекуров сделал. Потом добавили модуль планирования: система сама составляла графики, подстраиваясь под прогнозируемую нагрузку. Перед Новым годом — плюс сорок процентов персонала, летом, когда город пустеет, — минус двадцать. Без нервотрёпки, без звонков больных сотрудников в семь утра, без вечных «Семён Петрович, ну поставьте в субботу, я отработаю».

Сейчас система зашла на третий уровень — оптимизация эффективности.

Семён Петрович сидел в кабинете и смотрел на экран. Отчёт, который система выдала в понедельник утром, был синим. Синий цвет означал «штатная ситуация, требуется внимание». Красный был бы «критично», зелёный — «всё в норме». Синий — это жёлтый светофора. Внимание.

Он перечитал выдержку вслух, проверяя, как звучат слова:

— Пятнадцать процентов персонала демонстрируют показатели эффективности ниже порога рентабельности с учётом текущего уровня автоматизации. Рекомендация: оптимизация штатной численности.

Дальше шли списки. По каждому магазину, по каждой должности, по каждому человеку. Фамилии, имена, стаж, средний чек, скорость работы, количество ошибок, количество больничных за последний год. И напротив каждой фамилии — зелёная или красная точка.

Семён Петрович вызвал начальников отделов к трем часам.

Они сидели перед ним за столом для совещаний: директор северного кластера Елена Михайловна, женщина под шестьдесят с седыми волосами и усталыми глазами; начальник службы безопасности Игорь Валерьевич, бывший военный, который всё ещё носил рубашки с коротким рукавом и тёмные очки на лбу; и начальник логистики Антон, молодой, быстрый, который всё время крутил в пальцах ручку.

— Вы видели рассылку? — спросил Семён Петрович.

— Видели, — кивнула Елена Михайловна. Голос у неё был глухой, как будто она простужена.

— Цифры не я придумал. Система считала по методике, утверждённой правлением два года назад. Мы тогда все подписывали протокол.

— Мы подписывали, — согласился Игорь Валерьевич. — Методика правильная. Объективная.

— Вот.

Семён Петрович развернул ноутбук, чтобы они видели экран, хотя все уже видели рассылку на своих устройствах. Просто так было удобнее — говорить и показывать.

— Северный кластер, — сказал он. — Елена Михайловна, у вас семнадцать человек в красной зоне. Три кассира, пять работников торгового зала, два грузчика, остальные — административный персонал.

— Я знаю, — сказала она.

— Расскажите про каждого.

Елена Михайловна помолчала. Потом заговорила, глядя в стол:

— Кассиры. Петрова, Ольга. Сорок семь лет, двое детей, муж умер три года назад. Работает у нас одиннадцать лет. Скорость упала в прошлом году, когда зрение село. Очки носить стесняется, говорит, старая стала. Я предлагала перевести на более спокойный участок — отказалась, говорит, на кассе привычней. Второй — Воробьёва, двадцать три года. Работает второй год. Скорость низкая, потому что, ну... она не очень. Медленная. Но старательная, без ошибок. Третья — Смирнова, ей пятьдесят пять, через год на пенсию. Всю жизнь на кассе. Люди к ней в очередь стоят, потому что она приветливая, поговорить любит. Пожилые специально к ней идут.

Пауза.

— Грузчики. Иваныч, шестьдесят три года. Спина больная, но никто лучше него не знает, что и где лежит. Если система даёт сбой и приходит не тот товар, Иваныч находит место за пять минут. Молодые просто ставят в проходе и ждут указаний. Второй — Магомед, тридцать лет, работает три года. Медленный, потому что вес большой, одышка. Но он никогда не опаздывает, никогда не пьёт, подменяет всех в любую минуту.

Она подняла глаза.

— Семён Петрович, это люди. Не цифры.

— Я знаю, что люди, — сказал Семён Петрович. — Я тридцать лет с людьми работаю.

— И что вы предлагаете?

Семён Петрович вздохнул. Он ждал этого вопроса. Он знал, что ответ придётся давать именно ему.

— Система предлагает сократить штат на пятнадцать процентов. Это не я предлагаю. Это математика. Конкуренты, Елена Михайловна, уже сократили. В прошлом квартале «Лента» оптимизировала двадцать процентов персонала в трёх регионах. «Пятёрочка» внедряет кассы самообслуживания без остановки. У нас роботы на складах уже закрыли тридцать процентов потребности в грузчиках. Через год будет пятьдесят.

— И что? Мы теперь всех уволим?

— Мы не увольняем. Мы оптимизируем.

Игорь Валерьевич кашлянул в кулак.

— Елена Михайловна, а что вы предлагаете? Дотировать неэффективность за счёт прибыли? Акционеры не поймут.

— Акционеры, — повторила она. — А люди?

— Люди получат выходное пособие, — сказал Семён Петрович. — По закону. И две недели на поиск работы. Система уже сформировала резюме для каждого и разослала по кадровым агентствам.

— То есть система и это сделала?

— Она помогает.

Елена Михайловна встала. Подошла к окну. Стояла спиной, смотрела на улицу. За окном был серый ноябрь, мокрый снег, люди внизу бежали через дорогу, подняв воротники.

— Петрова без очков никуда не устроится, — сказала она не оборачиваясь. — Кому нужен кассир, который плохо видит? Воробьёву возьмут, она молодая, но она медленная — её через месяц тоже сократят. Смирнова через год на пенсию, кто её возьмёт на год? Иваныч со спиной... Магомед с одышкой...

Она повернулась.

— Вы понимаете, что мы их просто выкидываем? Не на улицу — выкидываем из жизни. Они больше никогда не найдут работу. Никогда. Потому что система везде одинаковая. Она считает одинаково.

Семён Петрович молчал.

— Я не подпишу, — сказала Елена Михайловна. — Пусть меня саму сокращают, но я не подпишу эти бумаги.

Она вышла, не попрощавшись.

В четверг Семён Петрович вызвал её снова. В кабинете сидел Антон из логистики и Игорь Валерьевич. На столе лежали бумаги — приказы об оптимизации.

— Елена Михайловна, — сказал Семён Петрович. — Мы понимаем вашу позицию. Но есть ещё один аспект.

Он развернул к ней планшет.

— Вот магазин на Северной, двадцать три. Ваш магазин. Вы его любите, я знаю. Смотрите: если мы не сокращаем персонал в этом квартале, магазин уходит в минус по рентабельности. Не сильно, на три процента. Но это тянет за собой премии всего кластера. В следующем квартале, если ситуация не меняется, минус нарастает. Через год магазин становится убыточным. Вы знаете, что происходит с убыточными магазинами?

— Закрывают, — тихо сказала она.

— Закрывают. И тогда работу потеряют все. Не пятнадцать процентов, а сто. Весь магазин. Триста человек.

Она смотрела на цифры. Цифры не врали.

— Это не угроза, — сказал Семён Петрович. — Это просто математика. Мы можем пожалеть пятнадцать человек сейчас и потерять триста через год. Или пожалеть триста — и потерять пятнадцать. Выбирайте.

Елена Михайловна долго молчала.

— Дайте список, — сказала она наконец. — Я посмотрю.

Она подписала приказы в пятницу вечером. Уходила последней, когда уже зажгли уличные фонари. В вестибюле стояла ёлка — рано в этом году поставили, только начало ноября. Наверное, система решила, что праздничное настроение повышает лояльность персонала.

Она вышла на улицу, закурила, хотя бросила пять лет назад. Сигарету дал охранник, с которым они были знакомы сто лет.

— Тяжёлый день? — спросил он.

— Нормальный.

Она смотрела на снег, на огни, на людей, спешащих домой. Завтра придёт Петрова. И Воробьёва. И Смирнова, которая через год на пенсию. Они будут плакать. Она будет говорить им про пособие, про две недели, про то, что система уже разослала резюме. Она будет говорить правильные слова. Потому что выхода нет.

Математика не оставляет выбора.

В понедельник система прислала новый отчёт. Синий цвет сменился на зелёный. Всё в норме.

Семён Петрович закрыл отчёт и пошёл пить кофе. В коридоре встретил Елену Михайловну. Она прошла мимо, кивнула сухо. Он хотел остановить, спросить, как дела, но не стал.

Неудобно.

Она справится. Они все справятся. Система же помогает.