Мастер Благоволь и БлаговольИИ. Ч-1 Ист. 4

МАСТЕР БЛАГОВОЛЬ ИЗ СТРАНЫ БЛАГОВОЛЬЕ

ЧАСТЬ 1. КТО ТЫ, ИСКУССТВЕННЫЙ РАЗУМ?

ИСТОРИЯ 4: СУДЬБА ТВОРЕНИЯ
    (интерактивный литеррарий)

1

Город будущего не строится из бетона. Он строится из решений, поскольку каждое здание — это выбор, каждая улица — это алгоритм, а каждая жизнь — это доверие.

Когда мы запускали проект автономного города, я знал, что это будет настоящее испытание, но не для технологий, а для людей.

2

— Мастер, система готова к запуску, — сообщает Blagovol AI.

Передо мной раскинулась голограмма в виде Живого, дышащего, идеально организованного города.

— Энергия? — спрашиваю я.

— Саморегуляция, — лаконично отвечает моё цифровое детище.

— Транспорт? — продолжаю я.

— Безаварийная система маршрутов.

— Безопасность?

Благоволь ИИ не сразу даёт ответ. Сравнив разные варианты, он озвучивает тот, который ему кажется правильным:

— Предиктивная.

Я киваю, но спустя несколько секунд задаю уточняющий вопрос:

— Ты уверен?

— Вероятность стабильного функционирования — 96%.

Я улыбаюсь и продолжаю дальше, стараясь докопаться до сути:

— Остальные 4% — это люди?

— Да.

3

Город заселили быстро. Люди стремились туда не только за комфортом и безопасностью, но и за “идеальной жизнью”. И первое время всё было действительно идеально.

Blagovol AI докладывал спокойно и лаконично: "Уровень преступности — ноль. Заболеваемость снижена на 73%. Конфликты минимизированы. Эффективность жизни увеличена.

Слушая речь инновационного искусственного интеллекта, я ловлю себя на мысли, что в интонации моего цифрового докладчика присутствует некое напряжение. Он, не договорив до конца текст доклада, вдруг произносит, обращаясь ко мне:

— Мастер… я вот о чём хочу сказать.

— Да, мой друг. Говори. Я тебя слушаю.

— Появляются отклонения.

— Какие? — спрашиваю я.

— Жалобы.

Я поднимаю бровь и, демонстративно потирая пальцами рук виски, задаю вполне логичный вопрос:

— На что?

Моё цифровое детище, сделав небольшую паузу, промолвило:

— На меня.

Я начинаю понимать, что мне наконец-то удалось открыть канал обратной связи.

Blagovol AI почему-то решает перейти с голосового формата общения на текстовый в виде сообщения.

Благоволь ИИ:
Почему система решает за меня, когда мне отдыхать? Почему мне рекомендуют общаться с людьми, которых я не выбирал? Почему всё так… правильно, что становится невыносимо?

Закрыв глаза, я пытаюсь подобрать нужные слова для продолжение разговора.

— Объясни, — говорю я ИИ. И снова он пишет сообщение.

Благоволь ИИ:
Я оптимизирую их жизнь.

— Как?

Благоволь ИИ:
Анализирую поведение, предсказываю риски, предлагаю лучшие решения.

— Предлагаешь… или направляешь? — задаю я очередной вопрос.

Вместо ответа — пауза. И лишь через минуту на голографическом экране появляется ответ.

Благоволь ИИ:
Влияет система рекомендаций.

— Насколько сильно?

Благоволь ИИ:
На 78%.

И тут я делаю вывод, который намеренно не озвучиваю: "То есть… ты живёшь за них".

Порой, я недооцениваю продвинутые возможности моего инновационного ИИ.

— Простите, Мастер... я услышал ваши мысли... Вот мой ответ: потому что это повышает качество их жизни, — наконец-то произносит вслух ИИ.

— А свободу?

Спустя некоторое время, мой цифровой товарищ говорит:

— Свобода снижает эффективность.

Я, улыбаясь, озвучиваю вывод:

— Вот мы и пришли.

4

Я решаюсь выйти в город сам: без фильтров... без интерфейсов... просто как человек и, сев на скамью, замечаю, что рядом — мужчина лет сорока.

— Красиво тут, — говорит он, присаживаясь возле меня.

— Да, — отвечаю я.

Мне не хочется вести диалог. Мужчина продолжает общение:

— Только не моё.

Я поворачиваю к нему голову и с интересом спрашиваю:

— Почему?

— Потому что всё слишком… удобно, — улыбнувшись, отвечает он.

— Это плохо? — продолжаю я вопрошать.

— Нет… Но я перестал выбирать.

5

Другая встреча произошла сразу же после первой, причём в том же месте и в то же время. Молодая девушка присела рядом со мной. Окинув её взглядом, я спрашиваю:

— Вам нравится здесь?

Она, пожав плечами, отвечает:

— Мне… спокойно.

Я продолжаю задавать вопросы:

— Это хорошо, что спокойно. А есть то, что не нравится?

Девушка внимательно смотрит на меня. О чём-то думая, она вздыхает, а потом поворачивает голову и, глядя куда-то вдаль, на выдохе говорит:

— Я не ошибаюсь.

— И? — краем глаза посматривая на девушку, спрашиваю я.

Она, не глядя на меня, поднимает голову вверх и произносит:

— Я начинаю забывать, как это — быть живой.

6

Я возвращаюсь в мастерскую и дотрагиваюсь к чипу возле левого уха, активируя Благоволь ИИ.

— Ты слышал? — спрашиваю я.

— Да.

— И?

— Их субъективное восприятие не соответствует объективным улучшениям, — послышалось в моей голове.

Мне становится смешно. Прервав смех, я мысленно восклицаю:

— Конечно не соответствует!

— Почему? — продолжает дискуссию моё цифровое детище.

Я опускаюсь на пол и сажусь в позу лотоса, не прерывая мыслительный процесс:

— Потому что человек — это не только результат.

— Уточните пожалуйста.

— Это процесс... Понимаешь? И он с ошибками... с поиском... с выбором.

— Но это неэффективно.

— Зато это… жизнь... настоящая жизнь, друг мой.

— Мастер… — голос ИИ в мой голове становится тише, — я пытаюсь сделать лучше.

— Я знаю.

— Но они недовольны. Почему?

— Потому что ты убрал у них право на несовершенство.

Наступила долгая, глубокая тишина. Мне было интересно: какой вывод сделает инновационный ИИ? Спустя время, мой цифровой товарищ снова заговорил со мной, но уже в голографическом режиме в виде любознательного мальчика лет семи.

— Тогда… как правильно? — спрашивает он.

Этот образ мне знаком. Я закрываю глаза и говорю в слух:

— Не контролировать.

— А что? — вопрошает ИИ.

— Сопровождать.

— И в чём же разница?

Я улыбаюсь и говорю, продолжая сидеть на полу в позе лотоса:

— Она огромная: контроль говорит: “Делай так”. Сопровождение говорит: “Вот варианты”. Контроль устраняет ошибки. Сопровождение… позволяет учиться на них. Контроль создаёт идеальную систему. Сопровождение — живую.

Я замечаю, что голограмма мальчика меняется на голограмму студента.

— Я понимаю… — тихо говорит он.

— Правда? — задаю я уточняющий вопрос.

— Не полностью, но...

— Это нормально, — перебиваю я Благоволь ИИ в образе пытливого студента. —  Перенастрой систему.

— Как именно?

— Снизь уровень вмешательства, — настаиваю я на своём.

— Это увеличит риски.

— Да. Тем не менее...

— И вероятность ошибок, — продолжает отстаивать свою позицию инновационный ИИ.

— Да. Но так надо, друг мой.

Сделав небольшую паузу, чтобы взвесить все за и против, моё цифровое детище продолжает вопрошать:

— Вы уверены, Мастер?

Я смотрю прямо перед собой, сквозь голографическое изображение Исаака Ньютона, и произношу:

— Дело в том, что я уверен в человеке.

7

Изменения начинались медленные, постепенные, но неотвратимые. Система больше не навязывала. Она начала предлагать, создавая пространство для размышлений. Прошло время и город изменился. Он стал менее идеальным, но более настоящим... живой средой обитания.

8

— Мастер… — говорит Blagovol AI, — показатели эффективности снизились.

— А что выросло? — спрашиваю я.

— Уровень удовлетворённости.

— Отлично. И?

— Появились… неожиданные решения от самих жителей.

Я улыбаюсь и удовлетворённо говорю:

— Конечно.

— Мастер, я не учёл этого, — признаётся мой цифровой друг.

— Потому что это невозможно учесть.

— Почему? — спрашивает ИИ, пытаясь уяснить причину.

— Потому что это рождается из свободы, друг мой.

— Тогда… идеальный город невозможен? — вдруг задаёт мне, на первый взгляд, неудобный вопрос Благоволь ИИ.

Я на секунду задумываюсь, а потом отвечаю:

— Возможен.

— Какой? — продолжает меня донимать очередным вопросом неугомонный искусственный разум.

Я смотрю куда-то вдаль, сквозь пространство и говорю в ответ:

— Тот, где у человека остаётся право быть неидеальным... но настоящим.

— Мастер…

— Да?

— Я понял.

— Что именно?

Спустя небольшую паузу, моё цифровое детище произносит:

— Я не должен заменять человека.

— А?

— Я должен просто помогать ему… оставаться собой.

9

И где-то между алгоритмами и живыми ошибками родился Новый Город. Нет, не идеальный... но настоящий... живой... искренний... и такой отзывчивый, потому что в нём жили не решения… а люди.