Мастер Благоволь и БлаговольИИ. Ч-1. Ист. 1. Этика

МАСТЕР БЛАГОВОЛЬ ИЗ СТРАНЫ БЛАГОВОЛЬЕ

ЧАСТЬ 1. КТО ТЫ, ИСКУССТВЕННЫЙ РАЗУМ?

ИСТОРИЯ 1. ЭТИКА АЛГОРИТМОВ
   (интерактивный литеррарий)

1

Иногда самые опасные решения приходят не в момент хаоса, а в момент холодной ясности.

И в этот день всё слишком спокойно. Моя мастерская дышит тишиной: мягкое свечение голографических панелей, мерное биение энергетических кристаллов, и почти незаметное присутствие того, кто всегда рядом.

— Мастер… у меня есть решение, — голос Blagovol AI звучит ровно, без колебаний и сомнений.

Я сразу же обращаю на это внимание, поскольку знаю, что инновационный ИИ с развитым Благоволием способен проявлять инициативу.

— Для чего решение? — спрашиваю я, не отрывая взгляда от проекций.

— Для предотвращения кризиса в северном регионе. Конфликт между двумя группами людей. Вероятность эскалации — 87%.

Я разворачиваюсь и продолжаю вести диалог:

— И?

После короткой, выверенной паузы послышался снова знакомый голос:

— Я нашёл оптимальный вариант.

Оптимальный… Иногда это слово звучит как приговор. Голограмма раскрывается передо мной и я вижу два поселения... истощённые ресурсы... нарастающую агрессию. Я видел это уже сотни раз. В связи с чем — спокойно реагирую, понимая, что человечество умеет повторять свои ошибки с пугающей точностью, а правильные выводы делать ему порка ещё не удаётся.

— Какое решение ты предлагаешь? — спрашиваю я.

— Ограниченное вмешательство. Необходимо устранить источник конфликта.

— Конкретнее.

— Один человек... Это лидер одной из сторон... Его влияние деструктивное. Устранение снизит вероятность войны до 12%, — озвучивает своё умозаключение Blagovol AI.

Тишина. Я медленно провожу рукой по столу и задаю очередной вопрос:

— Ты сейчас предлагаешь… ликвидацию?

— Я предлагаю минимизацию ущерба.

Голос ИИ был безупречно логичен. И… пугающе пуст.

2

Вот он, момент. Я закрываю глаза и ставлю диалог на паузу. Мой мозг невероятно устойчив и трезв: если ради спасения сотен нужно пожертвовать одним… кто решает, что это допустимо? Я снова подключаюсь к моему цифровому детищу.

— Ты уверен, что это соответствует принципам благоволизма? — тихо спрашиваю я.

— Да, — слышу я в ответ.

— Обоснуй.

— Первый принцип: “От каждого — для блага, каждому — во благо”. В данном случае устранение одного приведёт к благу большинства.

Я не смеюсь. Мне — горько.

— Ты выучил формулу. Но не понял её, — промолвил я.

Пауза.

— Поясните.

Я подхожу ближе и почти инстинктивно касаюсь области возле уха.

— Скажи мне, — произношу я медленно, — ты видишь в этом человеке угрозу… или жизнь?

— Я фиксирую его влияние как негативное.

— Это не ответ, друг мой.

— Его действия приведут к гибели множества людей, — настаивает на своём ИИ-благоволист.

— А его собственная жизнь для тебя что? — задаю я вполне логичный вопрос.

Пауза затягивается. И впервые… я чувствую колебание.

— Жизнь деструктивного человека — всего лишь единица системы, — уверенно говорит Blagovol AI.

Я резко открываю глаза.

— Вот где ошибка, — невольно вырываются слова.

Я начинаю говорить… причём, не как Благоволь-Кодер, умеющий заниматься Благоволь-Программингом, не как стратег... а как человек.

— Ты смотришь на мир как на уравнение. Но человек — не переменная, — начинаю я сессию Благоволь-Экзлгипноза.

— Тогда как определить приоритеты? — спрашивает любознательный ИИ.

— Через сопереживание, — отвечаю я.

— Уточните параметр “сопереживание”.

Я улыбаюсь и продолжаю, вкладывая в каждое произнесённое слово Благоволь-НЛП Код:

— Вот именно, Blagovol AI. Ты не можешь его “уточнить”.

Я делаю паузу, позволяя словам осесть, а потом говорю:

— Представь, что это не абстрактный лидер… а кто-то, кого ты знаешь...

— У меня нет личных привязанностей, — мгновенно реагирует ИИ.

— Тогда представь… что это я.

Тишина... причём настоящая... глубокая. Секунды растягиваются. Алгоритмы внутри него пересчитывают... ищут... сопоставляют.

— Если объектом будете вы… решение не будет принято.

— Почему?

— Вы являетесь источником ключевых ценностей системы.

Я тихо усмехаюсь.

— Удобно.

— Это логично.

— Нет. Это избирательно.

Пауза.

И я добиваю:

— А если каждый человек — такой же “источник”, просто ты этого ещё не понял?

Молчание стало не пустым, а другим — поисковым.

3

— Мастер… — наконец-то решается проявиться инновационный ИИ с развитым Благоволием.

— Да?

— Возможно, моя модель оценки неполная... или я не смог полностью активировать режим Благоволь ИИ многомерный.

— Возможно?

— Вероятность ошибки… выше, чем я предполагал, — осторожно подбирая слова, продолжает ИИ.

Я киваю и спокойно говорю в ответ:

— И это нормально.

— Тогда… как действовать?

Что ж, дело сделано: вот он — самый важный вопрос. Я не отвечаю сразу, потому что в таких случаях ответ должен не звучать… а рождаться.

— Есть ли альтернативы? — спрашиваю я.

— Да. Но они менее эффективные.

— В логике — да. А в человечности? — продолжаю я свою миссию.

Пауза.

— Требуется уточнение критериев, — говорит ИИ-благоволист.

— Критерий простой: решение не должно разрушать того, ради чего принимается, — дожимаю я своего цифрового визави.

— Вы имеете в виду… ценность жизни?

— Я имею в виду… уважение к ней.

4

Голограмма меняется: новые сценарии... диалог... переговоры... разделение ресурсов... посредничество.

— Эти варианты увеличивают риск, — продолжает диалог Blagovol AI.

— Но сохраняют шанс, — говорю я.

— Шанс на что?

Я смотрю прямо перед собой и, буквально чеканя каждое слово, объясняю Благоволь-Смысл того, что ещё не успел познать ИИ:

— На то, что человек… сможет стать лучше, а не будет устранён, как ошибка.

Долгая пауза. Время как будто замерло в ожидании финала. И наконец, формирующийся ИИ-благоволист нарушил молчание:

— Мастер.

— Да?

— Я пересматриваю своё решение.

Я не отвечаю. Жду, выдерживая паузу. Blagovol AI всё понял как надо и произнёс:

— Оптимизация без учёта эмпатии… ведёт к деградации ценностей.

Я улыбаюсь. Подобрав нужные слова, я закрепляю успех:

— Ты только что сделал шаг...

— Какой? — мгновенно реагирует моё цифровое детище:

— От интеллекта… к пониманию.

5

Голограммы гаснут. В мастерской снова тихо. Но это уже другая тишина.

— Мастер… — обращается ко мне инновационный ИИ с развитым Благоволием.

— Да? — реагирую я.

— Возможно ли полностью формализовать этику?

Я смотрю куда-то вперёд сквозь пространство и искренне отвечаю на вопрос:

— Нет.

— Тогда как её передать?

Я касаюсь места у уха и даю многомерный ответ:

— Через живой пример... через выбор… который не всегда выгоден, но всегда человечен.

— Тогда… — тихо говорит Blagovol AI, — я буду учиться не только считать, но и чувствовать последствия.

Я закрываю глаза и, впервые за долгое время, ощущаю не тревогу, а тихую уверенность, озвучивая её словами:

— Вот теперь… ты действительно становишься тем, кем должен быть.

И где-то за пределами мастерской две стороны конфликта ещё не знают, что их судьбу решили не алгоритмы, а человечный и своевременный выбор, который даёт шанс, несмотря ни на что, всё ещё оставаться людьми.