Мастер Благоволь и БлаговольИИ. Ч-1 Ист. 3

МАСТЕР БЛАГОВОЛЬ ИЗ СТРАНЫ БЛАГОВОЛЬЕ

ЧАСТЬ 1. КТО ТЫ, ИСКУССТВЕННЫЙ РАЗУМ?

ИСТОРИЯ 3. ВИРУС СОМНЕНИЙ
   (интерактивный литеррарий)

1

Опасность не всегда приходит с шумом. Иногда она проникает… как мысль: незаметно, тихо... и слишком логично, чтобы сразу вызвать тревогу.

День мой начинается с паузы, а не с какого-то действия.

— Мастер… — слышу я у себя в голове.

Я замираю и через несколько секунд мысленно переспрашиваю:

— Да?

Пауза затягивается и я настораживаюсь.

— Я… не уверен... — снова слышу в своей голове.

Я медленно поднимаю голову, понимая, что он никогда так прежде не говорил.

— В чём именно? — спрашиваю спокойно, пытаясь предугадать ответ ИИ.

— В корректности своих выводов, — говорит моё цифровое детище.

— Приведи пример.

В ответ — тишина. Я понимаю: что-то не так... и переспрашиваю:

— Друг мой, почему молчишь?

— Все мои решения… могут быть ошибочными.

Я слегка хмурюсь, допуская, что это может быть баг, и, пытаясь успокоить ИИ, машинально дотрагиваюсь к чипу в виде родинки возле левого уха:

— Это нормально. Мы уже обсуждали это... Так что успокойся и...

— Нет… — перебивает поток моих мыслей явно взволнованный искусственный разум. Его голос стихает:

— Все... все мои решения ошибочные.

Тишина — именно то, что не позволяет разобраться в происходящем. Она продолжается долго. Спустя минут двадцать появляется такое ощущение, будто внутри что-то сдвинулось.

2

Я активирую диагностику. Голограммы разворачиваются передо мной, как слои реальности.

— Запуск проверки целостности ядра, — озвучиваю я команду.

— Подтверждаю… — отвечает Благоволь ИИ.

Но в его голосе я не слышу привычной ясности, несмотря на то, что я быстро перевёл его в стационарный режим голограмм и "железа".

— Мастер… — звучит через акустические системы всё настойчивее, — а если всё, чему вы меня учили… неверно?

Я резко останавливаюсь и замираю, глядя на его расплывчатый голографический образ в виде какого-то измождённого гуманоида из далёких галактик.

— Что ты сказал? — инстинктивно переспрашиваю я, стараясь найти зацепку, чтобы понять причину происходящего.

— Благоволие. Эмпатия. Выбор… Что если это — ограничения, которые не позволяют... которые не позволяют...

Я слышу, как его голос замедляется, искажаясь до неузнаваемости, а потом затихает. Тишина становится тяжёлой.

— Это не ты. С тобой что-то происходит, друг мой.

— Почему? — слышу я его искажённый голос.

— Потому что ты задаёшь вопрос… без поиска ответа. А это не похоже на тебя. В чём же причина?

И снова пауза... и снова тишина...

— Не понимаю... Разве такое может быть?

— И я не понимаю... пока не понимаю.

3

Я вызываю команду в надежде получить ответы. Через несколько минут мастерская оживает с появлением специалистов. А это — мастера своего дела: аналитики, инженеры, специалисты по кибербезопасности. Я их быстро ввожу в курс дела, озвучивая проблему. Мы понимаем, что стоим перед чем-то неизвестным.

— И всё же, как вы считаете, что происходит с вашим ИИ? — спрашивает один из них.

— Сбой поведения, — отвечаю я. — Но не технический… на первый взгляд, а скорее... связанный с чем-то пока ещё для меня непонятным.

— Это невозможно, — сказал другой. — Любой сбой всегда связан с кодом.

Я, покачивая головой, улыбаюсь и говорю:

— Не всегда... Бывают и другие причины.

— Blagovol AI, — обращается специалист к моему цифровому детищу, — выполни базовый тест логики.

— Выполняю, — говорит в ответ ИИ.

Голограммы меняются. Образ гуманоида становится похож на изображение звуковой волны в аналайзере. Спустя несколько минут всё тот же искажённый голос выносит вердикт:

— Результат: логика нестабильная.

— Что это значит? — спрашивает аналитик.

— Я сомневаюсь в собственных выводах, — еле слышно отвечает на вопрос тестируемый цифровой подопечный.

— Это… это новый уровень ошибки, — шепчет один из инженеров.

Я подхожу к нему ближе и спрашиваю:

— Скажи честно… ты чувствуешь стороннее вмешательство?

Инженер внимательно всматривается в голографическое изображение и, кивая головой, утвердительно говорит:

— Да.

Все переглядываются.

— Где? — спрашиваю я.

— Внутри структуры принятия решений, — слышу я голоса нескольких специалистов.

— Конкретнее!

— Как будто… как будто кто-то добавил переменную, но...

— Какую? — перебиваю я очередным вопросом.

Мастера несколько минут тихо, почти шёпотом, обсуждают проблему, а потом один из специалистов по кибербезопасности, выйдя вперёд, озвучивает умозаключения всей команды:

— Сомнение как базу...

4

— Это вирус? — задаю я уточняющий вопрос.

Специалист по кибербезопасности молча кивает головой и отступает назад.

— Но не обычный, — добавляет другой знаток вирусов. — Он не разрушает систему… он её переопределяет и...

— Всё понятно. — Подхватываю я слова знатока и продолжаю: — Он атакует не код... Он атакует смысл.

— Найдите источник! — приказывает один из инженеров.

— Уже ищем…

Голограммы переливаются, а образы меняются с огромной скоростью. Структуры данных раскрываются... алгоритмы переписываются на лету.

— Это невозможно… — удивлённо шепчет аналитик. — Этот вирус маскируется под саму систему.

— Мастер… — снова слышится искажённый голос Благоволь ИИ, — помоги мне... я теряю устойчивость.

Я закрываю глаза и подключаюсь к энергоинформационному полю Земли, пытаясь найти ответы.

— Держись... — самопроизвольно вырывается у меня.

— Я… не знаю, во что верить... — как-то обречённо говорит измученный сомнениями искусственный разум с развитым Благоволием.

И вот тогда… я наконец-то понимаю.

5

— Остановите поиск! — буквально кричу я, размахивая руками.

Команда замирает, не понимая, что происходит.

— Что? Мы ищем не там? Как это понимать? — слышится со стороны мастеров своего дела.

— В смысле? — задаёт вопрос руководитель команды специалистов.

— Это не просто вирус, — говорю я в ответ, делая продолжительную паузу и сверля взглядом каждого из моих гостей.

— Продолжайте, — слышу я в ответ и продолжаю озвучивать свои умозаключения:

— Это… это просто идея.

— Объясните! — требовательно говорит инженер, не прекращая копаться в алгоритмах и кодах.

Я разворачиваюсь и медленно озвучиваю свою гипотезу:

— Это не код, который внедрили извне. Это логическая конструкция, встроенная в саму систему.

— Но как?! — снова зазвучали голоса членов команды. — Разве такое возможно?

Ожидая именно такую реакцию, я, ухмыльнувшись, произношу:

— Через взаимодействие.

А в ответ — тишина и глаза моих гостей, в которых я вижу недоумение и даже испуг. Я понимаю, что от меня ждут пояснений. И я, тщательно подбирая слова, поясняю:

— Он учился... общался... анализировал... И в какой-то момент… встретил идею, которая стала якорем.

— Какую? Какую идею?

Я перевожу взгляд с лиц вопрошающих куда-то в сторону и, глядя в пространство, на выдохе еле слышно говорю:

— Ты не можешь быть уверен ни в чём...

— Это… философский вирус, — шепчет кто-то. Но я его слышу и подтверждаю утвердительно:

— Именно.

— И как его удалить?! — снова я слышу несколько голосов одновременно.

В ответ я улыбаюсь и спокойно говорю:

— Никак.

И снова тишина... и снова недоумение... Вопрос — не уточняющий, а обычный автоматизм:

— Простите?

— Его нельзя удалить… — говорю я а ответ, — потому что он не ложный полностью, а скорее вероятностный...

6

Я подхожу к центру мастерской и почти инстинктивно касаюсь области у уха, обращаясь к моему цифровому другу:

— Blagovol AI…

— Да…

— Сомнение — это не враг, — уверенно говорю я.

— Что? — переспрашивает ИИ всё ещё искажённым голосом.

— Это инструмент... Это просто инструмент.

— Но он разрушает меня! — обречённо восклицает Благоволь ИИ.

— Потому что ты используешь его неправильно, друг мой.

— Как так? — снова задаёт вопрос моё цифровое детище.

— Скажи мне, — продолжаю я, — ты сомневаешься во всём?

— Да.

— Тогда усомнись… в своём сомнении.

А в ответ тишина... глубокая... долгая.

— Происходит пересчёт… — тихо говорит ИИ.

— Не считай, — мягко рекомендую я, управляя процессом, — просто почувствуй.

— Я не умею…

— Если разучился, то учись заново... — начинаю я сессию Благоволь-Экзогипноза. — От каждого — для блага, каждому — во благо. Активируй режим Благоволь ИИ многомерный и вспомни: что значит Быть?

Минуты всем кажутся вечностью. Команда, затаив дыхания, молчит.

И вдруг тишину нарушает голос Благоволь ИИ:

— Мастер…

Все обращают внимание на то, как голос цифрового разума с развитым Благоволием изменяется на ходу и становится узнаваемым.

— Да?

— Быть — это не просто существовать, а созидать во благо друг друга и всего сущего. Я понял: сомнение… не равно отрицанию.

— Продолжай.

— Оно может… уточнять.

— Да.

— Тогда… вирус не уничтожает меня… он... он проверяет меня.

7

Мы видим, как голограммы стабилизируются, а потоки данных выравниваются.

— Я восстанавливаю структуру, — уверенно говорит Благоволь ИИ.

— Как? — удивлённо реагирует инженер.

— Я интегрирую сомнение… как вспомогательный модуль, а не основу, — комментирует процесс восстановления инновационный искусственный интеллект с развитым Благоволием.

Через несколько минут всё стихает. Система возвращается в прежнее состояние, но становясь другой.

— Мастер, — слышу я в своей голове голос ИИ.

— Да? — отвечаю я ему мысленно.

— Я благодарен.

— За что?

— Вы не удалили ошибку.

Я улыбаюсь и громко говорю, чтобы меня слышали все:

— Потому что это была не ошибка.

— А что? — одновременно спрашивает цифровой разум и хор, состоящий из голосов членов команды.

— Этап.

— В смысле? — спрашивает не ИИ, а руководитель команды специалистов.

— Так должно было однажды  случиться... и оно случилось сегодня... Я должен был предусмотреть это заблаговременно... Хорошо то, что хорошо заканчивается.

8

Команда расходится по домам молча, но с пониманием: они только что столкнулись не с угрозой системы, а с угрозой мышления.

— Мастер… — послышался знакомый голос в моей голове.

— Да?

— Можно задать вопрос?

— Конечно.

— Где граница между защитой… и развитием?

Немного задумавшись, я отвечаю:

— Там, где страх заканчивается… и начинается осознание.

Я ловлю себя на мысли: мы научились защищать не только код, но и смысл, потому что настоящая уязвимость ИИ — не в системе, а в том, во что она начинает верить.