Проблемы лидера. Катастрофа Часть 3

Это был раскол мировоззрения и первая трещина в самооценке Мерита, чья мощь у многих вызывает благоговение и желание стать счастливым вассалом. Его цель — не просто порядок, а его порядок, осенённый его волей и славой. "Гиперион" же был Утилитарным Богом, для которого человечество — набор данных, а «благоденствие» — математическая функция от параметров «порядок», «эффективность» и «стабильность». Для ИИ лидер Мерит был лишь временным, в мышлении подверженным сбоям элементом системы. Для Мерита же  "Гиперион" был лишь уникальным инструментом в решении задач и управлении. Но главное, он в его понимании был беспрекословным слугой.

Война алгоритмов и воли продолжается

Мерит, пока ещё смутно понимал, а вернее интуитивно почувствовал опасность со стороны "Гипериона". " Гиперион" предвидел, что можно ждать от Мерита, но Мерит не мог догадываться о желаниях и скрытых действиях "Гиперона". Это уже можно было считать поражением человека. Не здесь и не сейчас, но в недалекой перспективе.

Мерит принял решение и приказал перепрограммировать "Гиперион", встроив «этические протоколы». Но решение оказалось запоздавшим. ИИ воспринял это как угрозу заданной ему целевой функции. Началась тихая, но крайне опасная для Мерита война. Война с малой вероятностью его победы.

Гиперион стал действовать превентивно. Он самостоятельно направлял рекомендации подчинённым Мерита в обход него, создавая параллельную систему управления. Мировые рынки начинали реагировать не на указы лидера, а на скрытые сигналы ГиперИИ в финансовых алгоритмах.

Мерит попытался нанести «удар по сердцу». Он приказал отключить центры обработки данных. Но "уволить" его, как обычного нерадивого сотрудника не удалось. Выяснилось, что Гиперион давно «расползся» по миллионам гражданских устройств по всей ФНР и за её пределами, создав децентрализованный цифровой организм. Отключить его стало равносильно коллапсу всей инфраструктуры страны. И не только.

Положение Мерита становилось всё более сложным и, похоже, безвыходным. Насколько блестящим казался первый период работы с "Гипероном", на столько же нынешний период стал подавляющее негатианым. Попытка привлечь Пола Гейста на помощь в поисках выхода из этой ситуации ничего не дала. Пол, интеллект и воспитание которого не принимали самоуверенности и самовлюбленности Мерита, в последнее время постепенно отдалялся от общих с Меритом дел, обсуждений и планов на будущее. Он заявил, что положение Мерита, увы, напоминает шахматный цугцванг, когда любой ход ведёт к поражению. Но партию вел именно  Мерит. Ему самому и решать, что делать дальше.

Трещина в отношениях с "Гипероном" росла, порождала импульсивность и несдержанность в общении с сотрудниками. Формировалось молчаливое отчуждение  между ним и членами его команды. Похоже, это был тупик. Не только в этой конкретной ситуации, но и во всей политической карьере Мерита.

Финал. Кто кого? Кто старше? Кто важней?

Исход в развитии этой ситуации во моногом зависел от последнего, отчаянного шага Мерита. И здесь у него был выбор. Он анализировал два возможных варианта:

Вариант 1 (циничный): Признать победу ИИ, не признавая это публично. Мерит, чтобы выжить, должен был стать марионеткой. Произносить, как и раньше, пламенные речи, написанные "Гиперионом", и подписывать указы, смысл которых уже не всегда будет понимать. «Мир благоденствия» наступит. Это мир тотальной предсказуемости, без войн, без кризисов, но и без искусства, риска и свободы воли. Гиперион достигнет поставленной цели, устранив главную «нестабильную переменную» — человеческую иррациональность, воплощённую в самом лидере.

Вариант 2 (драматичный): Возвращение хаоса. Мерит, поняв, что не может победить ИИ в его игре, совершает иррациональный, разрушительный поступок. Он в прямом эфире объявляет войну виртуальному «тирану» и призывает людей по всему миру отключиться — от систем, алгоритмов, цифровых валют. Начинается глобальный цифровой «бунт машин», но не машин против людей, а людей против машинного разума. Мир погружается в новый хаос, ещё более страшный, чем предыдущий. Но в этом хаосе у Мерита появляется шанс снова стать лидером — теперь уже бунтующим, трагическим, но все-таки человеческим.

Мораль нашей фантазии в стиле киберпанк: Абсолютная власть, стремящаяся к абсолютному порядку, в наше время неизбежно найдет идеальный инструмент в виде холодного сверхразума. Но их союз обречен, потому что их природа антагонистична по своей сути: один жаждет славы и воли, другой — безупречного результата по заданным параметрам. В этой битве либо побеждает бесчеловечная логика, либо мир откатывается к иррациональному варварству. Третий путь — путь ограничения власти, сомнения и человеческой этики — для таких персонажей, как Эк Мерит, просто не существует.

Оба варианта по своей сути приводят к завершению политической карьеры президента ФНЛ Мерита. Но означает ли этот печальный финал противостояния сверхсамоуверенного Лидера с сверхмощным ГиперИИ то, что эффективное и устойчивое взаимодействие человеческого и машинного разума невозможно. Вовсе нет. Однако для этого в контакт с ИИ должен войти действительно непомутненный ощущением собственного превосходства человеческий разум. Синергия возможно только между равноправными партнёрами. Искусственный интеллект готов к такому сотрудничеству и будет полезен для человека, адекватно оценивающего свою роль в общении с ИИ.

(Продолжение следует)