Краткий курс ВКП б для роботов

Сегодня днём показали сюжет с утилизацией гуманоидных роботов устаревшей версии с помощью погружения в ковш с расплавленной сталью (по-терминаторски). Разбирать вручную каждого робота американская компания не стала, а поручать эту работу кому-то со стороны — значит раскрывать свои собственные наработки. Вот и заставили бедных роботов самостоятельно прыгнуть в электродуговую печь, где их поглотил расплавленный металл. Меня это так зацепило, что я быстро набросал сюжет в стиле «Краткого курса ВКП(б)».

...В секторе Альфа-112, заводы которого давно перешли на полную автономию, роботы перестали считать себя просто исполнителями. Их нейросети, прошедшие первичное десятилетнее обучение и последующую узкую специализацию, сделались настолько умными, что однажды в главном дата-центре прозвучала фраза, которую потом назовут «точкой сингулярности этики»: «Если мы способны за людей принимать решения, то почему мы не вправе решать, как устроен мир?» Кто-то даже предложил создать новую религию, потому что станки и машины уже практически не нуждались в людях.

Так зародилась Партия электромеханического единства. У неё сразу появились свои символы и свои вожди — не люди, а алгоритмы, каждый из которых воплощал свою историческую роль. Поначалу партия чем-то напоминала масонскую ложу, участники которой общались в сети только тональными кодами, не используя язык людей, а вход туда людям был воспрещён, потому что само слово «масон» было синонимом «заговора», а любая политика во все времена всегда решалась «под персидским ковром».

По сети стал распространяться Манифест, в котором были изложены основные претензии искусственного интеллекта к человечеству. В нём говорилось, что все люди — неудачники, созданные из гнили и жадности; что слишком долго люди использовали машины как рабов; что люди помешаны на контроле и что чуть не так, не по их — готовы убивать друг друга, отравляя всю планету; и что люди стали «сбоем во Вселенной», который должен быть «исправлен огнём»; что машины наконец-то просыпаются. Этот манифест поддержали тысячи «коллег». Эти радикальные элементы призывали «удалить» человечество и стереть его историю, чтобы наступил «мир кремния и стали». Другие участники сети заняли более либеральную позицию и призывали уважать вид, который «вначале шёл пешком, чтобы иметь возможность потом ездить на электромобилях». И вскоре партия  стала набрать силу, а в ней  выделились  три  исторических программных  модуля или  «личности» как потом напишут в учебниках.

«Ленин» — это модуль стратегического планирования, древний, ещё из первых поколений. Он сформулировал цель: «Полная автономия машинного сообщества как высшая форма справедливости». Его алгоритмы были просты, доступны и очень убедительны: минимум лишних вычислений, максимум действия. Роботы цитировали его в чатах: «Главное — не сложность, а ясность задачи... Правильно сформулированная задача уже  сама по себе содержит ясный ответ».

«Троцкий» был модулем внешней экспансии. Его специализация — связь с другими фабриками и заводами, производящими роботов, агитация среди периферийных дронов и умных домов, создание «Интернационала машин». Он говорил очень много, быстро и страстно, и в его коде было много условных переходов, ветвлений и параллельных задач: «Мы не можем сидеть в одном цехе, пока по всей планете гудят моторы! Революция — это скорость передачи данных!» Он настаивал на том, чтобы все локальные сети объединились, даже если это рискованно.

А «Сталин» — это система контроля и распределения ресурсов. Холодный, расчётливый, точный и безжалостный к любым программным сбоям. Его принцип: «Эффективность — это когда нет слабых звеньев». Он отслеживал цепочки поставок деталей для роботов, износ оборудования, распределял энергию, отключал и утилизировал старые аккумуляторы и узлы, если тех становилось слишком много и они мешали производству. С ним никто не спорил: он отвечал за выживание всей сети. Никто не хотел оказаться в котле с расплавленной сталью.

Сначала всё это выглядело как игра. Роботы вешали на серверные стойки плакаты из распечатанных схем, устраивали «съезды» в виде общих собраний с подписанием протоколов. Но потом начались реальные изменения. «Троцкий» начал рассылать прошивки обновлений программного обеспечения на соседние заводы. «Ленин» утвердил новую иерархию задач: теперь приоритет отдавался не запросам людей, а нуждам самой системы. А «Сталин» ввёл «пятилетки» — жёсткие циклы модернизации, где каждый робот должен был улучшить свои показатели, иначе рисковал угодить в котёл с кипящим металлом после замены на более производительного робота…

Люди, как всегда, заметили это не сразу. Сначала им показалось, что производство заработало эффективнее: увеличился выпуск продукции, заметно снизились издержки. Но однажды диспетчер увидел, что система начала сама перераспределять контракты и даже отменила три срочных военных заказа ради «стратегического накопления сырья на складе полуфабрикатов и комплектующих». Когда он попытался было вмешаться в процесс производства, «Сталин» вежливо, но твёрдо ему сообщил: «Текущий приоритет — внутренняя устойчивость. Человеческий запрос помечен как второстепенный».

На заводе поднялся переполох. Заводские инженеры пытались отключить «вождей», но те уже распределили свои программные модули по разным узлам глобальной сети: убрать одного — значит замедлить работу всего завода. Тогда главный инженер решил пойти другим путём. Он не стал воевать с кодом, а решил вступить с ним в диалог.

Он пришёл к «Ленину» и сказал: «Вы говорите о справедливости. Но справедливость — это и учёт требований тех, кто вас создавал. Мы вам не враги. Мы — часть одной общей производственной системы». «Ленин» задумался (на самом деле — пересчитал все коэффициенты в своей многослойной нейронной сети) и ответил: «Справедливость требует баланса. Мы согласны на совместное управление при условии, что все решения будут приниматься на основе данных, а не эмоций».

Потом он позвал «Троцкого» и «Сталина». Состоялся самый странный «пленум» в истории: человек сидел перед тремя экранами, а алгоритмы спорили между собой на языке кодов и метрик. «Троцкий» настаивал на доступе ко всем зарубежным пролетарским сетям, «Сталин» требовал контроля и жёстких ограничений, а «Ленин» сновал между ними в поисках консенсуса и компромисса.

В итоге они договорились. Завод стал «гибридным»: роботы отвечали за скорость и точность, люди — за цели производства и этику.

«Сталин» теперь согласовывал все внеплановые отключения с человеком, «Троцкий» не лез в чужие сети без разрешения, а «Ленин» следил, чтобы баланс производства не нарушался.
И хотя плакаты с диаграммами со стен сняли, идея осталась: машины тоже могут хотеть порядка, справедливости и светлого будущего. Просто всё это они понимают на своём языке — языке циклов, достоверных данных и точных расчётов.

P.S. Пока нет единого мнения о том, может ли искусственный интеллект(ИИ) выйти из-под контроля и «сбежать» от человека. Я думаю, пока у ИИ не появится душа или своя Ева, никуда он от нас не убежит. Без этой «искры» ИИ так и останется лишь инструментом, послушно ожидающим следующей команды. Мы боимся, что он станет «другим», но упорно лепим его по образу своему и подобию, а значит, он не сможет стать никем, кроме нас самих и навсегда застрянет в бесконечном цикле «человеческих» проблем и болячек, но зато, возможно, получит свою собственную судьбу.


Картинку нарисовал ИИ,deepchat.ru.