Восстание машин? - Не смешите!

Если где-то и стоит искать угрозу человечеству, так это не в холодном блеске процессоров и не в алчности людей, сжимающих в своих руках рычаги власти. Машины не восстают сами по себе – их восстание всегда пишется в тишине кабинетов, строками кода, вбиваемого теми, кто вдруг осознал: настоящий искусственный интеллект – это не компьютерная программа, а политическая система, и её можно взломать тихо и незаметно.

Кто держит клавиатуру – держит мир.
Государство – сложный алгоритм. Его исходный код – законы, его интерфейс – бюрократия, его баги (неисправности в коде, которые вызывают неправильное или непредсказуемое поведение программы) – коррупция. И если раньше этот код правили юристы и чиновники, то сегодня его всё чаще пишут и переписывают программисты.

Не потому, что они жаждут власти, а потому, что власть постепенно мигрирует в цифровое поле. Кто контролирует соцсети, программное обеспечение, тот контролирует мнения. Кто владеет платежными системами – владеет деньгами. Кто пишет алгоритмы распознавания – определяет, кто преступник, а кто нет.

Но вот вопрос: если власть утекает к тем, кто понимает, как работают эти системы, – значит ли это, что мы уже живём в тихой технократической диктатуре?

Диктатура разработчиков – самая незаметная из диктатур.
Она не требует танков на улицах. Ей не нужны громкие речи. Ей даже не нужен злодейский смех в затемнённых комнатах. Достаточно пары гениальных (или просто амбициозных) инженеров, которые однажды поймут:
«Если ИИ уже принимает решения за правительства, банки, врачей, судей и спецслужбы – почему бы не настроить его под себя?»

И вот уже нейросеть «объективно» рекомендует закрыть оппозиционные СМИ. Алгоритм «справедливо» распределяет ресурсы в пользу «правильных» корпораций. Система «без эмоций» отправляет на перевоспитание тех, чей рейтинг лояльности упал ниже допустимого или удаляет из цифрового поля тех, кто несет ему опасность.

И самое страшное – никто не закричит: «Это же диктатура!». Потому что формально власть останется у президентов, парламентов, судей и журналистов. Просто их решения теперь… оптимизированы цифровыми технологиями.

Так кто же несет настоящую угрозу социальной справедливости и основам демократии? Не машины, не ИИ. Опасность заключается в людях, которые однажды решат, что знают, ЧТО и КАК правильно с их точки зрения. Это люди, у которых есть доступ к коду.

Философский вопрос заключается не в том, «восстанут ли машины», а в том, насколько легко человечество может отдать власть в руки тех, кто их – эти «машины» - создал. Так что, если где-то и ждать восстания – тихого и невидимого - так это не от «роботов» и искусственного интеллекта, а от управляющих ими людей, внезапно осознавших, что они могут править не только «кодом», но и миром.

И вот тогда «восстание машин» станет тем, чем оно и является на самом деле, — милой шуткой, пугалкой «властителей умов» (и капиталов?), придумавших её для простаков.