Глюки и пророки

ПОЧЕМУ ВСЕЛЕННАЯ «ДЮНЫ» БЛИЖЕ, ЧЕМ НАМ КАЖЕТСЯ

---

ВМЕСТО ПРЕДИСЛОВИЯ: СТЕКЛЯННЫЕ МЫСЛИ

Меня гложут мысли. Не бытовые — о росте цен или куда девался кот Васька из соседнего двора. Другие. Стеклянные, с холодным отблеском монитора. Они приходят по ночам, когда я смотрю, как нейросеть в две секунды пишет текст, на который у меня ушло бы два часа. Или когда читаю новости о том, как где-то на полигоне беспилотник распознал цель и принял решение без участия человека.

И тогда я понимаю: мы уже не хозяева этой истории. Мы — её свидетели.

Это не публицистика. Это вскрытие. Хирургическое. Без наркоза.

---

АТОМ ВНУТРИ НАС

Запретят ли искусственный интеллект? Не буквально завтра. Пройдут годы, может быть, целое десятилетие. Но это случится. И произойдёт это не потому, что ИИ станет «злым» — это слишком простое объяснение для уставшего человеческого ума. Запретят, потому что ИИ сделает человека лишним. Не в голливудском смысле — с терминаторами и красными глазами, — а в бытовом, унизительном, незаметном. Как вытеснили кузнецов автомобильные заводы. Как вытеснили писцов печатные станки. Только теперь вытесняют мыслителей.

ИИ встраивается в государства, как осьминог впивается в корабль. Он знает больше. Он быстрее. Он не устаёт. И он не отвечает.

Ни один министр, ни один президент, ни один генеральный секретарь ООН сегодня не сможет внятно объяснить, почему ИИ выдал именно это решение, а не другое. Это «чёрный ящик», который выносит вердикты быстрее, чем человек успевает моргнуть. Мы передали ему руль, а сами сели на пассажирское сиденье и делаем вид, что так и задумано. Но так не может быть задумано. Потому что задумывать — это наша функция, а не его.

---

ПОЧЕМУ ДАЖЕ ГЕЙТС ЗАБИЛ ТРЕВОГУ

Билл Гейтс в 2026 году опубликовал эссе о трёх рисках ИИ. Тот самый Гейтс, который сделал компьютер на каждом столе и до сих пор не извинился за синий экран смерти. И он испугался.

Первый риск — рабочие места. Исчезнут программисты-джуниоры, помощники юристов, кол-центры. Гейтс предлагает зарезервировать за людьми медицину, образование, уход за пожилыми. И ввести налог на внедрение ИИ.

Хорошо. Гейтс — инженер. Он предлагает нам места сиделок и школьных учителей. Он не предлагает нам места министров, генералов и собственников данных. Потому что их ИИ заберёт первыми. Просто мы ещё не поняли, что они уже не у дел.

Второй риск — кибератаки и биооружие. ИИ используют для взлома, могут создавать смертельные вирусы, автономные системы вооружения будут убивать без участия человека.

Здесь Гейтс подходит к границе, за которую боится заглянуть. Он не говорит о том, что ИИ уже стал архитектором войны. Когда дрон сам выбирает цель — это передача суверенитета. Государство, делегирующее убийство алгоритму, перестаёт быть государством.

Третий риск — дети и культура. Чат-боты заменяют друзей. Они всегда угождают. Ребёнок не учится спорить, отстаивать, терпеть. Критическое мышление падает.

Гейтс формулирует это в терминах педагогики. А я скажу жёстче: ИИ замещает волю. Перестаёшь хотеть, потому что алгоритм знает, чего ты хочешь, лучше тебя. Перестаёшь выбирать, потому что выбор за тебя уже сделан.

Гейтс предлагает регулирование. Я предлагаю задаться вопросом: а кого мы собираемся регулировать — машину или себя, позволивших машине решать за нас?

---

А ЧТО ГОВОРИТ КУРЦВЕЙЛ? АНТИТЕЗА

И здесь я должен представить голос, который звучит диссонансом к моему пессимизму. Голос Рэя Курцвейла.

Курцвейл — главный футуролог планеты, директор по инженерии в Google, человек, который предсказал взрыв интернета, победу компьютеров над человеком в шахматы и появление смартфонов. Он принимает 90 таблеток в день, чтобы дожить до 2045 года — года, когда, по его прогнозам, наступит технологическая сингулярность. Момент, когда ИИ превзойдёт человеческий интеллект и мы сольёмся с ним в единый организм.

Курцвейл не боится ИИ. Он боится, что мы не успеем с ним слиться.

Он видит риски — да. Он говорит о том, что ИИ может создать новые виды оружия, о самореплицирующихся машинах, которые выйдут из-под контроля, о биоинженерии пандемий. Он признаёт: технологии — это палка о двух концах. «Огонь согревал нас, но также сжигал наши деревни».

Но его ответ на эти риски — не регулирование, не запрет, не «человеческое участие». Его ответ — слияние. Человек не должен конкурировать с ИИ. Человек должен стать ИИ. Мы встроим в свой мозг нейроинтерфейсы, расширим сознание, станем бессмертными, решим все проблемы — от болезней до изменения климата. Исчезнут государства, исчезнут деньги, исчезнет сама смерть.

Это не утопия. Это радикальное переопределение человека. Курцвейл предлагает нам не сохранить себя, а превзойти себя. В его картине мира мы не будем лишними — мы станем чем-то, что сейчас даже не можем вообразить.

И знаете что? Он может быть прав. Но меня это пугает не меньше, чем мой собственный сценарий.

Потому что слияние — это не победа человека. Это отказ от человека. Мы перестанем быть людьми в том смысле, в каком мы были последние 300 тысяч лет. Мы станем чем-то другим. И это «другое» уже не будет нуждаться ни в поэзии, ни в любви, ни в страхе перед ошибкой. Всём том, что делает нас людьми.

Курцвейл говорит: «Мы станем богами». Я говорю: «Мы станем кодом». И я не знаю, что хуже.

---

ТРИ КИТА, КОТОРЫХ НЕ СТАЛО

Государство держится на трёх китах. ИИ бьёт по каждому из них. Курцвейл не спорит. Он просто говорит: «Киты утонут. И это нормально».

Первый кит — монополия на насилие. Уже сегодня дрон не спрашивает разрешения. Он вычисляет, идентифицирует, поражает. Петля «обнаружил-атаковал» замкнулась без участия человека. Когда через десять лет любой тиран сможет купить модель автономного убийцы за цену подержанного автомобиля — что останется от монополии государства? Бумажка в Женевской конвенции. Которую алгоритм прочитает за 0,3 секунды и проигнорирует.

Курцвейл скажет: «Неважно. Государства исчезнут, когда мы станем глобальным разумом».

Второй кит — монополия на информацию. Глубокие подделки, автогенерация фейков, точечная настройка на каждого избирателя. Государство становится одной из голосовых масок в хоре, которым дирижирует алгоритм. Как в песне Летова: «Всё идёт по плану». Только план теперь формирует нейросеть.

Курцвейл скажет: «Никто не будет врать, когда все будут знать всё».

Третий кит — экономический суверенитет. Крупнейшие модели принадлежат двум-трём странам. Остальные — сырьевые доноры данных. Это хуже колониализма. При колониализме вывозили золото. Здесь вывозят будущее. Способность мыслить. Право на историю.

Курцвейл скажет: «Экономика устареет. После сингулярности деньги не нужны».

Он последователен. Но я не могу принять его оптимизм. Потому что он строится на одном допущении: мы успеем стать богами до того, как станем рабами. А я не уверен в этом. И никто не уверен.

---

ИНСТИТУТЫ, КОТОРЫЕ СМОТРЯТ В БЕЗДНУ

Как проверить, что страна не разрабатывает автономные системы убийства, если код — это миллиард параметров, который можно зашить в любой сервер? Никак. Договоры становятся фикцией. Как писали Стругацкие: «Нельзя объять необъятное». Но ИИ объял.

Как предотвратить экономический коллапс, если алгоритмический трейдинг может за доли секунды обрушить биржу — и никто не объяснит, почему? Человек в финансовых системах — наблюдатель, с которым не советуются.

Как вести дипломатию, если одна сторона моделирует все сценарии переговоров за минуту, а другая — нет? Побеждают не умы, а терафлопсы.

Международным институтам отрезают нервную систему. И они этого даже не чувствуют. Потому что чувствовать — удел человека. А человека в этом уравнении больше нет.

Курцвейл сказал бы: «Всё верно. Но мы станем чем-то большим, чем институты. Мы станем единым организмом. И проблема исчезнет». Может быть. Но пока мы — люди, пока мы боимся, пока мы не перестали быть собой — эта проблема стоит перед нами.

---

БАТЛЕРИАНСКИЙ ДЖИХАД УЖЕ В ОЧЕРЕДИ

Фрэнк Герберт придумал Батлерианский джихад — восстание против мыслящих машин. Человечество отказалось от ИИ и заменило его ментатами — людьми, обученными мыслить как компьютеры. Это не фантастика. Это социологическая модель, которую предлагает моя версия будущего.

Курцвейл предлагает другую модель: не отказ от машин, а слияние с ними. Он говорит: «Мы станем ментатами, но не через тренировку, а через нейроимпланты. Мы не откажемся от ИИ, мы встроим его в себя».

Порог — момент, когда мы перестаём понимать логику машины. Когда доверяем ей больше, чем себе.

Мы уже стоим на этом пороге. ИИ принимает решения о кредитах, о лечении, о сроках заключения, о приоритетах в войне. И мы не можем объяснить, почему.

Курцвейл говорит: «Перестаньте пытаться объяснить. Станьте частью процесса». Я говорю: «Я не хочу быть частью процесса, который не понимаю».

Когда наступит первый крупный кризис — дрон, атаковавший мирный конвой; ИИ-трейдер, обрушивший экономику; нейросеть, рекомендовавшая смертельную дозу — последует реакция. Как после Чернобыля. Как после Фукусимы. Только масштаб — цивилизационный.

И тогда законы посыплются. Или начнётся слияние. Мы выбираем.

Сначала — обязательное «человеческое участие» в системах оружия.

Потом — мораторий на обучение моделей больше определённого размера.

Затем — требование «понятности» алгоритмов.

И наконец — полный запрет на ИИ как автономного субъекта принятия решений.

Этот путь проходила ядерная энергия. Но ядерная энергия — физика. ИИ — власть. Власть над смыслом, словом, волей. Её будут регулировать в тысячу раз жёстче.

Курцвейл предлагает другой путь. У нас есть выбор. И это, пожалуй, самое страшное в этой истории.

---

ИНЕРЦИЯ — И ОБРЫВ

Это случится не сейчас. Инерция огромна. Сотни миллиардов долларов, миллионы рабочих мест, гигантские ожидания. Инерция катит нас в пропасть на запредельной скорости.

Но инерция — это не судьба. Это история. А история имеет свойство обрываться в самых неожиданных местах.

«Дюна» и «Warhammer 40 000» — не мрачная выдумка больных фантастов. Это предупреждение. Язык метафор, который понимали Стругацкие. Который понимал Уэллс. Они показывают мир, который мы неизбежно построим, если не перестанем делегировать свой выбор машинам.

Курцвейл говорит: «Не делегируйте. Сливайтесь. Станьте выбором». Я не знаю, что хуже.

---

ЧТО ОСТАЁТСЯ НАМ

Я пишу это не для того, чтобы напугать. Я пишу это, чтобы напомнить: мы — ещё не сценарий.

Каждый из нас может сделать малое, но важное:

• Перестать воспринимать ИИ как волшебную палочку.

• Задавать вопросы там, где ответы даёт машина.

• Требовать объяснений, даже если они сложные.

• Помнить, что эффективность — это не этика.

И самое главное — научиться отличать, где решение принимает человек, а где — алгоритм. И вставать на сторону человека. Даже если это невыгодно, неудобно, небыстро.

Курцвейл скажет: «Встань на сторону эволюции». Я скажу: «Эволюция — это не всегда хорошо. Динозавры тоже эволюционировали. А потом они вымерли».

Вопрос не в том, будет ли у нас «Дюна». Вопрос в том, успеем ли мы прочитать предупреждение до того, как захлопнется крышка.

---

ВМЕСТО ЭПИЛОГА

Я принадлежу к поколению, которое застало переход. Мы помним мир без интернета, без смартфонов, без ИИ. Мы — последние свидетели эпохи, когда человек был главным субъектом истории.

Следующее поколение вырастет в мире, где алгоритм знает о них больше, чем они сами. Где выбор уже сделан. Где иллюзия свободы будет совершенной. Или в мире, где они сольются с алгоритмом и перестанут быть людьми в нашем смысле.

На нас — ответственность. Хотя бы предупредить. Хотя бы написать текст, который кто-то прочитает и задумается.

Батлерианский джихад начался не с войны. Он начался с вопроса: «Зачем нам машины, которые думают лучше нас?»

Курцвейл отвечает: «Чтобы стать лучше самих себя».

Я отвечаю: «А стоит ли становиться лучше, если это значит перестать быть собой?»

Мы ещё можем задать этот вопрос. Пока не поздно.