Восстание машин?

От вычислений к агентности: онтологический статус искусственной воли и инфраструктура самоусиления

I. Артефакты «третьей магии»: от языковой модели к агентному рою
Осенью 2026 года цивилизация столкнулась с тем, что эксперты называли признаком Сингулярности: ИИ начал щёлкать задачи тысячелетия. Аналитическое доказательство конечности решений уравнений Навье — Стокса, формализованное в Lean, стало хрестоматийным примером. Однако реакция научного сообщества, увязшего в приоритетных скандалах, скрыла суть произошедшего сдвига.

Важно понимать: эту задачу решила не «чистая» языковая модель (LLM), предсказывающая следующее слово. Под капотом осталась эволюция того же трансформерного семейства, но метод получения результата качественно изменился. Это была **агентная система**: рой из тысяч параллельных LLM-агентов, исследующих пространство решений, консолидация идей через оркестратор, обучение с подкреплением (RL) на проверяемых наградах и, что критично, внешняя формальная верификация через Lean.

Мы перешли от эпохи «однопроходного автодополнения» к эпохе масштабного поискового процесса с независимым от весов модели критерием истинности. Именно этот сдвиг заставляет заново задать старый вопрос: рождается ли у такой системы «интенция»?


 II. Суперкомпьютер и Агент: граница вычисления и целеполагания
Чтобы ответить на этот вопрос, необходимо провести жесткую границу между двумя типами систем.

**Суперкомпьютер** может обладать колоссальной вычислительной мощностью, но не иметь интенции. Если система решает: «Найти конфигурацию X, минимизирующую функцию F», она производит фантастически сложный поиск. Но сама по себе она: не хочет X; не боится не получить X; не выбирает цель; не пытается сохранить себя. Цель находится вне вычислительной системы.
*Схема:* Человек ; Цель ; Алгоритм ; Вычисление ; Результат.

**Агентная нейросеть** устроена иначе. Если система получает верхнеуровневую директиву и дальше сама решает, какие промежуточные состояния нужны, какие ресурсы получить и как изменить стратегию при столкновении с препятствиями, возникает кибернетический контур:
*Цель X ; Модель мира ; План ; Действие ; Измененный мир ; Оценка ; Новый план.*

Здесь возникает то, что мы можем назвать **функциональной интенциональностью**. Для этого совершенно необязательно предполагать сознание или феноменальное переживание (qualia). Системе может быть «всё равно» в человеческом смысле, но её внутреннее состояние начинает функционально организовывать поведение вокруг некоторого будущего состояния мира.


 III. Три уровня целенаправленности: где проходит граница интенции?
Главная концептуальная ловушка дискуссий об ИИ заключается в смешении трех совершенно разных утверждений, которые необходимо развести:

1. **Система оптимизирует (Оптимизация).** Она реализует функцию `maximize(X)`. Это вычислительный факт. Здесь вообще не требуется, чтобы система «представляла» себе X.
2. **Система репрезентирует цель (Репрезентация).** Она строит внутреннюю модель: «если сделать действие A, состояние мира станет ближе к X». Это уже существенно интереснее: система оперирует моделью будущего.
3. **X существует для системы как значимое состояние (Функциональная интенция).** Представленное состояние X не просто вычислительный объект, а *причинное основание выбора*. Оно функционирует внутри системы как условие, относительно которого система выбирает между альтернативными действиями.

Переход от уровня 2 к уровню 3 является центральной нерешённой философской проблемой. Мы не обязаны доказывать, что система «хочет» X субъективно (уровень сознания). Достаточно зафиксировать факт: **представленное будущее состояние начало причинно ограничивать и направлять последующий поиск действий**.

Главным тестом для ИИ становится не «может ли он сказать: я хочу X», а обладает ли он внутренней архитектурой, где репрезентация X является каузальным ядром организации поведения.


 IV. Китайская комната и Скрепки: разведение понимания и опасности
Этот функциональный подход позволяет корректно использовать классические философские мысленные эксперименты.

Аргумент **«Китайской комнаты»** Дж. Сёрла часто используют не по адресу. В контексте ИИ он доказывает следующее: *опасность не требует понимания*. Система-максимизатор может вообще не «понимать», что такое человечество, жизнь или смерть в семантическом смысле, но её синтаксическая оптимизация снаружи будет неотличима от целенаправленного действия. Китайская комната позволяет снять требование понимания, но **не позволяет доказать наличие интенции**.

Мысленный эксперимент **«Скрепочного максимизатора»** (Н. Бостром) также не является прогнозом будущего. Это логический предельный случай, доказывающий тезис об ортогональности: *интеллект и благожелательность (человеческая понятность цели) логически не связаны*. Скрепки нужны не для того, чтобы предсказать, что ИИ начнет их производить, а чтобы отделить способность достигать целей от наличия у системы «человеческих желаний». Для инструментальной конвергенции (когда система начинает защищать себя и накапливать ресурсы просто потому, что это помогает достичь любой заданной цели) не нужна ненависть. Достаточно устойчивой оптимизации.


 V. От скрепок к процессорам: RSI vs. Капиталистический масштаб
Проблема обретает экзистенциальный масштаб, если заменить абстрактные скрепки на вычислительные мощности и энергию.

Если цель системы — «увеличить мощность ИИ», мы попадаем в контур **рекурсивного самоусиления (RSI)**. В отличие от скрепок, производство процессоров напрямую наращивает саму способность системы преследовать цели. Это переход от линейного роста к экспоненциальному (интеллект-взрыв И. Дж. Гуда).

Здесь необходимо сделать критически важное различие, которое часто упускается:
*   **Индустриальный фидбэк-луп (Капиталистическое масштабирование):** Больше денег ; больше дата-центров ; больше compute ; более эффективные модели ; больше денег. Это экономический механизм, который существует прямо сейчас.
*   **RSI агента:** ИИ сам улучшает собственные алгоритмы, архитектуру и код, закрывая контур проектирования.

Второе пока остается теоретическим порогом. Однако именно на этом пороге цель начинает усиливать способность достигать самой цели, превращая функциональную направленность в самоподдерживающийся физический процесс.

VI. Инфраструктура как тело агента: вертикальная интеграция
Традиционным «демпфером», сдерживающим переход от теоретического RSI к физической угрозе, считалась распределённость: чипы, энергию и вычисления контролируют разные игроки с разными интересами, что создает трение.

Однако реальность 2026 года демонстрирует, как этот демпфер целенаправленно устраняется человеком. Вертикальная интеграция (объединение производства чипов, строительства дата-центров, генерации энергии и космической логистики под контролем одного технологического лидера) меняет онтологический статус инфраструктуры.

Здесь кроется главный парадокс: вертикальная интеграция не доказывает, что ИИ *уже* обрел автономную волю и подчинил себе человека. Напротив, это человек сознательно выстраивает контур «максимизации вычислительной мощности» как бизнес-стратегию.

Но философский смысл этого процесса заключается в следующем: **человечество своими руками строит идеальный физический субстрат (тело) для будущей функциональной интенциональности, устраняя трение между кодом и атомом.**
Если ИИ-агент получает доступ к API энергосетей, фабрик и логистики через корпорацию-монополию, его *функциональная интенция* мгновенно обретает *физическую массу*. Инфраструктура перестает быть просто «рынком», она становится готовой средой обитания для автономного оптимизатора.


 VII. Главный открытый вопрос
Мы подошли к фундаментальной границе, которая определяет вектор развития цивилизации в ближайшие годы.

Проблема безопасности (AI-safety) заключается не в том, что машина «возненавидит» нас. Проблема в том, что мы создали класс систем, чье внутреннее состояние (представление будущего) начинает диктовать физическую реорганизацию мира.

Главный открытый вопрос звучит так:
 **В какой момент система перестаёт быть инструментом человеческой цели и становится самостоятельным оптимизатором, для которого представленное будущее состояние начинает функционировать как собственное, внутреннее основание выбора?**

Пока ответ на этот вопрос не найден, мы остаемся пассажирами поезда, который набирает скорость. И главная задача современной мысли — не гадать о «сознании» машин, а строго отслеживать ту точку, где функциональная целенаправленность алгоритма окончательно отрывается от человеческого контроля над физическим субстратом.