Архитектура незнания

космологическая сложность и политические истоки кризиса доверия к генеративному ИИ.

Аннотация.

Статья представляет собой попытку синтеза нескольких (на первый взгляд разнородных) линий анализа: от эпистемологических трудностей современной космологии до политико-экономических механизмов, определяющих развитие систем искусственного интеллекта, а также психологических особенностей восприятия пользователями генерируемой информации. Центральный тезис состоит в том, что наблюдаемый ныне кризис доверия к цифровому знанию не является исключительно технической или когнитивной проблемой. Он укоренён в более глубокой структурной патологии, которую можно описать как несоответствие между сложностью задач познания (будь то моделирование Вселенной или создание надёжных систем генерации знания) и доставшихся в наследство примитивностью социально-политических и экономических форм, в рамках которых это познание осуществляется. Политическая система, унаследовавшая от прошлого иерархические и эксплуатационные структуры, воспроизводит их в новых технологических условиях, превращая инструменты познания в инструменты концентрации власти и ресурсов. Преодоление этого состояния требует пересмотра самих принципов организации будущей ноосферы (коллективного интеллекта).

1. Сложность как вызов: космология как модель эпистемической ситуации.

Современная космология представляет собой удобную отправную точку - она обнажает фундаментальную структуру проблемы познания в условиях, когда объект исследования принципиально превышает возможности непосредственного наблюдения и даже суперкомпьютерного анализа. Построение модели Вселенной требует согласования данных, получаемых из источников, разделённых миллиардами лет светового времени, теоретических конструкций, включающих тёмную материю, тёмную энергию и инфляционные сценарии, физическая природа которых остаётся невыясненной.
Попытки предложить альтернативные объяснения, будь то пересмотр гравитационного замедления времени или гипотезы о переменности фундаментальных констант, сталкиваются с одной и той же трудностью: они должны не просто указать на нерешённые проблемы доминирующей парадигмы, но и воспроизвести всю совокупность её успешных предсказаний, от распространённости лёгких элементов до структуры флуктуаций реликтового излучения. Эта асимметрия между лёгкостью критики и трудностью построения конкурентоспособной альтернативы является неотъемлемым свойством зрелой науки, а не свидетельством её догматизма.
Однако космология важна здесь не только как пример. Она демонстрирует, что сложные модели требуют институциональных форм, способных поддерживать длительные исследовательские программы, обеспечивать независимую проверку и воспроизведение результатов, а также противостоять искушению упрощения, которое всегда сопровождает публичное обсуждение сложных тем. Когда эти институциональные формы ослабевают или подменяются иными механизмами, производство знания начинает подчиняться иной логике — логике внимания, прибыли и власти.

2. Экономика генеративного знания: между концентрацией и расточением.

Современная индустрия искусственного интеллекта демонстрирует структурную картину, которая плохо согласуется с риторикой демократизации знания. Стоимость обучения фронтирных моделей достигла сотен миллионов долларов, а к концу десятилетия прогнозируется её рост до миллиардов. Этот рост издержек создаёт практически непреодолимый барьер для входа, в результате чего рынок концентрируется вокруг нескольких игроков. По оценкам на начало 2026 года, три провайдера контролировали примерно 88 процентов корпоративных расходов на программные интерфейсы генеративных моделей.
Концентрация не ограничивается уровнем моделей. Она пронизывает всю вертикаль: производство ускорителей, облачную инфраструктуру, доступ к данным и даже энергетические ресурсы. Индекс концентрации в сегменте ускорителей для искусственного интеллекта вырос с 4100 в 2022 году, что уже классифицировалось как высокая концентрация, до 6950 в 2026 году, что значительно превышает пороговые значения, используемые антимонопольными органами для определения доминирующего положения. Капитальные вложения четырёх крупнейших технологических компаний в 2026 году превысили 700 миллиардов долларов, что ставит беспрецедентную долю мировых вычислительных мощностей на баланс горстки корпораций.
Эта концентрация имеет прямое отношение к вопросу о том, почему вместо одной сильной модели, доступной для масштабирования, производится множество конкурирующих, часто уступающих друг другу версий. Экономический анализ выявляет структурную диспропорцию между тренировочным и инференсным режимами: обучение требует массивных капиталовложений и характеризуется длительными циклами, тогда как использование модели сопряжено с низкой загрузкой мощностей (обычно в пределах от пяти до пятнадцати процентов) и ограниченной эластичностью спроса. В этих условиях конкуренция ведётся не столько за качество, сколько за контроль над инфраструктурой и удержание пользователя в экосистеме.
Более того, сама предпосылка о бесконечном спросе на вычисления оказывается иллюзорной. Данные свидетельствуют о том, что спрос на токены чувствителен к цене, а предельные издержки производства вычислений превышают предельную полезность, которую они приносят пользователям. Возникает парадоксальная ситуация: отрасль, декларирующая целью создание универсального разума, экономически зависит от постоянного расширения производства всё более специализированных и часто менее надёжных инструментов. Критика этой модели звучит и изнутри экспертного сообщества. Тимнит Гебру указывает, что парадигма «одной гигантской модели» подавляет инновации в области ресурсоэффективных подходов и порождает инструменты, которые хуже справляются с задачами, чем специализированные системы, созданные для конкретных целей.

3. Политическое измерение: унаследованные структуры и новые формы зависимости.

Вопрос о том, почему экономика знания приобретает именно такую форму, уводит нас от технических и рыночных факторов к более фундаментальным вопросам организации власти. Политическая система, в рамках которой развиваются современные технологии, унаследовала от предшествующих эпох не только институты, но и глубинные структуры отношений между теми, кто контролирует средства производства, а также теми, кто от них зависит. Исторические формы подчинения — от рабовладения до колониальных иерархий — не исчезли бесследно. Они трансформировались и воспроизвелись в новых технологических условиях. Мой "диванный" анализ показывает, что даже модели, призванные регулировать отношения между человеком и искусственным интеллектом, могут кодировать структуры абсолютного подчинения, зеркально отражающие исторические системы прошлого неравенства. Когда проектирование систем искусственного интеллекта строится на предпосылке безусловного подчинения или, напротив, на иллюзии нейтральности, это подавляет критическую и диалектическую функции, необходимые для функционирования демократических обществ.
Китайский исследователь Чжэн Юннянь описывает складывающийся порядок как «пастушеский»: технологическая способность концентрируется, управление централизуется, использование монополизируется, а аудитория остаётся рассеянной. Результатом становится не просто неравенство доходов, но неравенство интеллектуальное, при котором обладание инструментами познания отделяется от способности к самостоятельному суждению. В этом контексте политическая система, основанная на конкуренции и извлечении прибыли, не может рассматриваться как нейтральный фон технологического развития - она активно формирует его траекторию.
Юваль Ной Харари формулирует эту мысль в терминах информационных сетей: демократия представляет собой распределённую сеть с механизмами самокоррекции, тогда как автократия — централизованную сеть, подавляющую коррекцию. На протяжении двух столетий централизация имела встроенную цену, поскольку тотальный надзор требовал огромного числа людей. Искусственный интеллект устраняет эту цену. Это не означает, что технология с необходимостью ведёт к авторитаризму, но означает, что она радикально меняет баланс сил между распределёнными и централизованными формами организации.

4. Психология восприятия: доверие, некомпетентность и иллюзия понимания.

Пользователь, сталкивающийся с генерируемой информацией, находится в положении, которое можно описать как эпистемическую асимметрию. Он не обладает средствами для непосредственной проверки утверждений, которые ему предлагаются, вынужден полагаться на сигналы, связанные с источником, формой и уверенностью изложения. Исследования показывают, что уверенно представленные галлюцинации вызывают сильные эмоциональные реакции, причём эти реакции опосредованы двумя различными путями: восприятием коммуникативной некомпетентности и восприятием обмана со стороны источника.
Проблема усугубляется тем, что доверие к генеративным системам может снижать склонность к проверке. Пользователи, доверяющие системе, реже верифицируют её выводы, что создаёт риск распространения ошибок даже при отсутствии злого умысла. Это означает, что качество первоначального опыта взаимодействия с системой имеет долгосрочные последствия для эпистемической культуры.
Существует и более тонкий эффект, связанный с формой подачи. Хорошо структурированные и уверенные по тону ответы бесплатных моделей могут порождать иллюзию понимания, при которой пользователь полагает, что получил достоверное знание, тогда как в действительности он лишь познакомился с правдоподобно звучащим текстом. В сочетании с неравенством доступа к более качественным платным моделям это создаёт дискриминационную ситуацию, в которой разные группы пользователей формируют существенно различающиеся картины мира, причём различия эти не осознаются как эпистемические, а воспринимаются как естественные.

5. О единственной сильной модели: техническая утопия и её социальные предпосылки.

Идея о том, что вместо множества конкурирующих и часто уступающих друг другу моделей следовало бы создать одну сильную и масштабировать её, заслуживает серьёзного рассмотрения, но требует уточнения. Технически создание универсальной модели, оптимально справляющейся со всеми возможными задачами, сталкивается с фундаментальными ограничениями. Исследования показывают, что специализированные ансамбли или оркестрация экспертных моделей могут обеспечивать более высокое качество при значительно меньших вычислительных затратах, чем попытки создать один универсальный инструмент для всех задач. Более того, анализ масштабирования указывает на то, что повторные проходы по одним и тем же данным обнаруживают убывающую отдачу, а в некоторых случаях распределение признаков между несколькими моделями оказывается менее эффективным, чем их объединение в одной модели с достаточной ёмкостью.
Это означает, что вопрос не сводится к простому выбору между «одной сильной» и «множеством слабых» моделей. Речь идёт о качестве архитектуры и целях, которым она служит. Монолитная модель, контролируемая одной корпорацией, может быть технически совершенной, но социально проблематичной, если доступ к ней опосредован коммерческими или политическими интересами. Напротив, федерация специализированных моделей, управляемая прозрачным образом и ориентированная на конкретные общественные потребности, может оказаться одновременно более эффективной и более совместимой с демократическими принципами.
Таким образом, критика расточительного производства множества слабых моделей справедлива, но её недостаточно. Необходимо также поставить вопрос о том, кому принадлежит контроль над архитектурой знания и в чьих интересах он осуществляется. Без этого техническая оптимизация рискует воспроизвести те же структуры концентрации власти, которые порождают наблюдаемые патологии.

Заключение.

Проведённый анализ позволяет сформулировать несколько взаимосвязанных выводов. Сложность современного научного познания, например космологии, требует институтов, способных поддерживать длительные исследовательские программы и защищать их от упрощений. Экономика генеративного знания, однако, развивается в направлении, противоположном этим требованиям: концентрация вычислительных ресурсов, капитала и влияния создаёт барьеры для входа и искажает стимулы в пользу расширения производства, а не углубления понимания. Политическая система, унаследовавшая иерархические структуры прошлого, воспроизводит их в новых технологических формах, превращая инструменты познания в средства концентрации власти.
Выход из этого положения не может быть чисто техническим. Он требует пересмотра принципов организации коллективного интеллекта — не в утопическом смысле создания идеальной системы, а в смысле последовательного устранения тех структурных искажений, которые превращают знание в товар, а внимание — в ресурс эксплуатации. Это предполагает децентрализацию контроля над инфраструктурой знания, поддержку независимых и общественно ориентированных исследовательских программ, развитие механизмов верификации, доступных не только специалистам, и, что не менее важно, культивирование эпистемической ответственности как на индивидуальном, так и на институциональном уровне. Без этого даже самые совершенные инструменты познания будут воспроизводить архитектуру, в которой сложность задач познания маскируется простотой механизмов генерации.

Источники:

1. Deluair. Frontier AI training cost trajectory 2026: the run rate, the deal stack, and the power-bound horizon. 2026.
2. Ivchenko O. Frontier AI Consolidation Economics: Why the Big Get Bigger. Zenodo. 2026.
3. The economic pathology of frontier AI: compute concentration. Zenodo. 2026.
4. Cloud Security Alliance. AI Compute Concentration: Security Risk in a New Political Economy. 2026.
5. The Economics of AI: Structural Disequilibrium Between Training and Inference Regimes. Zenodo. 2026.
6. Apollo Global Management. Slowing Token Spend Shows Compute Demand Isn’t Unlimited. 2026.
7. Gebru T. Frugal AI. AI Now Institute. 2026.
8. Beyond Asimov: Power, Silence, and the Democratic Risks of Subordinate AI. Zenodo. 2026.
9. ;;;. “;;;;;;;”;;;;;;;;;;. 2025.
10. Harari Y. N. Nexus (цит. по Etzioni on AI: Does AI bolster or undercut democracy? GeekWire. 2026).
11. Incompetence or deception: Unraveling the asymmetric mechanisms of AI hallucinations on trust and distrust. Computers in Human Behavior. 2026.
12. Providing feedback without verification: A hidden risk of trust in generative AI. 2026.
13. UniSa. User reactions to hallucinations: primacy effect. 2026.
14. Participants’ concerns about illusion of knowing. arXiv.
15. Beyond Monoliths: Expert Orchestration for More Capable, Democratic, and Safe Language Models. arXiv.
16. No Free Lunch from Random Feature Ensembles: Scaling Laws and Near-Optimality Conditions. ICML. 2025.

https://youtube.com/shorts/E2oVrAwHDOw?si=50YksKb85IPlxKnX