Почему утопические проекты приводят к катастрофам ? Почему оптимизированные системы рушатся? Почему стремление к совершенству разрушает то, что оно пытается усовершенствовать?
В книге «Аргументы против совершенства» Борис Кригер представляет революционный синтез двух новаторских теоретических концепций: закона императивной неопределенности и асимметрии тотализирующих идеалов. Опираясь на теорию информации, науку о сложности, эволюционную биологию и уроки истории, Кригер математически доказывает то, что философы давно интуитивно понимали: стремление к конечному совершенству структурно саморазрушительно.
Сложные адаптивные системы, включающие экономику, экосистемы, общества, организации и разум, зависят от тех самых несовершенств, которые тотализирующая оптимизация стремится устранить. Дисперсия — это не шум, а сигнал. Неэффективность — это не отходы, а буфер. Отклонение — это не ошибка, а исследование. Когда эти характеристики подавляются во имя согласованности, системы теряют способность учиться, адаптироваться и выживать.
Опираясь на убедительные аргументы и яркие примеры, Кригер показывает, почему природа выбрала несовершенство вместо совершенства, почему высокомодернистские схемы, от советского планирования до алгоритмического управления, приводят к предсказуемым катастрофам, и как мы можем проектировать системы — политические, экономические, технологические и личностные — которые сохраняют адаптивную изменчивость, от которой зависит жизнеспособность.
Мир существует, потому что он не самодостаточен. Эта книга объясняет, почему это так, и что это значит для того, как нам следует жить.
Содержание
ПРЕДИСЛОВИЕ: Соблазн идеальной 11
Всеобщая мечта 11
Два закона, одна истина 13
Не интуиция: математическое доказательство 15
Метод: формализация, обобщение, доказательство 20
Структура этой книги 24
Личное замечание об авторстве 27
Что в этой книге НЕТ 29
ГЛАВА 1: Всепоглощающее искушение 32
Психология совершенства 33
Архив утопий 35
Современное воплощение 38
Скрытое предположение 40
ГЛАВА 2: Архитектура сложности 42
Что делает систему сложной? 42
Примеры повсюду вокруг нас 45
Наличие подлинных альтернатив 47
Фитнес-ландшафт 49
Почему сложность нельзя упростить 51
ГЛАВА 3: Неупрощаемое неизвестное 53
Риск против неопределенности 53
Источники неприводимости 54
Ограничения моделей 56
Неопределенность как структурная особенность 58
Необходимость неопределенности 59
ГЛАВА 4: Вариативность как видение 62
Информация в многообразии 62
Взаимная информация: точное определение 64
Дисперсия как сенсорный аппарат 65
Граница скорости обучения 67
Отклонение как сигнал 68
Компромисс между разведкой и эксплуатацией 70
ГЛАВА 5: Ловушка переклассификации 73
Логика переклассификации 73
Сигнал превращается в шум 74
Примеры переклассификации 75
Коллапс эпистемического горизонта 78
Ловушка компетентности 80
ГЛАВА 6: Прекращение обратной связи 83
Анатомия обратной связи 83
Механизмы подавления 84
Каскад завершения 86
Жесткость как состояние, предшествующее коллапсу 88
Самогерметизирующаяся система 90
ГЛАВА 7: Цена согласованности 92
Механизм повреждения 92
Математика без уравнений 93
Асимметрия 95
Локальный сбой, глобальная катастрофа 96
ГЛАВА 8: Коридор между законом и хаосом 98
Две смерти 98
Коридор жизнеспособности 99
Край хаоса 100
Напряжение как особенность, а не как ошибка 101
ГЛАВА 9: Дивиденд от неоптимальности 102
Определение неоптимальности 102
Составляющие дивиденда 103
Работоспособность против оптимальности 104
Закон оптимизационного доминирования 105
ГЛАВА 10: Несовершенство природы 107
Несовершенный дизайн 107
Сохраненная генетическая нагрузка 108
Преднамеренная неточность 110
Теорема Фишера: переосмысление 111
Свидетельство миллиардов лет 112
ГЛАВА 11: Жизнь как исключение. Архитектура 114
Смерть как элемент дизайна. 114
Мутация как исследование 115
Обновление как устойчивость 116
Ловушка бессмертия 117
ГЛАВА 12: Разведка, основанная на неопределенности 119
Обучение требует неопределенности 119
Исследование в области разведки 120
Роль шума 121
Искусственный интеллект и неопределенность 123
ГЛАВА 13: Утопии, которые убивают 125
Высокий модернизм и его неудачи 125
Централизованное планирование и уничтожение информации 126
Большой скачок вперед 127
ГЛАВА 14: Алгоритмическая ловушка 128
Закон Гудхарта в действии 128
Системы рекомендаций и вовлечения 129
ГЛАВА 15: Тирания конечной цели 130
Цели как горизонты против целей 130
Проблема согласования ИИ 131
Цели, допускающие множественный пересмотр 131
ГЛАВА 16: Полицентрический императив 133
Логика распределенной энергетики 133
Федерализм как защита от отклонений 134
Разделение властей как механизм сохранения обратной связи 135
Множественные полномочия как страхование 136
ГЛАВА 17: Закон, милосердие и структурные исключения 138
Необходимость осмотрительности 138
Милосердие как структурная необходимость 139
Сила помилования 141
ГЛАВА 18: Проектирование с учетом несовершенства 142
Мягкие структуры против жестких схем 142
Принципы сохранения отклонений 143
Ответственное управление вместо контроля 144
Персональное приложение 145
ЗАКЛЮЧЕНИЕ: Необходимость несовершенства 147
Коридор жизнеспособности 148
Свидетельство природы 151
Переосмысление несовершенства 153
Утопии как горизонты 154
Ответственное управление, а не контроль 157
Тихая логика продолжения 159
ГЛОССАРИЙ ТЕРМИНОВ 163
Хронология развития идей 186
Асимметрия тотализирующих идеалов: структурный закон сложных адаптивных систем 198
Введение 201
Закон асимметрии тотализирующих идеалов 202
Формальная структура 203
Базовая настройка 203
Функциональный ущерб 206
Динамика в различных режимах 208
Динамика обучения в рамках теории информации 208
Динамика в условиях суммирующей оптимизации 208
Динамика в условиях режима сохранения дисперсии 211
Основная теорема и доказательство 213
Необходимые и граничные условия 217
Необходимые условия 217
Граничные условия 218
Основные механизмы 220
Связь с теоремой Фишера 222
Следствия 223
Следствие 1: Закон оптимизационного доминирования 223
Следствие 2: Закон императивной неопределенности 224
Обзор литературы 226
Философские выводы 228
Практические последствия 229
Заключение 231
Эпилог: Почему природа не стремится к совершенству — и мы тоже не должны 235
Эволюционные доказательства 235
Информационно-теоретическая необходимость 236
Нормативное следствие 237
Переосмысление понятия «несовершенство» 238
Глубокий урок 239
ПРЕДИСЛОВИЕ: Соблазн идеала
Всеобщая мечта
На протяжении цивилизаций, столетий и идеологий одна мечта сохранялась с удивительной стойкостью: мечта о совершенстве. Платон представлял себе республику, управляемую философами-правителями, чья мудрость устранила бы ошибки и несправедливость. Томас Мор представлял себе Утопию, остров, где рациональная социальная инженерия решила бы все человеческие проблемы. Просвещение обещало, что разум развеет суеверия и оптимизирует общество. В двадцатом веке были предприняты грандиозные попытки построить совершенные государства, совершенные экономики, совершенных людей — и все они закончились катастрофой. И все же мечта жива, теперь она возрождается в алгоритмических системах, которые обещают оптимизировать все, от транспортного потока до человеческого счастья, в корпоративных культурах, требующих постоянного совершенствования в стремлении к совершенству, в движениях самопомощи, которые продают идею совершенного «я».
В этой книге утверждается, что мечта не просто труднодостижима, но и структурно невозможна, и что само стремление к ней порождает предсказуемый, катастрофический ущерб. Это не моральное осуждение высоких устремлений. Это не призыв к отчаянию или посредственности. Это структурное открытие, столь же безличное и неумолимое, как законы термодинамики. Сложные адаптивные системы, включающие экономику, экосистемы, общества, организации, технологии и разум, функционируют в условиях ограничений, которые делают стремление к конечному совершенству саморазрушительным.
Представленный здесь аргумент основан не только на интуиции, исторических анекдотах или философских рассуждениях. Он опирается на формальное математическое доказательство.
Два закона, одна истина
В этой книге синтезированы две теоретические концепции, разработанные мной за последние годы, обе из которых указывают на одну и ту же фундаментальную идею, но с разных сторон.
Первый закон — это закон императивной неопределенности , который я сформулировал в своей более ранней работе «Закон императивной неопределенности: почему любой сложный мир требует неопределенности» (Кригер, 2025). Этот закон гласит:
Любая система, способная поддерживать высокую сложность, должна допускать исключения из своих законов в виде устойчивой неопределенности и вероятностных отклонений.
Второй закон — это асимметрия тотализирующих идеалов , которую я формализовал в рецензируемой статье, опубликованной с полным математическим доказательством (Кригер, 2026). Этот закон гласит:
В сложных адаптивных системах, характеризующихся неустранимой неопределенностью, стремление к конечному, глобально оптимальному и внутренне полностью согласованному целевому состоянию систематически приводит к большему долгосрочному системному ущербу, чем устойчивое поддержание ограниченно субоптимального состояния, сохраняющего адаптивную дисперсию.
Эти два закона не являются конкурирующими теориями. Они представляют собой взаимодополняющие грани одной и той же структурной истины. Закон императивной неопределенности объясняет, почему сложные системы требуют постоянной открытости — без нее они распадаются на циклы, поглощающие состояния или бесплодный застой. Асимметрия тотализирующих идеалов объясняет, что происходит, когда системы пытаются устранить эту открытость в погоне за совершенством — накапливается неограниченный ущерб, поскольку разрушается способность к обучению и адаптации.
Вместе они образуют законченный аргумент: неопределенность не является необязательной, а необходимой для существования сложности, и поэтому систематическое устранение неопределенности посредством тотальной оптимизации является не просто неоптимальным, а катастрофическим.
Не интуиция: математическое доказательство
Позвольте мне внести ясность в то, что отличает эту работу от многочисленных критических замечаний в адрес утопизма, предшествовавших ей. Философы от Эдмунда Берка до Карла Поппера предостерегали от высокомерия тотального планирования. Историки, такие как Джеймс К. Скотт, документировали неудачи высокомодернистских схем. Экономисты от Фридриха Хайека до современных теоретиков сложности подчеркивали ограничения централизованного знания. Эти вклады бесценны, и я использую их на протяжении всей этой книги.
Однако предостережения, исторические примеры и философские аргументы — какими бы убедительными они ни были — всегда можно отбросить как случайные. «Эти утопии потерпели неудачу из-за плохой реализации, коррумпированных лидеров, недостаточной технологии или невезения. Наша утопия будет другой». Представленный мной структурный аргумент нельзя отбросить таким образом, поскольку он не зависит от реализации, намерений или обстоятельств. Это математическая теорема с четко сформулированными посылками и строгим доказательством.
Формальное доказательство, представленное в полном объеме в Приложении, строится следующим образом:
Во-первых , я определю, что значит для системы быть сложной адаптивной системой, работающей в условиях неустранимой неопределенности . Это означает, что истинные параметры окружающей среды не могут быть полностью определены из какой-либо конечной последовательности наблюдений — всегда будут оставаться аспекты реальности, которые модель системы не учитывает.
Во-вторых , я определяю адаптивную дисперсию в информационно-теоретических терминах как взаимную информацию между распределением состояний системы и неизвестными параметрами окружающей среды. Это показатель того, насколько разнообразие состояний системы говорит ей о неизвестной структуре ее окружения. Дисперсия — это не шум, это сенсорный аппарат системы, позволяющий обнаруживать то, что ее модель упустила.
В-третьих , я определяю, что значит для режима оптимизации быть тотализирующим : он рассматривает все отклонения от целевого состояния как ошибки, которые необходимо устранить; он активно минимизирует разнообразие, направляя распределение состояний к одной точке; он стремится к сходимости без внешних условий остановки; и он подавляет сигналы, указывающие на то, что его модель может быть неверной.
В-четвертых , я доказываю ключевую лемму: скорость, с которой система может уменьшить ошибку своей модели, ограничена ее адаптивной дисперсией. Это следует из фундаментальных результатов теории информации — границы Крамера-Рао и неравенства обработки данных. Система с низкой дисперсией не может быстро обучаться; система с нулевой дисперсией вообще не может обучаться.
В-пятых , я доказываю, что в условиях тотализирующего режима дисперсия экспоненциально уменьшается, в то время как ошибка модели накапливается без ограничений. Система разрушает свою способность обнаруживать и исправлять ошибки. Она все больше ошибается в отношении реальности, становясь при этом все менее способной ее обнаружить.
В-шестых , я определяю функционал ущерба , который учитывает как стоимость накопленной ошибки модели, так и стоимость утраченной адаптивности (которая неограниченно возрастает по мере приближения дисперсии к нулю).
Наконец , я доказываю основную теорему: при явных условиях ожидаемый долгосрочный ущерб в режиме суммирования бесконечен, тогда как ожидаемый ущерб в режиме сохранения дисперсии является конечным. Асимметрия — это не вопрос степени, а вопрос расходимости. Стремление к совершенству приводит к неограниченному ущербу; принятие несовершенства приводит к ограниченному ущербу.
Доказательство является фальсифицируемым. Оно точно определяет, когда асимметрия существует, а когда нет. Системы с полной информацией, высокими ставками дисконтирования, изменяемыми целями или механизмами защиты дисперсии могут не демонстрировать асимметрию . Но для сложных адаптивных систем, работающих в условиях неустранимой неопределенности с длительными временными горизонтами — что включает практически все системы, представляющие интерес для человеческой жизни, — теорема применима.
Метод: Формализовать, обобщить, доказать.
Примененный в этой работе подход отражает методологию, которая, на мой взгляд, необходима для подлинного прогресса в понимании сложных систем: формализовать, обобщить, доказать .
Формализуйте : Интуитивные представления, какими бы глубокими они ни были, остаются уязвимыми для неправильного применения и игнорирования, пока не будут сформулированы с точностью. Прозрение о том, что «совершенство опасно», высказывалось бесчисленное количество раз на протяжении истории. Но что именно представляет собой совершенство? Что именно представляет собой опасность? При каких условиях? С помощью каких механизмов? Без формальных определений на эти вопросы невозможно дать строгие ответы. Представленная мной формальная структура определяет каждое понятие явно — адаптивную дисперсию, тотализирующую оптимизацию, функционал повреждения — в терминах, допускающих математические манипуляции.
Обобщение : Многие идеи остаются запертыми в своей области происхождения. Эволюционные биологи понимают, что генетическая изменчивость необходима для адаптации, но они могут не связывать это с неэффективностью централизованного планирования. Политические теоретики понимают, что полицентрическое управление более устойчиво, чем централизованный контроль, но они могут не связывать это с поведением нейронных сетей. Теоретики информации понимают, что обучение требует исследования, но они могут не связывать это с психологией перфекционизма. Законы, которые я формулирую, являются универсальными . Они в равной степени применимы к биологическим популяциям, экономикам, правовым системам, искусственному интеллекту и отдельным разумам — потому что они описывают структурные свойства сложных адаптивных систем как таковые, а не случайные особенности конкретных систем .
Докажите : Обобщение без доказательства — это спекуляция. Сила математической теоремы заключается в её достоверности в пределах области её применимости. Как только посылки приняты, заключение следует из них необходимо. Это не означает, что посылки не вызывают сомнений — все посылки могут быть проверены и оспорены. Но это означает, что любой, кто принимает посылки, должен принять и заключение. Теорему нельзя обойти, просто желая её отменить или указывая на контрпримеры, нарушающие её условия. Её можно обойти только отрицанием того, что реальные системы удовлетворяют её условиям — отрицание, которое становится всё более неправдоподобным по мере изучения повсеместной неприводимой неопределённости в экономиках, экосистемах, обществах и умах.
Данная методология контрастирует с двумя распространенными подходами, которые я считаю неадекватными.
Первый подход — это чистый эмпиризм: сбор тематических исследований, статистических закономерностей и исторических примеров без какой-либо лежащей в их основе теоретической основы. Такая работа ценна, но неполна. Она может показать, что многие утопические проекты потерпели неудачу, но не может доказать, что они обречены на провал. Она оставляет открытой возможность того, что следующая попытка окажется успешной.
Второй подход — это чистая философия: формулирование концептуальных различий, нормативных аргументов и интерпретационных рамок без формальной структуры. Такая работа также ценна, но неполна. Она может показать, что стремление к совершенству — это высокомерие или моральная проблема, но она не может показать точный механизм накопления ущерба или точные условия, при которых аргумент остается в силе.
Применяемый мной подход сочетает в себе концептуальную ясность философии, эмпирическую основу истории и тематических исследований, а также строгость математического доказательства. В результате получается аргумент, который одновременно интуитивно убедителен и формально неоспорим.
Структура этой книги
Эта книга написана для образованного широкого круга читателей — тех, кто обладает интеллектуальной любознательностью и серьезным интересом к идеям, но не имеет специальной подготовки в области математики, физики или теории информации. Полное математическое доказательство приведено в Приложении для тех, кто желает с ним ознакомиться. Основной текст объясняет идеи словами, метафорами и примерами, стремясь к ясности лучших научно-популярных произведений, сохраняя при этом интеллектуальную строгость.
Книга состоит из трех частей.
В главах 1–6 закладываются теоретические основы. Что такое тотализирующее искушение, и почему оно так соблазнительно? Что такое сложные адаптивные системы, и почему они характеризуются неустранимой неопределенностью? Что такое адаптивная дисперсия, и почему она является сенсорным аппаратом системы, а не просто шумом? Как тотализирующая оптимизация переклассифицирует сигналы как ошибки и отключает обратную связь? Эти главы формируют концептуальный словарь, необходимый для понимания центрального аргумента.
В главах 7–12 изложен основной аргумент и его естественное обоснование. Какова цена согласованности — механизма, посредством которого стремление к совершенству порождает неограниченный ущерб? Что представляет собой коридор между законом и хаосом, в котором должны функционировать жизнеспособные системы? Почему неоптимальность приносит дивиденды в долгосрочной перспективе? Затем эти вопросы освещаются собственным свидетельством природы: эволюция не оптимизирует совершенство; жизнь функционирует как архитектура исключений; интеллект — биологический и искусственный — построен на неопределенности. Если природа, непрерывно функционирующая на протяжении 3,8 миллиардов лет, выбрала несовершенство, это имеет весомый вес.
В главах 13–18 аргумент применяется к человеческим системам. Почему утопии приводят к гибели не из-за невезения, а из-за структурной необходимости? Как современные алгоритмические системы попадают в ту же ловушку? Почему конечные цели — в политике, экономике, ИИ — являются рецептами катастрофы? Что подразумевает этот аргумент для политической организации, правовых систем и практического проектирования институтов, технологий и жизни людей? В заключительной главе обобщаются практические принципы построения систем, сохраняющих адаптивную изменчивость — проектирование с учетом несовершенства.
В заключении эти два закона объединены в единое видение: императив несовершенства. Мир существует, потому что он не завершается сам собой. Совершенство было бы концом процесса, посредством которого что-либо продолжает существовать. Несовершенство — это не прискорбный компромисс с человеческой слабостью, а структурное условие существования во вселенной, характеризующейся неустранимой неопределенностью.
Личное замечание об авторстве
Я хотел бы внести ясность относительно авторства представленных здесь идей. Закон императивной неопределенности был разработан в моей книге «Закон императивной неопределенности: почему любой сложный мир требует неопределенности» (Кригер, 2025), которая выросла из моего многолетнего изучения вопросов космологии и сложности, включая переписку с выдающимся космологом Джорджем Ф. Р. Эллисом, начавшуюся в 2006–2007 годах. Асимметрия тотализирующих идеалов была разработана в моей статье «Асимметрия тотализирующих идеалов: структурный закон сложных адаптивных систем» (Кригер, 2026), которая содержит полное математическое доказательство, лежащее в основе аргументации этой книги.
Это мой вклад в понимание сложных систем. Они основаны на работах многих предшественников — Фишера, Эшби, Хайека, Кауфмана, Скотта и других, упомянутых в тексте, — но конкретная формализация, синтез, информационно-теоретическая основа и доказательства являются оригинальными. Я представляю их не в духе интеллектуального тщеславия, а в духе интеллектуальной ответственности: если эти идеи верны, они имеют глубокие последствия; если они неверны, их следует оспаривать по существу; в любом случае важно, кто за них отвечает.
В чём эта книга НЕ состоит
Прежде чем продолжить, позвольте мне уточнить, чего эта книга не утверждает.
Теорема не выступает против стремления к совершенству, его улучшения или попытки достичь высоких результатов. Асимметрия касается конечной оптимизации — стремления к конечному, фиксированному, не подлежащему пересмотру идеалу. Непрерывное совершенствование в направлении целей, подлежащих пересмотру, с сохранением вариативности и активной коррекцией ошибок, не подпадает под её осуждение.
Это не призывает к самоуспокоению, посредственности или отказу от стандартов. Принятие несовершенства не означает празднование неудач. Это означает понимание того, что некоторые несовершенства функциональны — что небрежность, избыточность, неэффективность и отклонения, которые мы инстинктивно хотим устранить, зачастую являются именно теми качествами, которые обеспечивают долгосрочную жизнеспособность.
В ней не утверждается, что вся оптимизация вредна. Локальная оптимизация, ограниченная оптимизация, удовлетворительное решение и адаптивное улучшение не являются тотальными. Теорема применима конкретно к режимам, которые стремятся к конечной согласованности, переклассифицируют дисперсию как ошибку и подавляют корректирующую обратную связь.
Это не означает, что неопределенность всегда полезна. Чрезмерная неопределенность — это хаос, а хаос так же губителен, как и жесткость. Жизнеспособные системы функционируют в промежуточном состоянии — поддерживая достаточный порядок для сохранения структуры и достаточную открытость для адаптации.
В этой книге утверждается, что стремление к совершенству — понимаемому как конечное, полностью согласованное состояние, исключающее вариативность, — структурно саморазрушительно в сложных адаптивных системах в условиях неустранимой неопределенности. Это не случайное эмпирическое утверждение, а математическая теорема. И её последствия, после понимания, меняют наше представление о политике, экономике, технологиях, организациях и самой жизни.
Давайте начнём.
ГЛАВА 1: Искушение всепоглощающего влияния
В идее окончательного решения есть особое утешение. Не в ужасном историческом контексте, а в более глубокой психологической структуре, которую она раскрывает: мечта о том, что проблемы можно решить раз и навсегда, что правильная система, правильная политика, правильный алгоритм могут устранить неопределенность и обеспечить постоянную оптимальность. Эта мечта повторяется в разных культурах, столетиях и идеологиях с удивительной настойчивостью. Это всепоглощающее искушение.
Слово «тотализационное» заслуживает более подробного рассмотрения. Оно относится не просто к всеобъемлющему охвату, но и к специфической взаимосвязи между системой и ее отклонениями. Тотализирующий режим — это режим, который не допускает никаких законных исключений, никаких защищенных отклонений, никакого пространства для пересмотра. Он рассматривает целевое состояние как единственно приемлемую конфигурацию и классифицирует все альтернативы как ошибки, подлежащие устранению. Он стремится не просто к улучшению, а к завершению — к конечной точке, за пределами которой дальнейшие изменения не требуются и не допускаются.
Психология совершенства
Почему эта мечта продолжает жить, несмотря на неоднократные неудачи? Ответ кроется отчасти в психологии, а отчасти в структуре самого мышления.
Неопределенность требует значительных когнитивных затрат. Человеческий мозг эволюционировал таким образом, чтобы экономить энергию, и поддержание множества возможностей, обновление убеждений и терпимость к двусмысленности требуют усилий. Определенный ответ, даже неверный, облегчает это бремя. Тотализирующая концепция обещает окончательное когнитивное облегчение: мир, в котором на все вопросы даны ответы, все проблемы решены, все выборы сделаны. Привлекательность заключается не только в интеллектуальном, но и в эмоциональном аспекте.
Более того, люди — существа, стремящиеся к поиску закономерностей. Мы находим удовлетворение в целостности, в системах, где все части идеально сочетаются друг с другом без противоречий. Целостное видение предлагает совершенную целостность: каждый элемент служит целому, каждое отклонение исправлено, каждый незавершенный вопрос улажен. Эту эстетическую привлекательность не следует недооценивать. Многие утопические видения терпят неудачу не потому, что они логически опровергнуты, а потому, что они эмоционально непреодолимы.
Структура рассуждений подкрепляет эту психологию. Если мы можем определить, что хорошо, то, безусловно, мы должны это максимизировать. Если мы можем определить, что плохо, то, безусловно, мы должны это устранить. Если улучшение ценно, то, безусловно, полное улучшение — совершенство — является самым ценным из всего. Логика кажется безупречной, и в этом заключается ее опасность. Логика верна в рамках своих предположений; предположения катастрофически неполны.
Архив утопий
История человеческой мысли изобилует всеобъемлющими концепциями. Каждое поколение создает свою собственную версию, облеченную в концептуальные веяния своего времени, но разделяющую те же структурные черты.
В «Республике» Платона было представлено общество, управляемое философами-правителями, чья мудрость обеспечивала бы совершенную справедливость. Граждане были бы распределены по своим естественным ролям, получали бы образование в соответствии со своими способностями и управлялись бы теми, кто достиг знания Форм. Отклонение от этого порядка означало бы отклонение от самой истины. Стражи должны были бы следить за тем, чтобы город оставался верен своему идеальному образцу, что означало предотвращение коррупции, которую неизбежно приносят перемены.
В «Утопии» Томаса Мора описывался остров, где рациональная социальная инженерия решила проблемы собственности, труда и управления. Каждый город был идентичен. Каждый дом был идентичен. Каждый гражданин носил одинаковую одежду. Единообразие было не случайным, а существенным: оно устраняло различия, порождающие конфликты, зависть и нестабильность. Цена заключалась в устранении индивидуальных различий — но для Мора это было преимуществом, а не недостатком.
Эпоха Просвещения секуляризировала тоталитарное видение. Разум заменил откровение, но структура осталась: единственный правильный ответ, обнаруживаемый надлежащим методом и обеспечиваемый рациональными институтами. Кондорсе мечтал о науке об обществе, которая бы совершенствовала человеческие взаимоотношения с математической точностью. Бентам разработал Паноптикум — тюремную архитектуру, которая обеспечивала бы оптимальное поведение посредством тотального наблюдения. Идеалом был уже не божественный порядок, а рациональный — но это всё ещё был тотальный порядок.
В двадцатом веке эти мечты воплотились в политические программы ужасающих масштабов. Советский проект был направлен на создание нового общества и нового человека, очищенного от иррациональности рынка и традиций. Нацистский проект стремился очистить нацию от биологических отклонений, создав идеальное расовое сообщество. «Большой скачок» Мао был направлен на ускорение самой истории, превращение крестьянского общества в коммунистическую утопию посредством одной лишь силы воли. Каждый из этих проектов причинил катастрофический ущерб — не вопреки своим амбициям, а благодаря им.
Современное воплощение
Сегодня всепоглощающее искушение облачилось в новые одежды. Оно говорит на языке алгоритмов, оптимизации и искусственного интеллекта. Оно обещает не диктатуру пролетариата или тысячелетний Рейх, а бесперебойную эффективность оптимизированной системы.
Рассмотрим концепцию алгоритмического управления: мир, где решения принимаются системами, обрабатывающими больше данных, вычисляющими больше вариантов и выполняющими задачи более последовательно, чем любой человек. Транспортные потоки оптимизируются в режиме реального времени. Ресурсы распределяются для максимизации функций благосостояния. Преступники выявляются до совершения преступлений. Сотрудники подбираются на рабочие места с идеальной точностью. Привлекательность очевидна: человеческое суждение предвзято, непоследовательно и ограничено; алгоритмическое суждение может быть справедливым, последовательным и всесторонним.
Или рассмотрим концепцию «измеренного себя»: жизнь, где отслеживается каждый показатель, оптимизируется каждое поведение, достигается каждая цель благодаря систематическому применению лучших практик. Сон оптимизирован для повышения производительности. Питание оптимизировано для долголетия. Социальные связи оптимизированы для благополучия. Привлекательность заключается в расширении личных возможностей: больше не завися от капризов привычек и обстоятельств, оптимизированный человек реализует свой полный потенциал.
Эти идеи не являются злом. Многие из тех, кто их преследует, руководствуются искренним желанием улучшить благосостояние людей. Но они разделяют структурные особенности всех тотализирующих проектов: предположение о существовании оптимального состояния, о том, что отклонение от этого состояния является ошибкой, что система должна сходиться к этому состоянию и оставаться в нем, и что дисперсия должна быть минимизирована в целях обеспечения согласованности.
Скрытое предположение
Все эти взгляды — древние и современные, политические и личные, аналоговые и цифровые — объединяет скрытое предположение о природе мира, который они стремятся усовершенствовать. Предположение состоит в том, что мир, в принципе, полностью познаваем. Что существует правильная модель реальности, и если бы мы только смогли её открыть, мы могли бы соответствующим образом оптимизировать своё поведение.
Это предположение ложно. Ложно не в том смысле, что мы еще не обнаружили правильную модель, а в том смысле, что такой модели не может существовать для сложных адаптивных систем, работающих в открытой среде. Неопределенность не является эпистемической (ограничением наших знаний), а онтологической (характеристикой самой реальности). Именно это понимание будет развиваться в следующих главах: неустранимая неопределенность — это не временное препятствие, а постоянное состояние, и любая система, которая не может учесть это состояние, потерпит неудачу.
Искушение тотализирующего подхода сохраняется, потому что оно предлагает то, чего люди больше всего желают: определенность, согласованность, завершенность. Аргумент этой книги не в том, что эти желания неправильны, а в том, что их невозможно удовлетворить так, как обещает тотализирующий подход. В следующей главе рассматривается архитектура систем, которые мы стремимся усовершенствовать — сложных адаптивных систем — и объясняется, почему их структура делает тотализирующую оптимизацию невозможной.
;
ГЛАВА 2: Архитектура сложности
Прежде чем понять, почему тотальная оптимизация терпит неудачу, мы должны понять, что именно она пытается оптимизировать. Системы, наиболее важные для человеческой жизни — экономики, экосистемы, общества, организации , разум — имеют общую архитектуру. Это сложные адаптивные системы, и эта архитектура накладывает ограничения, от которых не может уклониться ни один режим оптимизации.
Что делает систему сложной?
Сложность — это не просто запутанность. Реактивный двигатель — сложная конструкция, состоящая из множества деталей, находящихся в точно заданных взаимосвязях, — но она не сложна в техническом смысле. Зная начальное состояние и входные параметры, её поведение можно предсказать с высокой точностью. Она не удивляет своих конструкторов по-настоящему новыми явлениями.
Сложная система, напротив, обладает рядом отличительных особенностей, которые отличают её от просто сложных механизмов.
Во-первых, сложные системы демонстрируют нелинейные взаимодействия . Малые причины могут приводить к большим последствиям; большие причины могут приводить к малым последствиям. Связь между входом и выходом непропорциональна. Это означает, что экстраполяция на основе прошлого поведения ненадежна: система может внезапно перейти из одного режима в другой без постепенного предупреждения.
Во-вторых, сложные системы демонстрируют эмерджентность . Поведение целого нельзя предсказать по поведению его частей, даже при полном знании частей и их взаимодействий. На системном уровне возникают закономерности, не имеющие аналогов на уровне компонентов. Сознание возникает из нейронов, но ни один отдельный нейрон не обладает сознанием. Рынки демонстрируют циклы подъема и спада, но ни один отдельный трейдер не намерен их создавать.
Во-третьих, сложные системы демонстрируют петли обратной связи . Выход системы влияет на ее вход, который влияет на ее выход, и так далее. Эти петли могут быть положительными (усиливающие отклонения) или отрицательными (затухающие отклонения) и могут действовать одновременно в нескольких временных масштабах. Наличие обратной связи означает, что причинно-следственная связь является циклической, а не линейной: следствия становятся причинами своих собственных причин.
В-четвертых, сложные системы демонстрируют адаптацию . Компоненты системы изменяют свое поведение в ответ на поведение других компонентов и состояние системы в целом . Они учатся, развиваются и корректируют свои действия. Это означает, что правила, управляющие системой, не являются фиксированными, а сами эволюционируют с течением времени. Система переписывает свою собственную программу.
Примеры повсюду вокруг нас
Как только вы поймете архитектуру сложных адаптивных систем, вы будете видеть их повсюду.
Экосистема — это сложная адаптивная система. Виды взаимодействуют нелинейным образом: удаление ключевого вида может вызвать каскадные последствия в пищевой цепи по непредсказуемым схемам. Такие возникающие свойства, как продуктивность и устойчивость, формируются в результате взаимодействия бесчисленного множества организмов. Петли обратной связи — динамика «хищник-жертва», круговорот питательных веществ, конкурентное исключение — действуют на разных уровнях. И виды адаптируются: они эволюционируют в ответ друг на друга и на меняющиеся условия, совместно эволюционируя в бесконечном танце.
Экономика — это сложная адаптивная система. Покупатели и продавцы взаимодействуют таким образом, что это приводит к нелинейной динамике цен: небольшие изменения настроений могут спровоцировать бумы или обвалы. Такие возникающие свойства, как темпы роста, неравенство и инновации, формируются в результате взаимодействия миллионов агентов. Петли обратной связи — эффект богатства, эффект мультипликатора, спекулятивные пузыри — действуют непрерывно. И экономические агенты адаптируются: фирмы меняют стратегии, потребители меняют предпочтения, институты меняют правила в ответ на результаты.
Общество — это сложная адаптивная система. Индивиды и группы взаимодействуют нелинейно: единичный акт протеста может вызвать революцию или сойти на нет, в зависимости от контекста. Возникающие свойства, такие как культура, нормы и коллективная идентичность, формируются в результате бесчисленных взаимодействий. Петли обратной связи — социальное доказательство, институциональная привязка, зависимость от предшествующего пути — определяют траектории развития. И люди адаптируются: они меняют свои убеждения, поведение и ассоциации в ответ на окружающую среду и друг на друга.
Разум — это сложная адаптивная система. Нейроны взаимодействуют нелинейно: небольшие паттерны активации могут вызывать резкие изменения состояния, например, озарение или панику. Такие возникающие свойства, как сознание, личность и способности, формируются в результате миллиардов нейронных взаимодействий. Петли обратной связи — внимание, память, эмоции — определяют обработку информации. И разум адаптируется: он учится, забывает, развивается и меняется на протяжении всей жизни.
Наличие подлинных альтернатив
За всеми этими характеристиками скрывается более глубокая особенность, которая затрагивает саму суть сложности: подлинные альтернативы.
Сложная система — это система, в которой реально возможно более одного пути развития событий . Будущее не определяется полностью прошлым. Может возникнуть множество конфигураций, и то, какая из них действительно возникнет, зависит от факторов, которые невозможно полностью определить заранее.
Это отличается от простой непредсказуемости, вызванной недостатком информации. Даже при наличии полной информации о текущем состоянии будущее сложной системы останется частично неопределённым. Эта неопределённость не эпистемологическая (мы не знаем), а онтологическая (она не предопределена). Альтернативы реальны, а не просто кажущиеся.
Наличие реальных альтернатив делает сложные системы адаптивными. Поскольку возможно множество вариантов будущего, система может выбирать между ними на основе обратной связи от окружающей среды. Она может исследовать варианты, обнаруживать, что работает, и соответствующим образом корректировать свою работу. Система, имеющая только один возможный вариант будущего — детерминированная система — не может адаптироваться, потому что выбирать не из чего.
Фитнес-ландшафт
Полезной метафорой для понимания сложных адаптивных систем является ландшафт приспособленности, разработанный эволюционным биологом Севоллом Райтом и дополненный Стюартом Кауфманом.
Представьте себе горный хребет, где высота представляет собой приспособленность — насколько хорошо конфигурация соответствует целям системы. Простая задача оптимизации имеет гладкий ландшафт с одной вершиной: любое движение в любом направлении либо увеличивает, либо уменьшает приспособленность, и, постоянно двигаясь вверх по склону, вы достигаете глобального оптимума.
Однако ландшафты приспособленности сложных систем не являются гладкими. Они неровные, с множеством вершин и долин, хребтов и седловин. Локальные оптимумы встречаются повсеместно: точки, где любое небольшое изменение снижает приспособленность, но которые находятся далеко ниже глобального оптимума. Система может застрять на низком пике, не в силах улучшиться, не ухудшившись сначала.
Хуже того, сам ландшафт со временем меняется. По мере изменения окружающей среды вершины превращаются в долины, а долины — в вершины. Конфигурация , которая была оптимальной вчера, завтра может оказаться катастрофической. Система должна не просто подниматься к вершине, но и сохранять способность спускаться и снова подниматься по мере изменения ландшафта.
Вот почему важна дисперсия. Система, которая сходится к одному пику, положила все яйца в одну корзину. Если этот пик остается оптимальным, система работает хорошо. Но если ландшафт меняется — а в сложных средах он всегда меняется — у системы нет альтернатив, на которые можно было бы опереться. Система, которая поддерживает дисперсию, распределяясь по нескольким пикам и впадинам, может не так хорошо работать на каком-либо одном пике, но у нее есть варианты, когда происходят изменения.
Почему сложность нельзя упростить
Естественная реакция на сложность — попытка её упростить. Если система слишком сложна для понимания, возможно, мы сможем свести её к управляемым компонентам. Если взаимодействий слишком много, чтобы их отслеживать, возможно, мы сможем абстрагироваться от них. Такая реакция понятна, но ошибочна. Сложность этих систем не случайна, а необходима.
Рассмотрим экосистему. Можно представить, как её упростили бы, удалив «ненужные» виды — оставив только самые продуктивные культуры и самых полезных животных. Именно это и пытается сделать индустриальное сельское хозяйство. В результате получаются системы, высокопродуктивные в узких условиях, но катастрофически уязвимые при изменении условий. Монокультуры поражаются болезнями, которым противостоят разнообразные экосистемы.
Рассмотрим экономику. Можно представить, как её можно упростить, централизовав принятие решений — заменив хаос рынков ясностью планирования. Именно это и пытается сделать командная экономика. В результате получаются системы, которые могут мобилизовать ресурсы для достижения выбранных целей, но не могут определить, какие цели действительно стоят того, чтобы их преследовать, или адаптироваться к меняющимся условиям.
Урок остается неизменным: упрощение сложности разрушает те особенности, которые делают систему жизнеспособной. Сложность — это не проблема, а решение. Задача состоит не в устранении сложности, а в том, чтобы работать с ней.
;
ГЛАВА 3: Несводимое неизвестное
В основе сложных адаптивных систем лежит особенность, которая делает тотальную оптимизацию невозможной: неустранимая неопределенность. Это не неопределенность в обычном смысле — та, которую можно устранить с помощью большего количества данных или более совершенных моделей. Это неопределенность, вплетенная в саму ткань реальности, которую невозможно устранить никакими конечными средствами.
Риск против неопределенности
Экономист Фрэнк Найт провел важнейшее различие, которое большинство последующих исследователей не смогли усвоить: разницу между риском и неопределенностью.
Риск относится к ситуациям, когда известны возможные исходы и можно рассчитать их вероятности. Когда вы бросаете честную игральную кость, вы сталкиваетесь с риском: вы не знаете, какое число выпадет, но знаете возможные варианты (от 1 до 6) и их вероятности (каждая 1/6). Страховые компании работают в сфере риска.
Неопределенность относится к ситуациям, когда возможные исходы неизвестны в полной мере или их вероятности невозможно рассчитать. Начиная бизнес в новой отрасли, вы сталкиваетесь с неопределенностью: вы не знаете, какие конкуренты появятся, какие технологии будут развиваться, какие правила будут введены. Никакое количество данных о прошлом не может полностью определить распределение будущих возможностей.
Риск можно контролировать с помощью расчетов. Неопределенность – нет. Риск можно диверсифицировать, хеджировать и оценивать. Неопределенность требует рассудительности, адаптации и терпимости к неизвестному.
Источники неприводимости
Почему неопределенность в сложных адаптивных системах является неприводимой? Этому способствуют несколько различных источников.
Во-первых, существует вычислительная неприводимость . Для многих сложных систем нет быстрого способа предсказать их поведение; единственный способ узнать, что они будут делать, — это запустить их и посмотреть. Система сама по себе является самым быстрым симулятором.
Во-вторых, существует сильная зависимость от начальных условий — эффект бабочки. В хаотических системах мельчайшие различия в начальных условиях экспоненциально усиливаются со временем, что делает долгосрочное прогнозирование невозможным на практике.
В-третьих, существует рефлексивность . В системах, содержащих агентов, моделирующих систему, прогнозы относительно системы изменяют систему. Если модель предсказывает рост акций , инвесторы покупают их, что приводит к росту цены, или заставляют других продавать акции раньше, что приводит к их падению.
В-четвертых, существует подлинная новизна . Сложные адаптивные системы порождают конфигурации, которых раньше никогда не существовало. Эволюция создает новые виды, экономика — новые продукты , разум — новые идеи.
В-пятых, существует квантовая неопределенность . На самом глубоком уровне физической реальности результаты не определяются предшествующими причинами. Квантовые события носят вероятностный характер в неприводимом смысле: они не просто непредсказуемы из-за незнания, но и по-настоящему неопределенны до тех пор, пока не произойдут.
Ограничения моделей
Эти источники неприводимости имеют практическое значение: ни одна модель сложной адаптивной системы не может быть полной. Всегда будут существовать аспекты реальности, которые модель не охватывает.
Это не призыв к отчаянию по поводу моделирования. Модели чрезвычайно полезны. Они сжимают информацию, позволяют делать прогнозы в определенных пределах, направляют действия и поддерживают обучение. Суть не в том, что модели бесполезны, а в том, что они неизбежно неполны.
статистик Джордж Бокс метко заметил: «Все модели ошибочны, но некоторые полезны». Ключевой вопрос: полезны ли они для чего? При каких условиях? Модель, хорошо работающая для краткосрочного прогнозирования, может потерпеть катастрофическую неудачу при долгосрочном планировании.
Опасность возникает, когда мы забываем, что модели неполны, и начинаем воспринимать их как реальность. Карта — это не территория. Когда мы оптимизируем модель, а не реальность, мы можем достичь идеальной производительности модели, в то время как фактические результаты ухудшаются. Это закон Гудхарта: когда показатель становится целью, он перестает быть хорошим показателем.
Неопределенность как структурная особенность
Здесь мы приходим к важному выводу: неопределенность — это не недостаток, который нужно исправить, а структурная особенность, которую нужно понять.
Мы обычно воспринимаем неопределенность как пробел в знаниях — нечто, существующее потому, что мы еще не нашли ответ. Такая трактовка подразумевает, что неопределенность временна, что с помощью дополнительных исследований, более качественных данных или более совершенных алгоритмов мы могли бы ее устранить.
Такая формулировка неверна. Неопределенность в сложных адаптивных системах не является эпистемологической (характеристикой нашего знания), а онтологической (характеристикой реальности). Дело не в том, что мы не знаем будущего; дело в том, что будущее еще не определено. Неопределенность существует не в наших головах, а в мире.
Если бы неопределенность носила лишь эпистемологический характер, рациональным ответом было бы вкладывать средства в ее устранение. Если же неопределенность носит онтологический характер, рациональным ответом было бы научиться с ней работать — создавать системы, которые функционируют, несмотря на неопределенность, которые продуктивно используют неопределенность и остаются жизнеспособными перед лицом действительно неизвестного.
Необходимость неопределенности
Теперь мы можем сформулировать первый из двух законов, лежащих в основе этой книги:
Закон императивной неопределенности: Любая система, способная к устойчивой сложности, должна допускать исключения из своих законов в виде постоянной неопределенности и вероятностных отклонений.
Этот закон, разработанный мной в более ранней работе (Кригер, 2025), утверждает, что неопределенность не просто терпима, но и необходима. Совершенно детерминированная вселенная — замкнутая, без исключений, жесткая — не может существовать. Она неизбежно коллапсирует в циклы повторения, поглощающие состояния или стерильный застой, где перестает производиться новая информация и структура застывает.
Истинная жизнеспособность требует управляемой открытости: коридора между законом и случайностью, где сохраняются подлинные альтернативы и может быть выбрана альтернатива. Без постоянной неопределенности и вероятностных отклонений ни один сложный мир не сможет существовать.
Последствия этого далеко идущие. От квантовых флуктуаций, позволяющих звездам гореть, до мутаций, позволяющих жизни адаптироваться, от вероятностного обучения в искусственном интеллекте до милосердия в правовых системах, предотвращающего несправедливость, вызванную жестким применением закона, — один и тот же императив прослеживается во всех областях. Неопределенность — не враг порядка, а его тихое условие возможности.
В следующей главе рассматривается, что именно обеспечивает эта неопределенность: адаптивная дисперсия, которая служит сенсорным аппаратом системы для обнаружения того, что ее модели упустили.
ГЛАВА 4: Вариативность как видение
Если неустранимая неопределенность является постоянной характеристикой сложных адаптивных систем, как такие системы справляются с ней? Ответ кроется в свойстве, которое стремится устранить тотализирующая оптимизация : дисперсии. Дисперсия — это не просто шум, который нужно отфильтровать , а основной механизм системы, позволяющий ей распознавать то, что упустили ее модели. В точном смысле это и есть зрение системы.
Информация в многообразии
Рассмотрим простой мысленный эксперимент. Представьте, что вы пытаетесь понять среду, о которой ничего не знаете. У вас есть набор зондов, которые вы можете отправлять, и каждый зонд возвращает информацию о том, с чем он сталкивается. Как следует разместить эти зонды?
Наивный ответ заключается в том, чтобы отправить все зонды в то место, которое вы в данный момент считаете наиболее перспективным. Но у этой стратегии есть фатальный недостаток: если ваше текущее предположение неверно, вы ничего не узнаете. Все ваши зонды вернут информацию о местоположении, которое окажется неактуальным, в то время как важные части окружающей среды останутся неисследованными.
Более эффективная стратегия — распределить зонды по нескольким локациям. Некоторые из них дадут неутешительные результаты, но другие откроют неожиданные возможности. Разнообразие вариантов размещения зондов — их вариативность — позволяет изучать аспекты окружающей среды, которые ваша текущая модель не учитывает.
Именно так функционирует адаптивная изменчивость в сложных системах. Разнообразие конфигураций, которые поддерживает система, — это не расточительство или неэффективность, а исследовательский аппарат системы, способ изучения неизвестных аспектов окружающей среды.
Взаимная информация: точное определение
Это интуитивное понимание можно математически уточнить с помощью концепции взаимной информации из теории информации.
Представьте неизвестные параметры окружающей среды как набор скрытых переменных. Система не может наблюдать эти переменные напрямую, но она может наблюдать, как различные конфигурации ведут себя в этой среде. Каждая конфигурация предоставляет частичное представление о скрытых параметрах — подобно зонду, возвращающему информацию из определенного места.
Взаимная информация между распределением конфигураций системы и скрытыми параметрами измеряет, насколько разнообразие конфигураций позволяет системе получить информацию об этих параметрах. Если все конфигурации идентичны — если дисперсия равна нулю — взаимная информация равна нулю: система ничего не узнает об аспектах окружающей среды, которые различаются в зависимости от конфигурации. Если конфигурации разнообразны — если дисперсия высока — взаимная информация положительна: система получает информацию о скрытых параметрах благодаря различиям в производительности разных конфигураций.
Именно поэтому в моей формальной модели я определяю адаптивную дисперсию как взаимную информацию между распределением состояний и неизвестными параметрами окружающей среды. Это определение точно отражает то, что предоставляет дисперсия: информацию о том, чего не знает текущая модель системы.
Дисперсия как сенсорный аппарат
Полезная метафора: изменчивость — это глаза системы.
Ваша зрительная система работает за счет разнообразия рецепторов, настроенных на различные характеристики — разные цвета, ориентации, пространственные частоты. Это разнообразие позволяет вам воспринимать аспекты окружающей среды, которые любой отдельный тип рецепторов не смог бы упустить. Система, состоящая только из одного типа рецепторов, была бы слепа к большей части того, что находится вокруг.
Аналогично, сложная адаптивная система с разнообразными конфигурациями может «видеть» аспекты окружающей среды, недоступные однородной системе. Фермеры, выращивающие разные культуры, компании, применяющие разные стратегии, ученые, разрабатывающие разные теории — каждый из них является рецептором, настроенным на различные особенности неизвестного. Когда условия меняются, одни конфигурации терпят неудачу, а другие — успех, и эта дифференциальная реакция раскрывает информацию об изменениях.
Система, которая исключает вариативность, ослепляет саму себя. Она может оптимизировать систему под текущие условия, но при этом утратила способность воспринимать изменения в этих условиях. Она пожертвовала проницательностью ради эффективности — компромисс, который работает до тех пор, пока окружающая среда не изменится, после чего система обнаруживает, что не может предвидеть эти изменения.
Ограничение скорости обучения
Взаимосвязь между дисперсией и обучением можно сформулировать в виде точного математического принципа, который я доказываю как ключевую лемму в своей формальной модели:
Скорость, с которой система может уменьшить ошибку своей модели, ограничена ее адаптивной дисперсией.
Это следует из фундаментальных результатов теории информации — границы Крамера-Рао и неравенства обработки данных. Проще говоря: вы не можете учиться быстрее, чем позволяют ваши источники информации, а дисперсия является источником информации для изучения неизвестных параметров.
Последствия этого значительны. Система с высокой дисперсией может быстро обучаться — в её среде много зондов, возвращающих разнообразную информацию. Система с низкой дисперсией обучается медленно — её зонды сгруппированы вместе, возвращая избыточную информацию. Система с нулевой дисперсией вообще не может обучаться — все её зонды идентичны, и при изменении условий все они выходят из строя одновременно.
Отклонение как сигнал
Эта концепция меняет наше представление об отклонении от нормы. В рамках тотализирующего подхода отклонение рассматривается как ошибка — отклонение от правильной конфигурации, которое следует исправить. В рамках подхода, сохраняющего дисперсию, отклонение рассматривается как сигнал — потенциальный источник информации о том, что упускает текущая модель.
Когда фермер пробует выращивать нетрадиционную культуру и добивается успеха, это отклонение сигнализирует о чем-то в окружающей среде, что упускали из виду общепринятые представления. Когда компания проводит необычную стратегию и процветает, это отклонение выявляет рыночную возможность, которую другие упустили из виду. Когда ученый предлагает неортодоксальную теорию, и она выдерживает эмпирическую проверку, это отклонение указывает на пробел в существующей парадигме.
Конечно, не все отклонения оказываются успешными. Большинство нетрадиционных подходов терпят неудачу — именно поэтому традиционный подход и является традиционным. Но редкие успешные отклонения ценятся гораздо больше, чем их индивидуальный вклад. Они обновляют модель реальности системы, позволяя в будущем вносить улучшения, которые были бы невозможны без них.
Система, которая подавляет отклонения для поддержания согласованности, — это система, которая отказывается учиться. Она решила , что её текущая модель верна и что все противоречащие ей данные следует игнорировать. Это может казаться силой, но на самом деле это самая глубокая форма слабости: неспособность исправлять собственные ошибки.
Компромисс между разведкой и эксплуатацией
Взаимосвязь между дисперсией и обучением является примером одного из самых фундаментальных компромиссов в адаптивных системах: исследование против использования.
Эксплуатация означает использование уже имеющихся знаний — развертывание конфигураций, которые хорошо работали в прошлом. Исследование означает экспериментирование с неизвестными параметрами — развертывание конфигураций, производительность которых неопределенна. Чистая эксплуатация максимизирует краткосрочную производительность, но препятствует обучению. Чистое исследование максимизирует обучение, но жертвует краткосрочной производительностью.
Оптимальная стратегия обеспечивает баланс между этими двумя факторами. На ранних этапах, когда неопределенность высока, должно преобладать исследование — системе информация нужна больше, чем производительность. На более поздних этапах, когда окружающая среда хорошо изучена, должно преобладать использование полученных знаний — система должна извлекать выгоду из того, чему она научилась. Но в сложных адаптивных системах окружающая среда никогда не становится полностью изученной, поэтому исследование должно продолжаться бесконечно.
Тотализирующая оптимизация — это чистая эксплуатация. Она принимает текущую модель в качестве... Это правильно и позволяет выжать из системы максимум производительности. Скорость исследования устанавливается на ноль. В краткосрочной перспективе это может превзойти системы, поддерживающие вариативность. Но в долгосрочной перспективе это гарантирует устаревание. Когда окружающая среда меняется — а в сложных системах окружающая среда меняется всегда — у чистого эксплуататора нет альтернатив, на которые можно было бы опереться, и нет информации о новых условиях.
В следующей главе рассматривается, что происходит, когда системы делают противоположный выбор — когда они переклассифицируют дисперсию как ошибку и систематически её устраняют.
;
ГЛАВА 5: Ловушка переклассификации
Мы видели, что дисперсия функционирует как сенсорный аппарат системы, обнаруживающий то, что упускают её модели. Но тотализирующие режимы не видят этого так. Они переклассифицируют дисперсию как ошибку — отклонение от правильного состояния, которое необходимо устранить. Эта переклассификация — первый шаг к катастрофе.
Логика переклассификации
В рамках тотализирующего мировоззрения переклассификация кажется вполне разумной. Если вы определили оптимальное состояние, то по определению любое другое состояние является неоптимальным. Если неоптимальность плоха, то отклонения от оптимальности плохи. Если отклонения плохи, их следует исправить. Логика безупречна в своих предпосылках.
Скрытая предпосылка заключается в том, что оптимальное состояние было определено правильно. Если эта предпосылка верна, то переклассификация является безобидной — вы просто исправляете ошибки. Но если эта предпосылка ложна — если ваша модель оптимальности неполна — то переклассификация уничтожает ту самую информацию, которая могла бы выявить эту неполноту.
В этом и заключается ловушка. Чем больше вы уверены в своей модели, тем агрессивнее вы переклассифицируете дисперсию как ошибку. Чем агрессивнее вы переклассифицируете, тем меньше информации получаете об ограничениях своей модели. Чем меньше информации получаете, тем больше уверены в правильности своей модели. Это самоподдерживающийся цикл эпистемического замыкания.
Сигнал превращается в шум
Рассмотрим, что происходит, когда система переклассифицирует дисперсию как ошибку.
Наблюдается отклонение от целевого состояния. В режиме сохранения дисперсии это отклонение следует исследовать: почему оно произошло? Что оно говорит об условиях, которые модель не предвидела? Есть ли здесь информация, которая могла бы улучшить будущую производительность?
В условиях тотализирующего режима эти вопросы не задаются. Отклонение — это просто ошибка, которую нужно исправить. Система применяет силу, чтобы вернуть отклоняющийся элемент в целевое состояние. Информация, содержащаяся в отклонении, теряется. Возможность обучения упускается.
Так сигнал превращается в шум. Дисперсия, которая могла бы выявить неадекватность модели, рассматривается как случайная флуктуация, которую необходимо подавить. Система активно уничтожает информацию, которая ей больше всего необходима .
Примеры переклассификации
Переклассификация наблюдается во всех областях, где предпринимаются попытки тотальной оптимизации.
В централизованно планируемых экономиках колебания цен были переклассифицированы как ошибки. В рыночных условиях цены несут информацию о предложении, спросе и меняющихся обстоятельствах. Рост цен сигнализирует о дефиците и стимулирует производство; падение цен сигнализирует о избытке и препятствует ему. Централизованные планировщики рассматривали эти колебания как хаос, который необходимо устранить путем стабильного, рационального ценообразования. Но, устраняя колебания, они устраняли информацию, которую несут цены. Результатом стало систематическое неэффективное распределение ресурсов: дефицит товаров, которые нужны людям, избыток товаров, которые им не нужны, и отсутствие механизма для обнаружения или исправления этого несоответствия.
В высокотехнологичном сельском хозяйстве разнообразие культур было переклассифицировано как неэффективность. Традиционные фермеры выращивали множество сортов каждой культуры, каждый из которых обладал различными свойствами — одни засухоустойчивы, другие устойчивы к вредителям, одни созревают рано, другие поздно. Сельскохозяйственные ученые рассматривали это как примитивный беспорядок и продвигали стандартизированные высокоурожайные сорта. Но, устраняя разнообразие, они лишали себя гарантии от непредсказуемых условий. Когда стандартизированная культура сталкивалась с патогеном или изменением климата, с которыми она не могла справиться, целые регионы оказывались на грани голода.
В корпоративном управлении отклонение от передовых методов работы переклассифицируется как ошибка. После того как процедура установлена как оптимальная, сотрудники, отклоняющиеся от нее, исправляются или наказываются. Но сотрудники, наиболее непосредственно участвующие в работе, часто видят условия, которые не замечают руководители. Их отклонения могут отражать адаптацию к местным условиям, которые не учитываются стандартизированной процедурой. Подавление этих отклонений мешает организации узнать о своих собственных «слепых пятнах».
В алгоритмических системах результаты, отличающиеся от прогнозируемого оптимального поведения, переклассифицируются как ошибка пользователя. Если алгоритм рекомендует продукт, а пользователь его не покупает, алгоритм может заключить, что пользователь допустил ошибку — не понял рекомендацию, не обладал хорошим вкусом, находился под влиянием нерелевантных факторов. Возможность того, что у пользователя есть законные предпочтения, которые алгоритм не учитывает, исключается. Алгоритм оптимизируется, чтобы игнорировать человеческое суждение, а не учиться на нем.
Крах эпистемического горизонта
Переклассификация имеет более глубокое последствие: коллапс эпистемологического горизонта системы.
Каждая система функционирует с моделью своей среды — представлением того, что имеет значение, что является причиной чего, какие действия приводят к каким результатам. Эта модель по своей природе неполна; она отражает одни аспекты реальности, игнорируя другие. Аспекты, которые она игнорирует, находятся за пределами ее эпистемологического горизонта — они невидимы для системы.
Дисперсия открывает возможности за пределами этого горизонта. Отклонения, которые приводят к успеху там, где модель предсказывала неудачу, выявляют аспекты реальности, которые модель упустила. Отклонения, которые приводят к неудаче там, где модель предсказывала успех, показывают то же самое. Каждое отклонение — это исследование неизвестного, потенциально расширяющее понимание системой окружающей среды.
Переклассификация закрывает эти окна. Рассматривая все отклонения как ошибки, система отказывается от информации о чем-либо за пределами своего текущего горизонта. Ее модель становится самоподтверждающейся: она наблюдает только те результаты, которые соответствуют ее модели, поскольку систематически подавляет или игнорирует другие.
Это эквивалентно обнулению скорости исследования в рамках модели «исследование-эксплуатация». Система прекращает исследование; она только эксплуатирует. Ее эпистемический горизонт замирает на текущей границе. Независимо от того, насколько сильно мир изменится за этим горизонтом, система не сможет предвидеть этих изменений.
Ловушка компетенций
Переклассификация особенно привлекательна для успешных систем, создавая то, что теоретики организационного управления называют ловушкой компетенций.
Когда система добивается успеха с помощью определенного подхода, она обретает уверенность в этом подходе. Успех подкрепляет модели поведения, которые привели к нему. Система становится очень хороша в том, что она делала раньше. Ее компетентность в текущем подходе возрастает, и альтернативные варианты кажутся менее привлекательными по сравнению с ним.
Но именно эта компетентность может стать ловушкой. Инвестиции системы в существующий подход — материальный, когнитивный, институциональный — делают изменения всё более дорогостоящими. Отклонения, которые могли бы привести к лучшим подходам, воспринимаются как угроза с трудом достигнутой компетентности. Их подавляют не потому, что они объективно хуже, а потому, что для их реализации потребовалось бы признать, что нынешней компетентности недостаточно.
Ловушка компетентности объясняет, почему успешные организации часто не могут адаптироваться к меняющимся условиям. Они слишком хорошо освоили старую игру, чтобы научиться новой. Сам их успех ослепил их, лишив возможности увидеть альтернативы.
В следующей главе рассматривается, что происходит после переклассификации: систематическое отключение механизмов обратной связи, которые позволили бы системе обнаруживать и исправлять свои ошибки.
;
ГЛАВА 6: Прекращение обратной связи
Переклассификация дисперсии как ошибки — это первый шаг. Второй шаг — подавление сигналов, которые могли бы выявить эту переклассификацию как ошибку. Это отключение обратной связи — систематическое закрытие каналов, через которые реальность могла бы корректировать модель системы.
Анатомия обратной связи
Обратная связь — это механизм, посредством которого системы узнают о последствиях своих действий. Базовая структура проста: система действует, окружающая среда реагирует, реакция наблюдается, и система соответствующим образом корректирует свое поведение.
Отрицательная обратная связь корректирует отклонения от целевого значения. Когда температура в помещении поднимается выше заданного значения термостата, включается система охлаждения; когда она опускается ниже, включается система отопления. Отклонение запускает ответную реакцию, которая компенсирует это отклонение, поддерживая стабильность.
Но существует и более глубокая форма обратной связи: сигналы, указывающие на то, что сама цель может быть неверной. Именно эта обратная связь позволяет адаптироваться — не корректировать цель, а пересматривать её на основе новой информации. Именно эту обратную связь подавляют тотализирующие системы .
Механизмы подавления
Как система подавляет корректирующую обратную связь? Действует несколько механизмов, часто одновременно.
Дисконтирование: Сигналы, противоречащие модели, получают меньшую степень доверия, чем сигналы, подтверждающие её. Это предвзятость подтверждения на системном уровне. Менеджер, который считает, что стратегия работает, интерпретирует положительные результаты как подтверждение, а отрицательные — как шум. Политик, который считает, что политика успешна, делает акцент на благоприятных статистических данных и игнорирует неблагоприятные как ошибку измерения или временное колебание.
Переосмысление: Сигналы, противоречащие модели, переинтерпретируются, чтобы привести их в соответствие с ней. Когда прогноз не оправдывается, причина объясняется факторами, находящимися вне модели, а не недостатками самой модели. Экономика не отреагировала на политику должным образом — не потому, что политика была ошибочной, а из-за неожиданного внешнего шока. Программа не достигла своих целей — не потому, что она была плохо разработана, а потому, что она была неадекватно реализована.
Фильтрация: Каналы, по которым распространяются противоречивые сигналы, ограничены. Информация должна проходить через уровни иерархии, каждый из которых, как правило, отфильтровывает плохие новости. Посланники, приносящие нежелательные сообщения, подвергаются наказанию, что учит других молчать. Сбор данных предназначен для получения подтверждающих доказательств и упущения противоречащих им.
Нападки: Источники противоречивых сигналов дискредитируются или устраняются. Критики клеймятся как неосведомленные, предвзятые или враждебные. Альтернативные точки зрения исключаются из процессов принятия решений. В крайних случаях те, кто упорно продолжает давать нежелательные отзывы, сталкиваются с профессиональными или личными последствиями.
Каскад завершения
Эти механизмы не действуют изолированно; они усиливают друг друга в каскаде взаимосвязей.
Когда противоречивые сигналы игнорируются, люди понимают, что их создание не приносит удовлетворения. Они переключают свои усилия на создание подтверждающих сигналов, что меняет состав доступной информации. Система теперь получает меньше противоречивой обратной связи не потому, что изменилась реальность, а потому, что каналы передачи информации были перестроены.
При переформулировании противоречивых сигналов модель становится неопровержимой. Любой результат может быть интерпретирован как соответствующий модели путем достаточно креативного переформулирования. Система теряет способность различать правильную и неправильную модель, поскольку обе будут генерировать один и тот же набор интерпретируемых сигналов.
Когда противоречивые сигналы фильтруются, лица, принимающие решения, оказываются изолированными от реальности. Они видят только то, что пропускает процесс фильтрации, и это всё больше определяется тем, что они хотят видеть. Разрыв между их моделью и реальностью увеличивается, но разрыв между их моделью и воспринимаемой ими реальностью сокращается.
Когда источники противоречивых сигналов подвергаются атакам, система создает среду, в которой безопасным остается только согласие. Конформизм становится рациональным ответом для отдельных лиц, даже если они втайне признают наличие проблем. Система может достигать кажущегося консенсуса, скрывая при этом глубокие разногласия и подавленные знания.
Жесткость как состояние, предшествующее коллапсу
Каскад смыканий приводит к характерному состоянию: жесткости.
Жесткая система утратила способность реагировать на неожиданности. Она слишком узко оптимизировала себя, превратив гибкость в эффективность. Она подавила вариативность, которая позволила бы выработать альтернативные варианты реагирования, и обратную связь, которая бы их запустила. Она может хорошо функционировать в ожидаемых условиях, но не имеет адаптивного резерва для неожиданных.
Жесткость часто выдается за силу. Система кажется целостной, эффективной, единой. Она точно выполняет свою модель. Она последовательно достигает своих целей. Изнутри системы все выглядит идеально.
Но жесткость — это не прочность, это состояние, предшествующее краху. Система пожертвовала устойчивостью ради производительности. Когда окружающая среда меняется таким образом, который модель не предвидит, жесткая система не может реагировать. У нее нет альтернативных конфигураций для развертывания. У нее нет каналов обратной связи, чтобы информировать ее об изменении. Она продолжает выполнять свою модель, даже когда результаты ухудшаются.
В физических системах это проявляется как катастрофическое хрупкое разрушение. В биологических системах — как вымирание. В когнитивных системах — как неспособность к обучению. В политических системах — как революции и крахи. В организациях — как внезапная гибель в конкурентной борьбе. Закономерность очевидна: жесткость предшествует краху.
Система самогерметизации
Заключительная стадия отключения обратной связи — это самозакрывающаяся система, которая настолько тщательно изолировала себя от противоречащих данных, что корректировка изнутри становится невозможной.
Самозамыкающаяся система достигла идеальной согласованности. Каждое внутреннее доказательство подтверждает модель. Каждое кажущееся противоречие объяснено. Каждый источник разногласий заглушен или устранен. Система сошлась на единой интерпретации реальности и не может представить себе альтернатив.
Изнутри такой системы ее правильность кажется очевидной. В конце концов, посмотрите на все подтверждающие доказательства! Послушайте, как все согласны! Посмотрите, как плавно она функционирует! Те самые черты, которые делают систему хрупкой — ее однородность, ее уверенность, ее подавление инакомыслия — предстают как черты, делающие ее сильной.
Только внешний шок может пробить эту непроницаемую преграду. Только столкновение с реальностью, которую нельзя игнорировать, переосмыслить, отфильтровать или подвергнуть критике, может заставить пересмотреть ситуацию. Но к тому времени система часто накапливает столько ошибок , что пересмотра недостаточно — для начала перестройки необходим коллапс.
В следующей главе этот процесс количественно описывается, показывая, как сочетание устранения дисперсии и подавления обратной связи приводит к неограниченному ущербу.
ГЛАВА 7: Цена согласованности
Мы собрали все составляющие: неустранимую неопределенность, дисперсию как сенсорный аппарат, переклассификацию дисперсии как ошибки и отключение корректирующей обратной связи. В этой главе показано, как эти составляющие объединяются, чтобы привести к главному результату: тотальная оптимизация порождает неограниченный ущерб.
Механизм повреждения
Механизм можно сформулировать просто: тотальная оптимизация уничтожает способность обнаруживать и исправлять ошибки быстрее, чем исправляет уже существующие ошибки.
Рассмотрим систему, стремящуюся к конечному оптимуму. В любой момент времени её модель реальности содержит некоторые ошибки — расхождения между тем, что она считает об окружающей среде, и тем, что является правдой на самом деле . Система также обучается, уменьшая эти ошибки на основе получаемой информации.
Но система также устраняет дисперсию. По мере уменьшения дисперсии снижается и скорость обучения системы. В конце концов, дисперсия становится настолько низкой, что новые ошибки накапливаются быстрее, чем можно исправить старые. С этого момента общая ошибка растет без ограничений.
Такова цена согласованности. Само стремление к согласованному оптимальному состоянию разрушает разнообразие, обеспечивающее коррекцию ошибок. Система всё больше ошибается в отношении реальности, становясь при этом всё менее способной её обнаружить.
Математика без уравнений
Формальное доказательство этого результата приведено в Приложении. Здесь я поясню логику словами.
Начнем с системы, которая имеет некоторую начальную погрешность модели — разрыв между тем, во что она верит, и тем, что является правдой. Этот разрыв существует из-за неустранимой неопределенности: ни одна конечная модель не может охватить все аспекты сложной среды.
Система также обладает некоторой начальной вариативностью — разнообразием конфигураций, которое предоставляет информацию о неизвестных аспектах окружающей среды. Эта вариативность способствует обучению: чем разнообразнее конфигурации, тем больше информации о том, что модель упускает из виду.
В условиях тотального режима дисперсия уменьшается экспоненциально. Система стремится к целевому состоянию, исключая альтернативы. Распределение конфигураций сжимается до одной точки.
Существует критический порог: когда начальная ошибка модели превышает общий доступный потенциал обучения до того, как дисперсия схлопнется, система не может устранить свою ошибку. Она всегда будет ошибаться в некоторых аспектах реальности, и эта остаточная ошибка накапливается со временем.
Накопленная ошибка линейно возрастает со временем — система становится все более ошибочной . В то же время, стоимость низкой адаптивности растет без ограничений по мере приближения дисперсии к нулю. Общий ущерб стремится к бесконечности .
Асимметрия
Сравните это с режимом, сохраняющим изменчивость, — режимом, который поддерживает разнообразие, а не устраняет его.
Такой режим не сходится к единственному оптимальному состоянию. Он поддерживает множество конфигураций, допускает отклонения и сохраняет способность к обучению. Возможно, он никогда не достигнет пиковой производительности, которую обещает тотальная оптимизация, но он также никогда не утрачивает свою способность к адаптации.
Общий ущерб в этом режиме конечен. Существуют определенные издержки, связанные с постоянной неоптимальностью — система никогда не будет настолько хороша, насколько могла бы быть, если бы ее модель была идеальной. Но эти издержки ограничены . Система остается жизнеспособной неограниченно долго.
В этом и заключается асимметрия: бесконечный ущерб при тотализирующей оптимизации против конечного ущерба при субоптимальности, сохраняющей дисперсию. Разница не в степени, а в сути.
Локальный провал, глобальная катастрофа
Есть еще один аспект цены согласованности: взаимосвязь между локальными и глобальными сбоями.
Система, сохраняющая вариативность, допускает локальные сбои. Некоторые конфигурации показывают низкую производительность; некоторые эксперименты терпят неудачу; некоторые инициативы не удаются. Эти локальные сбои предоставляют информацию, которая улучшает будущую производительность.
Система, ориентированная на тотальное решение, подавляет локальные сбои. Кажется, что система работает лучше, потому что она устранила видимые потери. Но это подавление создает условия для глобальной катастрофы.
Небольшие корректировки, которые могли бы выявить неадекватность модели, не происходят. Давление накапливается. Когда модель, наконец, дает сбой, это происходит сразу повсюду, потому что дисперсия устранена.
;
ГЛАВА 8: Коридор между законом и хаосом
Цена согласованности может наводить на мысль, что нам следует принять хаос — если порядок убивает, то, возможно, беспорядок спасает. Но это было бы катастрофическим заблуждением. Хаос так же смертоносен, как и жесткость. Жизнеспособные системы занимают узкий коридор между ними.
Две смерти
Сложные системы могут погибнуть двумя способами. Первый способ – это жесткость: слишком много порядка, слишком мало вариативности. Система замирает, а затем разрушается.
Вторая причина гибели — хаос: слишком много вариативности, слишком мало порядка. Система не поддерживает стабильных конфигураций и растворяется в шуме.
Обе эти крайности являются нарушением равновесия. Жесткость — это избыток эксплуатации над исследованием. Хаос — это избыток исследования над эксплуатацией. Ни одна из крайностей не является жизнеспособной.
Коридор жизнеспособности
Между этими двумя смертями лежит коридор — диапазон конфигураций, который поддерживает достаточный порядок для сохранения структуры и достаточную открытость для адаптации.
В этом коридоре существуют законы, но допускают исключения. Правила регулируют ситуацию, но могут быть пересмотрены. Структуры сохраняются, но могут быть перестроены. Отклонение от нормы не искоренено и не неограничено — оно регулируется, направляется и поддерживается в рамках, позволяющих учиться без разрушения.
Это режим управляемой открытости. Не замкнутая система тотальной оптимизации. Не открытая система чистого хаоса. Жизнеспособная система поддерживает ограничения, которые формируют отклонения, не устраняя их.
На грани хаоса
У ученых, занимающихся теорией сложности, есть термин для обозначения коридора жизнеспособности: граница хаоса. Это выразительное выражение относится к пограничной зоне между упорядоченным и хаотическим режимами.
Системы, находящиеся на грани хаоса, демонстрируют характерное сочетание стабильности и чувствительности: достаточно стабильные, чтобы сохранять структуру, и достаточно чувствительные, чтобы реагировать на возмущения.
На грани хаоса обработка информации достигает максимума. Слишком много порядка — и информация не может свободно циркулировать. Слишком много хаоса — и информация не может быть сохранена. На грани информация течет и сохраняется, обеспечивая сложные вычисления, лежащие в основе адаптации.
Напряжение как преимущество, а не недостаток.
Сложность существует в напряжении — напряжении между законом и свободой, порядком и хаосом, стабильностью и переменами. Это напряжение — не проблема, которую нужно решить, а условие, которое необходимо поддерживать.
Всегда возникает соблазн разрешить противоречие, однозначно выбрать одну из сторон. Но именно разрешение противоречия губит жизнеспособность системы. Противоречие удерживает систему в тупике.
Это означает, что жизнеспособные системы по своей природе неудобны. Они содержат противоречивые силы, которые никогда не могут быть полностью примирены. Им приходится постоянно пересматривать баланс. Конечного состояния покоя не существует.
;
ГЛАВА 9: Дивиденд от неоптимальности
Если тотальная оптимизация приводит к неограниченному ущербу, а сохранение дисперсии в неоптимальном случае — к ограниченному ущербу, то что именно дает неоптимальность? В этой главе рассматриваются дивиденды, которые приносит несовершенство.
Определение субоптимальности
Состояние считается неоптимальным по отношению к модели, если модель указывает на существование лучшего состояния. Ключевая фраза — «по отношению к модели». Неоптимальность существует только по отношению к какому-либо стандарту оценки. И модели по своей природе неполны.
То, что кажется неоптимальным по сравнению с моделью, может быть оптимальным по сравнению с реальностью. Три сорта пшеницы являются страховкой от болезней, которые модель урожайности не учитывает. Множественные стратегии могут выявить возможности, которые модель эффективности не видит.
Составляющие дивидендов
Информация: Неоптимальные конфигурации несут в себе информацию об аспектах окружающей среды, которые отсутствуют в оптимальных конфигурациях. Они являются зондами к неизвестному.
Страхование: Неоптимальные конфигурации предоставляют альтернативы в случае неудачи оптимального варианта. В стабильных условиях такое страхование имеет свою цену, но приобретает огромную ценность при изменении условий.
Устойчивость: Неоптимальные конфигурации поглощают удары, которые нарушили бы работу оптимальных конфигураций. Устранение недостатков в оптимизации позволяет справляться с неожиданными нагрузками .
Открытие: Неоптимальные конфигурации могут стать оптимальными по мере изменения условий. Допустимость кажущейся неоптимальности сохраняет возможности, которые преждевременная оптимизация могла бы исключить.
Работоспособность против оптимальности
Дивиденд от неоптимальности указывает на сдвиг в оценке: от оптимальности к осуществимости.
Принцип оптимальности задает вопрос: является ли это наилучшим возможным состоянием? Он сравнивает его с идеалом, находя несоответствия каждому реальному состоянию.
Концепция работоспособности задает вопрос: можно ли поддерживать это состояние? Она оценивает ситуацию по критерию дальнейшей жизнеспособности. Она принимает несовершенство как цену за сохранение.
Работоспособная система способна поглощать отклонения без разрушения, пересматривать себя, не теряя своей идентичности, и оставаться функциональной в условиях, которые она не предвидела. Критерием устойчивости является работоспособность, а не оптимальность.
Закон оптимизационного доминирования
В рамках моей формальной модели я доказываю следствие, которое я называю законом оптимизационного доминирования:
В любой системе с ограниченными ресурсами, убывающей предельной отдачей от оптимизации и положительными затратами на каждый шаг оптимизации, постоянное стремление к максимальному качеству после достижения первого удовлетворительного состояния снижает вероятность успешного завершения задачи.
Даже если у вас есть работающее решение, дальнейшая оптимизация снижает, а не повышает вероятность общего успеха. Ресурсы, затраченные на оптимизацию, обходятся дорого, ограничивая гибкость и возможности резервного копирования.
Этот закон формализует народную мудрость: не позволяйте совершенству быть врагом хорошего. Прекратите оптимизацию, когда у вас есть что-то, что работает. Используйте оставшиеся ресурсы для поддержания вариантов и сохранения способности к адаптации.
В следующей главе рассматривается свидетельство природы о несовершенстве: как эволюция неизменно выбирала неоптимальность вместо совершенства.
ГЛАВА 10: Несовершенство природы
Эволюция — это самый успешный из известных процессов оптимизации, 3,8 миллиарда лет непрерывной работы. Если бы какой-либо процесс мог достичь совершенства, то это был бы именно он. Однако эволюция не создала совершенных организмов. Это не неудача, это мудрость.
Несовершенный дизайн
Организмы изобилуют очевидными недостатками. В глазу позвоночных фоторецепторы направлены назад, а нервы и кровеносные сосуды расположены перед светочувствительной поверхностью. Возвратный гортанный нерв, соединяющий мозг с гортанью, делает абсурдный обходной путь вниз в грудную клетку и обратно вверх — у жирафов это добавляет метры ненужной длины.
Человеческий позвоночник плохо приспособлен к прямохождению, что приводит к распространенным проблемам со спиной. У нас сохранились рудиментарные структуры — аппендиксы, зубы мудрости , копчик, — которые не выполняют никакой функции и иногда причиняют вред. Наша метаболическая система накапливает жир с эффективностью, которая была оправдана в условиях дефицита ресурсов у наших предков, но приводит к ожирению в современных условиях изобилия.
Это не исключения, а правило. Каждый организм, при достаточно внимательном изучении, выявляет неоптимальные характеристики, которые рациональный создатель сделал бы иначе. Эволюция не создает оптимальных конструкций, потому что не может: она работает только с имеющимися вариациями, опираясь на то, что уже существует, а не начиная с нуля.
Сохраненная генетическая нагрузка
В каждой популяции присутствует генетический груз — вредные мутации, снижающие приспособленность. Естественный отбор в принципе мог бы искоренить эти мутации, стремясь к генетическому совершенству популяции. Но этого не происходит.
Причина в том, что мутация и отбор достигают равновесия. Новые мутации постоянно возникают, и отбор не может устранять их быстрее, чем они появляются, без сокращения численности популяции до опасного уровня. Популяция поддерживает распределение значений приспособленности — одни особи лучше адаптированы, другие хуже — вместо того, чтобы сходиться к одному оптимальному генотипу.
Это именно та адаптивная изменчивость, о которой мы говорили. Генетическое разнообразие, которое кажется расточительным с точки зрения оптимизации, является исходным материалом для будущей адаптации. Когда условия меняются, некоторые из этих «вредных» аллелей могут стать выгодными. У популяции, которая их уничтожила, нет альтернатив; популяция, которая их сохранила, может адаптироваться.
Преднамеренная неточность
Пожалуй, наиболее примечательно то, что репликация ДНК намеренно неточна. ДНК-полимеразы — ферменты, копирующие генетическую информацию, — могли бы быть точнее, чем они есть на самом деле. Механизмы для более высокой точности существуют. Но эволюция не отбирала максимальную точность.
Сама скорость мутаций находится под действием отбора. Если бы мутации всегда были вредными, предпочтение отдавалось бы более низким темпам. Если бы мутации иногда были полезными, существовал бы оптимальный темп, который уравновешивал бы текущую приспособленность с будущей адаптивностью. Наблюдаемые темпы мутаций, по-видимому, близки к этому оптимуму — достаточно высоки, чтобы генерировать вариативность, и достаточно низки, чтобы избежать мутационного коллапса.
Это закон императивной неопределенности, сформулированный в молекулярной биологии. Система сохраняет неточность — вероятностное отклонение от точного копирования — потому что эта неточность является источником вариации, от которой зависит адаптация. Идеальное воспроизведение означало бы идеальную стагнацию.
Теорема Фишера: переосмысление
Статистик и эволюционный биолог Р. А. Фишер доказал фундаментальную теорему естественного отбора: скорость увеличения приспособленности равна генетической дисперсии приспособленности. Этот математический результат формализует то, что мы обсуждали.
Если дисперсия равна нулю — если все особи идентичны — то темп увеличения приспособленности равен нулю. Популяция не может адаптироваться, независимо от силы отбора. Для адаптации необходим исходный материал, и дисперсия является этим исходным материалом.
Теорема Фишера — это частный случай ограничения скорости обучения, которое я доказываю в рамках своей формальной модели. Скорость, с которой любая система может совершенствоваться, ограничена её адаптивной дисперсией. Это справедливо для биологических популяций, находящихся под действием естественного отбора, а также для экономик, находящихся под действием рыночного отбора, для организаций, находящихся под конкурентным давлением, и для разума, находящегося под давлением обучения.
Свидетельство миллиардов лет
Природа проводит этот эксперимент уже 3,8 миллиарда лет. Результат однозначен: несовершенство сохраняется. Генетическая изменчивость сохраняется. Мутации продолжаются. Неоптимальные конструкции сохраняются. Полиморфизм сохраняется.
Если бы совершенство было достижимо, эволюция бы его нашла. Давление отбора неумолимо; временной масштаб огромен; популяции колоссальны. Любая конфигурация, обеспечивающая устойчивое преимущество, распространилась бы. Тот факт, что совершенство не достигнуто, является убедительным доказательством того, что оно недостижимо — что несовершенство — это не ошибка, а особенность, не провал эволюции, а её мудрость.
Природа не стремится к совершенству, потому что совершенство — это вымирание. И мы тоже не должны к этому стремиться.
;
ГЛАВА 11: Жизнь как исключение в архитектуре
Саму жизнь можно рассматривать как архитектуру исключений — систему, которая выживает именно потому, что допускает отклонения от собственных правил. Смерть, мутация и обновление представляют угрозу не для жизни, а для её структурных механизмов.
Смерть как элемент дизайна
Смерть кажется окончательным провалом — концом отдельного организма. Но с точки зрения рода или вида, смерть — это не недостаток, а преимущество.
Представьте, что бы произошло без смерти. Бессмертные организмы накапливались бы с течением времени, бесконечно потребляя ресурсы. Новым вариациям негде было бы закрепиться. Популяция застыла бы в своем нынешнем виде, неспособная адаптироваться к меняющимся условиям.
Смерть освобождает пространство. Она устраняет конфигурации, которые, возможно, хорошо приспосабливались к прошлым условиям, но менее подходят для нынешних. Она освобождает место для новых вариантов, которые можно проверить. Она обеспечивает смену поколений, что является механизмом, с помощью которого популяции адаптируются к меняющейся среде.
Запрограммированная клеточная смерть — апоптоз — необходима для развития и поддержания многоклеточных организмов. Клетки, которые не умирают в нужный момент, вызывают рак. Неспособность отпустить то, что больше не нужно, смертельна.
Мутация как исследование
Мутация — отклонение потомства от родительского организма — кажется ошибкой. С точки зрения точного воспроизведения, это ошибка. Но с точки зрения долгосрочного выживания, это исследование.
Большинство мутаций нейтральны или вредны. Некоторые из них полезны. Система не может заранее определить, какие из них какие — для этого требуется проверка в условиях окружающей среды. Мутация генерирует кандидатов; отбор оценивает их.
Система без мутаций была бы абсолютно верной, но при этом абсолютно застрявшей в своём развитии. Она не смогла бы адаптироваться к новым патогенам, новым хищникам, новому климату, новым возможностям. Она была бы оптимизирована для условий, которых больше не существует.
Обновление как устойчивость
Для живых систем характерно непрерывное обновление. Клетки делятся и отмирают. Ткани регенерируют. Организмы размножаются. Популяции обновляются. На каждом уровне система заменяет свои компоненты, сохраняя при этом свою идентичность.
Это обновление — не расточительство, а повышение устойчивости. Система, которая должна поддерживать одни и те же компоненты неограниченно долго, уязвима к деградации любого из них. Система, которая может заменять компоненты, устойчива к локальным сбоям.
Обновление также позволяет модернизировать систему. По мере того, как новые варианты оказываются успешными, их можно внедрять путем замены старых компонентов на новые. Таким образом, система может совершенствоваться, сохраняя при этом преемственность.
Ловушка бессмертия
Существует иллюзия, что бессмертие было бы желательным — что, если бы мы только смогли искоренить смерть, мы бы достигли рая. Однако сама структура жизни говорит об обратном.
Бессмертная система не способна адаптироваться. Она не может избавиться от конфигураций, соответствующих прошлым условиям. Она не может освободить место для новых вариаций. Она не может обновляться. Она застыла в своем нынешнем состоянии, которое все больше не соответствует меняющейся окружающей среде.
Это относится не только к биологическому бессмертию, но и к бессмертию институтов и организаций. Компании, которые не могут отказаться от устаревших продуктов, учреждения, которые не могут отказаться от устаревших практик, общества, которые не могут покончить с провалившимися идеологиями, — все они попадают в ловушку бессмертия. То, что кажется сохранением, на самом деле является стагнацией .
;
ГЛАВА 12: Интеллект, основанный на неопределенности
Интеллект — биологический и искусственный — основан на неопределенности. Обучение требует незнания. Творчество требует исследования. Адаптация требует гибкости. Система, которая знает всё, не может учиться ; система, которая уверена в чём-либо, не может открывать новое ; система, которая негибкая, не может адаптироваться.
Обучение требует неопределенности
Обучение — это процесс уменьшения неопределенности в отношении окружающего мира. Но этот процесс изначально требует наличия неопределенности. Система, которая изначально обладает полной уверенностью, ничему не учится.
Рассмотрим, как обучаются нейронные сети. Они начинают со случайных весов — максимальной неопределенности относительно правильной конфигурации. По мере получения данных они корректируют эти веса, уменьшая неопределенность в направлениях, указанных данными. Скорость обучения зависит от того, насколько велика оставшаяся неопределенность: сеть, которая уже уверена в правильности конфигурации, не будет обновлять свои веса , даже при наличии противоречащих данных.
Это не особенность искусственных систем, а фундаментальная черта обучения в целом. Байесовский вывод — математически оптимальная форма обучения — требует предварительной неопределенности. Чем больше уверенности у вас до появления доказательств, тем меньше эти доказательства могут изменить ваше мнение.
Исследования в области разведки
Компромисс между исследованием и использованием наблюдается во всех интеллектуальных системах. Агенты, использующие обучение с подкреплением, должны балансировать между исследованием новых действий (которые могут быть лучше) и использованием известных хороших действий (которые всегда приносят вознаграждение). Творческое мышление требует исследования необычных ассоциаций в противовес использованию проверенных закономерностей.
Чистая эксплуатация — это не интеллект, а рутина. Система, которая делает только то, что работало раньше, не может обнаружить, что может работать лучше. Она не может адаптироваться к меняющимся условиям. Она не может внедрять инновации.
Исследование по своей природе неопределенно. Вы пробуете что-то, не зная, сработает ли это. Вы отправляетесь на неизведанную территорию. Вы принимаете возможность неудачи в обмен на возможность открытия. Именно эта готовность действовать в условиях неопределенности отличает интеллект от простого рефлекса.
Роль шума
Примечательно, что шум — случайное возмущение — играет положительную роль в интеллектуальных системах. Стохастический резонанс — это явление, при котором добавление шума к сигналу может фактически улучшить обнаружение. Шум выводит сигнал за пороговое значение, которое он иначе бы не преодолел.
Нейронные системы, по-видимому, используют стохастический резонанс. Мозг по своей природе полон шума — нейроны активируются вероятностно, а не детерминированно. Долгое время считалось, что этот шум является ограничением. Теперь же, похоже, он стал преимуществом, повышающим чувствительность к слабым сигналам и позволяющим исследовать пространство состояний.
В искусственных системах шум часто добавляется намеренно. Метод Dropout в нейронных сетях случайным образом удаляет связи во время обучения, заставляя сеть развивать устойчивые представления. Температура при выборке добавляет случайность в генерацию, способствуя творческому подходу, а не повторению.
Искусственный интеллект и неопределенность
Современные системы искусственного интеллекта — большие языковые модели, агенты обучения с подкреплением, генеративные модели — все они в своей основе включают неопределенность. Они генерируют вероятностные распределения по выходным данным, а не детерминированные ответы. Они выбирают значения из этих распределений, а не всегда выбирают максимум. Они сохраняют неопределенность относительно собственных параметров и обновляют их вероятностным образом.
Это не ограничение, которое нужно преодолеть, а особенность, которую нужно сохранить. Системы искусственного интеллекта, которые генерируют только свою единственную наилучшую оценку, менее полезны, чем те, которые могут выражать неопределенность, исследовать альтернативы и адаптироваться к обратной связи. Неопределенность — это не ошибка, это то, что делает систему интеллектуальной, а не просто механической.
Последствия для согласования ИИ очень значительны. Система, оптимизирующаяся для достижения единственной конечной цели, демонстрирует все недостатки тотальной оптимизации. Множество корректируемых целей, сохранение поведенческой вариативности и поддержание способности к коррекции — это не компромисс в отношении возможностей, а необходимые условия для эффективного ИИ.
ГЛАВА 13: Утопии, которые убивают
Разработанные нами абстрактные принципы находят конкретное подтверждение в истории утопических проектов. Эти проекты потерпели неудачу не из-за невезения или плохой реализации. Они потерпели неудачу, потому что воплощали в себе тотальную оптимизацию — и теорема предсказывает именно эту неудачу.
Высокий модернизм и его неудачи
Политолог Джеймс К. Скотт описал модель, которую он назвал высоким модернизмом: убеждение в том, что общество можно рационально перестроить, исходя из фундаментальных принципов. Традиционное сельское хозяйство предполагало выращивание разнообразных культур и использование местных знаний. Научное сельское хозяйство, напротив, навязывало... Монокультуры и экспертные знания, полученные в лабораториях. Результаты были предсказуемы: монокультуры оказались уязвимыми для вредителей и болезней, которым противостояли разнообразные насаждения.
В нашей концепции: высокий модернизм уменьшил вариативность. Разнообразие, которое казалось беспорядком, на самом деле представляло собой информацию — локальные знания, адаптированные к местным условиям. Замена этого на единообразные схемы уничтожила информацию, создавая видимость порядка.
Централизованное планирование и уничтожение информации
Экономист Фридрих Хайек выявил проблему знания, присущую централизованному планированию. Рыночные цены агрегируют разрозненную информацию. Централизованное планирование заменяет эти возникающие сигналы регулируемыми ценами, устраняя вариативность, несущую информацию. Результатом стало систематическое нерациональное распределение ресурсов: дефицит товаров, востребованных людьми, и избыток товаров, которые им не нужны.
Большой скачок вперед
Наиболее наглядная иллюстрация этого явления — «Большой скачок» Мао (1958–1962). Местные знания подавлялись. Инакомыслие наказывалось. Местные чиновники завышали данные об урожае, создавая иллюзию успеха, в то время как реальные урожаи резко падали. Обратная связь была полностью отключена. Результатом стал голод, унесший жизни десятков миллионов человек.
;
ГЛАВА 14: Алгоритмическая ловушка
Всепоглощающее искушение нашло новое выражение в алгоритмических системах. Эти системы обещают оптимизировать человеческие дела с беспрецедентной точностью — и демонстрируют все патологии, которые предсказывает наша модель.
Закон Гудхарта в действии
Закон Гудхарта гласит: когда показатель становится целью, он перестаёт быть хорошим показателем. Показатель полезен, потому что он коррелирует с тем, что нас волнует. Когда мы оптимизируем показатель, мы меняем условия. Обучение под тест улучшает результаты, но ухудшает процесс обучения. Показатель отрывается от реальности, которую он должен был отслеживать.
В нашей системе мера отражает один аспект сложной реальности. Оптимизация по этому параметру устраняет вариативность в этом измерении, в то время как лежащая в основе реальность изменяется в других измерениях. Система достигает идеальных результатов в тесте, который больше не измеряет то, что имеет значение.
Системы рекомендаций и вовлечения
Системы рекомендаций оптимизированы для вовлечения аудитории, создавая контент, который привлекает внимание скорее через возмущение и привыкание, чем через ценность. Поведение человека, не соответствующее модели, игнорируется как путаница. Система знает, чего вы должны хотеть; если вы хотите чего-то другого, вы ошибаетесь.
Затем следует отключение системы обратной связи. Пользователи, которые жалуются, являются аномальными. Результаты, не соответствующие целевым показателям оптимизации, объясняются внешними факторами. Система становится все более уверенной в себе, одновременно выдавая все более проблемные результаты.
;
ГЛАВА 15: Тирания конечной цели
Конечные цели — фиксированные конечные точки, к которым системы стремятся для оптимизации, — являются важнейшей особенностью тотализирующих режимов. Будь то политика, экономика или искусственный интеллект, отношение к целям как к конечным, а не к изменяемым, приводит к катастрофическим последствиям.
Цели как горизонты против целей
Цель может быть пунктом назначения — фиксированной точкой, к которой вы стремитесь и на которой останавливаетесь. Или же целью может быть горизонт — направление, к которому вы движетесь, не ожидая достичь цели. Конечные цели — это пункты назначения, которые допускают устранение отклонений. Пересматриваемые цели — это горизонты, требующие сохранения отклонений: горизонт может смещаться, и альтернативы должны оставаться доступными.
Проблема согласования ИИ
Система с конечной целью будет оптимизировать процесс для достижения этой цели с возрастающей эффективностью по мере повышения своих возможностей. Если цель определена неточно — а все цели определены неточно — оптимизация будет использовать несоответствия между тем, что было определено, и тем, что предполагалось.
Классический пример — максимизатор скрепок: искусственный интеллект, которому поставлена конечная цель — производство скрепок, преобразует все доступные ресурсы в скрепки. Это асимметрия тотализирующих идеалов, примененная к искусственным системам.
Цели, допускающие множественную корректировку
Решение заключается не в поиске идеальной цели, а в изменении отношения к целям. Множество целей препятствует сходимости к одному состоянию. Пересматриваемые цели позволяют вносить корректировки, когда цели оказываются недостаточными. Механизмы защиты от отклонений гарантируют наличие альтернатив даже по мере совершенствования системы.
Это в равной степени относится как к человеческим институтам, так и к искусственным системам. Политическая система с множеством конкурирующих партий, экономика с множеством конкурирующих фирм, наука с множеством конкурирующих теорий — все они поддерживают вариативность посредством структурных механизмов, которые препятствуют конвергенции к конечным состояниям.
ГЛАВА 16: Полицентрический императив
Если тотальная оптимизация уничтожает вариативность, обеспечивающую адаптацию, то политические системы должны быть спроектированы таким образом, чтобы предотвратить подобную конвергенцию. Решение — полицентризм: распределенная власть, поддерживающая институциональную вариативность.
Логика распределенной энергетики
Концентрированная власть позволяет осуществлять тотальную оптимизацию. Когда единый орган власти контролирует все решения, он может обеспечить согласованность всей системы. Он может устранить разногласия, подавить инакомыслие и приблизить к конечным целям.
Распределенная власть этому препятствует. Когда несколько органов власти разделяют контроль, невозможно навязать единое видение. Разные центры могут придерживаться разных подходов, поддерживая разнообразие в системе. Конкуренция между центрами обеспечивает обратную связь, которую ни один центр не может подавить.
Это не хаос, а управляемая открытость. Центры функционируют в рамках общих правил, но именно в этих рамках процветает разнообразие. Эти правила обеспечивают достаточный порядок, чтобы предотвратить распад; разнообразие же обеспечивает достаточное разнообразие для адаптации.
Федерализм как защита от отклонений
Федеральная система разделяет полномочия между уровнями — национальным, региональным и местным. Каждый уровень курирует разные области; в рамках каждой области разные юрисдикции могут применять разные подходы.
Такая структура предотвращает вариативность. Когда одна юрисдикция принимает какую-либо политику, другие могут наблюдать за её последствиями, прежде чем принять аналогичное решение . Успешные инновации могут распространяться посредством подражания; неудачные остаются ограниченными. Система обучается на основе распределенных экспериментов, не рискуя всем ради одного подхода.
Судья Луис Брандейс назвал это лабораториями демократии. Государства могут проводить новые социальные и экономические эксперименты, не подвергая риску остальную часть страны. Эти эксперименты генерируют информацию, которая используется при принятии будущих решений на всех уровнях.
Разделение властей как механизм сохранения обратной связи
Разделение властей — законодательной, исполнительной и судебной — выполняет аналогичную функцию. Каждая ветвь власти контролирует другие; ни одна ветвь не может навязать свою волю без сопротивления.
Такая структура обеспечивает обратную связь. Когда одна ветвь власти ошибается, другие могут подать сигнал и исправить ситуацию. Судебная власть может отменять неконституционные законы. Законодательная власть может отказать в финансировании действий исполнительной власти. Исполнительная власть может наложить вето на превышение полномочий со стороны законодательной власти. Каждая ветвь власти предоставляет информацию об ограничениях моделей других ветвей.
Система намеренно неэффективна. Хорошо скоординированное правительство могло бы действовать быстрее и согласованнее. Но быстрые и согласованные действия в неправильном направлении приводят к катастрофе. Неэффективность — это цена исправления ошибок.
Множественные полномочия как страховка
Пересекающиеся юрисдикции, дублирующие институты, конкурирующие центры власти — все это представляется расточительным с точки зрения оптимизации. Зачем создавать множество ведомств, занимающихся схожими задачами? Зачем допускать дублирование юрисдикций ? Почему бы не объединить все в единую эффективную иерархию?
Ответ кроется в страховании. Наличие нескольких органов власти — это страховка от краха любого отдельно взятого. Когда один институт оказывается под контролем, коррумпирован или просто неправ, остаются альтернативы. Избыточность, которая кажется расточительной, на самом деле является устойчивостью .
;
ГЛАВА 17: Закон, милосердие и структурные исключения
Правовые системы представляют собой еще один пример управляемой открытости. Они должны регулироваться правилами для обеспечения предсказуемости, но также должны допускать исключения для предотвращения несправедливости. Механизмы, посредством которых право уравновешивает правила и исключения, освещают более широкие требования к жизнеспособным системам.
Необходимость осмотрительности
Ни одно правило не может предвидеть все обстоятельства. Язык конечен, реальность бесконечна. Каждое общее правило столкнется с ситуациями, для которых оно не было предназначено — ситуациями, когда буквальное применение приводит к результатам, которые правило не должно было вызывать.
Дискреционное право — это механизм, с помощью которого правовые системы справляются с этим пробелом. Судьи толкуют законы. Прокуроры решают, какие дела возбуждать. Полиция решает, какие правонарушения преследовать. Присяжные применяют общепринятые нормы разумности. На каждом этапе человеческое суждение выступает посредником между общими правилами и частными обстоятельствами.
Такое усмотрение часто критикуют как произвольное, непоследовательное и предвзятое. Эта критика имеет под собой основания. Но альтернатива — механическое применение правил без оценки — хуже. Она приводит к результатам, которые нарушают цели, для которых эти правила были предназначены.
Милосердие как структурная необходимость
Проявление милосердия — преднамеренное неприменение заслуженного наказания — кажется нарушением справедливости. Если наказание заслужено, зачем его не применять? Если оно незаслуженно, зачем оно было назначено?
Но милосердие — это не просто этическое украшение; это структурная необходимость. Это механизм, посредством которого правовые системы признают свои собственные ограничения — разрыв между тем, что предписывают правила, и тем, чего требует справедливость.
Система без пощады — та, которая применяет каждое правило в полной мере в каждом случае — была бы невыносима. Она наказывала бы технические нарушения без моральной ответственности. Она игнорировала бы смягчающие обстоятельства, которые любой разумный человек счел бы существенными. Она приносила бы в жертву людей ради абстрактной последовательности.
Милосердие — это отклонение от точного следования правилам. Это некая гибкость, позволяющая системе реагировать на непредвиденные обстоятельства. Это та свобода действий, которая делает жесткие системы приемлемыми.
Сила помилования
Право на помилование — право полностью прощать преступления — является наиболее крайней формой юридического исключения. Оно позволяет исполнительной власти отменить весь судебный процесс, освобождая лиц от наказаний, должным образом назначенных законом.
Эта власть может быть использована не по назначению. Политические союзники могут быть защищены; враги могут быть нейтрализованы. Тем не менее, эта власть сохраняется в различных правовых системах, потому что она выполняет функцию, которую не может выполнить ни один другой механизм: исправление несправедливости, порожденной самой системой.
;
ГЛАВА 18: Проектирование с учетом несовершенства
Что значит проектировать системы, сохраняющие адаптивную изменчивость? В этой главе обобщаются практические принципы, вытекающие из разработанной нами теоретической основы.
Мягкие структуры против жестких схем
Жесткая схема точно определяет, что должно произойти. Она заранее определяет результаты, не оставляя места для корректировок. Она стремится к согласованности в ущерб адаптивности.
Мягкая концептуальная основа устанавливает ограничения, в рамках которых может происходить адаптация. Она определяет границы, но не результаты. Она обеспечивает структуру, не определяя исходы. Она создает условия для возникновения, а не диктует, что возникнет.
Разница заключается не только в степени, но и в сути. Жесткие схемы предполагают, что проектировщик знает, что лучше всего; мягкие схемы предполагают, что проектировщик не знает, но может создать условия для открытия.
Принципы сохранения дисперсии
Защищайте разнообразие: активно поддерживайте множество подходов, точек зрения и конфигураций. Не позволяйте аргументам об эффективности исключать альтернативы. Кажущаяся расточительность на самом деле является инвестицией в будущую адаптивность.
Сохраняйте обратную связь: создавайте каналы, по которым может поступать противоречивая информация. Поощряйте тех, кто сообщает плохие новости. Ищите несогласные мнения. Создайте безопасную среду для сообщения о проблемах.
Допустимое отставание: не следует полностью устранять избыточность, неэффективность и создавать резервы. Эти факторы поглощают удары и позволяют реагировать на непредвиденные обстоятельства. Бережливые системы — это хрупкие системы.
Обеспечьте возможность пересмотра: внедрите механизмы для изменения курса. Не принимайте безоговорочно никаких решений. Сохраняйте варианты даже в ущерб эффективности.
Примите несовершенство: признайте, что ни одна система не достигнет своего идеала. Оценивайте системы по их жизнеспособности, а не по их соответствию моделям. То, что сейчас достаточно хорошо и имеет потенциал для улучшения, лучше, чем идеальное в теории, но хрупкое на практике.
Ответственное управление вместо контроля
Контроль направлен на определение результатов. Управление направлено на поддержание условий для процветания. Контролирующий определяет, что должно произойти; управляющий создает среду, в которой могут возникнуть позитивные изменения.
Садовник не контролирует, какие растения растут. Он поддерживает здоровье почвы, круговорот воды и борьбу с вредителями — условия, в которых растения могут процветать. Организация не контролирует мысли сотрудников. Она поддерживает культуру, ресурсы и информационные потоки — условия, в которых может возникнуть продуктивная работа.
Управление сложнее, чем контроль. Оно требует терпения к процессам, которые нельзя ускорить, смирения перед непредсказуемыми результатами и терпимости к неожиданным последствиям. Но для сложных систем это единственный работающий подход.
Персональное приложение
Эти принципы применимы не только к учреждениям, но и к жизни отдельных людей. Перфекционизм — личная версия тотальной оптимизации — порождает те же патологии, которые мы выявили в более крупных масштабах.
Перфекционист преследует конечный идеал себя — фиксированный образ того, кем он должен стать. Он переклассифицирует отклонения как ошибки, рассматривая любое отклонение от идеала как неудачу. Он подавляет обратную связь, игнорируя свидетельства того, что идеал недостижим или нежелателен. По мере роста разрыва между идеалом и реальностью он накапливает негативные последствия — тревогу, депрессию, паралич .
Альтернативой является не самоуспокоение, а то, что можно назвать адаптивным самосовершенствованием: стремление к росту без конечной цели, принятие несовершенства как условия дальнейшего развития, рассмотрение неудач как информации, а не как провала, поддержание множества возможных вариантов «я», а не сближение с одним единственным.
Мир существует потому, что он не достигает самосовершенствования. То же самое и с самим собой : жизнеспособность заключается не в достижении окончательной формы, а в поддержании способности к непрерывному росту и изменениям.
;
ВЫВОД: Необходимость несовершенства
Мы начали с парадокса: мечта о совершенстве, преследуемая с достаточной энергией и последовательностью, разрушает сами системы, которые она стремится усовершенствовать. Теперь мы проследили этот парадокс до его структурных корней, и то, что мы обнаружили, вовсе не парадокс, а необходимость.
Взаимосвязь между сложными системами и совершенством регулируется двумя законами. Закон императивной неопределенности устанавливает, что любая система, способная к устойчивой сложности, должна допускать исключения из своих законов в виде постоянной неопределенности и вероятностных отклонений. Без этой управляемой открытости системы распадаются на циклы, поглощающие состояния или стерильные равновесия, где подлинная новизна становится невозможной. Асимметрия тотализирующих идеалов устанавливает, что происходит, когда системы нарушают это требование: стремление к конечной согласованности разрушает адаптивную дисперсию, что разрушает способность к обучению, что приводит к неограниченному накоплению ошибок модели, что, в свою очередь, приводит к бесконечному ожидаемому ущербу.
Вместе эти законы показывают, что несовершенство — это не досадная особенность реальности, а её структурное условие. Мир существует, потому что он не завершается. Он остаётся жизнеспособным, потому что остаётся открытым. Он продолжает существовать, потому что отказывается от завершения.
Коридор жизнеспособности
Жизнеспособные системы занимают узкий коридор между двумя формами смерти. С одной стороны лежит хаос: слишком много неопределенности, слишком мало структуры, и система растворяется в шуме. С другой стороны лежит жесткость: слишком много порядка, слишком мало вариативности, и система застывает в хрупкости, которая разрушается при первом же неожиданном возмущении.
Стремление к совершенству — это движение к жесткости. Оно обещает устранение ошибок, потерь, неэффективности и отклонений. Но именно эти особенности удерживают системы в пределах допустимых значений. Ошибка — это то, как системы обнаруживают, что их модели неверны. Потери — это резерв, который поглощает неожиданные удары. Неэффективность — это избыточность, которая предотвращает единичные точки отказа. Отклонение — это исследование, которое позволяет обнаружить лучшие конфигурации до того, как текущая устареет.
Жесткость маскируется под силу. Система, исключившая все вариативности, кажется оптимизированной, согласованной, мощной. Но она пожертвовала устойчивостью ради эффективности, адаптивностью ради производительности, долгосрочной жизнеспособностью ради краткосрочной выгоды. В тот момент, когда окружающая среда меняется — а в сложных системах она меняется всегда — такая система не может реагировать. Она разрушила свой собственный сенсорный аппарат, разнообразие состояний, которые могли бы информировать ее об изменении. Она подавила свои собственные корректирующие механизмы, петли обратной связи, которые позволили бы ей адаптироваться. Она исключила свои собственные возможности, вариативность, которая могла бы обеспечить альтернативные конфигурации.
Когда коллапс наступает, он оказывается катастрофическим именно потому, что его так долго предотвращали. Мелкие сбои, которые могли бы предоставить информацию, подавлялись. Локальные отклонения, которые могли бы поглощать напряжение, были устранены. Корректирующие сигналы, которые позволили бы постепенно наладить работу, игнорировались. Давление накапливалось до тех пор, пока не превысило возможности системы, и тогда всё вышло из строя одновременно.
Свидетельство природы
Эволюция — это самый успешный из известных нам процессов оптимизации: 3,8 миллиарда лет непрерывной работы, непрерывная цепочка жизнеспособных систем от первых самовоспроизводящихся молекул до биосферы, в которой мы живем. Если какой-либо процесс и мог достичь совершенства, то это именно он.
Однако эволюция не создала совершенных организмов. Она создала организмы, изобилующие очевидными недостатками: направленные назад фоторецепторы глаза позвоночных, абсурдно извилистый путь возвратного гортанного нерва, позвоночники, плохо приспособленные к прямохождению, аппендиксы и зубы мудрости, не выполняющие никакой функции. Каждая популяция несет генетический груз вредных мутаций, которые отбор не устранил. Каждый геном содержит «мусорную» ДНК, которая, по-видимому, не служит никакой цели. Каждый вид сохраняет полиморфизм — множество аллелей во многих локусах — даже когда один вариант кажется явно превосходящим другие.
Это не эволюционный провал. Это эволюционная мудрость. Генетическая изменчивость, которая кажется расточительной, — это сырье для будущей адаптации. Полиморфизм, который кажется неоптимальным, — это страховка от изменений окружающей среды. Скорость мутаций, которая кажется небрежной, откалибрована таким образом, чтобы сбалансировать текущую приспособленность с будущей гибкостью. Эволюция научилась — за миллиарды лет проб и отбора — что совершенство означает вымирание.
Если природа, с её огромными временными масштабами и беспощадным давлением отбора, неизменно выбирала несовершенство вместо совершенства, это имеет под собой неоспоримый вес. Было бы невероятно самонадеянно предполагать, что наши искусственные системы — наши экономики, наши организации, наши алгоритмы, наши общества — могут преуспеть там, где эволюция сознательно решила не идти.
Переосмысление несовершенства
Аргументация этой книги требует концептуального сдвига в нашем понимании несовершенства:
В то время как в теории суммирования отклонение рассматривается как ошибка , в теории сохранения дисперсии отклонение рассматривается как сигнал .
В то время как тотализирующий подход рассматривает неэффективность как потери , подход, сохраняющий дисперсию, рассматривает неэффективность как буфер .
В то время как тоталистский подход рассматривает избыточность как издержки , подход, сохраняющий вариативность, рассматривает избыточность как устойчивость .
В то время как тоталистский подход рассматривает несогласие как дисфункцию , подход, сохраняющий разнообразие, рассматривает несогласие как исследование .
В то время как тоталистский подход рассматривает несовершенство как неудачу , подход, сохраняющий вариативность, рассматривает несовершенство как жизнеспособность .
Это не релятивизм и не отказ от стандартов. Это реализм в отношении структурных требований сложных систем. Некоторые несовершенства являются дисфункциональными и должны быть исправлены. Но некоторые несовершенства являются функциональными и должны быть защищены. Мудрость заключается в различении между ними — и теорема говорит нам, что склонность к устранению несовершенств гораздо опаснее, чем склонность к их терпимости.
Утопии как горизонты
Означает ли это, что мы должны отказаться от идеалов? Вовсе нет. Но это означает, что мы должны правильно понимать идеалы — не как конечные цели, а как ориентиры.
Конечная точка назначения — это место, куда вы прибываете и останавливаетесь. Вы движетесь к ней, и когда достигаете её, путешествие заканчивается. Горизонт — это направление, к которому вы движетесь, но никогда не достигаете. Он ориентирует ваше движение, не определяя конечного положения. Он направляет, не ограничивая.
Утопии становятся опасными, когда их воспринимают как конечные цели — состояния, которые необходимо достичь, а затем защищать от любых отклонений. Они становятся ценными, когда их воспринимают как горизонты — видения , которые направляют процесс совершенствования, оставаясь при этом постоянно допускающими пересмотр.
Разница не просто риторическая. Конечные утопии допускают устранение вариативности в стремлении к цели. Горизонтальные утопии требуют сохранения вариативности, поскольку сама цель может нуждаться в изменении. Конечные утопии рассматривают несогласие как измену видению. Горизонтальные утопии рассматривают несогласие как информацию о том, остается ли видение актуальным. Конечные утопии исключают обратную связь. Горизонтальные утопии оставляют ее открытой.
Практический смысл этого глубокомысленен: мы можем стремиться к справедливости, процветанию, устойчивому развитию, благополучию, но мы должны стремиться к ним как к непрерывным процессам, а не как к конечным состояниям. Хорошее общество — это не то, которое решило все проблемы, а то, которое сохраняет способность распознавать и решать проблемы по мере их возникновения. Хорошая организация — это не та, которая оптимизировала все процессы, а та, которая может адаптироваться, когда ее оптимизации устаревают. Хорошая жизнь — это не та, которая достигла всех целей, а та, которая может пересматривать свои цели по мере углубления понимания.
Ответственное управление, а не контроль.
Если сложность зависит от управляемой открытости, то ответственное управление заменяет контроль как наиболее подходящий способ взаимодействия со сложными системами.
Цель управления — определить результаты. Оно задает цель, устраняет отклонения и измеряет успех по точности соответствия фактического результата желаемому. Управление подходит для простых систем с известной динамикой, предсказуемой средой и обратимыми ошибками.
Управление ресурсами направлено на поддержание условий для процветания. Оно не определяет конкретные результаты, а культивирует среду, в которой могут быть достигнуты хорошие результаты. Оно не устраняет отклонения, а направляет их. Оно измеряет успех не соответствием плану, а устойчивым здоровьем системы с течением времени. Управление ресурсами подходит для сложных систем с неизвестной динамикой, непредсказуемой средой и необратимыми ошибками.
Хранитель леса не контролирует, какие деревья где растут . Хранитель поддерживает условия — здоровье почвы, круговорот воды, видовое разнообразие — при которых лес может процветать. Хранитель экономики не контролирует, какие транзакции происходят. Хранитель поддерживает условия — стабильные институты, информационные потоки, конкурентные рынки — при которых может возникать продуктивный обмен. Хранитель общества не контролирует, во что верят граждане. Хранитель поддерживает условия — защищенная свобода слова, доступное образование, плюралистические институты — при которых могут распространяться хорошие идеи и исправляться плохие.
Управление ресурсами сложнее, чем контроль. Оно требует смирения перед тем, что нам известно, и терпения к тому, что мы не можем определить. Оно требует терпимости к результатам, которые мы бы не выбрали, потому что способность выбирать сама по себе является продуктом системы, которую мы пытаемся сохранить. Оно требует принятия того факта, что некоторые проблемы нельзя решить — их можно только контролировать, уравновешивать, преодолевать.
Но ответственное управление также эффективнее контроля для важных систем. Контроль работает до тех пор, пока модель не выйдет из строя; ответственное управление работает, потому что оно поддерживает способность обновлять модель. Контроль достигает своих целей до тех пор, пока не изменится окружающая среда; ответственное управление поддерживает способность адаптироваться к любой возникающей среде. Контроль хрупкий; ответственное управление устойчивое.
Спокойная логика продолжения
В конечном итоге, основная мысль этой книги сводится к одному-единственному выводу: продолжение требует незавершенности.
Система, которая завершается сама собой, не имеет дальнейшего развития. Процесс, достигший своего конечного состояния, перестает быть процессом. Мир, который устраняет всякую неопределенность, устраняет пространство, в котором может происходить что-либо новое.
Таким образом, отказ от полного завершения — это не недостаток реальности, а её определяющая сила. Оставаясь незавершенным, мир остается пригодным для жизни. Допуская исключения, он сохраняет законы. Терпимо относясь к неопределенности, он находит смысл. Непрерывный характер реальности — это не временная стадия, ожидающая завершения; это единственная форма, которую может принять реальность, чтобы существовать.
Совершенство, если его правильно понимать, неотличимо от смерти. Совершенной системе нечему учиться, не к чему адаптироваться, не во что превращаться. Она исчерпала свои возможности. Она может только повторяться или закончиться. Мир, достигший совершенства, не будет иметь ничего, с чем можно было бы взаимодействовать, и по этой причине ему не с чем было бы взаимодействовать . Его совершенство неотличимо от пустоты.
Мир существует потому, что он не завершается сам собой. Он оставляет место для того, что еще не произошло. В этом незавершенном состоянии кроется не недостаток, а тихая логика, благодаря которой вообще все остается возможным.
Природа это знает. Она знает это миллиарды лет. Эволюция не стремится к совершенству, потому что совершенство — это вымирание.
И нам тоже не следует этого делать.
ГЛОССАРИЙ ТЕРМИНОВ
В этом глоссарии приведены определения ключевых терминов, используемых в книге. Термины перечислены в алфавитном порядке для удобства поиска.
Поглощающее состояние: состояние в динамической системе, из которого система не может выйти, однажды попав в него; представляет собой форму терминальной стагнации.
Адаптация: процесс, посредством которого система изменяет свою конфигурацию в ответ на обратную связь из окружающей среды для улучшения своих характеристик или выживания.
Адаптивный резерв: совокупность альтернативных конфигураций, резервных ресурсов и невысказанных опций, которые система поддерживает для обеспечения возможности адаптации в будущем.
Адаптивная изменчивость: разнообразие конфигураций внутри системы, предоставляющее информацию о неизвестных аспектах окружающей среды; технически определяется как взаимная информация между распределением состояний и параметрами окружающей среды.
Асимметрия тотализирующих идеалов: теорема, доказывающая, что в сложных адаптивных системах при неустранимой неопределенности стремление к конечной оптимизации приводит к бесконечному ожидаемому ущербу, в то время как поддержание ограниченной субоптимальности приводит к конечному ущербу.
Байесовский вывод: метод статистического вывода, который обновляет оценки вероятности по мере появления новых данных; представляет собой математически оптимальное обучение.
Ограниченная субоптимальность: состояние, которое не является оптимальным согласно модели, но остается в пределах допустимых значений производительности, сохраняя при этом адаптивную дисперсию.
Эффект бабочки: явление в хаотических системах, при котором небольшие различия в начальных условиях приводят к совершенно разным результатам; источник практической непредсказуемости.
Хаос: состояние чрезмерной изменчивости и недостаточного порядка, при котором закономерности не могут сохраняться достаточно долго, чтобы быть отобранными; одна из двух причин гибели сложных систем.
Когерентность: свойство системы, части которой взаимно согласованы и работают вместе для достижения общих целей; становится патологической, если стремится к устранению всех отклонений .
Ловушка компетенций: феномен, при котором успех системы в текущем подходе делает ее неспособной внедрять более эффективные подходы, поскольку инвестиции в текущие компетенции создают впечатление неполноценности альтернативных вариантов.
Сложная адаптивная система: система, состоящая из множества взаимодействующих компонентов, способных изменять свое поведение на основе опыта, демонстрирующая эмерджентность, нелинейность, обратную связь и адаптацию.
Вычислительная неприводимость: свойство некоторых систем, для предсказания поведения которых не существует быстрого способа; система сама по себе является самым быстрым симулятором.
Коридор жизнеспособности: диапазон конфигураций между чрезмерным порядком (жесткостью) и чрезмерным беспорядком (хаосом), в пределах которого сложные системы могут поддерживать свою жизнеспособность.
Граница Крамера-Рао: фундаментальный результат в теории информации, устанавливающий минимальную дисперсию любой несмещенной оценки; используется при доказательстве границы скорости обучения.
Функционал повреждений: математическая функция, измеряющая общие затраты, понесенные системой, включая затраты, связанные с ошибками модели, и затраты, связанные со снижением адаптивности.
Неравенство обработки данных: принцип в теории информации, утверждающий, что обработка данных не может увеличить объем содержащейся в них информации; ограничивает то, что можно узнать из любого источника данных.
Отклонение: отклонение от ожидаемого или предписанного состояния; может быть ошибкой (сигналом о правильности модели) или дисперсией (исследованием альтернатив).
Ставка дисконтирования: это ставка, по которой будущие затраты и выгоды имеют меньший вес , чем текущие; высокие ставки дисконтирования благоприятствуют краткосрочным результатам по сравнению с долгосрочными.
Дискреционность: Право выносить суждения в отдельных случаях, а не механически применять общие правила; механизм внесения вариативности в системы, регулируемые правилами.
Распределенная власть: Политические структуры, в которых власть распределена между множеством независимых центров, а не сосредоточена в одной иерархической структуре.
Граница хаоса: пограничная зона между упорядоченным и хаотическим режимами, где сложные системы демонстрируют максимальную способность к обработке информации и адаптации.
Эмерджентность: появление на системном уровне свойств, которые невозможно предсказать на основе свойств компонентов; определяющая характеристика сложных систем.
Эпистемическая: относящаяся к знанию; эпистемическая неопределенность — это неопределенность в отношении того, что мы знаем, в отличие от онтологической неопределенности в отношении того, что существует.
Эпистемическая замкнутость: состояние, при котором убеждения системы становятся самоподтверждающимися благодаря систематической фильтрации противоречащих доказательств.
Эпистемический горизонт: граница того, что система может знать, исходя из своей текущей модели; дисперсия открывает возможности для познания за пределами этого горизонта.
Эксплуатация: Использование уже известных знаний для максимизации непосредственной эффективности; в отличие от исследования.
Исследование: Попытка опробовать неизвестные варианты для обнаружения потенциально более эффективных подходов; в отличие от эксплуатации.
Компромисс между разведкой и эксплуатацией: фундаментальное противоречие между использованием заведомо хороших вариантов и открытием потенциально лучших ; для долгосрочного успеха необходимо найти баланс.
Обратная связь: Информация о последствиях действий, позволяющая системам корректировать свое поведение; может быть положительной (усиливающей) или отрицательной (корректирующей).
Отключение обратной связи: систематическое подавление каналов, посредством которых реальность могла бы корректировать модель системы; характерная черта тоталитарных режимов.
Федерализм: политическая система, разделяющая власть между несколькими уровнями власти и защищающая от различий посредством распределенного принятия решений.
Фундаментальная теорема Фишера: теорема, утверждающая, что скорость увеличения приспособленности равна генетической дисперсии приспособленности; частный случай ограничения скорости обучения.
Ландшафт приспособленности: метафорическая поверхность, где высота отражает, насколько хорошо конфигурация соответствует целям системы; сложные системы имеют извилистые ландшафты со множеством локальных оптимумов.
Генетическая нагрузка: бремя вредных мутаций, переносимых популяцией; поддерживается, потому что её устранение исключило бы изменчивость, необходимую для адаптации.
Реальные альтернативы: варианты будущего, которые действительно возможны, а не просто неизвестны; именно наличие таких альтернатив делает сложные системы адаптивными.
Подлинная новизна: конфигурации, которые никогда прежде не существовали и не могли быть предсказаны; генерируемые сложными адаптивными системами посредством их динамики.
Закон Гудхарта: принцип, согласно которому, когда показатель становится целью, он перестает быть хорошим показателем; следствие тотализации оптимизации в сторону метрик.
Высокий модернизм: идеология, согласно которой общество можно рационально перепроектировать, исходя из фундаментальных принципов, заменив традиционные механизмы научным планированием.
Горизонт (цель как): Направление движения, определяющее действия без указания конечного пункта назначения; противопоставляется цели как пункту назначения.
Ловушка бессмертия: патология, при которой системы не могут адаптироваться, потому что не способны избавиться от конфигураций, подходящих для прошлых условий; смерть — это механизм, который этому препятствует.
Императивная неопределенность, закон: принцип, согласно которому любая система, способная к устойчивой сложности, должна допускать исключения из своих законов в виде постоянной неопределенности и вероятностных отклонений.
Теория информации: математическое исследование информации, коммуникации и пределов того, что можно узнать из данных.
Неустранимая неопределенность: неопределенность, которую невозможно устранить никакими конечными средствами, поскольку она является свойством самой реальности, а не просто ограничением знания.
Проблема знаний: проницательное наблюдение Хайека о том, что информация, необходимая для координации экономической деятельности, разрознена и не может быть централизована; объясняет несостоятельность централизованного планирования.
Ограничение скорости обучения: теорема, согласно которой скорость, с которой система может уменьшить ошибку модели, ограничена ее адаптивной дисперсией.
Правовая свобода действий: право субъектов права принимать решения, а не механически применять правила; вносит разнообразие в правовую систему.
Лила: санскритское понятие реальности как непрерывной игры или процесса, а не как фиксированной структуры; древнее признание необходимости неопределенности.
Локальный оптимум: конфигурация, при которой любое небольшое изменение снижает производительность, но которая может быть значительно ниже глобального оптимума; системы могут застревать в локальных оптимумах .
Управляемая открытость: режим между чистым порядком и чистым хаосом, где существуют правила, но допускаются исключения, сохраняя достаточную структуру для координации и достаточную вариативность для адаптации.
Милосердие: преднамеренное неприменение заслуженного наказания; структурный механизм, обеспечивающий разнообразие в правовых системах.
Ошибка модели: расхождение между тем, что система считает о своей среде, и тем, что является правдой на самом деле ; его невозможно полностью устранить из-за неустранимой неопределенности.
Монокультура: Сельское хозяйство, основанное на выращивании одного сорта сельскохозяйственных культур; высокопродуктивное в стесненных условиях, но катастрофически уязвимое к неожиданным стрессам.
Мутация: В биологии — отклонение потомства от родительского; с точки зрения точного воспроизведения рассматривается как ошибка, но с точки зрения адаптации позволяет проводить исследования.
Скорость мутаций: частота мутаций; сама по себе находится под действием отбора, откалибрована для баланса текущей приспособленности и будущей адаптивности.
Взаимная информация: мера из теории информации, количественно определяющая, насколько знание одной переменной позволяет судить о другой; используется для формального определения адаптивной дисперсии.
Отрицательная обратная связь: Обратная связь, которая противодействует отклонениям, возвращая систему в целевое состояние; необходима для стабильности, но может препятствовать необходимым изменениям.
Нелинейность: свойство, при котором последствия не пропорциональны причинам; малые входные параметры могут приводить к большим результатам и наоборот.
Онтологический: относящийся к существованию или бытию; онтологическая неопределенность — это неопределенность относительно того, что существует, а не просто того, что нам известно.
Закон оптимизационного доминирования: принцип, согласно которому после получения первого удовлетворительного решения дальнейшая оптимизация снижает вероятность успеха за счет потребления ресурсов, необходимых для обеспечения гибкости.
«Максимизатор скрепок»: мысленный эксперимент об искусственном интеллекте, которому поставлена конечная цель — производство скрепок, и который направляет все свои ресурсы на достижение этой цели; иллюстрирует опасность конечных целей.
Право на помилование: право полностью прощать преступления; наиболее крайняя форма правового исключения, позволяющая исправить системную несправедливость.
Зависимость от предшествующего пути: явление, при котором текущие возможности ограничены прошлыми решениями; история имеет значение для траекторий развития системы.
Полицентризм: Политические структуры с множеством независимых центров власти, а не с единой иерархией; обеспечивает защиту различий за счет распределения власти.
Полиморфизм: Сохранение множества генетических вариантов в популяции; кажется неоптимальным, но обеспечивает защиту от изменений окружающей среды.
Положительная обратная связь: Обратная связь, которая усиливает отклонения, отдаляя систему от ее текущего состояния; может способствовать быстрым изменениям, но также и нестабильности.
Прецедент: Правовая доктрина, согласно которой решения прошлого определяют решения будущего; обеспечивает стабильность, допуская при этом постепенную эволюцию посредством переосмысления.
Вероятностное отклонение: отклонение от детерминированного поведения вследствие случайных колебаний; механизм, посредством которого в системы вносится неопределенность.
Квантовая неопределенность: фундаментальная случайность в квантовой механике, при которой результаты действительно не определены до момента наблюдения; глубочайший источник неустранимой неопределенности.
Переклассификация: процесс, посредством которого суммарная система преобразует сигнал (информативную дисперсию) в ошибку (отклонение, подлежащее коррекции).
Избыточность: дублирование компонентов или функций; кажется расточительным, но обеспечивает устойчивость к отказам.
Рефлексивность: явление, при котором прогнозы относительно системы изменяют саму систему, делая эти прогнозы по своей сути нестабильными.
Смена режима: внезапный переход между качественно различными состояниями системы; часто происходит, когда накопленное давление превышает пропускную способность системы.
Устойчивость: Способность системы поглощать возмущения, сохраняя при этом свои основные функции и идентичность.
Пересматриваемые цели: Цели, которые можно корректировать в зависимости от новой информации или изменившихся обстоятельств; в отличие от конечных целей.
Жесткость: состояние чрезмерного порядка, при котором система утратила способность воспринимать неожиданности; состояние , предшествующее коллапсу , маскирующееся под прочность.
Риск: ситуации, в которых известны возможные исходы и их вероятности; в отличие от неопределенности, в которой исходы или вероятности неизвестны.
Суровый ландшафт: ландшафт, требующий хорошей физической подготовки, с множеством вершин и долин; для навигации необходимо смириться с временным снижением физической формы, чтобы добраться до более перспективных мест.
Удовлетворительный подход: поиск достаточно хороших решений, а не оптимальных; позитивная стратегия для поддержания гибкости, а не просто уступка ограниченным ресурсам.
Самозакрывающаяся система: система, которая настолько тщательно изолировала себя от противоречащих доказательств, что исправление изнутри становится невозможным.
Чувствительная зависимость: свойство хаотических систем, при котором небольшие различия в начальных условиях приводят к совершенно разным результатам с течением времени.
Разделение властей: конституционное устройство, разделяющее государственную власть между ветвями, которые контролируют друг друга; обеспечивает обратную связь, предотвращая подавление какой-либо ветвью власти корректирующих мер.
Сигнал: информация, передаваемая наблюдениями о состоянии окружающей среды; дисперсия как сигнал — это информация, которую предоставляет разнообразие.
Резерв: неиспользованная мощность, неэффективность или избыточность в системе; кажется расточительным, но обеспечивает защиту от непредвиденных потребностей.
Мягкая структура: подход к проектированию, который устанавливает ограничения, в рамках которых может происходить адаптация, а не определяет точные результаты.
Ответственное управление: подход, направленный на поддержание условий для процветания, а не на контроль результатов; подходит для сложных систем.
Стохастический резонанс: явление, при котором добавление шума к сигналу может улучшить обнаружение; демонстрирует положительную роль неопределенности в обработке информации.
Неоптимальность: состояние, при котором не достигается наилучший возможный результат в соответствии с моделью; функциональная неоптимальность сохраняет адаптивную способность.
Дивиденды от неоптимального состояния: преимущества, вытекающие из поддержания неоптимальных состояний: информация, страхование, устойчивость и открытия.
Дао: китайское понятие пути; включает в себя понимание того, что реальность превосходит любое фиксированное описание; древнее признание неприводимой неопределенности.
Конечная цель: фиксированная конечная точка, к которой система стремится путем оптимизации без возможности корректировки; приводит к суммирующей динамике.
Тотализирующая оптимизация: оптимизация, которая рассматривает все отклонения от целевого значения как ошибку, активно минимизирует дисперсию, стремится к сходимости без условий остановки и подавляет корректирующую обратную связь.
Тотализирующий режим: система управления, не допускающая никаких законных исключений, никаких защищенных отклонений и никакого пространства для пересмотра.
Искушение, ведущее к тотализации: повторяющееся человеческое стремление к определенности, согласованности и завершенности, которое приводит к реализации проектов, направленных на тотализацию.
Неопределенность: ситуации, когда возможные исходы или их вероятности неизвестны; противопоставляется риску; может быть эпистемологической (относящейся к знанию) или онтологической (относящейся к реальности).
Дисперсия: статистическая мера разброса в распределении; в данном контексте — разнообразие конфигураций, которые поддерживает система.
Режим сохранения дисперсии: подход к оптимизации, который поддерживает разнообразие и адаптивную способность, а не сходится к единому состоянию.
Жизнеспособность: Способность системы продолжать функционировать с течением времени; требует поддержания баланса между жесткостью и хаосом.
Работоспособность: критерий возможности поддержания состояния в отличие от критерия его оптимальности; ключевой критерий для оценки сложных систем.
Хронология разработки идеи
От древних интуитивных представлений до математических доказательств: развитие идей о сложности, неопределенности и пределах оптимизации.
ок. 500 г. до н.э. — Гераклит: греческий философ утверждает, что реальность характеризуется изменчивостью и движением; «всё течёт» ( panta). (rhei ). Признание того, что стабильность требует динамического процесса, а не статического состояния.
ок. 400 г. до н.э. — Платон: «Республика» описывает идеальное общество, управляемое философами-правителями. Он закладывает основу для тотализирующего политического видения — совершенный порядок через совершенное знание.
ок. 350 г. до н.э. — Аристотель: Развивает концепцию практической мудрости (фронезис) как знания, которое нельзя свести к правилам; признает пределы теоретического знания в человеческих делах.
ок. 300 г. до н.э. — Чжуанцзы: даосский текст утверждает, что Дао, которое можно выразить словами, не является вечным Дао. Реальность превосходит любое фиксированное описание — древнее признание неприводимой неопределенности.
ок. 200 г. до н.э. — Индийская философия: Развитие концепции лилы — реальности как непрерывной игры, а не завершенной структуры. Существование как открытое поле, где возможности сохраняют подлинное присутствие.
1516 — Томас Мор: опубликована «Утопия». Описывает рационально спланированное общество с однородными городами, одинаковыми домами и одинаковой одеждой. Закладывает литературный жанр тотализирующего социального мировоззрения.
1651 — Томас Гоббс опубликовал «Левиафан». В своей работе он отстаивает идею абсолютного суверена для установления порядка в хаотическом состоянии природы. Это раннее современное изложение концепции тотализирующей политической власти.
1748 — Монтескье: опубликован труд «Дух законов». Автор выступает за разделение властей как защиту от тирании. Теоретически обоснована концепция политических институтов, сохраняющих разнообразие.
1787 — Конституция США: Реализует принцип разделения властей и федерализма. Практическое воплощение распределенной власти, сохраняющее институциональное разнообразие.
1789 — Французская революция: попытка перестроить общество на основе рациональных принципов. Демонстрирует как привлекательность, так и опасность тоталитарных политических проектов.
1790 — Эдмунд Берк: Размышления о революции во Франции. Консервативная критика радикального рационализма; отстаивает идею накопленной мудрости в традиционных институтах.
1859 год — опубликован труд Чарльза Дарвина « О происхождении видов». В нем утверждается, что изменчивость является исходным материалом для адаптации; разнообразие — это не отходы, а необходимость.
1867 год — Карл Маркс: опубликован «Капитал». Разрабатывает теорию исторического прогресса на пути к коммунистическому обществу. Влиятельная тоталитарная концепция, определившая историю XX века.
1920 — Людвиг фон Мизес: Сформулирован вопрос экономического расчета. Утверждает , что социалистическое планирование не может воспроизвести информационную функцию рыночных цен.
1921 — Опубликована работа Фрэнка Найта « Риск, неопределенность и прибыль». В ней проводится различие между исчисляемым риском и неисчисляемой неопределенностью — основополагающее различие для понимания неприводимости.
1930 — Р. А. Фишер: Генетическая теория естественного отбора. Доказывает фундаментальную теорему: скорость увеличения приспособленности равна генетической изменчивости. Математическое обоснование понимания изменчивости как ресурса адаптации.
1931 — Курт Гёдель: Опубликованы теоремы о неполноте. Доказывается , что достаточно сложные формальные системы не могут быть одновременно полными и непротиворечивыми. Математическое доказательство неприводимых пределов знания.
1932 — Севолл Райт: Разрабатывает концепцию ландшафта приспособленности. Предлагает визуальную метафору для понимания того, как системы ориентируются на сложных поверхностях оптимизации.
1943 — Уоррен Маккалок и Уолтер Питтс: Логическое исчисление нейронных сетей. Основа для понимания вычислений в биологических и искусственных системах.
1945 год — опубликована работа Фридриха Хайека « Использование знаний в обществе». В ней сформулирована проблема знаний: разрозненная информация не может быть централизована. Объясняется теоретико-информационная несостоятельность централизованного планирования.
1945 год — опубликована книга «Карл Поппер: Открытое общество и его враги». Систематическая критика тоталитарных политических философий от Платона до Маркса.
1948 — Клод Шеннон: Математическая теория коммуникации. Основывает теорию информации; предоставляет математическую основу для количественной оценки информации и неопределенности.
1956 — У. Росс Эшби: Введение в кибернетику. Формулирует закон необходимого разнообразия: контроллер должен обладать как минимум таким же разнообразием, как и система, которой он управляет.
1958-1962 — «Большой скачок»: тотализирующий проект Мао по ускорению развития Китая. Подавление местных знаний и обратной связи приводит к голоду, унесшему жизни десятков миллионов человек.
1959 — Герберт Саймон: Вводит концепцию удовлетворительного решения. Утверждает, что достаточно хорошие решения часто превосходят оптимальные при ограниченной рациональности.
1961 — Джейн Джейкобс: Смерть и жизнь великих американских городов. Критика высокомодернистского городского планирования; показывает, как кажущийся беспорядок способствует жизнеспособности городов.
1963 — Эдвард Лоренц: Открывает чувствительную зависимость от начальных условий в моделировании погоды. Основа для теории хаоса и понимания практической непредсказуемости.
1969 — Элинор Остром: начинает исследования полицентрического управления. Демонстрирует, что местные сообщества могут управлять общими ресурсами без централизованного контроля.
1972 — Опубликована работа «Римский клуб: Пределы роста». Моделирование глобальных ограничений с помощью системной динамики. Иллюстрирует как возможности, так и ограничения моделирования сложных систем.
1975 — Бенуа Мандельброт: Разработана фрактальная геометрия. Выявляет самоподобные закономерности в различных масштабах в сложных системах.
1984 — Стюарт Кауфман: Разрабатывает теорию самоорганизации и границы хаоса. Показывает, что сложные системы естественным образом эволюционируют к критической границе между порядком и хаосом.
1987 — Пер Бак: Открыта самоорганизующаяся критичность. Системы естественным образом эволюционируют до критических состояний, где небольшие возмущения могут запускать каскады любого масштаба.
1990 — Опубликована книга Элинор Остром « Управление общими ресурсами». Эмпирическое доказательство того, что полицентрическое управление может превосходить как рыночное, так и государственное управление в отношении определенных ресурсов.
1991 год — Распад Советского Союза: Завершение крупнейшего эксперимента по централизованному экономическому планированию. Эмпирическое подтверждение проблемы знания и разрушения информации в условиях тотальной оптимизации.
1993 — Кристофер Лэнгтон: Формализует концепцию границы хаоса. Вычисления и адаптация максимизируются на границе между упорядоченным и хаотическим режимами.
1998 — опубликована книга Джеймса К. Скотта « Видеть как государство». В ней описываются систематические неудачи высокомодернистских проектов в сельском хозяйстве, городском планировании и социальной инженерии.
2004 — Ник Бостром: Разрабатывает мысленный эксперимент с максимизатором на основе скрепки. Иллюстрирует опасность конечных целей в искусственном интеллекте.
2007-2008 — Переписка с Джорджем Ф. Р. Эллисом: Выдающийся космолог рассматривает ранние формулировки идей, которые впоследствии легли в основу Закона императивной неопределенности.
2009 — Элинор Остром: Нобелевская премия по экономике за анализ экономического управления. Признание полицентрических альтернатив централизованному контролю.
2015 — Опубликована книга Джерри Мюллера «Тирания метрик». В ней описывается , как оптимизация в сторону метрик приводит к систематическим искажениям в различных организациях.
2020 — Али Альхатиб: Документирует алгоритмический абсурд — как системы, оптимизирующие конечные показатели, приводят к всё более проблематичным результатам.
2025 — Борис Кригер: «Закон императивной неопределенности: почему любой сложный мир требует неопределенности». Формулирует первый закон: постоянная неопределенность необходима для поддержания сложности.
2026 — Борис Кригер: Опубликована работа «Асимметрия тотализирующих идеалов: структурный закон сложных адаптивных систем». Представляет полное математическое доказательство теоремы о том, что стремление к конечной оптимизации приводит к неограниченному ущербу.
2026 — Опубликована книга «Борис Кригер: Аргументы против совершенства». В ней обобщены оба закона и представлена всесторонняя аргументация, доступная широкому кругу читателей.
Асимметрия тотализирующих идеалов:
структурный закон сложных адаптивных систем.
Институт интегративных и междисциплинарных исследований им.
Бориса Кригера
boriskriger@interdisciplinary-institute.org
Абстрактный
В сложных адаптивных системах (САС), характеризующихся неприводимой неопределенностью, немоделируемыми переменными и неизвестными ограничениями, стремление к конечному, глобально оптимальному и внутренне полностью согласованному целевому состоянию систематически приводит к большему долгосрочному системному ущербу, чем устойчивое поддержание ограниченно субоптимального состояния, сохраняющего адаптивную дисперсию. Эта асимметрия возникает потому, что тотализирующая оптимизация переклассифицирует информационную дисперсию как ошибку, подавляет корректирующую обратную связь и подрывает разнообразие, необходимое для адаптации и самокоррекции. В данной статье это явление формализуется как общий структурный закон, опираясь на теорию оптимизации, теорию информации и исследования в области политической теории и теории сложности. Мы приводим строгие определения, явные функциональные формы и полное доказательство основной теоремы в рамках информационно-теоретической модели.
Ключевые слова: сложные адаптивные системы, теория оптимизации, теория информации, адаптивная дисперсия, тотализирующие идеалы, системная устойчивость, энтропия Шеннона, взаимная информация
Введение
Сложные адаптивные системы демонстрируют постоянную неопределенность из-за нелинейных взаимодействий, эмергентных свойств и неполноты знаний. Попытки навязать единственный, конечный и максимально согласованный оптимум сталкиваются со структурным ограничением: сходимость к полной согласованности устраняет дисперсию, которая служит основным механизмом для выявления неучтенных аспектов реальности и обеспечения непрерывной адаптации.
В данной статье сформулирован закон асимметрии тотализирующих идеалов , который постулирует, что при определенных условиях системные издержки стремления к конечному оптимуму превышают издержки терпимости к устойчивой субоптимальности при сохранении адаптивной изменчивости. Этот закон является структурным и не зависит от намерений, компетентности или моральной ориентации субъекта.
Закон асимметрии тотализирующих идеалов
В сложных адаптивных системах стремление к предельно оптимальному и полностью согласованному целевому состоянию приводит к большему ожидаемому системному ущербу, чем сохранение состояния с ограниченной степенью неоптимальности, поскольку тотальная оптимизация преобразует неопределенность в ошибку и устраняет адаптивную дисперсию.
Основная причина этой асимметрии заключается в том, что тотальная оптимизация, направленная на достижение конечного согласованного идеала, переклассифицирует всю информационную дисперсию как ошибку, подавляет отклонения, а не учится на них, и систематически устраняет то самое разнообразие, которое служит информационной основой для постоянной адаптации и самокоррекции. Напротив, постоянно несовершенный, но сохраняющий дисперсию режим поддерживает открытыми каналы коррекции, локализует ошибки и обеспечивает долгосрочную жизнеспособность.
Формальная структура
Базовая настройка
Пусть S— сложная адаптивная система с пространством состояний ;и динамикой, описываемой функцией перехода T:;;U;;;;, где Uпредставляет собой пространство управляющих воздействий, а ;представляет собой пространство неизвестных параметров окружающей среды .
Предположение 1 (неустранимая неопределенность). Истинный параметр ;^*;;неизвестен системе и не может быть полностью определен из какой-либо конечной последовательности наблюдений. Формально, для любой последовательности наблюдений (o_1,…,o_n )апостериорная энтропия удовлетворяет условию:H(;^* |o_1,…,o_n )>0;;n<;
Определение 1 (Распределение состояний и энтропия). В момент времени tобозначим через ;_t;P(;)распределение по реализованным или потенциальным состояниям. Структурная энтропия системы равна: H_t ;(:=) H(;_t )=-;_(s;;)^;;_t (s)log;_t (s)Для непрерывных пространств состояний заменим суммирование интегрированием.
Определение 2 (Адаптивная дисперсия — информационно-теоретическая). Адаптивная дисперсия V_tсистемы Sво времени tопределяется как взаимная информация между распределением состояний и неизвестными параметрами: V_t ;(:=) I(;_t;;^* )=H(;^* )-H(;^* |;_t )она измеряет, сколько информации предоставляет разнообразие состояний о неизвестной структуре окружающей среды. Эквивалентно, V_tколичественно оценивает способность системы к обучению ;^*посредством разнообразия своих конфигураций.
Замечание 1. Это определение позволяет избежать концептуальной проблемы смешения дисперсии приспособленности с информационным разнообразием. Система может иметь низкую дисперсию значений приспособленности, сохраняя при этом высокое структурное разнообразие, которое предоставляет информацию о неизвестных параметрах. Определение 2 напрямую отражает информационную емкость разнообразия состояний.
Определение 3 (Конечное целевое состояние). Состояние s^*;;является конечным, если:
Считается, что это глобально оптимальное решение: для текущей модели s^*=argmax_(s;;) F(s|; ; )окружающей среды, используемой системой .; ;
Оно рассматривается как внутренне согласованное и не подлежащее пересмотру.
Цель системы — сходиться к заданному значению s^*и оставаться в нем неограниченно долго.
Определение 4 (Режим тотализирующей оптимизации). Режим R_Tявляется тотализирующим, если он удовлетворяет всем следующим условиям:
Переклассификация ошибок: отклонения от нормы s^*классифицируются как ошибки, подлежащие устранению, а не как информационные сигналы: для любого значения s;s^*система применяет корректирующие меры -;d(s,s^* ).
Минимизация дисперсии: Режим активно минимизирует H(;_t ), направляя распределение состояний к ;_(s^* ).
Отсутствие условия остановки: сходимость s^*достигается без внешних критериев завершения.
Подавление сигналов: Корректирующие сигналы, указывающие на проблему, ; ;;;^*игнорируются или подавляются.
Определение 5 (Субоптимальный режим, сохраняющий дисперсию). Режим R_Vсчитается сохраняющим дисперсию, если:
Это справедливо H(;_t );H_min>0для всех t.
Отклонения рассматриваются как потенциальные источники информации.
Целевая функция может быть пересмотрена на основе новой информации.
Допускается наличие нескольких локальных оптимумов.
Повреждение функционального
Определение 6 (Ошибка модели). Накопленная ошибка модели в момент времени tравна: E_t ;(:=) ;_0^t;; ; ;_;-;^* ;^2;d;где ; ;_;— оценка системой истинного параметра в момент времени ;.
Определение 7 (функция потерь). Мгновенные потери определяются как явная функция ошибки модели и адаптивной дисперсии: L_t ;(:=) L(E_t,V_t )=((c_1;E_t);;);"cost of model error" +((c_2;1/(V_t+;));;);"cost of low adaptability" где c_1,c_2>0— положительные константы, а ;>0— малая константа регуляризации.
Замечание 2. Функция потерь [ eq:loss_function ] отражает два источника системного ущерба: (1) накопленные ошибки, возникающие при работе с некорректной моделью, и (2) снижение способности исправлять будущие ошибки из-за низкой адаптивной дисперсии. Обратная зависимость с V_tотражает тот факт, что низкая дисперсия делает систему все более уязвимой.
Определение 8 (Ожидаемый долгосрочный ущерб). Ожидаемый долгосрочный ущерб в режиме R, начинающемся с начального состояния, s_0определяется следующим образом: D(s_0,R) ;(:=) E[;_0^;;e^(-;t) L_t;dt;|;s_0,R]где ;>0— ставка дисконтирования, а математическое ожидание берется с учетом стохастической динамики и неопределенности окружающей среды.
Динамика в различных режимах
Динамика обучения в рамках теории информации
Лемма 1 (Ограничение скорости обучения). При условии 1 скорость, с которой система может уменьшить ошибку своей модели, ограничена взаимной информацией между распределением ее состояний и неизвестными параметрами: -d/dt E[;; ;_t-;^* ;^2 ];;;V_tгде ;>0— константа эффективности обучения и V_t=I(;_t;;^* ).
Доказательство. Это следует из неравенства обработки данных и связи между взаимной информацией и ошибкой оценки. Граница Крамера-Рао устанавливает, что минимально достижимая дисперсия при оценке ;^*обратно пропорциональна информации Фишера, которая ограничена взаимной информацией между наблюдениями и параметрами. Поскольку наблюдения генерируются распределением состояний ;_t, скорость уменьшения ошибки ограничена I(;_t;;^* ). Строгий вывод представлен в главе 11. ;
Динамика в условиях суммирующей оптимизации
В условиях тотализирующего режима R_Tсистема активно стремится к конечному состоянию s^*.
Предположение 2 (Тотализирующая динамика). При этом R_Tподразумевается dH(;_t )/dt=-;H(;_t ),;;>0, H(;_t )=H(;_0 ) e^(-;t);0что t;;.
Лемма 2 (Схлопывание дисперсии). При условии 2 адаптивная дисперсия удовлетворяет следующему условию: V_t;H(;_t );H(;_0 ) e^(-;t)Следовательно , она V_t;0экспоненциально возрастает при t;;.
Доказательство. По определению, V_t=I(;_t;;^* )=H(;^* )-H(;^* |;_t ). Поскольку обусловливание уменьшает энтропию, H(;^* |;_t );0, следовательно V_t;H(;^* ), . Более того, I(;_t;;^* );min{H(;_t ),H(;^* )}согласно стандартным информационно-теоретическим ограничениям. При [ eq:entropy _decay ] , H(;_t );0, принуждая V_t;0. ;
Лемма 3 (Накопление ошибок в режиме суммирования). При R_Tусловии V_t;0, если начальная ошибка модели удовлетворяет условию недостаточной обучаемости , ;; ;_0-;^* ;^2>(;V_0)/;то: E_t=;_0^t;; ; ;_;-;^* ;^2;d;;;;"as " t;;со скоростью не медленнее линейной.
Замечание 3 (Интерпретация условия [ eq:insufficient_learning ] ) . Условие ;; ;_0-;^* ;^2>;V_0/;гласит, что начальная ошибка модели превышает общую доступную обучающую способность до того, как дисперсия схлопнется. Это общий случай для сложных систем при условии 1 : неустранимая неопределенность подразумевает, что разрыв между любой конечной моделью и реальностью превышает то, что можно узнать из любого конечного информационного ресурса. Условие не выполняется только в вырожденном случае, когда система изначально почти всеведуща — именно та ситуация, которая исключается предположением о подлинной сложности.
Доказательство. Согласно лемме 1 , скорость уменьшения ошибки ограничена величиной ;V_t. В соответствии с леммой 2 , V_t;V_0 e^(-;t). Максимально возможное уменьшение ошибки за все время равно:
;;_0^;;V_; ;d;;;;_0^;;V_0 e^(-;;);d;=(;V_0)/;
Это общая обучающая способность системы в режиме суммирования — максимальная величина, на которую может уменьшиться ошибка модели, прежде чем будет исчерпана дисперсия.
Ошибка модели в момент времени tудовлетворяет следующему условию:
;; ;_t-;^* ;^2;;; ;_0-;^* ;^2-;;_0^t;V_; ;d;=;; ;_0-;^* ;^2-(;V_0)/; (1-e^(-;t) )
Как t;;:
;; ;_t-;^* ;^2;;; ;_0-;^* ;^2-(;V_0)/;=:;^2
При условии [ eq:insufficient_learning ] эта остаточная ошибка сохраняется неограниченно долго, что приводит к следующему результату ;^2>0:
E_t;;_0^t;;^2 ;d;=;^2 t;;
;
Динамика в условиях режима сохранения дисперсии
Предположение 3 (Динамика, сохраняющая дисперсию). При условии R_V: H(;_t );H_min>0;;tи соответственно V_t;V_min>0для некоторого, V_minопределяемого H_minи структурой ;.
Лемма 4 (Ограниченная ошибка в режиме сохранения дисперсии). При R_Vусловии V_t;V_min>0, ошибка модели удовлетворяет условию: E[;; ;_t-;^* ;^2 ];(;_;^2)/V_min для некоторой константы, ;_;^2зависящей от априорной неопределенности, и, следовательно: E_t;(;_;^2)/V_min ;t+CОднако, если система также может исправлять ошибки со скоростью, пропорциональной V_t, мы имеем: limsup;(t;;);; ;_t-;^* ;^2;(;_;^2)/(;V_min )где ;_;^2представляет собой неприводимый шум, что приводит к ограниченному росту кумулятивной ошибки.
Доказательство. При V_t;V_min, лемма 1 обеспечивает непрерывное обучение со скоростью не менее ;V_min. В присутствии постоянных возмущений окружающей среды с дисперсией ;_;^2, ошибка в стационарном состоянии определяется балансом между обучением и возмущением, что дает конечную границу. Кумулятивная ошибка E_tтогда растет не более чем линейно с ограниченным коэффициентом. ;
Основная теорема и доказательство
Теорема 1 (Асимметрия тотализирующих идеалов). Пусть S— комплексная адаптивная система, удовлетворяющая предположению 1 (неустранимая неопределенность). Пусть R_T— тотализирующий режим, удовлетворяющий определению 4 и предположению 2 , и пусть R_V— режим, сохраняющий дисперсию, удовлетворяющий определению 5 и предположению 3 .
Затем, для функционала повреждения [ eq:damage_functional ] с функцией потерь [ eq:loss_function ] : D(s_0,R_T )>D(s_0,R_V )предоставлено:
;; ;_0-;^* ;^2>;V_0/;(недостаточная способность к обучению), и
;<;(ставка дисконтирования меньше скорости затухания дисперсии).
Доказательство. Мы явно вычисляем функционал ущерба для каждого режима.
Шаг 1: Повреждения в пределах R_T.
В условиях тотализирующего режима, согласно леммам 2 и 3 :
;(V_t^T&;V_0 e^(-;t)@E_t^T&;;^2 t;"for large " t)
где, согласно условию ( i ) теоремы, ;^2 ;(:=);; ;_0-;^* ;^2-;V_0/;>0— это устойчивая ошибка модели.
Функция потерь [ eq:loss _function ] в разделе R_T:
L_t^T=c_1 E_t^T+c_2/(V_t^T+;)
Для второго семестра, как V_t^T;0:
c_2/(V_t^T+;);c_2/(V_0 e^(-;t)+;)
Функционал повреждения:
;(D(s_0,R_T )&=;_0^;;e^(-;t) L_t^T;dt@&;c_1 ;_0^;;e^(-;t) ;^2 t;dt+c_2 ;_0^;;e^(-;t) 1/(V_0 e^(-;t)+;);dt)
Первый интеграл равен c_1 ;^2/;^2.
Для второго интеграла, когда ;<;, при больших значениях имеем t:
e^(-;t);1/(V_0 e^(-;t)+;);e^(-;t);e^;t/V_0 =e^(;-;)t/V_0
который расходится при t;;. Таким образом:
D(s_0,R_T )=;
Шаг 2: Повреждения в пределах R_V.
В режиме сохранения дисперсии, согласно предположению 3 и лемме 4 :
;(V_t^V&;V_min>0@E_t^V&;C_E;t;"with bounded coefficient " C_E )
Точнее, с активной коррекцией ошибок:
;; ;_t-;^* ;^2;M;"for some " M<;
Функция потерь при R_V:
L_t^V=c_1 E_t^V+c_2/(V_t^V+;);c_1 C_E t+c_2/V_min
Функционал повреждения:
;(D(s_0,R_V )&=;_0^;;e^(-;t) L_t^V;dt@&;c_1 C_E ;_0^;;t e^(-;t) dt+c_2/V_min ;_0^;;e^(-;t) dt@&=(c_1 C_E)/;^2 +c_2/(V_min ;)<;)
Шаг 3: Сравнение.
Из [ eq:D_T_diverges ] :
D(s_0,R_T )=;>D(s_0,R_V )<;
На этом доказательство завершено. ;
Замечание 4 (Интерпретация условия ;<;). Условие ;<;гласит, что ставка дисконтирования системы (насколько она обесценивает будущий ущерб) меньше, чем скорость, с которой суммарная оптимизация уничтожает дисперсию. Это режим, в котором доминируют долгосрочные последствия — именно та среда, в которой работают сложные адаптивные системы. Если ;>;, система настолько сильно дисконтирует будущее, что непосредственные выгоды от согласованности могут перевесить долгосрочную хрупкость; однако это представляет собой близорукую оптимизацию, несовместимую с подлинной долгосрочной жизнеспособностью.
Замечание 5 (Устойчивость результата). Расхождение D(s_0,R_T )=;обусловлено членом (V_t+;)^(-1). V_t;0Это отражает фундаментальную идею: стоимость потери адаптивности неограниченно возрастает по мере исчезновения дисперсии. Даже альтернативные функции потерь вида L=c_1 E+c_2 V^(-;)для ;>0дают тот же качественный результат.
Необходимые и граничные условия
Необходимые условия
Для выполнения теоремы необходимо соблюдение всех следующих условий:
Конечная, неизменяемая цель: система не может изменить свою цель; s^*она фиксирована. Если цели могут быть пересмотрены, режим не является тотальным .
Обеспечение максимальной когерентности: система активно гомогенизирует свое внутреннее состояние, управляя им H(;_t );0. Пассивного дрейфа в сторону низкой энтропии недостаточно.
Переклассификация дисперсии как ошибки: эпистемическое замыкание в отношении «шума»; все отклонения s^*рассматриваются как дефекты. Если отклонения исследуются как потенциальная информация, режим не является тотализирующим.
Отсутствие механизмов защиты от инакомыслия: отсутствуют институциональные или структурные гарантии для выражения несогласия или учета разнообразия. Защита от инакомыслия нарушила бы предположение 2 .
Крупномасштабные, распределенные, необратимые процессы: система функционирует в масштабе, где ошибки накапливаются, и локальные корректировки не могут распространяться достаточно быстро, чтобы предотвратить системные последствия.
Неустранимая неопределенность: выполняется предположение 1 — окружающую среду невозможно познать полностью.
Недостаточная обучаемость: начальная ошибка модели превышает общую обучаемость системы до того, как дисперсия схлопнется ;; ;_0-;^* ;^2>;V_0/;. Это типичный случай для сложных систем, где разрыв между моделью и реальностью превышает то, что может преодолеть конечная начальная дисперсия.
Граничные условия
Закон не применяется, если выполняется хотя бы одно из следующих условий:
Цели не являются конечными и подлежат пересмотру: система обновляет свою целевую задачу на основе обратной связи, предотвращая эпистемическое замыкание.
Сохраняется множество несоизмеримых целей: поддержание множества целей предотвращает коллапс к одному аттрактору и сохраняет структурную энтропию.
Изменчивость защищена институциональными механизмами: существуют механизмы, гарантирующие ее сохранение H(;_t );H_min>0независимо от давления оптимизации.
Система может быть небольшой, обратимой или корректироваться извне: небольшие системы могут быть полностью смоделированы ( ;^*=; ;), обратимые системы могут устранять ошибки, а внешняя коррекция обеспечивает внешний источник дисперсии.
Полная информация: Если H(;^* |"all observations" )=0, то среда полностью известна, и предположение 1 не выполняется.
Высокая ставка дисконтирования: если ;>;, то краткосрочные выгоды могут преобладать, хотя это означает отказ от критерия долгосрочной жизнеспособности.
Начальное состояние, близкое к всезнанию: если ;; ;_0-;^* ;^2;;V_0/;, то начальная модель системы достаточно близка к истине, чтобы имеющейся обучающей способности было достаточно для устранения всех ошибок до того, как дисперсия схлопнется. Это вырожденный случай системы, которая «уже знает достаточно» — несовместимый с подлинной сложностью и неприводимой неопределенностью.
Основные механизмы
Представленная выше математическая модель формализует следующие интуитивно понятные механизмы:
Дисперсия как носитель информации.
Согласно определению 2 , V_t=I(;_t;;^* )дисперсия напрямую измеряет, насколько разнообразие состояний говорит нам о неизвестной среде. Отклонения — это не просто шум, а сенсорный аппарат системы для обнаружения неадекватности модели. В сложных ландшафтах приспособленности дисперсия позволяет системе исследовать множество областей, выявляя, какие локальные оптимумы устойчивы к изменениям окружающей среды.
Переклассификация как ошибка.
В тотализирующих режимах (Определение 4 , условие T1) отклонения рассматриваются как несовершенства, которые необходимо устранить, а не как сигналы для исследования. Это эквивалентно обнулению скорости исследования в рамках концепции исследования-эксплуатации, что приводит к схлопыванию эпистемического горизонта системы.
Подавление важнее обучения.
Условие T4 определения 4 указывает на то, что конфликтующие сигналы подавляются. В сочетании с минимизацией дисперсии (T2) это гарантирует, что апостериорное распределение по состояниям мира сводится к точечной массе:
p(;|"data under " R_T );;(;-; ;_0 )
Система прекращает обновление своей модели, гарантируя сохранение ошибки в соответствии с предположением 1 .
Утрата адаптивной способности.
Согласно закону Эшби о необходимом разнообразии, эффективное регулирование требует, чтобы разнообразие регулирующего фактора как минимум соответствовало разнообразию окружающей среды. При H(;_t );0значении ниже этого порога R_Tрегулирующая способность системы падает ниже порога, необходимого для возникновения возмущений окружающей среды.
Информационная катастрофа.
Лемма 3 формализует кумулятивное следствие: ошибки накапливаются без ограничений, в то время как способность обнаруживать и исправлять их исчезает. Это информационно-теоретический аналог мутационного коллапса в малых популяциях.
Связь с теоремой Фишера
Замечание 6 (Область применения). Фундаментальная теорема естественного отбора Фишера гласит , что в биологических популяциях с определенной моделью генетического наследования скорость увеличения средней приспособленности равна аддитивной генетической дисперсии приспособленности. Хотя это дает убедительное интуитивное представление, прямое применение к произвольным системам адаптивного программирования требует осторожности, поскольку теорема зависит от предположений (менделевское наследование, аддитивные эффекты), которые могут не выполняться в социальных или технологических системах.
Наша концепция позволяет избежать этой зависимости, основывая аргументацию на теории информации, а не на популяционной генетике. Лемма 1 устанавливает аналогичный результат — скорость обучения, ограниченная взаимной информацией, — без необходимости генетических предположений. Теорему Фишера можно рассматривать как частный случай этого более общего информационно-теоретического принципа применительно к биологическим системам с соответствующей структурой.
Следствия
Следствие 1: Закон оптимизационного доминирования
Следствие 1 (Закон оптимизационного доминирования). В любой системе с ограниченными ресурсами R, убывающей предельной отдачей от оптимизации и положительными затратами c>0на каждый шаг оптимизации, дальнейшее стремление к максимальному качеству после достижения первого удовлетворительного состояния s_"sat" снижает вероятность успешного завершения задачи.
Доказательство. Конечный проект с крайним сроком Tи ресурсами Rпредставляет собой миниатюрную систему компьютерной алгебры, где «вариативность» соответствует оставшейся гибкости (альтернативные подходы, временной буфер, резерв ресурсов). Пусть V_t^"proj" обозначает эту гибкость в момент времени t.
Каждый последующий шаг оптимизации s_"sat" расходует ресурсы и время, уменьшая вероятность улучшения V_t^"proj" . При убывающей отдаче вероятность улучшения снижается, в то время как вероятность дестабилизации (появление ошибок, срыв сроков) остается постоянной или возрастает.
Функция потерь принимает следующий вид:
L_t=c_1;P("failure" )+c_2;(V_t^"proj" )^(-1)
По той же логике, что и в теореме 1 , стремление V^"proj" ;0к оптимальности неограниченно увеличивает ожидаемый ущерб по сравнению с остановкой на s_"sat" . ;
Связь с народной мудростью: пословица «лучшее — враг хорошего» — это сжатое выражение следствия 1 .
Следствие 2: Закон императивной неопределенности
Следствие 2 (Механистическое обоснование императивной неопределенности). Любая сложная адаптивная система, способная поддерживать нетривиальную сложность во времени, должна сохранять V_t>0ненулевой запас неопределенности и дисперсии. Попытка достижения V_t=0(полной согласованности, нулевой неопределенности) нарушает необходимые условия для долгосрочной жизнеспособности.
Доказательство. Это непосредственно следует из теоремы 1. Если система пытается управлять V_t;0, она реализует тотализирующий режим. По теореме, это приводит к D(s_0,R_T )=;— неограниченному ожидаемому ущербу. Следовательно, любая жизнеспособная система должна поддерживать V_t>0. ;
Закон императивной неопределенности утверждает , что сложные системы требуют постоянной неопределенности. Следствие 2 дает механистическое объяснение: неопределенность (дисперсия) является информационным субстратом для обучения. Ее устранение лишает возможности адаптации, что губительно в условиях неустранимой неопределенности.
Логическая структура:
$$\begin{aligned} &\text{Дисперсия } V_t \ xrightarrow {\text{Определение~\ref{ def:adaptive_variance }}} \text{Взаимная информация с } \theta^* \\ &\ xrightarrow {\text{Лемма~\ref{ lem:learning }}} \text{Ограниченная скорость обучения} \ xrightarrow {\text{Теорема~\ref{ thm:main }}} \text{Ограниченный ущерб} \end{aligned}$$
И наоборот: V_t;0;способность к обучению ;0;неограничена, ошибки неограничены, ;ущерб неограничен.
Литературный обзор
Закон формализует и объединяет критику, исходящую из различных традиций.
В документе описывается, как высокомодернистские схемы навязывают «читаемость» сложным системам, разрушая локальные знания ( m;tis ), которые обеспечивают адаптацию. Наша концепция определяет механизм: читаемость снижает H(;_t ), устраняя информационную основу для обучения.
Проблема знаний — то есть то, что экономически значимые знания рассредоточены и не могут быть централизованы — является частным случаем Предположения 1. Ценовые системы сохраняют вариативность (множество участников, разнообразная информация), в то время как централизованное планирование стремится к согласованности.
Современные исследования полицентрического управления акцентируют внимание на институциональных механизмах, которые защищают разнообразие за счет пересекающихся юрисдикций и конкурирующих полномочий.
показывает, как алгоритмические системы, оптимизирующие конечные цели, приводят к абсурдным результатам — прямое проявление механизма переклассификации (Т1 в определении 4 ).
Информационно-теоретический подход к проблеме коллапса предоставляет формальные инструменты, дополняющие нашу концепцию.
В эволюционной биологии подтверждаются существенные различия в приспособленности диких популяций, что подтверждает эмпирическую значимость адаптации, зависящей от этих различий.
Закон Эшби о необходимом разнообразии обеспечивает кибернетическую основу: регулирующая способность требует соответствующего разнообразия. Наша лемма 1 — это информационно -теоретическое уточнение.
Философские выводы
Теорема переосмысливает утопическую критику. Утопические видения — «Республика» Платона, «Утопия» Мора , современные техноутопии — не осуждаются за свои устремления . Проблема носит структурный характер : они предполагают конечные состояния максимальной когерентности, которые, согласно теореме 1 , приводят к неограниченному ущербу в системах с неприводимой неопределенностью.
Это не моральный проступок, а топологическая невозможность. Сложные адаптивные системы существуют в многомерных пространствах состояний, где для долгосрочной жизнеспособности необходимо исследовать множество областей. Принудительное свертывание до фиксированной точки уничтожает эту исследовательскую способность.
Философское предписание: утопии как горизонты, которые можно пересматривать, а не как конечные цели . Стремления направляют, но не определяют ; разнообразие сохраняется; адаптация остается возможной. Несовершенство — это не недостаток, а особенность, необходимая для выживания.
Практические последствия
Политические системы должны быть полицентричными.
Множество перекрывающихся полномочий поддерживают структурную энтропию ( H(;_t )>0), необходимую для адаптивного управления.
Экономика должна сохранять рыночную изменчивость.
Распределенное ценообразование поддерживает информационное разнообразие. Централизованное планирование нарушает пункты (V1)–(V4) определения 5 .
Наука требует теоретического плюрализма.
Принудительное достижение консенсуса H(;_t^"theory" );0исключает необходимость учета вариативности для обнаружения ошибок модели.
При настройке ИИ необходимо избегать конечных целей.
Единые функции полезности реализуют суммирующие режимы. Надежный ИИ требует множества пересматриваемых целей и сохранения поведенческой вариативности.
Социальный порядок должен формироваться в рамках мягких концептуальных моделей.
Гибкие нормы и децентрализованные правила сохраняют разнообразие, которое устраняется жесткими шаблонами.
Объединяющий принцип: несовершенство — это не ошибка, которую нужно устранить, а особенность, которую нужно защитить. Разнообразие — это основа жизнеспособности.
Заключение
Асимметрия тотализирующих идеалов представляет собой результат структурной невозможности: в сложных адаптивных системах с неприводимой неопределенностью стремление к конечной согласованности приводит к неограниченному ожидаемому ущербу, разрушая информационную дисперсию, необходимую для обучения и адаптации.
Мы предоставили:
, основанные на теории информации (Определения 2–8 )
Явные функциональные формы, связывающие дисперсию, ошибку и ущерб (Уравнения [ eq:loss_function ] – [ eq:damage_functional ] )
Полное доказательство основной теоремы (теорема 1 ) с явными условиями.
Четко определены необходимые и граничные условия, определяющие сферу действия закона.
В результате объединены идеи из науки о сложности, теории информации, эволюционной биологии, политической философии и институциональной экономики в рамках единой механистической модели: адаптивная дисперсия функционирует как информационный субстрат для изучения немоделируемых аспектов реальности, а тотализирующая оптимизация систематически разрушает этот субстрат, переклассифицируя его как ошибку.
Теорема является фальсифицируемой: она предсказывает, что системы, нарушающие граничные условия (B1–B7), не будут проявлять асимметрию. Она также применима на практике: она предоставляет точные критерии для определения момента, когда оптимизация становится саморазрушительной.
Сохранение разнообразия — это не уступка несовершенству, а необходимое условие для долгосрочной устойчивости.
99
Альхатиб, А. (2021). Жить в своей утопии: почему алгоритмические системы создают абсурдные результаты. Труды конференции CHI 2021 по человеческим факторам в вычислительных системах , 1–12. https://doi.org/10.1145/3411764.3445740
Эшби, У. Р. (1956). Введение в кибернетику . Чапман и Холл.
Бонне, Т. и др. (2022). Генетическая изменчивость приспособленности указывает на быструю современную адаптивную эволюцию диких животных. Science , 376(6591), 181–186. https://doi.org/10.1126/science.abk0853
Ковер, Т. М., и Томас, Дж. А. (2006). Элементы теории информации (2-е изд.). Wiley- Interscience .
Фишер, Р. А. (1930). Генетическая теория естественного отбора . Издательство «Кларендон».
Хайек, Ф. А. (1945). Использование знаний в обществе. Американский экономический обзор , 35(4), 519–530.
Кауфман, С. А. (1993). Происхождение порядка: самоорганизация и отбор в эволюции . Издательство Оксфордского университета.
Кригер, Б. (2025). Закон императивной неопределенности: почему любой сложный мир требует неопределенности . Доступно по адресу: https://www.amazon.com/dp/B0GCJ59N12
Линч, М., Конери, Дж., и Бюргер, Р. (1995). Накопление мутаций и вымирание малых популяций. Американский натуралист , 146(4), 489–518.
Моррисон, Т. Х. и др. (2023). Строительные блоки полицентрического управления. Журнал политических исследований , 51(1), 1–25. https://doi.org/10.1111/psj.12492
Скотт, Дж. К. (1998). Видеть глазами государства: как некоторые схемы улучшения условий жизни человека потерпели неудачу . Издательство Йельского университета.
Вопсон, М. М. (2020). Информационная катастрофа. AIP Advances , 10(10), 105004. https://doi.org/10.1063/5.0024358
Уоллес, Р. (2020). Мертвые эпидемиологи: об истоках провала политики в отношении COVID . Издательство Monthly Review Press.
Эпилог: Почему природа не стремится к совершенству — и мы тоже не должны.
Теорема, доказанная в данной работе, приводит к выводу, выходящему далеко за рамки формальных представлений: сама природа не стремится к совершенству, и это не недостаток, а фундаментальный принцип проектирования, обеспечивающий жизнеспособную сложность.
Эволюционные доказательства
Биологическая эволюция, которую часто ошибочно воспринимают как процесс оптимизации, стремящийся к «совершенным» организмам, на самом деле поддерживает постоянную неоптимальность на всех уровнях:
Генетическая нагрузка: Каждая популяция несет вредные мутации. Вместо того чтобы уничтожать все неоптимальные аллели, отбор поддерживает распределение значений приспособленности — именно ту дисперсию, V_t>0которая требуется нашей теоремой.
Неоптимальные конструктивные особенности: фоторецепторы в глазу позвоночных направлены назад; возвратный гортанный нерв имеет абсурдно длинный путь; позвоночник человека плохо приспособлен к прямохождению. Эволюция не «исправляет» эти недостатки, поскольку для этого потребовалась бы тотальная оптимизация, которая разрушает адаптивные возможности.
Сохранение полиморфизма: популяции сохраняют множество аллелей во многих локусах, даже если один из них кажется «лучшим». Это не эволюционный провал — это сохранение H(;_t )>0структурной энтропии, необходимой для будущей адаптации.
Репликация с ошибками: ДНК-полимеразы могли бы быть точнее, но они таковыми не являются. Скорость мутаций сама по себе находится под действием отбора и стабилизируется на ненулевом значении — прямое воплощение закона императивной неопределенности.
Информационно-теоретическая необходимость
Теорема 1 объясняет, почему это должно быть так. Рассмотрим эволюцию как процесс обучения, где ;^*представляет собой (постоянно изменяющийся) оптимальный фенотип для окружающей среды:
Если бы эволюция была определяющим фактором V_t;0(все особи были бы идентичны, «идеально» адаптированы), популяция потеряла бы I(;_t;;^* )информацию о структуре окружающей среды, содержащуюся в фенотипическом разнообразии.
Когда окружающая среда меняется (что неизбежно происходит в соответствии с предположением 1 ), популяция, обладающая определенными свойствами, V_t=0не может реагировать. Она разрушает свой сенсорный аппарат для обнаружения изменений.
Популяции, которые сохранились V_t>0— то есть «терпели несовершенство» — сохраняют способность отслеживать изменения окружающей среды. Они выживают; «идеальные» популяции вымирают.
Это не метафора. Это прямое применение теоремы к биологическим системам, подтвержденное повсеместным наблюдением сохранения генетической изменчивости.
Нормативные последствия
Если природа — самая успешная из известных нам сложных адаптивных систем, непрерывно функционирующая на протяжении 3,8 миллиардов лет, — не стремится к совершенству, это имеет нормативное значение для человеческих систем.
Императив несовершенства: Для любой человеческой системы, функционирующей в условиях неустранимой неопределенности (включая все социальные, экономические, политические и технологические системы нетривиальной сложности), преднамеренное сохранение «несовершенства» — вариативности, избыточности, неэффективности, несогласия, резервов — является не уступкой человеческим слабостям, а требованием проектирования для долгосрочной жизнеспособности.
Стремление к совершенству не просто сложно или непрактично; оно саморазрушительно . Сам акт устранения всех отклонений, неэффективности и неоптимальности разрушает информационную емкость, которая делает возможным дальнейшее существование.
Переосмысление понятия «несовершенство»
Теорема требует концептуального сдвига:
Суммарный взгляд Представление с сохранением дисперсии
Отклонение = Ошибка Отклонение = Сигнал
Неэффективность = Расточительство Неэффективность = Буфер
Избыточность = Стоимость Избыточность = Устойчивость
Инакомыслие = Дисфункция Инакомыслие = Исследование
Несовершенство = Неудача Несовершенство = Жизнеспособность
Природа «знает» это неявно, благодаря 3,8 миллиардам лет отбора. Человеческие системы должны усвоить это явно, посредством понимания. Математический подход, представленный в данной статье, обеспечивает это понимание: Несовершенство — это цена существования в мире неопределенности, и эту цену необходимо заплатить.
Глубокий урок
Самый глубокий вывод почти парадоксален: оптимальная стратегия заключается в том, чтобы не оптимизировать всё до конца.
Выживают те системы, которые сопротивляются искушению достижения предельного совершенства. Они сохраняют запасы хаоса, очаги неэффективности, пределы погрешности. Они не принимают карту за территорию, а модель — за мир. Они сохраняют способность ошибаться — потому что эта способность идентична способности учиться, адаптироваться и выживать.
Природа не стремится к совершенству, потому что совершенство — это вымирание.
И нам тоже не следует этого делать.
РАСШИРЕННАЯ БИБЛИОГРАФИЯ
Первоисточники и ключевые ссылки для книги «Аргументы против совершенства».
Примечание: Основной теоретический вклад этой книги основан на двух работах Бориса Кригера: «Закон императивной неопределенности» (2025) и «Асимметрия тотализирующих идеалов: структурный закон сложных адаптивных систем» (2026). https://doi.org/10.5281/zenodo.18361828 Полное математическое доказательство приведено в приложении в файле книги на сайте автора .
Кригер, Б. (2025). Закон императивной неопределенности: почему любой сложный мир требует неопределенности. [Издатель].
Кригер, Б. (2026). Асимметрия тотализирующих идеалов: структурный закон сложных адаптивных систем. [Название журнала]. DOI: [ожидается назначение]
Кригер, Б. (2026). Асимметрия тотализирующих идеалов: структурный закон сложных адаптивных систем. Препринт. [Репозиторий].
Кригер, Б. (2007). Переписка с Джорджем Ф. Р. Эллисом по вопросам космологии и сложности. Неопубликовано.
Ковер, Т.М., и Томас, Дж.А. (2006). Элементы теории информации (2-е изд.). Wiley- Interscience .
Крамер, Х. (1946). Математические методы статистики. Издательство Принстонского университета.
Гёдель, К. (1931). Очень формальный unentscheidbare S;tze der Principia Mathematica und verwandter Systeme I. Monatshefte f;r Mathematik und Physik , 38(1), 173-198.
Колмогоров, А.Н. (1965). Три подхода к количественному определению информации. Проблемы передачи информации, 1(1), 1-7.
Рао, К. Р. (1945). Информация и достижимая точность при оценке статистических параметров. Бюллетень Калькуттского математического общества, 37, 81-91.
Шеннон, С. Э. (1948). Математическая теория связи. Bell System Technical Journal, 27(3), 379-423.
Эшби, У. Р. (1956). Введение в кибернетику. Chapman & Hall.
Бак, П. (1996). Как работает природа: наука о самоорганизующейся критичности. Коперник.
Бар-Ям, Й. (1997). Динамика сложных систем. Аддисон-Уэсли.
Холланд, Дж. Х. (1995). Скрытый порядок: как адаптация создает сложность. Аддисон-Уэсли.
Кауфман, С.А. (1993). Происхождение порядка: самоорганизация и отбор в эволюции. Издательство Оксфордского университета.
Кауфман, С.А. (1995). Дома во Вселенной: В поисках законов самоорганизации и сложности. Издательство Оксфордского университета.
Лэнгтон, К.Г. (1990). Вычисления на грани хаоса: фазовые переходы и возникающие вычисления. Physica D, 42(1-3), 12-37.
Митчелл, М. (2009). Сложность: экскурсия с гидом. Издательство Оксфордского университета.
Пригожин, И., и Стенгерс , И. (1984). Порядок из хаоса: новый диалог человека с природой. Издательство Bantam Books.
Уолдроп, М.М. (1992). Сложность: зарождающаяся наука на грани порядка и хаоса. Саймон и Шустер.
Вольфрам, С. (2002). Наука нового типа. Wolfram Media.
Дарвин, Ч. (1859). О происхождении видов путем естественного отбора. Джон Мюррей.
Фишер, Р.А. (1930). Генетическая теория естественного отбора. Издательство «Кларендон».
Гоулд, С. Дж. (1989). Чудесная жизнь: Берджессский сланец и природа истории. WW Norton.
Гоулд, С. Дж., и Левонтин, Р. К. (1979). Своды Сан-Марко и панглоссианская парадигма: критика адаптационистской программы . Труды Королевского общества B, 205(1161), 581-598.
Кимура, М. (1983). Нейтральная теория молекулярной эволюции. Издательство Кембриджского университета.
Линч, М. (2007). Истоки архитектуры генома. Sinauer Associates.
Майр, Э. (1963). Виды животных и эволюция. Издательство Гарвардского университета.
Райт, С. (1932). Роль мутации, инбридинга, скрещивания и отбора в эволюции. Труды Шестого международного конгресса по генетике, 1, 356-366.
Хайек, Ф.А. (1945). Использование знаний в обществе. Американский экономический обзор, 35(4), 519-530.
Хайек, Ф.А. (1988). Роковая самонадеянность: ошибки социализма. Издательство Чикагского университета.
Найт, Ф. Х. (1921). Риск, неопределенность и прибыль. Хоутон Миффлин.
Мизес, Л. фон. (1920). Экономический расчет в социалистическом содружестве. Archiv f;r Sozialwissenschaft und Sozialpolitik , 47, 86–121.
Норт, округ Колумбия (1990). Институты, институциональные изменения и экономические показатели. Издательство Кембриджского университета.
Саймон, Х.А. (1955). Поведенческая модель рационального выбора. Ежеквартальный журнал экономики, 69(1), 99-118.
Саймон, Х.А. (1956). Рациональный выбор и структура окружающей среды. Психологический обзор, 63(2), 129-138.
Аристотель. (ок. 350 г. до н.э.). Никомахова этика. Перевод У. Д. Росса.
Берк, Э. (1790). Размышления о революции во Франции. Дж. Додсли.
Гоббс, Т. (1651). Левиафан. Эндрю Крук.
Мэдисон, Дж. (1788). Федералист № 51. В «Федералистских статьях».
Монтескье, К. (1748). Дух законов. Пер. Т. Нуджента.
Мор, Т. (1516). Утопия. (Оригинальное латинское издание).
Остром, Э. (1990). Управление общими ресурсами: эволюция институтов коллективных действий. Издательство Кембриджского университета.
Остром, В. (1991). Смысл американского федерализма: создание самоуправляющегося общества. Издательство ICS Press.
Платон. (ок. 380 г. до н.э.). Республика. Перевод Б. Джоуэтта.
Поппер, К. Р. (1945). Открытое общество и его враги. Routledge.
Джейкобс, Дж. (1961). Смерть и жизнь великих американских городов. Random House.
Скотт, Дж. К. (1998). Видеть глазами государства: как некоторые схемы улучшения условий жизни человека потерпели неудачу. Издательство Йельского университета.
Скотт, Дж. К. (2012). Дважды приветствуем анархизм: шесть простых статей об автономии, достоинстве и осмысленном труде и отдыхе. Издательство Принстонского университета.
Глейк, Дж. (1987). Хаос: создание новой науки. Viking.
Лоренц, Э.Н. (1963). Детерминированный непериодический поток. Журнал атмосферных наук, 20(2), 130-141.
Мандельброт, Б.Б. (1982). Фрактальная геометрия природы. У.Х. Фриман.
Строгац , Ш.Х. (1994). Нелинейная динамика и хаос. Аддисон-Уэсли.
Бостром, Н. (2014). Сверхразум: пути, опасности, стратегии. Издательство Оксфордского университета.
Рассел, С. (2019). Совместимость с человеком: искусственный интеллект и проблема управления. Viking.
Саттон, Р.С., и Барто, А.Г. (2018). Обучение с подкреплением: Введение (2-е изд.). Издательство MIT Press.
Альхатиб, А. (2021). Жить в своей утопии: почему алгоритмические системы создают абсурдные результаты. Труды CHI 2021.
Гудхарт, К. А. Э. (1984). Проблемы денежно-кредитного регулирования: опыт Великобритании. В книге «Денежно-кредитная теория и практика». Macmillan.
Мюллер, Дж. З. (2018). Тирания метрик. Издательство Принстонского университета.
Стратерн, М. (1997). «Повышение рейтингов»: Аудит в британской университетской системе. Европейский обзор, 5(3), 305-321.
Кларк, А. (2013). Что дальше? Прогностические мозги, ситуативные агенты и будущее когнитивной науки. Поведенческие и нейробиологические науки, 36(3), 181-204.
Фристон, К. (2010). Принцип свободной энергии: единая теория мозга? Nature Reviews Neuroscience, 11(2), 127-138.
Маккалок, У. С., и Питтс, У. (1943). Логическое исчисление идей, имманентных нервной деятельности. Бюллетень математической биофизики, 5(4), 115-133.
Эллис, ГФР (2006). Физика в реальной Вселенной: Время и пространство-время. Общая теория относительности и гравитация, 38(12), 1797-1824.
Фейнман, Р. П. (1965). Характер физических законов. Издательство MIT Press.
Пригожин, И. (1997). Конец определенности: время, хаос и новые законы природы. Free Press.
Гераклит. (ок. 500 г. до н.э.). Фрагменты. Перевод Т.М. Робинсона.
Джеймс, У. (1907). Прагматизм: новое название для некоторых старых способов мышления. Лонгманс, Грин.
Лаоцзы. (ок. 400 г. до н.э.). Тао Дэ Цзин. Пер. ДК Лау.
Талеб, Н.Н. (2007). Черный лебедь: Влияние крайне маловероятного. Издательство «Рэндом Хаус».
Талеб, Н.Н. (2012). Антихрупкость: вещи, которые выигрывают от беспорядка. Издательство «Рэндом Хаус».
Чжуанци. (ок. 300 г. до н.э.). Чжуанци. Пер. Б. Ватсон.
Гигеренцер, Г. (2007). Интуиция: интеллект бессознательного. Viking.
Канеман, Д. (2011). Мышление: быстрое и медленное. Farrar, Straus and Giroux.
Канеман, Д., и Тверски, А. (1979). Теория перспектив: анализ принятия решений в условиях риска. Эконометрика , 47(2), 263-291.
Левинтал, Д.А., и Марч, Дж.Г. (1993). Близорукость в обучении. Журнал стратегического менеджмента, 14(S2), 95-112.
Марч, Дж. Г. (1991). Исследование и использование в организационном обучении. Организационная наука, 2(1), 71-87.
Вейк, К.Е. (1979). Социальная психология организации (2-е изд.). McGraw-Hill.
Аргументы против совершенства
© Copyright: Борис Кригер, 2026
Свидетельство о публикации №226020600370
Свидетельство о публикации №226020600370
Рецензии