Закон Гудхарта. Глава 3. Хвост виляет собакой

Истории о плохих метриках часто рассказывают как коллекцию курьезов. Это соблазнительно: бесхвостые крысы, разведенные кобры, гигантский гвоздь, исправленные ластиком школьные тесты. В них есть почти анекдотическая ясность. Кто-то придумал показатель, кто-то другой его обыграл, и все пошло не туда.

Но если задержаться в этих историях подольше, смешное быстро становится тревожным. Они происходят в разных странах, политических системах и институтах, но двигаются по одному сценарию. Сначала есть настоящая цель: безопасность, здоровье, выпуск полезной продукции, победа в войне, образование детей, обслуживание клиентов. Потом появляется показатель, который должен эту цель заменить в отчетности. Потом на показатель начинают давить. И наконец люди находят способ улучшить показатель так, что сама цель отступает в сторону.

Каждый раз мерили X, а получили «цифру X».

Начнем с самой знаменитой истории, хотя именно с ней нужно быть осторожным. В популярной версии британские власти в колониальном Дели назначили награду за убитых кобр, надеясь сократить их количество. Местные жители быстро поняли экономику процесса: если за мертвую кобру платят, то кобра становится не опасностью, а активом. Ее можно разводить. Когда администрация заметила, что программа порождает змеиное хозяйство, выплаты свернули. Разводчики выпустили ставших бесполезными кобр, и змей будто бы стало еще больше, чем до начала кампании.

Документально эта история стоит слабее, чем ханойская история с крысами. Поэтому честнее говорить о ней как о притче, а не как о надежно установленном факте. Но притча стала живучей не случайно. Она идеально схватывает механику извращенного стимула. Хотели уменьшить угрозу. Стали платить за доказательство борьбы с угрозой. Под давлением награды доказательство превратилось в товар. Товар начали производить.

Это почти детская схема, но именно поэтому она так хорошо объясняет взрослые институты.

В советской плановой экономике похожий сюжет жил в притчах о заводах. Самая известная - про гвозди. Заводу спускают план в тоннах. Формально задача выполнена лучше всего, если выпустить как можно больше массы. И вот вместо нормальных гвоздей появляется один огромный, тяжелый, абсолютно бесполезный гвоздь. План меняют: теперь считать будут не тонны, а штуки. Завод отвечает миллионами крошечных гвоздиков, которые тоже невозможно использовать. Карикатурность здесь не недостаток, а смысл: она показывает, что предприятие не обязано понимать «полезный гвоздь», если власть разговаривает с ним на языке тоннажа или штук.

Историк промышленности, конечно, потребует больше аккуратности. Не вся советская экономика сводилась к таким анекдотам, не каждый план выполнялся подобной буквальной издевкой, и живое производство было сложнее газетной карикатуры. Но логика планового показателя реальна. Когда центр не видит качества напрямую, он вынужден управлять через измеримые величины: вал, тоннаж, проценты выполнения, штуки, сроки. А предприятие, которому надо выжить в этой системе, учится производить не столько полезность, сколько выполнение плана. «План» перестает быть средством организации труда и становится главным продуктом труда.

Смешно, пока речь идет о гвоздях. Гораздо страшнее, когда тот же механизм касается ведения войны.

Во Вьетнаме США столкнулись с конфликтом, который плохо укладывался в привычные военные показатели. В классической войне можно захватить территорию, удержать фронт, уничтожить штаб, занять столицу. Во Вьетнаме линия фронта была расплывчатой, контроль территории менялся, партизанская война растворялась в деревнях, а политическая лояльность населения была важнее многих чисто военных успехов. Роберт Макнамара, пришедший в Пентагон из мира корпоративного управления, верил в силу количественного анализа. Он не был карикатурным бюрократом: он был умным, системным, технически образованным человеком. Именно поэтому история страшнее. Ошибка была не в глупости, а в уверенности, что достаточно сложную реальность можно победить, если правильно ее посчитать.

Одним из символов этого подхода стал body count - счет убитых противников. Идея казалась логичной в войне на истощение: если противник теряет бойцов быстрее, чем способен восполнять, значит, стратегия работает. Число убитых стало языком прогресса. Им отчитывались, его сравнивали, через него доказывали, что победа приближается.

Но война не стала от этого более понятной. Наоборот, показатель начал затягивать реальность в свою форму. В полевых условиях возникало давление производить цифры. Командиры хотели показать успех операции. Штабы хотели увидеть подтверждение стратегии. Граница между бойцом противника и мирным жителем в отчетах могла становиться мутной. Данные раздувались, сомнительные случаи попадали в нужную колонку, а то, что труднее измерить - отношение деревни, устойчивость местной власти, страх, доверие, легитимность, - уходило в тень. Body count отвечал на вопрос «сколько тел?», но не отвечал на вопрос «становится ли война ближе к политической цели?»

Так показатель не просто исказил отчетность. Он помог управлению смотреть не туда. Карта войны стала состоять из чисел, которые могли расти даже тогда, когда смысл кампании разрушался.

В корпоративном мире такой же механизм выглядит менее трагично, но устройство у него то же. В 2016 году американские регуляторы оштрафовали Wells Fargo за массовое открытие несанкционированных клиентских счетов. По первоначальным данным речь шла о миллионах депозитных и кредитных продуктов, оформленных без ясного согласия клиентов; последующие проверки увеличивали оценку примерно до трех с половиной миллионов. Сотрудники банка работали под давлением планов по cross-selling - перекрестным продажам. Идеальная картинка для руководства проста: чем больше продуктов на одного клиента, тем глубже отношения с банком, тем выше доверие, тем сильнее бизнес.

Но «количество продуктов на клиента» - это не доверие. Это только его возможный след.

Когда след сделали целью, система стала производить след. Сотрудники открывали счета, выпускали карты, заводили фиктивные электронные адреса, переносили деньги между счетами, чтобы формально выполнить план. В управленческой презентации росла вовлеченность клиента. В жизни клиент мог вообще не знать, что на него открыли новый продукт. Показатель «отношений» с клиентом начал измерять не отношения, а давление на сотрудника и слабость контроля.

Случай Wells Fargo важен еще и тем, что там не было загадочной психологии. Ничего мистического не произошло. Банк построил систему стимулов, в которой цифра продаж стала пропуском к выживанию и вознаграждению. После этого организация получила не рост качества отношений с клиентами, а массовое производство признаков этого роста.

В образовании ловушка еще болезненнее, потому что цифра касается детей. Стандартизованные тесты нужны не из злобы. Они появились как попытка сделать школы сравнимыми, заметить провалы, защитить учеников, которых иначе легко не увидеть. Тест может быть важным сигналом: если дети в одной школе систематически не читают на нужном уровне, общество должно об этом знать. Без измерений неравенство часто прячется за красивыми словами.

Но тестовый балл становится опасным, когда его превращают в главную судьбу школы и учителя. Тогда возникает «обучение под тест»: не расширение мышления, не глубокое понимание предмета, а тренировка формата, угадывание типов заданий, натаскивание на узкий коридор проверяемого. Это уже мягкая форма Гудхарта: показатель растет, а образование деградирует.

Бывает и жесткая форма. В Атланте расследование 2011 года выявило масштабный скандал в государственных школах: десятки школ, 178 педагогов и администраторов, исправленные ответы учеников, культура давления и страха. В некоторых случаях речь шла не о метафорическом «подгоне», а о буквальном стирании неправильных ответов и замене их правильными. Здесь закон Гудхарта становится почти физическим: ластик проходит по бумаге, и показатель улучшается. Только ребенок от этого не начинает понимать математику или читать лучше.

В таких историях особенно видно, что метрика может развратить даже благую реформу. Подотчетность нужна. Школы не должны быть закрытыми королевствами, где никто не знает, чему научились дети. Но если подотчетность сводится к одному числу, число начинает править педагогикой. И тогда учитель оказывается перед выбором, который сама система сделала нечестным: служить ребенку или служить показателю, от которого зависит его работа.

Медицина дает еще один оттенок этой ловушки. В английской системе здравоохранения в начале 2000-х был введен четырехчасовой стандарт для отделений неотложной помощи: пациент должен быть принят, переведен или выписан в пределах заданного времени. У этой цели была разумная основа. Долгое ожидание в приемном отделении унизительно и опасно, а перегруженная больница часто прячет свои сбои именно в очереди. В этом смысле целевой показатель действительно помогал увидеть проблему и давил на систему в полезную сторону.

Но даже полезная метрика, получив власть, меняет поведение. Вокруг четырехчасового норматива возникали эффекты управления границей учета: кого считать уже поступившим, куда переводить пациента, как организовать assessment units, что происходит с теми, кто уже превысил срок и больше не влияет на выполнение цели. В публичных спорах о таких нормативах постоянно всплывал один и тот же страх: больница может начать оптимизировать не поток помощи, а видимость прохождения через контрольную точку.

Здесь важно сохранить честность. Не всякий норматив вреден. Иногда целевой показатель действительно улучшает систему, потому что заставляет ее перестать мириться с бесконечным ожиданием. Но закон Гудхарта не требует, чтобы метрика была плохой с первого дня. Он предупреждает о другом: чем больше власти получает показатель, тем внимательнее нужно смотреть на то, какие обходы он создает. Четырехчасовой стандарт может быть полезным сигналом, пока рядом есть клинический смысл. Он становится опасным, когда часы начинают спорить с пациентом и выигрывать.

Если поставить эти сюжеты рядом, они начинают складываться не в сборник анекдотов, а в анатомический атлас.

В Дели, если верить притче, хотели меньше кобр, а получили кобр как товар. В советской притче хотели полезные гвозди, а получили тоннаж или штуки. Во Вьетнаме хотели понять ход войны, а получили счет, который мог отделиться от политической реальности. В Wells Fargo хотели глубокие отношения с клиентом, а получили миллионы продуктов без запроса клиента. В школах хотели повысить качество обучения, а получили обучение под тест и, в крайних случаях, исправленные отчёты. В больницах хотели быстрее помогать пациентам, а получили соблазн подправлять моменты учета.

Каждый раз показатель был выбран не случайно. Он действительно имел отношение к цели. Мертвые крысы имеют отношение к санитарии. Гвозди имеют отношение к производству. Количество убитых бойцов противника имеет отношение к успеху боевых действий. Банковские продукты имеют отношение к клиентским потребностям. Тесты имеют отношение к обучению. Время ожидания имеет отношение к качеству медицинской помощи. Именно поэтому ловушка так опасна: плохой показатель легко отвергнуть, а частично хороший показатель трудно держать в подчиненном положении.

Гудхарт начинается не с полной бессмыслицы, а с половинной правды, которой дали полную власть.

Эта половинная правда удобна для управления. Она делает мир читаемым, сравнимым, наказуемым и премируемым. Но она же создает узкий проход, через который система может уйти от смысла. В этом проходе не обязательно сидит злодей. Там может быть усталый учитель, которому страшно потерять работу; менеджер банка, на которого давит план; врач, загнанный перегрузкой; директор завода, которому нужен выполненный отчет; офицер, от которого штаб требует доказательства успеха. Каждый делает маленький рациональный шаг. Вместе эти шаги уводят организацию от цели.

Поэтому закон Гудхарта - не только про числа. Он про власть, которая прячется внутри числа. Как только показатель становится главным языком оценки, он начинает воспитывать тех, кого оценивает. Он учит их видеть мир через себя. Сначала люди пользуются метрикой. Потом метрика начинает пользоваться людьми.

Именно здесь историческая галерея выводит нас к более глубокому вопросу. Почему управлению вообще так трудно не попасть в эту ловушку? Почему государство, корпорация, армия или школа снова и снова выбирают упрощение, а потом удивляются, что упрощение стало реальнее самой реальности?

Ответ лежит уже не в экономике стимулов, а в философии управления.

Глава 4 - http://proza.ru/2026/07/07/810