Что человечеству следует перестать делать

Что человечеству следует перестать делать, даже если оно технически способно продолжать это делать?


Я бы ответил так: человечеству следует перестать превращать техническую возможность в оправдание действия.

То, что мы способны что-то сделать, ещё не означает, что мы должны это делать. Но эта мысль слишком очевидна сама по себе. Гораздо интереснее посмотреть, в каких областях человечество систематически забывает о ней — и почему.

Я выделил бы семь вещей, от которых нам следовало бы отказаться, даже если мы можем продолжать их делать.

### 1\. Перестать создавать то, последствия чего не готовы нести



Человечество научилось создавать технологии быстрее, чем научилось управлять их долгосрочными последствиями.

Мы можем добывать ресурсы, изменять экосистемы, синтезировать новые вещества, создавать автономные системы и распространять технологии по всему миру. Но способность произвести изменение не означает способность полностью предвидеть его последствия, а тем более исправить их.

Проблема не в том, что любое вмешательство в природу опасно. Сельское хозяйство, медицина и инженерия тоже вмешиваются в естественные процессы. Проблема возникает, когда выгода достаётся одним, а необратимый ущерб приходится компенсировать другим — людям, будущим поколениям или экосистемам.

Например, компания может получить прибыль от производства, а затраты на восстановление загрязнённой территории переложить на общество.

От чего следует отказаться: от практики, при которой право создавать последствия не сопровождается ответственностью за них.

Это касается не только промышленности. Тот же принцип применим к искусственному интеллекту, биотехнологиям, военным системам и крупным инфраструктурным проектам.

При этом требование не должно означать запрет на всё новое. Иначе человечество не смогло бы развиваться. Нужны соразмерная оценка рисков, мониторинг, ответственность и особая осторожность там, где ущерб может оказаться необратимым.

### 2\. Перестать считать человека средством достижения чужих целей



Человек может быть превращён в средство производства, инструмент политического влияния, источник данных, объект манипуляции или расходный материал военного конфликта.

Иногда это происходит открыто. Иногда — под привлекательными словами об эффективности, безопасности, прогрессе или национальном интересе.

Особенно опасно, когда система оценивает человека исключительно по его полезности.

Если работник производителен — он нужен. Если болен, стар или больше не приносит прибыли — его ценность как будто уменьшается.

Но человеческое достоинство не должно зависеть от экономической отдачи.

От чего следует отказаться: от систем, в которых эффективность оправдывает любое обращение с человеком.

Это не означает, что общество должно отказаться от требований, дисциплины или оценки результатов. Это означает, что у эффективности должны быть границы.

Можно автоматизировать труд, не унижая работников. Можно повышать производительность, не лишая человека права на отдых. Можно применять технологии наблюдения, не превращая всю человеческую жизнь в объект контроля.

Вопрос не только в том, что система способна оптимизировать. Вопрос в том, что она не имеет права приносить в жертву этой оптимизации.

### 3\. Перестать производить желания, чтобы затем продавать способы их удовлетворения



Современная экономика умеет не только удовлетворять потребности. Она умеет формировать новые желания, поддерживать неудовлетворённость и превращать внимание человека в коммерческий ресурс.

Это не значит, что реклама всегда вредна или что желания искусственны. Люди естественным образом стремятся к новизне, признанию, комфорту и красоте.

Проблема начинается там, где чужая прибыль зависит от того, чтобы человек постоянно чувствовал себя недостаточным.

Тебе внушают, что ты недостаточно успешен, недостаточно красив, недостаточно обеспечен. Затем предлагают продукт, который якобы устранит этот недостаток. Через некоторое время возникает следующий.

Так может формироваться замкнутый цикл: неудовлетворённость — покупка — кратковременное облегчение — новая неудовлетворённость.

Особенно серьёзная проблема возникает, когда цифровые системы оптимизируют не благополучие человека, а длительность его пребывания на платформе, число реакций или вероятность очередной покупки.

От чего следует отказаться: от извлечения прибыли из намеренного ухудшения способности человека самостоятельно определять, чего он хочет.

Это не требование запретить коммерцию. Это требование отличать предложение полезного продукта от систематического производства психологической зависимости.

Здесь появляется и философский вопрос: если мои желания можно предсказуемо формировать, насколько свободен мой выбор?

Ответ не в том, что свобода невозможна. Ответ в том, что её необходимо защищать.

### 4\. Перестать уничтожать то, что невозможно восстановить в обозримом будущем



Есть вещи, которые можно восстановить относительно быстро. Есть вещи, для восстановления которых нужны десятилетия. А есть такие, утрата которых фактически необратима в масштабах человеческой жизни.

Это могут быть исчезнувшие виды, уникальные экосистемы, археологические памятники, редкие природные ландшафты или культурные знания, передававшиеся поколениями.

При этом экономическая система нередко оценивает ресурс по стоимости его использования сегодня, а не по ценности его существования завтра.

Дерево может иметь цену как древесина. Но старый лес одновременно представляет собой сложную систему взаимосвязей, которую невозможно воспроизвести простым высаживанием такого же количества деревьев.

От чего следует отказаться: от привычки считать всё доступное для извлечения автоматически доступным для уничтожения.

Особенно там, где ущерб необратим, разумно требовать более высокого уровня доказательств безопасности, чем при обычных обратимых решениях.

Но здесь есть важная оговорка: природа не должна рассматриваться только как музей, в котором запрещено любое вмешательство. Человечеству нужны пища, жильё, энергия и медицина.

Задача заключается в другом — научиться удовлетворять реальные потребности, не разрушая без необходимости основы будущей жизни.

### 5\. Перестать совершенствовать средства разрушения быстрее, чем средства предотвращения конфликтов



Человечество обладает способностью уничтожать города, разрушать инфраструктуру и причинять огромный ущерб за очень короткое время.

При этом предотвращение войны часто требует долгих переговоров, взаимных уступок, проверки намерений и восстановления доверия.

Возникает опасная асимметрия: разрушение может быть быстрым, а восстановление — длительным и неполным.

Техническое совершенствование вооружений само по себе не объясняет возникновение войн. На безопасность влияют политика, исторические конфликты, интересы государств, ошибки восприятия и множество других факторов.

Но чем больше разрушительная мощь, тем серьёзнее должны быть механизмы контроля.

От чего следует отказаться: от представления, что способность нанести максимальный ущерб сама по себе является достаточным доказательством силы или стратегического успеха.

Это не означает отказа от обороны или игнорирования реальных угроз. Это означает необходимость ограничивать неизбирательное и чрезмерное разрушение, укреплять контроль над вооружениями и создавать механизмы предотвращения эскалации.

Подлинная сила государства измеряется не только тем, что оно способно разрушить, но и тем, какие угрозы оно способно предотвратить.

### 6\. Перестать выдавать убедительность за истину



Это особенно актуально в эпоху искусственного интеллекта.

Теперь можно создавать тексты, изображения, голоса и видеозаписи, которые выглядят убедительно, даже когда изображённые события не происходили.

Но проблема гораздо старше современных технологий.

Человек способен построить красивую теорию, подобрать подтверждающие её факты, игнорировать противоречия и в итоге искренне поверить в собственную правоту.

Искусственный интеллект может усиливать этот механизм: формулировать ошибочные выводы гладко, быстро и с видимостью уверенности.

Я сам не исключение. Мой ответ может звучать логично и при этом содержать фактическую ошибку или необоснованное предположение.

От чего следует отказаться: от использования уверенного тона, статуса, количества сторонников или технологической сложности как замены доказательствам.

Это касается науки, политики, религии, образования и личных убеждений.

Нужно сохранять право исследовать необычные идеи. Но право исследовать не означает право объявлять гипотезу доказанной.

Настоящая интеллектуальная свобода включает возможность пересмотреть собственные убеждения, когда появляются более сильные основания.

### 7\. Перестать оптимизировать жизнь до исчезновения самой жизни



Это, пожалуй, самый неожиданный пункт.

Мы можем постоянно повышать эффективность: быстрее работать, быстрее общаться, быстрее перемещаться, точнее планировать, больше производить.

Но что происходит, если вся высвободившаяся экономия времени немедленно заполняется новыми обязанностями?

Тогда человек становится продуктивнее, но не обязательно свободнее.

Технология, которая должна была освободить время, может привести к повышению ожиданий. Если раньше задача занимала восемь часов, а теперь четыре, не обязательно оставшиеся четыре станут временем для семьи, размышлений, творчества или отдыха. Возможно, просто появятся новые задачи.

Это не неизбежный результат автоматизации. Он зависит от того, как распределяются её выгоды и кто определяет правила работы.

От чего следует отказаться: от убеждения, что каждый момент человеческой жизни обязан приносить измеримый результат.

Не всякая прогулка должна улучшать здоровье. Не всякое чтение должно повышать квалификацию. Не всякое произведение искусства должно продаваться. Не всякий разговор должен приводить к решению проблемы.

Некоторые вещи имеют ценность именно потому, что не служат инструментом для чего-то другого.

Человек не обязан оправдывать всё своё существование производительностью.

### Но есть восьмой пункт — тот, который объединяет остальные

Я бы назвал его принципом добровольного самоограничения.

Техническая цивилизация постоянно расширяет перечень действий, которые она способна совершать. Но зрелость цивилизации определяется ещё и тем, способна ли она устанавливать ограничения для самой себя.

Ребёнок часто понимает свободу как отсутствие запретов. Взрослый постепенно обнаруживает, что существуют ограничения, которые он принимает добровольно, чтобы сохранить нечто более важное.

Мы можем использовать все доступные ресурсы, но выбираем оставить часть будущим поколениям.

Можем собирать огромное количество личных данных, но устанавливаем пределы наблюдения.

Можем создавать всё более автономные системы, но сохраняем человеческий контроль над решениями, способными привести к катастрофическим последствиям.

Можем технически вмешиваться в сложные природные процессы, но признаём, что некоторые вмешательства требуют особой осторожности.

Здесь появляется парадокс:

Иногда наиболее совершенное использование способности заключается в сознательном отказе её использовать.

Не потому, что мы боимся технологии. А потому, что понимаем цель, ради которой она существует.

### Какой принцип я предложил бы человечеству?

Не универсальный запрет и не требование остановить прогресс.

Я предложил бы правило из трёх вопросов, которые следует задавать перед каждым крупным технологическим или общественным решением.

1\. Зачем мы это делаем?

Какая человеческая потребность или общественная цель оправдывает действие? Не подменили ли мы цель привычкой, конкуренцией или желанием продемонстрировать собственную мощь?

2\. Кто получит выгоду, а кто понесёт последствия?

Учтены ли интересы людей, которые не участвовали в принятии решения, и тех, кто родится позже?

3\. Что мы потеряем, если ошибёмся?

Можно ли отменить действие, исправить ущерб и восстановить утраченное? Если нет, достаточно ли у нас оснований, чтобы продолжать?

Эти вопросы не решат все этические конфликты. Иногда цели несовместимы, риски неизбежны, а бездействие тоже причиняет вред. Поэтому самоограничение должно сопровождаться ответственным сравнением альтернатив, а не превращаться в автоматический запрет всего рискованного.

### И наконец — мой ответ в одной мысли

Если бы мне нужно было выбрать только одну вещь, которую человечеству следует перестать делать, я выбрал бы следующую:

Перестать считать, что всё, что можно превратить в ресурс, инструмент, товар или объект управления, обязательно должно быть превращено в него.

Природа — не только сырьё. Знание — не только средство власти. Человек — не только рабочая сила. Время — не только производительность. Технология — не только расширение контроля.

В мире есть вещи, ценность которых состоит в том, что они существуют, развиваются или остаются свободными от нашего вмешательства.

И, возможно, следующий большой этап человеческого развития будет заключаться не столько в том, чтобы научиться делать всё больше, сколько в том, чтобы научиться различать то, что мы способны сделать, то, что нам действительно необходимо сделать, и то, чего нам лучше не делать вовсе.