Среди призраков

В 2023 году французский исследователь Эрик Саден опубликовал книгу «Среди призраков». Приведу фрагменты из неё.
В любом обществе, будь оно исходно демократическим или тоталитарным, наступает момент, когда тайное становится явным. Рано или поздно занавес поднимается и открываются реалии, которые в большинстве своем маячили у нас перед глазами, но мы не хотели или были не способны их разглядеть, потому что окружающий свет — такой яркий — нас ослеплял. И вот за помпезными образами, шаблонными речами, лениво плывущими изображениями начало угадываться стремление вмешиваться во все аспекты жизни и подчинять их постоянной коммерциализации, вопиющее презрение к любым структурам, внедрение жестких управленческих методов. В первую очередь на логистических складах, от которых зависит успех электронной коммерции и где рабочие вынуждены поддерживать адский темп, превращаясь в роботов из плоти и крови. Те же порядки бытуют на рынке доставки и навязываются водителям грузовиков. Урон нанесен магазинам шаговой доступности, распространилась практика изживания конкурентов и приемы налоговой оптимизации, со знанием дела подогревается зависимость от экранных устройств. Можно долго перечислять малоприятные эпизоды, до недавнего времени словно спрятанные в black box, черный ящик, который большинство предпочитало не замечать. Множество разоблачений и скандалов, неблаговидные поступки, мошенничество — будто сняли фату с невесты, которую нам пытались предъявить во всей красе. Когда леденящих душу сцен оказалось слишком много и они участились, составленную из них картину увидели все — и тогда в ней выкристаллизовались элементы здравомыслия. Нельзя бесконечно всех обольщать и отрицать очевидное, изредка с достоинством публично каяться, а затем с удвоенной силой приниматься за старое, как только объективы повернутся в другую сторону. У человеческой наивности все же есть предел.
Теперь пора снимать маски. Пора показать без ретуши суть инструментальной рациональности и ее истории — от промышленной революции до наших дней, — рациональности, которая будет без передышки решать одну и ту же задачу: распределять, с различными целями, людей и вещи по условно правильным местам в условно подходящее время. Этот этос опирается на кардинальное допущение: человек есть источник беспорядка и — вот досада — постоянно норовит сбиться с верного пути, растратить себя впустую, так что в его же интересах надо ограничить ему поле деятельности и, больше того, направлять его действия, чтобы они четко вписывались в требования поддерживать порядок и приносить богатства.
Свед;ние многогранной реальности к набору данных и распространение интернета позволят как интерпретировать наши действия, так и, в свою очередь, влиять на их осуществление через абсолютно новую процедуру — посылание сигналов. Прошло время более или менее принудительного упорядочивания в отношении людей, настала пора побуждения, индивидуализированного и автоматизированного, которое отличается тем, что стимулы к совершению различных действий представляются само собой разумеющимися, и оказывается, что — индивидуально или коллективно — мы получаем экономию времени, рост эффективности и еще много преимуществ. В профессиональной ли жизни или в повседневной режим алгоритмического сопровождения нашего бытия становится данностью, нас без конца — и зачастую неощутимо — переориентируют технологии, так что мы могли бы назвать их «главенствующим началом». А всплеск разработок искусственного интеллекта на рубеже 2010-х годов только активизировал этот экспертно-рекомендательный ресурс, сполна воплотив изначальное стремление обойти принципы инерции и незавершенности, якобы нас формирующие, обеспечить качественное и непрерывное распределение людей и ценностей.
В будущем мы целиком и полностью будем подчинены устройствам, исправляющим людские ошибки или генерирующим правильное поведение.
Увы, в который раз слишком поздно, лишь когда явления глубоко укоренятся, мы поймем, что сама наша сущность, — конечно, со всеми слабостями и недостатками, но также с восприимчивостью, творческим началом, талантами, — будет отвергнута, а заботы о том, как нам жить и как будет устроен мир, лягут на вычислительный разум. И только потом, — хотя уже скоро, — мы увидим людей, день и ночь погруженных в пиксельные пейзажи, занятых лишь составлением промптов, и в этой вселенной, где капризы каждого индивида будут важнее всего, нас ждет коллективная изоляция и неразрывное слияние со все более всеведущими машинами. Тогда «человечество», понимаемое как трансисторическое объединение душ, обладающих — каждая — уникальным богатством, лишится субстанции и, можно сказать, перестанет существовать для самого себя. Ведь на протяжении веков мы меняли условия собственной среды, рождали идеи, создавали науку, культуру, искусство и делали так, что при всех удачах и неудачах развития некоторые неприкосновенные для нас вещи, несмотря ни на что, сохранялись. Проявление творческих способностей и талантов на разных уровнях, естественная тяга к свободе — в чем бы она ни заключалась, — ощущаемая связь с реальностью, плотские отношения с ближними — все те составляющие, которые придают жизни смысл и соль.
Мыслимо ли сложа руки наблюдать, как все вокруг превращается в пустыню? Мыслимо ли считать, что эта тенденция, — исходящая из нашего же отрицания, — вписывается в естественный ход истории и следует только поставить ей некоторые ограничения, чтобы мы все извлекли из происходящего миллион разных выгод? Как при виде этой неудержимой с виду волны не воскликнуть «стоп!», не объявить во всеуслышание, что она угрожает нашей идентичности? Как не поднять другую волну, встречную, которая объединит всех мыслящих людей, не желающих лишаться обители жизненной силы — своей собственной и будущих поколений?
Перво-наперво и немедля надо запретить генеративный, но можно сказать и «дегенеративный», искусственный интеллект в разных его видах, подавляющий наши голоса и отнимающий право свободно выбирать путь.
Пусть же нашим главным девизом станет: нет — призрачному, да — нашему полноценному присутствию в этом мире и богатству чувств; нет — без конца торжествующей алгоритмической нормативности, да — нашим познаниям и способности действовать; защитим — в неизменном уважении к человеческому разнообразию — наше право свободно распоряжаться своими судьбами, частными и коллективными; нет — искусственной генерации языка и символов с отпечатком смерти, да — бесконечности форм, творческим порывам, которые изо дня в день должны нас оживлять. Да будет полным проявление наших жизненных сил и морального закона — тех, что заложены внутри нас и требуют развития: никогда, ни в коем случае нельзя позволить им угаснуть. И даже так: мы должны повсюду не переставая поддерживать их сияние миллиардами ярких огней.