Свобода и истина Глава 7

СВОБОДА И ИСТИНА

Глава VII. Свобода и истина в цифровую эпоху: информация, алгоритмы и искусственный интеллект

7.1. Мир, в котором информации больше, чем понимания

Ещё сравнительно недавно получение знаний требовало значительных усилий. Чтобы познакомиться с научной теорией, приходилось искать книги, обращаться к библиотекам, изучать труды специалистов. Чтобы узнать о событиях в другой стране, человек зависел от газет, радио, телевидения или непосредственных свидетельств. Информация распространялась медленнее, а доступ к ней нередко определялся местом проживания, образованием и общественным положением.

Цифровая эпоха изменила эти условия. Сегодня человек способен за несколько секунд найти сведения о событиях, произошедших на другом конце планеты, прочитать фрагмент древнего философского трактата, сравнить научные исследования или обратиться к системе искусственного интеллекта с вопросом, на который прежде потребовались бы часы поисков.

Это огромное достижение человеческой цивилизации. Расширились возможности образования, научного сотрудничества, культурного обмена и самостоятельного исследования. Знание перестало быть столь тесно связано с физической доступностью книг и документов.

Но вместе с этим возникла проблема, которую нельзя решить простым увеличением количества информации.

Доступность сведений не равна способности понимать их.

Человек может ежедневно получать тысячи сообщений и при этом не иметь ясного представления о происходящем. Он может читать множество мнений, но не научиться оценивать их обоснованность. Он может знать последние новости, но плохо понимать исторические, экономические и человеческие причины событий.

Более того, избыток информации способен создавать ложное ощущение осведомлённости. Если человек постоянно встречается с определённым утверждением, оно постепенно начинает казаться ему знакомым, а знакомство иногда принимается за доказательство.

Повторение делает мысль привычной, но не обязательно истинной.

Здесь обнаруживается различие между информацией, знанием и пониманием.

Информация сообщает нам нечто. Знание предполагает, что мы располагаем достаточными основаниями считать определённые сведения достоверными. Понимание позволяет увидеть связи, причины, ограничения и последствия того, что мы знаем.

Эти уровни связаны, но не совпадают. Можно получить информацию, не проверив её. Можно усвоить правильный ответ, не поняв его оснований. Можно даже знать отдельные факты, но соединять их в ошибочную картину действительности.

Поэтому задача свободного человека в цифровую эпоху состоит не только в том, чтобы иметь доступ к информации. Она заключается в умении выбирать, проверять, сопоставлять и осмыслять её.

Мы вступили во время, когда недостаток информации уже не всегда является главной проблемой. Нередко более серьёзная проблема заключается в недостатке внимания, терпения и способности отличать существенное от второстепенного.

Именно поэтому вопрос об истине вновь становится вопросом о свободе.

7.2. Внимание как условие свободы

Чтобы понять что-либо, человеку необходимо направить на это внимание. Мы не можем одновременно внимательно исследовать все события мира, все научные открытия и все человеческие проблемы. Наше внимание ограничено, а время жизни конечно.

То, чему мы уделяем внимание, постепенно влияет на то, что считаем важным, какие вопросы задаём и какие решения принимаем.

Если человек постоянно размышляет о страхах, он может начать воспринимать мир преимущественно как источник угроз. Если его внимание непрерывно обращено к конфликтам, ему может показаться, что вражда составляет основное содержание человеческих отношений. Если он ежедневно сравнивает свою жизнь с тщательно отобранными изображениями чужого успеха, то способен постепенно утратить способность оценивать собственную жизнь без чужих мерок.

Это не означает, что внимание полностью определяет сознание. Человек сохраняет возможность критически осмысливать увиденное и менять свои привычки. Но внимание создаёт условия, в которых одни стороны действительности становятся для нас заметными, а другие отступают на задний план.

В цифровой среде за внимание человека конкурируют новостные издания, социальные сети, рекламодатели, авторы публикаций, развлекательные сервисы и множество других участников.

Некоторые из них стремятся помочь человеку найти нужное. Другие заинтересованы прежде всего в том, чтобы он оставался на платформе как можно дольше, чаще возвращался или совершал определённые действия.

Эти цели могут совпадать, но не обязаны совпадать.

Материал, который помогает человеку спокойно разобраться в сложной проблеме, не всегда удерживает его внимание так же эффективно, как сообщение, вызывающее гнев, страх или возмущение. Сложное объяснение требует усилия, тогда как эмоциональная реакция возникает быстрее.

Отсюда появляется риск: информационная среда может поощрять не то, что помогает человеку лучше понимать действительность, а то, что заставляет его продолжать потребление информации.

Однако было бы неверно считать любое эмоциональное содержание манипуляцией. Сильные чувства иногда являются оправданной реакцией на реальные события, а увлекательная подача может облегчать обучение. Проблема возникает тогда, когда эмоциональное воздействие подменяет собой обоснование или используется для систематического управления поведением без достаточной прозрачности.

Свобода требует не полного отказа от цифровых средств, а способности замечать, как организовано наше внимание.

Почему именно это сообщение оказалось передо мной? Кто выбрал его для показа? На чём основана рекомендация? Помогает ли мне этот материал понять вопрос или лишь усиливает уже возникшую реакцию?

Подобные вопросы возвращают человеку часть самостоятельности.

Внимание нельзя считать мелочью, не имеющей отношения к свободе. Если человек не способен распоряжаться собственным вниманием, его выбор может постепенно становиться зависимым от того, кто и что привлекает его взгляд.

Свобода начинается не только с права совершать поступки. Она начинается также с возможности осмысленно выбирать, чему отдавать своё время и силы.

7.3. Алгоритмы: помощники, которые участвуют в формировании картины мира

Алгоритм — это способ решения задачи посредством определённых правил и последовательности операций. Алгоритмы существовали задолго до цифровой эпохи. Новизна современного мира состоит не в самом их существовании, а в масштабе, скорости и незаметности их применения.

Поисковые системы определяют порядок представления результатов. Социальные платформы отбирают публикации для ленты. Музыкальные сервисы рекомендуют произведения. Интернет-магазины предлагают товары. Навигационные приложения подбирают маршруты.

Во многих случаях это приносит реальную пользу. Человеку не нужно самостоятельно просматривать все существующие материалы, чтобы найти подходящий ответ. Система помогает сократить путь между вопросом и возможным решением.

Но отбор никогда не является совершенно нейтральным по отношению к результату. Если перед человеком оказываются одни сведения, а другие остаются за пределами его внимания, это влияет на то, какую картину действительности он складывает.

Важно уточнить: алгоритм не обязательно понимает смысл информации так, как понимает его человек. Система может ранжировать материалы по соответствию запросу, предполагаемой полезности, вероятности взаимодействия или другим заданным критериям. В зависимости от устройства системы одни признаки учитываются, другие игнорируются.

Поэтому результат работы алгоритма зависит не только от содержания доступных материалов, но и от того, какую задачу система решает, какие данные использует и каким образом оценивает успех.

Если система преимущественно оптимизирует вовлечённость, она может чаще показывать материалы, на которые пользователь активно реагирует. Но активная реакция не всегда свидетельствует о пользе. Человек способен долго смотреть то, что его тревожит, раздражает или вызывает навязчивое любопытство.

Если система стремится предлагать наиболее вероятный ответ на запрос, она не обязательно найдёт самый глубокий или самый точный ответ. Если она подбирает товары на основании предыдущих покупок, это может облегчить выбор, но одновременно сузить круг рассматриваемых возможностей.

При этом нельзя утверждать, что все алгоритмы устроены одинаково или неизбежно приводят к одним и тем же последствиям. Результат зависит от конкретной системы, её целей, способов настройки, доступных пользователю средств контроля и качества используемых данных.

Философская проблема заключается в другом.

Человек может начать воспринимать предложенный ему порядок информации как естественный порядок мира. Ему кажется, что именно эти события важнее остальных, именно эти взгляды наиболее распространены, именно эти решения разумнее всего.

Но порядок выдачи — это результат определённого процесса отбора, а не полная и беспристрастная копия действительности.

Алгоритм может помочь человеку увидеть то, что он искал. Но он также способен оставить незамеченным то, о существовании чего человек даже не подозревал.

Поэтому свободный поиск истины предполагает способность выходить за пределы автоматически предложенного. Иногда полезно изменить формулировку вопроса, обратиться к другим источникам, посмотреть на проблему с противоположной стороны или сознательно изучить то, что не соответствует привычным интересам.

Это не означает, что следует отвергать рекомендации. Это означает, что рекомендации должны оставаться инструментом, а не незаметным хозяином нашего интеллектуального пространства.

7.4. Информационный пузырь и соблазн жить среди согласных

Человек склонен искать подтверждение собственным убеждениям. Ему приятнее встречать мнения, которые поддерживают его представление о мире, чем постоянно сталкиваться с аргументами противной стороны.

Эта склонность существовала задолго до появления интернета. Люди объединялись в группы, читали определённые газеты, доверяли своим авторитетам и предпочитали общаться с теми, кто разделял их взгляды.

Цифровые технологии не создали эту человеческую особенность, но в некоторых обстоятельствах способны усиливать её.

Когда информационная система учитывает интересы пользователя, она может чаще предлагать материалы, соответствующие его прежним предпочтениям. Человек начинает встречать всё больше подтверждений уже сложившейся позиции и всё реже — серьёзные аргументы, способные её поставить под вопрос.

Так может формироваться информационный пузырь.

Однако важно не превращать это понятие в универсальное объяснение. Не каждый пользователь оказывается изолированным от альтернативных взглядов. Цифровые платформы могут знакомить людей с незнакомыми идеями, а доступ к различным источникам способен расширять кругозор. Реальный эффект зависит от особенностей платформы, поведения человека, общественной среды и характера обсуждаемой темы.

Тем не менее опасность заслуживает внимания.

Если человек постоянно видит подтверждение собственной правоты, он может начать считать несогласие признаком невежества, злого умысла или нравственной неполноценности. Вместо исследования аргументов он начинает оценивать тех, кто их высказывает.

Тогда спор перестаёт быть способом приближения к истине и превращается в средство защиты групповой принадлежности.

Здесь возникает особая форма несвободы. Человек полагает, что его убеждения принадлежат исключительно ему, хотя круг доступных ему доводов может быть значительно уже, чем он представляет.

Самостоятельность мышления требует не обязательного согласия с противоположной стороной, а готовности познакомиться с её сильнейшими аргументами.

Если я хочу понять, насколько обоснованна моя позиция, мне недостаточно прочитать только слабые или нелепые возражения. Я должен быть готов встретиться с таким возражением, которое действительно ставит передо мной трудный вопрос.

Это не всегда приводит к изменению убеждений. Иногда после проверки человек становится ещё увереннее в своей позиции, потому что обнаруживает её прочные основания. Но теперь его уверенность опирается не только на привычку и согласие единомышленников.

Полезно время от времени спрашивать себя: какой аргумент мог бы заставить меня пересмотреть это мнение? Есть ли сведения, которые я не хочу замечать? Не объясняю ли я любое возражение заранее, не рассматривая его содержания?

Если никакое возможное свидетельство не способно изменить убеждение человека, то, возможно, перед нами уже не открытый поиск истины, а система самозащиты.

Свобода мышления начинается там, где человек допускает возможность собственного заблуждения — не как формальную оговорку, а как реальную возможность, которую он готов исследовать.

7.5. Манипуляция: когда чужая цель маскируется под мой выбор

Манипуляция отличается от открытого убеждения тем, что стремится направить человека к определённому решению, скрывая существенные обстоятельства воздействия или используя его уязвимости так, чтобы ослабить самостоятельность суждения.

Не всякое влияние является манипуляцией. Родители убеждают детей, учителя объясняют материал, журналисты выбирают форму подачи, друзья советуют друг другу. Человеческая жизнь невозможна без влияния.

Различие заключается в способе и целях воздействия, в отношении к свободе другого и в готовности открыто представить основания своих предложений.

Честное убеждение предлагает доводы, которые человек может рассмотреть, оспорить или отвергнуть. Манипуляция стремится обойти эту способность — например, с помощью скрытого давления, намеренного искажения фактов, искусственного создания срочности или эксплуатации страха.

В цифровой среде такие методы могут приобретать новые формы.

Человеку могут показывать разные сообщения в зависимости от предполагаемых интересов и особенностей поведения. Рекламная кампания способна обращаться к разным эмоциональным мотивам различных групп. Интерфейс приложения может побуждать совершить действие, которое пользователь изначально не планировал. Сообщение может создавать впечатление, будто возможность выбора исчезнет немедленно, хотя реальной необходимости спешить нет.

Подобные практики различаются по степени воздействия и нравственной допустимости. Персонализация сама по себе не является манипуляцией, а напоминание о незавершённом действии может быть полезным. Проблема возникает, когда дизайн и коммуникация систематически используют скрытые способы давления, затрудняют отказ или делают важную информацию намеренно непрозрачной.

Но здесь следует обратить внимание и на самого человека.

Манипуляция эффективна не только благодаря технологиям. Она использует человеческие особенности: страх потерять возможность, желание принадлежать к группе, стремление к признанию, надежду на быстрое решение сложной проблемы.

Мы нередко хотим, чтобы нам предложили готовый ответ. Мы устаём от неопределённости и ищем того, кто избавит нас от необходимости самостоятельно оценивать противоречивые сведения.

Именно в такие моменты свобода может незаметно уступить место удобству.

Чтобы противостоять манипуляции, недостаточно знать о существовании манипулятивных приёмов. Необходимо развивать привычку останавливаться перед эмоционально заряженным сообщением, проверять его происхождение, различать факты и интерпретации, выяснять, кто получает выгоду от предлагаемого решения.

Особенно полезен один вопрос: если бы это сообщение не вызывало у меня столь сильной эмоции, считал бы я его аргументы убедительными?

Этот вопрос не обесценивает чувства. Эмоции могут сообщать нам о важном, но они не заменяют проверки утверждений.

Свободный человек не тот, на кого невозможно повлиять. Такого человека не существует. Свободный человек тот, кто способен замечать влияние, оценивать его основания и возвращать себе возможность осознанного решения.

7.6. Искусственный интеллект: помощник в поиске или новый авторитет?

Появление систем искусственного интеллекта сделало вопрос об информации ещё сложнее.

Теперь человек может не только искать документы и читать различные мнения, но и получать связный ответ, в котором сведения объединены, изложены простым языком и приспособлены к его вопросу. Система способна объяснять сложные понятия, предлагать варианты решения, помогать с переводом, анализировать тексты, сравнивать аргументы и поддерживать исследовательскую работу.

Эти возможности действительно расширяют доступ человека к интеллектуальным инструментам.

Тот, кому трудно читать сложный научный текст, может попросить объяснить его основные положения. Человек, работающий над книгой, может использовать систему для структурирования материала. Ученик может получить дополнительные примеры, а исследователь — сформулировать вопросы, которые стоит проверить.

Но именно удобство такого взаимодействия создаёт новую опасность.

Ответ искусственного интеллекта может выглядеть уверенным, последовательным и убедительным даже тогда, когда он содержит ошибку. Система может неверно изложить факт, перепутать источники, представить спорную интерпретацию как общепринятую или сформулировать правдоподобное, но неподтверждённое утверждение.

Возможности и ограничения зависят от конкретной системы, её архитектуры, данных, инструментов и условий применения. Поэтому нельзя считать, что все системы искусственного интеллекта ошибаются одинаково или одинаково надёжны.

Но общий принцип остаётся важным: убедительность ответа не является достаточным доказательством его истинности.

Человеку легко принять гладкий текст за признак глубокого понимания. Однако качество изложения и обоснованность содержания — разные характеристики. Ответ может быть хорошо написан, но недостаточно подтверждён.

Здесь возникает вопрос доверия.

Мы не можем лично проверить каждое утверждение, которое встречаем в жизни. Мы доверяем учителям, врачам, исследователям, книгам и документам, оценивая их надёжность настолько, насколько позволяют наши знания и обстоятельства. Поэтому само доверие не является противоположностью свободы.

Проблема начинается тогда, когда доверие превращается в отказ от суждения.

Искусственный интеллект может быть полезным собеседником и инструментом исследования, но его ответ не должен автоматически становиться последней инстанцией. В вопросах, имеющих серьёзные последствия, необходимо проверять важные факты по надёжным источникам, учитывать неопределённость и при необходимости обращаться к компетентным специалистам.

При этом не следует впадать и в противоположную крайность — отвергать любой результат только потому, что он получен машиной. Человеческие источники тоже ошибаются, а автоматизированные инструменты во многих задачах способны быть очень полезными.

Разумное отношение состоит не в безусловном доверии и не в безусловном недоверии, а в оценке конкретных оснований.

Искусственный интеллект может помогать человеку искать истину, но не освобождает его от ответственности за то, во что он поверил и какие действия совершил на основании полученного ответа.

7.7. Может ли машина понимать истину?

Этот вопрос сложнее, чем кажется на первый взгляд, поскольку слово «понимать» употребляется в разных значениях.

В одном смысле понимать — значит успешно работать с понятиями, устанавливать связи между сведениями, объяснять зависимости и находить решения. Современные системы искусственного интеллекта способны выполнять многие задачи такого рода, хотя их возможности зависят от конкретной системы и условий применения.

В другом смысле понимание связывают с осознанным переживанием смысла: с тем, что значит для самого субъекта знать, сомневаться, ошибаться, испытывать страх, нести ответственность и сталкиваться с последствиями собственного решения.

Вопрос о том, обладает ли искусственный интеллект субъективным опытом или сознанием, остаётся предметом философских и научных дискуссий. Не следует без достаточных оснований приписывать современной системе человеческие переживания. Но столь же важно не подменять сложный вопрос простым утверждением, будто все формы машинной обработки информации уже полностью объяснены одной фразой.

Для нашей книги особенно важно другое различие.

Даже если система способна правильно ответить на вопрос, это ещё не означает, что она отвечает за применение ответа так, как отвечает человек, принимающий решение в реальном мире.

Предположим, система помогает определить возможные причины технической неисправности. Её вывод может быть полезным и точным. Но решение о том, как действовать, кто будет нести последствия и какие риски допустимы, остаётся частью человеческой и институциональной ответственности.

В другой ситуации система может предоставить убедительное объяснение нравственной проблемы. Но сам факт получения объяснения не снимает с человека обязанности оценить его с учётом обстоятельств, достоинства затронутых людей и возможных последствий.

Здесь нельзя просто разделить мир на «машину, которая ничего не понимает» и «человека, который понимает всё». Человек тоже способен повторять слова, не осознавая их смысла, принимать решения автоматически и защищать предубеждения. Машинные системы, в свою очередь, могут обнаруживать сложные закономерности и помогать человеку видеть то, что он прежде не замечал.

Но эти наблюдения не отменяют различий между способностью обработать сведения, вопросом о субъективном опыте и ответственностью за реальные действия.

Наша цель — не определить окончательно природу машинного сознания, а установить границы разумного доверия.

Мы можем оценивать систему по качеству её результатов, проверяемости выводов, устойчивости к ошибкам и прозрачности ограничений. Но не должны считать её убедительную речь достаточным доказательством того, что она обладает человеческим опытом или нравственной мудростью.

И здесь возникает более общий философский вопрос: не слишком ли часто человек сам отказывается от понимания, требуя от любого источника — человеческого или машинного — готового ответа?

Возможно, проблема заключается не только в возможностях технологий. Она заключается также в нашем желании избавиться от трудности самостоятельного суждения.

7.8. Человеческая ответственность в мире автоматизированных решений

Искусственный интеллект используется не только в разговорах и поиске информации. Автоматизированные системы могут помогать принимать решения в образовании, медицине, финансах, найме работников, оценке рисков и других областях.

В одних случаях они позволяют быстрее обрабатывать большие объёмы данных и замечать закономерности, которые человеку трудно обнаружить самостоятельно. В других случаях они могут воспроизводить ошибки исходных данных, усиливать несправедливые различия или выдавать результат, который трудно объяснить пользователю.

Нельзя заранее считать автоматизированное решение ни более справедливым, ни менее справедливым, чем человеческое. Всё зависит от задачи, данных, критериев оценки, качества проверки и условий использования.

Но есть принцип, который должен сохраняться независимо от технической формы решения: чем серьёзнее последствия для человека, тем важнее возможность понять основания решения, оспорить его и добиться пересмотра.

Если человеку отказывают в возможности, услуге или праве на основании автоматизированной оценки, возникает вопрос: кто отвечает за результат? Как исправить ошибочные данные? Можно ли узнать, какие обстоятельства были учтены? Кто проверит, не стала ли система несправедливой по отношению к определённой группе?

Ответ «так решила машина» не должен освобождать ответственные организации от обязанности объяснять свои действия.

Технологическая система создаётся, настраивается, внедряется и используется людьми и организациями. Даже когда конкретное решение принимается автоматически, общество должно определять правила ответственности за его применение.

При этом не всякое техническое решение можно объяснить простым перечнем правил. Сложные модели могут иметь ограничения интерпретируемости, а некоторые результаты требуют статистического анализа и специальных знаний. Поэтому прозрачность не всегда означает возможность изложить каждый вычислительный шаг в нескольких понятных предложениях.

Но она должна означать хотя бы возможность проверить качество системы, исследовать основания её применения, выявлять ошибки и устанавливать ответственность за последствия.

Здесь вновь обнаруживается связь между истиной и свободой. Если человек не может узнать, почему принято важное решение, и не имеет возможности его оспорить, его положение становится зависимым от системы, над которой он не обладает достаточным контролем.

Это не означает, что всякая автоматизация опасна. Напротив, правильно устроенные системы способны помогать людям и освобождать их от рутинной работы.

Но технология должна расширять человеческие возможности, а не становиться удобным способом снять с человека ответственность.

Мы не должны позволять сложности технических средств превращаться в оправдание нравственной беспомощности.

7.9. Можно ли передать машине нравственный выбор?

Представим ситуацию, в которой человеку предлагают воспользоваться системой искусственного интеллекта для принятия решения, имеющего нравственные последствия. Система сравнивает варианты, рассчитывает вероятные результаты и предлагает действие, которое считает наиболее подходящим по заданным критериям.

На первый взгляд это кажется разумным. Если машина способна обработать больше данных и быстрее сопоставить последствия, почему бы не доверить ей решение?

Ответ зависит от того, какую именно часть задачи мы передаём системе.

Если требуется сравнить числовые показатели, обнаружить закономерности или оценить вероятные последствия при определённых предположениях, автоматизация может оказаться полезной. Но нравственный выбор часто предполагает вопросы, которые нельзя свести к вычислению одного показателя.

Какие ценности следует учитывать? Как соотнести безопасность одного человека с правами другого? Как оценить справедливость распределения ограниченных ресурсов? Какие последствия допустимы, а какие нельзя оправдать даже значительной общей выгодой?

На эти вопросы нельзя ответить, не определив исходные принципы и границы допустимого. Даже если система предлагает вариант, оптимальный по выбранному критерию, сам выбор критерия остаётся важнейшей частью задачи.

Если целью объявить максимальную эффективность, можно не заметить несправедливости по отношению к отдельным людям. Если главным критерием сделать краткосрочную безопасность, можно неоправданно ограничить другие свободы. Если учитывать только измеримые показатели, за пределами расчёта могут оказаться человеческое достоинство, доверие, переживания и долгосрочные последствия.

Это не означает, что человеческое решение всегда лучше. Люди подвержены предубеждениям, действуют под влиянием страха, устают и способны ошибаться. Именно поэтому автоматизированный анализ может быть полезным средством проверки человеческих суждений.

Но помощь в нравственном решении не тождественна освобождению от нравственной ответственности.

Человек, который принимает рекомендацию системы, должен понимать хотя бы основные основания, ограничения и возможные последствия её применения. Он не может считать сам факт рекомендации достаточным оправданием собственного поступка.

Особенно опасна ситуация, в которой человек заранее принимает решение, а затем использует машинный ответ как прикрытие: не «я решил поступить так», а «так рекомендовала система».

В таком случае технология становится способом психологически дистанцироваться от последствий собственного выбора.

Но ответственность не исчезает оттого, что решение было принято при помощи инструмента.

Именно здесь наша тема возвращается к совести. Совесть не заменяет фактического знания и не гарантирует безошибочности. Но она напоминает человеку, что его поступки имеют нравственное измерение, которое нельзя полностью передать внешнему авторитету.

Искусственный интеллект может помогать рассматривать альтернативы, выявлять противоречия и задавать дополнительные вопросы. Но человек не должен использовать его как средство отказа от собственного нравственного суждения.

7.10. Свобода от усилия или свобода для развития?

Любая новая технология освобождает человека от части прежних усилий. Письменность позволила сохранять знания за пределами человеческой памяти. Печатный станок расширил распространение книг. Компьютеры ускорили вычисления. Интернет облегчил поиск информации. Искусственный интеллект теперь помогает выполнять задачи, которые ещё недавно требовали значительного времени и специальных навыков.

Освобождение от рутинной работы может расширять пространство человеческой деятельности. Если инструмент помогает быстрее обработать сведения, у человека появляется больше времени для исследования, творчества и общения.

Но существует и другая возможность: освободившись от усилия, человек может постепенно утратить способность, которую это усилие развивало.

Если он всегда получает готовое объяснение, он может реже учиться самостоятельно выстраивать рассуждение. Если поручает системе писать каждый текст, он рискует меньше развивать собственный стиль. Если принимает автоматически предложенный маршрут, он может перестать замечать, как устроено пространство вокруг него. Если любую сложную проблему немедленно передаёт внешнему помощнику, у него может уменьшаться привычка выдерживать неопределённость.

Это не неизбежные последствия использования технологий. Инструменты способны и развивать навыки, и ослаблять их — в зависимости от того, как именно человек ими пользуется.

Вопрос поэтому заключается не в том, следует ли отказаться от удобства. Он заключается в том, какие усилия действительно необходимо сохранить ради развития самостоятельности.

Не всякий труд ценен сам по себе. Нет необходимости вручную выполнять каждое вычисление, если надёжный инструмент справляется с ним быстрее и точнее. Но некоторые усилия составляют часть самого процесса понимания.

Когда человек самостоятельно разбирается в трудном тексте, он не только получает сведения, но и учится удерживать сложную мысль. Когда сопоставляет противоречивые свидетельства, он развивает способность оценивать основания. Когда формулирует собственную позицию, он обнаруживает пробелы в понимании, которые могли бы остаться незамеченными при простом чтении готового ответа.

Поэтому полезно различать два вида облегчения.

Первое освобождает человека от ненужной рутины, позволяя сосредоточиться на более значимых задачах.

Второе освобождает его от самого процесса развития, заменяя собственное усилие готовым результатом.

Граница между ними не всегда очевидна. Она зависит от цели деятельности и от того, какие способности человек стремится развивать.

Если задача состоит в том, чтобы быстро получить рабочий перевод, машинная помощь может быть достаточной. Если же человек изучает язык, полная передача перевода системе способна лишить его части учебного опыта.

Если цель — подготовить черновой план книги, искусственный интеллект может значительно облегчить работу. Но если автор хочет развить собственное философское мышление, ему необходимо не только принять предложенные идеи, но и проверить их, изменить, дополнить или отвергнуть.

Свобода не требует, чтобы человек делал всё самостоятельно. Она требует, чтобы он понимал, какие действия передаёт инструменту и что при этом сохраняет за собой.

Технология становится средством развития тогда, когда увеличивает наши возможности, не лишая нас способности самостоятельно судить о цели, направлении и смысле деятельности.

7.11. Цифровая эпоха и одиночество человеческого решения

Современный человек может обратиться к цифровому помощнику почти по любому вопросу. Он может попросить объяснить сложную мысль, помочь сформулировать письмо, рассмотреть проблему с разных сторон или предложить возможный порядок действий.

В этом есть значительная ценность. Доступный собеседник помогает преодолеть первоначальное затруднение, структурировать размышление и найти слова для вопроса, который прежде казался неясным.

Но следует различать получение помощи и передачу другому права окончательно определять смысл собственной жизни.

Есть решения, которые невозможно полностью вывести из готовой формулы: как относиться к близкому человеку, что считать достойным поступком, ради чего стоит отказаться от выгоды, какой риск принять и какую ответственность взять на себя.

Совет может быть полезен. Чужой опыт может расширить понимание. Анализ последствий способен показать то, чего мы не замечали. Но окончательное решение в таких случаях требует учитывать обстоятельства, ценности и отношения, которые не всегда могут быть полностью представлены в сообщении или наборе данных.

Человек способен знать, что делать в общем смысле, и всё же испытывать трудность, когда приходит время действовать. Он может понимать нравственный принцип, но обнаруживать, что его исполнение требует жертвы. Он может видеть правильное решение и бояться его последствий.

Эта трудность не обязательно свидетельствует о недостатке информации. Иногда она составляет саму сущность нравственного выбора.

Именно поэтому никакая система советов не может полностью устранить ответственность человека за решение, которое касается его жизни и жизни других людей.

Нельзя считать самостоятельность обязанностью всегда оставаться в одиночестве. Напротив, зрелый человек умеет обращаться за помощью, признавать недостаток знаний и принимать обоснованные рекомендации. Но он также должен понимать, что помощь не снимает с него обязанности оценивать полученный совет.

Искусственный интеллект может стать пространством для размышления, если помогает человеку видеть альтернативы, уточнять понятия и проверять аргументы. Он становится опасным для самостоятельности, если человек начинает воспринимать его ответы как окончательное разрешение всех сомнений.

Особенно важно помнить об этом в нравственных и духовных вопросах. Слова могут помочь человеку сформулировать переживание, но не заменяют прожитого опыта. Объяснение веры не тождественно самой вере. Рассуждение о совести не заменяет поступка, за который человек готов отвечать.

Здесь мы возвращаемся к одной из центральных мыслей нашей книги: истина не должна становиться внешним предметом, которым человек пользуется исключительно ради собственной уверенности. Она требует внутренней готовности изменять собственные взгляды и действия.

Цифровые помощники могут участвовать в этом процессе, но не должны подменять его.

7.12. Как сохранить свободу в мире цифровых технологий?

До сих пор мы рассматривали риски цифровой среды. Но задача философии не должна сводиться к перечислению опасностей. Если технология расширяет возможности человека и одновременно создаёт новые формы зависимости, необходимо понять, какие принципы помогают сохранить самостоятельность.

Первый принцип — проверять существенные утверждения.

Не каждое сообщение требует полноценного расследования. Но если информация влияет на важное решение, касается здоровья, безопасности, общественных событий или репутации человека, следует обращать внимание на источник, дату, доказательства и наличие независимого подтверждения.

Второй принцип — различать факт, интерпретацию и оценку.

Факт описывает то, что произошло или может быть установлено определёнными методами. Интерпретация предлагает объяснение значения или причин события. Оценка выражает суждение о том, насколько событие хорошо, плохо, справедливо или желательно.

Эти элементы часто соединяются в одном сообщении, и само по себе это не является ошибкой. Но их различение помогает понять, где заканчиваются проверяемые сведения и начинается спор о смысле.

Третий принцип — сохранять разнообразие источников.

Если вопрос действительно важен, полезно сопоставлять материалы с различными подходами и интересами. При этом количество источников само по себе не гарантирует достоверности: множество публикаций может повторять один и тот же первоначальный материал. Значение имеют независимость свидетельств, качество аргументов и прозрачность происхождения информации.

Четвёртый принцип — не принимать эмоциональную силу сообщения за меру его истинности.

Страх, гнев, восторг и чувство принадлежности могут быть оправданными, но они не освобождают от проверки. Особенно осторожно следует относиться к сообщениям, которые требуют немедленно поверить, поделиться ими или принять решение, не оставляя времени для размышления.

Пятый принцип — использовать искусственный интеллект как помощника, а не как непогрешимого судью.

Полезно просить систему объяснить ход рассуждения, назвать ограничения ответа, рассмотреть противоположные аргументы и указать, какие утверждения нуждаются в проверке. Но даже хорошо сформулированное объяснение не гарантирует истинности. Важные сведения необходимо проверять, а при необходимости — обращаться к первичным источникам и специалистам.

Шестой принцип — защищать время для самостоятельного мышления.

Не каждую паузу необходимо заполнять информацией. Иногда полезно прочитать текст без постоянного переключения, обдумать вопрос до поиска ответа, сформулировать собственную позицию и лишь затем сравнить её с мнениями других.

Такая практика не является отказом от современных средств. Она помогает сохранить способность пользоваться ими осмысленно.

Седьмой принцип — понимать цену удобства.

Бесплатный доступ, персональные рекомендации и автоматизированные услуги могут иметь свои условия использования. Важно обращать внимание на то, какие данные собираются, как используются разрешения, какие возможности контроля доступны и какие последствия может иметь передача информации.

Восьмой принцип — не отказываться от ответственности.

Нельзя оправдывать любой поступок тем, что его предложила система, поддержала группа или рекомендовал авторитетный источник. Человек должен по возможности понимать основания своих действий и быть готовым отвечать за их последствия.

Наконец, девятый принцип — сохранять уважение к человеческому достоинству.

Цифровая среда позволяет быстро распространять обвинения, насмешки и унизительные изображения. Скорость публикации не отменяет ответственности за последствия. Прежде чем распространять сведения о другом человеке, необходимо задуматься об их достоверности, уместности и возможном вреде.

Эти принципы не обеспечивают абсолютной защиты от ошибок. Но они помогают выстроить отношение к технологиям, при котором удобство не становится единственным критерием решения, а доступность информации не подменяет собой понимание.

Свобода в цифровую эпоху требует не бегства от технологий, а развития способности разумно пользоваться ими.

7.13. Цифровая свобода и общественная ответственность

До сих пор мы говорили преимущественно о личном поведении. Но было бы ошибкой возлагать всю ответственность за устройство цифровой среды на отдельного пользователя.

Человек может проверять источники, ограничивать время в приложениях и осторожно относиться к рекомендациям. Однако его возможности зависят также от устройства платформ, законодательства, образовательных систем и решений организаций, разрабатывающих технологии.

Если интерфейс намеренно затрудняет отказ от нежелательной услуги, пользователю приходится прикладывать дополнительные усилия для защиты собственного выбора. Если важные сведения о работе системы скрыты, он не может полноценно оценить последствия её использования. Если автоматизированное решение нельзя оспорить, личная осторожность не устраняет несправедливость.

Поэтому цифровая свобода имеет не только индивидуальное, но и общественное измерение.

Разработчики должны учитывать риски создаваемых систем и стремиться делать их работу более надёжной и понятной в тех пределах, которые позволяют конкретные технологии. Организации, использующие автоматизированные решения, должны устанавливать процедуры проверки, исправления ошибок и рассмотрения жалоб. Государственные институты должны искать правовые способы защиты прав человека, не превращая регулирование технологий в средство произвольного контроля над информацией.

Здесь особенно важно соблюдать равновесие. Нельзя считать любую цифровую платформу безусловно вредной, а любую попытку регулирования — подавлением свободы. Но нельзя и оправдывать любые действия технологических компаний одной лишь ссылкой на инновации или удобство пользователей.

Вопрос должен ставиться конкретно: какие права затрагиваются, какой вред можно доказать, какие меры соразмерны риску и кто будет контролировать применение ограничений?

Общественная ответственность предполагает также развитие цифровой грамотности. Людям необходимо понимать не только то, как пользоваться устройствами, но и то, как оценивать источники, распознавать поддельные материалы, защищать личные данные и замечать признаки манипуляции.

Особое значение это имеет для образования. Учить человека использовать искусственный интеллект недостаточно. Необходимо учить его проверять результаты, задавать точные вопросы, замечать ошибки и понимать, когда автоматизированная помощь не может заменить профессиональное суждение.

Цифровое общество не станет свободным только благодаря техническому прогрессу. Технологические возможности могут использоваться для расширения самостоятельности, но могут и усиливать зависимость, неравенство и контроль.

Решающим становится не сам факт наличия технологии, а то, как она устроена, кому служит, какие права защищает и какие формы ответственности сопровождают её применение.

Мы вновь приходим к мысли, которая проходила через предыдущие главы: свобода не существует без условий, позволяющих человеку осмысленно действовать, а истина не может быть надёжно защищена без возможности проверки и исправления ошибок.

7.14. Искусственный интеллект и будущее человеческого мышления

Возможно, главное изменение, которое принесёт развитие искусственного интеллекта, будет связано не с тем, что машины станут выполнять больше задач, а с тем, что изменится само представление человека о знании и интеллектуальном труде.

Если машина способна написать текст, объяснить теорию, создать изображение, предложить программу или помочь в исследовании, возникает вопрос: что в таком случае остаётся особенным в человеческой деятельности?

На этот вопрос нельзя ответить простым утверждением, будто человек всегда превосходит машину во всём существенном. Современные системы уже способны выполнять многие задачи на высоком уровне, а их возможности продолжают развиваться.

Но столь же ошибочно заключать, что техническая способность производить результат делает ненужным человеческое суждение.

Человеческая деятельность не сводится к производству текста, изображения или вычисления. Она связана с целями, которые люди выбирают, с ценностями, которые они защищают, с отношениями, которые строят, и с последствиями, которые принимают на себя.

Даже если машина помогает создать выдающееся произведение, остаются вопросы о том, для чего оно создаётся, как используется, кому приносит пользу и какие человеческие отношения сопровождают его появление.

Даже если система помогает сформулировать убедительный нравственный аргумент, остаётся вопрос, готов ли человек действовать в соответствии с этим аргументом, когда его исполнение потребует усилий или отказа от выгоды.

Даже если технология предоставляет человеку большое количество сведений, остаётся вопрос, что он считает достойным знания и ради чего стремится понять мир.

Поэтому будущее человеческого мышления зависит не только от развития машинных возможностей, но и от того, как человек определит собственное отношение к ним.

Есть опасность, что интеллектуальная помощь постепенно превратится в интеллектуальную зависимость. Но есть и другая возможность: благодаря технологиям человек сможет уделять больше внимания вопросам, которые прежде оставались за пределами его возможностей.

Искусственный интеллект может облегчать доступ к образованию, помогать людям с ограниченными возможностями, поддерживать научные исследования, открывать новые способы творчества и делать сложные знания более доступными.

Однако для этого необходимо сохранять критическое мышление, человеческую ответственность и способность ставить цели, а не только выбирать из предложенных вариантов.

Возможно, важнейший вопрос будущего заключается не в том, сможет ли машина отвечать на всё большее количество вопросов. Он заключается в том, сохранит ли человек способность задавать вопросы, которые действительно имеют значение.

Система может предложить множество решений. Но необходимо определить, какую проблему стоит решать, чьи интересы учитывать, какие последствия считать приемлемыми и ради чего вообще предпринимается действие.

Человек, который умеет пользоваться технологиями, но не способен осмыслять собственные цели, может оказаться технически могущественным и одновременно внутренне зависимым.

Человек, который сохраняет способность критически мыслить, признавать границы знания и отвечать за решения, получает возможность использовать технологический прогресс для расширения собственной свободы.

Следовательно, будущее не предопределено самими технологиями. Оно зависит и от человеческих решений, общественных институтов и нравственных принципов, которыми мы руководствуемся при создании и применении новых средств.

7.15. Истина как ответственность в эпоху искусственного интеллекта

В предыдущих главах мы рассматривали истину как проблему познания, нравственного выбора, духовной жизни и общественных отношений. Теперь мы видим, что цифровая эпоха не отменяет эти вопросы, а придаёт им новые формы.

Человек по-прежнему способен обманывать себя, доверять удобным объяснениям и защищать убеждения, которые не выдерживают проверки. Но теперь он может получать поддержку этих убеждений от информационных систем, которые подбирают материалы, формируют рекомендации или предлагают убедительные ответы.

В то же время он получил новые возможности для исследования действительности. Он может быстрее сопоставлять сведения, изучать разные точки зрения, обращаться к сложным текстам и получать помощь в решении задач, которые прежде казались слишком трудными.

Следовательно, технологии одновременно расширяют пространство свободы и создают новые условия зависимости.

Нельзя считать их ни спасением человечества, ни неизбежной угрозой. Они являются мощными средствами, последствия применения которых зависят от устройства систем, целей пользователей, общественных правил и нравственных ограничений.

Но здесь обнаруживается нечто более глубокое.

Свобода не требует, чтобы человек всегда знал ответ. Она требует, чтобы он сохранял способность искать его, проверять основания собственных убеждений и признавать неопределённость там, где знание ещё не достигнуто.

Истина не требует, чтобы человек отказывался от помощи других. Она требует, чтобы помощь не превращалась в оправдание слепого доверия.

Ответственность не требует невозможной безошибочности. Она требует готовности признавать последствия решений, исправлять причинённый вред и не перекладывать вину на инструмент, авторитет или обстоятельства.

В цифровую эпоху эти требования становятся особенно важными, поскольку скорость получения ответа способна опережать скорость его осмысления.

Мы можем получить объяснение раньше, чем научимся правильно ставить вопрос. Можем распространить сообщение раньше, чем проверим его. Можем принять решение раньше, чем рассмотрим последствия.

Поэтому иногда самым свободным поступком становится пауза: возможность не реагировать немедленно, не соглашаться автоматически и не принимать первое объяснение за окончательное.

Такая пауза не является отказом от действия. Она создаёт пространство, в котором действие может стать осознанным.

Возможно, именно это пространство между получением информации и принятием решения становится одним из важнейших условий человеческой свободы.

Искусственный интеллект может ускорять работу мысли, но не должен лишать человека возможности подумать. Алгоритмы могут помогать выбирать, но не должны незаметно подменять собой все критерии выбора. Информационные системы могут расширять знания, но не могут автоматически придать человеку мудрость.

Мудрость начинается не с обладания всеми ответами, а с понимания того, какие вопросы требуют проверки, где проходят границы собственного знания и за что человек обязан отвечать сам.

Выводы к главе VII

1. Информация не равна знанию, а знание не всегда означает понимание. Большое количество сведений может расширять кругозор, но не гарантирует способности верно оценивать действительность.

2. Внимание является важным условием свободы. То, что человек регулярно замечает и обдумывает, влияет на его представления о мире. Поэтому необходимо понимать, как формируется информационная среда.

3. Алгоритмы влияют на доступ к информации, но не определяют действительность целиком. Их результаты зависят от целей, данных и критериев работы. Рекомендации полезны, если сохраняется возможность критической проверки.

4. Информационные пузыри могут усиливать уже существующие убеждения. Однако несогласие не гарантирует правоты, а согласие не доказывает истины. Важны качество аргументов и готовность проверять собственную позицию.

5. Манипуляция отличается от открытого убеждения стремлением ослабить самостоятельность человека. Для защиты свободы необходимо замечать скрытое давление, проверять основания сообщений и не путать силу эмоции с достоверностью.

6. Искусственный интеллект — мощный инструмент, но убедительность его ответов не гарантирует истинности. Результаты требуют оценки с учётом конкретной задачи, ограничений системы и значимости возможных последствий.

7. Вопрос о машинном понимании следует отличать от вопроса о качестве результатов. Способность системы выполнять интеллектуальные задачи сама по себе не доказывает наличия человеческого субъективного опыта или нравственной ответственности.

8. Автоматизация не должна служить оправданием безответственности. Если решения затрагивают права и благополучие людей, необходимы проверка, возможность оспаривания и ясное распределение ответственности.

9. Удобство может освобождать от ненужной рутины, но иногда способно ослаблять важные навыки. Необходимо различать передачу инструменту технической работы и отказ от самостоятельного понимания.

10. Нравственный выбор нельзя полностью заменить вычислением. Анализ последствий помогает принимать решения, но сам выбор целей, ценностей и допустимых средств требует человеческого и общественного суждения.

11. Цифровая свобода зависит не только от отдельного пользователя. Важны устройство платформ, защита данных, прозрачность решений, образование и общественные механизмы контроля.

12. Технологический прогресс не отменяет вопроса о смысле. Чем больше возможностей получает человек, тем важнее понимать, ради чего он ими пользуется.

Итог главы

В этой главе мы увидели, что цифровая эпоха не освобождает человека от прежних философских вопросов. Напротив, она делает их более острыми.

Что значит знать, если информация доступна почти мгновенно? Что значит выбирать, если наши возможности и предпочтения могут формироваться системами рекомендаций? Что значит мыслить самостоятельно, если искусственный интеллект способен предлагать готовые объяснения? И что значит быть ответственным, если решение принято при помощи сложной системы, устройство которой человек не всегда способен полностью понять?

Эти вопросы нельзя решить простым отказом от технологий. Такой отказ лишил бы человека многих полезных возможностей и не устранил бы его прежних склонностей к самообману, подчинению и ошибкам.

Но нельзя решить их и безусловным доверием техническому прогрессу. Возможность выполнить задачу ещё не означает, что задача выбрана правильно. Способность сформировать убедительный ответ ещё не гарантирует его истинности. Скорость принятия решения ещё не означает его разумности.

Поэтому главная задача человека в цифровую эпоху состоит не в том, чтобы конкурировать с машиной во всём, что она умеет делать. Она заключается в том, чтобы сохранять способность осмысленно определять цели, проверять основания, различать знание и предположение, оценивать нравственные последствия и отвечать за собственный выбор.

Мы не обязаны отказываться от инструментов, которые расширяют наши возможности. Но мы должны понимать, что никакой инструмент не освобождает нас от вопроса о том, ради чего мы его используем.

И здесь наша книга вновь возвращается к своему исходному замыслу.

Свобода без истины рискует превратиться в произвол или зависимость от иллюзий. Истина без свободы рискует превратиться в навязанное убеждение, которое человек повторяет, не понимая его оснований. Технология без ответственности способна усилить обе опасности.

Но когда человек использует доступные ему средства для расширения знания, сохраняет самостоятельность суждения и готов отвечать за последствия своих действий, технологии могут стать не противоположностью свободы, а одним из её инструментов.

Возможно, подлинная свобода в цифровую эпоху заключается не в способности получить любой ответ за несколько секунд, а в способности не отдавать никому — ни толпе, ни власти, ни алгоритму, ни искусственному интеллекту — окончательное право думать и отвечать за собственную жизнь вместо нас.

И всё же после этого вывода остаётся ещё один вопрос.

Если человек способен получать всё больше информации, расширять свои возможности и даже поручать машинам часть интеллектуальной работы, означает ли это, что он становится мудрее? Или развитие внешних возможностей может идти быстрее, чем развитие внутреннего человека?

Следующая глава должна приблизить нас к этому вопросу.

Мы поговорим о мудрости, самопознании и пределах человеческого знания — о том, почему разуму необходимо не только открывать новое, но и учиться правильно относиться к тому, чего он ещё не знает.

Ведь свобода требует не только возможностей. Она требует зрелости, чтобы пользоваться ими осмысленно.