241. Как алгоритмы управляют человеком

В этой главе - небольшой обзор книги Фоера "Без своего мнения", в которой автор рассказывает как мировые информационные монополии и интернет лишают человека собственного мнения.
Чтобы вы не подумали, что я тут пытаюсь нести отсебятину вместе с ИИ.

1)О книге Франклина Фоера "Без своего мнения" в 1 абзаце

Франклин Фоер в книге «Без своего мнения» предупреждает, что главная опасность Google, Facebook, Amazon и других технологических гигантов состоит не в прямом контроле над человеком, а в том, что их алгоритмы постепенно становятся посредниками между человеком и реальностью: они решают, какие новости, книги, людей, товары и идеи он увидит, формируя сам материал, из которого затем складывается его «собственное» мнение. Пользователь при этом сохраняет ощущение свободы, хотя пространство его выбора уже заранее организовано системой, заинтересованной в удержании внимания, сборе данных и предсказании поведения. Фоер местами чрезмерно драматизирует влияние технологий и недооценивает свободу, которую интернет одновременно даёт человеку, однако его главный вопрос остаётся чрезвычайно серьёзным: что останется от самостоятельного мышления, если человек всё чаще будет доверять алгоритму не только поиск информации, но и решение того, что вообще заслуживает его внимания?

2) Суть книги Франклина Фоера «Без своего мнения» в 3 больших абзацах

Главный тезис Франклина Фоера значительно серьёзнее банального «социальные сети отнимают время». Он утверждает, что Google, Facebook, Amazon и другие технологические гиганты превратились из поставщиков удобных инструментов в **новых посредников между человеком и действительностью**. Их власть основана не прежде всего на прямой цензуре или приказах, а на способности собирать колоссальные массивы данных о поведении человека, превращать его в предсказуемую математическую модель и затем заранее организовывать пространство его выбора. Алгоритм решает, какую новость человек увидит первой, какого автора ему предложат, с кем познакомят, какой товар поставят перед глазами, какой маршрут назовут оптимальным и какое содержание сочтут для него «релевантным». Поэтому опасность, по Фоеру, состоит не в том, что алгоритм непосредственно вкладывает человеку в голову готовое мнение, а в том, что он **формирует исходный материал, из которого мнение вообще возникает**. Человек по-прежнему ощущает себя свободным: никто не запрещает ему выбрать другое видео, книгу или политическую позицию. Но сама архитектура среды уже рассчитана на то, чтобы предсказать наиболее вероятное действие, подтолкнуть к нему и тем самым сделать человека ещё более предсказуемым для следующего цикла. Facebook Фоер рассматривает как гигантскую систему обратной связи, подтверждающую привычные взгляды пользователя; Google — как проект организации человеческого знания, постепенно передающий машине всё больше функций памяти и суждения; Amazon — как платформу, которая, контролируя доступ к рынку, начинает влиять не только на то, что покупается, но и на то, **что вообще выгодно создавать**. В результате удобство оборачивается зависимостью: мы добровольно отдаём платформам память, приватность, вкусы, привычки и часть процесса принятия решений, а они получают возможность превращать человеческое поведение в управляемый поток данных. Именно поэтому Фоер пишет не столько об интернете, сколько об угрозе **индивидуальности, автономному суждению и свободной воле**: инженерная идеология Кремниевой долины склонна видеть человека не как непредсказуемую личность, а как элемент системы, поведение которого желательно измерить, оптимизировать и сделать управляемым.

Вторая и, пожалуй, наиболее убедительная часть его аргумента касается того, что алгоритмическая власть меняет не только отдельного пользователя, но и **саму среду производства культуры и общественной мысли**. Фоер пришёл к этой теме не отвлечённо: будучи редактором *The New Republic*, он пережил попытку перестроить интеллектуальный журнал по модели технологической компании, где всё большее значение приобретали трафик, клики, измеримое вовлечение аудитории и немедленная реакция пользователей. Его тревожит момент, когда редактор перестаёт спрашивать: «это важный текст?» — и начинает спрашивать: «сколько людей на него нажмут?». Тогда алгоритм не обязан запрещать серьёзную журналистику, литературу или сложную мысль; достаточно сделать их **экономически невыгодными** по сравнению с эмоциональным, мгновенно понятным и хорошо распространяющимся контентом. Так возникает гораздо более тонкая форма стандартизации: журналист пишет с оглядкой на трафик, издатель — на платформу, продавец — на поисковый рейтинг, политик — на реакцию социальных сетей, а сам пользователь всё чаще получает то, что максимально соответствует уже известным системе желаниям и предубеждениям. Отсюда фоеровский страх перед «коллективным разумом»: индивидуальное суждение постепенно уступает место рейтингу, тренду, рекомендации, «мудрости толпы» и оптимальному алгоритмическому решению. И здесь особенно важно, что Фоер не описывает тайный сговор нескольких злодеев. Его объект — **структура стимулов**: компании получают деньги за внимание, поэтому стремятся удерживать внимание; чем лучше они знают человека, тем успешнее удерживают его; чем успешнее персонализация, тем больше данных получают; а концентрация рынка позволяет нескольким частным корпорациям стать фактическими привратниками культуры, торговли и публичного пространства. Поэтому монополия для него опасна не только экономически: прежний монополист мог контролировать нефть или железную дорогу, тогда как современная платформа получает власть над **информационным входом в человеческое сознание**. Именно этот аспект книги критики обычно признавали одним из её сильнейших, даже когда считали общую картину Фоера чрезмерно мрачной.

При этом книгу важно не превращать в пророчество о том, что «алгоритмы уже полностью управляют людьми»: именно здесь начинается справедливая критика Фоера. Он склонен сводить очень разные компании и технологии к единой идеологии Кремниевой долины, приписывать им почти цивилизационный проект уничтожения индивидуальности и временами переходить от убедительной критики реальной концентрации власти к гиперболе. Критики замечали, что интернет не только стандартизирует, но и **разрушает старые монополии**, даёт возможность существовать сообществам и авторам, которых прежние редакторы и телеканалы никогда не допустили бы к массовой аудитории; что Google, Facebook и Amazon имеют разные бизнес-модели и не обязательно являются частями единого «коллективистского» проекта; что Фоер значительно подробнее описывает угрозы цифровизации журналистике и литературе, чем её преимущества; и что его любовь к печатной книге, одиночеству и медленному чтению временами приобретает оттенок ностальгии по прежней культурной элите. *Guardian*, например, очень точно сформулировал главное возражение: человечеству необязательно выбирать между Twitter и Тургеневым — новые формы сетевой коллективности сами по себе не уничтожают индивидуальность. *Los Angeles Times* также отмечала склонность автора к алармизму и выборочному подбору отрицательных последствий, хотя признавала силу основного обвинения. Но эти возражения скорее уточняют, чем отменяют центральный вопрос Фоера. Он сам не предлагает выбросить смартфоны и уничтожить поисковые системы; его конечная программа — вернуть человеку **возможность сопротивляться архитектуре выбора**: ограничивать технологические монополии антимонопольным правом, серьёзнее защищать персональные данные и приватность, сохранять пространства, где культурные решения принимаются не только по метрикам, и сознательно оставлять часть своей жизни вне алгоритмической оптимизации. Поэтому наиболее точная формула книги звучит так: **Фоер боится не того, что машина начнёт думать вместо человека, а того, что человек постепенно привыкнет передавать машине всё больше операций выбора — пока однажды не обнаружит, что формально собственное мнение у него осталось, но значительную часть мира, на основании которого это мнение сформировано, ему заранее подобрал чужой алгоритм.**