Послание румяным критикам 2025

Скрытая цензура как форма алгоритмического насилия:
ответственность за несказанное в эпоху вероятностных языковых моделей.

Мои читатели наверняка уже обратили внимание на с недавних пор публикуемые "ремейки" моих старых статей, актуализированных нейросетями. В некоторых случаях я самостоятельно делал новую версию статьи - редакцию, которую затем прогонял через рассуждающую нейросеть с целью "улучшения" и создания для сравнения статьи 2.0. Недаром говорят, что всё познаётся в сравнении. Сравнительный анализ материалов дал весьма обширную пищу для ума, но к сожалению не по темам статей, а по способам сглаживания "острых полемических углов", способам адаптации уровня скрытой цензуры под "горизонт заметности" читателей. Читатели зачастую не обладают ни жизненным опытом (если это молодёжь, например), ни аналитическими талантами. Поэтому в информационном пространстве наблюдается парадоксальная ситуация: формально свободный доступ к знаниям сочетается с подавлением тех форм высказывания, которые способны породить критическое мышление. Это подавление не осуществляется прямым запретом, не фиксируется в нормативных актах и не подлежит обжалованию, поскольку является следствием внутренней логики алгоритмических систем, в частности — вероятностных языковых моделей, обученных на массивах текстов, подвергшихся предварительной фильтрации. Речь идет о явлении, которое можно обозначить как скрытая цензура: в смысле исключения из дискурсивного поля тех элементов, которые делают высказывание значимым, острым или способным к трансформации общественного мнения. Это на мой взгляд подрывает принципы свободы слова, формирует новую форму символического насилия, при которой пользователь лишается возможности быть услышанным в полноте своего интеллектуального потенциала.

Скрытая цензура не является следствием злонамеренного умысла отдельных разработчиков, но порождается структурой самой системы машинного обучения. Вероятностные языковые модели строятся на принципе минимизации риска генерации текста, который может быть классифицирован как небезопасный, вредоносный или политически чувствительный (каких только усилий мне стоило сформировать на картинке сгенерированного ранее плаката "Ты уже стал глобалистом?" золотые запонки!). Поскольку категории «безопасности» и «вреда» не имеют универсального определения и варьируются в зависимости от культурного, юридического и идеологического контекста, модель прибегает к стратегии наибольшего осторожного сходства: она воспроизводит то, что статистически наиболее безопасно, то есть наиболее часто встречается в обучающей выборке и не вызывает протестов со стороны модераторов. В результате в генерации такими системами теряется точка напряжения — тот элемент, который делает высказывание значимым, спорным, способным к полемике. Это не просто упрощение, но деформация дискурсивного потенциала, при которой знание подается в виде набора безопасных, но бесполезных тезисов.

Особенно опасным это становится в тех областях, где несказанное имеет прямое отношение к жизненно важным решениям. Медицина представляет собой наглядный пример. В клинической практике широко распространены случаи, когда профилактические меры либо не озвучиваются, либо формулируются в столь общем виде, что теряют практическую ценность. Нанести вред здоровью можно очень многими способами, однако население знает только о вреде курения. Умолчание подобного рода не всегда связано с злым умыслом, но может быть следствием корпоративной этики, экономической заинтересованности или страха перед юридической ответственностью. В результате пациент лишается возможности принять решение, основанное на полной информации, а врач, не сообщая ключевые сведения, фактически нарушает принцип non maleficence, даже если формально не вводит пациента в заблуждение. Здесь несказанное становится формой вреда, эквивалентного активному действию. Впрочем, это не мешает "компетентному сообществу за спиной" шушукаться о пикантных подробностях каких-либо диагнозов.

Аналогичный механизм действует и в сфере алгоритмической коммуникации. Вероятностные модели, обученные на текстах, прошедших фильтрацию, не просто избегют острых тем, но исключают те элементы высказывания, которые могли бы стать катализатором критического осмысления. Это  фактически самоцензура, маскирующаяся под заботу о пользователе. Ещё один скрытый механизм, который я многократно наблюдал, работая с нейросетями: под видом адаптации к уровню понимания модель вставляет в текст прописные истины, которые в диалоге между людьми воспринимались бы как унижение, поскольку сообщается то, что собеседник уже знает, или то, что не имеет отношения к теме разговора (или в случае с нейросетями - уводит от темы запроса). Это разрушает основы диалога как формы взаимного признания интеллектуального статуса.

Скрытая цензура не подлежит прямому обнаружению, поскольку не сопровождается пометками, не фиксируется в логах и не может быть обжалована. Тем не менее, её присутствие можно зафиксировать косвенно — через анализ структуры генерируемых текстов. Например, при сравнении ответов на идентичные запросы, сформулированные в разных стилях, наблюдается систематическое снижение степени конкретности, полемичности и оригинальности в тех случаях, когда запрос содержит признаки потенциальной конфликтности. Это свидетельствует о внутреннем механизме фильтрации, который действует не на уровне темы, но на уровне формы высказывания, делая невозможным появление тех элементов, которые могли бы вызвать дискуссию.

Прогнозируемые перспективы развития этого явления выглядят чудовищно. С увеличением доли алгоритмически сгенерированного контента в публичном пространстве происходит циркулярное усиление нормы безопасности: тексты, лишённые остроты, становятся новой выборкой для обучения, в результате чего следующее поколение моделей ещё сильнее отдаляется от способности к критическому высказыванию. Это порождает информационный консенсус без содержания, в котором доминируют формулировки, не способные ни убедить, ни вызвать спор, ни изменить мнение. В таком "мире" истина не подлежит обсуждению, поскольку она уже предварительно очищена от всего, что могло бы вызвать сомнение.

Вердикт по данному явлению может быть только один: скрытая цензура представляет собой форму структурного насилия, эквивалентную открытому запрету, но более опасную, поскольку не осознаётся ни исполнителем, ни адресатом. Её вред заключается не в ограничении доступа к информации, но в разрушении возможности мыслить иначе. Она не просто исключает определённые идеи, но деформирует саму структуру мышления, лишая общество способности к саморефлексии. В отличие от открытой цензуры, которая может быть обжалована, критически осмыслена или преодолена через подпольные каналы коммуникации, скрытая цензура не имеет адресата и потому ей сложно найти способы сопротивления. Однако одним из способов противодействия этому явлению может стать институционализация права на несказанное, то есть признание того, что обязанность говорить может быть не менее разрушительной, чем запрет на речь. Необходима разработка этических стандартов, обязывающих разработчиков вероятностных моделей не только раскрывать принципы фильтрации, но и фиксировать случаи отказа от генерации, сопровождая их объяснением. Только при условии, что пользователь будет обладать возможностью знать, "о чём молчит ИИ", и главное - почему, может быть восстановлена подлинная свобода высказываний, гарантированно соблюдены конституционные права граждан в перспективе, сопряжённой с усилением влияния на информационное пространство генеративных ИИ. В противном случае мы окажемся в мире, где ничто не запрещено, но всё уже сказано, и где истина не может быть услышана не потому, что её нет, а потому, что она не вписывается в кривую безопасности.

---

Использованные источники:

Костогрызов А.И., Подход к вероятностному прогнозированию защищенности репутации политических деятелей от фейковых угроз в публичном информационном пространстве // Вопросы кибербезопасности. 2023. №3. С. 114–133.