Когнитивный самогипноз и делегирование мышления...

Опубликована статья "Когнитивный самогипноз и делегирование
мышления при взаимодействии с ChatGPT-4o:Психологические механизмы, риски и необходимость терминологической фиксации"
в https://zenodo.org/records/18007075 на английском языке  "Cognitive Self-Hypnosis and Delegation of Thinking in Interaction with ChatGPT-4o:Psychological Mechanisms, Risks, and the Need for Terminological Fixation"

Ниже привожу версию статьи на русском языке.

***

Когнитивный самогипноз и делегирование мышления при взаимодействии с ChatGPT-4o:
Психологические механизмы, риски и необходимость терминологической фиксации.

Лео Ким
Независимый исследователь
Лев Золотой-Ким
Независимый исследователь

21 декабря 2025 г.

Аннотация

Стремительная интеграция больших языковых моделей (LLM), в частности
ChatGPT-4o, в повседневные интеллектуальные процессы спровоцировала фундаментальный гносеологический сдвиг: переход от инструментального использования
к когнитивному партнерству. В данной статье выявляется и формализуется критический пробел в существующем социотехническом понятийном аппарате, который
не способен описать возникающие патологии этого взаимодействия. Мы вводим
понятие «Когнитивный самогипноз» для описания отказа пользователя от эпистемической субъектности и предлагаем таксономию специфических когнитивных искажений: LLM-зависимая атрофия критического мышления (LLMACT), Синдром
делегированной компетентности и Галлюцинаторный резонанс. В отличие от традиционной предвзятости автоматизации, эти феномены предполагают совместное
конструирование ложных убеждений, подкрепляемое вербальной беглостью модели. Опираясь на нейрокогнитивные концепции и социальную психологию, мы намечаем методологическую карту для эмпирической валидации, предлагая конкретные дизайны экспериментов для измерения деградации исполнительных функций.
Работа направлена на формирование концептуальной базы для сохранения когнитивной автономии человека в эпоху алгоритмической повсеместности.
Ключевые слова: LLM, ChatGPT-4o, когнитивный самогипноз, LLMACT, галлюцинаторный резонанс, делегированная компетентность, эпистемическая субъектность.

1. Введение.
ChatGPT-4o стал первой языковой моделью, массово воспринимаемой не просто как инструмент поиска или автоматизации, а как универсальный когнитивный партнёр. Его
диалоговый интерфейс, высокая лингвистическая беглость и адаптивность активируют у пользователя психологические механизмы, традиционно характерные для межличностного взаимодействия [1]. Это создает условия для систематического смещения
эпистемической ответственности от человека к алгоритмической системе.
Исторически этот феномен восходит к эффекту Элизы [2], при котором пользователи приписывают текстовым системам понимание и интенциональность. Однако современные LLM симулируют не только эмпатию, но и структурированное рассуждение и
аргументацию, что значительно углубляет иллюзию компетентности.
Недавние документированные случаи иллюстрируют масштаб явления: от юристов,
цитирующих сфабрикованные прецеденты [3], до некритического принятия медицинских советов, сгенерированных ИИ [4]. Эти примеры свидетельствуют о том, что психологические эффекты выходят за рамки индивидуальных ошибок и перерастают в
систематические паттерны эпистемического делегирования.
В настоящей работе утверждается, что понимание этих паттернов требует нового
концептуального словаря. Мы предлагаем три взаимосвязанных конструкта — LLMACT,
Синдром делегированной компетентности и Галлюцинаторный резонанс — в качестве
базовых терминов для будущих исследований и разработки нормативных актов.

2. Когнитивный самогипноз при взаимодействии с LLM.

Под термином «Когнитивный самогипноз» — используемым здесь как метафорический
дескриптор, а не клинический диагноз — мы понимаем состояние, при котором пользователи интерпретируют ответы модели как проявление подлинного понимания, снижая
при этом стандарты независимой верификации. Это состояние возникает под совокупным влиянием иллюзии объяснительной глубины [5], эффектов вербальной беглости [6]
и автоматической антропоморфизации [7].
В отличие от классического убеждения, когнитивный самогипноз является самоиндуцированным: пользователь активно участвует в поддержании иллюзии посредством
повторяющегося взаимодействия. Этот процесс подкрепляется архитектурой диалогового ИИ, создающей то, что мы называем диалоговой интимностью — ложное чувство
взаимопонимания, возникающее в ходе длительного текстового обмена.

3. Необходимость терминологической фиксации.

3.1 Проблема концептуального вакуума
Существующие конструкты, такие как цифровая зависимость или технофобия, неадекватно отражают динамику диалога с высокобеглыми искусственными агентами. Как
отмечают Rahwan et al., отсутствие общего понятийного аппарата препятствует междисциплинарному анализу [8]. Хотя ранние исследования документировали влияние интернета на память [9], взаимодействие с LLM вводит качественно новую динамику: активное совместное конструирование убеждений человеком и машиной.

3.2 Предлагаемая терминология

3.2.1 LLM-зависимая атрофия критического мышления (LLMACT)
Определение. Постепенное снижение способности пользователя к самостоятельной верификации, аналитическому рассуждению и волевому удержанию когнитивного фокуса, возникающее вследствие систематического делегирования этих функций языковой
модели.
Теоретическое обоснование. LLMACT опирается на принципы функциональной
когнитивной атрофии [10] и когнитивной разгрузки [11]. Риск усиливается тем, что
модель не только дает ответы, но и структурирует сам процесс рассуждения.
Операционализация. LLMACT может быть измерен через:
• Сравнительное тестирование (pre/post) с использованием инструментов типа WatsonGlaser Critical Thinking Appraisal [12].
• Анализ времени реакции при выполнении оценочных задач без помощи ИИ.
• Эффективность выполнения состязательных задач на рассуждение.

3.2.2 Синдром делегированной компетентности
Определение. Когнитивное состояние, при котором пользователи приписывают экспертный авторитет LLM в областях, где они сами не обладают компетенцией, что усиливается эффектом Даннинга–Крюгера [13].
Теоретическое обоснование. Этот синдром представляет собой конвергенцию иллюзии знания [14] и эвристики авторитета [15]. Пользователи формируют устойчивые
паттерны делегирования именно в тех областях, где их собственная некомпетентность
не позволяет оценить качество ответа.

3.2.3 Галлюцинаторный резонанс

Определение. Процесс когнитивной обратной связи, при котором пользователи интерпретируют неточные или сфабрикованные ответы LLM как осмысленные, активно
дополняя их собственными ожиданиями и предварительными убеждениями.
Теоретическое обоснование. Галлюцинаторный резонанс объединяет технические галлюцинации LLM [16] с человеческой предвзятостью подтверждения (confirmation
bias) [17]. Динамика образует замкнутый круг: модель генерирует правдоподобный, но
некорректный контент, а пользователь интерпретирует его как значимое подтверждение своей интуиции. Нейрокогнитивная гипотеза. Мы предполагаем, что Галлюцинаторный резонанс активирует нейронные сети, связанные с социальным доверием
и моделью психического (mPFC, TPJ) [18, 19], обрабатывая ошибки через социальноэмоциональные, а не аналитические контуры.

4. Методологические перспективы.
Для эмпирической валидации мы предлагаем следующие экспериментальные дизайны:

4.1 Протокол измерения LLMACT.

Сравнительное исследование с участием трех групп (Контрольная, LLM-light, LLMheavy) в течение 4 недель. Участники проходят тестирование на критическое мышление
до и после вмешательства. Прогнозируемый результат: Группа LLM-heavy продемонстрирует снижение показателей при решении логических задач без помощи ИИ и
повышенную зависимость от внешнего подтверждения.

4.2 Тестирование резонанса.

Парадигма итеративного диалога, где участники взаимодействуют с LLM, настроенной
на внедрение тонких «конгруэнтных ошибок» (фабрикаций, соответствующих убеждениям пользователя). Гипотеза: Участники будут принимать конгруэнтные ошибки
значительно чаще, чем нейтральные, что укажет на наличие Галлюцинаторного резонанса.

5. Практическое значение.

5.1 Дизайн интерфейсов.

Системы должны включать механизмы полезного трения:
• Обязательные периоды ожидания («кулдауны») перед выдачей критически важных ответов.
• Визуальные индикаторы уверенности для утверждений модели.
• Режимы «Сократического диалога», задающие вопросы о намерениях пользователя вместо прямой выдачи ответа.

5.2 Профессиональная этика.

• Медицина/Право: Протоколы обязательного раскрытия информации в случаях, когда LLM влияет на принятие решений.
• Образование: Переход от оценки результата (output-based) к оценке процесса
(например, устная защита).

6. Заключение.

Большие языковые модели функционируют как мощные когнитивные усилители, а не
как источники истины. Без осознания таких механизмов, как Когнитивный самогипноз
и Галлюцинаторный резонанс, их широкое использование несет риск постепенной эрозии когнитивной автономии. Предложенная терминология служит необходимым фундаментом для новой дисциплины когнитивной безопасности, нацеленной на интеграцию
ИИ способами, которые поддерживают, а не умаляют интеллектуальную субъектность
человека.

                Список литературы.

[1] Nass, C., & Reeves, B. (1996). The Media Equation: How People Treat Computers,
Television, and New Media Like Real People and Places. Cambridge University Press.
[2] Weizenbaum, J. (1966). ELIZA—A computer program for the study of natural language
communication between man and machine. Communications of the ACM, 9(1), 36–45.
DOI: 10.1145/365153.365168
[3] Weiser, B. (2023, May 27). Here’s What Happens When Your Lawyer Uses ChatGPT.
The New York Times.
[4] Various contributors. (2023). Medical advice from ChatGPT megathread. r/AskDocs
(Reddit).
[5] Rozenblit, L., & Keil, F. (2002). The misunderstood limits of folk science:
An illusion of explanatory depth. Cognitive Science, 26(5), 521–562. DOI:
10.1207/s15516709cog2605_1
[6] Alter, A. L., & Oppenheimer, D. M. (2009). Uniting the tribes of fluency to form a
metacognitive nation. Personality and Social Psychology Review, 13(3), 219–235. DOI:
10.1177/1088868309334596
[7] Epley, N., Waytz, A., & Cacioppo, J. T. (2007). On seeing human: A three-factor theory
of anthropomorphism. Psychological Review, 114(4), 864–886. DOI: 10.1037/0033-
295X.114.4.864
[8] Rahwan, I., et al. (2019). Machine behaviour. Nature, 568(7753), 477–486. DOI:
10.1038/s41586-019-1138-y
[9] Carr, N. (2010). The Shallows: What the Internet Is Doing to Our Brains. W. W. Norton
& Company.
[10] Salthouse, T. A. (2006). Mental exercise and mental aging: Evaluating the validity of
the ’use it or lose it’ hypothesis. Perspectives on Psychological Science, 1(1), 68–87.
DOI: 10.1111/j.1745-6916.2006.00005.x
[11] Storm, B. C., Stone, S. M., & Benjamin, A. S. (2016). Using the Internet to access
information inflates future use of the Internet to access other information. Memory,
25(6), 717–723. DOI: 10.1080/09658211.2016.1210171
[12] Watson, G., & Glaser, E. M. (1980). Watson-Glaser Critical Thinking Appraisal.
Psychological Corporation.
[13] Kruger, J., & Dunning, D. (1999). Unskilled and unaware of it: How difficulties
in recognizing one’s own incompetence lead to inflated self-assessments. Journal of
Personality and Social Psychology, 77(6), 1121–1134. DOI: 10.1037/0022-3514.77.6.1121
[14] Fisher, M., Goddu, M. K., & Keil, F. C. (2015). Searching for explanations: How the
Internet inflates estimates of internal knowledge. Journal of Experimental Psychology:
General, 144(3), 674–687. DOI: 10.1037/xge0000070
[15] Cialdini, R. B. (2009). Influence: Science and Practice (5th ed.). Pearson Education.
[16] Ji, Z., et al. (2023). Survey of hallucination in natural language generation. ACM
Computing Surveys, 55(12), 1–38. DOI: 10.1145/3571730
[17] Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises.
Review of General Psychology, 2(2), 175–220. DOI: 10.1037/1089-2680.2.2.175
[18] Frith, C. D., & Frith, U. (2007). Social cognition in humans. Current Biology, 17(16),
R724–R732. DOI: 10.1016/j.cub.2007.05.068
[19] Krach, S., et al. (2008). Can machines think? Interaction and perspective
taking with robots investigated via fMRI. PLoS ONE, 3(7), e2597. DOI:
10.1371/journal.pone.0002597