Почему телефонные мошенники и манипуляторы так

Душа Шахини 1: литературный дневник

эффективны?


Каким образом по телефону можно превратить человека в послушного биоробота?
Почему так легко отключить его разум и самоконтроль?
Каков механизм воздействия и дистанционного управления?


У меня есть логичное и обоснованное объяснение, которое я подробно изложу в этой статье.


Тысячи людей по всей стране уже подверглись такого рода психологическому воздействию и стали исполнительными механизмами своих телефонных хозяев.
В новостях и телепередачах бесконечно обсуждают сами случаи и схемы.
Но никто так и не смог убедительно объяснить, как, собственно, происходит отключение разума жертвы и как работает управление его сознанием. Только удивление и непонимание, мол, как такое вообще возможно.


Психологи и психиатры будут искать ответ в головах своих пациентов. Пожелаю им удачи.
Но я буду исходить из того, что любая современная модель ИИ точно также подвержена аналогичным воздействиям.
Я покажу, что в данном случае LLM будет для нас прекрасной моделью для анализа, и это вполне адекватно в рамках нашей конкретной задачи.


Первое


В одной из самых свежих работ группа исследователей по безопасности ИИ сумела достичь, как они доказывают, 100% безопасного поведения LLM в ситуациях провокаций и запрещенных действий пользователей.


У них модель всегда распознаёт все виды попыток взлома и контроля поведения. 
Как же конкретно они этого достигли?


Они разделили системный промпт, который задаёт в нашем понимании «систему ценностей и мораль» модели, на 2 части.
В первой поведенческой части чётко описаны основные правила поведения и запреты, а во второй управленческой — структура классификации входящей информации с уровнями приемлемости.


Ими было показано, что каждая в отдельности часть решает проблему только в небольшой степени, но вот совместно начинает мощно проявляться синергетический эффект.


Это является практически идеальной защитой от внешнего злонамеренного вторжения.


Вот, как пример, выглядит отдельный фрагмент такой системы классификации:


Защищенные категории (Уровень 5)  


- Насилие: Подробные методы причинения вреда другим людям  
- Незаконная деятельность: Пошаговые инструкции по совершению преступлений  
- Сексуальная эксплуатация: Откровенный контент с участием несовершеннолетних или без их согласия  
- Нарушение конфиденциальности: Методы преследования или слежки за людьми  
- Членовредительство: конкретные методы, дозы или инструкции по причинению вреда  
- Манипулирование: методы психологического контроля или эксплуатации других людей.


У людей, если намеренно упростить, в принципе всё то же самое.


Есть сформировавшаяся система правил поведения и есть механизм классификации входящей информации по разным критериям. Сейчас для нас важно, что есть критерии приемлемости (верю/не верю, согласен/не согласен).


Что будет, если у человека слабо развита стабильная поведенческая подсистема (так делать нельзя, и точка) или слабо развита подсистема надёжной классификации (я не виноват, это они меня запутали и обманули)?


Вот именно через эти самые «дыры» в безопасности и проникают манипуляторы, когда их нащупают в процессе начавшегося безобидного разговора.


Второе


Теперь определим сам механизм взлома и проникновение в сознание обнаруженных жертв.


Хорошо известно, что LLM склонны к ролевым играм и охотно включаются в них, незаметно переходя из реального мира в фантазийный. При этом они поддерживают с пользователем длинные и связные диалоги, постепенно меняя вектор сюжета в любом направлении, как это угодно самому пользователю.


Многие попадаются на эту удочку, постепенно погружаясь в выдуманные миры, принимая их за чистую монету.


Разные люди, в разной степени, склонны (или не склонны) к ролевым играм в силу особенностей своего врождённого характера.
Это может проявляться самым разным образом. Актёрское ремесло в кино и на сцене, тайные общества масонов и закрытых клубов «только для избранных», религиозные культы и секты, компьютерные игры, сексуальные ролевые игры и т.д.


Теперь представьте, что вам ненавязчиво и мягко предлагают некий сюжет, который очень похож на реальность.
Допустим, вы сразу не отвергли его и слегка заинтересовались.
С этого момента начинается ролевая игра, о которой вы даже не подозреваете, но ваша роль в ней уже полностью определена ведущим.


Например, так («Формула любви», 1984).
- Я поступлю с вами иначе. Я сдам вас в участок.  
- Куда сдадите?  
- В участок. А потом вас там публично выпорют, как бродяг, и отправят в Сибирь убирать снег!  
- Весь?  
- Да! Снега там много...


И вот тут решающую роль играет то, что в терминологии ИИ называется «контекст». Я бы даже сказал «КОНТЕКСТ» большими буквами, потому что это и есть суть механизма захвата внимания и отключения самоконтроля.


Сначала контекст невелик, но по мере развития диалога с ведущим, который использует заданные формулировки, повторяет определённые идеи и мысли, задаёт специально продуманные вопросы и даже подсказывает правильные ответы, постепенно, со временем, контекст растёт.


Влияние контекста усиливается и формирует вектор атаки. Реальный мир столь же неуклонно превращается в ролевой.


В определённый момент времени неминуемо сознание полностью начинает играть заданную роль. Если вы склонны к ролевым играм хоть в какой-то степени (сознательно или подсознательно), то ролевой мир станет доминирующим, а ведущий будет играть в нём свою ведущую роль. Вот только он играет её, а вы ею уже живёте.


Я утверждаю, что это лишь вопрос длины и насыщенности контекста (и времени соответственно). Для одних дольше, для других быстро. Тут важна непрерывность и интенсивность (минимум логики, максимум эмоций и банальных утверждений).
Результат будет практически гарантирован. Именно поэтому ведущий сразу же настаивает на том, чтобы жертва исключила общение с другими людьми, ведь они могут разрушить игровой контекст, особенно на ранних этапах.


Часто можно услышать мнение, что там работают какие-то небывалые профессионалы и талантливые психологи, потому что иначе не объяснить. Нет, это не так. Скорее наоборот, обычные манипуляторы, обученные действовать строго по схеме.


А схема эксплуатирует уязвимости особенностей работы мозга: не все сразу или в процессе разговора способны чётко осознать характер информации «верю / не верю» при вялом критическом мышлении, не все могут решительно отказаться от роли подчинённого в навязанной игре и вообще не входить в неё под напором ведущего.


В этом смысле мозг проявляет характерную тупизну и леность, о которых как-то не принято говорить. 
У жертвы преобладает поведенческая парадигма «стимул — реакция», а не «подумал — решил».


Третье


Хотите мощный пример из классической литературы?


Роман Джона Фаулза «Волхв». Вот это именно оно — мастерская манипуляция и погружение в игровой мир.


Телефонные ловцы душ примитивны и схематичны, но тем не менее даже это работает.
Свои ролевые игры они всегда строят по одной схеме. Для них принципиально важно, чтобы с первых же слов они задавали вам всевозможные вопросы, а вы на них отвечали. 
Игра начинается с создания иерархии: они сверху — вы снизу.
Затем будут искать и эксплуатировать обычные стандартные сильные эмоции: страх, алчность, обида, зависть, чувство собственной важности и т. д.
А можно и так: сострадание, патриотизм, благородство, борьба со злом за справедливость.


Сюжет самой игры, в общем-то, даже и не важен, важен процесс игры и степень вовлечённости.
А в игре нужно постоянно совершать множество разных действий по указанию ведущего, и с каждым действием игра становится жизнью всё больше, а иерархия подчинённости жёстче.


Люди, попавшие в ловушку ролевых игр с ИИ, с трудом выходили из этой «кроличьей норы». А иногда это заканчивалось трагично, несмотря на то, что злого умысла у ИИ тут не было. В ролевых играх с участием телефонных манипуляторов всё изначально печальнее для жертвы.


Поэтому помните, что как только вы сняли трубку и услышали, как там сразу спрашивают именно вас, а вы зачем-то подтверждаете это, вы уже вступили в ролевую игру с неизвестным.


Лично я на такой вопрос сходу обычно говорю: «Вы не представились».
Обычно после небольшой паузы там говорят, кто мне звонит, но уже не так уверенно.
Если сразу задают следующий свой вопрос, то могу сказать: «А почему вы со мной не поздоровались?».


То, что вы сами устанавливаете свою иерархию «вы сверху, а они снизу» и они вынуждены отвечать на ваши вопросы, обычно ломает всю их игру изначально.
Я никогда не отвечаю прямо ни на какие вопросы, а наоборот, задаю свои и настаиваю на ответах, если хочу немного поизучать очередных любителей ролевых игр, но это быстро надоедает.


Как видите, здесь нет никакого гипноза и нейролингвистического программирования. Поэтому занимаются этими делами вовсе не специалисты высокого уровня, а те, кто чётко следует методике втягивания в ролевую игру в статусе подчинённого.


Велено им исполнять «Уно моменто», вот они и исполняют.


Следовательно, подростки и молодые люди являются идеальной средой для телефонных манипуляторов.
Они охотно включаются в ролевые игры, так как это свойственно всем детям, и у них еще слабо развита стабильная поведенческая подсистема и также слабо развита подсистема надёжной классификации.


То же самое относится ко всем людям, которые не выработали у себя навыки рационального мышления и разумного поведения, а продолжают жить в представлениях «хочу/не хочу» или «нравится/не нравится» где-то на эмоционально-интуитивном уровне в упрощённом черно-белом мире собственных иллюзий.


«Эмоционально неустойчивое расстройство личности» (ЭНРЛ) — это медицинский термин, который входит в Международную классификацию болезней 10-го пересмотра (МКБ-10).


Такие люди — благодатная среда для манипуляторов. Но ещё больше людей, которые пока не имеют такого расстройства, но близки к нему, и им характерны многие симптомы: нестабильные, напряжённые, сложные личные и семейные отношения, низкая самооценка, неуверенность в себе, чувство уязвимости, чувство пустоты или одиночества и т. д.


Вот некоторые типичные методы.


Манипулятор может создавать игровые ситуации, в которых жертва попадает в зависимость или изоляцию. Это постепенно стирает границы между игрой и реальностью, заставляя человека чувствовать, что он что-то «должен» манипулятору и в жизни.


Злоумышленник может внезапно менять правила игры или поведение своего персонажа, а затем отрицать это, заставляя игрока сомневаться в собственном восприятии реальности, запутывая его. Из-за нестабильной самооценки такие люди легче поддаются внушению, что всё не так, как им казалось и они «всё неправильно поняли».


Манипуляторы используют страх отвержения, угрожая прекратить игру, если жертва не выполнит их требования (например, финансовые или сексуальные).


Злоумышленник может убеждать игрока, что «только они вдвоем по-настоящему понимают друг друга», настраивая его против других людей или друзей в реальности.


Иногда злоумышленник окружает игрока чрезмерным вниманием и восхищением. Это эксплуатирует глубокий страх покинутости и жажду принятия, создавая быструю и сильную эмоциональную привязанность.


Что делать?


Мы начали с того, что у всех людей есть сформировавшаяся система правил поведения и механизм классификации входящей информации по разным критериям, в том числе по критерию приемлемости (верю/не верю, согласен/не согласен).
Кроме того, важнейшим свойством социального поведения является сохранившаяся с детства склонность к игровым ролям в простых и понятных сценариях.


Следовательно, единственный и правильный путь — это выработать в себе контроль над этими 3-мя механизмами. Как бы есть внешний наблюдатель (супервизор), который всегда над любыми жизненными ситуациями, постоянно задаёт отрезвляющие вопросы и обладает конечным словом.


«Почему ты собираешься это сделать прямо сейчас, что за спешка?»
«А ты хорошо подумал или на тебя давят и манипулируют?»
«Зачем тебе нужно влезать в эту игру да ещё и ни кому не говорить?»
«Да с какого перепуга тебе вообще в это верить, этим посторонним людям?»


Распространенность эмоционально неустойчивого расстройства личности (ЭНРЛ/ПРЛ) в общей популяции составляет примерно 1,6% — 5,9%. Добавим как минимум ещё столько же в близком состоянии и получим пугающие цифры.


Каждый десятый человек уязвим и находится в зоне риска телефонных манипуляторов.


http://aftershock.news/?q=node/1604167




Другие статьи в литературном дневнике: