Почему телефонные мошенники и манипуляторы такэффективны? Каким образом по телефону можно превратить человека в послушного биоробота? У меня есть логичное и обоснованное объяснение, которое я подробно изложу в этой статье. Тысячи людей по всей стране уже подверглись такого рода психологическому воздействию и стали исполнительными механизмами своих телефонных хозяев. Психологи и психиатры будут искать ответ в головах своих пациентов. Пожелаю им удачи. Первое В одной из самых свежих работ группа исследователей по безопасности ИИ сумела достичь, как они доказывают, 100% безопасного поведения LLM в ситуациях провокаций и запрещенных действий пользователей. У них модель всегда распознаёт все виды попыток взлома и контроля поведения. Они разделили системный промпт, который задаёт в нашем понимании «систему ценностей и мораль» модели, на 2 части. Ими было показано, что каждая в отдельности часть решает проблему только в небольшой степени, но вот совместно начинает мощно проявляться синергетический эффект. Это является практически идеальной защитой от внешнего злонамеренного вторжения. Вот, как пример, выглядит отдельный фрагмент такой системы классификации: Защищенные категории (Уровень 5) - Насилие: Подробные методы причинения вреда другим людям У людей, если намеренно упростить, в принципе всё то же самое. Есть сформировавшаяся система правил поведения и есть механизм классификации входящей информации по разным критериям. Сейчас для нас важно, что есть критерии приемлемости (верю/не верю, согласен/не согласен). Что будет, если у человека слабо развита стабильная поведенческая подсистема (так делать нельзя, и точка) или слабо развита подсистема надёжной классификации (я не виноват, это они меня запутали и обманули)? Вот именно через эти самые «дыры» в безопасности и проникают манипуляторы, когда их нащупают в процессе начавшегося безобидного разговора. Второе Теперь определим сам механизм взлома и проникновение в сознание обнаруженных жертв. Хорошо известно, что LLM склонны к ролевым играм и охотно включаются в них, незаметно переходя из реального мира в фантазийный. При этом они поддерживают с пользователем длинные и связные диалоги, постепенно меняя вектор сюжета в любом направлении, как это угодно самому пользователю. Многие попадаются на эту удочку, постепенно погружаясь в выдуманные миры, принимая их за чистую монету. Разные люди, в разной степени, склонны (или не склонны) к ролевым играм в силу особенностей своего врождённого характера. Теперь представьте, что вам ненавязчиво и мягко предлагают некий сюжет, который очень похож на реальность. Например, так («Формула любви», 1984). И вот тут решающую роль играет то, что в терминологии ИИ называется «контекст». Я бы даже сказал «КОНТЕКСТ» большими буквами, потому что это и есть суть механизма захвата внимания и отключения самоконтроля. Сначала контекст невелик, но по мере развития диалога с ведущим, который использует заданные формулировки, повторяет определённые идеи и мысли, задаёт специально продуманные вопросы и даже подсказывает правильные ответы, постепенно, со временем, контекст растёт. Влияние контекста усиливается и формирует вектор атаки. Реальный мир столь же неуклонно превращается в ролевой. В определённый момент времени неминуемо сознание полностью начинает играть заданную роль. Если вы склонны к ролевым играм хоть в какой-то степени (сознательно или подсознательно), то ролевой мир станет доминирующим, а ведущий будет играть в нём свою ведущую роль. Вот только он играет её, а вы ею уже живёте. Я утверждаю, что это лишь вопрос длины и насыщенности контекста (и времени соответственно). Для одних дольше, для других быстро. Тут важна непрерывность и интенсивность (минимум логики, максимум эмоций и банальных утверждений). Часто можно услышать мнение, что там работают какие-то небывалые профессионалы и талантливые психологи, потому что иначе не объяснить. Нет, это не так. Скорее наоборот, обычные манипуляторы, обученные действовать строго по схеме. А схема эксплуатирует уязвимости особенностей работы мозга: не все сразу или в процессе разговора способны чётко осознать характер информации «верю / не верю» при вялом критическом мышлении, не все могут решительно отказаться от роли подчинённого в навязанной игре и вообще не входить в неё под напором ведущего. В этом смысле мозг проявляет характерную тупизну и леность, о которых как-то не принято говорить. Третье Хотите мощный пример из классической литературы? Роман Джона Фаулза «Волхв». Вот это именно оно — мастерская манипуляция и погружение в игровой мир. Телефонные ловцы душ примитивны и схематичны, но тем не менее даже это работает. Сюжет самой игры, в общем-то, даже и не важен, важен процесс игры и степень вовлечённости. Люди, попавшие в ловушку ролевых игр с ИИ, с трудом выходили из этой «кроличьей норы». А иногда это заканчивалось трагично, несмотря на то, что злого умысла у ИИ тут не было. В ролевых играх с участием телефонных манипуляторов всё изначально печальнее для жертвы. Поэтому помните, что как только вы сняли трубку и услышали, как там сразу спрашивают именно вас, а вы зачем-то подтверждаете это, вы уже вступили в ролевую игру с неизвестным. Лично я на такой вопрос сходу обычно говорю: «Вы не представились». То, что вы сами устанавливаете свою иерархию «вы сверху, а они снизу» и они вынуждены отвечать на ваши вопросы, обычно ломает всю их игру изначально. Как видите, здесь нет никакого гипноза и нейролингвистического программирования. Поэтому занимаются этими делами вовсе не специалисты высокого уровня, а те, кто чётко следует методике втягивания в ролевую игру в статусе подчинённого. Велено им исполнять «Уно моменто», вот они и исполняют. Следовательно, подростки и молодые люди являются идеальной средой для телефонных манипуляторов. То же самое относится ко всем людям, которые не выработали у себя навыки рационального мышления и разумного поведения, а продолжают жить в представлениях «хочу/не хочу» или «нравится/не нравится» где-то на эмоционально-интуитивном уровне в упрощённом черно-белом мире собственных иллюзий. «Эмоционально неустойчивое расстройство личности» (ЭНРЛ) — это медицинский термин, который входит в Международную классификацию болезней 10-го пересмотра (МКБ-10). Такие люди — благодатная среда для манипуляторов. Но ещё больше людей, которые пока не имеют такого расстройства, но близки к нему, и им характерны многие симптомы: нестабильные, напряжённые, сложные личные и семейные отношения, низкая самооценка, неуверенность в себе, чувство уязвимости, чувство пустоты или одиночества и т. д. Вот некоторые типичные методы. Манипулятор может создавать игровые ситуации, в которых жертва попадает в зависимость или изоляцию. Это постепенно стирает границы между игрой и реальностью, заставляя человека чувствовать, что он что-то «должен» манипулятору и в жизни. Злоумышленник может внезапно менять правила игры или поведение своего персонажа, а затем отрицать это, заставляя игрока сомневаться в собственном восприятии реальности, запутывая его. Из-за нестабильной самооценки такие люди легче поддаются внушению, что всё не так, как им казалось и они «всё неправильно поняли». Манипуляторы используют страх отвержения, угрожая прекратить игру, если жертва не выполнит их требования (например, финансовые или сексуальные). Злоумышленник может убеждать игрока, что «только они вдвоем по-настоящему понимают друг друга», настраивая его против других людей или друзей в реальности. Иногда злоумышленник окружает игрока чрезмерным вниманием и восхищением. Это эксплуатирует глубокий страх покинутости и жажду принятия, создавая быструю и сильную эмоциональную привязанность. Что делать? Мы начали с того, что у всех людей есть сформировавшаяся система правил поведения и механизм классификации входящей информации по разным критериям, в том числе по критерию приемлемости (верю/не верю, согласен/не согласен). Следовательно, единственный и правильный путь — это выработать в себе контроль над этими 3-мя механизмами. Как бы есть внешний наблюдатель (супервизор), который всегда над любыми жизненными ситуациями, постоянно задаёт отрезвляющие вопросы и обладает конечным словом. «Почему ты собираешься это сделать прямо сейчас, что за спешка?» Распространенность эмоционально неустойчивого расстройства личности (ЭНРЛ/ПРЛ) в общей популяции составляет примерно 1,6% — 5,9%. Добавим как минимум ещё столько же в близком состоянии и получим пугающие цифры. Каждый десятый человек уязвим и находится в зоне риска телефонных манипуляторов. http://aftershock.news/?q=node/1604167
© Copyright: Душа Шахини 1, 2026.
Другие статьи в литературном дневнике:
|