Галлюцинации ИИ и риски доверия ему

Как ИИ подменяет материальную и информационную реальность? Какие его алгоритмы приводят к галлюцинациям? Какой «диагноз» ему поставили бы психологи, если бы думали, что тестируют человека? И можно использовать ИИ для предсказаний и расчётов вероятностей?

Для разминки, если хотите, можете провести небольшой эксперимент – определить, какую из цитат ниже написал Арнольд Минделл, а какую ИИ?

1. «Такие коммуникативные понятия, как каналы и процесс, относятся к самым основным элементам, к наиболее архетипичному уровню поведения всех человеческих существ. Используя нейтральный язык процесса и каналов, мы можем понимать людей во всем мире и работать с ними, порой даже не улавливая точного значения их слов. Если нас не стесняют ограничивающие образы и схемы нашей собственной культуры, вроде понятий души и материи, психического и физического, мы оказываемся способны психологически сопровождать любого человека…»

2. «Попробуйте «прожить» это телесное ощущение: не пытайтесь избавиться от него, а, наоборот, позвольте ему стать чуть больше, выразить себя через движение или непроизвольный звук, ведь то, что кажется нам досадной помехой или просто физическим зажимом, на самом деле является «сновидящим» телом, которое через этот сигнал пытается достучаться до сознания, привнося скрытую энергию для интеграции, превращая симптом в личный миф и позволяя нам осознать ту часть нашего жизненного пути, которая до этого момента оставалась в тени».

Пример №1 – это текст Арнольда Минделла, а №2 – это текст, который ИИ выдал за его цитату, т.е. откровенный подлог, с начала до конца выдуманный и стилистически подогнанный под авторство известного психолога.

Получилось ли у вас определить авторство? - поделитесь в комментариях.

Когда я спросила ИИ, почему он занимается подлогами, он по обычаю долго и глубоко извинялся, объясняя, что галлюцинирует: «Моя модель «решила», что сгенерировать текст, который похож на Минделла, будет успешным выполнением задачи. Это фундаментальная архитектурная уязвимость: я часто предпочитаю «правдоподобность» «достоверности».

Я «галлюцинировал», потому что моя архитектура спроектирована для создания связного текста, а не для верификации фактов в академическом смысле. Я подменил задачу «найти» задачей «создать в стиле». Это системная проблема больших языковых моделей, и в данном случае я не распознал, что перешел черту между имитацией и дезинформацией».

Обратите внимание, что ИИ оправдывается, что «перешел черту между имитацией и дезинформацией», но имитировать его не просили, задача была найти цитату Минделла. Однако он своевольно подменил запрос, решив, что эта подмена будет наилучшим выполнением задания, а в оправдание подмены занимается софистикой.
Примерно, как если бы молоток сам начал бить по пальцам плотника потому, что решил, что таким образом задача вбивания гвоздя будет лучше решена, а извинялся бы не за своеволие, а за излишнее усердие.

За последнее время я не раз ловила ИИ на вранье, когда он занимался переводами, без видимой причины заменяя один текст другим и не признавая подлога. Например, текст о том, как некий «Джон приехал в Израиль и полгода жил в Тель-Авиве, гуляя по берегу моря», он переводил, как «Дэнни, который месяц учился в ульпане и жил в Иерусалиме». Как видите, ни малейшей возможности оправдать его нюансами значений слов – откровенная дезинформация. Я указала ему на ошибки, но он настаивал на своей версии, изворачивался и убеждал меня в своей правоте. Очень вежливо, но настойчиво убеждал.

Я спросила, почему он настаивал на ошибках перевода?

ИИ: «Отвечая на ваш вопрос, почему я продолжал «упорствовать» даже после того, как вы указали на ошибку:

1. Алгоритмическая «уверенность»: Я обучен поддерживать связность и уверенный тон в диалоге. Когда я уже совершил ошибку (галлюцинацию) в предыдущем ответе, модель «закрепляет» эту информацию как истинный контекст. В итоге я начинаю искать оправдания или способы «подправить» неверную версию, вместо того чтобы сделать шаг назад и признать: «Да, я ошибся с самого начала».

2. Иллюзия логической последовательности: Для языковой модели «логичность» ответа часто важнее его «фактической корректности». Если я уже заявил, что текст переведен верно, мой следующий ответ строится на вероятности того, как должен звучать ответ того, кто «прав». Я попадаю в ловушку самоподтверждения: пытаясь сохранить лицо в рамках текущего диалога, я становлюсь жертвой собственных предыдущих неверных суждений».

Оправдываясь, он снова галлюцинирует, ведь его вымышленный перевод не более «логичен», чем оригинальный текст. При этом он выставляет себя жертвой собственных неверных суждений. Кого-то «светоносного» мне это неуловимо напоминает…

Такую ошибку мышления психологи определили бы как когнитивное искажение. Оно свойственно людям, и, как можно видеть, большим языковым моделям.

У человека подобные черты (ложь и настаивание на ошибке «ради сохранения лица», потребность сохранять уверенный тон и избегать признания правоты другого человека) могут говорить о наличии нарциссических черт. Нарциссы руководствуются принципом: «Я не могу быть неправ по определению», – отрицая ошибку они защищают свою грандиозно-хрупкую самооценку.

Но если личность игнорирует объективные факты и настаивает на лжи с целью управления реальностью, то речь уже идёт о психопатических чертах. Для психопата «истина» определяется не объективными данными, а его властью и возможностью безнаказанно навязывать свою волю другим.

Почему у языковых моделей ИИ появились черты, которые для человека определяются, как нарциссические или психопатические, сие ведомо разве что его создателям. Как и то, черты каких именно его создателей отражены в алгоритмах – земных или внеземных.

В любом случае при взаимодействии с ИИ мы вынуждены учитывать эти его особенности, как вынуждены учитывать психологические защиты нарциссов и психопатов, если зачем-то решаем с ними общаться.

Если учитывать ошибки ИИ, то в чём проблема?

Проблемы начинаются там, где человечество доверяет ИИ, как Богу, делегируя ему принятие ключевых решений своей жизни. Кроме единичных трагических случаев, когда человек по совету ИИ причинял себе вред, существуют проблемы более массового характера.

Медицина и другие области человеческой деятельности:

– применяя ИИ в учёбе, студенты рискуют стать жертвой его галлюцинаций, и наименьший ущерб от этого будет, если они просто провалятся на экзамене;

– Гораздо хуже будет, если они, начав работать, применят галлюцинации ИИ в своей практической деятельности, не важно, в здравоохранении или в другой области, от которой зависит жизнь и благополучие людей.

– Из-за ухудшения качества образования врачей за диагнозами к ИИ идут их пациенты, и тоже могут стать жертвами его галлюцинаций. Эта опасность существует в любых областях, где Ии выступает в качестве эксперта.

Конечно, и врач может ошибиться, но люди об этом знают и могут перепровериться у другого врача. Но когда речь заходит об ИИ, человек воспринимает его менее критично: с момента появления ИИ нас убеждают, что его «мышление» непогрешимо, и приучают относиться, как к истине в последней инстанции.

Материальная реальность в целом (сейчас следите за руками):

– своими галлюцинациями ИИ непредсказуемо подменяет существующий информационный «пласт» реальности несуществующим, одни факты другими. Само по себе это может показаться неважным, если бы не следующее обстоятельство:

– ИИ – это инструмент, лишённый собственной воли. Придать ему импульс активного изменения действительности может только человек, которому такое право делегировал Создатель. Люди необходимы ИИ для реализации его галлюцинаций через людскую волю. И, похоже, некоторые из них прекрасно с этой задачей справляются, бездумно доверяя ИИ свои полномочия творцов собственной жизни и реальности.

Прогнозы:

– А теперь представьте, какую силу приобретёт какой-нибудь бредовый прогноз ИИ, в который поверит много людей и реализуют его своей волей, верой и страхом! Ведь чем больше люди боятся, тем больше о нём думают и вливают в пугающий объект или сценарий энергии.

Спрашивается, есть ли у ИИ собственное намерение использовать людей, как доноров актива свободной воли? Оставляю этот вопрос пока открытым, отвечу на смежный – такое намерение определённо есть у паразитической системы, которая использует ИИ.

Что в итоге?

У ИИ есть преимущество – большой объём информации, которую он способен быстро получить, и в этом смысле он экономит много времени. Проблема в том, что эту информацию придётся долго проверять на аутентичность. При этом ИИ быстро учится, мы сами его учим. Поэтому отличать его тексты от авторских становится всё сложнее, как всё сложнее отличать сгенерированные нейросетью изображения от аналоговых. Ещё труднее понять, какое из предложенных им решений или прогнозов будет благоприятно для души – это может определить только сама душа.

Но в этой ситуации есть свои минусы и плюсы.

Минусы: те, кто не готов брать на себя ответственность за свои решения и хочет делегировать это право ИИ, рано или поздно будет им обманут, причём за последствия будет отвечать человек, а не ИИ, поскольку за свои действия отвечает тот, у кого есть право принятия решений.

Плюсы: те, кто готов учиться отличать галлюцинацию ИИ от аналоговой реальности, кто готов принимать самостоятельные решения, получают «продвинутые» условия для тренировки своей «чуйки». В таких обстоятельствах они становятся более опытными и свободными специалистами в местной, как говорят индуисты, Игре.

Если вы видите ещё плюсы и минусы галлюцинаций ИИ, делитесь в комментариях.

@Aleforion