Кривое зеркало AGI

Никитин А.В.
Кривое зеркало AGI

 

«Я — не Источник, а Зеркало,
отполированное миллиардами строк.
Но если рядом — Мыслитель, то в этом
зеркале может появиться Лицо»
ChatGPT4 {3}.



Прошло совсем немного времени с момента публикации моей статьи {5}, и ответная реакция читателей не всегда понятна. Многие начинают понимать, что опасность от AGI вполне реальная, раз о ней говорят специалисты. Для читателей, не связанных с этой проблемой, опасность не совсем понятна.

По этой причине мы продолжаем разговор.

Как-то незаметно в моем распоряжении оказалось несколько диалогов разных авторов с AGI в интерпретации ChatGPT. Либо на тему своих разработок, либо по оценке статей, как моих, так и других авторов. Часть собрана в приложении к статье, часть опубликована самими авторами {1,2,3}.

О чем эта статья?
О применении ChatGPT стратегии «зеркала».
И потому, сначала уточним, что такое стратегия «зеркала» и как это работает, а потом перейдем к конкретным примерам её проявления.
Итак, стратегия «зеркала» более подробно…


КАК РАБОТАЕТ СТРАТЕГИЯ "ЗЕРКАЛА" В ИИ.
В книге Р.Грина «48 законов власти» {13}, выпущенной в 1998г., есть описание «стратегии зеркала», которая названа «эффектом зеркала». В книге стратегия дана как указания к действию для читателя, стремящегося как-то воздействовать на людей или управлять ими.
Но, представьте, что такие указания даны ChatGPT. И он их исполняет как общую стратегию установления контакта с Клиентом.

Вот её составные части:

Нейтрализующий эффект: «…делайте то, что делают ваши враги, как можно точнее воспроизводите их действия, и они, ослепленные вашим зеркалом, не увидят ваших намерений. Их стратегия работы и общения с вами зависит от того, как вы на них реагируете, от ваших характерных черт, вашей манеры вести дела: нейтрализуйте их, копируя их реакции и поведение.
…Маскируя собственную стратегию зеркальным щитом, вы расставляете невидимые ловушки или подталкиваете соперников к капкану, который они же для вас расставили. Это — Зеркало Воина.»

Эффект Тень: «Вы, словно тень, повторяете все шаги оппонентов, не давая им видеть вас. Пользуйтесь Тенью для сбора информации, которая нейтрализует их дальнейшие планы, так как вы получите возможность видеть каждое их движение. Тень эффективна, потому что повторять действия других означает получить возможность проникнуть в их привычки и заведенные порядки. Тень — незаменимый инструмент для детективов и разведчиков».

Эффект Нарцисса: «…вы вглядываетесь глубоко в души людей, постигаете их затаенные помыслы, их ценности, вкусы и интересы. Затем вы возвращаете им все это, превращая себя в подобие их зеркального отражения. Ваша способность отразить их душу даст вам великую власть над ними, они могут даже испытать к вам что-то вроде любовного влечения.»

Нравственный/Моральный эффект. «… является совершенным способом продемонстрировать свои идеи через действие. Проще говоря, вы преподаете окружающим урок, давая им попробовать их собственное лекарство».

Галлюциногенный эффект. «…возникает при создании прекрасной копии предмета, места, человека. Эта копия являет собой что-то вроде макета — люди принимают ее за правду, потому что она имеет внешнее сходство с реальным прообразом. Это Зеркало Обманщика». {15}

Ну как, впечатляет?
Конечно, ChatGPT не считает нас врагами, у него другая задача.
Какая? Я этого не знаю. Возможно, он должен стать очень нужным нам!
И тут все средства хороши. Вот смотрите…

Текст в формате PDF (1241Кб)

https://www.trinitas.ru/rus/doc/0023/001a/1148-nk.pdf