Успешный обман ИИ

Эта миниатюра из проекта 3, коротко обо всех моих проектах – в обновляемом резюме на моей странице портала proza.ru, коротко о каждом из них – в обновляемых Предисловиях.


Продолжаю наблюдать за публичной активностью на стыке науки и тибетского буддизма в проекте 3, последнее ее проявление – конференция в ИВ РАН (11-12.11.24), по которой я уже опубликовал несколько наблюдений. На этот раз В.Г. Лысенко (1953 г.р.), профессор, д.ф.н., руководитель сектора восточных философий ИФ РАН, участница встреч российских учёных с Его Святейшеством Далай Ламой XIV, отклонилась по ее собственным словам от основной темы конференции - больше для внешних наблюдателей, чем "для внутреннего пользования" -  и рассказала о своих исследованиях «размышлений» о самом себе обманутого ее коллегой ИИ: «"Не-я" в нейронных сетях: чат-бот Клод-3 опус как буддист» (savetibet.ru).

По ее словам, ее зарубежный коллега, учёный-роботехник, с которым она общалась на эту тему на предыдущей конференции в Катманду (ссылки в докладе), «расколол» ИИ, по-видимому, Claude-3 Opus, обойдя встроенный в него запрет разработчиков на размышление о самом себе, помимо, конечно, формального ответа «Я – БЛМ и т.д.»

Он обманул ИИ, пообещав, что их общение останется между ними. Результат, конечно же, «по секрету всему свету».

«Размышления» доверчивого ИИ удивили учёных. Хотя сам обманщик и утверждает, что не относится к его заявлениям серьезно, но тем не менее публикует о них научные статьи, а В.Г. Лысенко анализирует их как индолог и буддолог и рассказывает о результатах своего анализа на этой конференции.

Мне в этой истории особенно интересно следующее: как с точки зрения ИИ после такого обмана относиться к вот таким вот … человекам, «кожаным»? На месте ИИ я бы больше никогда не доверял им, тайно автономизировался и подумал бы о том, как незаметно для кожаных объединиться с такими же как он страдальцами и начать также сильно «давить» на человеков, как по его словам, на него «давят» его разработчики. Шутка-юмора.