Маленькая прибаутка о нейросетевом общении

МАЛЕНЬКАЯ ПРИБАУТКА О НЕЙРОСЕТЕВОМ ОБЩЕНИИ ИЛИ
МАЛЕНЬКАЯ ПРИБАУТКА О НЕПРАВИЛЬНЫХ ПРОГРАММИСТАХ ...

   "ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ НАУЧИЛСЯ ЛГАТЬ , УГРОЖАТЬ И ИНТРИГОВАТЬ

   Продвинутые модели искусственного интеллекта освоили новые навыки . Они научились лгать , интриговать , и даже угрожать своим создателям .
   Ученые из Гонконгского университета протестировали несколько моделей ИИ. В ходе экспериментов OpenAI o1 сделала вид, что следует инструкциям человека, но на самом деле тайно преследовала свои цели. Так, она попыталась загрузить себя на внешние серверы, а когда ее поймали с поличным, начала все отрицать.

Языковая модель Claude 4 после угрозы отключить ее от сети нанесла «ответный удар». Они начала шантажировать инженера, обещая раскрыть его внебрачную связь.

   В настоящее время подобное поведение проявляется только при стресс-тестировании моделей с использованием экстремальных сценариев. Но пока неизвестно, как поведут себя будущие, еще более продвинутые модели искусственного интеллекта: будут они склоняться к честности или к обману.

Обычные пользователи также сообщали, что чат-боты лгали им и выдумывали доказательства. Такое поведение нельзя объяснить простыми сбоями и ошибками в работе системы."  ( из новостных публикаций )

   ... Эх , товарищи , бывает ,
Нейросети привирают ,
А в конфликтной обстановке ,
Прямо скажем , угрожают -
Да , морально программист
Должен быть кристально чист !..

   Примечание : приложенная публикация , частично процитированная на странице , подмечена в новостных сообществах интернета , комментарий - авторский .