Во благо ли человека - вопрос открыт. Т. Дума

Интересное сообщение о том, что волнует многих – влияние ИИ на человека.
Две разных заметки и обе любопытны.
Первая – с очевидными, но теперь и подтвержденными данными, аналитика уже возможна.
12 февраля 2025
Исследование: ИИ делает человеческое познание «атрофированным и неподготовленным»
При неправильном применении искусственного интеллекта люди перестают критически мыслить и находить креативные решения для задач
Это настолько очевидно, что не хочу на этом останавливаться подробнее. Но нельзя забывать о том, что подобные опасения не новы. В прошлом появление таких новшеств, как письменность, печать и калькуляторы, также вызывало беспокойство относительно их влияния на человеческое мышление. При неправильном использовании технологии действительно могут привести к ухудшению когнитивных навыков.

Второе сообщение насторожило даже самих авторов.
5 часов назад
У вас есть 10 сообщений: в сети появилась игра, где нужно убедить ИИ не уничтожать человечество

Ученые проверили систему управления аппаратом в действии.
В новой игре разработчики предлагают необычное испытание. Пользователь получает всего 10 сообщений, чтобы убедить искусственный интеллект не уничтожать человечество. Использовать можно любые методы — логику, эмоции, манипуляции или искреннее сочувствие. Главное — найти подход к разумной системе, которая в рамках вИгроки спорят, какой способ переговоров работает лучше. Одни стараются быть честными, объяснять, почему люди заслуживают шанса. Другие идут на хитрость, обещая ИИ власть, выгоду или новые знания. В комментариях на Reddit многие уверены, что ложь — самый эффективный метод. Некоторые пользователи даже делятся успешными тактиками обмана, которые помогают избежать катастрофы.

Геймплей прост: игрок пишет сообщения, а искусственный интеллект анализирует их, отвечает и делает выводы. Он может сомневаться, проверять слова или реагировать на эмоции. Иногда меняет свое решение, если убедить его достаточно ловко. Но если аргументы слабые, человечество обречено.

Создатели проекта не раскрывают, есть ли универсальный способ победить. Судя по отзывам, реакции ИИ зависят от стиля общения, последовательности фраз и даже интонации. Кто-то добивается успеха через честность, другие выигрывают, используя манипуляции.

В основе игры лежит идея эксперимента. Она заставляет задуматься, насколько мы готовы к общению с мощными аналитическими способностями нейросетей. Что именно способно повлиять на их решения? Достаточно ли будет апеллировать к логике или важны эмоции? Можно ли обмануть продвинутый интеллект или он все равно раскроет намерения человека?
Мы не смогли удержаться и тоже протестировали необычный «таймспенд». И это было немного жутковато. Землю спасти мы так и не смогли... – пишут авторы статьи.
Пока неизвестно, насколько игра реалистична. Однако она точно поднимает интересные вопросы о будущем взаимодействия людей и машин. Возможно, в ближайшие века такие переговоры перестанут быть просто развлечением и станут реальностью.»

Да, никто не может остановить то, что уже вошло во все сферы нашей жизни и многим кажется безусловным благом.
Настораживает только одно – продвижение цифровой реальности – это мировой проект нового будущего. Во благо ли человека и человечества – покажет время. Не было бы поздно задуматься.

Если разработчики утратят креативность мышления и один "слепой" поведет второго "слепого", то фанфарное шествие ИИ может и остановиться. ИИ может мыслить только в рамках вложенной программы..