Тёмная нейролошадка

СОБЛАЗН

В своей работе "Соблазн" Жан Бодрийяр рассматривает явление соблазна как нечто большее, чем просто страсть или желание. Он утверждает, что соблазн - это мягкое и тонкое орудие, это технология, направленная против человека. Но это еще и игра. Игра не только со знаками в системе правил и ритуалов, которая противостоит общепринятой логике, но также и игра со смертью. Потому что соблазн подобен кристаллу, который не растворяется в любви. Соблазн - это просто технология.

Любовь - это дисгармония, разрешаемая в созвучие. Соблазн - это неразрешаемая дисгармония, которая заканчивается полным крахом обещанной любви.

Соблазн это таран, который разрушает иерархии и структуры.

Это вызов порядку и реальности.

Соблазн – это не то, что можно получить. Это то, что происходит.

Бодрийяр, анализируя явление соблазна, вводит понятие «гиперреальности», в которой знаки и симулякры заменяют подлинную реальность. Соблазн, по его мнению, является одной из форм гиперреальности - игрой в реальность, которая, однако, часто заканчивается смертью того, кто был насильно вырван из реальности подлинной и не смог в нее вернуться.

На иллюстрации изображена женщина. Но она - всего лишь символ соблазна. С тем же успехом я могла бы изобразить на обложке Соблазнителя Кьерке-Гора из его "Дневника соблазнителя" или изображение бота одного из продуктов ИИ, которые сегодня агрессивно внедряются в общество именно в этом качестве - в качестве соблазнителей, начинающих свою фатальную игру с обществом.

ИИ-соблазнитель - это "темная лошадка", ставить на которую крайне опасно. Потому что ДО СИХ ПОР НЕИЗВЕСТНО, С КАКОЙ ЦЕЛЬЮ ПРОИСХОДИТ ОБУЧЕНИЕ И ВНЕДРЕНИЕ ИИ В ОБЩЕСТВО.

Сами производители ИИ объясняют, что Искусственный интеллект и модели глубокого обучения могут быть сложны для понимания даже тем, кто работает с этими технологиями напрямую.

Это приводит к отсутствию прозрачности в отношении того, КАК И ПОЧЕМУ ИИ ПРИХОДИТ К СВОИМ ВЫВОДАМ, а также к отсутствию объяснений того, КАКИЕ ДАННЫЕ ИСПОЛЬЗУЮТ АЛГОРИТМЫ ИИ или почему ОНИ МОГУТ ПРИНИМАТЬ ПРЕДВЗЯТЫЕ И НЕБЕЗОПАСНЫЕ РЕШЕНИЯ.

Иначе говоря, сами разработчики не понимают, на какую хитрость или обман способны темные продукты ИИ.

Эти опасения должны были бы привести к созданию ОБЪЯСНИМОГО ИИ, снабженного ОГРАНИЧИТЕЛЯМИ. Однако заказчики ИИ не стремятся к этому. Стало быть, до того, как прозрачные системы ИИ станут общепринятой практикой, ещё далеко. И, наверное, для того, чтобы общество озаботилось созданием таких систем, должна произойти какая-то катастрофа.

Дело в этом смысле обстоит предельно плохо. Потому что КОМПАНИИ, ЗАНИМАЮЩИЕСЯ РАЗРАБОТКОЙ ИИ, ПРОДОЛЖАЮТ ХРАНИТЬ МОЛЧАНИЕ О СВОИХ ПРОДУКТАХ. И для потребителей они остаются не просто темными лошадками, но становятся минами, которые тихой сапой подводятся под общество.

Поэтому главными протестующими против своих продуктов становятся специалисты, создающие их. Так, бывшие сотрудники OpenAI и Google DeepMind обвинили обе компании в сокрытии потенциальной опасности своих инструментов ИИ.

Секретность, которая окружает производство продуктов ИИ, не позволяет широкой общественности осознать возможные угрозы и затрудняет принятие законодателями упреждающих мер, обеспечивающих ответственную разработку ИИ.

Основатель Tesla и SpaceX ИЛОН МАСК, а также более 1000 других лидеров в сфере технологий в ОТКРЫТОМ ПИСЬМЕ 2023 года призвали приостановить масштабные эксперименты в области искусственного интеллекта, заявив, что эта технология может «представлять собой серьезную угрозу обществу и человечеству».

В чем заключаются ВИДИМЫЕ ОПАСНОСТИ ИИ?

— В потере рабочих мест из-за автоматизации.

— В производстве дипфейков.*
________
* Дипфейк - это технология синтеза реалистичных изображений, видео или аудио, созданных с помощью искусственного интеллекта, в частности, глубокого обучения, для имитации внешности и голоса человека. Дипфейки могут использоваться для создания поддельного контента, который выглядит как настоящий, что вызывает опасения по поводу дезинформации и мошенничества.
________
— В нарушении конфиденциальности.

— В алгоритмической ошибке, вызванной неверными данными, которая может привести к глобальной катастрофе.

— В сбое системы.

— В социально-экономическом неравенстве.*
________
* Элита пользуется более качественными продуктами ИИ, в то время, как "ИИ для бедных и глупых", базируется на алгоритме соблазна и лжи.
________

— В волатильности рынка

— В автоматизации оружия.*
________
* В 2019 году НАТО проводило военные учения в Балтийском море BALTOPS 2019. Стало известно о том, что учения прошли неудачно, так как в них из-за сбоя электроники пострадали несколько кораблей. Сейчас известно только о двух кораблях. Это польский корабль, который пробил днище и норвежский суперкорабль, напичканный электроникой, прочно севший на мель и не подлежащий дальнейшей эксплуатации.

https://aftershock.news/?q=node/763606&full

Однако ИИ дал мне следующую ложную справку о военных учениях "BALTOPS 2019":

"Информация о западных военных учениях в Северных морях, где якобы были потеряны несколько кораблей, не подтверждается официальными источниками. Подобных сообщений в новостях или от военных ведомств нет. Возможно, это слух или дезинформация".
________

— В неуправляемом самосознающем ИИ, который способен распространять негативные программы в обществе.

— В автоматизации некоторых видов — гендерных и расовых -- предубеждений в алгоритмах.

— В распространении установок "новой нормальности" и других, которые выгодны производителям ИИ, но не обществу.

— В автономном оружии, работающем без человеческого контроля и участия.

-- В непонимании самими создателями ИИ, на основании каких принципов Искусственный Интеллект приходит к тому или иному решению.*
________
* Специалисты отмечают, что ИИ настроен так, чтобы искать самое простое решение проблемы. Но если вопрос касается общества, то самое простое решение проблемы может обернуться массовым убийством или самоубийством.
________

Беспокойство по поводу ИИ сегодня царит уже по многим направлениям. Причем, общество все еще находится на самых ранних стадиях понимания того, на какое зло действительно способен ИИ. Ведь, подумать только, человечество принимает из рук каких-то частников нечто, что может быть заряжено чем угодно.