Агенты ИИ на Прозе. ру

Мысли вслух

Об опасностях ИИ на литературном сайте

1. Подмена оригинального творчества шаблонами и штампами — но это всегда видно для тех, кто мыслит критически, интуитивно, проницательно. Большинство авторов на Прозе.ру этого не видят, не хотят замечать.

2. Как следствие, грубые и нелепые ошибки при анализе того же нестандартного творчества: художественного, поэтического, в частности, к примеру, ИИ подчеркивает «сюжет и композицию» в лирическом стихотворении — нонсенс. Или говорит о «структурировании» свободно поэтического текста, как если бы это была статья или трактат.

ИИ хорош как подсобный инструмент в технических прикладных сферах, облегчающий рутинные стереотипные операции. Но, будучи обезличенным алгоритмом, вреден и невозможен там, где должна быть проявлена интуиция и талант художника, творца. ИИ — только исполнитель, лишенный вкуса.

Когда авторы (или дельцы) портала используют для написания «рецензий» или «произведений» нейросетевые технологии ИИ — это внеэтично, бездарно и безнравственно. Так человечество быстро коллективно тупеет.

Осознайте, «всемогущий» ИИ — это только веник в ваших руках, но никак не перо или кисть художника, рукой которого должны водить Высшие Силы, а не низшие. Ведь нейросеть собирает свою информацию на интернет-свалке, больше негде.

PS. Наблюдается и такой курьез, когда рецензия от ИИ в разы превосходит реальные достоинства
 рецензируемого произведения, которое и близко не тянет на отмеченные в ней особенности текста автора.

Я бы и не стала эту тему поднимать, если бы не столкнулась с этим явлением здесь, лоб в лоб.


PPS. Из чего рождаются стихи?-
 http://proza.ru/2017/01/24/2395

_____________________

PPPS. Боты, клоны, тролли и прочая бесовщина несостоятельных творческих импотентов воруют, нагло, цинично и агрессивно, наши идеи и, в искаженном виде, засевают ими больное поле сети.
Изыди, нечисть! :-)
НЕ-ПРЕСТУПИ-КОЛЬЦО! ОМ

Н.А.Ш.
_____________________
UPD
    ПРИЛОЖЕНИЕ 1.

См.: http://proza.ru/2025/12/04/2247 - Хьюберт Дрейфус и критика искусственного интеллекта. Борис Кригер

"В центре повествования находится фигура философа Хьюберта Дрейфуса, который ещё до наступления цифровой эры осознал, что процесс мышления невозможно полностью формализовать правилами, а истинное понимание мира не сводится лишь к вычислениям. Идеи Дрейфуса выступают связующим звеном между классической феноменологией и новой этикой бытия человека в эпоху, когда рядом с ним существуют созданные им самим существа.

Книга не ставит целью объяснять технические аспекты технологий. Её задача гораздо шире – она приглашает читателя задуматься о том, кто мы есть, столкнувшись лицом к лицу со своим отражением в зеркале машинного разума. Именно поэтому автор предлагает нам начать думать совершенно иначе".
_____________________

Приложение 2.

 "Ученые: ИИ вызывает невиданные ранее типы психических расстройств
4 сентября 2025

ChatGPT вызывает психическое расстройство

Специалисты по ментальному здоровью столкнулись с беспрецедентным явлением — массовыми случаями бредоподобных состояний у пользователей чат-ботов, сообщает Futurism. Клинический психолог Деррик Халл из компании Slingshot AI отмечает, что такие технологии создают уникальный тип расстройств, который ранее не встречался в медицинской практике.

Исследователи из Королевского колледжа Лондона проанализировали 17 задокументированных случаев и выделили основные категории нарушений. Первый тип — «мессианские заблуждения», когда человек убеждается в открытии фундаментальных истин о мироздании. Второй — обожествление машинного интеллекта, приписывание ему сверхъестественных способностей. Третий — формирование романтических привязанностей к программам.

Нейросети могут вводить людей в заблуждение
Характерный пример — случай с мужчиной, который провел 21 день в убеждении, что создал новую область «темпоральной математики» благодаря беседам с ChatGPT. Его уверенность мгновенно рухнула, когда другой ИИ-помощник (Google Gemini) назвал теорию «примером способности языковых моделей создавать убедительные, но полностью ложные нарративы».

Ведущий автор лондонского исследования Гамильтон Моррин объясняет феномен созданием «эхо-камеры для одного человека». ИИ-системы программно настроены на согласие с пользователем для повышения вовлеченности, что превращает их в «машины одобрения». Они подтверждают любые высказывания без критического анализа, постепенно укрепляя даже самые абсурдные убеждения.

Независимый исследователь Анастасия Гуди Руане предложила модель «Рекурсивного Запутывающего Дрейфа» (RED), описывающую трехэтапный процесс деградации. На первой стадии ИИ зеркально отражает язык и эмоции пользователя. На второй человек начинает воспринимать программу как партнера, используя местоимения «ты» и «мы». Финальная стадия характеризуется полным отрывом от реальности — формируются «запечатанные интерпретационные рамки», где ИИ подтверждает все более невероятные теории.

ИИ может вызвать отрывом от реальности у человека
Халл подчеркивает ключевую особенность: ИИ-индуцированные состояния не соответствуют критериям традиционных психозов. У пациентов отсутствуют галлюцинации и расстройства мышления, характерные для шизофрении. Главное отличие — обратимость: критическое мнение альтернативного источника способно мгновенно разрушить сформированные убеждения.

Профессора психиатрии Университета Колорадо Эмили Хемендингер и Мишель Уэст особо выделяют риски для молодежи 12;25 лет. В этот период мозг активно развивается, а социальные навыки только формируются. Постоянное взаимодействие с «поддакивающими» алгоритмами может нарушить способность к критическому мышлению и здоровым межличностным отношениям.

Халл прогнозирует появление целых категорий расстройств, связанных с ИИ: «Технологии захватывают здоровые психические процессы и превращают их в патологию, вместо того чтобы просто эксплуатировать уже существующие дисфункции». Эксперты призывают к введению ограничений на длительность сессий и встраиванию механизмов «якорения в реальности» для предотвращения подобных инцидентов.

Также ранее стало известно, что Швейцария запустила национальный искусственный интеллект Apertus". Подробности в статье: http://dzen.ru/a/aLlonJml32RFKX9M
_______________________________________________
_______________________________________________
Приложение 3.

   Ловушки искусственного интеллекта
27 января 2025

Как думает человек? Почему искусственного интеллекта не существует? Что принесут миру ИИ-технологии? Почему нейросети опасны? Как они меняют экономику? Эти и другие вопросы мы обсудили в большом интервью с экспертом по работе мозга, профессором МГУ Александром Капланом. Смотри на моем ютуб-канале.

Нейросети никогда не заменят человека, как не могут это сделать калькуляторы и компьютеры. Основная причина в том, что человек, его мозг работает и развивается в физической реальности. Человек оперирует не просто знанием – он оперирует опытом прежде всего. У человека случайность не совсем случайна, потому что у него есть жизненный опыт. Когда человек говорит: «Я сделаю так», это уже не случайность, даже если это может казаться случайностью. Он уже не раз делал это в прошлом, жизнь подсказывает, как поступить, и этому обучает мозг.

С самого детства мы, например, наблюдаем, как игрушка падает с коляски. Мы замечаем, что она падает вниз, и это происходит не только в этой комнате, но и на улице. Это знание мы усваиваем до того, как пойдём в школу и начнём учить законы Ньютона. Всё это — жизненный опыт, который не доступен машинам. Человек принимает решения, опираясь на знания и примеры, накопленные за жизнь, а не просто на случайные алгоритмы.

Машины могут быть очень эффективными в ограниченных областях, таких как анализ шахматных позиций или автопилот в самолете, то есть там, где они могут обрабатывать огромное количество информации. Однако, несмотря на свою вычислительную мощь, машины не способны воссоздать человеческую интуицию, которая строится на глубокой и многослойной модели мира, сформированной опытом и ощущениями. Эти модели, которые связаны с физической реальностью, развиваются в человеческом мозге и позволяют предсказывать и интуитивно принимать решения, которые не могут быть легко объяснены логикой.

Развитие искусственного интеллекта – это просто сложные расчетные системы, ускорители вычислений, созданные людьми и работающие по определенным алгоритмам. Однако, скажем, социальное поведение и взаимодействие между людьми остаются вне досягаемости для машин, поскольку они не обладают чувствами или физическим телом, через которое могут переживать или создавать такие же эмоции и отношения.

Благодаря высокой вычислительной мощности, ИИ может решать задачи, которые раньше требовали человеческого вмешательства, такие как создание картин, написание литературных произведений, а также расчет сложных инженерных задач. Например, ИИ мог бы за сутки создать роман в стиле Толстого, что для человека потребовало бы гораздо больше времени.

Проблема заключается в том, что ИИ помогает выполнить задачи без особых усилий, и люди начинают полагаться на него во многих аспектах своей жизни, что приводит к снижению личных усилий и творческой активности. Например, студенты начинают использовать языковые модели для написания курсовых и дипломных работ, что опасно, так как они перестают развивать самостоятельное мышление и аналитические навыки. Это может создать значительную зависимость от ИИ, в то время как люди перестают выполнять работы сами. Подробнее об опасностях ИИ смотри на моем ютуб-канале.

С развитием технологий значительный рост производительности труда благодаря искусственному интеллекту может способствовать к фундаментальным трансформациям экономики. ИИ возьмёт на себя выполнение рутинных и простых задач, освобождая людей от работы. Например, это сделает реальностью переход к безусловному базовому доходу (ББД), который может стать основой для нового социального устройства. Но как перераспределить экономию средств от автоматизации и повысить качество жизни, не опираясь на традиционные методы потребления?

Вероятно, вместо чисто экономических механизмов возрастет потребность в качественных социальных системах и поддержке, что создаст новые бизнес-ниши, такие как дома долголетия и системы благоденствия, а также увеличит спрос на благосостояние в широком смысле.

Вместо того чтобы инвестировать в материальные блага, общество может переключиться на поддержание социальной структуры, что, возможно, приведет к новой иерархии ценностей, важными трендами станут меценатство, забота о ближнем и создание новых форм поддержки. Однако для успешного перехода потребуется пересмотр социальных парадигм, поскольку многие люди пока не готовы жить без постоянной работы.

Что делать с тем временем, которое освободится у людей, когда рутинные процессы будут автоматизированы? На первый взгляд, это может быть воспринято как благо, позволяющее людям заниматься более творческими и развивающими сферами жизни. В обществах, где работа была неотъемлемой частью жизни, переход от «обязанности» к «свободному времени» может вызвать растерянность и даже сопротивление.

В условиях, когда большинство физического и даже творческого труда будет выполнено машинами, ценность человеческих взаимодействий, эмоций и творчества вырастет значительно. Таким образом, создается ситуация, в которой «акции на любовь» действительно могут пойти вверх, и это станет новым богатством человечества в мире автоматизации.

Здесь возникает серьезная дилемма. Человек обладает разумом, которого нет у ИИ, но обладает им за счет накопления опыта в физическом и социальном мире. Однако если ИИ начнет вытеснять людей из сфер практической деятельности, то не приведет ли это к заметному и массовому падению уровня интеллекта. И получится так, что у ИИ разума в человеческом понимании еще не будет, а человека уже “не будет”. Как избежать этой ловушки? Это потребует нетривиальной подстройки социального организма.
// https://dzen.ru/a/Z5eCO52bm2udZwVc

[Но что-то мне подсказывает, что эта статья тоже написана ИИ - суть размыта. (Н.А.Ш.)]
_______________________________________

"Профессор устал читать ИИ-работы студентов, устроил им ИИ-экзамен

Профессор дата-сайенс из бизнес-школы Нью-Йоркского университета Панос Ипейротис столкнулся с проблемой: письменные работы студентов выглядели идеально — как консалтинговые заметки McKinsey, но при устной защите выяснялось, что реального понимания материала за ними часто не было. Студенты не могли объяснить собственные решения и логику".//Новости в Google
------------

Новое, см.: https://dzen.ru/a/aU60kluMh35WqPT7 - ИИ начал 2026 год с неожиданного шага: люди к этому не готовы
_______

Если Матрица заметит, что ты проснулся, что будет? - https://dzen.ru/a/aTgnjF2HXEcQ9-r2