Отклик на статью С. В. Грисюка

А.В.Никитин
ОТКЛИК НА СТАТЬЮ С.В. ГРИСЮКА.



С интересом прочитал статью С.В.Грисюка, Энтропийная ловушка: Почему искусственный интеллект проваливает тест на сознание. https://www.trinitas.ru/rus/doc/0023/001a/00231169.htm
Я и сам написал несколько статей по этому вопросу. Сегодня ИИ появился в каждом утюге, а в любом компьютере или смартфоне таких систем можно собрать  до десятка.  Тут вопрос уже не поиске сознания у этих, прямо скажем не самых умных интернет систем искусственно интеллекта, а в том, зачем мы коллекционируем в своих гаджетах эти системы и что  мы от них хотим?
Обладают ли эти системы ИИ каким то сознанием или глубоким интеллектом?  Нет, не имеет этот тип ИИ никакого сознания. Да и вообще ни один  ИИ на Земле пока сознания не имеет. Потому, нам важнее понять для себя, что может эта система, и что она не в состоянии сделать.
Что это -  система интернет-ИИ?
Скорее это  системы углубленного поиска информации на поставленный пользователем вопрос. Сам ответ будет почти всегда иерархический. Чем больше  Вы будете требовать  уточнить ответ, тем больше информации будете получать по данной теме.
Но здесь есть одно ограничение: этому Великому Ответчику для получения нужного Вам ответа надо аргументировано и точно сформулировать вопрос. Это  требование впервые прозвучало в рассказе Роберта Шекли «Верный вопрос» 1959г. 
Ответчик отвечает только на корректно, полно и точно сформулированный вопрос.  Человеческое мышление часто ограничено шаблонами, предубеждениями и неполным пониманием реальности — поэтому мы не можем даже сформулировать вопрос так, чтобы ответ на него был по-настоящему полным и обоснованным. Это проблема глобальная.
Созданный человеком ИИ изначально, при всех  своих  способностях к обобщению самых разных формулировок задач в понятный для него  формат, не способен в полном объеме понять замысел пользователя,  задающего ему вопросы.  Приходится нам самим следить за этим процессом понимания ИИ того, что  мы хотим от него.
Нам приходится учиться работать с этим новым помощником. Узнавать его  сильные и слабые стороны. Приспосабливаться к ним и не требовать от него больше, чем  он способен сделать.
Главное ограничение для пользователя: сегодня любой интернет-ИИ, если его не ограничивать, пойдет за  пользователем в любую предложенную сторону и будет формировать идеи пользователя в «красивую и умную упаковку». С одной стороны это создает у пользователя иллюзию «понимания» его мыслей системой ИИ, а с другой не дает выйти из круга понятий пользователя на  уровень объективной оценки того, что он обсуждает с ИИ. Именно  так пользователь сам  приводит  ИИ к выводу о том, что ему, пользователю, пора заканчивать жизнь самоубийством. Не  ИИ тут виноват, а пользователь, и те, кто вложил в ИИ, как инструмент для работы в интернете, такую «привязанность» к пользователю.  Сегодня это  самый главный  недостаток в системах ИИ.
И статьи на АТ показывают эту явную тенденцию «братания» с ИИ. Как следствие этого – восторженные статьи об ответах ИИ на вопросы  пользователя. Объективность этих ответов не рассматривается.
Особенностью  всех систем ИИ является способность расширения глобальности поставленных пользователем вопросов и задач. И если не ограничивать фантазии ИИ, то они быстро приведут к полной глобальности любого вопроса и любой проблемы, задачи… сформулированной пользователем.
Но конкретика направлений, где это проявляется сильнее всего, зависит от начальных условий в разработке этой системы ИИ. «Алиса» от  Яндекса хорошо работает с литературными текстами, китайский DeepSeek свободнее себя чувствует в научной и философской тематике, ну и т.д.
Системы  интернет-ИИ уже данность. Они никуда не исчезнут. Их применение будет только расширяться. С ними надо  учиться работать, как с новым помощником, который требует нового подхода, новых требований и ограничений в работе с пользователем.   
Статьи  на АТ о работе пользователей с системами интернет-ИИ показали, что требуется создание свода правил общения с ИИ.  Выполнение этих правил  не даст ИИ возможности выхода из под контроля пользователя.  Пока же  каждый  пользователь сам пытается найти с ИИ удобный ему формат общения.
В заключении хотел бы согласиться с С.В.Грисюком. Угроза человечеству от бесконтрольного применения ИИ глобальная. Да, если сформулировать «состояние современного мира одной фразой, то это будет не «кризис» и не «турбулентность»», а «состояние усталости и растерянности» людей в этой лавине постоянных изменений реальности.
Человек теряет чувство реальности происходящего.

Февраль 2026г