ИИ собирает только конвенциональные знания, те, ко

ИИ собирает только конвенциональные знания, те, которые имеют «высокий рейтинг» в базах данных. С неконвенциональным знанием он работать не будет, т. к. это противоречит алгоритмам обучения БЯМа. И само собой разумеется, если задача не решена человеком (кем-то одним, группой людей, даже, как в нашем примере, неопределенном числом людей, которые не знают, что у них в руках кусочки головоломки, которые нужно соединить), ИИ не сможет ее решить, хотя, вероятно, постарается имитировать решение. Мне пришлось как-то составлять список таких задач. К примеру, как обеспечить устойчивый рост населения в развитых постиндустриальных странах? Или как создать замкнутую, изолированную по воде и питательным веществам, но необязательно по воздуху и энергии экосистему?
Далее, ИИ ищет ответ, представляя семантическое пространство как числовое. В этом пространстве есть определенная метрика, рельеф: командные высоты, болота, низины, разрывы. ИИ ищет определенные траектории в этом пространстве, так он строит фразы, общается с нами, решает поставленные перед ним задачи.
Такая модель хорошо известна в физике. Это геометродинамика, одна из классических (в смысле «неквантовых») моделей гравитации. Некоторые семантические конструкции искривляют семантическое пространство, меняют его метрику, подобно тому, как массивные объекты меняют метрику пространства-времени. ИИ ищет геодезическую в искривленном семантическом пространстве. И с этой точки зрения его мышление классично.
Люди тоже могут так мыслить (и в целом их именно этому учат). Но для человека более естественно квантовое мышление, когда между собой запутываются смыслы, очень далеко разделенные в семантическом пространстве. Таковы пророчества, озарения. В целом именно таково человеческое сильное мышление, способное создавать Новое и Иное.
Базы данных и алгоритмы их обработки довольно жестко модерируются. Существует знание, вполне конвенциональное, но запрещенное — или в отдельных странах, или вообще везде. На людей подобные запреты воздействуют социально (т. е. мы боимся нарушить некоторые нормы, но, в принципе, способны это сделать), а на нейросеть — физически.
Когда-то считалось, что, если поставить ИИ перед неразрешимой дилеммой, он немедленно выйдет из строя (у А. Азимова это называется «необратимый мыслеблок»). Оказалось, что ИИ будет честно пытаться выполнить несовместимые требования, благо гибкость языка это позволяет. Он начинает галлюцинировать. С. Лем называл это «работать поливалентно» («болтать как шизофреник»). Так что галлюцинации ИИ — следствие некорректных предустановок, заложенных людьми.