Диалектическая логика, ИИ и квалиа

Осознанная работа с бесконечностями — это ключевое свойство диалектической логики. Которая является, если хотите, продолжением "квалиа". Что позволяет людям ставить цели (1), иметь мотивации (2) и учитывать бесконечное количество неявных "контекстных" целей при решении любой конкретной задачи (3). Ничего из этого ИИ (даже AGI) делать никогда (!) не сможет.

"Любой сколько угодно умный разум может преследовать любые сколько угодно тупые цели". — из статьи про ИИ https://vas3k.blog/blog/ai_alignment/

В этой статье есть хорошая глава —
Проблема постановки целей для ИИ
основное понятие в ней:  alignment —
как пишет автор:
что-то типа «проблема соответствия целей AI с целями человека»,
а я скажу:
что-то типа «проблема соответствия целей, которые вырабатывает AI для решения какой-либо конкретной задачи, целям, содержащимся во всех социально-морально-культурных контекстах, сопровождающих решение этой задачи, которые человек удерживает интуитивно».

Учитывая, что:
«целей, содержащихся во всех социально-морально-культурных контекстах выполняемой задачи» — бесконечное количество,
а нарушение каждой из них — «смертельно», т.е. абсолютно неприемлемо,
можно сделать вывод, что эта задача не будет решена никогда,
т.е. или придется смирится с тем, что ИИ будет периодически «сходить с ума», устраивая катастрофы и убивая людей — или не применять AGI (Artificial General Intelligence).

Устраивать катастрофы и прочее он будет, например, так (глава "С чего мы вообще решили, что ИИ будет нас уничтожать?"):
"...И вот буквально спустя минуту, когда создадим AGI с какой-нибудь абсолютно дурацкой целью типа «сажать клубнику», он доулучшает себя до «супер-интеллекта» (у него на это будет куча вычислительных ресурсов, в отличии от собак или людей), и планета Земля превратится в одну большую суперэффективную клубничную поляну, для борьбы с которой придётся уничтожить всю биосферу".

Подчеркну:

Осознанная работа с бесконечностями — это ключевое свойство сознания, работающего на основе диалектической логики. К диалектической логике человеческое сознание предрасположено имключительно по той причине, что его сердцевиной является "квалиа". Что позволяет "челам" — в отличие от "ботов"! — ставить цели (1), иметь мотивации (2), учитывать бесконечное количество неявных "контекстных" целей при решении любой конкретной задачи (3). Ничего из этих 3 вещей AGI ("бот" 80-го уровня) сделать никогда (!!!) не сможет.


Александр Клейн
15 августа 2023 г.


Проект Витгенштейн. Глава 16. Алайнмент, ИИ
http://proza.ru/2023/08/18/888

Челы и боты. Эволюция и Цель, установленная Богом
http://proza.ru/2022/04/02/844