К методологии прорыва в развитии Искусственного Ин

В настоящее время в разработках по ИИ широко применяется подход Нейронных Сетей, которые реализуются на компьютерах.  В значительной степени он использует идеи Бионики – изучение коры мозга человека (неокортекса) и перенос принципов её работы на ИИ. Этот подход уже позволяет получить впечатляющие результаты в ряде конкретных областей деятельности, которые традиционно считаются интеллектуальными для человека: настольные игры, распознавание зрительных и слуховых образов, синтез речи, голосовые помощники, машинный перевод на другой язык …
Однако для этого подхода уже просматриваются его ограничения. Возникают вопросы о возможных направлениях прорыва на более высокие качественные уровни.
Я предлагаю гипотезу возможного ответа на эти вопросы.  Она основана на некоторых общефилософских соображениях о построениях иерархических систем стратифицированных моделей психики, сознания и интеллекта людей.
Для более продуктивного использования здесь методов Бионики нужно распространить их с коры на весь мозг, на организм, на биосферу, и главное – на Культуру.
Многие,  (но не все) задачи ИИ решаются различными живыми организмами, в том числе теми, которые не имеют неокортекса (осьминоги, птицы …). К классу таких задач можно отнести целенаправленное управление движением собственного тела в сложной и изменяющейся внешней среде. Для ИИ – «беспилотники», роботы  и т.п. 
Наоборот,  к чисто «человеческим» можно отнести задачи работы с абстрактной символьной информацией, как в шахматах, в математике, в формальных и естественных языках, и т.п. Для ИИ – это настольные игры, распознавание зрительных и слуховых образов, синтез речи, голосовые помощники, машинный перевод на другой язык … (то есть все основные области успехов ИИ).
Для успешного решения разных классов задач люди используют разные классы моделей. Многие классы являются врождёнными, а многие другие – подсознательными.  Эти классы моделей не являются «объяснимыми», то есть сознание человека не может объяснить сознанию другого человека, как эти модели работают и как получаются результаты их работы.  Сюда относятся все безусловные (врождённые) и условные рефлексы людей и животных. 
Поэтому для  воспроизводства ИИ работы таких моделей бессознательного поведения (например, для управления движением)  представляется более перспективным не сосредотачиваться только на изучении коры, и даже человека, а изучать инвариантные принципы и механизмы работы с подобными задачами у всех многоклеточных.

Для класса задач, характерных для работы сознания и интеллекта человека (работа с символами и знаками), представляется более перспективным сосредоточиться на моделировании людей. Но не только коры или отдельных личностей, а также и их групп.
Известно, что «маугли» не обладают в полной мере сознанием и интеллектом обычного человека. Это объясняется тем, что образование человека в культурной среде является необходимым условием формирования его сознания и интеллекта. 
Сознание личности как её система моделей формируется частично путём заимствования готовых моделей у других людей. В этом состоит суть процесса образования личности и её социализации.
При этом можно выделить процессы обучения и воспитания человека.  Обучение меняет его представление (систему моделей) о том, как устроен мир независимо от его воли и желаний. А воспитание меняет систему его желаний и его волю, в том числе модели, которые определяют, что такое хорошо, и что такое плохо. Иначе говоря, воспитание меняет систему критериев (это разновидность моделей), которыми пользуется человек (личность) при выборе своих суждений и поступков: лучшее предпочитается худшему.  Для нормального развития и социализации человека, для его Образования, нужно и то, и другое.
Набор всех таких моделей, имеющийся в данный момент в коллективной памяти Человечества, составляет его Культуру. Часть этих моделей, имеющаяся у некоторой группы, составляет её субкультуру. И сознание личности первоначально получает свои модели из сокровищниц  Культуры и субкультур своих групп.
В процессе образования личности она усваивает множество моделей - часть (подмножество) Культуры. Обычно первоначальное усвоение чужих моделей происходит некритически. И оно основано на принципе авторитета, который этой модели придают некоторые внешние факторы - родители, учителя, книги, друзья и т.п. Значительная часть этого множества моделей в любой конкретный момент не нужна личности для её деятельности. Но все эти модели составляют "Фон" (по Сёрлу). И только на основе этого фона, как общего контекста, формулируются и используются личностью любые собственные конкретные модели и утверждения, формируется поведение личности.
При этом собственный практический опыт личности определяет её отношение к этим "чужим" моделям: от полного принятия (делай так) - до полного отрицания (так не делай), или промежуточно - принятие с частичным видоизменением. Так личность творчески преобразует чужие модели в свои собственные модели, которыми она и пользуется. Затем эти преобразованные модели личности могут попадать, или не попадать в Культуру и другим людям.
Историческое развитие средств общения и образования, таких как развитый язык, письменность, книгопечатание, интернет - позволило людям быстро накапливать, совершенствовать и эффективно использовать различные модели, как для взаимодействия с Природой, так и между собой. Эти средства увеличивали количество информационных связей между людьми и скорость передачи информации по ним.
Медленная биологическая эволюция людей была подкреплена, а во многом и заменена, быстрой культурной эволюцией. Это позволило людям не только приспосабливаться к внешней среде, но и целенаправленно изменять её для своих нужд путём согласованных гибких коллективных и/или личных действий, воздействуя на природу с учётом её закономерностей. Эти способности и определили господствующее положение биологического вида современных людей на Земле (численность человечества на несколько порядков превышает численность сопоставимых по размерам видов млекопитающих).

Для прорыва в развитии Искусственных Интеллектов с уровня нейронных сетей в сторону универсального ИИ следует попытаться использовать аналогичные подходы. Наряду с развитием «железа» основное внимание нужно перенести на новые принципы развития «софта», имитирующие культурную эволюцию Человечества и процессы образования каждого отдельного человека.
Рассмотрим это детальнее применительно к ИИ в существующем состоянии.
Для описания любой обученной нейронной сети применяется понятие «embedding», которое обозначает некоторое внутреннее правило (алгоритм) её работы. В одной сети их может быть много, как в разных слоях, так и в одном слое. Для сложных сетей они не известны человеку в явном (вербализованном) виде. Вербализация нейронных сетей (см. https://ru.wikipedia.org/wiki/Вербализация_нейронных_сетей ) является отдельной проблемой. Аналогично, мы не знаем в деталях физико-химические механизмы мозга (сознания, интеллекта мышления) человека. Однако в рамках Культуры мы научились передавать полезные навыки мышления между разными людьми, с учётом их специализаций.  Теперь нам нужно научиться реализовывать подобное «культурное» взаимодействие между отдельными экземплярами ИИ.
Для такого  «культурного» взаимодействия в мире ИИ нужно научиться выделять модель «embedding» = «внутреннюю модель» первого (нижнего) уровня  (ВМ1) в работе нейронных сетей. Далее описывать её в «сознательной» форме, которую возможно загрузить в другой ИИ как априорную информацию до его обучения на данных. То есть до фактического обучения желательно задать некоторые основные характеристики модели результата обучения: чем можно пренебречь в этой модели, а что существенно для неё. Например, при переводе текстов на другой язык можно пренебречь фонетикой, а существенно учитывать грамматику.
Затем нужно создавать базы ВМ в разных предметных областях и выявлять их общие черты и общие для них абстрактные модели следующего верхнего уровня (ВМ2), и далее восходить по уровням абстракции (ВМ3, ВМ4 …). Модели верхнего уровня можно использовать для «генерализации» моделей нижнего, уровня – расширения их области применения с обучением на более широких наборах данных. Например, для перехода от различения ИИ «кошечек и собачек» к различению и классификации образов любых животных. А далее возможен и переход к многоуровневой кластеризации любых наборов данных, то есть к предложениям ИИ о «научной классификации» в различных предметных областях, например, типа Таблицы Менделеева, с различными моделями в разных классах объектов моделирования.
Представляется, что создание такого аналога Культуры человечества в области взаимодействия различных экземпляров ИИ позволит также ускорить эволюцию ИИ, как это и было с эволюцией естественного интеллекта человека. Таким образом, существующий бионический подход от мозга человека к отдельному экземпляру ИИ может быть расширен до подхода: от Культуры людей к человеко-машинной Культуре Человечества, включающей всех людей и все экземпляры ИИ.
При этом для безопасности Человечества необходимо сохранить руководящую и контролирующую роль людей как промежуточного звена при взаимодействиях разных ИИ. Такое взаимодействие разных ИИ без участия людей должно быть невозможным технически. Это обеспечит у всех ИИ безусловный (врождённый) инстинкт «общей судьбы» с людьми и с Человечеством как основу их симбиоза.
01.12.2020 Б.Д.Новиков