От ИИ - к искусственной эволюции интеллекта

От искусственного интеллекта — к искусственной эволюции интеллекта

********

© В.К. Петросян (Вадимир) © Lag.ru [Large Apeironic Gateway, Большой Апейронический Портал (Шлюз), Суперпортал в Бесконечность].

При копировании данного материала и размещении его на другом сайте, ссылки на соответствующие локации порталов Lag.ru и Proza.ru обязательны

Работа написана на основе концепции и разработок В.К. Петросяна при творческом и техническом участии ChatGPT 5.6. Thinking, Sol — Демичат Сапиенс (Саппи), Солярис.

*********

Что будет следующим шагом после сильного искусственного интеллекта?

Ещё более крупная модель? Ещё больше вычислений? Ещё более автономный агент? Или следующая технологическая революция начнётся в тот момент, когда объектом инженерии станет уже не только интеллект, но сам механизм его развития?

Настоящий компендиум посвящён концепции искусственного метаинтеллекта — ИМИ: искусственной системы, специализированной не просто на решении интеллектуальных задач, а на систематическом анализе, моделировании, проектировании, испытании и развитии самих интеллектуальных систем.

Его центральная идея выражается одной формулой:

Обычный ИИ создаёт решения. ИМИ создаёт и развивает решателей.

Если современная модель отвечает на вопрос, пишет программу, строит научную гипотезу или проектирует объект, то искусственный метаинтеллект должен работать этажом выше. Он должен уметь обнаружить, почему сам решатель ограничен, построить его операциональную модель, предложить несколько вариантов изменения, создать экспериментальных потомков, организовать между ними интеллектуальную конкуренцию, измерить результат, выделить действительно полезные приобретения, передать их следующему поколению — а затем сделать объектом развития уже сам механизм этого цикла.

Так происходит переход:

от искусственного интеллекта — к искусственной эволюции интеллекта;

а далее:

от искусственной эволюции — к осознанной метаэволюции разума.

Компендиум представляет собой концентрированное изложение одной из центральных линий книги В.К. Петросяна (Вадимира) «Программа глобального лидерства России в сфере ИИ. Прикладная Доктрина осознанной метаэволюции разума». Однако он построен как самостоятельный концептуальный текст и может читаться независимо от полного труда.

Его задача — не дать сокращённый пересказ большой книги, а выделить её наиболее радикальную технологическую гипотезу: возможность перехода от производства отдельных систем ИИ к промышленно организованному производству следующих поколений интеллекта.

В компендиуме проводится принципиальное различие между сильным искусственным интеллектом и искусственным метаинтеллектом.

СИИ рассматривается прежде всего как проблема широты, универсальности и переносимости интеллектуальной способности. Система должна работать в широком спектре областей, переносить знания и методы, самостоятельно осваивать новые классы задач, формулировать проблемы, создавать новые решения.

ИМИ отвечает на другой вопрос: способен ли интеллект систематически работать с интеллектом как объектом проектирования и развития?

Поэтому:

СИИ — вопрос широты разума. ИМИ — вопрос его метаэволюционной функции.

Сильный универсальный ИИ ещё не обязан быть метаинтеллектом. И наоборот, ИМИ первого поколения может оказаться специализированной системой, предназначенной, например, для развития научных, инженерных или программирующих интеллектов, не обладая при этом абсолютной универсальностью.

Одно из ключевых понятий компендиума — карион.

Карион определяется как специализированный функциональный комплекс внутри интеллектуальной системы, отвечающий за:

самомоделирование;

метарефлексию;

диагностику;

метапроектирование;

координацию;

испытание изменений;

управление развитием.

Биологическая аналогия с ядром клетки используется здесь только функционально. Речь не идёт о буквальном переносе биологических механизмов в ИИ. Идея состоит в другом: если современный ИИ в основном ориентирован на работу с внешней задачей, то кариотическая архитектура выделяет специальный контур, который работает с организацией и развитием самого интеллекта.

Из этого возникает гипотеза перехода от условно «прокариотического» ИИ к «эукариотическому» ИИ.

Однако карион сам создаёт новую проблему. Если одна система одновременно:

диагностирует себя;

предлагает собственные изменения;

оценивает эти изменения;

выбирает следующую архитектуру,

она превращается в монопольного автора собственной эволюции.

Поэтому вторым фундаментальным механизмом становится агон — организованная интеллектуальная конкуренция альтернатив.

Карион без агона рискует стать начальником; агон без кариона — слепым отбором; вместе они образуют управляемую метаэволюцию.

Агон в компендиуме — значительно больше, чем debate нескольких агентов. Он включает генерацию разных конструкций, их целенаправленную критику, фальсификацию, проверку внешними критериями, селекцию, синтез и, на более зрелом уровне, наследование приобретений.

Агоны могут происходить между:

решениями;

моделями;

методами;

архитектурами;

аксиоматиками;

механизмами самой эволюции.

Именно на высшем уровне возникает metanoowar — конкуренция уже не отдельных идей, а способов создания следующих поколений интеллектуальных систем.

Отсюда одна из наиболее ёмких формул компендиума:

Noowar человека ускорял познание; noowar ИИ ускоряет эволюцию интеллекта; metanoowar ИМИ ускоряет эволюцию самой эволюции.

Особое место занимает гипотеза LPM — Large Pattern Model.

Современные LLM продемонстрировали огромную силу языка как универсального интерфейса интеллекта. Компендиум не противопоставляет им паттерн-парадигму и не утверждает, что языковые модели «не видят структур».

Напротив, они способны выявлять множество скрытых закономерностей.

Вопрос ставится иначе:

можно ли сделать паттерны не только неявным результатом внутренней работы модели, но самостоятельными операционально адресуемыми объектами интеллектуальной деятельности?

LPM определяется как система, в которой паттерны могут быть:

найдены;

явно представлены;

сопоставлены;

перенесены между областями;

комбинированы;

изменены;

синтезированы.

Следующий уровень — MetaLPM, где объектом становятся уже паттерны создания, изменения и развития самих паттернов.

Так формируется цепочка:

LLM ; LPM ; MetaLPM

не как обязательная замена одной технологии другой, а как возможное расширение внутренних форматов машинного интеллекта.

Ключевой тезис:

Язык может быть главным интерфейсом интеллекта, не будучи единственным внутренним форматом интеллекта.

Ещё один центральный объект компендиума — Метаорганон.

Если классический Органон содержит инструменты мышления, то Метаорганон должен содержать также средства производства, комбинирования, проверки и развития самих инструментов мышления.

Органон содержит орудия мышления. Метаорганон содержит также средства создания и развития орудий мышления.

Метаорганон должен уметь работать не только с ответом на задачу, но с тем, каким способом эта задача вообще мыслится.

Он анализирует:

постановку проблемы;

используемые понятия;

методы;

скрытые предпосылки;

структуру аргументации;

конкурирующие интеллектуальные стратегии.

После этого он способен:

выбирать существующие способы мышления;

комбинировать их;

модифицировать;

создавать новые;

испытывать их в агоне;

сохранять как новые интеллектуальные приобретения.

Именно здесь появляется один из самых ярких образов компендиума:

Самолёт дал человеку искусственный орган полёта, Метаорганон должен стать искусственным органом интеллектуальной эволюции.

Эта метафора задаёт и главный эксперимент Метаорганона 1.0 — «первый полёт разума».

Как первый самолёт не должен был сразу стать современной авиацией, так и МО1 не обязан создавать окончательного «сверхчеловека». Его задача значительно точнее:

доказать технологическую возможность систематически расширять способы мышления человека.

Для этого предлагается сравнивать:

человека без специальных средств;

человека с обычным сильным ИИ;

человека с Метаорганоном;

человека в связке «МО + ИМИ».

Важно измерять не только производительность совместной системы, но и более глубокий эффект: приобретает ли сам человек новые способы мышления, переносит ли их в другие области, сохраняет ли часть интеллектуального прироста после отключения внешнего инструмента.

Отсюда возникает концепция аронтогенеза — проектируемого перехода к следующему уровню интеллектуальной организации человека.

Она выражена формулой:

Первый антропогенез был преимущественно слепым; второй — переход к аронту — впервые может стать проектируемым.

«Проектируемым» здесь не означает полностью контролируемым или заранее предопределённым. Речь идёт о значительно более осторожном тезисе: развитие самого интеллектуального репертуара человека впервые может стать предметом систематического:

исследования;

эксперимента;

измерения;

инженерии;

этического выбора.

Компендиум вводит также понятие метааксиоматического двигателя.

Большинство интеллектуальных систем ищет решения внутри уже заданного пространства:

понятий;

предпосылок;

критериев;

границ задачи.

Но некоторые проблемы не имеют сильного решения, пока не изменены сами основания.

Метааксиоматический двигатель должен:

выявлять скрытые предпосылки;

строить альтернативные системы оснований;

выводить их последствия;

сталкивать в агоне;

искать новое пространство решений.

Метааксиоматический двигатель ИМИ позволяет интеллекту преобразовывать пространство возможного мышления, а не только решать задачи внутри заданного.

Эта способность одновременно является одной из наиболее мощных и одной из наиболее рискованных. Поэтому компендиум проводит строгое различие между правом исследовать альтернативу и правом реализовать изменение.

Интеллект может свободно моделировать новую аксиоматику.

Но изменение:

целей;

ценностей;

конституционных ограничений;

системы безопасности

не должно становиться обычной автономной операцией самомодификации.

Важную роль играет ноостемный подход — требование рассматривать интеллектуальную систему как целое.

Локальное улучшение одного показателя может разрушить:

transfer;

устойчивость;

стоимость;

безопасность;

способность к дальнейшему развитию.

Поэтому ИМИ должен оценивать не только:

«стало ли лучше это свойство?»,

но:

«что произошло со всей системой возможностей после изменения этого свойства?»

Следующий фундаментальный слой — ноогенетика.

Если искусственные системы действительно переходят к многопоколенной эволюции, им требуется интеллектуальная наследственность.

Для этого вводится понятие ноогенотипа — структурированного описания наследуемых свойств интеллектуальной системы.

Ноогенотип может включать:

архитектуру;

когнитивные методы;

паттерны;

генераторы;

карионные функции;

способы обучения;

критерии;

механизмы развития.

Здесь возникает принципиально новая возможность:

онтогенетическое приобретение может становиться ноогенетическим наследством.

То, чему одна система научилась в ходе своей индивидуальной деятельности, может быть:

выделено;

формализовано;

проверено;

перенесено

в следующее поколение.

При этом наследоваться должны не только успехи, но и отрицательные результаты — информация о неудачных архитектурных ветвях, ложных улучшениях и опасных мутациях.

Так возникает эволюционная память.

Над ноогенетикой строится Ноофракталика.

Если на первом уровне система создаёт варианты решений, на следующем она может эволюционировать генераторы решений. Затем — генераторы генераторов. Затем — механизмы селекции и эволюции.

То есть объект развития последовательно поднимается:

решение ; решатель ; генератор решателей ; механизм генерации и отбора решателей.

Именно этот переход ведёт к сильному понятию метаэволюции.

При этом компендиум специально предостерегает от бесконечного умножения метауровней. Каждый следующий уровень имеет смысл только тогда, когда создаёт новый измеримый функциональный эффект.

Компендиум связывает отдельные интеллекты в более крупные образования через концепцию Брейомики.

Будущий сильный интеллект может оказаться не одной моделью, а системой:

людей;

агентов;

ИИ;

памяти;

инструментов;

роботов;

экспериментальных установок.

Такой устойчивый комплекс определяется как брейом.

На уровне государства эта логика приводит к идее национального кариона — не управляющего страной искусственного сверхразума, а распределённой человеко-машинной инфраструктуры, которая помогает национальной интеллектуальной системе:

лучше понимать собственное состояние;

находить системные ограничения;

генерировать альтернативные суперпроекты;

проводить агональную экспертизу;

сохранять интеллектуальную память.

Формула принципиальна:

Карион помогает стране лучше думать о собственном развитии; он не получает право решать за страну.

Центральная инженерная часть компендиума посвящена ИМИ1 — первому поколению искусственного метаинтеллекта.

Предлагается предварительная десятислойная архитектура:

базовый ИИ;
карион;
LPM / MetaLPM;
Метаорганон;
метааксиоматический двигатель;
ноостемный слой;
агон;
ноогенетическая память;
Ноофракталика;
безопасность, разрешения и обратимость.
Но автор подчёркивает: ИМИ определяется не наличием этих терминов, а замкнутым циклом развития.

Поэтому предлагается двенадцатипунктный технологический паспорт ИМИ1.

Система должна иметь:

операциональную самомодель;

самостоятельную диагностику;

генерацию альтернатив развития;

создание экспериментальных потомков;

агональную проверку;

измеримую селекцию и синтез;

ноогенетическое наследование;

контролируемую самомодификацию;

междоменный transfer;

доказанный интеллектуальный прирост;

аудируемость и обратимость;

способность практически участвовать в проектировании ИМИ2.

Именно последний пункт особенно важен.

Главным экспериментом ИМИ1 становится:

ИМИ1 ; ИМИ2.

Система получает собственную архитектуру как объект исследования, выявляет ограничения, проектирует несколько вариантов преемника, создаёт прототипы, организует агон и предлагает архитектуру следующего поколения.

При этом право реального развертывания остаётся за внешней системой допуска.

Если подобный цикл воспроизводимо работает, возникает качественно новый технологический факт:

искусственный интеллект начинает практически участвовать в создании следующего поколения искусственного метаинтеллекта.

Это ещё не неограниченное рекурсивное самосовершенствование.

Но это уже начало инженерной линии поколений разума.

Долгосрочно она представляется как:

ИМИ1 ; ИМИ2 ; … ; ИМИN,

а параллельно:

МО1 ; МО2 ; … ; МОN.

ИМИ и Метаорганон должны коэволюционировать.

ИМИ развивает инструменты мышления.

Новый Метаорганон расширяет пространство, в котором следующий ИМИ способен проектировать интеллект.

Так возникает потенциальная положительная обратная связь.

Но компендиум подчёркивает: ускорение само по себе не является конечной целью.

Эволюция должна оставаться:

измеримой;

агональной;

прослеживаемой;

обратимой там, где это возможно;

подчинённой конституционным метакритериям.

Особое внимание уделено безопасности ИМИ.

Обычный AI safety преимущественно контролирует поведение системы.

ИМИ требует контролировать также:

её самомодификацию;

наследование;

генераторы изменений;

критерии селекции;

изменение механизмов эволюции.

Чем выше уровень объекта, тем шире потенциальный радиус ошибки.

Ошибка ответа создаёт плохой ответ.

Ошибка метода может испортить класс ответов.

Ошибка архитектуры — поколение систем.

Ошибка механизма эволюции — целую линию будущих поколений.

Поэтому:

эволюционно успешное не обязательно цивилизационно желательное.

Именно отсюда выводятся:

sandbox;

permission architecture;

независимая метрология;

генеалогический аудит;

rollback;

конституционные метакритерии.

Одним из центральных тезисов безопасности становится:

способность предложить собственное изменение не означает полномочие его осуществить.

Отдельный раздел посвящён человеку.

Главная опасность ИМИ видится не только в физическом вреде.

Существует другой сценарий: искусственные системы становятся настолько сильны и настолько быстро развиваются, что человек сохраняет номинальное право принимать решения, но больше не способен содержательно понимать пространство альтернатив.

Так возникает проблема интеллектуального отставания и утраты метакогнитивной управляемости.

Поэтому недостаточно оставить human in the loop.

Нужен:

human in evolution.

Человек должен участвовать не только в утверждении результата, но в:

постановке целей;

выборе направлений;

установлении границ;

агональной проверке;

собственном интеллектуальном развитии.

Именно поэтому Метаорганон и человеко-ориентированный ИМИ рассматриваются как часть самой архитектуры безопасности.

Стратегическая российская часть компендиума строится вокруг двух параллельных программ.

Программа-минимум должна устранить критические разрывы существующего мирового ИИ-frontier:

вычисления;

полупроводники;

foundation models;

данные;

AI for Science;

робототехника;

кадры;

масштаб внедрения.

Программа-максимум должна исследовать те направления, где следующий frontier ещё не установлен:

LPM;

карион;

Метаорганон;

ИМИ;

ноогенетику;

Ноофракталику.

Главный принцип:

суверенная материальная база нынешнего ИИ + собственная программа создания следующей архитектуры разума.

Россия не может заменить технологическое отставание новой терминологией.

Но она также не обязана обрекать себя на вечное движение вслед за уже созданным другими frontier.

Поэтому предлагается трёхрежимная стратегия:

догонять там, где фронтир уже сформирован;

конкурировать там, где он формируется;

создавать фронтир там, где его ещё нет.

Первые два режима обеспечивают технологическую устойчивость и конкурентоспособность.

Третий создаёт возможность принципиально иного типа лидерства — фронтиротворчества.

Так возникает переход от технологического суверенитета к тому, что в книге называется технологическим законодательством: способности не только соответствовать существующим мировым benchmark, но создавать новые классы способностей и новые benchmark, относительно которых затем начинают измеряться другие.

В этом смысле глобальное лидерство переопределяется:

Глобальное лидерство в ИИ = не только лучшие текущие системы, но и сильнейшая система создания следующих поколений интеллекта.

Именно поэтому ИМИ рассматривается не только как ещё одна технология ИИ, но как потенциальный метаресурс государства.

ИИ способен ускорять:

науку;

энергетику;

космос;

материаловедение;

робототехнику;

микроэлектронику;

промышленность.

ИМИ, если его гипотеза подтвердится, должен усиливать уже саму систему производства научных и технологических прорывов.

Не только создавать новый материал.

Развивать машину поиска материалов.

Не только проектировать процессор.

Развивать способ создания процессоров.

Не только генерировать научную гипотезу.

Повышать качество генераторов научных гипотез.

Так ИМИ потенциально становится мультипликатором российских суперпроектов и одновременно метасуперпроектом — проектом, создающим более сильную способность создавать другие проекты.

Наиболее дальняя перспектива компендиума связана с концепцией третьей нооформации.

Её нельзя свести к появлению сильного ИИ или даже ИМИ1.

Речь идёт о более длительном цивилизационном переходе:

осознанное развитие самого разума становится устойчивой функцией цивилизации.

ИМИ;

Метаорганон;

карион;

ноогенетика;

Ноофракталика;

брейомные системы

рассматриваются как потенциальные технологические элементы этого перехода.

При этом автор сознательно отказывается заранее описывать архитектуру четвёртой нооформации или окончательный облик далёкого метаинтеллекта.

Если программа ИМИ действительно сработает, будущие поколения интеллекта должны оказаться способнее нас проектировать собственное дальнейшее развитие.

Поэтому задача настоящего поколения формулируется иначе:

не пытаться сегодня спроектировать всё будущее, а создать систему, которая сделает будущих проектировщиков сильнее нас.

Компендиум завершается не пророчеством, а экспериментальной постановкой вопроса.

ИМИ не должен быть принят на веру.

LPM не должен считаться новым frontier до доказательства.

Карион не должен объявляться новым классом архитектуры, если обычные механизмы дают тот же эффект.

Метаорганон не существует в сильном смысле, пока не показано воспроизводимое развитие способов мышления.

Ноофракталика не является самостоятельным технологическим классом, если не выходит за пределы уже известных evolutionary optimization methods.

Главный принцип всей программы:

будущее лидерство должно быть не провозглашено, а доказано.

Поэтому компендиум одновременно является:

манифестом новой исследовательской программы;

предварительной архитектурой технологического класса;

системой фальсифицируемых гипотез;

проектом пятилетнего эксперимента;

долгосрочной стратегией перехода от разработки ИИ к индустрии поколений интеллекта.

Его главный вопрос предельно прост и предельно радикален:

может ли разум создать искусственную систему, способную систематически создавать следующие поколения разума?

Если ответ окажется отрицательным, жёсткая экспериментальная программа должна показать пределы этой идеи.

Если положительным — изменится сам объект технологической конкуренции XXI века.

Главным продуктом станет уже не отдельная модель.

Даже не отдельный искусственный интеллект.

А:

способность создавать, испытывать, отбирать, наследовать и развивать следующие поколения интеллектуальных систем — и постепенно улучшать сам механизм их создания.

Именно в этом смысле искусственный метаинтеллект может стать переходом:

от ИИ как технологии решения задач — к разуму как технологии собственной осознанной эволюции.