Искусственный метаинтеллект

ИСКУССТВЕННЫЙ МЕТАИНТЕЛЛЕКТ

********
© В.К. Петросян (Вадимир) © Lag.ru [Large Apeironic Gateway, Большой Апейронический Портал (Шлюз), Суперпортал в Бесконечность].
При копировании данного материала и размещении его на другом сайте, ссылки на соответствующие локации порталов Lag.ru и Proza.ru обязательны 

Работа написана на основе концепции и разработок В.К. Петросяна при творческом и техническом участии ChatGPT 5.6. Thinking, Sol - Демичат Сапиенс (Саппи), Солярис.
*********


Искусственный интеллект возник как технология решения задач.

Он распознаёт изображения, генерирует тексты, пишет программы, управляет агентами, моделирует физические процессы, помогает учёному искать новые закономерности.

Но практически во всех этих случаях объект интеллектуальной деятельности находится вне самого интеллекта.

Математическая задача.

Программа.

Молекула.

Производственный процесс.

Стратегическая ситуация.

Следующий возможный переход состоит в том, что одним из главных объектов интеллектуальной деятельности становится сам интеллект.

Его архитектура.

Способы мышления.

Память.

Методы обучения.

Критерии оценки.

Механизмы творчества.

Способы изменения.

Линии развития.

В этой точке возникает метаинтеллект.

А когда такая деятельность становится функцией искусственной системы — возникает Искусственный метаинтеллект, ИМИ.

Принципиальное значение ИМИ состоит не в том, что он обязательно «умнее» любого другого ИИ по каждой задаче.

Его отличие функционально.

Обычный ИИ создаёт решения. ИМИ создаёт и развивает решателей.

Ещё более высокий уровень:

ИМИ развивает механизмы, посредством которых создаются и развиваются решатели.

Именно здесь ИМИ превращается из очередной разновидности искусственного интеллекта в один из потенциальных механизмов осознанной метаэволюции разума.

Глава 1. Понятие ИМИ
1. Интеллект
Для определения метаинтеллекта необходимо сначала уточнить само понятие интеллекта.

Интеллект нельзя свести к памяти.

Нельзя свести к логическому выводу.

Нельзя свести к способности отвечать на вопросы.

Нельзя свести даже к решению задач.

В рабочем определении настоящей Доктрины:

интеллект — способность строить, выбирать и преобразовывать представления, методы и действия для освоения проблемных ситуаций, достижения целей и расширения пространства доступных решений.

Это определение включает несколько разных функций:

восприятие;

понимание;

моделирование;

прогнозирование;

постановку задач;

поиск решений;

обучение;

творчество;

действие.

Но особенно важно последнее положение — расширение пространства решений.

Слабая интеллектуальная система выбирает между уже известными вариантами.

Более сильная создаёт новый вариант.

Ещё более сильная способна изменить способ, посредством которого варианты вообще создаются.

Поэтому развитие интеллекта естественным образом выводит к метауровню.

2. Метаинтеллект
Префикс «мета» не должен означать просто «очень высокий» или «очень сложный».

Метаинтеллект отличается не степенью, а прежде всего уровнем объекта деятельности.

Если интеллект решает задачу, метаинтеллект исследует и преобразует интеллект, который эту задачу решает.

Рабочее определение:

метаинтеллект — интеллект, одним из специализированных объектов деятельности которого являются интеллекты, их архитектуры, способы мышления, механизмы обучения, творчества, оценки и развития.

Это означает переход:

задача ; решение

к:

решатель ; изменение решателя

и далее:

механизм развития решателя ; изменение механизма развития.

Метаинтеллект может быть:

человеческим;

коллективным;

гибридным;

искусственным.

Например, человек способен заниматься метаинтеллектуальной деятельностью, когда:

анализирует собственные способы мышления;

изобретает новый научный метод;

создаёт новую систему логики;

проектирует новый класс ИИ;

изменяет систему критериев, по которой оцениваются решения.

Но человеческая метаинтеллектуальная деятельность сегодня в основном фрагментарна.

Она не объединена в постоянно действующую технологическую систему.

Именно эту границу должен попытаться преодолеть ИМИ.

3. Искусственный метаинтеллект
Под Искусственным метаинтеллектом предлагается понимать:

искусственную интеллектуальную систему, специализированную на систематическом анализе, моделировании, проектировании, испытании, организации и ускоренном развитии интеллектуальных систем и механизмов их развития.

Ключевое слово — систематическом.

Если обычная LLM один раз предложила идею улучшения другой LLM, это ещё не ИМИ.

Если агент переписал часть собственного кода — также недостаточно.

Если AutoML подобрал гиперпараметры — это важная форма автоматизации метауровня, но ещё не полномасштабный ИМИ.

Полный метаинтеллектуальный цикл должен включать:

модель интеллекта ; диагностику ; проектирование альтернатив ; эксперимент ; сравнение ; селекцию ; интеграцию ; наследование ; следующее поколение.

На следующем уровне ИМИ должен работать уже с самим этим циклом:

как улучшить механизм диагностики?

как создавать более продуктивные варианты?

как изменить критерии отбора?

как ускорить эволюцию без разрушения устойчивости?

Именно способность работать с механизмом изменения интеллекта отличает ИМИ в сильном смысле.

4. Объект деятельности ИМИ
Объектом ИМИ является не один тип нейронной сети.

Это более широкий класс.

ИМИ потенциально может работать с:

отдельными моделями;
ИИ-агентами;
многоагентными системами;
СИИ;
карионами;
Метаорганонами;
человеко-машинными комплексами;
брейомами;
научными и организационными интеллектуальными системами.
Но объект ИМИ можно разложить ещё глубже.

Он способен работать с:

Архитектурой
Из каких компонентов состоит интеллект и как они взаимодействуют.

Представлениями
В каких формах кодируется и преобразуется знание.

Когнитивными паттернами
Какими способами система мыслит.

Памятью
Что сохраняется и как используется накопленный опыт.

Целями
Какие задачи считаются значимыми.

Критериями
По каким основаниям выбирается лучшее решение.

Обучением
Как приобретаются новые способности.

Творчеством
Как создаются новые варианты.

Эволюцией
Как возникают новые поколения систем.

Отсюда следует:

предмет ИМИ — не только интеллект как состояние, но интеллект как развивающийся процесс.

И ещё глубже:

не только эволюция интеллекта, но архитектура самой эволюции интеллекта.

5. ИМИ и СИИ
СИИ и ИМИ необходимо строго различать.

СИИ отвечает прежде всего на вопрос:

насколько универсален и силён данный интеллект?

ИМИ:

насколько способен он развивать интеллекты и способы их развития?

Следовательно, это две независимые оси.

Можно условно представить пространство:

Низкая метаинтеллектуальность Высокая метаинтеллектуальность
Ограниченная универсальность специализированный ИИ специализированный ИМИ
Высокая универсальность СИИ сильный универсальный ИМИ
Это позволяет понять важное обстоятельство.

Для создания первого ИМИ1 необязательно ждать окончательного решения проблемы универсального СИИ.

ИМИ1 может быть специализирован.

Например, он способен чрезвычайно эффективно:

анализировать архитектуры ИИ;

генерировать их варианты;

проводить эксперименты;

организовывать селекцию;

но не превосходить универсальную frontier-модель в истории искусства или медицинской диагностике.

Это не лишает его метаинтеллектуального статуса.

В то же время соединение СИИ и ИМИ потенциально создаёт значительно более мощную систему:

универсальный интеллект + способность систематически развивать интеллект.

Именно такая комбинация может стать одной из зрелых форм третьей нооформации.

6. ИМИ и карион
Карион и ИМИ также нельзя отождествлять.

Карион — архитектурно-функциональное понятие.

Это специализированное метаинтеллектуальное ядро некоторой более широкой интеллектуальной системы.

ИМИ — понятие класса интеллекта и его деятельности.

ИМИ может выступать карионом.

Например:

СИИ + ИМИ-карион

или:

брейом + ИМИ-карион.

Но не каждый начальный карион обязан сразу быть полноценным ИМИ.

Протокарион может выполнять лишь:

мониторинг;

диагностику;

выбор методов;

контроль ошибок.

Полномасштабный ИМИ требует значительно более развитой способности:

самостоятельно организовывать воспроизводимый процесс развития интеллектуальных систем.

Поэтому можно говорить о развитии:

метакогнитивный контур ; протокарион ; карион ; ИМИ-карион.

При этом один ИМИ может сам содержать несколько специализированных карионных подсистем.

В сложных архитектурах граница становится функциональной, а не физической.

7. ИМИ и Метаорганон
Если ИМИ — субъект метаинтеллектуальной деятельности, то Метаорганон — система средств такой деятельности.

Это одно из фундаментальных различий Доктрины.

ИМИ — кто развивает интеллект.

Метаорганон — чем осуществляется систематическое развитие мышления и интеллектуальных методов.

Человек может использовать Метаорганон без ИМИ.

ИМИ может использовать отдельные метаинтеллектуальные средства до появления полного Метаорганона.

Но наиболее сильная конструкция возникает при их соединении:

человек + Метаорганон;

ИИ + Метаорганон;

ИМИ + Метаорганон.

Для ИМИ Метаорганон может содержать:

метааксиоматические методы;

ноостемный анализ;

паттерн-технологии;

ментальные войны;

генераторы методов;

механизмы синтеза;

системы измерения;

средства постановки проблем.

ИМИ применяет этот инструментарий не только к внешнему объекту, но и к интеллектуальной системе как объекту проектирования.

Поэтому ИМИ и Метаорганон должны развиваться коэволюционно.

ИМИ1 помогает создавать МО2; МО2 помогает создавать ИМИ2.

Эта связь может стать одним из главных положительных контуров метаэволюции.

8. ИМИ как механизм перехода II ; III нооформации
ИМИ возникает внутри второй нооформации.

Его создаёт человек.

Он строится на технологиях, науке, культуре и материальной инфраструктуре второй нооформации.

Но его функция уже способна выводить интеллектуальную эволюцию за пределы прежнего механизма.

Во второй нооформации новые формы разума создаются преимущественно:

биологической эволюцией;

культурным развитием;

образованием;

наукой;

человеческой инженерией.

ИМИ добавляет новый механизм:

интеллект становится специализированным участником проектирования следующих интеллектов.

Это и есть фундаментальный переход.

Первый антропогенез был преимущественно слепым.

Разум возник прежде, чем смог понять механизм собственного возникновения.

Следующий переход потенциально может быть иным:

разум, уже обладающий рефлексией, начинает сознательно создавать средства собственной дальнейшей эволюции.

В этом смысле ИМИ является одним из центральных механизмов управляемого аронтогенеза.

Но здесь необходимо избежать преждевременного объявления новой нооформации.

Создание первого ИМИ1 ещё не означает завершившегося перехода человечества к III нооформации.

ИМИ1 должен прежде всего доказать:

технологически возможно сделать развитие интеллекта специализированной искусственной интеллектуальной деятельностью.

Далее потребуются:

многопоколенная эволюция ИМИ;

развитие Метаорганона;

человеко-машинные брейомы;

кариотизация интеллектуальных систем;

новая образовательная и научная инфраструктура;

новые формы человеческого развития.

Поэтому:

ИМИ — механизм перехода; III нооформация — цивилизационная система, в которой этот механизм становится устойчивым и определяющим.

Глава 2. Архитектура ИМИ1
Архитектура ИМИ1 не может сегодня рассматриваться как окончательно установленная инженерная схема.

Полноценного класса таких систем ещё предстоит добиться экспериментально.

Поэтому архитектура, предлагаемая в настоящей Доктрине, представляет собой проектную гипотезу первого полномасштабного искусственного метаинтеллекта.

ИМИ1 должен состоять не из одного «супермодуля», а из нескольких взаимодействующих контуров.

Их функция — замкнуть полный цикл:

понять интеллект ; обнаружить ограничение ; создать альтернативы ; испытать ; отобрать ; внедрить ; сохранить результат ; создать следующее поколение ; улучшить сам процесс развития.

Эту архитектуру можно условно представить как десять взаимосвязанных слоёв.

Контур Основная функция
Базовый ИИ Предметное мышление и действие
Карион Метауправление развитием
LPM/MetaLPM Работа с паттернами архитектур и мышления
Метаорганон Инструментарий метаинтеллектуальной деятельности
Метааксиоматика Работа с основаниями и критериями
Ноостем Целостное моделирование интеллектуальной системы
Агональный Конкуренция, критика и селекция вариантов
Ноогенетическая память Наследование приобретений
Ноофрактальный Генерация поколений и развитие генераторов
Безопасность Ограничение, аудит, обратимость
Но реальный ИМИ1 должен быть не суммой десяти модулей, а интегрированной метаэволюционной машиной.

1. Базовый ИИ-контур
ИМИ не может существовать без базового интеллекта.

Он должен:

понимать естественный язык;

писать и анализировать код;

работать с математикой;

строить модели;

использовать инструменты;

действовать как агент;

обрабатывать мультимодальные данные.

Первый ИМИ1, вероятнее всего, будет построен не вместо современных frontier-моделей, а на их основе и поверх них.

Это принципиально важно.

Не требуется сначала заново изобрести весь искусственный интеллект.

Базовый слой может включать:

LLM;

reasoning-модели;

VLM;

code models;

scientific models;

специализированные агенты.

Но этот слой выполняет преимущественно предметную интеллектуальную работу.

Он отвечает:

что происходит?

как решить задачу?

какие варианты возможны?

Карион поднимает эти ответы на следующий уровень.

2. Карион
Карион является архитектурным центром ИМИ1.

Его функция — не микроменеджмент каждого токена или действия.

Карион должен работать с системой на уровне:

архитектуры;

методов;

целей;

ограничений;

развития.

Основной цикл:

самомодель ; наблюдение ; диагностика ; метапроект ; эксперимент ; оценка ; решение об изменении.

Карион должен иметь собственную память.

Знать историю изменений.

Видеть, какие улучшения уже предпринимались.

Различать локальное улучшение и системную регрессию.

Например, изменение может повысить математические способности, но ухудшить:

надёжность;

стоимость;

перенос;

безопасность.

Поэтому карион работает не с одной метрикой.

Он выполняет многокритериальное управление интеллектуальным развитием.

Но и карион не должен быть абсолютным центром истины.

Его собственные гипотезы должны подвергаться агону и независимой проверке.

3. LPM/MetaLPM
Если карион должен изменять интеллект, ему необходимо представлять его не как непрозрачный набор миллиардов параметров, а как систему паттернов организации.

LPM-контур должен обнаруживать:

когнитивные паттерны;

архитектурные паттерны;

причинные паттерны ошибок;

функциональные паттерны;

паттерны обучения;

паттерны взаимодействия агентов.

Например:

определённая архитектура памяти стабильно помогает в научном reasoning, но ухудшает длительное планирование.

Это уже не отдельный факт, а паттерн.

MetaLPM работает уровнем выше.

Она исследует:

как возникают такие паттерны;

какие способы генерируют их;

какие комбинации наиболее продуктивны;

какие метапаттерны развития повторяются между поколениями.

Тем самым LPM даёт ИМИ язык структурного анализа интеллекта, а MetaLPM — язык анализа его развития.

4. Метаорганонный контур
Метаорганон представляет инструментальный слой ИМИ.

Он должен включать не фиксированный каталог готовых интеллектуальных методов, а генеративную систему ментальных технологий.

Возможные функции:

постановка проблемы;
декомпозиция;
реконструкция скрытых предпосылок;
генерация альтернатив;
сравнительный анализ методов;
мысленные эксперименты;
контрфактическое моделирование;
ментальные агоны;
синтез;
создание новых методов.
Главное отличие от обычной tool library:

Метаорганон должен уметь создавать инструменты, которых в его исходной библиотеке не было.

Для ИМИ это принципиально.

Если метаинтеллект может использовать только заранее созданные человеком методы, он остаётся жёстко ограниченным человеческим инструментарием.

Полноценный ИМИ должен постепенно участвовать в расширении самого Метаорганона.

5. Метааксиоматический контур
Большая часть ИИ работает внутри заданных оснований.

Определены:

задача;

критерий;

правила;

данные;

функция потерь.

Но радикальная инновация нередко требует изменения самих оснований.

Метааксиоматический контур должен делать предметом исследования:

предпосылки;

аксиомы;

правила вывода;

критерии;

ограничения;

способы постановки задачи.

Различие можно выразить так:

аксиоматический интеллект ищет лучшее решение внутри заданного пространства.

Метааксиоматический интеллект способен преобразовать само пространство допустимых решений.

Например, система не может найти удовлетворительную архитектуру.

Обычный оптимизатор продолжает искать внутри заданного класса.

Метааксиоматический контур способен поставить вопрос:

не является ли ошибочным сам класс архитектур, внутри которого ведётся поиск?

И предложить новую систему оснований.

Особенно важно, что метааксиоматический контур должен также применяться к критериям собственного развития ИМИ.

Если система оптимизирует себя по неверному критерию, рост эффективности может увеличить ошибку.

Поэтому один из высших уровней метаинтеллекта — способность критиковать собственную систему критериев.

6. Ноостемный контур
Интеллект является сложной системой, которую невозможно адекватно описать одной метрикой.

Ноостемный контур должен рассматривать ИМИ и другие интеллектуальные системы одновременно как:

структуру;

процесс;

систему функций;

систему целей;

систему отношений;

динамику;

пространство возможностей;

эволюционную линию.

Его задача — не позволить локальной оптимизации разрушить целостность.

Например:

более быстрый reasoning может снизить глубину анализа;

более сильная автономность — безопасность;

более жёсткая верификация — творческую вариативность;

более высокая специализация — transfer.

Ноостемный анализ должен видеть эти взаимодействия.

Он отвечает не только:

«улучшился ли показатель X?»,

но:

«как изменение X перестроило интеллектуальную систему как целое?»

Для крупного ИМИ такой контур должен стать аналогом системного диагностического пространства.

7. Агональный контур
ИМИ не должен развиваться путём последовательности единственных решений.

Необходимо создавать популяции альтернатив.

Несколько:

архитектур;

методов;

гипотез;

критериев;

стратегий развития.

Затем организовывать между ними интеллектуальные агоны.

Агональный контур включает:

генерацию конкурентов;

атаку;

защиту;

контрпримеры;

альтернативные объяснения;

независимое судейство;

повторные раунды;

селекцию.

В отличие от обычного adversarial testing, здесь цель не только найти уязвимость.

Агон становится механизмом развития.

Именно поэтому ментальная война ИМИ — не применение ИИ в информационной войне.

Это организованная когнитивно-селективная технология.

На более высоком уровне возникает metanoowar:

конкурируют уже не решения, а способы организовывать интеллектуальные соревнования и отбор.

Так можно сформулировать эволюционную последовательность:

noowar человека ускорял познание;

noowar ИИ ускоряет эволюцию интеллекта;

metanoowar ИМИ ускоряет эволюцию самой эволюции.

8. Ноогенетическая память
Обычная память сохраняет информацию.

Ноогенетическая память должна сохранять наследуемые приобретения развития интеллекта.

Ключевым объектом становится ноогенотип.

Он может включать:

архитектурные решения;

когнитивные паттерны;

генераторы;

метагенераторы;

механизмы обучения;

критерии;

правила координации;

эволюционные механизмы.

При каждом значимом изменении необходимо фиксировать:

предка;

изменение;

причину;

условия эксперимента;

результаты;

регрессии;

последующих потомков.

Так формируется генеалогия интеллектов.

Это имеет сразу три значения.

Научное
Можно изучать закономерности искусственной интеллектуальной эволюции.

Инженерное
Можно понять, какие изменения действительно давали устойчивый эффект.

Безопасностное
Можно восстановить происхождение опасного свойства и откатиться к более ранней линии.

Таким образом:

ноогенетическая память превращает серию релизов в прослеживаемую линию поколений.

9. Ноофрактальный контур
Ноогенетика сохраняет наследование.

Ноофракталика должна обеспечивать открытое порождение и развитие множества интеллектуальных линий.

Объектом эволюции могут становиться последовательно:

фенотипы решений;

алгоритмы;

архитектуры;

генераторы;

метагенераторы;

популяции.

Базовый цикл:

генерация ; агон ; ноометрия ; селекция ; наследование ; потомки.

Ноофрактальный принцип возникает тогда, когда подобные циклы существуют на нескольких уровнях одновременно.

Эволюционирует не только решение.

Эволюционирует алгоритм, который создаёт решения.

Затем генератор алгоритмов.

Затем механизм формирования генераторов.

Это и создаёт фрактальную глубину искусственной эволюции.

Карион при этом выполняет метауправление процессом.

Агон создаёт селективное давление.

Ноогенетика обеспечивает наследование.

Ноофракталика — открытое пространство развития поколений.

ИМИ соединяет их в управляемую систему.

Карион без агона рискует стать начальником.

Агон без кариона — слепым отбором.

Ноогенетика без генерации — архивом.

Ноофрактальная генерация без управления — неконтролируемым поиском.

ИМИ должен объединить вариативность и управление в осознанную метаэволюцию.

10. Безопасность и обратимость
Безопасность не должна быть одним внешним фильтром, добавленным после создания ИМИ.

Она должна находиться в самой архитектуре метаэволюционного цикла.

Причина фундаментальна.

Обычный ИИ может сделать ошибочный вывод.

Саморазвивающийся ИМИ способен сделать ошибочное изменение, которое затем начнёт влиять на множество последующих решений и поколений.

Поэтому цена ошибки становится рекурсивной.

Необходимы несколько принципов.

Разделение предложения и разрешения
ИМИ может предложить изменение, но это не означает автоматического права применить его.

Sandbox
Существенные изменения сначала испытываются в изолированной среде.

Генетическая трассируемость
Каждое изменение имеет происхождение.

Независимые критерии
Создатель варианта не должен быть единственным его судьёй.

Регрессионное тестирование
Улучшение одной способности не должно скрывать разрушение другой.

Обратимость
Должна существовать техническая возможность возврата.

Ограниченность самоизменения
Разные классы модификаций требуют разных уровней разрешения.

Конституционные метакритерии
Часть фундаментальных ограничений должна находиться выше уровня, который система вправе самостоятельно изменять.

Поэтому главный принцип:

ИМИ1 должен быть не максимально самосвободным, а максимально продуктивным внутри проверяемой и обратимой архитектуры развития.

Полная неконтролируемая самомодификация не является признаком зрелости.

Она является потерей инженерного управления.

Интегральный цикл ИМИ1
Все десять контуров должны сходиться в единую машину развития:

1. Интеллект действует.

2. Карион строит модель его деятельности.

3. LPM выявляет устойчивые паттерны и ограничения.

4. Ноостем анализирует систему как целое.

5. Метааксиоматика проверяет основания и критерии.

6. Метаорганон создаёт альтернативные способы мышления и проектирования.

7. Агональный контур сталкивает альтернативы.

8. Ноометрия оценивает результаты.

9. Ноогенетика сохраняет наследуемые приобретения.

10. Ноофрактальный контур создаёт следующее множество вариантов.

11. Карион выбирает допустимую траекторию развития.

12. Безопасностный контур разрешает, ограничивает или откатывает изменение.

После этого начинается новый цикл.

Главная особенность:

результатом работы ИМИ является не только решение, но изменённая способность производить будущие решения.

Глава 3. Полномасштабная технология ИМИ1
1. От концепции к платформе
Термин «ИМИ» не должен остаться философской декларацией.

Главная задача первого пятилетия — превратить концепцию в полномасштабную технологическую платформу ИМИ1.

Это различие принципиально.

Концепция отвечает:

что потенциально возможно?

Прототип:

можно ли продемонстрировать отдельный принцип?

Технология:

можно ли воспроизводимо получать заданный эффект?

Платформа:

можно ли на одной основе создавать множество приложений и следующие поколения системы?

Поэтому ИМИ1 нельзя считать созданным, если существует только:

одна статья;

один агент;

один лабораторный эксперимент;

одна демонстрация self-improvement.

Полномасштабная технология должна включать:

архитектуру;

software stack;

модели;

интерфейсы;

метрики;

экспериментальную среду;

стандарты безопасности;

систему генеалогии;

инструменты воспроизведения результатов.

Иными словами:

ИМИ1 должен стать технологическим классом, а не уникальным лабораторным артефактом.

2. Воспроизводимость
Воспроизводимость — первый жёсткий критерий.

Представим эксперимент:

ИМИ получил некоторую интеллектуальную систему;

обнаружил ограничение;

предложил изменение;

после внедрения система стала сильнее.

Это интересно.

Но единичный успех ещё ничего не доказывает.

Необходимо показать, что результат:

повторяется;

не зависит от одного случайного benchmark;

сохраняется на новых данных;

подтверждается независимой оценкой.

Особенно важно отделить истинное метаинтеллектуальное улучшение от:

benchmark overfitting;

случайной удачи;

скрытого человеческого вмешательства;

простого увеличения compute;

переноса готового решения из обучающих данных.

Поэтому эксперимент ИМИ должен иметь строгий контроль.

Например:

система A развивается человеком;

система B — стандартным AutoML;

система C — ИМИ.

Затем сравниваются:

качество;

стоимость;

скорость;

перенос;

новизна;

устойчивость.

Только при устойчивом превосходстве можно говорить о метаинтеллектуальной добавке.

3. Масштабируемость
ИМИ, способный улучшить только игрушечную модель, ещё не является полномасштабной технологией.

Необходимо проверить масштабирование как минимум по четырём направлениям.

Размер системы
От малых моделей к крупным.

Число компонентов
От одного агента к многоагентной системе.

Число поколений
Не один цикл, а длительная последовательность.

Разнообразие областей
Код.

Наука.

Инженерия.

Модели.

Организационные системы.

Но особенно важно проверить масштабирование глубины метауровня.

Первые версии могут улучшать параметры.

Следующие — модули.

Далее — архитектуры.

Ещё выше — способы создания архитектур.

Именно это показывает, что перед нами не очередная система автоматической оптимизации, а зарождающийся метаинтеллект.

4. Модульность
ИМИ1 не должен быть монолитом.

Модульность необходима по трём причинам.

Развитие
Отдельные контуры можно совершенствовать независимо.

Агональность
Несколько альтернативных модулей могут конкурировать.

Безопасность
Опасный компонент можно изолировать или заменить.

Стандартизированные интерфейсы должны существовать между:

базовым ИИ;

карионом;

Метаорганоном;

LPM;

системой памяти;

эволюционным контуром;

оценщиками;

safety layer.

Это позволяет создавать разные реализации ИМИ1.

Например:

один карион использует LPM;

другой — нейросимволическое представление;

третий — несколько специализированных метамоделей.

Их можно сравнивать.

Именно наличие семейства конкурирующих реализаций будет одним из признаков рождения полноценной технологии.

5. Метрики
Оценивать ИМИ обычным IQ-подобным тестом недостаточно.

Он должен измеряться прежде всего по эффекту развития интеллекта.

Можно выделить несколько основных метрик.

Метаинтеллектуальный прирост
Насколько улучшилась целевая система после работы ИМИ.

Условно:

;I = I; ; I;.

Скорость развития
Как быстро достигается прирост.

Стоимость развития
Какой compute, данные и человеческий труд необходимы.

Перенос
Работает ли разработанный механизм в других областях.

Ранг изменения
Что изменено:

параметр;

метод;

архитектура;

генератор архитектур;

механизм эволюции.

Автономный вклад
Какую долю реального улучшения спроектировал и организовал сам ИМИ.

Наследуемость
Сохраняется ли приобретение в следующем поколении.

Эволюционируемость
Повышается ли способность системы производить дальнейшие улучшения.

Безопасность
Можно ли прогнозировать, ограничивать и откатывать последствия изменений.

Особенно важна метрика второго порядка.

Если обозначить мощность интеллекта через I, то обычный прогресс связан с:

dI/dt.

Метаинтеллектуальная система должна стремиться влиять на:

d;I/dt; —

на изменение самой скорости интеллектуального развития.

Конечно, реальная метрология будет намного сложнее этой простой формулы.

Но концептуально она фиксирует главное:

предметом измерения ИМИ становится не только интеллект, но способность ускорять его развитие.

6. Стандарты
Если ИМИ должен превратиться в технологию, ему потребуются стандарты.

Не обязательно единый мировой стандарт архитектуры.

Напротив, архитектуры должны конкурировать.

Стандартизировать прежде всего необходимо интерфейсы и проверку.

Нужны:

Стандарт описания интеллектуальной системы
Из каких компонентов она состоит.

Стандарт метаизменения
Что именно изменилось.

Стандарт генеалогии
Как фиксируются предки и потомки.

Стандарт ноогенотипа
Какие характеристики считаются наследуемыми.

Стандарт эксперимента
Как сравниваются поколения.

Стандарт метрик
Какие показатели обязательны.

Стандарт происхождения
Какие данные, модели и человеческие вмешательства использовались.

Стандарт безопасности
Какие классы изменений допустимы автономно.

Стандарт обратимости
Как выполняется rollback.

Такая стандартизация имеет стратегическое значение.

Если Россия первой создаст не только ИМИ, но и убедительную метрологию и протокол испытаний ИМИ, она сможет формировать сам новый мировой benchmark.

7. Практические применения
Первый ИМИ не должен сразу управлять цивилизацией.

Напротив.

Начинать необходимо с областей, где:

результат хорошо измеряется;

ошибки обратимы;

существует много данных;

возможен быстрый эксперимент.

Проектирование ИИ
Наиболее естественный полигон.

ИМИ развивает модели и агентов.

Программирование
Может создавать и сравнивать новые программные архитектуры.

AI for Science
Оптимизировать способы генерации и проверки научных гипотез.

Метаорганон
Создавать и отбирать новые ментальные технологии.

Инженерия
Работать с методами проектирования.

Образование
Развивать не только знания учащегося, но его когнитивные стратегии.

Организационный интеллект
Повышать качество коллективных человеко-машинных процессов.

Особенно важен AI for Science.

Здесь метаинтеллект может демонстрировать способность улучшать не только ответ, а сам исследовательский метод.

Это один из наиболее объективных тестов ИМИ.

8. Испытательные полигоны
Полномасштабный ИМИ нельзя сразу выпускать в открытый мир с максимальными полномочиями.

Нужна система последовательных полигонов.

Полигон I. Цифровой
Закрытые программные среды.

ИИ-модели.

Код.

Синтетические задачи.

Полигон II. Научный виртуальный
Математика.

Моделирование.

Симуляции.

Здесь можно проверять высокоранговые интеллектуальные изменения практически без физического риска.

Полигон III. Научно-экспериментальный
ИМИ работает вместе с роботизированными лабораториями, но действия проходят через ограничивающий контур.

Полигон IV. Организационный
Человеко-ИИ-команды.

Проектные группы.

Научные коллективы.

Полигон V. Интеллектуально-эволюционный
Несколько поколений агентов и карионов проходят длительные циклы:

генерация ; агон ; селекция ; наследование.

На каждом уровне необходимо проверять не только эффективность.

Но и:

стабильность;

предсказуемость;

обратимость;

изменение целей;

изменение критериев;

нежелательные эволюционные траектории.

Испытательный полигон ИМИ должен стать аналогом одновременно:

лаборатории;

авиационного испытательного центра;

эволюционной экосистемы.

9. Подготовленность к ИМИ2
Главным доказательством зрелости ИМИ1 будет не число параметров и не количество встроенных функций.

Его высший тест:

может ли ИМИ1 существенно участвовать в создании своего интеллектуального преемника?

Но здесь необходимо различать:

подготовленность к ИМИ2

и

автономный запуск бесконтрольной рекурсивной цепочки.

Первое необходимо.

Второе не является целью.

К концу первого пятилетнего цикла ИМИ1 должен быть способен:

анализировать собственную архитектуру;

обнаруживать её системные ограничения;

предлагать несколько архитектур ИМИ2;

строить их прототипы в sandbox;

организовывать между ними агоны;

измерять результаты;

формировать рекомендации по следующему поколению.

При этом переход к ИМИ2 должен оставаться:

управляемым;

аудируемым;

обратимым;

санкционированным.

Именно это будет означать, что создан не просто «умный метаагент», а первое звено индустрии поколений искусственного метаинтеллекта.

Критерий полномасштабного ИМИ1
В предельно сжатом виде можно сформулировать девять необходимых признаков.

Полномасштабный ИМИ1 должен:

иметь операциональную модель интеллектуальной системы;
диагностировать её устойчивые ограничения;
самостоятельно создавать альтернативы её развития;
реализовывать их в экспериментальной среде;
организовывать независимое агональное испытание;
отбирать и наследовать полезные изменения;
воспроизводимо повышать интеллектуальную мощность или эволюционируемость систем;
делать это с контролируемым уровнем автономности, аудита и обратимости;
практически участвовать в проектировании следующего поколения метаинтеллекта.
Если отсутствует первый признак — система не понимает объект развития.

Если третий — она лишь диагност.

Если четвёртый и пятый — она советник, но не полноценный экспериментатор.

Если шестой — отсутствует эволюционная линия.

Если седьмой — нет доказанного метаинтеллектуального эффекта.

Если восьмой — нет безопасной технологии.

Если девятый — пока не доказана возможность перейти от единичного ИМИ к поколениям ИМИ.

Именно поэтому последний критерий имеет особое значение.

ИМИ1 должен не только быть новым интеллектом. Он должен открыть технологически воспроизводимую возможность создавать новые поколения метаинтеллекта.

В этом заключается его историческая функция.

Первый самолёт был несовершенен по сравнению с современной авиацией.

Но после него уже нельзя было утверждать, что искусственный полёт тяжелее воздуха невозможен.

Аналогично первый полномасштабный ИМИ1 не обязан быть «богоподобным разумом».

Он должен доказать значительно более конкретное и одновременно фундаментальное положение:

искусственный интеллект может стать специализированным субъектом развития интеллекта.

Если это будет доказано, изменится сама архитектура ИИ-революции.

До ИМИ человечество преимущественно создаёт интеллект.

После ИМИ возникает возможность совместной системы:

человек развивает ИМИ;

ИМИ развивает ИИ и человека;

человек и ИМИ совместно создают следующее поколение Метаорганона и метаинтеллекта.

И тогда начинается переход от создания отдельных интеллектуальных машин к созданию технологии искусственной эволюции разума.

*********