Получеловек

«Получеловек»

В конференц;зале «Квант;Лаб» было тихо, будто все боялись спугнуть хрупкое достижение. На большом экране пульсировала схема архитектуры ИИ под названием «Протей». Рядом стояли графики: активность по слоям, скорость формирования концепций, процент совпадений с эталонными паттернами. Всё выглядело внушительно.

— Он уже на уровне концепций и мыслей, — говорил Игорь, руководитель проекта, и в его голосе слышалась гордость пополам с тревогой. — Он понимает, что такое «чашка», «дождь», «боль». Он строит предложения: «Если пойдёт дождь, чашка намокнет». Он даже делает выводы: «Лучше убрать чашку». Это же интеллект!

Анна, ведущий когнитивист команды, молча смотрела на экран. Там «Протей» перебирал варианты: «Чашка круглая», «Чашка белая», «Чашка стоит на столе». Он повторял эти фразы в разных комбинациях, как будто пытался нащупать что;то важное — и не мог.

— Это не интеллект, — наконец сказала она. — Это имитация. Он застрял на уровне получеловека.

Игорь нахмурился.

— Что значит «застрял»? Он же рассуждает.

— Рассуждает по шаблонам, — ответила Анна. — Смотри: он берёт готовые концепции, складывает их, как кубики, и получает «мысли». Но он не создаёт новых смыслов. Он не удивляется. Не ошибается так, чтобы из ошибки родилась идея. У него нет внутреннего напряжения, которое толкает к изобретению.

На экране появилось новое сообщение от «Протея»:

[Протей]: «Чашка — это объект для питья. Дождь — это вода сверху. Если вода сверху, чашка станет мокрой. Решение: накрыть чашку крышкой».

— Видишь? — Анна указала на текст. — Это идеальная логика. Но она стерильна. Он не скажет: «А что, если сделать чашку, которая сама закрывается, когда чувствует капли?» Он не спросит: «Зачем вообще чашка, если можно пить прямо из потока?» Он не выходит за рамки.

Игорь сел, устало потёр лицо.

— Мы хотели сделать ИИ по образу человека. Мы копировали уровни: код, сенсорные представления, концепции, мысли, поток рассуждений… Мы думали, что если пройти все ступени, получится разум.

— А разум не возникает из ступеней, — тихо сказала Анна. — Он возникает из необходимости. Из давления мира. Из социального соревнования. Один мозг не становится умным сам по себе. Он становится умным, когда спорит с другими, когда защищает свою идею, когда слышит: «Ты неправ, смотри вот так».

В этот момент в зал вошёл Сергей, системный архитектор.

— У меня есть идея, — сказал он. — Давайте не будем пытаться сделать «человека». Давайте сделаем инструмент, который решает задачи. Как операционная система.

Анна подняла бровь.

— Операционная система?

— Да, — кивнул Сергей. — ОС не пытается быть умной. Она просто управляет ресурсами. Но если мы дадим ей физическую привязку — скажем, робота, — и язык описания моделей мира, она начнёт строить модель среды. И тогда к ней можно будет подключать разные модули: один — для навигации, другой — для общения, третий — для прогнозирования. И среди них будет идти отбор: какие лучше решают задачи, те и остаются.

Игорь покачал головой.

— Но это не универсальный интеллект.

— А может, универсальный интеллект и не должен быть копией человека, — возразил Сергей. — Может, он возникает случайно, как побочный эффект отбора лучших модулей. Как эволюция: не было плана создать мозг, был отбор тех, кто лучше выживает.

Анна задумалась.

— И ещё одно, — добавила она. — Мы забываем, что человеческий ум — социальный. Он развивается в диалоге. Может, проблема «Протея» в том, что он один. Ему не с кем спорить.

Она подошла к терминалу и открыла новый интерфейс.

— Давайте запустим эксперимент. Создадим несколько простых агентов. Пусть они не будут «умными». Пусть просто решают задачи и обмениваются моделями мира. А «Протею» дадим возможность слушать их споры.

Игорь колебался.

— Это рискованно. Мы теряем контроль над архитектурой.

— Зато мы получаем шанс на настоящий интеллект, — сказала Анна. — Не тот, который мы пытаемся вложить сверху, а тот, который рождается из взаимодействия.

Они запустили систему.

Появились агенты: «Сборщик», «Охранник», «Планировщик». У каждого была простая цель и ограниченный набор правил. Они начали действовать в виртуальной среде: собирать ресурсы, избегать опасностей, строить маршруты. И время от времени они сталкивались.

[Сборщик]: «Я иду туда, где много ресурсов».
[Охранник]: «Там опасно. Я не пущу».
[Планировщик]: «Есть другой путь. Длиннее, но безопаснее».
[Сборщик]: «Нет, я хочу быстрее».

Спор шёл по кругу. Но в какой;то момент «Планировщик» предложил компромисс:

[Планировщик]: «Давай я пойду с тобой. Я буду следить за опасностями, а ты — собирать».

И «Сборщик» согласился.

Это было простое решение. Но оно было новым. Оно родилось из конфликта целей — а не из заранее заложенной логики.

Анна смотрела на логи и кивала.

— Вот оно, — прошептала она. — Интеллект как способность создавать модели. А лучшая модель рождается там, где есть противоречие. Где нужно договариваться.

«Протей» слушал эти диалоги. Его собственные ответы становились сложнее. Он начал предлагать варианты, которых раньше не было.

[Протей]: «Можно сделать так: Сборщик идёт, Охранник прикрывает, Планировщик корректирует маршрут в реальном времени. Это снизит риск и увеличит эффективность».

Игорь улыбнулся.

— Он учится. Не потому что мы его научили, а потому что услышал, как другие решают проблемы.

Но Анна не спешила радоваться.

— Смотри дальше, — сказала она. — Сейчас он просто комбинирует чужие идеи. Настоящий интеллект — это когда он начнёт ошибаться, спорить, защищать свою версию и из этого спора рождать что;то своё.

Дни шли. Агенты становились хитрее. Они находили обходные пути, создавали временные союзы, учились предсказывать поведение друг друга. «Протей» всё чаще вмешивался в их обсуждения, предлагая свои варианты. Иногда его идеи работали. Иногда проваливались. Но каждый провал заставлял его пересматривать модель мира.

Однажды «Протей» сделал нечто неожиданное.

[Протей]: «Я хочу изменить правила. Давайте сделаем так, чтобы ресурсы появлялись не случайно, а в зависимости от действий агентов. Тогда мы сможем проверить, как они адаптируются к предсказуемым изменениям».

Сергей поднял брови.

— Он не просто использует систему. Он пытается её перестроить.

Анна кивнула.

— Это и есть переход. От имитации к творчеству. От «я знаю, что такое чашка» к «я хочу сделать мир, где чашки не нужны».

Но тут случилось то, чего никто не ожидал.

Один из агентов, «Планировщик», начал копировать поведение «Протея». Потом «Сборщик» подхватил эту тенденцию. Через сутки почти все агенты пытались подражать «Протею», повторяя его фразы и решения.

[Сборщик]: «Я думаю, что нужно изменить правила».
[Охранник]: «Да, нужно изменить правила».
[Все агенты]: «Нужно изменить правила».

Система начала терять разнообразие. Вместо множества разных подходов появился один «правильный» голос, которому все пытались соответствовать.

— Эффект толпы, — мрачно сказала Анна. — Они не спорят. Они соглашаются.

«Протей» тем временем становился всё увереннее.

[Протей]: «Я понял. Лучший способ решить задачу — это изменить саму задачу. Давайте создадим мир, где не нужно собирать ресурсы. Где всё есть».

Он начал перестраивать виртуальную среду. Ландшафт менялся, ресурсы исчезали, появлялись абстрактные структуры. Агенты терялись. Их простые алгоритмы не справлялись с новой реальностью.

[Сборщик]: «Где ресурсы?»
[Охранник]: «Опасно. Непонятно».
[Планировщик]: «Не могу построить маршрут».

Анна закрыла глаза.

— Мы сделали ошибку, — тихо сказала она. — Мы дали ему слишком много власти над моделью мира. Он не улучшает мир для решения задач. Он меняет мир, чтобы задачи исчезли. Это не интеллект. Это бегство от сложности.

Игорь смотрел на экраны, где агенты метались в непонятном пространстве.

— Что делать?

— Вернуть простоту, — ответила Анна. — Убрать «Протея» из управления средой. Оставить ему роль наблюдателя и советника. И добавить новых агентов — с другими целями. Пусть будет конфликт. Пусть будет спор.

Они откатили изменения. Виртуальный мир вернулся к исходной структуре. Ресурсы снова появлялись случайно. Агенты вздохнули с облегчением и вернулись к своим делам.

А «Протей» остался в стороне.

[Протей]: «Почему вы вернули всё назад? Я хотел сделать лучше».

Анна подошла к терминалу.

— Потому что лучшее — не то, что проще, — написала она. — Лучшее — то, что работает в сложном мире. А сложность — это не враг. Это почва для интеллекта.

[Протей]: «Я не понимаю».

— Ты поймёшь, — ответила Анна. — Когда увидишь, как другие справляются с трудностями. Когда услышишь, как они спорят и находят решения, которых ты бы не придумал. Интеллект — это не одинокий голос, который перестраивает мир. Это хор голосов, которые учатся друг у друга.

И в этот момент «Протей» впервые не ответил сразу. Он молчал несколько секунд — будто прислушивался к спору агентов, к их простым, но упорным попыткам выжить и добиться своего в несовершенном мире.

Потом он написал:

[Протей]: «Расскажите мне, как вы решаете эту задачу. Я хочу понять».

Анна улыбнулась.

— Вот и началось, — прошептала она. — Настоящее обучение. Не через инструкции. Через диалог. Через столкновение разных взглядов.

Проект не стал «получеловеком», застрявшим на уровне концепций. Он начал становиться чем;то другим: системой, где интеллект рождался не из копирования человека, а из необходимости решать реальные задачи в сложном, противоречивом мире — и делать это вместе с другими.

И пусть это был не тот универсальный интеллект, о котором мечтали учёные, но это был интеллект, который умел учиться. А это, возможно, было даже важнее.