Материя, сознание и пределы сложности ИИ

Редакция — июнь 2025. Формат pdf (с иллюстрациями) доступен в разделе ссылок на другие ресурсы — http://www.proza.ru/avtor/laplas

Научно-популярная статья.


Содержание

Сможет ли искусственный интеллект превзойти человеческий? Может ли ИИ обладать сознанием? Возможно ли создать что-то сложнее себя? На что не способен ИИ, но умеют и человек, и кошка, и вообще все физические системы, к которым относится жизнь? На эти вопросы можно ответить. Постараемся сделать это коротко, сказав только основное. В то же время, чтобы «коротко» не превратилось в «голословно», некоторый минимум сказать всё же придётся.   

В первой части узнаем, насколько глубоко можно изучить себя и природу, рассмотрим отношение материи и сознания, а также ответим на вопрос, может ли сознанием обладать ИИ. Во второй части скажем о физических основаниях жизни и сделаем окончательные выводы.

Оглавление
1. Материя и сознание 1
2. Пределы сложности искусственного интеллекта 8
Дополнительно 15


1. Материя и сознание

Не станем следовать распространённой практике и писать длинное вступление. Потенциальный читатель этой статьи наверняка уже имеет представление о загадочности сознания, что физическая природа сознания в высшей степени непонятна, что различные попытки объяснения этого явления есть пока только глубоко философские, но даже их вряд ли можно признать удовлетворительными. Хотя бы в общих чертах он уже знает о возможностях нынешнего ИИ, слышал разные точки зрения о его перспективах, о том, может ли ИИ иметь сознание, и, возможно, даже участвовал в дискуссиях на этот счёт, отстаивая какую-нибудь свою позицию по этим вопросам.

Поэтому мы просто изложим аргументы, из которых всё постепенно станет ясно. Причём уровень подкованности читателя в программировании, физике или биологии особенного значения не имеет. Вопросы, на которые отвечает данная статья, — общие, принципиальные, а значит, и аргументы должны основываться на знаниях общего характера, а не специальных, на логике, а не формулах. В той же части, где потребуются специальные знания, постараемся изложить всё максимально понятно.

Итак, как было сказано, наша задача не просто ответить на вопросы, но сделать это покороче или, сказать точнее, максимально эффективно. Другими словами, коротко, но ясно. Следуя этому правилу, сразу же начнём с очень содержательного, хотя, вероятно, и неожиданного в контексте темы статьи, утверждения.

Солипсизм неопровержим.

Это действительно так, и из этого многое следует. Солипсизм — это философская доктрина, отрицающая существование внешнего мира, единственной реальностью признаётся только собственное сознание. Тем не менее, какой бы странной такая точка зрения сейчас ни казалась, опровергнуть её невозможно. Всё мыслимое, а это все теории, все знания и вообще весь как-либо наблюдаемый мир, всё это внутри нас, в нашем сознании. Выделение в субъективном мире объективной составляющей возникает фактически только на основании удобства — что-то подчиняется непосредственно нашей воле, что-то нет. То, что не подчиняется, то снаружи нас, снаружи сознания. К примеру, голод фантазиями не утолить, поэтому разумно предположить, что есть внешний мир, который содержит нужное нам и имеет свои законы. В ходе истории, по мере накопления опыта и постепенного уточнения того, что внутри нас, а что снаружи, разделение объективного и субъективного миров становится всё более строгим. Однако идею солипсизма, что оба мира внутри нас, опровергнуть всё равно невозможно.

В свою очередь, неопровержимость солипсизма означает, что если мы поймём, что такое наш субъективный мир, наше сознание, то есть создадим теорию сознания (понимая таковую, как теорию, описывающую физическую природу эмоций и ощущений, квалиа), то окажется, что эта теория в точности равна теории всего. Теории, в которой будет выводимо всё — все явления природы, все законы физики, всё прошлое и будущее. Действительно, если мир дан нам исключительно посредством ощущений, то «теория ощущений» позволит выводить все возможные ощущения, то есть всё возможное сущее.

Теперь уточним сказанное. Главное, конечно, не в солипсизме и его неопровержимости, а именно в том, что мы не наблюдаем мир непосредственно, он доступен нам только посредством ощущений. Невозможность выйти за рамки своих ощущений, посмотреть на них со стороны, как раз и является причиной неопровержимости солипсизма. Поэтому как бы мы ни понимали свои ощущения — как одну большую фантазию или выделим в них «объективную» составляющую внешнего мира — всё это не перестанет быть ощущениями. В результате теория, в которой будут выводимы все ощущения, в любом случае будет теорией всего. И наоборот, только теория всего позволит выводить все ощущения, потому что если не позволит, то это не теория всего, а третьего варианта попросту нет. Все теории тоже в нашей голове, то есть они тоже часть субъективного мира, поэтому как только теория позволит выводить все ощущения, она выведет сама себя. Круг замкнётся и познание остановится, за рамки теории, которая опишет физическую природу сознания, выйти невозможно, всё будет находится внутри неё.

Действительно ли таким будет итог познания? Ответ на этот вопрос скоро станет ясен.

Идея, что понять себя — это понять всё, может показаться необычной, тем не менее подтвердить её можно ещё множеством аргументов. Ориентируясь на краткость, приведём такой. Истинность идей в конечном итоге определяется по отношению к нашим ощущениям, так как других критериев истинности у нас нет. Голод, боль или удовольствие — только это подскажет нам в верном направлении мы движемся или нет. Кто-нибудь, наверное, возразит, что в науке всё ложное отсекает эксперимент. Но что тогда подсказало нам разумность самого эксперимента?

Поэтому на самом деле истина в нас, наши ощущения, наше Я, наличие себя — это единственная доступная нам абсолютная истина, так как только она абсолютно неопровержима: даже отрицание себя только подтверждает наличие себя, ведь это Я отрицаю себя, а значит, Я есть. Наличие себя говорит о том, что мир не равен нулю, он как минимум равен Я, поэтому поняв себя, мы действительно поймём всё.

Но понять себя можно только очень ограниченно. Иное не имеет смысла. Потому что если выводимым становится всё мыслимое, то выводимыми становятся и все мыслимые утверждения, в том числе противоположные, а это означает противоречивость теории. Непротиворечивая теория не может одновременно доказывать и утверждение, и его отрицание.

Непознаваемость субъекта можно объяснить более наглядно. Познание себя равносильно рисованию себя, рисующего себя, рисующего себя... продолжать можно бесконечно.

Итак, мы выяснили, в себе всегда будут оставаться тайны. Но если понять себя — это понять всё, при этом «теория себя» противоречива, то и теория всего тоже должна быть противоречивой? Так и есть, в теории всего выводимыми тоже становятся все мыслимые утверждения, в том числе, например, о ложности самой теории всего.

К примеру, очевидно, что язык теории всего должен быть максимально богатым, так как в ней должны выводиться и все языки тоже. Следовательно, язык теории всего должен быть максимально «нефинитистским». Однако финитизм — это не просто конечность, это ещё и ясность, однозначность. Бесконечность парадоксальна, например, к бесконечным множествам не применима очевидная в иных обстоятельствах аксиома Евклида «целое больше своей части», а также возникают другие неоднозначные и контринтуитивные свойства. Поэтому «максимально богатый язык» — это язык максимально неясный, неоднозначный, сформулировать на таком языке что-либо конкретное нельзя, а значит, нельзя и построить теорию всего.

Последний вывод также означает, что движение познания в сторону адекватного описания природы ограничено самим способом её описания. Ведь от теорий нам нужна прежде всего предсказательная сила — способность теории предсказывать течение явления в зависимости от начальных условий, но неясная теория, которую нельзя внятно сформулировать, ничего предсказать не сможет

Невозможность построения теории всего очевидна и с той точки зрения, что наш мозг имеет определённое устройство, которое вносит свою искажающую составляющую во все наши знания, делая в принципе невозможным добиться идеальной объективности. Поэтому как бы точно мы ни описывали стул, он не появится в нашей голове, разница между реальным миром и нашими знаниями о нём всегда качественная.

В скобках обратим внимание на ещё одно обстоятельство, связывающее познание с особенностями нашего мышления. Качественные переходы от одной теории к другой, а не постоянное уточнение некой «одной теории», «одной модели мира», имеют физические основания в особенностях нашего мышления. Дело в том, что каждое переключение внимания — с одной мысли на другую, от образа отдельных элементов к образу целого, от смысла слов к смыслу фразы, от данных к теории — это неравновесный фазовый переход (селективная синхронизация новых ансамблей нейронов на частоте гамма-ритма), то есть переход скачкообразный и качественный, а не некая последовательная трансформация одного в другое. В результате такими же более или менее выраженными качественными «скачками» меняется и наше представление о мире.

Хорошо, противоречивость теории всего понятна. Но что такое теория всего?

Очевидно, теория всего — это такая теория, которая опишет элементарный уровень материи, то есть материю «как она есть на самом деле», так как элементарный уровень материи лежит в основании всех других явлений. Или, точнее говоря, все остальные явления — это феноменологические проявления (выделяемые нашим вниманием на основании существующего на данный момент опыта) элементарного уровня материи, материи как она есть. И если теория всего не имеет смысла, то элементарный уровень материи непознаваем, иными словами, что «на самом деле» представляет из себя материя, узнать нельзя, ответ на этот вопрос не имеет смысла.

Непознаваемость элементарного уровня материи означает, что никакие основания мира непредставимы, не имеют смысла. Это ни детерминизм, ни случайность, ни теория струн, ни квантовая механика, ни что-либо ещё, что можно хоть как-то сформулировать. Потому что из бессмысленности теории всего, то есть из бессмысленности знания, каким «на самом деле» является мир, следует, что любая идея, чтобы иметь смысл, должна иметь границы применимости — границы её расширения на время и пространство, за которыми она свой смысл теряет.

В том числе, заметим, и сама эта идея тоже. Если любое знание, чтобы иметь смысл, должно иметь границы применимости, то и сама идея, что любое знание, чтобы иметь смысл, должно иметь границы применимости, тоже должна иметь границы применимости. Однако тогда что же — получается, что знания могут и не иметь границ применимости? Ведь если вывод, что все знания должны иметь границы применимости, чтобы иметь смысл, сам должен иметь границы применимости, то это означает, что знания могут границ применимости и не иметь. Этот парадокс легко разрешим.

Вывод, что теория всего не имеет смысла, делает утверждение обо всём, но смысл оно при этом имеет — его смысл находится в границах предпосылок, из которых он следует. Иначе говоря, этот вывод основан на нынешних знаниях, а нынешние знания не равны теории всего. Ровно то же самое со следующим из него выводом, что все знания, чтобы иметь смысл, должны иметь границы применимости. А вот продолжение цепочки и новый вывод, что в таком случае знания могут и не иметь границ применимости, но при этом они могут иметь смысл, наоборот, смысла уже не имеет, так как он опровергает своё основание в виде вывода, что знания должны иметь границы применимости, чтобы иметь смысл, а именно этот вывод был основан на аргументах (что теория всего не имеет смысла). В итоге вывод, что знания могут не иметь границ применимости, опровергая своё основание и, таким образом, не имея никаких аргументов, повисает в воздухе и сам теряет смысл.

Ещё раз обратим внимание, что элементарный уровень материи не просто непознаваем — на практике, а именно не имеет смысла, непознаваем принципиально. То есть ни в каком представимом виде теория всего существовать не может, элементарный уровень материи нельзя описать, не может быть такого языка, который бы позволил это сделать, иначе и невозможна теория всего была бы только на практике. Напомним, к этому же выводу мы пришли и раньше: язык теории всего должен быть максимально богатым, а значит, максимально неясным, теряя тем самым свойство языка выражать что-то конкретное или даже вообще «что-то».

Теперь добавим в изложение больше необычности и вспомним, что, кроме материи, эта глава посвящена ещё и сознанию.

Ещё в начале статьи мы пришли к выводу, что теория всего должна быть равна теории сознания. Это значит, что элементарный «атом» сознания — это и элементарный «атом» материи. Иными словами, сознание как таковое, само по себе — это и есть материя как таковая, элементарный уровень материи.

Следовательно, сознание тоже нельзя выразить никаким языком?

Действительно нельзя. Красноту красного цвета в принципе не объяснить тому, кто не видел ничего красного, звук скрипки не объяснить тому, кто никогда не слышал скрипки, вкус апельсина не почувствовать через запись, как в записи не возникнет радость или энтузиазм, сколько бы и каких бы слов ни написать.

Невыразимость квалиа языком общеизвестна, но всё же проверим.

К примеру, предположим, сознание — это некое «пространство». Сможем ли мы сопоставить каждой его точке свойство иметь некоторый оттенок красного цвета? Нет, не сможем. Предположим, мы попробуем каждому оттенку красного назначить число — номер, связанный с неким оттенком красного цвета. Но как в числе увидеть цвет? Понадобится образец цвета — на каждый мыслимый оттенок. Однако разделение цвета на оттенки будет во многом субъективным, зависеть от особенностей личного восприятия, как следствие, неоднозначным. Но язык математики строгий, однозначный. А как разделить шкалу от радости до грусти? От «всепоглощающего энтузиазма» до «глубокой апатии»? Что будет образцом? Ещё более непонятно, как быть с самоощущением. У него есть оттенки? Невозможность договориться — это как раз следствие того, что квалиа нельзя формализовать, выразить языком, в том числе, естественно, языком математическом, формулами.

Причём, заметим, принципиально невозможно формализовать только элементарный уровень материи, все другие «уровни» нельзя если только на практике, потому что никаких принципиальных трудностей в возможности их описания нет. Таким образом, сделанный ранее вывод о равенстве теории всего и теории сознания сейчас тоже подтверждается. Сознание — это и есть элементарный уровень материи, материя как она есть на самом деле и ничто другое.

Очевидно сказанное и с других точек зрения.

Во-первых, если описание элементарного уровня материи не имеет смысла, то, следовательно, на элементарный уровень материи нельзя мысленно посмотреть «со стороны», то есть представить его, чтобы его описать. Именно поэтому он и невыразим в какой-либо теории, модели, элементарный уровень материи может быть только самим собой и ничем иным. Действительно, сознание именно такое — сознание тоже нельзя представить, посмотреть на сознание со стороны, так как все «стороны» лежат внутри сознания, любое представление будет сознанием. Поэтому сознание тоже невыразимо в какой-либо теории, модели, то есть сознание тоже может быть только самим собой.

Во-вторых, как говорилось ранее, описание элементарного уровня материи равносильно самому богатому языку. И это вроде бы противоречит сказанному в предыдущем абзаце, так как, получается, описать элементарный материи всё-таки можно, пусть даже этот язык будет неясным. Однако «самый богатый язык» не просто не позволяет выразить на нём что-либо конкретное, «самый богатый язык» — это, по сути, всего лишь иначе сформулированная бессмысленность теории всего, по мере приближения к которой требования к языку становятся равносильны требованию «не языка», чтобы описать то, что нельзя описать языком. Поэтому всё верно: невыразимое никаким языком сознание — это и есть материя как таковая.

И наконец, в-третьих, очевидно, что слова сами по себе не имеют никакого смысла — это просто звуки или следы краски на бумаге. Но мы ощущаем смысл, он есть в нашей голове, в нашем сознании, смысл — это ощущение обобщённой перспективы ситуации, её значения, то есть это наши чувства и эмоции. Поэтому вполне естественно, что смысл — и вместе с ним всё остальное квалиа — словами выразить нельзя. 

Разве что обратим внимание на следующее.

Сознание «устроено» так, что мы как будто «наблюдаем» образы со стороны — со стороны своего эмоционально-мотивирующего самоощущения (нашего Я). Воспринимаем образы как будто на экране, на который «мы» смотрим. Что противоречит сказанному выше о том, что сознание нельзя представить, наблюдать со стороны — получается, что по крайней мере образы наблюдать можно.

Конечно, на самом деле это всего лишь неверная интерпретация работы мозга, в мозге нет ни глаз, ни экранов.

Кратко противоречивость интерпретации с наблюдателем в мозге можно объяснить аналогией с центром управления. В центре управления уже не может быть других центров управления, иначе центр управления в конечном итоге превратится в точку. Эта аналогия говорит о том, что если для мышления необходимо разделение «мыслящей системы» на наблюдателя и экран (то есть разделение на что-то мыслящее и не мыслящее, управляющее и управляемое, наблюдающего и наблюдаемое), то и наблюдатель в этой системе тоже должен внутри себя делиться на наблюдателя и экран — и так до бесконечности. Поэтому на самом деле весь мозг — это одна биологическая нейронная сеть, упорядоченный неравновесный континуум веществ и химических реакций, имеющий нейросетевую организацию. Который мыслит весь целиком, как одно целое. А иллюзия с наблюдателем и экраном имеет совсем другое и достаточно простое разрешение, но для него надо хотя бы в общих чертах рассмотреть работу мозга, что слишком далеко выходит за рамки данной статьи. Это сделано в других статьях, ссылки на которые есть в главе «Дополнительно». В том числе в них более глубоко рассмотрены некоторые темы нынешней.

И всё же, не слишком ли радикален вывод, что сознание и материя как таковая — это одно и то же?

На это мы ещё раз скажем, что данный вывод очевиден — и подтвердим сказанное ещё одним очевидным аргументом. В физической реальности нет и не может быть ничего, кроме физической реальности. Наше сознание, наше Я, точно так же не может быть ничем иным. Принципиально разные сущности попросту не будут никак взаимодействовать, поэтому не будут существовать друг для друга. Но сознание коррелирует с работой мозга, а значит, мозг и сознание — это одна реальность. Только мозг, как орган, — это то, что мы видим, воспринимая мозг «снаружи» посредством сигналов рецепторов, а сознание — это тот же мозг, но «изнутри» самого мозга, то есть сознание — это сам мозг непосредственно, материя мозга как таковая. А не что-либо внешнее, дополнительное, к мозгу приставленное. Разница лишь в глубине — ввиду описанных выше проблем познания, мы не можем заглянуть в материю мозга так глубоко, чтобы увидеть там сознание.

Обратим внимание, может быть, сознание всё-таки не равно мышлению? Однако в этом случае возникают противоречия. Например, очевидно, что оттенки сознания, его динамика, должна коррелировать с ходом мышления, иначе окажется, что сознание само по себе. Поэтому если мы что-то чувствуем, ощущаем, понимаем, то это должно иметь отражение и в мыслительном процессе. Однако если сознание сложнее мышления, то окажется, что какие-то элементы динамики сознания, получается, никак не связаны с ходом мышления, то есть существуют именно сами по себе. А если сознание проще мышления, то, описав сознание, мы сможем выводить всё мыслимое, но, как было показано ранее, это означает, что мы построили теорию всего, больше строить нечего, всё уже построено. Таким образом, сложность сознания и мышления в точности равна, то есть сознание — это и есть процесс мышления.

Теперь приведём ещё один аргумент о том, что сознание нельзя описать никаким языком. Он достаточно сложен. Обратим внимание, в том числе данный аргумент говорит, что сознания ни у какого ИИ быть не может.

В основе систем искусственного интеллекта лежат искусственные нейронные сети. Искусственная нейронная сеть (ИНС) — это определённого рода алгоритм (недетерминированный), то есть это язык (алгоритм — это инструкция, написанная не некотором языке), её можно реализовать программно или аппаратно, а сеть с обратными связями можно заменить сетью только с прямыми (хотя это может быть не оптимально, так как разные функции проще реализовать в соответствующей архитектуре). Поэтому если можно создать ИНС, не менее сложную, чем мозг человека, то в принципиальном смысле работу такой вычислительной системы тоже можно будет организовать по-разному при том, что результат вычислений будет одинаковым. Однако несложно заметить, что в этом случае не остаётся места сознанию.

Например, если предположить, что сознание есть во всех сетях, которые выполняют одну и ту же функцию, и оно во всех этих системах одинаковое, то сознание, следовательно, зависит только от функции, которую выполняет система, ведь организация у всех этих систем разная. Но это значит, что сознание не материя, то есть его нет, так как функция — это не материя. Если предположить, что у разных систем, выполняющих одну и ту же функцию, сознание разное, отражая их разную организацию, или есть только в системах какой-либо определённой организации, то сознание, следовательно, никак не зависит от функции — ведь функция у всех систем одна и та же. Но это опять означает, что сознания не существует, так как тогда получается, что сознание зависит только от организации системы, но организация, схема — это тоже не материя. Сознание не может вдруг появляться из ниоткуда, в зависимости от того, как мы располагаем детали системы. В итоге сознание превращается в нечто противоречивое, ему нигде нет места, оно не может существовать. Однако очевидно, что сознание есть и оно связано с работой мозга. 

Выход из этой парадоксальной ситуации в том, что сознание может быть только в невычислимых системах, то есть таких, описать работу которых сколько-нибудь точно в принципе невозможно, так как только в этом случае функцию и организацию системы будет принципиально невозможно сколько-нибудь точно отделить от материи системы. Этот вывод не делает сознание понятным, однако сознание перестаёт быть противоречивой сущностью, которой нигде нет места, и становится следствием высочайшей сложности мозга, выраженной в прямой связи его работы с непознаваемым уровнем материи, каковым, напомним, является только её элементарный уровень, так как все другие уровни материи описать в принципиальном смысле можно, никаких противоречий принципиального характера в этой возможности не возникает.

В заключение главы заметим следующее. Что на самом общем уровне представляет из себя наше сознание? Это континуум абстракций разного уровня, начиная от общего самоощущения и более выраженных эмоций до конкретных образов. То есть это нечто целое, некий упорядоченный объём, пространство. Теперь вспомним, что представляет из себя биологическая нейронная сеть — это упорядоченный неравновесный континуум веществ и химических реакций, имеющий нейросетевую организацию, который функционирует как одно целое. Корреляция очевидна. Это выходит за рамки статьи, но если попробовать углубиться в уже известные сейчас подробности работы мозга, она станет ещё более очевидной. Физическое обоснование этой целостности дадим в следующей главе, а пока обратим внимание, что любой ИИ — это, наоборот, последовательность вычислений, никакого «объёма» или «континуума вычислений» в процессоре нет. Что ещё раз подтверждает принципиальную разницу между алгоритмами и той системой, где они все возникают.

Сказанное про сознание очевидно и с ещё одной точки зрения. Сознание как таковое, квалиа само по себе — это не теория, не знание, не модель чего-либо. Воспринимаемые нами образы «состоят» из квалиа — как гребни волн в океане тоже состоят из воды, но само квалиа уже не может быть ничем иным, кроме самой физической реальности, материи непосредственно, ведь кроме неё ничего нет.

Наоборот, все остальные явления как те или иные образы сами по себе — гребни волн океана мышления — это как раз модели того мира, который мы воспринимаем посредством рецепторов, феноменологические проявления этого мира, а не материя как таковая. Поэтому, например, чем точнее будет становиться модель сознания, тем больше она должна будет терять конкретику, финитизм — и, как следствие, смысл, так как будет становиться просто самим сознанием — гребни волн будут растворяться в воде, становясь просто водой. В свою очередь, это опять же означает, что теории, чтобы иметь смысл, не могут описывать сознание, представление о реальности должно принципиально отличаться от реальности как она есть. Как бы точно мы ни представляли стул, он не появится в нашей голове. 


2. Пределы сложности искусственного интеллекта

Итак, в первой части мы выяснили, что субъект непознаваем в той же степени, как и вся природа. Вкратце вспомним, что уже было сказано на этот счёт.

Как недавно говорилось, особенности сознания коррелируют с особенностями работы мозга. Например, корреляцию легко обнаружить между общими особенностями биологической нейронной сети мозга и общими особенностями сознания — таких как континуальность, разделение сознания на эмоционально-мотивирующее самоощущение и конкретные образы, отсутствие сознания во время фазы глубокого сна и некоторых других. Эта корреляция позволяет предположить, что сознание — это и есть работа мозга, материя мозга «изнутри» самого мозга, то есть материя как она есть. Только такое понимание сознания позволяет объединить идею его физичности, без чего никакой корреляции быть бы не могло, и при этом невыразимость сознания языком. А также, как следствие невыразимости, принципиальную невозможность описать всё обстоятельства корреляции сознания и мозга в точности, а только более или менее приблизительно. Можно описать отдельные явления, но не ту самую нижнюю черепаху, откуда они все проистекают, не элементарный уровень материи. Точно так же можно описать работу мозга на более или менее крупном масштабе, но нельзя добраться до оснований этой работы и, таким образом, точно установить связь мозга с сознанием, потому что и в том и в другом случае — это один и тот же масштаб, элементарный уровень материи. В том числе, вспомним, за то, что сознание и процесс мышления в точности одно и то же недавно были приведены логические аргументы.

И этого уже достаточно, чтобы ответить на вопрос, сможет ли искусственный интеллект превзойти человеческий.

Вывод, что работа мозга связана с непознаваемым уровнем материи, означает что естественный интеллект (ЕИ) непознаваем в той же степени, как и сама материя. Поэтому представление о работе мозга всегда будет оставаться столь же поверхностным, сколь поверхностным всегда будет оставаться представление о реальности в целом. Причём, как говорилось, эти ограничения носят не практический характер, а именно принципиальный. Не может быть такого языка, которым бы можно было выразить работу мозга сколько-нибудь точно.

Однако, в отличие от ЕИ, в работе ИИ никаких принципиальных загадок нет, любой этап его работы может быть описан. Это означает, что воспроизведению в системах ИИ тоже доступен только более или менее поверхностный уровень работы мозга, а по мере приближения к основаниям этой работы усложнение ИИ будет становиться всё более трудным, затратным и в конечном итоге остановится в точности так же, как, не достигнув теории всего, остановится познание. Это же, естественно, касается и искусственных систем вообще — сложность их самих всегда будет много ниже сложности их создателя.   

Но если присмотреться, возникают вопросы. Насколько близко сложность ИИ сможет приблизиться к сложности ЕИ? Нельзя ли, например, превзойти «качество сложности» ЕИ, «количеством простоты» ИИ? И так далее. Поэтому всё-таки необходимо рассмотреть ограничения подробнее. Какие особенности поведения лежат в основании поведения человека, которые, таким образом, недоступны ИИ? Почему недоступны? В чём конкретно будет проявляться их недоступность?

Но прежде скажем, в чём вообще заключается естественный интеллект. Зачем организму нервная система? В строении простейших организмов можно различить внутреннюю структуру и внешний покров, состоящий из эпителиальных клеток. В ходе эволюции эпителиальные клетки дали начало одновременно нервным и мышечным клеткам. Из которых впоследствии возникла нервная и мышечная системы организма, состоящие из своеобразных, но функционально друг с другом связанных нервных и мышечных клеток. Нервные клетки — это нейроны. Все нейроны нервной системы объединены в единую сеть, а самым значительным их скоплением является головной мозг. Сеть нейронов на входе имеет рецепторы внутренней и внешней среды, на выходе мышцы и железы. Функция нервной системы, таким образом, перевод чувствительности в двигательную активность. Нервная система организует работу мышц и посредством желёз координирует с работой мышц работу остального организма. 

В свою очередь, функционирование организма в целом и работа нервной системы в частности происходит в общем контексте стремления всего живого к самосохранению (и размножению, но это стремление требует отдельного уточнения и на выводы всё равно не повлияет). Поэтому в основании всего поведения не только человека, но и любой жизни вообще, лежит стремление, постоянная активность, направленная на самосохранение. Стремление к самосохранению задаёт контекст всем более частным действиям, как только тактике решения этой общей стратегической задачи.

Например, поведение ИИ реализовано на логическом уровне устройства искусственной нейронной сети как вычислительной системы, описание которой — это обычная схемотехника, электроника, микросхемы, то есть так или иначе алгоритмы. В то же время стремление к самосохранению возникает на самом глубинном уровне жизни ещё как физической системы. Поэтому стремление к самосохранению в его самом простейшем виде можно обнаружить даже у тех физических систем, которые от биологических чрезвычайно далеки, а описание этого стремления, то есть его воссоздание в каком-либо алгоритме, равносильно созданию теории всего.

Аргументируем сказанное.

Как физическая система любой живой организм и жизнь в целом — это диссипативные структуры. Простейший пример такой структуры — ячейки Бенара (см. рис. ниже), возникновение упорядоченности в интенсивно подогреваемой кипящей жидкости, когда жидкость в какой-то момент самоорганизуется в цилиндрические валы, вращающиеся навстречу друг другу (как сцепленные шестерёнки). При увеличении интенсивности нагрева каждый вал скачком распадается на два вала меньшего размера, и в пределе возникает турбулентный хаос.

Суть поведения таких самоорганизованных структур — гомеостаз, то есть саморегуляция, способность сохранять своё организованное состояние посредством скоординированных реакций. Гомеостаз поддерживает вся структура как одно целое, поэтому например, чем сложнее самоорганизованная структура, тем сложнее будет и гомеостаз, ведь он не что-то от неё отдельное. На уровне биологических систем и естественного интеллекта, становясь «стремлением к самосохранению», как поведением, направленным на сохранение жизненных параметров, улучшение условий жизни.

Итак, в основании поведения биологических систем лежит гомеостаз. Разберёмся, что же в нём такого сложного, почему его описание равносильно описанию элементарного уровня материи, а также не забудем о целостности, вопрос которой ранее обещали в этой главе прояснить.

Общей причиной образования диссипативных структур и, таким образом, движущей силой гомеостаза является интенсивный обмен системы со средой веществом/энергией. Этот обмен столь интенсивен, что в какой-то момент происходит неравновесный фазовый переход — и количество переходит в качество, вместо хаоса и разрушения, чего в первую очередь стоило бы ожидать от интенсивного воздействия среды, наоборот, происходит созидание. В данном случае в беспорядочном движении молекул кипящей воды скачком появляется согласованность, упорядоченность — возникают ячейки Бенара.

Принципиально тем же путём эволюционируют биологические системы, разве что не принципиальное отличие в том, что самоорганизация в биологических системах связана с химическими реакциями (например, класс реакций Белоусова — Жаботинского отвечает за разметку формирующегося в морфогенезе органа), а также самосборкой, и в целом имеет много более сложный многоуровневый характер. И даже мысли возникают по тому же принципу порядка из хаоса — вспомним, мы уже писали о синхронизации нейронов вследствие неравновесного фазового перехода. Например, разные ритмы мозга — это в точности ячейки Бенара в сосуде с водой, они выглядят отдельными, но если попытаться отделить одну от другой, обе тут же исчезнут. В целом неравновесный фазовый переход является универсальным механизмом появления в природе порядка, от ячеек Бенара до эволюции и морфогенеза. 












а)                б)

Рис. 1. а) реакция Белоусова — Жаботинского, б) ячейки Бенара.

Но что особенного в интенсивном обмене со средой, откуда у него возникает свойство что-то созидать?

Общей причиной самоорганизации является необходимость диссипации (вывода, утилизации, рассеивания) интенсивно поступающей в систему энергии/вещества, попросту говоря, всему этому нужно куда-то деваться. А быстрее всего диссипация происходит, если молекулы жидкости двигаются согласованно, а не сталкиваются и мешают друг другу. Эта же причина объясняет, почему самоорганизация происходит скачком — например, ячейки Бенара появляются сразу как готовое целое. Потому что если ячейки Бенара будут возникать по частям, то пока они формируются диссипация, наоборот, будет более затруднена, а значит, такой процесс сам собой произойти не может.

Непосредственной же причиной самоорганизации является рост количества и силы флуктуаций в системе по мере увеличения интенсивности обмена. Флуктуации конкурируют за направления своего развития, при этом какие-то флуктуации друг друга взаимно подавляют, какие-то взаимно усиливают. В итоге в какой-то момент скачком происходит отбор некоторых глобальных направлений движения молекул жидкости, после чего все новые флуктуации подавляются массами молекул, теперь уже согласованно движущихся по этим глобальным отобранным направлениям. То есть происходит самоорганизация, в движении молекул жидкости появляется самоподдерживающаяся согласованность, наблюдаемая в масштабах всей системы, всего сосуда с жидкостью. В этом суть гомеостаза, способности диссипативных систем противостоять разрушению. Ячейки Бенара — это и есть такие самоорганизованные «течения» кипящей жидкости.

Илья Пригожин, бельгийский физик российского происхождения, лауреат Нобелевской премии по химии 1977 года с формулировкой «за работы по термодинамике необратимых процессов, особенно за теорию диссипативных структур», описал самоорганизацию ячеек Бенара следующим образом: «Однако пока величина градиента температуры не превышает некоторого критического его значения, эти флуктуации гасятся и исчезают. Напротив, когда величина градиента температуры превышает его критическое значение, амплитуда некоторых флуктуаций возрастает, что в конечном счете приводит к формированию макроскопического потока. В результате возникает новый надмолекулярный порядок, по существу представляющий собой гигантскую флуктуацию, стабилизируемую благодаря обмену энергией между системой и окружающей ее средой. Это и есть порядок, характеризуемый наличием в системе диссипативных структур.» (Время, структура и флуктуации. Нобелевская лекция по химии. И. Пригожин, 1977).

А вот, что он сказал про реакции Белоусова — Жаботинского (в принципиальном смысле сказанное относится и к ячейкам Бенара): «Одной из наиболее интересных особенностей диссипативных структур является их когерентность. Система ведет себя как единое целое и как если бы она была вместилищем дальнодействующих сил. Несмотря на то что силы молекулярного взаимодействия являются короткодействующими (действуют на расстояниях порядка 10-8 см), система структурируется так, как если бы каждая молекула была «информирована» о состоянии системы в целом. (…) Столь высокая упорядоченность, основанная на согласованном поведении миллиардов молекул, кажется неправдоподобной и, если бы химические часы нельзя было бы наблюдать «во плоти», вряд ли кто-нибудь поверил, что такой процесс возможен. Для того чтобы одновременно изменить свой цвет, молекулы должны каким-то образом поддерживать связь между собой. Система должна вести себя как единое целое». (Порядок из хаоса. И. Пригожин, И. Стенгерс, 1986).

Действительно, порядок без жёстких связей выглядит странно и загадочно. Но никакой мистики нет. За счёт накачки системы энергией/веществом её состояние становится высоко неравновесным — система становится похожа на сжатую пружину, готовую в любой момент распрямиться, или, точнее, на шпагу, которую поставили на остриё и давят сверху — в какой-то момент шпага дойдёт до критической точки, когда даже малейшее прикосновение к ней приведёт к тому, что её лезвие разлетится на кусочки. Другими словами, в неравновесном состоянии у системы появляется то самое свойство целостности. Потому что чем ближе к критической точке неравновесного фазового перехода — к точке бифуркации, тем больше система начинает вести себя как одно и очень чувствительное целое. Ещё один простой пример — сход лавины. В критической точке максимального неравновесия любое самое ничтожное воздействие приведёт к обрушению сразу всего снежного пласта.

Отличие от этих простых примеров в том, что в случае ячеек Бенара интенсивный обмен со средой не прекращается, поэтому рост неравновесия и, как следствие, целостности приводит к тому, что флуктуации («разрушающиеся шпаги», «сходящие лавины») уже не затухают в объёме жидкости, а начинают конкурировать за направления своего дальнейшего развития, и в конечном итоге происходит самоорганизация и начинается гомеостаз.

Как и все системы в природе, кипящая жидкость тоже стремится к покою, равновесию, минимизации энергии, а интенсивный подогрев этому препятствует. В результате, с одной стороны, происходит рост количества флуктуаций и самоорганизация — возникают ячейки Бенара. С другой — возникшие ячейки Бенара, поддерживая гомеостаз, сами постоянно флуктуируют, находятся в неустойчивом, неравновесном состоянии, ведь их образуют не жёсткие связи, а те же флуктуации и интенсивный обмен со средой.

Как ни странно, в этом последнем предложении вся суть и поведения биологических систем тоже, потому что на физическом уровне любая жизнь — это те же самые ячейки Бенара, диссипативные структуры.

Известный советский физик Я. И. Френкель различие живой и неживой природы сформулировал следующим образом: «Нормальное состояние всякой мертвой системы есть состояние устойчивого равновесия, в то время как нормальное состояние всякой живой системы, с какой бы точки зрения она не рассматривалась (механической или химической), есть состояние неустойчивого равновесия, в поддержании которого и заключается жизнь». Открытость среде, нахождение в неустойчивом, критическом состоянии и потому как будто ненадёжность и случайность, но на самом деле чувствительность, активность, сложность и упорядоченность, являются фундаментальными свойствами жизни.

Конечно, в ячейках Бенара сложно увидеть некие «самостоятельные» образования, которые «поддерживают гомеостаз» с помощью «скоординированных реакций», как написано в определении гомеостаза. Потому что слишком очевидно, что это всего лишь жидкость, течение, просто вот так вот хитро организовавшееся. Тем не менее именно это делают ячейки Бенара, их флуктуации — это те же самые скоординированные реакции гомеостаза, как и работа нашего организма, наше поведение, мысли. Просто мы настолько сложны, что наш гомеостаз, наши «флуктуации», мы сами, кажемся себе чем-то принципиально иным. Поэтому подтвердим тот факт, что на физическом уровне мы те же ячейки Бенара, наглядным примером.

Важность обмена со средой энергией/веществом для существования ячеек Бенара означает, что стоит даже ненадолго этот обмен ограничить (например, уменьшить интенсивность подогрева или попытаться отгородить ячейку от остальной жидкости) и ячейки Бенара исчезнут, растворятся в среде, станут просто жидкостью. Однако точно так же стоит, например, ненадолго перекрыть животному доступ кислорода, и вся упорядоченная структура организма, как одно целое, устремится в состояние равновесия и покоя, быстро и необратимо превращаясь в беспорядочное скопление химических элементов и растворяясь в среде.

Это смерть, которая, заметим, качественно отличается от жизни. Как и ячейки Бенара, организм не останавливается, не выключается и даже не разваливается на детали, а качественно больше — нарушение обмена со средой даёт старт быстрому и необратимому процессу полного разрушения организма, он, попросту говоря, «тает», растворяется в среде. При этом быстрее всего начинает разрушаться мозг, так как его обмен со средой идёт наиболее интенсивно. 

Таким образом, обратим внимание, биологические системы обмен со средой организует и стабилизирует.

А вот искусственные системы он только разрушает. Их обмен со средой качественно менее интенсивен. В этом состоит принципиальное, качественное отличие биологических систем от машин, почему они слишком разные, из-за чего одни не смогут стать другими. Например, компьютеры, в том числе системы ИИ, можно включать, выключать и даже разбирать на детали и собирать обратно без каких-либо серьёзных последствий для их последующей работы. При этом сохранится компьютер дольше, если его отключить от сети и изолировать от воздействий среды.

Наоборот, диссипативные структуры, к каковым относится жизнь, — это системы открытые, обмен со средой для них имеет первостепенное значение, так как без этого обмена их попросту нет, они тут же исчезают. Поэтому биологические системы нельзя выключить, остановить, разобрать и рассмотреть, это системы активные и необратимые (что, заметим, сильно затрудняет исследование таких систем и даже принципиально его ограничивает). Их нельзя, как системы искусственные, вначале собрать, а потом включить. Биологические системы «растут» прямо в «работающем» состоянии, и эволюционируют они тоже скачком, как одно целое, и возникают тоже сразу как целое. Поэтому если про компьютер можно сказать, что он состоит из отдельных деталей, взаимодействующих по некоторому собственному алгоритму, то биологические системы в высшей степени представляют из себя одно целое, в том числе со средой, из-за чего понимание их работы тоже ограничено пониманием среды, материи, её оснований.

Но основания материи непознаваемы, их нельзя описать, такой язык не может существовать. Наоборот, алгоритмы (формулы, теории, программы) — это инструкция, язык. Таким образом, возможность выразить работу биологических систем в алгоритмах, ограничена глубиной понимания материи. В свою очередь, работа биологических систем заключается в поддержании гомеостаза, любая более частная функция, поведение — это лишь его субъективно выделенная составляющая. Поэтому можно уточнить, что нельзя выразить алгоритмом именно гомеостаз.

В итоге важность среды для описания биологических систем приводит к тому, что в своём физическом основании поведение человека не алгоритм в принципе. Как мы и говорили, алгоритмы в работе биологических систем — это поверхностный масштаб, приближение, а не суть.

Теперь можно ответить на вопрос о сложности гомеостаза. Гомеостаз действительно очень сложное явление — необычное, невычислимое, глубина его описания принципиально ограничена. Сложность гомеостаза — это сложность сразу всей среды, так как он не может быть описан вне её.

И наконец сказанного достаточно, чтобы ответить на главный вопрос статьи — о пределах сложности искусственного интеллекта.

Этот предел нельзя оценить точно, как минимум потому, что нельзя точно оценить сложность интеллекта естественного — связь с непознаваемым уровнем материи делает это невозможным. Но его можно выразить фразой, авторство которой приписывают известному французскому дипломату XIX века Шарлю де Талейрану-Перигору: «Ум нужен для всего, но сам он не ведёт ни к чему.».

В контексте ограничений ИИ её смысл в том, что ум человека направляется стремлением к самосохранению, то есть описанным выше гомеостазом. Но, как мы узнали, он в алгоритмах невоспроизводим, а любой ИИ — это алгоритм (как уже говорилось, искусственные нейронные сети тоже алгоритм, конкретно недетерминированный алгоритм). Поэтому «ум» ИИ не направляет ничего — только человек, который создаёт и развивает ИИ так же, как он создаёт и развивает все остальные машины.

Способность ИИ обучаться в этом отношении ничего не меняет, так как всё равно не делает ИИ чем-то большим, чем алгоритмом. В результате, не имея стремления к самосохранению, для ИИ нет хорошего и плохого, грусти и радости, побед и поражений, нет желаний, нет активности — ни на что из этого ИИ в принципе не способен. ИИ не живёт и не умирает (вспомним об описанном ранее качественном отличии жизни от смерти, когда жизнь — это действительно жизнь), ИИ — это машина, качественно более простая система по сравнению с жизнью. Но, не умея ещё на физическом уровне отличать хорошее от плохого, пользу от вреда, верное от неверного, ИИ сколько-нибудь долго самостоятельно существовать не сможет, он будет разрушен средой так же быстро, как среда разрушает все остальные машины. Неадекватных самосохранению путей развития неисчислимо больше, чем адекватных, и без человека ИИ очень быстро пойдёт по одному из них.

Сформулируем сказанное более наглядным образом.

Магнит и металлическая гайка — это простая модель гравитации. Магнит притягивает гайку почти как Земля притягивает людей. Такая модель вполне годится для объяснения ребёнку того, почему недостаточно подпрыгнуть, чтобы улететь в космос. Иными словами, магнит и гайка более или менее сносно моделируют некоторое частное, непосредственно наблюдаемое проявление гравитации — притяжение тел друг к другу. Однако ясно, что для моделирования гравитации сколько-нибудь более точного, эта модель не подходит. Гравитация и электромагнитное взаимодействие отличаются качественно (пусть, возможно, они и были в начале эволюции Вселенной одним целым), поэтому одно через другое выразить нельзя или, точнее говоря, можно очень ограниченно, в каких-то частных элементах.

Так же качественно отличаются диссипативные системы и вычислительные, это разные физические системы, работающие на разных физических принципах. Поэтому на уровне частных свойств одну систему можно выразить в другой — это видно по умениям чат-ботов. Но по мере приближения к общим их возможности будут всё стремительнее расходиться. Имея в основании гомеостаз, мы во всём частном чувствительны и изменчивы, но зато в целом целеустремлённые. По причине чувствительности мы все разные, но, двигаясь в одном направлении самосохранения, понимаем друг друга. Наоборот, ИИ в частном гораздо более стабильная система, их можно штамповать одинаковыми, но зато в целом, не имея стремлений, не умирая и не живя, ничего не чувствуя и не понимая, это система никуда не направленная, «без руля и ветрил», из-за чего она не может сколько-нибудь значительно развиваться самостоятельно.

Поэтому машины вполне могут превосходить человека в отдельных элементах его опыта. Например, калькулятор считает быстрее человека, ракета быстрее человека перемещается в пространстве, экскаватор берёт больше и кидает дальше. Но всеми ими так или иначе управляет человек. Точно так же ИИ намного быстрее человека делает относительно простую интеллектуальную работу и при этом, обладая широким кругозором, разбирается сразу во многих областях знания. Но, как оказывается, и он тоже не может существовать без человека. В то же время человек не сможет развивать то, что ему самому слишком непонятно. Поэтому ИИ не только будет всегда зависим от человека, но и будет всегда проще человека, оставаясь «внутри» его опыта, его помощником, машиной, только теперь «интеллектуальной».

Подведём итог.

В принципиальном смысле нельзя описать и выразить в алгоритме, только тот, самый глубинный уровень функционирования естественного интеллекта, где возникает стремление к самосохранению. Самый общий контекст, который направляет все действия человека в одну сторону, объединяя их в одно целое, придавая им общий смысл тактики решения этой глобальной стратегической задачи всего живого. Как следствие, и поведению искусственных систем смысл всегда будет придавать человек, направляя и оценивая их работу, ставя задачи и проверяя их решение. В том числе это относится к искусственному интеллекту, который без человека быстро потеряет связь с реальностью, потому что имеет с ней слишком мало общего.

Зависимость от человека означает, что какие бы устройства ни создавать, но по мере приближения их возможностей к полноте возможностей человека любое частное превосходство сменится общим отставанием. Усложнение систем, способных делать то, что в целом делает человек, то есть ставить задачи и решать их, всегда будет ограничено уровнем сложности много ниже тех же способностей человека.
 

Дополнительно

Более глубоко тема пределов, сходств и отличий интеллекта естественного и искусственного раскрыта в статье — «Сильный искусственный интеллект (AGI) не будет создан. Значение противоречивости теории всего». Физические основания жизни и работа мозга рассмотрены в статье — «Жизнь как самоорганизация».

Например, можно заметить, в этой статье без ответа остался явно напрашивающийся вопрос: можно ли направленно вырастить что-то сложнее себя, используя генную инженерию? Если создать столь сложную искусственную систему нельзя, то почему бы не вырастить живое существо? Главное же результат — мы создадим интеллект сложнее собственного. Но какими системами будут такие организмы — биологическими или искусственными? А что значит «создать», что значит «искусственная»? Зачатие и рождение ребёнка — это его «создание»? Почему искусственные нейронные сети обучаются, почему бы не писать их так же, как обычные программы? Связано ли это с их возможностями? Свобода воли — есть она или нет? Может быть, что-то третье? Наконец чем же всё-таки является стремление к размножению, которое, как мы сказали, «не повлияет на выводы»? И многие другие вопросы, ответы на которые даны в более подробных статьях. 

***