Материя, сознание и пределы сложности ИИ

Редакция — ноябрь 2025. Формат pdf (с иллюстрациями) доступен в разделе ссылок на другие ресурсы — http://www.proza.ru/avtor/laplas

Научно-популярная статья.


Содержание

Сможет ли искусственный интеллект превзойти человеческий? Может ли ИИ обладать сознанием? Возможно ли создать что-то сложнее себя? На что не способен никакой ИИ, но это постоянно делают не только все животные, а вообще все физические системы, к которым относится жизнь? На эти вопросы можно ответить. Постараемся сделать это коротко, сказав только основное. В то же время, чтобы «коротко» не превратилось в «голословно», некоторый минимум сказать всё же придётся. 

В первой части узнаем, насколько глубоко можно изучить себя и природу, рассмотрим отношение материи и сознания, а также ответим на вопрос, может ли сознанием обладать ИИ. Во второй части скажем о физических основаниях жизни и сделаем окончательные выводы.

Примечание. Нынешняя статья имеет в основании другую статью — «Гносеологическая интерпретация квантовой механики, физическая сущность сознания. Пределы сложности искусственного интеллекта», поэтому их тексты содержат одинаковые фрагменты. Автор обратил внимание, если из названной статьи убрать всё, что связано с квантовой механикой, то получится относительно простая статья о материи сознания, тенденциях и границах познания, физических особенностях жизни, пределах сложности ИИ. В результате нынешней статьи достаточно для освещения этих тем в первом приближении, в то же время статья-донор, помимо квантовой механики, делает это в немного более широком контексте аргументов.

Оглавление
1. Материя и сознание 1
2. Пределы сложности искусственного интеллекта 8
Дополнительно 18


1. Материя и сознание

Не станем следовать распространённой практике и писать длинное вступление. Потенциальный читатель этой статьи наверняка уже имеет представление о загадочности сознания, что физическая природа сознания в высшей степени непонятна, что различные попытки объяснения этого явления есть пока только глубоко философские, но даже их вряд ли можно признать удовлетворительными. Хотя бы в общих чертах он уже знает о возможностях нынешнего ИИ, слышал разные точки зрения о его перспективах, о том, может ли ИИ иметь сознание, и, возможно, даже участвовал в дискуссиях на этот счёт, отстаивая какую-нибудь свою позицию по этим вопросам.

Поэтому мы просто изложим аргументы, из которых всё постепенно станет ясно. Причём уровень подкованности читателя в программировании, физике или биологии особенного значения не имеет. Вопросы, на которые отвечает данная статья, — общие, принципиальные, а значит, и аргументы должны иметь такой же общий, качественный характер, логика, а не формулы. В той же части, где потребуются специальные знания, постараемся изложить всё максимально понятно.

Итак, наша задача не просто ответить на вопросы, но сделать это покороче или, сказать точнее, максимально эффективно. Другими словами, коротко, но ясно. Следуя этому правилу, сразу же начнём с очень содержательного, хотя, вероятно, и неожиданного в контексте темы статьи, утверждения.

Солипсизм неопровержим.

Это действительно так, и из этого многое следует. Солипсизм — это философская доктрина, отрицающая существование внешнего мира, единственной реальностью признаётся только собственное сознание. Тем не менее, какой бы странной такая точка зрения сейчас ни казалась, опровергнуть её невозможно. Всё мыслимое, а это все теории, все знания и вообще весь как-либо наблюдаемый мир, всё это внутри нас, в нашем сознании. Выделение в субъективном мире объективной составляющей возникает фактически только на основании удобства — что-то подчиняется непосредственно нашей воле, что-то нет. То, что не подчиняется, то снаружи нас, снаружи сознания. К примеру, голод фантазиями не утолить, поэтому разумно предположить, что есть внешний мир, который содержит нужное нам и имеет свои законы. В ходе истории, по мере накопления опыта и постепенного уточнения того, что внутри нас, а что снаружи, разделение объективного и субъективного миров становится всё более строгим. Однако идею солипсизма, что оба мира внутри нас, опровергнуть всё равно невозможно.

В свою очередь, неопровержимость солипсизма означает, что если мы поймём, что такое наш субъективный мир, наше сознание, то есть создадим теорию сознания (понимая таковую, как теорию, описывающую физическую природу эмоций и ощущений, то есть в целом физическую природу квалиа), то окажется, что эта теория в точности равна теории всего. Теории, в которой будет выводимо всё — все явления природы, все законы физики, всё прошлое и будущее. Действительно, если мир дан нам исключительно посредством ощущений, то «теория ощущений» позволит выводить все возможные ощущения, то есть всё возможное сущее.

Теперь уточним наш «аргумент солипсизма». Конечно, главное не в солипсизме и его неопровержимости, а именно в том, что мы не наблюдаем мир непосредственно, он доступен нам только посредством ощущений. Невозможность выйти за рамки своих ощущений, посмотреть на них со стороны, как раз и является причиной неопровержимости солипсизма. Поэтому как бы мы ни понимали свои ощущения — как одну большую фантазию или выделим в них «объективную» составляющую внешнего мира — всё это не перестанет быть ощущениями. В результате теория, в которой будут выводимы все ощущения, в любом случае будет теорией всего, так как любое ощущение — мысль, идея, наблюдение — получит своё непротиворечивое объяснение. И наоборот, только теория всего позволит выводить все ощущения, потому что если не позволит, то это не теория всего, а третьего варианта попросту нет. Все теории тоже в нашей голове, то есть они тоже часть субъективного мира, поэтому как только теория позволит выводить все ощущения, она одновременно выведет сама себя. Круг замкнётся и познание остановится — всё мыслимое будет выводимо, все вопросы получат ответы, и даже сама эта теория, в которой будет выводимо всё мыслимое, тоже будет выводима в самой себе, так как она тоже часть мыслимого. Таким образом, за рамки теории, которая опишет физическую природу сознания, выйти невозможно, всё будет находиться внутри неё.

Но действительно ли таким будет итог познания? Ответ на этот вопрос скоро станет ясен.

Идея, что понять себя — это понять всё, может показаться необычной, тем не менее подтвердить её можно ещё множеством аргументов. Ориентируясь на краткость, приведём такой. Истинность идей в конечном итоге определяется по отношению к нашим ощущениям, так как других критериев истинности у нас нет. Голод, боль или удовольствие — только это подскажет нам в верном направлении мы движемся или нет. Кто-нибудь, наверное, возразит, что в науке всё ложное отсекает эксперимент. Но что тогда подсказало нам разумность самого эксперимента?

Поэтому на самом деле истина в нас, наши ощущения, наше Я, наличие себя — это единственная доступная нам абсолютная истина, так как только она абсолютно неопровержима: даже отрицание себя только подтверждает наличие себя, ведь это Я отрицаю себя, а значит, Я есть, пусть даже я и против. Наличие себя говорит о том, что мир не равен нулю, он как минимум равен Я, поэтому поняв себя, мы действительно поймём всё.

Но понять себя можно только очень ограниченно. Иное не имеет смысла. Потому что если выводимым становится всё мыслимое, то выводимыми становятся и все мыслимые утверждения, в том числе противоположные, а это означает противоречивость теории. Непротиворечивая теория не может одновременно и доказывать утверждение, и его опровергать. Другими словами, теория, которая отвечает на все вопросы, может быть только противоречивой.

Заметим, вопрос, который всегда должен оставаться без ответа в любой теории — это вопрос о том, является ли сама эта теория истинной. Потому что любой ответ — «да, является» или «нет, не является» — будет означать, что эта теория может точно отделить истину от лжи, но способность точно отделять одно от другого — это и есть ответ на все вопросы, теория всего, противоречие. Поэтому любая теория и вообще любая идея, чтобы иметь смысл, должна иметь границы применимости, границы расширения на время и пространство, за которыми она свой смысл теряет. Или, иными словами, ни одна идея не может считаться окончательной истиной, потому что доказательство этого потребует теории всего.

Мы ещё вернёмся к проблематике истин, так как внимательный читатель наверняка уже заметил в предыдущем предложении если ещё не противоречие, то уже как минимум недосказанность: если истин нет, то и само утверждение, что истин нет, тоже не истина, а значит… но не будем забегать вперёд.

Однако, и к этому вопросу мы уже не вернёмся, одна истина всё-таки существует, но она своеобразная — её нельзя опровергнуть, но нельзя и доказать. Поэтому утверждение выше, что истин нет, эта истина не опровергает, она попросту выходит за его рамки. Эта истина уже была сформулирована нами выше — это наличие себя. Существование себя невозможно опровергнуть, так как всё мыслимое, в том числе любое опровержение себя, будет только подтверждать, что Я есть. «Я мыслю, следовательно, я существую» — утверждал Рене Декарт, эта идея стала фундаментальным элементом его философии. Но при этом наличие себя невозможно доказать, так как это равносильно пониманию того, что, собственно, есть Я. Но мы только что выяснили, что понять себя — это понять всё, то есть построить теорию всего.

Непознаваемость субъекта можно объяснить более наглядно. Познание себя равносильно рисованию себя, рисующего себя, рисующего себя... продолжать можно бесконечно. Правда, уточним, в этом «наглядном аргументе» не слишком заметна одна очень важная особенность, или, скорее, тенденция, познания. Какая? В том числе ответу на этот вопрос посвящена нынешняя глава. Поэтому вернёмся к «наглядному аргументу» в конце главы, когда эта тенденция уже станет понятной. 

Итак, мы выяснили, в себе всегда будут оставаться тайны. Но если понять себя — это понять всё, то есть понять себя равносильно построению теории всего, при этом «теория себя» противоречива, то и теория всего тоже должна быть противоречивой? Так и есть, в теории всего выводимыми тоже становятся все мыслимые утверждения, в том числе, например, о ложности самой теории всего. Иными словами, как бы это сейчас ни показалось странным, что бы мы ни исследовали — себя или окружающую нас природу — в гипотетическом пределе мы придём к одной и той же теории. С другой стороны, ничего странного нет — если мир дан нам через ощущения, то что бы мы ни исследовали, мы исследуем свои ощущения, пытаемся их непротиворечиво описать. А «непротиворечиво» — это в конечном итоге так, чтобы применение знания повышало качество жизни, то есть и непротиворечивость мы тоже определяем через ощущения.

Скажем ещё несколько слов о противоречивости теории всего.

К примеру, очевидно, что язык теории всего должен быть максимально богатым, так как в ней должны выводиться и все языки тоже. Следовательно, язык теории всего должен быть максимально «нефинитистским». Однако финитизм — это не просто конечность, это ещё и ясность, однозначность. Бесконечность парадоксальна, например, к бесконечным множествам не применима очевидная в иных обстоятельствах аксиома Евклида «целое больше своей части», а также возникают другие неоднозначные и контринтуитивные свойства. Поэтому «максимально богатый язык» — это язык максимально неясный, неоднозначный, сформулировать на таком языке что-либо конкретное нельзя, а значит, нельзя и построить теорию всего.

Последний вывод в том числе означает, что движение познания в сторону адекватного описания природы ограничено самим способом её описания — растущим по мере познания противоречием между описанием адекватным природе и описанием нужным и доступным нам. Адекватное описание должно быть максимально нефинитистским, но для теорий такое не подходит. Ведь от теорий нам нужна прежде всего предсказательная сила — способность теории предсказывать течение явления в зависимости от начальных условий, но «нефинитистская», то есть неясная, неоднозначная теория, теория которую нельзя внятно сформулировать, ничего предсказать не сможет.

Невозможность построения теории всего очевидна и с той точки зрения, что наш мозг имеет определённое устройство, которое вносит свою искажающую составляющую во все наши знания, делая в принципе невозможным добиться идеальной объективности. Поэтому как бы точно мы ни описывали стул, он не появится в нашей голове, разница между реальным миром и нашими знаниями о нём всегда качественная.

В скобках обратим внимание на ещё одно обстоятельство, связывающее познание с особенностями нашего мышления. Качественные переходы от одной теории к другой, а не постоянное уточнение некой «одной теории», «одной модели мира», имеют физические основания в особенностях нашего мышления. Дело в том, что каждое переключение внимания — с одной мысли на другую, от образа отдельных элементов к образу целого, от смысла слов к смыслу фразы, от данных к теории — это неравновесный фазовый переход (в данном случае селективная синхронизация новых ансамблей нейронов на частоте гамма-ритма), то есть переход скачкообразный и качественный, а не некая последовательная трансформация одного в другое. В результате такими же более или менее выраженными качественными «скачками» меняется и наше представление о мире.

Хорошо, противоречивость теории всего понятна. Но что такое теория всего?

Очевидно, теория всего — это такая теория, которая опишет элементарный уровень материи, то есть материю «как она есть на самом деле», так как элементарный уровень материи лежит в основании всех других явлений. Или, точнее говоря, все остальные уровни и явления — это феноменологические проявления (выделяемые нашим вниманием на основании существующего на данный момент опыта) элементарного уровня материи, материи как она есть. И если теория всего не имеет смысла, то элементарный уровень материи непознаваем, иными словами, что «на самом деле» представляет из себя реальность, материя, узнать нельзя, ответ на этот вопрос не имеет смысла.

Непознаваемость элементарного уровня материи означает, что никакие основания мира непредставимы, не имеют смысла. Это ни детерминизм, ни случайность, ни теория струн, ни квантовая механика, ни что-либо ещё, что можно хоть как-то сформулировать. Как уже говорилось, из бессмысленности теории всего, то есть из бессмысленности знания, каким «на самом деле» является мир, следует, что любая идея, чтобы иметь смысл, должна иметь границы применимости — границы её расширения на время и пространство, за которыми она свой смысл теряет.

В том числе, заметим, и сама эта идея тоже. Если любое знание, чтобы иметь смысл, должно иметь границы применимости, то и сама идея, что любое знание, чтобы иметь смысл, должно иметь границы применимости, тоже должна иметь границы применимости. Однако тогда что же — получается, знания могут и не иметь границ применимости? Мы уже говорили, что внимательный читатель наверняка уже заметил этот парадокс. Если вывод, что все знания должны иметь границы применимости, сам должен иметь границы применимости — он же тоже знание, то это означает, что знания могут границ применимости и не иметь. Этот парадокс легко разрешим.

Вывод, что теория всего не имеет смысла, делает утверждение обо всём, но смысл оно при этом имеет — его смысл находится в границах предпосылок, из которых он следует. Иначе говоря, этот вывод основан на нынешних знаниях, а нынешние знания не равны теории всего. Ровно то же самое со следующим из него выводом, что все знания, чтобы иметь смысл, должны иметь границы применимости. А вот продолжение цепочки и новый вывод, что в таком случае знания могут и не иметь границ применимости, но при этом они могут иметь смысл, наоборот, смысла уже не имеет, так как он опровергает своё основание в виде вывода, что знания должны иметь границы применимости, чтобы иметь смысл, а именно этот вывод был основан на аргументах (что теория всего не имеет смысла). В итоге вывод, что знания могут не иметь границ применимости, опровергая своё основание и, таким образом, не имея никаких аргументов, повисает в воздухе и сам теряет смысл.

Ещё раз обратим внимание, что элементарный уровень материи не просто непознаваем — на практике, а именно не имеет смысла, непознаваем принципиально. То есть ни в каком представимом виде теория всего существовать не может, элементарный уровень материи нельзя описать, не может быть такого языка, который бы позволил это сделать, иначе и невозможна теория всего была бы только на практике. Напомним, к этому же выводу мы пришли и раньше: язык теории всего должен быть максимально богатым, а значит, максимально неясным, теряя тем самым свойство языка выражать что-то конкретное или даже вообще «что-то». Но тогда это и не язык, никакой предсказательной силы у такой «теории» не будет.

Теперь добавим в изложение больше необычности и вспомним, что, кроме материи, эта глава посвящена ещё и сознанию.

В начале статьи мы пришли к выводу, что теория всего должна быть равна теории сознания. Это значит, что элементарный «атом» сознания — это и элементарный «атом» материи. Иными словами, сознание как таковое, само по себе — это и есть материя как таковая, элементарный уровень материи.

Следовательно, сознание тоже нельзя выразить никаким языком?

Действительно нельзя. Красноту красного цвета в принципе не объяснить тому, кто не видел ничего красного, звук скрипки не объяснить тому, кто никогда не слышал скрипки, вкус черешни не почувствовать через запись, как в записи не возникнет радость или энтузиазм, сколько бы и каких бы слов ни написать.

Невыразимость квалиа языком общеизвестна, но всё же проверим.

К примеру, предположим, сознание — это некое «пространство». Сможем ли мы сопоставить каждой его точке свойство иметь некоторый оттенок красного цвета? Нет, не сможем. Предположим, мы попробуем каждому оттенку красного назначить число — номер, связанный с неким оттенком красного цвета. Но как в числе увидеть цвет? Понадобится образец цвета — на каждый мыслимый оттенок. Однако разделение цвета на оттенки будет во многом субъективным, зависеть от особенностей личного восприятия, как следствие, неоднозначным. Но язык математики строгий, однозначный. А как разделить шкалу от радости до грусти? От «всепоглощающего энтузиазма» до «глубокой апатии»? Что будет образцом? Ещё более непонятно, как быть с самоощущением. У него вообще есть оттенки? Невозможность договориться — это как раз следствие того, что квалиа нельзя формализовать, выразить языком, в том числе, естественно, языком математическом, формулами.

Но принципиально невозможно формализовать только элементарный уровень материи, все другие «уровни» нельзя если только на практике, потому что противоречивой является только теория всего. Таким образом, сделанный ранее вывод о равенстве теории всего и теории сознания сейчас тоже подтверждается. Сознание — это и есть элементарный уровень материи, материя как она есть на самом деле и ничто другое.

Как помимо абстрактной упругости, которая выводится в теории упругости, есть и реальная упругость — упругое сопротивление давлению, которое мы ощущаем, так же, помимо абстрактной длины электромагнитной волны, которая соответствует красному цвету, есть и реальная краснота — та самая, которую мы ощущаем. И если это есть, то, как кажется, всё это тоже может быть описано. Но это невозможно, потому что упругость упругости или краснота красного — это материя как она есть, элементарный уровень материи. Чтобы упругость упругости или краснота красного возникла в описании, описание должно стать столь точным, чтобы стать не описанием, а самим явлением.

Очевидно сказанное и с других точек зрения.

Во-первых, если описание элементарного уровня материи не имеет смысла, то, следовательно, на элементарный уровень материи нельзя мысленно посмотреть «со стороны», то есть представить его, чтобы его описать. Именно поэтому он и невыразим в какой-либо теории, модели, элементарный уровень материи может быть только самим собой и ничем иным. Действительно, сознание именно такое — сознание тоже нельзя представить, посмотреть на сознание со стороны, так как все «стороны» лежат внутри сознания, любое представление будет сознанием. Поэтому сознание тоже невыразимо в какой-либо теории, модели, то есть сознание тоже может быть только самим собой.

Во-вторых, как говорилось ранее, описание элементарного уровня материи равносильно самому богатому языку. И это вроде бы противоречит сказанному в предыдущем абзаце, так как, получается, описать элементарный материи всё-таки можно, пусть даже этот язык будет неясным. Однако «самый богатый язык» не просто не позволяет выразить на нём что-либо конкретное, «самый богатый язык» — это, по сути, всего лишь иначе сформулированная бессмысленность теории всего, по мере приближения к которой требования к языку становятся равносильны требованию «не языка», чтобы описать то, что нельзя описать языком. Поэтому всё верно: невыразимое никаким языком сознание — это и есть материя как таковая.

И наконец, в-третьих, очевидно, что слова сами по себе не имеют никакого смысла — это просто звуки или следы краски на бумаге. Но мы ощущаем смысл, он есть в нашей голове, в нашем сознании, смысл — это ощущение обобщённой перспективы ситуации, её значения, то есть это наши чувства и эмоции. Поэтому вполне естественно, что смысл — и вместе с ним всё остальное квалиа — словами выразить нельзя. 

Разве что обратим внимание на следующее.

Сознание «устроено» так, что мы как будто «наблюдаем» образы со стороны — со стороны своего эмоционально-мотивирующего самоощущения (нашего Я). Воспринимаем образы как будто на экране, на который «мы» смотрим. Что противоречит сказанному выше о том, что сознание нельзя представить, наблюдать со стороны — получается, что по крайней мере образы наблюдать можно.

Конечно, на самом деле это всего лишь неверная интерпретация работы мозга, в мозге нет ни глаз, ни экранов.

Кратко противоречивость интерпретации с наблюдателем в мозге можно объяснить аналогией с центром управления. В центре управления уже не может быть других центров управления, иначе центр управления в конечном итоге превратится в точку. Эта аналогия говорит о том, что если для мышления необходимо разделение «мыслящей системы» на наблюдателя и экран (то есть разделение на что-то мыслящее и не мыслящее, управляющее и управляемое, наблюдающего и наблюдаемое), то и наблюдатель в этой системе тоже должен внутри себя делиться на наблюдателя и экран — и так до бесконечности, иначе принятие решений станет невозможным, ведь для мышления нужно разделение. Поэтому на самом деле весь мозг — это одна биологическая нейронная сеть, упорядоченный неравновесный континуум веществ и химических реакций, имеющий нейросетевую организацию. Который мыслит весь целиком, как одно целое. А иллюзия с наблюдателем и экраном (а также известное разделение функций у разных зон и отделов мозга) имеет совсем другое и достаточно простое разрешение, но для него надо хотя бы в общих чертах рассмотреть работу мозга, что слишком далеко выходит за рамки данной статьи (но это сделано в других статьях, ссылки на которые приведены в главе «Дополнительно», в том числе в них более глубоко рассмотрены некоторые темы нынешней).

И всё же, не слишком ли радикален вывод, что сознание и материя как таковая — это одно и то же?

На это мы ещё раз скажем, что данный вывод очевиден — и подтвердим сказанное ещё одним очевидным аргументом. В физической реальности нет и не может быть ничего, кроме физической реальности. Наше сознание, наше Я, точно так же не может быть ничем иным. Принципиально разные сущности попросту не будут никак взаимодействовать, поэтому не будут существовать друг для друга. Но сознание коррелирует с работой мозга, а значит, мозг и сознание — это одна реальность. Только мозг, как орган — это то, что мы видим, воспринимая мозг «снаружи» посредством сигналов рецепторов, а сознание — это тот же мозг, но «изнутри» самого мозга, то есть сознание — это сам мозг непосредственно, материя мозга как таковая. А не что-либо внешнее, дополнительное, к мозгу приставленное. Разница лишь в глубине — ввиду описанных выше проблем познания, мы не можем заглянуть в материю мозга так глубоко, чтобы увидеть там сознание.

Но, может быть, сознание всё-таки не равно мышлению? Однако в этом случае возникают противоречия. Например, очевидно, что оттенки сознания, его динамика, должна коррелировать с ходом мышления, иначе окажется, что сознание само по себе. Поэтому если мы что-то чувствуем, ощущаем, понимаем, то это должно иметь отражение и в мыслительном процессе. Однако если сознание сложнее мышления, то окажется, что какие-то элементы динамики сознания, получается, никак не связаны с ходом мышления, то есть существуют именно сами по себе. А если сознание проще мышления, то, описав сознание, мы сможем выводить всё мыслимое, но, как было показано в начале второй главы, это означает, что мы построили теорию всего, больше строить будет нечего, всё уже построено, а значит, и мышление во всех его подробностях тоже будет в этой теории выводимо. Таким образом, сложность сознания и мышления в точности равна, то есть сознание — это и есть процесс мышления. 

Теперь приведём ещё один аргумент о том, что сознание нельзя описать никаким языком. Он достаточно сложен. Обратим внимание, в том числе данный аргумент говорит, что сознания ни у какого ИИ быть не может.

В основе систем искусственного интеллекта лежат искусственные нейронные сети. Искусственная нейронная сеть (ИНС) — это определённого рода алгоритм (недетерминированный), то есть это язык (алгоритм — это инструкция, написанная не некотором языке), её можно реализовать программно или аппаратно, а сеть с обратными связями можно заменить сетью только с прямыми (хотя это может быть не оптимально, так как разные функции проще реализовать в соответствующей архитектуре). Поэтому если можно создать ИНС, не менее сложную, чем мозг человека, то в принципиальном смысле работу такой вычислительной системы тоже можно будет организовать по-разному при том, что результат вычислений будет одинаковым. Однако несложно заметить, что в этом случае не остаётся места сознанию.

Например, если предположить, что сознание есть во всех сетях, которые выполняют одну и ту же функцию, и оно во всех этих системах одинаковое, то сознание, следовательно, зависит только от функции, которую выполняет система, ведь организация у всех этих систем разная. Но это значит, что сознание не материя, то есть его нет, так как функция — это не материя. Если предположить, что у разных систем, выполняющих одну и ту же функцию, сознание разное, отражая их разную организацию, или есть только в системах какой-либо определённой организации, то сознание, следовательно, никак не зависит от функции — ведь функция у всех систем одна и та же. Но это опять означает, что сознания не существует, так как тогда получается, что сознание зависит только от организации системы, но организация, схема — это тоже не материя. Сознание не может вдруг появляться из ниоткуда, в зависимости от того, как мы располагаем детали системы. В итоге сознание превращается в нечто противоречивое, ему нигде нет места, оно не может существовать. Однако очевидно, что сознание есть и оно связано с работой мозга. 

Выход из этой парадоксальной ситуации в том, что сознание может быть только в невычислимых системах, то есть таких, описать работу которых сколько-нибудь точно в принципе невозможно, так как только в этом случае функцию и организацию системы будет принципиально невозможно сколько-нибудь точно отделить от материи системы.

Этот вывод не делает сознание понятным, однако сознание перестаёт быть противоречивой сущностью, которой нигде нет места, и становится следствием высочайшей сложности мозга, выраженной в прямой связи процесса мышления с элементарным уровнем материи. Без описания которого представление о процессе мышления будет всегда оставаться в той же степени неполным и неточным, как далеки наши знания от теории всего. А так как наши знания будут далеки от такой теории всегда качественно, то так же неполны и неточны всегда будут наши представления о мышлении, предсказания работы мозга в принципе возможны или только в самом общем, или на очень короткий срок.

В продолжение этого аргумента заметим следующее. Что на самом общем уровне представляет из себя наше сознание? Это континуум абстракций разного уровня, начиная от общего самоощущения и более выраженных эмоций до конкретных образов. То есть это нечто целое, некий упорядоченный внутренний объём, пространство. Теперь вспомним, что представляет из себя биологическая нейронная сеть — это упорядоченный неравновесный континуум веществ и химических реакций, имеющий нейросетевую организацию, который функционирует как одно целое. Корреляция очевидна. Это выходит за рамки статьи, но если попробовать углубиться в уже известные сейчас подробности работы мозга, она станет ещё более очевидной. Физическое обоснование этой целостности дадим в следующей главе, а пока обратим внимание, что любой ИИ — это, наоборот, последовательность вычислений, ничего «целостного», никакого «упорядоченного объёма» или «континуума вычислений» в процессоре нет. Что ещё раз подтверждает принципиальную разницу между алгоритмами и той системой, где они все возникают.

Сказанное про сознание очевидно и с ещё одной точки зрения. Сознание как таковое, квалиа само по себе — это не теория, не знание, не модель чего-либо. Воспринимаемые нами образы «состоят» из квалиа — как гребни волн в океане тоже состоят из воды, но само квалиа уже не может быть ничем иным, кроме самой физической реальности, материи непосредственно, ведь кроме неё ничего нет.

Наоборот, все остальные явления как те или иные образы сами по себе — гребни волн океана мышления — это как раз модели того мира, который мы воспринимаем посредством рецепторов, феноменологические проявления этого мира, а не материя как таковая. Поэтому, например, чем точнее будет становиться модель сознания, тем больше она должна будет терять конкретику, финитизм — и, как следствие, смысл, так как будет становиться просто самим сознанием — гребни волн будут растворяться в воде, становясь просто водой. В свою очередь, это опять же означает, что теории, чтобы иметь смысл, не могут описывать сознание, представление о реальности должно принципиально отличаться от реальности как она есть. Вспомним «наглядный аргумент» — действительно, его наглядность недостаточна. На самом деле познание двояко: с одной стороны, по мере познания предсказания становятся всё точнее, с другой — мир моделей не равен миру реальному, реальный мир совсем другой, непредставимый, иной.

Карта — не территория. Только абсолютно точная карта станет территорией, но тогда она перестанет быть картой. Наше знание — это карта, реальность — территория, знание никогда не станет тем явлением, которое оно описывает, потому что это принципиально невозможно. Как бы точно мы ни представляли стул, он не появится в нашей голове, как бы точно мы ни описывали упругость, она не возникнет в формулах. Упругость упругости, краснота красного, приятность приятного — это территория, материя как она есть, элементарный уровень материи; теория упругости, электромагнитные волны, представление о работе мозга — это карта, наше знание, реальным явлением оно никогда не станет. Поэтому упругость упругости, краснота красного, приятность приятного невыразимы никаким языком, непознаваемы.

В заключении первой части обратим внимание на ещё одно обстоятельство, своеобразное, но тоже важное. Бессмысленность теории всего кажется более или менее очевидной и сама по себе. Как это так — можно знать всё? В этом явно есть какой-то подвох. И действительно, теория всего противоречива. Но возможность описания сознания сама по себе бессмысленной вроде бы не выглядит. Почему бы не создать теорию сознания, выразить квалиа формулами? Это же просто какое-то обычное, «частное» явление. Но, оказывается, бессмысленность этих теорий одинаковая, более того, это одна и та же теория. Всё это может быть нелегко понять (или, точнее, принять), даже несмотря на аргументы.


2. Пределы сложности искусственного интеллекта

Итак, в первой части мы выяснили, что субъект непознаваем в той же степени, как и вся природа. Вкратце вспомним, что уже было сказано на этот счёт.

Как недавно говорилось, особенности сознания коррелируют с особенностями работы мозга. Подробное описание таких корреляций выходит за рамки статьи, тем не менее её действительно легко обнаружить между общими особенностями биологической нейронной сети мозга и общими особенностями сознания — например, сопоставить с особенностями функционирования биологической нейронной сети можно континуальность сознания, разделение сознания на эмоционально-мотивирующее самоощущение и конкретные образы, отсутствие сознания во время фазы глубокого сна и некоторые другие особенности. Подобная корреляция позволяет предположить, что сознание — это и есть работа мозга, материя мозга «изнутри» самого мозга, то есть материя как она есть. Только такое понимание сознания позволяет объединить идею его физичности, без чего никакой корреляции быть бы не могло, и при этом невыразимость сознания никаким языком. А также, как следствие этой невыразимости, принципиальную невозможность описать всё обстоятельства корреляции сознания и работы мозга в точности, а только более или менее приблизительно, на общем уровне. Можно описать отдельные явления, но не ту самую нижнюю черепаху, откуда они все проистекают, не элементарный уровень материи. Точно так же можно описать работу мозга на более или менее крупном масштабе, но нельзя добраться до оснований этой работы и, таким образом, точно установить связь мозга с сознанием, потому что и в том и в другом случае — это один и тот же масштаб, элементарный уровень материи. В том числе, вспомним, за то, что сознание и процесс мышления в точности одно и то же недавно были приведены логические аргументы.

И этого уже достаточно, чтобы ответить на вопрос, сможет ли искусственный интеллект превзойти человеческий.

Вывод, что мышление происходит на элементарном уровне материи, означает что естественный интеллект (ЕИ) непознаваем в той же степени, как и сама материя. Поэтому представление о работе мозга всегда будет оставаться столь же поверхностным, сколь поверхностным всегда будет оставаться представление о реальности в целом. Причём, как говорилось, эти ограничения носят не практический характер, а именно принципиальный. Не может быть такого языка, которым бы можно было выразить работу мозга сколько-нибудь точно.

Однако, в отличие от ЕИ, в работе ИИ никаких принципиальных загадок нет, любой этап его работы может быть описан. Это означает, что воспроизведению в системах ИИ тоже доступен только более или менее поверхностный уровень работы мозга, поверхностный уровень мышления, а по мере приближения к основаниям этой работы усложнение ИИ будет становиться всё более трудным, затратным и в конечном итоге остановится в точности так же, как, не достигнув теории всего, остановится познание. Это же, естественно, касается и искусственных систем вообще — сложность их самих всегда будет много ниже сложности их создателя.   

Но, если присмотреться, возникают вопросы. Насколько близко сложность ИИ сможет приблизиться к сложности ЕИ? Нельзя ли, например, превзойти «качество сложности» ЕИ, «количеством простоты» ИИ? В чём будет выражаться принципиальная простота ИИ? И так далее. Поэтому всё-таки необходимо рассмотреть ограничения подробнее. Какие особенности поведения лежат в основании поведения человека, которые, таким образом, недоступны ИИ? Почему недоступны? В чём конкретно будет проявляться их недоступность?

Однако прежде скажем, в чём вообще заключается естественный интеллект. Зачем организму нервная система? В строении простейших организмов можно различить внутреннюю структуру и внешний покров, состоящий из эпителиальных клеток. В ходе эволюции эпителиальные клетки дали начало одновременно нервным и мышечным клеткам. Из которых впоследствии возникла нервная и мышечная системы организма, состоящие из своеобразных, но функционально друг с другом связанных нервных и мышечных клеток. Нервные клетки — это нейроны. Все нейроны нервной системы объединены в единую сеть, а самым значительным их скоплением является головной мозг. Сеть нейронов на входе имеет рецепторы внутренней и внешней среды, на выходе мышцы и железы. Функция нервной системы, таким образом, заключается в переводе чувствительности в двигательную активность. Нервная система организует работу мышц и посредством желёз координирует с работой мышц работу остального организма. 

В свою очередь, функционирование организма в целом и работа нервной системы в частности происходит в общем контексте стремления всего живого к самосохранению (а также к размножению, но стремление к размножению требует отдельного уточнения, что тоже выходит за рамки статьи, и на выводы всё равно не повлияет). Иными словами, в основании всего поведения не только человека, но и любой жизни вообще, лежит стремление, постоянная активность, направленная на самосохранение. Стремление к самосохранению задаёт контекст всем более частным действиям, как только тактике решения этой общей стратегической задачи.

Но что это — стремление к самосохранению? Как оно возникает, где?

Например, поведение ИИ реализовано на логическом уровне устройства искусственной нейронной сети как вычислительной системы, описание которой — это обычная схемотехника, электроника, микросхемы, то есть так или иначе алгоритмы. В то же время стремление к самосохранению возникает на самом глубинном уровне жизни ещё как физической системы. Поэтому стремление к самосохранению в его самом простейшем, элементарном виде можно обнаружить даже у тех физических систем, которые от биологических чрезвычайно далеки, а описание этого стремления, то есть его воссоздание в каком-либо алгоритме, как ни странно, равносильно созданию теории всего.

Аргументируем сказанное.

Как физическая система любой живой организм и жизнь в целом — это диссипативные структуры. Простейший пример такой структуры — ячейки Бенара (см. рис. ниже), возникновение упорядоченности в интенсивно подогреваемой кипящей жидкости, когда жидкость в какой-то момент самоорганизуется в цилиндрические валы, вращающиеся навстречу друг другу (как сцепленные шестерёнки). Причём при увеличении интенсивности нагрева каждый вал скачком распадается на два вала меньшего размера, и в пределе возникает турбулентный хаос.

Суть поведения таких самоорганизованных структур — гомеостаз, то есть саморегуляция, способность сохранять своё организованное состояние посредством скоординированных реакций. Гомеостаз поддерживает вся структура как одно целое, поэтому например, чем сложнее самоорганизованная структура, тем сложнее будет и гомеостаз, ведь он не что-то от неё отдельное. На уровне биологических систем и естественного интеллекта, становясь «стремлением к самосохранению», как поведением, направленным на сохранение жизненных параметров, улучшение условий жизни.












а)                б)

Рис. 1. а) реакция Белоусова — Жаботинского, б) ячейки Бенара.

Итак, в основании поведения биологических систем лежит гомеостаз. Разберёмся, что же в нём такого сложного, почему его описание равносильно описанию элементарного уровня материи, а также не забудем о целостности, присущей работе мозга, вопрос которой ранее обещали в этой главе прояснить.

Общей причиной образования диссипативных структур и, таким образом, движущей силой гомеостаза является интенсивный обмен системы со средой веществом/энергией. Этот обмен столь интенсивен, что в какой-то момент происходит неравновесный фазовый переход — и количество переходит в качество, вместо хаоса и разрушения, чего в первую очередь стоило бы ожидать от интенсивного воздействия среды, наоборот, происходит созидание. В данном случае в беспорядочном движении молекул кипящей воды скачком появляется согласованность, упорядоченность — возникают ячейки Бенара.

Принципиально тем же путём функционируют и эволюционируют биологические системы, разве что не принципиальное отличие в том, что самоорганизация в биологических системах связана с химическими реакциями (например, класс реакций Белоусова — Жаботинского отвечает за разметку формирующегося в морфогенезе органа, в соответствии с которой дифференцируются формирующиеся клетки, после чего ДНК уже сформированных клеток синтезируют вещества для новых реакций Белоусова — Жаботинского, и так от общего к частному формируется многоклеточный организм), а также самосборкой, и в целом имеет много более сложный многоуровневый характер. И даже мысли возникают по тому же принципу порядка из хаоса — вспомним, мы уже писали о синхронизации нейронов вследствие неравновесного фазового перехода. Например, разные ритмы мозга — это в точности ячейки Бенара в сосуде с водой, они выглядят отдельными, но если действительно попытаться отделить одну ячейку от другой, они тут же исчезнут. В целом неравновесный фазовый переход является универсальным механизмом появления в природе порядка, от ячеек Бенара до эволюции и морфогенеза. 

Но что особенного в интенсивном обмене со средой, откуда у него возникает свойство что-то созидать?

Общей причиной самоорганизации является необходимость диссипации (вывода, утилизации, рассеивания) интенсивно поступающей в систему энергии/вещества, попросту говоря, всему этому нужно куда-то деваться. А быстрее всего диссипация происходит, если молекулы жидкости двигаются согласованно, а не сталкиваются и мешают друг другу. Эта же причина объясняет, почему самоорганизация происходит скачком — например, ячейки Бенара появляются сразу как готовое целое. Потому что если ячейки Бенара будут возникать по частям, то пока они формируются диссипация, наоборот, будет более затруднена, а значит, такой процесс сам собой произойти не может.

Непосредственной же причиной самоорганизации является рост количества и силы флуктуаций в системе по мере увеличения интенсивности обмена. Флуктуации конкурируют за направления своего развития, при этом какие-то флуктуации друг друга взаимно подавляют, какие-то взаимно усиливают. В итоге в какой-то момент скачком происходит отбор некоторых глобальных направлений движения молекул жидкости, после чего все новые флуктуации подавляются массами молекул, теперь уже согласованно движущихся по этим глобальным отобранным направлениям. То есть происходит самоорганизация, в движении молекул жидкости появляется самоподдерживающаяся согласованность, наблюдаемая в масштабах всей системы, всего сосуда с жидкостью. В этом суть гомеостаза, способности диссипативных систем противостоять разрушению. Ячейки Бенара — это и есть такие самоорганизованные «течения» кипящей жидкости.

Илья Пригожин, бельгийский физик российского происхождения, лауреат Нобелевской премии по химии 1977 года с формулировкой «за работы по термодинамике необратимых процессов, особенно за теорию диссипативных структур», описал самоорганизацию ячеек Бенара следующим образом: «Однако пока величина градиента температуры не превышает некоторого критического его значения, эти флуктуации гасятся и исчезают. Напротив, когда величина градиента температуры превышает его критическое значение, амплитуда некоторых флуктуаций возрастает, что в конечном счете приводит к формированию макроскопического потока. В результате возникает новый надмолекулярный порядок, по существу представляющий собой гигантскую флуктуацию, стабилизируемую благодаря обмену энергией между системой и окружающей ее средой. Это и есть порядок, характеризуемый наличием в системе диссипативных структур.» (Время, структура и флуктуации. Нобелевская лекция по химии. И. Пригожин, 1977).

А вот, что он сказал про реакции Белоусова — Жаботинского (в принципиальном смысле сказанное относится и к ячейкам Бенара): «Одной из наиболее интересных особенностей диссипативных структур является их когерентность. Система ведет себя как единое целое и как если бы она была вместилищем дальнодействующих сил. Несмотря на то что силы молекулярного взаимодействия являются короткодействующими (действуют на расстояниях порядка 10-8 см), система структурируется так, как если бы каждая молекула была «информирована» о состоянии системы в целом. (…) Столь высокая упорядоченность, основанная на согласованном поведении миллиардов молекул, кажется неправдоподобной и, если бы химические часы нельзя было бы наблюдать «во плоти», вряд ли кто-нибудь поверил, что такой процесс возможен. Для того чтобы одновременно изменить свой цвет, молекулы должны каким-то образом поддерживать связь между собой. Система должна вести себя как единое целое». (Порядок из хаоса. И. Пригожин, И. Стенгерс, 1986).

Действительно, порядок без жёстких связей выглядит странно и загадочно. Но никакой мистики нет. За счёт накачки системы энергией/веществом её состояние становится высоко неравновесным — система становится похожа на сжатую пружину, готовую в любой момент распрямиться, или, точнее, на шпагу, которую поставили на остриё и давят сверху — в какой-то момент шпага дойдёт до критической точки, когда даже малейшее прикосновение к ней приведёт к тому, что её лезвие разлетится на кусочки. Другими словами, в неравновесном состоянии у системы появляется то самое свойство целостности. Потому что чем ближе к критической точке неравновесного фазового перехода — к точке бифуркации, тем больше система начинает вести себя как одно и очень чувствительное целое. Ещё один простой пример — сход лавины. В критической точке максимального неравновесия любое самое ничтожное воздействие приведёт к обрушению сразу всего снежного пласта.

Отличие от этих простых примеров в том, что в случае ячеек Бенара интенсивный обмен со средой не прекращается, поэтому рост неравновесия и, как следствие, целостности приводит к тому, что флуктуации («разрушающиеся шпаги», «сходящие лавины») уже не затухают в объёме жидкости, а развиваются и начинают конкурировать. И в конечном итоге теперь уже вся система, как одно целое, переходит через точку бифуркации, происходит самоорганизация и начинается гомеостаз.

Как и все системы в природе, кипящая жидкость тоже стремится к покою, равновесию, минимизации энергии, а интенсивный подогрев этому препятствует. В результате, с одной стороны, происходит рост количества флуктуаций и самоорганизация — возникают ячейки Бенара. С другой — возникшие ячейки Бенара, поддерживая гомеостаз, сами постоянно флуктуируют, находятся в неустойчивом, неравновесном состоянии, ведь их образуют не жёсткие связи, а те же флуктуации и интенсивный обмен со средой.

Как ни странно, в этом последнем предложении и вся суть поведения биологических систем тоже, потому что на физическом уровне любая жизнь — это те же самые ячейки Бенара, диссипативные структуры.

Известный советский физик Я. И. Френкель различие живой и неживой природы сформулировал следующим образом: «Нормальное состояние всякой мертвой системы есть состояние устойчивого равновесия, в то время как нормальное состояние всякой живой системы, с какой бы точки зрения она не рассматривалась (механической или химической), есть состояние неустойчивого равновесия, в поддержании которого и заключается жизнь». Открытость среде, нахождение в неустойчивом, критическом состоянии и потому как будто ненадёжность и случайность, но на самом деле чувствительность, активность, сложность и упорядоченность, являются фундаментальными свойствами жизни.

Скажем ещё раз. Общность ячеек Бенара и биологических систем в том, что элементы этих систем, не имея жёстких связей между собой, тем не менее ведут себя согласованно и по одним и тем же законам, а смысл этой согласованности в противостоянии разрушающему воздействию среды. И, наоборот, использовании интенсивного обмена с ней для получения энергии для этого противостояния, то есть для самосохранения. Это относится и к ячейкам Бенара, и к биологическим системам, и в этом суть гомеостаза как физического явления. Ячейки Бенара возникают скачком и усложняется система ячеек Бенара в сосуде тоже скачком — можно сказать, система ячеек эволюционирует, обучается, «подстраиваясь» под более интенсивный нагрев («осваивая новую природную нишу»), а не разрушается, и далее точно так же продолжает стремиться к самосохранению, но теперь на новом уровне сложности.

Несмотря на гигантскую разницу в сложности, принципиально теми же физическими системами являются любые биологические системы. И действительно, биологические системы точно так же эволюционируют скачком, когда случайная мутация ДНК — та же флуктуация — приводит к тому, что возникает новый организм. В результате эволюция идёт от одного более или менее способного к жизни животного к другому, а не перебором всех возможных промежуточных вариантов сочетания молекул, количество которых может быть совершенно неисчислимо. 

Конечно, в ячейках Бенара всё равно сложно увидеть некие «самостоятельные» образования, которые «поддерживают гомеостаз» с помощью «скоординированных реакций», как написано в определении гомеостаза. Потому что слишком очевидно, что это всего лишь жидкость, течение, просто вот так вот хитро самоорганизовавшееся. Тем не менее именно это делают ячейки Бенара, их неустойчивость, активность, вроде бы случайные реакции, то резкие, то плавные — это те же самые скоординированные реакции гомеостаза, как и работа нашего организма, наше поведение, мысли. Просто мы настолько сложны, что наш гомеостаз, наша «неустойчивость, активность, вроде бы случайные реакции, то резкие, то плавные», мы сами, кажемся себе чем-то принципиально иным.

Поэтому подтвердим тот факт, что на физическом уровне мы те же ячейки Бенара, наглядным примером.

Важность обмена со средой энергией/веществом для существования ячеек Бенара означает, что стоит даже ненадолго этот обмен ограничить (например, уменьшить интенсивность подогрева или попытаться отгородить ячейку от остальной жидкости) и ячейки Бенара исчезнут, растворятся в среде, станут просто жидкостью. Однако точно так же стоит, например, ненадолго перекрыть животному доступ кислорода, и вся упорядоченная структура организма, как одно целое, устремится в состояние равновесия и покоя, быстро и необратимо превращаясь в беспорядочное скопление химических элементов и растворяясь в среде.

Это смерть, которая, заметим, качественно отличается от жизни. Как и ячейки Бенара, организм не останавливается, не выключается и даже не разваливается на детали, а качественно больше — нарушение обмена со средой даёт старт быстрому и необратимому процессу полного разрушения организма, он, попросту говоря, «тает», растворяется в среде. При этом быстрее всего начинает разрушаться мозг, так как его обмен со средой идёт наиболее интенсивно. 

Таким образом, обратим внимание, биологические системы обмен со средой организует и стабилизирует.

А вот искусственные системы он только разрушает. Их обмен со средой качественно менее интенсивен. В этом состоит принципиальное, качественное отличие биологических систем от машин, почему они слишком разные, из-за чего одни не смогут стать другими. Например, компьютеры, в том числе системы ИИ, можно включать, выключать и даже разбирать на детали и собирать обратно без каких-либо серьёзных последствий для их последующей работы. При этом сохранится компьютер дольше, если его отключить от сети и изолировать от воздействий среды.

Наоборот, диссипативные структуры — это системы открытые, обмен со средой для них имеет первостепенное значение, так как без этого обмена их попросту нет, они тут же исчезают. Поэтому биологические системы нельзя выключить, остановить, разобрать и рассмотреть, это системы активные и необратимые (что, заметим, сильно затрудняет исследование таких систем и даже принципиально его ограничивает). Их нельзя, как системы искусственные, вначале собрать, а потом включить. Биологические системы «растут» прямо в «работающем» состоянии, и эволюционируют они тоже скачком, как одно целое, и возникают тоже сразу как целое. Поэтому если про компьютер можно сказать, что он состоит из отдельных деталей, взаимодействующих по некоторому собственному алгоритму, то биологические системы в высшей степени представляют из себя одно целое, в том числе со средой, из-за чего понимание их работы тоже ограничено пониманием среды, материи, её оснований.

Но основания материи непознаваемы, их нельзя описать, такой язык не может существовать. Наоборот, алгоритмы (формулы, теории, программы) — это инструкция, язык. Таким образом, возможность выразить работу биологических систем в алгоритмах, ограничена глубиной понимания материи. В свою очередь, работа биологических систем заключается в поддержании гомеостаза, любая более частная функция, поведение — это лишь его субъективно выделенная составляющая. Поэтому можно уточнить, что нельзя выразить алгоритмом именно гомеостаз.

Теперь раскроем связь диссипативных структур с элементарным уровнем материи несколько с другой стороны, чтобы сделанный сейчас вывод о принципиальной разнице между искусственными системами и биологическими был более доказательным. Для этого обратим внимание, что флуктуации только выглядят случайными, но на самом деле они отражают особенности конкретной системы и среды. Таким образом, через флуктуации система как будто постоянно чувствует среду, поэтому реакции гомеостаза, какими бы случайными они ни выглядели, на самом деле именно скоординированы — взаимодействием системы и среды. Именно эта постоянная координация и позволяет системе не разрушаться. Но в алгоритме флуктуации не воспроизвести — они требуют реальной среды, а не виртуальной, материи, а не её описания. В ином случае связь системы со средой будет столь же качественно недостаточной, насколько описание материи — не сама материя. А как мы выяснили, разница между материей и её любым возможным описанием всегда будет оставаться качественной. В итоге машины и гомеостаз действительно качественно несовместимы. Никакая машина к самосохранению стремиться не может в силу своей физической природы.

В итоге важность среды для описания биологических систем приводит к тому, что в своём физическом основании поведение человека не алгоритм в принципе. Как мы и говорили, алгоритмы в работе биологических систем — это поверхностный масштаб, приближение, а не суть.

Теперь можно ответить на вопрос о сложности гомеостаза. Гомеостаз действительно очень сложное явление — необычное, невычислимое, глубина его описания принципиально ограничена. Сложность гомеостаза — это сложность сразу всей среды, так как он не может быть описан вне её.

И наконец сказанного достаточно, чтобы ответить на главный вопрос статьи — о пределах сложности искусственного интеллекта.

Этот предел нельзя оценить точно, как минимум потому, что нельзя точно оценить сложность интеллекта естественного — связь с непознаваемым уровнем материи делает это невозможным. Но его можно выразить фразой, авторство которой приписывают известному французскому дипломату XIX века Шарлю де Талейрану-Перигору: «Ум нужен для всего, но сам он не ведёт ни к чему.».

В контексте ограничений ИИ её смысл в том, что ум человека направляется стремлением к самосохранению, то есть описанным выше гомеостазом. Но, как мы узнали, он в алгоритмах невоспроизводим, а любой ИИ — это алгоритм (как уже говорилось, искусственные нейронные сети тоже алгоритм, конкретно недетерминированный алгоритм). Поэтому «ум» ИИ не направляет ничего — только человек, который создаёт и развивает ИИ так же, как он создаёт и развивает все остальные машины.

Способность ИИ обучаться в этом отношении ничего не меняет, так как всё равно не делает ИИ чем-то большим, чем алгоритмом. В результате, не имея стремления к самосохранению, для ИИ нет хорошего и плохого, побед и поражений, радости и грусти, у ИИ нет желаний, нет активности — ни на что из этого ИИ в принципе не способен. ИИ не личность, потому что без стремления к самосохранению у ИИ нет воли — добиваться желанного, подчинять себе мир, идя через труд к успеху, через тернии к звёздам, через альтруизм и самопожертвование к уважению и славе, потому что без стремления к самосохранению у ИИ нет желанного. ИИ не живёт и поэтому не умирает (вспомним об описанном ранее качественном отличии жизни от смерти, когда жизнь — это действительно жизнь), ИИ всё всё равно. ИИ — это машина, качественно более простая система по сравнению с жизнью. Но, не умея ещё на физическом уровне отличать хорошее от плохого, пользу от вреда, верное от неверного, ИИ сколько-нибудь долго самостоятельно существовать не сможет, он будет разрушен средой так же быстро, как среда разрушает все остальные машины. Неадекватных самосохранению путей развития неисчислимо больше, чем адекватных, и без человека ИИ очень быстро пойдёт по одному из них. 

Сформулируем сказанное более наглядным образом.

Магнит и металлическая гайка — это простая модель гравитации. Магнит притягивает гайку почти как Земля притягивает людей. Такая модель вполне годится для объяснения ребёнку, почему недостаточно подпрыгнуть, чтобы улететь в космос. Иными словами, магнит и гайка более или менее сносно моделируют некоторое частное, непосредственно наблюдаемое проявление гравитации — притяжение тел друг к другу. Однако ясно, что для моделирования гравитации сколько-нибудь более точного, эта модель не подходит. Гравитация и электромагнитное взаимодействие отличаются качественно (пусть в начале эволюции Вселенной они, возможно, и были одним целым), поэтому одно через другое выразить нельзя или, точнее говоря, можно очень ограниченно, в каких-то частных элементах.

Так же качественно отличаются диссипативные системы и вычислительные, это разные физические системы, работающие на разных физических принципах. Поэтому на уровне частных свойств одну систему можно выразить в другой — это видно по умениям чат-ботов. Но по мере приближения к общим их возможности будут всё стремительнее расходиться. Имея в основании гомеостаз, мы во всём частном чувствительны и изменчивы, но зато в целом целеустремлённые. По причине чувствительности мы все разные, но, двигаясь в одном направлении самосохранения, понимаем друг друга. Наоборот, ИИ в частном гораздо более стабильная система, их можно штамповать одинаковыми, но зато в целом, не имея стремлений, не умирая и не живя, ничего не чувствуя и не понимая, это система никуда не направленная, «без руля и ветрил», из-за чего она не может сколько-нибудь значительно развиваться самостоятельно.

Поэтому машины вполне могут превосходить человека в отдельных элементах его опыта. Например, калькулятор считает быстрее человека, ракета быстрее человека перемещается в пространстве, экскаватор берёт больше и кидает дальше. Но всеми ими так или иначе управляет человек. Точно так же ИИ намного быстрее человека делает относительно простую интеллектуальную работу и при этом, обладая широким кругозором, разбирается сразу во многих областях знания. Но, как оказывается, и он тоже не может существовать без человека. В то же время человек не сможет развивать то, что ему самому слишком непонятно. Поэтому ИИ не только будет всегда зависим от человека, но и будет всегда проще человека, оставаясь «внутри» его опыта, его помощником, машиной, только теперь «интеллектуальной».

Это не значит, что ИИ не может быть опасен для человека, но и калькулятор может принести вред в руках преступника. Поэтому опасность ИИ не в том, что он когда-нибудь захватит власть над человеком, заставит человека служить ему или уничтожит, а в том, что человек сам поставит ИИ над собой — станет слишком полагаться на советы ИИ. Воспринимая ИИ как личность, исполнительного и заботливого товарища, тем самым утрачивая навык и интерес к общению с личностями реальными.

Подведём итог.

В принципиальном смысле нельзя описать и выразить в алгоритме, только тот, самый глубинный уровень функционирования естественного интеллекта, где возникает стремление к самосохранению. Самый общий контекст, который направляет все действия человека в одну сторону, объединяя их в одно целое, придавая им общий смысл тактики решения этой глобальной стратегической задачи всего живого. Как следствие, и поведению искусственных систем смысл всегда будет придавать человек, направляя и оценивая их работу, ставя задачи и проверяя их решение. В том числе это относится к искусственному интеллекту, который без человека быстро потеряет связь с реальностью, потому что имеет с ней слишком мало общего.

Зависимость от человека означает, что какие бы устройства ни создавать, но по мере приближения их возможностей к полноте возможностей человека любое частное превосходство сменится общим отставанием. Усложнение систем, способных делать то, что в целом делает человек, то есть ставить задачи и решать их, всегда будет ограничено уровнем сложности много ниже тех же способностей человека.
 

Дополнительно

Наиболее глубоко тема пределов, сходств и отличий интеллекта естественного и искусственного раскрыта в статье «Сильный искусственный интеллект не будет создан. Значение противоречивости теории всего». Ситуация с наличием себя с большими подробностями рассмотрена в статье «Эволюция методов познания», в главе «Абсолютная истина». Физические основания жизни и работа мозга приведены в статье «Жизнь как самоорганизация».

Например, можно заметить, в этой статье без ответа остался явно напрашивающийся вопрос: можно ли направленно вырастить что-то сложнее себя, используя генную инженерию? Если создать столь сложную искусственную систему нельзя, то почему бы не вырастить живое существо? Главное же результат — мы создадим интеллект сложнее собственного. Но какими системами будут такие организмы — биологическими или искусственными? А что значит «создать», что значит «искусственная»? Зачатие и рождение ребёнка — это его «создание»? Почему искусственные нейронные сети обучаются, почему бы не писать их так же, как обычные программы? Связано ли это с их возможностями? Можно ли надёжно избавить ИИ от галлюцинаций, которые сейчас так мешают его широкому применению в сколько-нибудь ответственных задачах? Свобода воли — есть она или нет? Может быть, что-то третье? Наконец чем же всё-таки является стремление к размножению, которое, как мы сказали, «не повлияет на выводы»? И многие другие вопросы, ответы на которые даны в более подробных статьях.

***