Гёделевский аргумент и вычислимость интеллекта

Редакция — февраль 2026. Формат pdf (с иллюстрациями) доступен в разделе ссылок на другие ресурсы — http://www.proza.ru/avtor/laplas

Название в pdf — "Сильный искусственный интеллект не будет создан. Значение противоречивости теории всего".

Содержание

В статье обоснована принципиальная невозможность создания человеком каких-либо искусственных систем, приближающихся к сложности интеллекта самого человека. Несмотря на очевидный прогресс искусственных нейронных сетей, в том числе связанный с чат-ботами, которые, как кажется, уже сейчас умнее многих людей и знают больше любого человека, нынешний искусственный интеллект от сложности интеллекта человека далёк и не достигнет этого уровня ни в какой перспективе. Более или менее аналогично другим машинам, создаваемым человеком, искусственный интеллект не сможет существовать без человека и в целом никогда не выйдет за рамки его помощника.

Вторая тема статьи — противоречивость теории всего, рассматривая её как наиболее фундаментальную физическую теорию, которая опишет материю на элементарном уровне. Противоречивость такой теории достаточно очевидная идея, аргументировать её несложно, поэтому главное состоит в широком и, вероятно, неожиданном контексте некоторых причин и следствий этой противоречивости.

Основная тема статьи — границы сложности искусственного интеллекта. Как будет показано, характер этих границ принципиальный, они связаны не просто с созданием тех или иных устройств, а имеют глобальный смысл пределов познания вообще, каковые пределы проявляют себя в том числе и в ограничении сложности создаваемых человеком систем. Как следствие этой глобальности, подтверждение того, что сложность создаваемых человеком систем всегда будет ограничена сложностью интеллекта самого человека, можно увидеть в аргументах логического, практического и физического характера, то есть наблюдать со всех возможных точек зрения. С каждой из них ограничения выглядят по-своему, но, как разные стороны одной проблемы, они взаимно дополняют и обосновывают друг друга. В том же порядке аргументы будут рассмотрены в статье — от логики к физике, от истоков и общих соображений к аргументам более конкретным.

В первой главе рассмотрены некоторые общие, принципиальные аргументы, касающиеся вычислимости (формализации, описания) мышления и связи этой задачи с построением теории всего, в том числе теоремы Гёделя о неполноте, теорема Тарского о невыразимости истины, другие математические теоремы, проблемы и парадоксы, а также в первой главе рассмотрен вопрос свободы воли. Во второй главе описана работа нейронных сетей и показаны препятствия практического характера, которые не позволят любым системам, создаваемым с участием интеллекта человека, включая искусственные нейронные сети и другие недетерминированные алгоритмы, приблизиться к сложности интеллекта человека. В третьей главе принципиальный дискурс первой главы продолжен на новом уровне. В четвёртой главе выводы предыдущих глав дополнены наглядными аргументами, связанными с сознанием. В пятой главе уточнено значение теорем Гёделя с точки зрения перспектив искусственного интеллекта и построения теории всего, и приведена ещё одна интерпретация теорем Гёделя. В шестой главе рассмотрена связь противоречивости теории всего с тенденциями познания, в том числе показано, что проблема измерения квантовой механики может быть прямым следствием этих тенденций. В седьмой главе описаны физические основания жизни и их связь с приведёнными ранее аргументами, уточнено поведение, принципиально недоступное искусственному интеллекту, и следствие этого ограничения для его развития. В главе «Дополнительно» приведены ссылки на другие статьи.

Есть ещё один аргумент, без которого перечисленный ранее набор аргументов логического, практического и физического характера, представленный в статье, был бы неполным. Этот аргумент состоит в том, что создание такого объекта, как сильный искусственный интеллект, выглядит невозможным и само по себе, так как неявно подразумевает, что усложнение создаваемых человеком систем линейно. Дело в том, что если можно создать что-то сложнее себя, то, очевидно, никаких пределов сложности у создаваемых человеком систем нет, разве что это какие-нибудь пределы физические. Однако мир нелинеен, подавляющее большинство встречающихся в природе физических систем принадлежат к нелинейной неравновесной термодинамике, предсказание таких систем ограничено. Причём такие физические системы, как мозг и вообще жизнь, в плане непредсказуемости можно выделить особо — это очень непредсказуемые системы. Но тогда, по мере приближения сложности создаваемых систем к сложности биологических, создаваемые системы тоже, по-видимому, должны становиться всё более непредсказуемыми. В чём причина этой непредсказуемости, к чему она в итоге стремится, не помешает ли её рост усложнению искусственного интеллекта? Это ощущение неполноты и противоречивости простых подходов в оценке перспектив искусственного интеллекта назовём аргументом интуитивного характера. Интуиция сама по себе, как аргумент самый общий, аргумент слабый. С интуиции все доказательства только начинаются, и в данном случае этот интуитивный аргумент тоже только предваряет другие аргументы статьи.

Оглавление
Введение 3
1. Принципиальные аргументы 4
  1.1. Теоремы Гёделя о неполноте 4
     1.1.1. Бесконечность, аксиома выбора, парадокс Банаха — Тарского 8
     1.1.2. Множество всех множеств, значение теорем Гёделя о неполноте 10
     1.1.3. Проблема остановки 19
  1.2. Теоремы Гёделя о неполноте и искусственный интеллект 20
  1.3. Теорема Тарского о невыразимости истины, теория всего 26
  1.4. Теория всего = алгоритм мышления? 28
  1.5. Свобода воли 30
  1.6. Общие замечания 32
2. Непосредственные препятствия 33
  2.1. Нейронные сети 33
  2.2. Пределы сложности искусственного интеллекта 42
3. Принципиальные аргументы второго уровня 60
4. Наглядные аргументы 66
5. Ещё одна интерпретация 75
6. Тенденции познания 78
7. Физика жизни 88
  7.1. Предварительные аргументы 88
     7.1.1. Ещё раз о свободе воли 89
     7.1.2. Очень много нейронов 95
     7.1.3. Аргумент о языке, или Сможет ли ИИ описать себя 98
  7.2. Физические основания жизни, или Что не может искусственный интеллект
  7.3. Моделирование мозга      114
  7.4. Сознание         119
  7.5. Самостоятельная эволюция ИИ 122
8. Заключение 127
9. Дополнительно 128
10. Использованная литература 128


Введение

Что ответить человеку, который утверждает, что если котёл побольше поставить и дров побольше подкинуть, то паровоз до любой скорости разогнать можно? Очевидно, объяснить теорию относительности. Из которой следует, что превысить скорость света не поможет никакое количество дров, так как по мере приближения скорости объекта, имеющего массу, к скорости света, энергия, которая для этого потребуется, будет стремиться к бесконечности. Иными словами, надо показать ситуацию в целом — на том уровне, где уже нет дров и котлов, а есть зависимость пространственных и временных характеристик от скорости, «внутри» которых находятся сразу все возможные дрова, котлы и паровозы.

Других способов аргументированно возразить нет, потому что на уровне «дров и котлов» не поможет даже эксперимент. Его результаты всего лишь отдельный факт, может быть, тенденция, но что он значит, куда она ведёт? Нужна теория. Отдельные данные наблюдений и экспериментов теряют в теории прежнюю автономность и становятся основанием целостной модели, в которой все параметры взаимосвязаны, изменение одного приводит к изменению другого. Что, в свою очередь, позволяет рассчитывать течение явления в зависимости от начальных условий, то есть теория позволяет явление предсказывать. Но «понять» — это и есть научиться предсказывать. Поэтому без теории, пока происходящее непонятно, любое наблюдение не более чем частный случай, любое затруднение — не принципиальное, и всегда кажется, что прорыв уже близко.

То же самое с искусственными системами. На уровне которых никаких принципиальных препятствий для усложнения вроде бы не видно — любые нынешние затруднения можно представить лишь временными техническими сложностями, а любое достижение констатацией очевидного — сильный ИИ скор и неизбежен.

Поэтому точно так же, как и в случае «дров и котлов», необходимо посмотреть на ситуацию в целом. Что мы и попытаемся сделать, собрав воедино аргументы логического и физического характера, которые в комплексе позволят сделать выводы сразу о всех возможных системах, как-либо создаваемых человеком.

В то же время если в теории относительности величина скорости света была точно известна заранее, то сложность мозга неизвестна и, как будет понятно, это в любом случае величина не столь однозначная. В результате без чёткого ориентира, который может быть положен в основание теории, выводы о максимальной сложности искусственных систем возможны также только общего, качественного характера. Тем не менее на главный вопрос — смогут ли искусственные системы превзойти интеллект человека — они отвечают с достаточной определённостью.


1. Принципиальные аргументы
1.1. Теоремы Гёделя о неполноте

В 1930 году австрийским математиком Куртом Гёделем были доказаны теоремы о неполноте формальных систем. Появление теорем вызвало значительный резонанс, выходящий далеко за пределы математического сообщества. Со временем теоремы приобрели широкую известность.

Причиной известности теорем стала их очевидная связь с идеями более общего характера, чем только математические. Причём идеями столь же глобальными, сколь глобальным является значение теорем для математики. Источник этой связи понятен. Теоремы Гёделя о неполноте делают утверждения о математическом языке, а значит, теоремы должны иметь связь и с наукой тоже, так как математика — это язык науки. В свою очередь, учитывая, что и наука, и её язык — это часть более широкого контекста форм познания и способов формулировки знаний, то связь должна быть и с познанием вообще, его особенностями и тенденциями.

Другими словами, выяснилось, что, казалось бы, сугубо математические утверждения, по-видимому, можно интерпретировать как раскрывающие некоторые внутренние, принципиальные свойства познания, и даже самой познаваемой природы, так как процесс познания — это тоже её часть. Эти свойства — существование у познания границ. Которые проявляют себя как непосредственно — в противоречивости теории всего, так и через ограничение сложности создаваемых человеком систем.

Идеи о наличии у познания границ высказывались и раньше, но теоремы Гёделя привлекли внимание тем, что дали этим идеям строгое математическое наполнение. Мы тоже начнём статью с рассмотрения теорем Гёделя о неполноте и связанных с ними аргументов. В целом этот тип аргументов называют интерпретациями теорем.

Интерпретация — это истолкование, указание на связь явлений, их общность, когда содержание одного явления позволяет раскрыть содержание другого. В этой главе рассмотрим две самые известные интерпретации теорем Гёделя о неполноте, они же соответствуют заявленным темам статьи. Вначале рассмотрим, как теоремы связаны с созданием искусственного интеллекта (ИИ), затем — с построением теории всего.

Выводы, которые мы сделаем в отношении связи теорем с этими задачами, подтверждаются в том числе и тем, что те же самые выводы следуют и из множества других аргументов, менее абстрактного характера, которые мы тоже приведём. В свою очередь, связь абстрактных математических теорем и аргументов менее абстрактного характера, которая, таким образом, также наблюдается, позволяет и наоборот — считать интерпретацией сами теоремы. Которые, как оказывается, только лишь на математическом языке описывают некоторые и без них достаточно очевидные особенности познания и познаваемой природы, а не открывают что-либо скрытое сами по себе.

Итак, согласно первой интерпретации, которую мы рассмотрим, из теорем Гёделя следует, что мышление «невычислимо», формализовать мыслительный процесс принципиально невозможно. Иными словами, работу мозга в принципе нельзя выразить в виде некоторой строгой формулы, точной пошаговой инструкции, алгоритма, используя который можно было бы предсказывать результаты мыслительного процесса, создавать действительно «мыслящие» искусственные системы или написать программу конкретной личности и перенести личность в компьютер.

В свою очередь, невыразимость в алгоритме означает, что естественный интеллект принципиально отличается от машинного, так как все системы искусственного интеллекта работают по некоторому алгоритму. В результате, создавая алгоритмы, человек не сможет создать такой алгоритм, который бы полноценно выразил его собственный интеллект, так как интеллект человека — не алгоритм.

Поясним, что это значит.

Единственной «способностью» любой нервной системы является преобразование сигналов рецепторов в последовательности нервных импульсов, управляющих мышцами и железами. Основными клетками нервной системы являются нейроны, они образуют в организме единую сеть, основной объём которой приходится на мозг. На входе сеть нейронов имеет рецепторы внутренней и внешней среды, на выходе мышцы и железы. Таким образом, нервная система переводит чувствительность в двигательную активность. Нервная система организует работу мышц и посредством желёз координирует с работой мышц работу остального организма.

В результате невыразимость мышления в алгоритме означает, что сам человек не сможет создать такой алгоритм, который бы полноценно выразил способность нашего мозга принимать решения и действовать.  Именно в этой общей способности мозга воспринимать мир и преобразовывать воспринятое в активность мышц, проще говоря, в способности ставить задачи и решать их, естественный интеллект всегда будет оставаться сильнее искусственного.

Как будет показано, несмотря на то, что, как кажется, за рамками указанной способности ставить и решать задачи возможности ИИ ничего не ограничивает, на самом деле все возможности ИИ лежат внутри этой способности. Поэтому алгоритмы могут уметь многое из того, что умеет человек, и делать это лучше него, тем не менее в целом интеллект человека всегда будет оставаться сильнее интеллекта искусственного, поведение искусственных систем всегда будет оставаться проще поведения человека. В статье мы рассмотрим причины этих ограничений, что они означают, в чём конкретно будет проявляться относительная простота возможностей ИИ.

В обоснование указанных выше ограничений ИИ теоремы Гёделя могут быть положены по-разному. Например, сам Гёдель в лекции Гиббса в 1951 году предположил, что его теоремы дают основание для антимеханистической точки зрения на мышление. Гёдель сделал предположение, что человеческое мышление превосходит возможности любых механических вычислительных устройств. Он указал, что теоремы неполноты подтверждают нашу способность интуитивно осознавать истинность утверждений, которые формально недоказуемы в пределах заданной системы аксиом.

Но наибольшую известность получил так называемый гёделевский аргумент, который был представлен британским ученым Джоном Лукасом в 1961 году и сформулирован им на основании антимеханистических идей Гёделя.

По-видимому, именно время 50-х — 60-х годов можно считать периодом, когда дискуссии о возможностях машин и о том, что у этих возможностей, вероятно, есть границы, стали приобретать конкретное наполнение и популярность. Однако и нейросетевая и физическая сторона работы мозга в то время были понятны ещё достаточно слабо, поэтому аргументы этой главы, отчасти повторяя исторический дискурс, тоже ничего из этого не учитывают и носят максимально общий, принципиальный характер. Сам гёделевский аргумент мы рассмотрим в этой главе позже, а начнём с сопоставлений теорем Гёделя и мышления более очевидного характера. 

Но прежде вспомним, что такое алгоритм, определимся с тем, какую систему можно считать искусственной, и что такое «создание».

Алгоритм — это точная пошаговая инструкция решения задачи, достижения некого результата, например, компьютерная программа — это реализованный конкретными средствами алгоритм. «Искусственность» же системы заключается в том, что чем полнее работу системы определяет написанный человеком алгоритм, тем больше её можно считать искусственной, целенаправленно созданной человеком, его интеллектом. В этом контексте ограничения сложности искусственных систем можно уточнить. Чем полнее работу системы определяет написанный человеком алгоритм, тем ниже будет её сложность по сравнению с интеллектом человека. И наоборот, превзойти интеллект человека сможет только такая система, в создании которой интеллект человека не участвует.

Из сказанного про искусственность систем понятно, что «создание» прямо связано с интеллектом. Поэтому, например, утверждение, что люди уже «умеют» создавать себе подобных в этом смысле неверно. Мы лишь запускаем программу морфогенеза, написанную природой за миллиарды лет эволюции, «умеем» давать начало процессам рождения нового человека, точной сути которых не понимаем. Ничего из этого умения нельзя назвать «созданием», которое подразумевает целенаправленную интеллектуальную деятельность, последовательность шагов решения задачи. В скобках уточним, что если не в подробностях, то по крайней мере в целом морфогенез понятен, вернёмся к нему в следующей главе и главе «Физика жизни».

Теперь рассмотрим сами теоремы Гёделя, их содержание и математическое значение.

Теоремы Гёделя о неполноте делают утверждения о формальных системах. «Формальная система» в самом общем смысле — это система заданных в качестве аксиом формул, используя которые можно получать новые формулы. Также можно сказать, что формальная система — это некоторый абстрактный язык, в котором по строгим правилам сочетаний букв и слов из одних утверждений можно выводить другие. И наконец формальная система (или формальная теория) — это, собственно говоря, и есть то, что называется математикой, конкретная математическая теория или даже математика в целом.

Теоремы Гёделя устанавливают принципиальные ограничения формальной арифметики и, как следствие, всякой достаточно богатой формальной системы, в которой можно определить основные арифметические понятия: натуральные числа, 0, 1, сложение и умножение. Обратим внимание, без арифметики математическая теория во многом теряет своё значение, так как становится невозможным задать точные количественные отношения.

Ограничения, накладываемые теоремами, носят следующий характер.

Первая теорема о неполноте утверждает: если формальная система непротиворечива, то в ней существует невыводимая и неопровержимая формула.

Иными словами, из первой теоремы следует, что если формальная система непротиворечива (то есть в системе нельзя и доказать утверждение, и его опровергнуть), то такая система будет неполна — в ней всегда можно будет построить истинное утверждение, истинность которого невозможно будет доказать в рамках выразительных средств формального языка этой системы. И даже если включать такие невыводимые и неопровержимые утверждения в состав аксиом системы, то набор аксиом не будет удовлетворять требованию полноты и в случае, если пополнить систему бесконечным множеством аксиом. Проще говоря, из первой теоремы следует, что в непротиворечивой формальной системе множество истинных формул всегда будет больше множества доказуемых формул.

В свою очередь, вторая теорема о неполноте говорит, что если формальная система непротиворечива, то в ней невыводима формула, содержательно утверждающая непротиворечивость этой системы.

Как можно объяснить вторую теорему, если условием непротиворечивости является наличие в формальной системе невыводимой и неопровержимой формулы, то обосновать непротиворечивость этой формальной системы средствами самой системы не получится, так как, выходит, что само «условие непротиворечивости» в системе невыводимо. Потому что пока в системе остаётся что-то непонятное — невыводимая и неопровержимая формула — то окончательно утверждать ничего нельзя, так как наличие непонятного оставляет все вопросы открытыми.

В то же время непротиворечивость одной формальной системы может быть доказана средствами другой формальной системы с более выразительным языком. Однако проблема в том, что если правила вывода этой системы будут сильнее логических средств арифметики, то уверенности в доказательстве не будет.

Причина отсутствия уверенности в следующем. Если арифметика непротиворечива, то, как говорилось, более богатый язык позволит доказать её непротиворечивость. Но арифметика изучает числа, их свойства и отношения, а чисел бесконечно много. К примеру, нет самого большого натурального числа, множество всех натуральных чисел бесконечно. Поэтому язык, на котором можно будет доказать непротиворечивость сразу всей арифметики, должен «вместить» в себя сразу всё бесконечное множество натуральных чисел, то есть от языка такой теории потребуется «умение» оперировать сразу целыми бесконечностями. Другими словами, в аксиоматике такой теории должно быть возможным рассматривать бесконечности не как только потенциальные, а как актуальные явления — как некоторые завершённые, обозримые объекты.

Однако конструктивность такого подхода не очевидна, потому что кроме как «потенциально», то есть в некой недостижимой на практике перспективе, построить бесконечность невозможно.


1.1.1. Бесконечность, аксиома выбора, парадокс Банаха — Тарского

Действительно, выходя за рамки очевидного, непосредственно наблюдаемого, мы естественным образом получаем необычное и контринтуитивное. Понять логические затруднения, которые возникают, если рассматривать бесконечность как завершённый объект, отчасти помогут такие примеры.

Если представить, что жизнь бесконечна и при этом рассматривать такую жизнь как целое, то получится, что количество минут, часов или дней этой жизни будет равно количеству лет, веков и т. д., так как и то и другое будет одинаково бесконечно. Ещё один пример — парадокс Галилея. Каждое натуральное число — 1, 2, 3, 4… — можно возвести в квадрат, поэтому квадратов натуральных чисел, очевидно, должно быть столько же, сколько самих натуральных чисел. Но при этом не из каждого натурального числа можно извлечь целый корень, поэтому получается, что количество квадратов натуральных чисел меньше количества натуральных чисел. Что противоречит первому выводу, что квадратов столько же. Эти парадоксальные ситуации говорят о том, что к бесконечным объектам не применима очевидная в иных обстоятельствах аксиома Евклида «целое больше своей части». Более строго, бесконечные множества характеризуются как множества, имеющие собственные подмножества той же мощности.

Приведём более сложный пример логических затруднений, связанных с бесконечностью. Он связан с аксиомой выбора — одном из важнейших принципов теории множеств. Ниже мы ещё вернёмся к теории множеств, пока скажем только об этом её элементе.

Упрощённо говоря, согласно аксиоме выбора, если есть некоторое множество элементов, то можно выбрать один из них. Например, в конечном наборе разных натуральных чисел, очевидно, есть наименьшее число, то есть выбор наименьшего числа в этом случае возможен явным образом.

Однако столь же явно нельзя выбрать наибольшее натуральное число, так как множество всех натуральных чисел бесконечное. Или, например, определить наименьший элемент открытого интервала — всегда найдётся ещё меньший, или число Пи, так как его вычисление бесконечно, число Пи иррациональное и трансцендентное. Таким образом, эти элементы как будто бы есть, но их как будто бы и нет.

Аксиома выбора была сформулирована и опубликована немецким математиком Эрнстом Цермело в 1904 году. Аксиома выбора вызвала бурную полемику, до сих пор не все математики принимают её безоговорочно, бытует мнение, что доказательства, полученные с её привлечением, имеют «иную познавательную ценность», чем доказательства, не зависящие от неё.

Например, следствием аксиомы выбора является знаменитый парадокс удвоения шара (парадокс Банаха — Тарского) — теорема в теории множеств, утверждающая, что шар равносоставлен двум своим копиям. Парадокс обращает внимание на ситуацию, кажущуюся совершенно невозможной с точки зрения привычной логики: можно так разделить шар на части, что из полученных частей составить ещё один шар, равный первому. То есть из одного шара сделать два. Доказательство парадокса основано на изучении действия группы преобразований на сфере и показывает как можно разделить шар на пять частей, из которых затем сложить два шара того же радиуса, что и исходный.

Более того, в сильном варианте парадокса любые два ограниченных подмножества трёхмерного евклидова пространства с непустой внутренностью являются равносоставленными. Проще говоря, из шара размером с горошину можно вытащить ещё один шар размером с Солнце — чего уж говорить про «размножение» шара на два одинаковых по размеру.

Неформально суть парадокса в следующем. Интуитивно подразумевается, что у шара есть минимальные элементы и эти элементы имеют объём, поэтому их невозможно вытащить из шара без ущерба для его объёма и тем более составить из них другой такой же шар. Однако в математике объём может делиться до бесконечности, то есть до точек, никакого объёма не имеющих. При этом есть точки с измеримыми координатами и неизмеримыми — теми самыми, которые вроде бы есть, а вроде бы и нет. Следовательно, если можно выбрать неизмеримые точки, то без какого-либо измеримого ущерба для объёма исходного шара можно «вытащить» из него любое тело любого объёма. Установить пропажу точек будет невозможно.

Это кажется невероятным, тем не менее наглядно проиллюстрировать равносоставленность (равномощность) даже абсолютно несопоставимых по размерам объектов очень легко.

Возьмём листок бумаги и нарисуем на нем окружность радиуса r = 1 (радиус, конечно, может быть любым, но мы принимаем его за единицу). Листок — это часть воображаемой бесконечной по размеру плоскости. Мысленно соединим любую точку этой воображаемой плоскости, лежащую за пределами окружности, с центром окружности. На полученном радиус-векторе R построим точку r = 1/R, которая, естественно, окажется внутри окружности. То же будет с любой точкой воображаемой плоскости за пределами нашей окружности — каждая точка этой бесконечной плоскости, которых, как кажется, должно быть просто-таки несопоставимо больше, чем точек внутри окружности, тем не менее будет иметь в окружности своё представительство.

При этом понятно, что из плоскости за пределами нашей окружности можно вытащить сколько угодно других окружностей — и равных нашей, и большей, чем она, причём, естественно, что на нашу окружность это никак не повлияет. Однако, как мы только что выяснили, все эти внешние окружности фактически содержатся в нашей, так как любую их точку можно сопоставить точке нашей окружности. А раз так, то ничего не мешает и вытащить эти окружности не из внешней плоскости, а из нашей окружности — вытащить из неё сколько угодно других окружностей или вообще любых других фигур — и точно так же на нашу окружность это никак не повлияет, никаких дырок в ней не появится, меньше она не станет. Переход от плоскости к объёму представить не сложно.

В итоге оказывается, что точек снаружи окружности на самом деле не больше, чем внутри. Или, другими словами, мощность множества всех точек плоскости и мощность его подмножества — множества точек внутри окружности — равны. Вместо плоскости можно подставить линию или сколь угодно многомерный объём. Аналогично тому, как в бесконечной жизни столько же секунд, сколько и тысячелетий, в горошине столько же точек, сколько и во всей Вселенной.

Столь очевидная неоднозначность выводов приводит к тому, что доказательства, требующие аксиомы выбора, всегда неконструктивны: даже если доказательство создаёт объект, нельзя сказать, что же именно это за объект — он не существует «наглядно», как нечто такое, что можно «действительно» построить.

В итоге, действительно, бесконечность парадоксальна, неочевидна, контринтуитивна. Поэтому если правила вывода формальной системы будут сильнее логических средств арифметики, то используемые в доказательстве методы не будут финитистскими, а значит, они перестанут быть не только методами конечными, но и методами наглядными, однозначно ясными.

Например, непротиворечивость формальной арифметики доказана в теории Генцена (где к логике первого порядка добавлен упрощённый вариант трансфинитной индукции — метода доказательства, обобщающего математическую индукцию на случай несчётного числа значений параметра), или в рамках теории множеств (посредством доказательства теоремы Гудстейна). Эти формальные системы сильнее арифметики, так как позволяют совершать операции над бесконечными совокупностями (множествами) элементов, объединённых по некоторому признаку, и доказательства собственной непротиворечивости уже не имеют. Причём если исходить из того, что для доказательства непротиворечивости этих формальных систем потребуется формальная система с ещё более выразительным языком, то методы этой системы, очевидно, должны быть «ещё менее финитистскими» и, как следствие, оставлять ещё больше вопросов.


1.1.2. Множество всех множеств, значение теорем Гёделя о неполноте

Более того, под вопросом находится даже сама принципиальная возможность такого доказательства, так как формальная система, в которой можно будет доказать непротиворечивость всей теории множеств, должна оперировать таким объектом, как множество всех множеств. Что это за объект?

Теория множеств изучает множества. Элементом множества может быть абсолютно любой объект — электроны, люди, формулы, числа и так далее. В свою очередь, подмножествами множества являются различные комбинации его элементов.

Таким образом, согласно Гёделю, чтобы доказать непротиворечивость теории множеств, формальная система, в которой это можно будет сделать, должна обладать более богатым языком, чем язык самой теории множеств. То есть, проще говоря, таким языком, который сможет «вместить» в себя все мыслимые множества, точно так же как сама теория множеств «вместила» в себя всю арифметику. «Все мыслимые множества» — это и есть множество всех множеств.

Однако, в отличие, например, от множества всех натуральных чисел, множество всех множеств — это объект противоречивый.

Далее рассмотрим противоречивость множества всех множеств подробнее, в том числе в контексте более широком, чем только математическом, после чего обратно вернёмся к теоремам Гёделя.

Как говорилось, несмотря на то, что натуральных чисел бесконечно много, мы всё-таки можем представить их все одним объектом — множеством натуральных чисел. У кого-то это получается лучше, кого-то не покидает ощущение натянутости такого представления, но тем не менее. Однако совсем другая ситуация возникает, если попробовать в таком же ключе «одного объекта» представить множество всех множеств.

Рассмотрим такой аргумент.

Множество всех множеств, очевидно, должно быть самым большим множеством, так как включает в себя все множества. Однако у любого множества есть подмножества, при этом и каждое подмножество, и множество всех подмножеств  — это тоже множества (обратим внимание, множество всех подмножеств имеет собственное название — булеан). Как следствие, получается, что множество всех подмножеств множества всех множеств содержит больше множеств, чем само множество всех множеств, то есть вдруг оказывается, что множество всех множеств включает в себя не все множества.

Последнее утверждение может показаться тривиальным, потому что подмножества — это все возможные комбинации элементов множества. Естественно, что количество комбинаций элементов всегда будет больше, чем количество самих элементов — в данном случае количество комбинаций множеств будет больше самого количества множеств. Например, у множества, состоящего из одного элемента, два подмножества — пустое множество и само это одноэлементное множество. Даже у пустого множества — у пустоты, есть одно подмножество — само пустое множество. В итоге сколько бы элементов мы ни объединили в множество, пусть даже ни одного, множество всех его подмножеств будет больше, чем само множество.

Но, может, мы ошиблись, и может быть так, что подмножеств будет не больше, чем элементов? Вспомним, что в случае бесконечных множеств тривиальность может быть обманчива. Количество секунд в бесконечной жизни не больше количества тысячелетий, мощности этих множеств равны.

Тем не менее, и у бесконечных множеств подмножеств тоже больше, чем самих элементов. Об этом нам говорит теорема Кантора. Далее приведём её доказательство — простое, но вместе с тем изящное.

Строгий способ доказательства теоремы Кантора — что само множество менее мощно, чем множество его подмножеств — называется диагональным аргументом (диагональный метод Кантора).

Возьмём бесконечное множество нулей и единиц, то есть и нулей у нас бесконечно много, и единиц тоже. Можно перегруппировывать их между собой по разному — 1, 1, 0… ; 0, 1, 0… и так далее. Каждая такая бесконечная последовательность нулей и единиц — это подмножество всего множества нулей и единиц.

Так и будем делать — будем по-разному группировать нули и единицы и записывать получающиеся бесконечные последовательности в строки (в таблице ниже они обозначены как S с номером). Например, в первой строке запишем одни нули — бесконечное количество нулей. Эта строка будет первое подмножество нашего множества нулей и единиц. Во второй строке запишем одни единицы — это будет второе подмножество. В третьей строке как-нибудь сгруппируем все нули и единицы. Это будет третье подмножество. В четвёртой перегруппируем нули и единицы отличным от предыдущих строк способом. И так как у нас бесконечное количество нулей и единиц, то перегруппировывать их можно бесконечно, ни разу не повторившись.

Таким образом, у нас получится бесконечное количество строк, каждая из которых состоит из бесконечной последовательности нулей и единиц.

Теперь обратим внимание, несмотря на то, что и нулей бесконечное количество, и единиц бесконечное количество, даже их вместе всё равно «не больше», чем натуральных чисел (0, 1, 2, 3, …), потому что натуральных чисел тоже бесконечное количество. Ещё раз вспомним, в бесконечной жизни количество секунд равно количеству тысячелетий, хотя кажется, что количество секунд больше.
 















Рис. 1. Диагональный аргумент.

Но и строк, количество которых тоже бесконечно, тоже не больше, чем натуральных чисел, потому что каждую строку тоже можно пронумеровать натуральным числом.

В итоге, получается, что количество строк (подмножеств множества нулей и единиц) не больше количества самих нулей и единиц (элементов множества нулей и единиц), так как для нумерации и того и другого нам хватило натуральных чисел. То есть в бесконечных множествах количество подмножеств множества оказалось равно количеству его элементов. А мы вроде бы утверждали, что и в бесконечных множествах количество подмножеств будет больше количества элементов.

Тогда посмотрим внимательнее, может быть, где-нибудь спряталась строка, которую мы не заметили? Для нумерации которой всей бесконечности натуральных чисел будет уже недостаточно? Действительно, такая строка есть.

Для того, чтобы её увидеть, заменим первый символ первой строки на другой. В данном случае заменим ноль на единицу. Во второй строке заменим второй символ — в данном случае заменим единицу на ноль. В третьей строке заменим третий символ, то есть ноль заменим на единицу. И так далее — то, что нужно менять, выделено красным. В результате у нас получится ещё одна бесконечная последовательность нулей и единиц — она выписана под таблицей и выделена синим.

От первой строки эта новая последовательность будет отличаться первым символом, от второй вторым, от третьей третьим и так далее. Другими словами, нас получится новая строка бесконечной последовательности нулей и единиц, которая отличается от всех ранее записанных строк хотя бы одним символом.

Но номера у этой строки быть не может, ведь всю бесконечную последовательность натуральных чисел мы «потратили» на уже написанные строки. Таким образом, мы доказали, что бесконечное множество, действительно, менее мощно, чем множество его подмножеств, даже несмотря на бесконечность этих объектов.

И не только это. В том же 1891 году Георг Кантор использовал диагональный аргумент в доказательстве несчётности вещественных чисел (счётность и несчётность рассмотрим в главе 4). Позднее диагональный аргумент применялся в некоторых версиях доказательства теоремы Гёделя, неразрешимости проблемы остановки (скажем о ней в этой главе позже) и доказательствах других теорем.

Есть ещё один способ доказательства теоремы Кантора. Не менее интересный, но, возможно, менее наглядный.

Предположим, что количество элементов множества всё-таки равно количеству его подмножеств. Тогда между элементами и подмножествами можно установить взаимно однозначное соответствие, то есть каждому элементу множества можно будет сопоставить подмножество. Вот этот элемент принадлежит подмножеству, поставленному ему в соответствие? Если принадлежит, покрасим его в синий цвет, не принадлежит — в красный. Раскрасим по этому правилу все элементы множества.

Теперь возьмём получившееся подмножество красных элементов. Оно тоже должно иметь сопоставленный ему элемент, так как именно из этого допущения мы исходим: если есть подмножество, есть и элемент, который поставлен ему в соответствие. Этот элемент синий или красный? Пусть он синий. Если он синий, то он принадлежит подмножеству красных элементов, так как синие элементы — это те, которые принадлежат подмножеству, поставленному им в соответствие. Но это противоречит тому, что подмножество красных элементов состоит только из красных элементов. Пусть этот элемент красный. Тогда он не принадлежит подмножеству красных элементов. Но это противоречит тому, что подмножество красных элементов содержит все красные элементы. Таким образом, получается, что подмножество есть, но ни один элемент множества ему сопоставить нельзя, то есть подмножеств у множества оказалось больше, чем элементов. Мощность множества меньше, чем мощность его подмножеств.

Итак, мы выяснили (и даже доказали), что подмножеств у множества всех множеств больше, чем элементов. И заодно, что множество всех множеств противоречиво, так как оно должно быть самое большое, но таковым, как оказалось, не является — множество всех его подмножеств больше самого множества всех множеств.

Сформулируем противоречие ещё раз. Множество всех множеств по определению содержит своими элементами все возможные множества. Но ничего не мешает нам комбинировать эти элементы — точно так же, как любые другие элементы любого другого множества. И точно так же этих комбинаций у нас будет больше, чем элементов самого множества всех множеств. Каждая комбинация — подмножество, они вместе — множество подмножеств множества всех множеств, при этом каждое подмножество — это само по себе тоже множество. В итоге, во множестве подмножеств будет больше множеств, чем во множестве всех множеств. Следовательно, множество всех множеств не включает в себя все множества. А должно. Противоречие.

Попробуем его исправить. У нас есть исходное множество всех множеств, найдём всего его подмножества и включим их во множество всех множеств. Множество всех множеств, естественно, тут же станет больше. Но тогда и множество подмножеств полученного таким образом нового множества всех множеств тоже снова станет больше, а значит, операцию по включению в него его подмножеств нужно будет проделывать опять — и так бесконечно. Где бы мы ни остановились, тут же оказывается, что множество подмножеств множества всех множеств больше самого множества всех множеств. Но множество всех множеств должно быть самым большим, оно же включает в себя все множества. В итоге непротиворечиво определить объект «множество всех множеств» не получается.

Может быть, дело в названии? Почему бы не обобщить все множества не во «множество всех множеств», а назвать этот объект по-другому — «общность всех множеств», например. И тогда, как кажется, сколько бы множества ни множились, все они в целом — это общность множеств, и уже этот объект и есть самый большой.

Однако множество всех множеств от этого не исчезает, потому что если есть множества, то должно быть и множество всех множеств. В результате возникают два варианта.

Или общность всех множеств будет выходить за рамки теории множеств (оно же не множество, а их некая «общность», новый объект), но непонятно, как это возможно, если мы как раз и не можем найти эти рамки. Таким образом, разобраться с множеством всех множеств этот вариант не позволяет.

Или, единственно остающийся второй вариант, что общность всех множеств — это тоже множество. Естественно, в этом случае общность всех множеств тоже является подмножеством множества всех множеств. Но тогда общность всех множеств будет включать в себя само себя, а это противоречие. С одной стороны, общность всех множеств — это самый большой объект, так как обобщает все множества, и одновременно, как тоже множество, общность всех множеств — это элемент множества всех множеств. А что такое множество всех множеств, неизвестно. В итоге, как и следовало ожидать, изменение названия сути дела не поменяло.

Теперь рассмотрим множество всех множеств ещё раз. Множество всех множеств — это все множества. Причём и само множество всех множеств — это тоже множество. А это уже само по себе противоречие. Дело в том, что множество всех множеств — это новое целое, полученное путём обобщения всех множеств в новый объект — множество всех множеств. Но в таком случае множество всех множеств, как тоже множество, тоже должно быть элементом множества всех множеств, то есть, как и в абзаце выше, быть элементом самого себя. Просто выше, чтобы избавиться от парадоксов, мы попытались придумать новый объект, а по сути, оказалось, что всего лишь придумали множеству всех множеств ещё одно название. Но стать элементом самого себя невозможно, это противоречие, так как чтобы включить в себя самого себя, нужно стать больше самого себя.

В результате, ввиду противоречивости, множество всех множеств не может являться объектом никакой теории. Но другого множества всех множеств, которое будет множеством именно всех множеств, у нас нет. В итоге доказательство непротиворечивости теории множеств построить невозможно, потому что нельзя обобщить все множества в объект, чтобы рассмотреть их как целое, как объект теории. Наоборот, наличие парадоксов говорит о противоречивости теории множеств.

Почему возникают описанные парадоксы, в чём их «настоящая» причина, отражённая в математике? Ответим на этот вопрос немного позже. Пока же рассмотрим ещё один вариант формулировки противоречивости множества всех множеств, он в ключе уже ранее написанного, но более известный и, возможно, более наглядный.

Пусть есть множество всех множеств, которые не содержат себя в качестве своего элемента. Например, такие множества — это множество людей или, например, множество электронов, и вообще любые наборы чего-либо конкретного. Очевидно, что само множество людей или множество электронов как объекты — это не человек и не электрон, то есть это действительно такие множества, которые не содержат сами себя в качестве своего элемента. Но если представить множество всех таких множеств — будет ли оно содержать себя в качестве своего элемента?

Кажется, ответ очевиден: во-первых, содержать себя в качестве своего элемента — это, см. выше, уже непонятно что, а во-вторых, если рассматриваются исключительно только такие множества, которые не содержат себя своим элементом, то и их совокупность тоже не будет содержать себя своим элементом. Чему-то другому взяться просто неоткуда, ведь у нас просто совокупность всех множеств, которые не содержат себя своим элементом, а не нечто новое, не некий новый объект.

Однако, с другой стороны, речь идёт как раз о новом объекте — о множестве самих множеств, а такое множество, очевидно, уже должно содержать себя своим элементом — оно же само тоже множество, а значит, должно быть элементом самого себя — элементом множества всех множеств. Таким образом, возникает противоречие, потому что мы рассматриваем только такие множества, которые не содержат себя своим элементом. Множество всех множеств не может существовать.

Описанный парадокс — это парадокс Рассела, парадокс первого («наивного») варианта теории множеств. Парадокс Рассела в других формулировках был известен ещё в Древней Греции. Например, это парадокс лжеца: «Это высказывание ложь». Если данное высказывание действительно ложь, то оно правдиво говорит о своей ложности, то есть оно правдиво. Если же оно правдиво, то оно ложно. Другой вариант: «Мэры всех городов должны жить не в своем городе, а в специальном Городе Мэров». Но где тогда должен жить мэр Города Мэров, ведь по условию в своём городе он жить не может? Или даже так: если разделить все числа на интересные и неинтересные, то неинтересные числа сразу станут интересны тем, что они неинтересные, то есть интересными, получается, будут и сразу все числа, и только их часть.

Тем не менее на нынешнем этапе развития теории множеств с помощью различных достаточно искусственных ограничений основные противоречия преодолены. Способ преодоления фактически заключается в том, чтобы так или иначе устранить множество всех множеств из теории. Например, таким подбором аксиом, чтобы из них следовало, что никакое множество не может быть элементом самого себя, или построением определённой иерархии множеств. В итоге этих попыток в наиболее популярных современных вариантах теории множеств вместо множества всех множеств рассматриваются объекты более частного характера: универсальный класс — класс всех множеств, который сам множеством не является, или универсальное множество (универсум), которое понимается более узко, как «множество, включающее все множества, участвующие в рассматриваемой задаче». Доказательство непротиворечивости таких теорий становится возможным, оно будет ограничено рассматриваемыми множествами.

Например, похожим образом в науке не рассматривается теория всего, хотя бы потому, что она ещё не создана, тем не менее это не мешает делать содержательные (обладающие предсказательной силой) утверждения об отдельных явлениях.

Но при чём здесь теория всего, зачем это сравнение?

Сравнение множества всех множеств с теорией всего сделано не случайно. Множество всех множеств — это, по сути, объект «всё», то есть описание всего, теория всего. Но если теория всего описывает всё, то, очевидно, она должна описывать и сама себя — сама в себе выводиться, сама из себя следовать, так как частью всего, естественно, является и сама теория всего.

При этом, вспомним, одна из тем статьи как раз о теории всего, то есть о том, можно ли описать «всё», выразить «всё» на языке некоторой теории. И противоречивость множества всех множеств, наверное, говорит о том, что и теория всего тоже должна быть противоречивой. Так ли это, и, если так, является ли противоречивость теории всего каким-либо значимым фактором? Пока не будем делать утверждений именно насчёт теории всего, речь о ней пойдёт позже, тем не менее, действительно, ещё ненадолго отложим теоремы Гёделя и рассмотрим множество всех множеств в ключе объекта «всё».

И прежде всего, как кажется, множество всех множеств должно существовать, несмотря ни на какие противоречия.

Потому что если что-то мыслится, то должен существовать и объект «всё мыслимое», если существует что-то, то должно быть и «всё сущее», если есть язык, то должен быть и «самый богатый язык». Однако, как следует из парадоксов со множеством всех множеств, с такими объектами может быть не всё так однозначно. И не просто потому, что их нельзя построить «на практике», как нельзя построить бесконечность натуральных чисел, а потому что эти объекты противоречивые, бессмысленные. Они как будто должны выходить за рамки самих себя, за рамки того, что рассматривается.

Как говорилось выше, множество людей — это не человек, множество электронов — не электрон. Это новое целое. Точно так же «всё мыслимое» не может быть мыслимым, «всё сущее» — сущим, а «самый богатый язык» — уже не язык. «Всё мыслимое», «всё сущее» или «самый богатый язык» — это нечто большее, чем просто что-то мыслимое, что-то существующее или какой-либо язык. Но нельзя больше чем мыслить, существовать и говорить, поэтому для того, кто мыслит, существует и говорит, это объекты непознаваемые, недоступные осмыслению.

Множество всех множеств тоже не может быть множеством, но переход к новому целому уже невозможен, так как множество всех множество включает в себя всё. Необходимость перехода и одновременно его невозможность и делают объект множество всех множеств противоречивым.

Можно сказать, что, пытаясь определить объект, который вмещает в себя всё, мы сталкиваемся с такой бесконечностью, которая бесконечно бесконечнее любой мыслимой бесконечности, и даже бесконечностью её можно назвать только условно, по причине отсутствия подходящих аналогий. Объект «всё» бесконечен настолько, что мы уже не в состоянии мысленно посмотреть на него со стороны, «объять взглядом», оценить, представить. И, таким образом, ввиду его «максимальной нефинитисткости», то есть максимальной неоднозначности, неясности, мы получаем объект уже попросту противоречивый, контринтуитивный, немыслимый. В итоге уверенность, что если есть что-то, то должно быть и всё, попросту не имеет никакого осмысленного воплощения во что-либо, что может быть этим самым «всем».

Тем не менее интересные аналогии ещё не закончились. Множество всех множеств можно связать ещё с одним явлением — познанием. Но не только с его итогом — с теорией всего, о которой, как мы сказали, речь пойдёт позже, а с самим ходом познания, общим принципом этого движения.

В попытке определить множество всех множеств как некий завершённый объект, то есть как некое целое, оно как будто бы постоянно от нас «убегает», постоянно расширяется, ускользает от внимания, не позволяя заключить себя в рамки каких-либо границ, пределов, одного образа. Потому что как только мы переводим внимание с объекта на его элементы, то есть с множества всех множеств на его подмножества, пытаясь подтвердить, что всё учтено, количество подмножеств стремительно вырастает, поэтому мы обобщаем их в новое множество всех множеств, и это новое множество всех множеств тоже требует проверить все ли подмножества учтены — и всё по новой и так постоянно. Иными словами, представление о целом требует проверки через уточнение деталей, а уточнение деталей требует проверки через уточнение целого, уточнение которого снова требует внимания к деталям — и так бесконечно.

Но именно так идёт познание. В процессе познания представление о деталях уточняет смысл целого, а целое — смысл деталей. В результате изменяется представление и о мире в целом, и о его элементах. В то же время, учитывая противоречивость объекта «всё», этот процесс никогда не достигнет своего логического итога в виде точного понимания и мира в целом, и его элементов. Если объект «всё» противоречив, то познание и должно быть бесконечным, самая нижняя черепаха мироздания никогда не будет найдена.   

Связать противоречивость множества всех множеств с познанием можно ещё одним способом. Познавая мир, мы обучаемся, то есть некоторым образом меняемся и действуем иначе, чем раньше, по новому алгоритму. При этом, так как мы часть всего сущего, то понимание всего, очевидно, должно включать и понимание себя. Но в этом процессе мы, естественно, тоже обучаемся, то есть меняемся, усложняемся — и, таким образом, будем вынуждены уточнять понимание себя снова и снова — и так бесконечно. Образно говоря, попытка описать себя равносильна рисованию себя, рисующего себя, рисующего себя… и так бесконечно.

Обратим внимание, из предыдущего абзаца следует необычное на первый взгляд обстоятельство — что познание всего мира в целом фактически равно познанию человеком только самого себя, потому что и то и другое одинаково не имеет итога. Если бы познание субъекта было бы не равно познанию мира, то субъект был бы познаваем.

Но разве возможно равенство столь несопоставимых по масштабу объектов? Тем не менее всё верно, так и должно быть. Мир доступен нам исключительно посредством ощущений, мы не можем выйти за рамки своего сознания, любое знание внутри него, поэтому познавая мир, мы на самом деле познаём его исключительно через свои ощущения, то есть фактически познаём именно свои ощущения — себя, своё Я, своё сознание. Как следствие, непознаваемость всего — это непознаваемость себя и наоборот.

Ещё не раз вернёмся к взаимосвязи себя и мира, а пока скажем о другом — непосредственно почему объект «всё» противоречив? Ответ на этот вопрос, по сути, уже был дан, сейчас акцентируем на нём внимание.

Целое — это всегда новый объект, так как на уровне целого у деталей появляются новые качества. Клетки становятся человеком, деревья лесом и так далее. Поэтому чтобы понять смысл целого, на объект надо мысленно посмотреть со стороны, то есть со стороны своего опыта, представить образ явления, его модель. Иными словами, надо мысленно выйти за рамки рассматриваемого явления, чтобы увидеть его целиком. Однако выйти за рамки всего, как и за рамки себя, невозможно в принципе, потому что и в том и в другом случае придётся выйти за рамки своих знаний, чувств, задач, за рамки какого бы то ни было смысла, пространства и времени, всего прошлого и будущего. Как следствие, познанию доступны отдельные явления, но не все. Смысл множества всех множеств, смысл себя или смысл всего смысла уже не имеет. Являясь частью мира, сделать вывод обо всём мире невозможно — в то же время наблюдать мир можно, только будучи его частью. Парадокс Рассела демонстрирует это теоретико-множественном уровне.

И наконец обратим внимание, множество всех множеств можно сравнить в том числе и с истинной невыводимой формулой из теоремы Гёделя о неполноте. Такая формула есть — и множество всех множеств, очевидно, есть, должно быть. Но эта формула невыводима — и множество всех множеств тоже «невыводимо», рассуждения, которые, как кажется, к нему ведут, на самом деле ведут к противоречиям.

Теперь вернёмся к теоремам Гёделя и определим их значение.

Итак, из теорем Гёделя о неполноте следует, что так расширить аксиоматику любой достаточно богатой и непротиворечивой формальной системы, чтобы все утверждения без остатка распределились на истинные и ложные, невозможно, потому что если система непротиворечива, то в ней всегда должны оставаться истинные невыводимые формулы. Доказать непротиворечивость формальной системы можно в системе с более богатым языком, но для доказательства непротиворечивости уже этой формальной системы потребуется система с ещё более богатым языком. И так бесконечно, при этом каждый более богатый язык будет всё менее финитистским, и в конечном итоге всё сведётся к противоречивости самого богатого языка.

В результате логико-математическое значение теорем Гёделя можно определить следующим образом. Никакая формализованная система логики не может быть адекватной базой математики, потому что если математика непротиворечива, то она не может быть целиком сведена к какому-либо конечному набору аксиом — их никогда не хватит, чтобы доказать все математические истины. Можно сказать иначе: чтобы доказать непротиворечивость всей математики, нужно выйти за рамки математики, но за рамками математики не может быть математических доказательств. Или так: если математика непротиворечива, то она не может быть целиком сведена к каким-либо финитистским — ясным, конечным — построениям, полностью выражена с помощью каких-либо финитистских методов рассуждения.

В свою очередь, эти выводы можно интерпретировать как невозможность устранения из математики метафизики — неких невычислимых, непонятных оснований, которые невозможно выразить в виде каких-либо точных правил, строгих законов, то есть невозможно формализовать.

Историко-математическое значение теорем Гёделя о неполноте заключается в их радикальном влиянии на программу формализации оснований математики с последующим доказательством её непротиворечивости, проводимую знаменитым немецким математиком Давидом Гильбертом в 20-е годы прошлого века. Для осуществления этой программы Гильберт разработал строгую логическую теорию доказательств, с помощью которой непротиворечивость математики свелась бы к доказательству непротиворечивости арифметики. Как следует из теорем, программа оказалась невыполнимой.

В итоге наше знание математики всегда неполно. Мы не знаем всю математику и так будет всегда, поэтому какая математика «на самом деле» — противоречивая или нет, не знаем тоже. В то же время, если узнаем — то, согласно теоремам Гёделя, она окажется противоречивой, так как если математика действительно непротиворечива, то узнать (доказать) это никогда не получится.


1.1.3. Проблема остановки

Логику принципиальной неполноты знания и связанных с ней ограничений и противоречий можно заметить также в других математических теориях. Например, в теореме Тарского о невыразимости арифметической истины — суть которой в том, что средствами самой формальной системы нельзя выразить все истины о её структуре (рассмотрим эту терему позже). Или в проблеме остановки — одной из центральных проблем в теории алгоритмов. Скажем о ней подробнее сейчас.

Если формальная система достаточно богата, то по построенной в ней формуле в общем случае нельзя определить верная ли она, то есть выводима она из аксиом этой системы или нет, так как иное было бы равносильно возможности «знать всё» — возможности разделить все формулы системы на истинные и ложные, что противоречит теоремам Гёделя о неполноте. Данное положение формализовано в так называемой проблеме остановки, суть которой в следующем.

Дано описание алгоритма и входные данные, исходя из чего требуется определить, остановится алгоритм, то есть задача будет решена, или процедура работы алгоритма будет выполняться бесконечно, то есть задача не имеет решения. Знаменитый английский математик Алан Тьюринг в 1936 году доказал, что проблема остановки неразрешима, то есть не существует универсального алгоритма решения этой проблемы. Можно добавить, что современные доказательства теоремы Гёделя опираются именно на понятие алгоритмической вычислимости.

Доказательство неразрешимости проблемы остановки может показаться запутанным, но на самом деле оно очень простое. Пойдём от противного и предположим, что у нас есть алгоритм, назовём его Т, который по описанию любого предъявленного ему алгоритма может определить, остановится тот или не остановится. Если алгоритм не останавливается, то алгоритм Т выдаёт — 0, а если останавливается — 1. Как алгоритм Т это определяет, значения не имеет. Теперь возьмём алгоритм, назовём его Р, у которого есть одна интересная особенность. Она в том, что если, получая описание алгоритма Р, алгоритм Т выдаёт 1 (то есть алгоритм Т определяет, что алгоритм Р останавливается), то алгоритм Р специально зацикливается, запуская бесконечный цикл. И наоборот, если алгоритм Т, получая описание Р, выдаёт 0 (то есть алгоритм Т определяет, что алгоритм Р не останавливается), то алгоритм Р специально останавливается. В результате получается, что если алгоритм Т определяет, что алгоритм Р останавливается, то алгоритм Р не останавливается, а если алгоритм Т определяет, что алгоритм Р не останавливается, то алгоритм Р останавливается. Таким образом, мы пришли к противоречию, следовательно наше исходное допущение о существовании алгоритма T неверно. Мы нашли алгоритм, который никакому алгоритму Т не по зубам.

Обратим внимание, алгоритму Т всё известно про алгоритм Р, никаких тайн алгоритм Р для него не содержит. Но дать верный ответ, остановится Р или нет, ему это всё равно никак не помогает, потому что суть алгоритма Р в том, чтобы менять своё решение, останавливаться или нет, в зависимости от ответа Т. Но нельзя выбрать правильный ответ, когда правильность ответа меняется от самого ответа.


1.2. Теоремы Гёделя о неполноте и искусственный интеллект

Теперь, выяснив основное содержание теорем Гёделя о неполноте и некоторые связанные с эти содержанием обстоятельства, рассмотрим связь теорем с построением искусственного интеллекта. Но прежде ещё раз напомним, что аргументы этой главы, которые касаются искусственного интеллекта, носят общий, принципиальный характер. В них не учитываются особенности мозга и алгоритмов искусственного интеллекта (отчасти коснёмся этой темы в конце главы, когда речь пойдёт о свободе воли) — эти объекты рассмотрим во второй главе и других главах. Более того, аргументы этой главы фактически никак не пригодятся для практического варианта доказательства ограничений сложности искусственного интеллекта, которое будет приведено во второй главе. Но они пригодятся в третьей главе, где мы снова вернёмся к принципиальным соображениям, и в других главах, в том числе, когда речь пойдёт о физических основаниях жизни.

Итак, связать сделанные выводы с ограничением сложности искусственного интеллекта можно следующим образом.

«Понять» явление — это формализовать его, то есть изучить законы явления и написать его алгоритм, формулу явления, которая этот алгоритм содержит и позволит вычислять течение явления, в зависимости от начальных условий. Другими словами, «понять» явление — это научиться его предсказывать, чем дальше в прошлое и будущее можно заглянуть, тем точнее представление о происходящем. В свою очередь, алгоритм, как точная формула явления, подразумевает формальный язык, в котором по строгим правилам сочетаний букв и слов одни утверждения перерабатываются в другие — «дано» в «ответ», начальное состояние в конечное.

Изменить здесь что-то невозможно, так как если неизвестен алгоритм, то нельзя говорить о понимании явления, потому что без знания того, как конкретно условия влияют на явление, течение явления можно будет только угадывать, а если язык не формальный, то есть не однозначный, не строгий, то он не позволит выразить точное знание. В итоге, чем меньше в описании явления математики, формального языка, и, следовательно, чем меньше в явлении понятного, тем больше предсказание такого явления будет связано с угадыванием, случайным выбором — иными словами, будет расти неопределённость.

Таким образом, понятно, что ограничение на формализацию явления — это ограничение на понимание явления. Ограничение, накладываемые теоремами Гёделя, — это ограничение на формализацию математики, то есть на понимание математики. При этом математика есть некоторый итог мышления, а мышление, в свою очередь, есть некоторый физический процесс, явление природы. Следовательно, ограничение на понимание математики может иметь связь как с ограничением на понимание работы мозга, так и природы в целом. Вероятно также, что эти ограничения могут иметь связь с созданием искусственного интеллекта. Действительно ли это так?

Если предположить, что мышление человека — это некое «обычное» физическое явление (как на самом деле, скажем во второй и третьей главе), то очевидно — для того, чтобы воссоздать мышление в искусственной системе не наугад, а целенаправленно, точно понимая что, как и зачем делается, мышление прежде следует понять, то есть формализовать. Другими словами, надо найти законы мышления, написать его алгоритм, то есть создать «теорию мышления», «теорию интеллекта» — «формулу» того, как мышление происходит. Однако, согласно теоремам Гёделя, в решении этой задачи возникнут принципиальные сложности.

Самый очевидный аргумент, говорящий о том, что сложности действительно возникнут, состоит в том, что непосредственным источником математики является мышление человека, поэтому если мышление будет формализовано, то формализована будет и вся математика. Но, согласно Гёделю, вся математика не может быть формализована, так как такая формальная система будет противоречивой. Следовательно, не может быть формализовано и мышление. В итоге мышление «невычислимо», алгоритм мышления не имеет смысла, различие естественного интеллекта и машинного принципиальное.

Тем не менее рассмотрим ситуацию подробнее: в чём конкретно будет противоречие, другие аргументы и их следствия.

Если предположить, что мышление можно формализовать, то есть мышление имеет некоторые законы и их можно найти и выразить в виде строгих формул, то мы, таким образом, построим алгоритм мышления, который позволит вычислять любой мыслительный процесс, любой итог мышления, в том числе сами найденные нами законы мышления, ведь они тоже есть некоторый итог мышления. В свою очередь, поиск законов мышления в этом случае можно представить, как поиск субъектом своих аксиом.

Пока субъекту известны ещё не все свои аксиомы, то есть не все законы мышления, то понятно, что алгоритм мышления написать будет нельзя, поэтому строго разделять свои утверждения на истинные и ложные субъект не сможет. Не зная всех причин появления утверждений, не понимая, как конкретно мозг приходит к тому или иному выводу, что и как конкретно на этот вывод влияет, нет и оснований считать свои утверждения истинными или ложными. В конце концов даже само представление о том, что есть «ложь», а что «истина», тоже понятно ещё не полностью.

Точнее говоря, субъект сможет разделить на истинные и ложные только часть своих утверждений — некоторое частное утверждение можно будет назвать истинным, но сама концепция, в которой это утверждение выведено как истинное, такого же строгого обоснования иметь уже не будет, потому что в конечном итоге в основании всех утверждений лежит работа мозга, а она не может быть понятна полностью.

Вспомним, если формальная система непротиворечива, то набор аксиом не может быть полон, из-за чего в непротиворечивой формальной системе множество истинных формул всегда будет больше множества доказуемых формул.

Таким образом, в отношении непротиворечивой формальной системы можно сказать то же самое, что и в отношении мышления, законы которого известны ещё не полностью: «некоторое частное утверждение можно будет назвать истинным, но сама концепция, в которой это утверждение выведено как истинное, такого же строгого обоснования иметь уже не будет». «Концепция» — это сама формальная система, «частные утверждения», которые в ней выводятся, — это доказываемые теоремы, при этом непротиворечивость «концепции» нельзя доказать средствами самой этой системы.

Но представим, что мы всё-таки узнали все необходимые подробности работы мозга. Что произойдёт? Можно предположить, что если субъекту всё-таки станут известны все свои аксиомы, то есть все законы мышления, алгоритм мышления написать будет можно, а значит, и строгая граница между истиной и ложью тоже может быть проведена. Основания всех своих утверждений станут в точности понятны, поэтому любое своё утверждение субъект сможет однозначно определить или как истинное, или как ложное, фантазию можно будет строго отделять от реальности.

Однако, наоборот, такая «полнота знания» будет означать, что субъект не знает абсолютно ничего, потому что именно так можно охарактеризовать противоречивость.

Напомним, в чём вообще суть противоречивости. Если можно сформулировать утверждение, то можно сформулировать и его отрицание, но в непротиворечивой формальной системе доказуемым может быть только что-то одно. Наоборот, в противоречивой системе выводиться будет и то и другое — «А» будет равно «не А».

Но именно это и произойдёт в случае формализации мышления. Все возможные утверждения, которые только можно сформулировать, следуют, естественно, из законов мышления. Поэтому знание всех законов мышления будет означать, что выводимыми станут  абсолютно все утверждения, которые только можно сформулировать, в том числе противоположные или даже о ложности самих законов мышления, по которым эти утверждения получены. Поэтому выводимость всех утверждений, наоборот, будет означать, что ложь перестанет отличаться от истины, верное от неверного, всё станет одинаковым — и из знаний субъекта исчезнет какой-либо смысл. Но в отсутствие смысла нельзя вести речь и о каком-либо знании.

Посмотрим ещё раз. Если у нас есть верный алгоритм некого явления, то, естественно, что ничего «ложное» из него следовать не может. Алгоритм — это инструкция переработки входящих данных в исходящие. Поэтому если у нас есть такая инструкция, другими словами, у нас есть верная «формула» явления, то мы всего лишь подставляем в неё начальные условия, в которых хотим явление исследовать, и получаем результатом то, что будет происходить с явлением в этих условиях. В случае алгоритма мышления, подставляя начальные условия — например сигналы рецепторов — мы, очевидно, можем найти такие условия, когда получим на выходе высказывание, что алгоритм мышления неверный. Ведь человек может при желании сказать, что-то верное или неверное, соврать, пошутить, независимо от того, как обстоят дела на самом деле, при этом желания не возникают без причины. Однако тогда, получается, что из верного алгоритма следует неверное утверждение о том, что этот алгоритм неверный. Если алгоритм верный, то он неверный. Это и есть противоречивость, бессмысленность. Истина и ложь становятся неотличимы друг от друга, так как доказать можно абсолютно всё, что можно сформулировать.

Противоречивость алгоритма мышления можно объяснить по-другому, может быть, ещё более наглядно. Знание законов мышления означает возможность предсказывать поведение любого субъекта, включая собственное поведение. Но, как кажется, если будущее известно, то его всегда можно изменить и поступить иначе, чем предсказано. Получается, если субъект не знает о том, что его поведение предсказано, то предсказание будет точным, но если ему предсказание сообщить, то он сможет своё поведение изменить. Однако если верность предсказания зависит от его знания субъектом, то очевидно, что описаны минимум ещё не все законы мышления, так как, оказывается, их недостаточно, чтобы предсказывать поведение во всех ситуациях. Таким образом, идея, что можно найти все законы мышления, ведёт к противоречиям. Точное разрешение этого парадокса приведём позже, в конце третьей главы.

Посмотрим на противоречивость законов мышления с несколько другой стороны. Окружающая нас среда сама по себе не может быть ложной — это просто среда, материя, атомы, молекулы. Поэтому если мы в точности опишем связь среды со своими утверждениями, то есть в точности установим, как утверждения возникают, как конкретно тот или иной «вход» в мозге приводит к тому или иному «выходу», то утверждения перестанут отличаться от среды, станут ей — станут атомами, молекулами. И тогда утверждения, естественно, не смогут быть ложными. Но тогда они не смогут быть и истинными, так как в отсутствие ложных утверждений нет и истинных. Таким образом, возможность такую связь провести и с этой точки зрения ведёт к противоречиям.

Проще говоря, сколько бы мы ни познавали стул, как бы точно его себе ни представляли, сколь точно ни описывали, никаких стульев ни в тексте, ни в нашей голове не появится, образ стула — это ещё не сам стул.

Сказанное означает, что наше представление о реальном мире всегда неточное и неполное, иными словами, ничего из наших знаний в реальности не существует. Более того, не просто не существует, а наши представления о реальности отличаются от самой реальности качественно — об этом говорит тот факт, что по мере познания стул в нашей голове не становится всё более и более реальным стулом, то есть разница между образом явления и самим явлением принципиальная, действительно качественная и всегда остаётся таковой. Однако, как ни странно, это не означает наличия в мозге чего-то «нефизичного», «нематериального» или однозначной ложности нашего представления о мире, но оставим подробности о качественном отличии знания и реальности до шестой главы.

Ещё один вывод из сказанного заключается в том, что смысл не может быть формализован. Смысл — это составляющая сознания, эмоционально воспринимаемая обобщённая перспектива ситуации, например, радость, печаль, удивление, то есть в целом эмоциональные оттенки хорошо/плохо. В свою очередь, сознание, очевидно, связано с мышлением. Тогда, если все необходимые нюансы мышления можно описать на некотором языке, то и все нюансы смысла тоже станут обычным утверждением этого языка. Однако в этом случае разница между ложью и истиной исчезнет, так как смысл и истинного утверждения, и ложного станет истинным утверждением языка, на котором описано мышление. Следовательно, чтобы у утверждений был какой-либо смысл, он должен оставаться за рамками утверждений, то есть сам смысл нельзя выразить каким-либо языком, смысл должен отличаться от какого бы то ни было языка. Причём это и так очевидно: язык — это просто звуки или следы краски на бумаге, само по себе это всё никакого смысла не имеет и иметь не может. Можно обратить внимание, сказанное означает, что в природе должно быть что-то, что словами выразить нельзя. Потому что у слов самих по себе никакого смысла нет, но смысл при этом есть.

Но, может быть, сознание не равно мышлению? Однако тогда возникают противоречия. Например, очевидно, что оттенки сознания, его динамика, должна коррелировать с ходом мышления, иначе окажется, что сознание само по себе. Поэтому если мы что-то чувствуем, ощущаем, понимаем, то это должно иметь отражение и в мыслительном процессе. В то же время если сознание сложнее мышления, то окажется, что какие-то элементы динамики сознания, получается, никак не связаны с ходом мышления, то есть существуют именно сами по себе. А если сознание проще мышления, то, описав сознание, мы сможем выводить всё мыслимое, но возможность выводить всё мыслимое как раз и будет означать, что мы написали алгоритм мышления.

Например, алгоритм мышления не может выводить больше мыслимого, так как чтобы написать какой-либо алгоритм, надо вначале помыслить то, что он будет вычислять, то есть такой алгоритм, который может выводить больше мыслимого, попросту не имеет смысла. Например, кажется, число Пи немыслимо, но алгоритм (с бесконечным числом операций) его вычисления есть. Однако алгоритм мышления и не должен вычислять точное значение числа Пи, он должен вычислять то, что мыслится, то есть вычислять число Пи в том объёме, как оно может мыслиться нами, включая все возможные эмоции, мысли, идеи, суждения, действия и так далее, связанные с числом Пи. И алгоритм мышления не может выводить меньше мыслимого, так как — см. абзац выше — тогда окажется, что мыслимого больше, чем состояний мозга.

Таким образом, сложность сознания и мышления в точности равна, то есть, другими словами, сознание — это и есть процесс мышления.

Противоречивость законов мышления можно объяснить ещё одним способом. Формализовать явление — это описать его на некотором формальном языке. При этом формализация мышления, которое есть непосредственный источник всех языков, будет равносильна построению максимально выразительного языка. Но максимально выразительный язык должен быть языком и максимально «не финитистским», то есть абсолютно неясным, неоднозначным, попросту «не языком», полной его противоположностью, поэтому ни что-либо на нём сформулировать, ни даже построить такой язык невозможно.

Приведём ещё один аргумент. Если пополнение непротиворечивой формальной системы аксиомами может продолжаться бесконечно и всё равно будут оставаться истинные недоказуемые утверждения, то и формализация мышления тоже процесс бесконечный. Если непротиворечивая формальная система не может быть представлена конечной совокупностью алгоритмов, то и мышление тоже не может быть представлено конечной совокупностью алгоритмов. Причём, обратим внимание, последнее утверждение говорит не о бесконечности значений параметров мышления, а о том, что бесконечен сам набор правил, по которым меняются параметры мышления.

Или так. Если мы смогли сформулировать алгоритм мышления, то это означает, что мы сформулировали его на некотором формальном языке в рамках некоторой формальной системы. И набор аксиом этой формальной системы должен быть именно полон, потому что алгоритм мышления следует сам из себя. Как говорилось, алгоритм мышления — это, как и любое утверждение, есть некоторый итог мышления, при этом алгоритм мышления описывает всё мышление, все его итоги, а значит, и свой собственный вывод тоже. Поэтому за рамками алгоритма мышления ничего мыслимого оставаться уже не может — алгоритм мышления выводит всё, включая сам себя. Следовательно, набор аксиом формальной системы, на языке которой написан алгоритм мышления, будет полон, потому что, во-первых, она тоже итог мышления, во-вторых, в мышлении никаких «истинных, но невыводимых формул» уже нет, так как все формулы следуют из алгоритм мышления, а алгоритм мышления следует сам из себя. Такая формальная система будет противоречивой, поэтому алгоритм мышления не имеет смысла.

Скажем то же самое более кратко. Источником формальной системы, на языке которой формализовано мышление, является само мышление. При этом, формализуя свой источник, эта формальная система формализует и саму себя тоже. Однако такая формальная система должна быть полной, ведь в полностью формализованном мышлении не может быть ничего невыводимого. Но тогда эта формальная система должна быть противоречивой, потому что в непротиворечивой формальной системе должна существовать истинная невыводимая формула.

Теперь вернёмся к теорем Гёделя и рассмотрим собственно сам гёделевский аргумент, для чего обратимся к сути доказательства важной в данном случае первой теоремы.

Вспомним, первая теорема о неполноте утверждает: если формальная система непротиворечива, то в ней существует невыводимая и неопровержимая формула. Поэтому идея доказательства, найденного Гёделем, заключалась в том, чтобы построить пример формулы, которая была бы и недоказуема, и одновременно содержательно истинна. Таковой Гёдель берёт формулу, которая содержательно утверждает свою собственную недоказуемость, то есть невыводимость из аксиом рассматриваемой формальной системы (так называемое гёделево предложение). Тогда, если эта формула в системе доказуема, то возникает противоречие, так как формула утверждает, что она недоказуема. Но если формула недоказуема, то она истинна, так как утверждает, что она недоказуема и на самом деле недоказуема. Таким образом, построенная формула является истинной недоказуемой формулой.

Для построения такой формулы и доказательства теоремы Гёдель приписал каждому символу, формуле или доказательству рассматриваемой системы номер — натуральное число (гёделева нумерация). Чем, по существу, задал специфический метаязык, который позволил «внутри» самой формальной системы высказывать суждения о её свойствах в форме суждений о числах. Например, невыводимость формулы означает, что в системе не может быть построено число с такими свойствами.

Однако помимо математических идей из этого доказательства следует и то, что человек способен распознавать истинные формулы, даже несмотря на их невыводимость из аксиом системы — иначе, например, истинную невыводимую формулу построить было бы невозможно. Но это значит, что мышление человека способно распознавать истину неким «не математическим» образом, так как в математике истинность определяется только посредством доказательства. Мышление не выводит формулы, будучи ограниченным формальными рамками аксиом системы, а находит их неким неформальным способом, имея возможность как будто наблюдать всю систему целиком, выделяя в ней интересные объекты, и уже только после этого проверяется их выводимость, исследуются пути к строгому доказательству. Поэтому можно предположить, что формальные утверждения — это действительно только некая «часть», некоторый «итог» принципиально неформализуемого, невычислимого явления, алгоритм которого написать невозможно.


1.3. Теорема Тарского о невыразимости истины, теория всего
                С теоремами о неполноте перекликается теорема Тарского о невыразимости арифметической истины, доказанная выдающимся польско-американским математиком Альфредом Тарским в 1936 году.

Согласно этой теореме, множество истинных утверждений арифметики (множество их номеров в гёделевой нумерации) не является арифметическим множеством, то есть множество всех истинных утверждений арифметики не может быть выражено какой-либо формулой арифметики, тогда как множество доказуемых утверждений, наоборот, арифметично и даже перечислимо. Иное, например, означало бы, что истинной невыводимой формулы нет, арифметика противоречива. Таким образом, понятие арифметической истины не может быть выражено средствами самой арифметики. В то же время понятие арифметической истины может быть выражено в теории более сильной, чем арифметика, однако чтобы выразить понятие истины уже этой теории, потребуется теория с ещё более выразительным языком и так далее.

Далее тоже рассмотрим теорему Тарского с точки зрения возможности формализации мышления, но вначале обратим внимание на её значение применительно к другой не менее глобальной идее и тоже теме нашей статьи — возможности построения теории всего.

Заметим, из приведённых ранее соображений на самом деле уже и так понятно, что теория всего невозможна, не имеет смысла. Например, мышление часть всего, но оно ни в каком алгоритме невыводимо — теории мышления быть не может, поэтому не может быть и теории всего. Аналогично смысл есть, но никаким языком он невыразим, так как слова сами по себе смысла не имеют. Или — точно так же как алгоритм мышления, теория всего хотя бы в принципиальном смысле позволит выводить все мыслимые утверждения, в том числе и противоположные или о ложности самой теории всего, но это означает противоречивость теории.

Другими словами, доказав противоречивость алгоритма мышления, мы фактически доказали и противоречивость теории всего. Таким образом, теоремы Гёделя о неполноте можно интерпретировать и как невозможность построения теории всего.

Поэтому сейчас не откроем что-то новое, а только лишь рассмотрим, как будут выглядеть эти ограничения на познание с точки зрения теоремы Тарского.

Предположим, что мы всё-таки поняли законы всего сущего и создали теорию всего, то есть написали формулу всего. Из этой формулы будет выводиться всё — все законы физики, формулы всех явлений, в ней будут заключены ответы на все вопросы, все наши мысли и поступки, всё прошлое и будущее. Теорема Тарского говорит о том, что такая формула не имеет смысла, так как из этой формулы будут выводиться и все истинные утверждения в том числе, то есть доказуемым станет абсолютно любое утверждение, которое только можно сформулировать.

Проверим. Как только у нас появляется язык, появляются и утверждения, которые можно на этом языке сформулировать — соответственно, истинные или ложные. Но, согласно теореме Тарского, чтобы выразить множество всех истинных утверждений, самого этого языка уже не хватит, нужен более богатый язык — и так бесконечно, сколько бы всё более богатых языков ни создавать. Чтобы написать теорию всего, тоже нужен некоторый язык, причём этот язык должен быть максимально богатым, так как теория всего должна выражать всё. Но всё — это в том числе и множество всех истинных утверждений языка, на котором она написана. Но тогда формула всего будет противоречивой. Таким образом, в случае построения теории всего мы пришли к пределу — максимально богатого языка недостаточно, а более богатый язык существовать уже не может.

Сформулируем по-другому. Для построения теории всего нужно выйти за рамки бесконечности всё более богатых языков, то есть нам нужен настолько богатый язык, чтобы он смог полностью описать и сам себя в том числе. Однако это означает самореферентность и потому противоречивость. Все слова такого языка будут сами себя обосновывать — любое утверждение в конечном итоге будет иметь следствием само себя, так как нет никаких других оснований существования слов, кроме самих слов. Но слова сами по себе не имеют никакого смысла, поэтому язык не может иметь основанием только сам себя, не может описывать все правила, по которым он сам возникает. Иначе истинность его утверждений не будет обусловлена ничем, так как они не будут выражать ничего, кроме самих себя, никакого внешнего мира.

Наглядно иллюстрирует противоречивость самореференции такой вид логической ошибки (или демагогического приёма), как порочный круг — когда определение предмета включает в себя свойства самого предмета или когда при доказательстве утверждения используется само это утверждение.

Ещё одна формулировка. Чтобы в теории всего могли выводиться все мыслимые языки (а они должны в ней выводиться, чтобы теория могла описать и нас в том числе, ведь наш язык, способность создавать новые языки — это часть нас, составляющая сложности нашего интеллекта), теория должна быть написана на метаязыке по отношению ко всем как-либо мыслимым языкам. То есть она должна быть написана на немыслимом языке. Но немыслимый язык немыслим.

Ещё формулировка. Чем богаче язык, тем менее он финитистский. В свою очередь, чем язык менее финитистский, тем меньше в нём ясности, строгости, конечности, а чем меньше в языке этих качеств, тем меньше это язык. Таким образом, получается, что самый богатый язык — это не язык. Но сформулировать что-либо можно только на языке. Например, учитывая, что на языке формулируются все задачи и все решения, то выйти за рамки языка означает выйти за рамки всех задач и всех решений, в том числе за рамки задачи построения теории всего и за рамки решения этой задачи — за рамки самой теории всего.

Хорошо, противоречивость теории всего понятна. Но что такое теория всего?

Очевидно, теория всего — это такая теория, которая опишет элементарный уровень материи, то есть материю «как она есть на самом деле», так как элементарный уровень материи лежит в основании всех других явлений. Или, точнее говоря, все остальные уровни и явления — это феноменологические проявления (наблюдаемое как феномен, без понимания внутренних оснований наблюдаемого) элементарного уровня материи, материи как она есть. И если теория всего не имеет смысла, то элементарный уровень материи непознаваем, иными словами, что «на самом деле» представляет из себя реальность, материя, узнать нельзя, ответ на этот вопрос не имеет смысла.


1.4. Теория всего = алгоритм мышления?
                Теперь обратим внимание на некоторые важные свойства теории всего. Теория всего позволила бы точно отделять ложь от истины, фантазию от реальности, так как из теории всего выводится всё прошлое и будущее, она содержит ответы на все вопросы. Но вспомним, теми же свойствами обладает алгоритм мышления, то есть теория всего и алгоритм мышления — это одно и то же. Например, все утверждения, которые только можно сформулировать, следуют из теории всего, в том числе и утверждения о ложности самой теории всего. Точно так же все утверждения следуют из алгоритма мышления. Таким образом, теория всего и теория мышления — это одна и та же теория, поэтому они одинаково противоречивы.

Проверим утверждение, что эти теории одно и то же.

Вначале приведём самый короткий аргумент. Мир дан нам в ощущениях. Этим уже всё сказано. Что бы мы ни описывали, мы на самом деле описываем свои ощущения, поэтому теория всего просто должна описать их все, то есть описать всё как-либо мыслимое. Но как только теория опишет все наши ощущения, познание остановится, так как за рамками мыслимого ничего нет. Но то же самое относится и к алгоритму мышления, ведь из него тоже должно следовать всё мыслимое.

В итоге, получается, алгоритм мышления должен описать всё мыслимое, в том числе теорию всего, так как она тоже часть мыслимого. Иное невозможно, так как если в некой формуле будет выводиться всё мыслимое, то это и есть теория всего, ничего «больше» этой теории быть не может. Но теория всего, естественно, тоже должна описать всё как-либо мыслимое, иначе это не теория всего. Однако как только всё мыслимое станет выводимым то — см. выше — теория выведет сама себя, она ведь тоже часть мыслимого, круг замкнётся и познание остановится.

Сформулируем иначе. «Всё мыслимое» — это не просто «что-то мыслимое», а это новый объект, обобщающий весь набор мыслимого, в новое целое, то есть уже в нечто немыслимое. Иными словами, полный набор мыслимого — это ещё не объект «всё мыслимое», это лишь набор «мыслимых» элементов, но этот набор полон, поэтому за его рамками ничего мыслимого уже быть не может. Однако теория, из которой будет выводиться любой элемент этого набора, это и есть то самое новое и уже немыслимое целое, которое обобщает все элементы этого набора. Теория, в которой будет выводится всё мыслимое — а это и теория всего, и алгоритм мышления, должна лежать за рамками мыслимого.

Сформулируем подробнее.

Мир дан нам в ощущениях. Мы не воспринимаем мир непосредственно, а только через призму опыта, заключённого в структуре мозга. Поэтому в процессе познания мы фактически изучаем свои ощущения, которые делим на мир объективный и субъективный, явления физические и психические. К примеру, голод фантазиями не утолить, поэтому разумно предположить, что есть внешний мир, который содержит нужное нам и имеет свои законы. В ходе истории, по мере накопления опыта и уточнения того, что внутри нас, а что снаружи, разделение объективного и субъективного миров становится всё более строгим. Явления первого мира обусловлены законами физики, второго законами мышления. Но так как на самом деле речь всегда идёт об одной и той же физической реальности, частью которой является субъект, то речь всегда идёт и об одних и тех же законах природы, лежащих в основании и объективного, и субъективного мира.

В результате ограничение на познание законов физики приведёт к невозможности понять и все законы мышления, так как о том, что ещё не все законы физики поняты, нам подскажет только невозможность непротиворечиво описать все свои ощущения. Наоборот, если станут известны все законы физики, то известны, естественно, станут и все законы мышления. Точно так же если понятны ещё не все законы мышления, то, очевидно, что понятны ещё не все законы физики. Наоборот, если все законы мышления станут понятны, то выводимыми становятся все ощущения и, следовательно, все законы физики. Таким образом, теория всего и алгоритм мышления — это действительно одно и то же. И теория всего, и алгоритм мышления должны объединить физическое и психическое в одной формальной структуре, в которой мир субъектов и объектов станет одним целым, одинаково выводимой будет и движение материи, и порывы чувств.

Проверим с точки зрения сложности. Равна ли она? Теория всего — это некоторый итог мышления, поэтому теория всего не может быть сложнее мышления. Но и мышление не может быть сложнее теории всего, так как теория всего описывает всё, включая само мышление. Таким образом, сложность алгоритма мышления и сложность теории всего равны, то есть и с этой точки зрения эти два гипотетических объекта представляют из себя одно и то же. 

Теория всего — это, видимо, физическая теория. Тогда что означает противоречивость теории всего с точки зрения физики? Теория всего описывает основания всего, то есть основания всей реальности, всего сущего, или, другими словами, элементарный уровень материи. Следовательно никакой язык элементарный уровень материи описать не может. В основании реальности лежит что-то, что в принципе невыразимо никаким языком — и потому в основании мышления лежит, видимо, то же самое.

Ещё не раз вернёмся к этим вопросам, а сейчас, как обещали, посмотрим на связь теоремы Тарского не с теорией всего, а с алгоритмом мышления. Впрочем, как мы только что выяснили, утверждения об алгоритме мышления в той же степени относятся и к теории всего.

Подобно тому, как средствами самой системы нельзя доказать её непротиворечивость, если система действительно непротиворечива, то невозможность выразить понятие истины в теореме Тарского — это невозможность выразить средствами самой теории некоторое утверждение о структуре этой теории. Иными словами, язык любой достаточно богатой и непротиворечивой формальной системы является ограниченно саморепрезентативным. Например, это значит, что никакая непротиворечивая математическая теория никогда не сможет выразить все математические истины, так как не сможет доказать некоторые истины о своей собственной структуре.

Поэтому с точки зрения формализации мышления интерпретировать теорему Тарского можно следующим образом. Возможность описать все законы мышления в терминах какого-либо языка означает, что этот язык возникает сам из себя, так как мышление является источником этого языка и он же мышление полностью описывает. Саморепрезентативность такого языка будет неограниченной, потому что всё, что мыслимо, будет и выводимым, так как все утверждения, которые только могут быть сформулированы, в этом описании уже предопределены, невыводимых утверждений попросту не останется. Но неограниченно саморепрезентативный язык будет самореферентным.

В итоге в интерпретации теорем Гёделя и Тарского, на первый взгляд имеющих только математическое значение, кажется, действительно можно сделать вывод, что описать все законы мышления невозможно, то есть формализация мышления не имеет смысла, алгоритм мышления не может существовать в принципе. Причём так как законы мышления выводит само мышление, то сказанное означает, что какие-то законы мышления не могут быть самим мышлением поняты, найдены, то есть это законы непознаваемые, они должны всегда оставаться в природе нераскрытыми, являясь основанием невыводимой «части» мышления, которую нельзя как-либо описать.

Например, бессмысленность алгоритма мышления означает, что интеллект нельзя запрограммировать, то есть нельзя написать компьютерную программу интеллекта, так как компьютерная программа — это реализованный конкретными средствами алгоритм. Или не может быть такого алгоритма, который бы по условиям задачи выдавал параметры интеллекта, способного её решить. Бессмысленность алгоритма мышления говорит и о том, что нельзя перенести личность в компьютер — а помечтаем о том, что будет, если бы перенести было можно, в третьей главе.


1.5. Свобода воли

В том числе бессмысленность алгоритма мышления позволяет сделать некоторые выводы, относительно свободы воли. Есть она или нет? Может быть, что-то другое?

Очевидно, что случайный выбор, как некая встроенная в наше мышление возможность выбирать поведение неким истинно случайным образом, — это не свобода воли, так как выбор по принципу «как карта ляжет» — это не выбор субъекта, а фактически некое «внешнее» по отношению к его опыту событие. Предопределённость поведения тоже, естественно, к свободе воли никакого отношения не имеет.

Конечно, доказанная нами бессмысленность алгоритма мышления ужа сама по себе означает, что предопределённости нет — иначе алгоритм мышления хотя бы в принципиальном смысле мог бы существовать. Но на всякий случай рассмотрим все варианты.

Например, к каким бы выводам мы ни пришли ранее, предопределённость нашего поведения выглядит противоречивой и сама по себе. Если в основании нашего поведения лежат некие законы, используя которые можно было хотя бы в принципиальном смысле поведение предсказывать, то, получается, все наши поступки, мысли и чувства были в точности предопределены ещё в момент рождения Вселенной, что совершенно невероятно. Столь точные начальные настройки Вселенной выглядят абсолютно невозможными.

Вероятностный детерминизм квантовой механики в этой невероятной картине ничего не меняет. Согласно КМ, каждая частица есть сразу во всём пространстве Вселенной, но с разной вероятностью быть обнаруженной там или там; эволюцию этой вероятности во времени и пространстве описывает волновая функция, и эта эволюция полностью детерминирована (волновая функция эволюционирует гладко и непрерывно). Таким образом, точность настройки начальных условий Вселенной всего лишь переносится с частиц, на их волновые функции — чтобы наиболее вероятным было именно наше «разумное» поведение, эволюция и так далее.

Однако если теория всего не имеет смысла, то в основании природы, в основании всех её законов, в том числе КМ, лежит что-то познанию полностью недоступное. А так как теория всего в точности равна теории мышления, то и в основании мышления лежит то же самое. Вспомним, функция мозга любого животного, включая человека, управлять мышцами, то есть вырабатывать и принимать решения, ставить и решать задачи, действовать. Другими словами, постоянно совершать выбор. Следовательно, наша «воля» и основания мышления связаны напрямую. Но тогда, если в основании мышления лежит что-то познанию полностью недоступное, то и какой-либо определённый ответ на вопрос, есть свобода воли или нет, дать невозможно. Ответ на этот вопрос не имеет смысла, он не может быть как-либо помыслен, представлен, осознан.

Таким образом, верный ответ на вопрос, есть свобода воли или нет, не сводится к простому противопоставлению «да» или «нет», верный ответ на этот вопрос попросту не существует ни в каком представимом виде.

Более того, не имеет смысла и сам вопрос. В нашей логике может быть или случайность, или предопределённость, или их «смесь» в виде вероятности, но, как показано, ничего из этого к свободе воли отношения иметь не может. Вспомним множество всех множеств. Вроде бы объект прост и даже очевиден, но он ускользает от понимания, стоит только к нему присмотреться внимательнее. То же самое и свобода воли. Что это такое? Как оказалось, её нельзя даже определить. Множество всех множеств, теория всего, алгоритм мышления, свобода воли — это разные выражения границ познания.

Как мы недавно выяснили, «основания реальности» — это суть элементарный уровень материи, то есть реальность как она есть на самом деле. Это она не может быть как-либо помыслена, осознана. Но, значит, элементарный уровень материи — это тоже выражение границ познания. И действительно, подобно тому, как отдельно можно обосновать противоречивость множества всех множеств, теории всего, алгоритма мышления или идеи свободы воли, можно отдельно продемонстрировать противоречивость идеи элементарного уровня материи.

Вспомним, кажется совершенно естественным, что если есть что-то, то должно быть и всё. Но, оказалось, всё — это объект противоречивый. Точно так же кажется совершенно естественным, что у природы должны быть некие минимальные элементы — некие элементарные неделимые «кирпичики», из которых состоит всё. Однако тогда все явления, включая, например, притяжение и отталкивание, тоже должны происходить исключительно из их геометрии, что уже явно невозможно. Получается, минимальные элементы и должны быть, и не могут быть — точно так же, как свобода воли, которую нельзя определить, множество всех множеств, которое нельзя представить, теория всего или алгоритм мышления, которые нельзя построить.

Возвращаясь к свободе воли, один вопрос остался без ответа. Откуда берётся само ощущение свободы выбора? Почему мы делаем то, что «хотим»? Почему мы можем себе «приказать», заставить себя сделать что-то «волевым усилием»? Ответ несложен, мы дадим его во второй главе, так как он требует некоторого представления о работе мозга.


1.6. Общие замечания
                Далее, прежде чем перейти ко второй главе, в которой в том числе посмотрим на перспективы искусственного интеллекта с другой — практической точки зрения, рассмотрим некоторые общие замечания, касающиеся уже сказанного.

По крайней мере на некоторые из приведённых выше аргументов можно возразить, что в объективной реальности нет формальных систем, поэтому применимость математических теорем для выводов о теории всего или о мышления не ясна и доказательством служить не может. К примеру, если человек ничего не знает о числах, умножении и сложении, то есть его мыслительные процессы не организованы «математическим образом», то может быть, что и математические теоремы к его мышлению неприменимы.

Однако сколько-нибудь глубокое отличие мышления людей, знающих математику и не знающих, тоже не кажется возможным. При этом если считать, что математика имеет смысл только в голове математика, то это уже само по себе означает бессмысленность формализации чего-либо. И ставит вопросы о знании вообще, так как бессмысленность математики за границами математического мышления означает и бессмысленность науки по отношению к объективной реальности. Математика является языком науки — аппарат логики (алфавит, аксиоматика, правила вывода) используется при построении любой научной модели.

Похожее возражение. Как уже говорилось, теоремы о неполноте применимы только к формальным системам с достаточно богатым языком. Например, к арифметике Пресбургера, где нет умножения (а значит, нет обратного ему деления и потому нет не целых чисел), или Евклидовой геометрии, где нельзя построить утверждения о натуральных числах, теоремы Гёделя не применимы, то есть эти системы являются и полными, и непротиворечивыми одновременно. Тогда если предположить, что математика некой цивилизации не знает, к примеру, умножения, то, может быть, и построение теории всего, и формализация мышления этой цивилизацией будет возможны?

Однако, ввиду того, что речь идёт о таком явлении как мышление, а оно, в свою очередь, часть природы, то очевидно, что язык этой теории должен быть достаточно богатым, чтобы включать в себя и натуральные числа, и умножение — просто по причине того, что такие формальные языки в принципе могут быть построены мышлением, даже если где-то они ещё и не известны. Поэтому выбор менее выразительного формального языка тоже не поможет формализовать мышление. Такой язык будет попросту ещё менее адекватен процессу мышления, чем язык выразительный. В то же время достаточно богатый язык уже позволит прийти к выводам Гёделя об ограничениях формальных систем, то есть, по сути, позволит формализовать представление о пределах формализации, неосуществимости ясного, конечного и одновременно полного и непротиворечивого описания законов природы. И наконец язык ещё более богатый будет уже слишком общим, не финитистским, допускать существование неконструктивных объектов, связанных с бесконечностью, построение которых «на практике» неосуществимо, то есть утверждения теории, использующей более выразительный язык, будут попросту не очевидными, не однозначными, допускающими толкования, приближаясь в этом к естественному языку.

Одновременно с этим цивилизация, к примеру, ещё не имеющая понятий «механизм», «электричество» или им подобных, очевидно, находится на очень низком уровне развития, потому что ещё не приступила к изучению сколько-нибудь сложных природных процессов. Но так же и цивилизация, математика которой не содержит умножения, очевидно, тоже знает о природе очень мало, ввиду того, что математика, как формальный язык, описывающий структуры, порядок и отношения, предоставляет языковые средства науке и потому напрямую связана с её развитием. Следовательно слишком простая математика будет означать в том числе и то, что знания такой цивилизации ещё слишком просты, чтобы сколько-нибудь близко подступиться к таким идеям, как исследование мозга, искусственный интеллект или теория всего.

Таким образом, несмотря на то, что в объективной реальности нет чисел или умножения, следует исходить из того, что математика по отношению к реальности имеет смысл. С другой стороны, из теорем Гёделя следует, что математика не является полностью адекватным средством описания мира, потому что математика не может формализовать сама себя, а значит, математика в принципе не способна описать всё. Это говорит о том, что математические построения сами по себе не могут служить единственным средством познания мира и требуют сверки с реальностью, а также, что познание мира, как его точного описания, ограничено.

Ограничения математики — это не проблема самой математики, а проявление более общих особенностей познания. Заключающихся в ограниченных возможностях языка в целом, который в принципе не способен описать свой источник и, таким образом, не способен описать весь мир целиком. В то же время лучших средств, кроме формальных, для точного описания мира неизвестно, и их не может быть в принципе, так как только однозначный, строгий, ясный язык способен выразить точное знание.


2. Непосредственные препятствия

В этой главе рассмотрим перспективы создания сильного искусственного интеллекта с другой точки зрения — практической, поэтому принципиальные аргументы предыдущей главы нам не пригодятся. С какими проблемами столкнётся создание искусственного интеллекта на практике? Для ответа на этот вопрос вначале в общих чертах рассмотрим, как происходит мышление в мозге.


2.1. Нейронные сети

Как известно, мы мыслим сетью нейронов. Все нейроны нервной системы объединены в единую сеть, однако так как самым значительным их скоплением является головной мозг, то мыслим мы тоже в основном той частью нейронной сети, которая его образует, поэтому дальше с мышлением будем связывать именно мозг и его особенности. Надо заметить, утверждение, что мы мыслим нейронной сетью головного мозга на самом деле тоже упрощает реальную картину, потому что за счёт перемещения биологически активных веществ, в том числе в пространстве между нейронами, мыслит сразу весь объём мозга, а не только сеть самих нейронов. Но пока об этом уровне мышления известно относительно немного, поэтому сейчас мы не будем заострять на нём внимание, на выводы это всё равно не повлияет.

На входе сеть нейронов имеет рецепторы внешней и внутренней среды, а на выходе мышцы и железы. Это означает, что задача мышления — перевод чувствительности в двигательную активность. Нервная система организует работу мышц и посредством желёз координирует с работой мышц работу остального организма.


Рис. 2. Схематичное изображение нейронной сети. Кружочками обозначены нейроны, стрелочками — их связи. В отличие от изображённой, реальная биологическая нейронная сеть во множестве содержит связи обратные (от нейронов ближе к выходу к нейронам ближе ко входу) и связи нелокальные (напрямую соединяющие отдалённые участки сети) и в целом имеет много более сложную неоднородную архитектуру, подразделённую на зоны и отделы, архитектура связей в которых отличается. В том числе выход в нейронной сети мозга в некотором смысле находится там же, где и вход, так как нервные волокна, передающие сигналы «вниз» к мышцам и железам, проходят через нижние отделы мозга и спинной мозг, где происходит первичная обработка сигналов рецепторов.

Иными словами, в общем контексте стремления всего живого к самосохранению (а также к размножению, но данное стремление требует отдельного уточнения, оно будет сделано в седьмой главе, где вопрос «стремлений» будет рассмотрен подробнее) нервная система ставит цели и формирует работу мышц для их достижения. По мере усложнения мозга в процессе обучения цели становятся всё более далёкими, стратегическими, а тактика последовательного движения к ним всё более сложной, так как по мере накопления опыта в формировании поведения внешняя и внутренняя среда учитываются всё более сложным образом, со всё большими подробностями.

Указанные свойства мозга позволяют сформулировать, что такое мышление, естественный интеллект — это способность ставить и решать задачи, в также способность обучаться. Обучение позволяет ставить задачи точнее и решать их быстрее, с меньшими усилиями, более эффективно. Все задачи ставятся и решаются в контексте самой общей задачи любой жизни — задачи самосохранения, то есть, обобщённо, в контексте стремления к лучшему качеству жизни. Таким образом, интеллект — это способность формировать тактику и стратегию поведенческих действий достижения целей самосохранения. Сложность тактики и дальность стратегий связана со способностью предсказывать события, то есть с полнотой и точностью знаний о себе и мире. Поэтому силу интеллекта можно связать с объёмом и сложностью опыта.

Итак, нейронная сеть мозга — это единая система сложным образом связанных между собой нейронов. Связывают нейроны их отростки — аксоны и дендриты. Аксоны — это отростки длинные и разветвлённые, они передают нервные импульсы, дендриты короткие, они принимают. Место контакта между аксоном и дендритом называется синапс. Аксоны объединяют как близкие, так и удалённые друг от друга нейроны, а в целом связи нейронов могут быть обратными и прямыми (см. подпись к рис. 2). У каждого нейрона могут быть десятки тысяч связей с другими нейронами по всему пространству мозга, причём в мозге постоянно идёт более или менее активный процесс роста новых связей и отмирания связей малоактивных.

В том числе связи нейронов разделяются на тормозные и возбуждающие, причём и тех и других приблизительно поровну. Тем самым в мозге реализован баланс возбуждения и торможения, когда возбуждение одних нейронов в пространстве сети приводит к взаимосвязанному торможению других и наоборот по принципу «если где-то отнимется, то в другом месте обязательно прибавится».

Заметим, по-другому нельзя, потому что если нервная система не будет представлять из себя единую систему, в которой всё в высшей степени взаимосвязано и взаимозависимо, то невозможна будет точно координированная активность всех мышц и желёз. Например, вследствие взаимозависимости, активность одних рецепторов и молчание других приводит к тому, что одни нейроны в пространстве сети будут более активны, а другие — в точной координации с первыми — менее.  Как следствие, такая же картина активности будет и на выходе нейронной сети — одни нейроны будут генерировать больше нервных импульсов, другие меньше. В результате, к примеру, сгибательные мышцы конечности будут больше напряжены, так как их активизация нервными импульсами будет высокой, а разгибательные меньше — и конечность будет сгибаться. Изменение в сигналах рецепторов вызовут соответствующее и координированное перераспределение активности мышц всего мышечного аппарата.

Важно обратить внимание на следующую особенность нейронной сети мозга (и в принципе всех нейронных сетей, что искусственных, что биологических). На входе у нейронной сети гораздо больше нейронов, чем на выходе. В результате, как в воронке, в которую льют разные жидкости, по мере прохождения по нейронной сети сигналы рецепторов перемешиваются и сами собой «сжимаются» в упорядоченную активность нейронов на выходе сети, управляющих мышцами и железами. Такая особенность архитектуры — большое количество нейронов на входе и меньшее на выходе — это важное обстоятельство для понимания работы нейронных сетей.

Более точно, афферентных нервных волокон — непосредственно проводящих нервные импульсы в головной мозг человека — около 3 млн. Два из которых связаны со зрительными рецепторами, а один несёт информацию от спинного мозга, в котором происходит первичная обработка сигналов от остальных рецепторов. Например, указанное соотношение объясняет, почему именно зрение вносит наибольший вклад в сознание — потому что импульсов от зрительных рецепторов поступает в мозг больше, чем от других рецепторов. В то же время эфферентных волокон, несущих нервные импульсы от головного мозга к мышцам и железам, всего около 200 тыс..

Процесс «перемешивания и сжатия» сигналов рецепторов в нейронной сети по-другому можно назвать конкуренцией всего со всем, в результате чего остаётся самое важное. Точно так же можно сказать, что «перемешивание и сжатие» имеет смысл распознавания неких абстрактных признаков условий, их ключевых особенностей. От общих признаков ближе ко входу нейронной сети, где по причине большого количества входов «сжатие» минимально, ко всё более конкретным на выходе. Тем самым поток данных от рецепторов трансформируется в мозге в конкретный образ, цель действий. В результате поведение связано не просто с условиями, их повторяющимися особенностями, а ещё и с таким их особенностями, которые важны для животного, так как то, какие признаки условий будут выделены, зависит не только от самих условий, их частых или редких повторений, но и от устройства нейронной сети, то есть от опыта животного. 

Процесс распознавания — от общего к конкретному — это же и процесс формирования мышечной активности, от действий общего характера до связанных с частными особенностями нынешних условий. Поэтому выходы к мышцам и железам тоже есть на разных уровнях нейронной сети мозга, и по мере прохождения нервного возбуждения по сети мышечная активность надстраивается элементами, всё более тонко учитывающими внутренние и внешние условия — от тонуса, вегетативных функций, объёмных мышечных синергий, рефлекторных и циклических движений к движениям пространственного поля, предметным действиям, речи, письму.

При этом наличие в нейронной сети мозга обратных связей приводит к тому, что теперь импульсы в мозге могут циркулировать от входа к выходу и обратно — возникает круговая динамика возбуждения. Очень важное значение обратных связей в том, что высокие уровни нейронной сети теперь могут влиять на низкие. Тем самым уже сформированное конкретное поведение может непосредственно влиять на поведение ещё только формирующееся, чтобы формирующееся по смыслу «продолжало» сформированное. В результате появляется возможность создавать связанные общим смыслом цепочки действий, то есть проводить последовательное целенаправленное поведение, в том числе фразы языка и алгоритмы решения задач.

Теперь обратим внимание на ещё одно очень важное обстоятельство. В нашем описании выходит, что, с одной стороны, по мере прохождения по сети сигналы рецепторов «перемешиваются и сжимаются» в активность выходных нейронов, управляющих мышцами и железами, а с другой — в этом же процессе происходит распознавание условий, то есть тот же процесс «перемешивания и сжатия» приводит к формированию конкретного образа, цели действий. На самом деле всё это действительно один и тот же процесс прохождения сигналов рецепторов от входа к выходу нейронной сети. Способность одновременно и распознавать условия, и строить последовательности управляющих мышцами сигналов нейронной сети придают обратные связи.

Если убрать обратные связи, то любой этап описанной работы будет только распознаванием условий — «перемешиванием и сжатием», а активность нейронов на выходе сети будет кодировать отнесение рецепторного сигнала к некому классу условий. К примеру, сеть будет отличать изображения кошек от изображения собак — высокая активность одних нейронов на выходе будет означать кошку, других собаку.

Но если есть обратные связи, то, как говорилось, появляется круговая динамика, потому что возбуждение от рецепторов получает возможность циркулировать в сети — теперь оно проходит не только от входа к выходу, но и обратно, влияя на нижележащие нейроны и так постоянно. Тем самым теперь не только вход влияет на выход, но и выход непосредственно влияет на вход, поэтому работа сети усложняется, а возможности растут.

Суть роста возможностей в том, что активность выходных нейронов теперь будет представлять из себя определённые последовательности нервных импульсов, связанных общим смыслом. Поэтому у нейронной сети появляется новая функция — построение связанных последовательностей сигналов. Но функция распознавания при этом не исчезает, а лишь объединяется с новой в одно целое. В результате, если на выходе мышцы, то работа сети станет построением неких последовательностей действий, связанных с кошками и собаками.

Заметим также, высокая взаимозависимость нейронов в сети означает, что строгое разделение опыта/функций в пространстве сети не имеет смысла и ведёт к противоречиям. Это тоже очень важный для понимания работы мозга (и подобных ему физических систем) вывод, поэтому рассмотрим его подробнее.

Например, если опыт строго разделён, то становится невозможным обучение — опыт будет меняться не как одно целое, а частями, которые потом не смогут адекватно взаимодействовать. Или обучаться должна только одна какая-то часть мозга, которая, к примеру, затем «собирает» сложное поведение из простых реакций, жёстко заданных на врождённом уровне. Кажется, последний вариант возможен — пусть в мозге будет управляющая часть и периферия элементарных реакций, из которых управляющая часть собирает нужный поведенческий ответ.

Однако, согласно этому представлению, собственно само мышление находится только в управляющей части, которая знает, как всё надо «собирать», и которая обучается. Но тогда и в управляющей части опыт тоже должен быть разделён — ведь если мышление без разделения невозможно, то управляющая часть тоже должна быть разделена на мыслящую управляющую часть и не мыслящую периферию и так до бесконечности. Иными словами, разделение опыта ведёт к противоречиям. Или каким-то образом опыт всё-таки не разделён, представляя из себя одно целое.

Чтобы противоречивость деления опыта была ещё понятнее, поясним на примере.

Часто мышление описывают в том смысле, что сознание — это некий экран, на котором мозг формирует и наблюдает варианты поведения, выбирая наиболее оптимальные. Подобные идеи возникают в буквальной трактовке воспринимаемого в сознании, которое действительно можно интерпретировать, как будто некое внутреннее Я наблюдает за происходящим, за мыслями, создаёт и сравнивает их. Почему возникает такая иллюзия, скажем позже, а пока обратим внимание, в этой модели опять происходит разделение мозга на части управляющие и управляемые, думающие и не думающие, в данном случае мыслящее Я и не мыслящий экран, мысли.

Допустим, Я — это действительно некая часть мозга, которая формирует и оценивает модели поведения, построенные ей в другой части мозга. Однако, чтобы моделировать, Я должно эти модели запомнить и сравнить внутри себя, иначе одна модель для Я не будет отличаться от другой. Следовательно, внутри себя Я тоже должно моделировать. В результате вначале мозг делится на первое Я и модели, которые это Я создаёт и оценивает, потом внутри первого Я возникает ещё одно Я и его модели, потом ещё одно... и так до бесконечности. В конечном итоге от Я ничего не остаётся. 

В центре управления уже не может быть других центров управления, иначе центр управления в конечном итоге превратится в бесконечно малую точку. Парадоксальность функции управления поняли ещё в древности, но тогда не знали о нейронных сетях, и парадоксы работали, скорее, на идею души, как непознаваемой искры, которую вдохнул в человека бог. Теперь же известно, что на самом деле весь мозг — это одна биологическая нейронная сеть, которая мыслит вся целиком, как одно целое, а любое разделение мышления/опыта на части ведёт к противоречиям.

Но как возможно, что опыт не разделён? Все наслышаны о разных зонах, отделах и даже отдельных нейронах, которые вроде бы отвечают за свои конкретные функции? Действительно, всё это в любой нейронной сети есть, но, как известно, пишется не всегда так как слышится.

Опыт нейронной сети — это вся сеть, вся её структура, так как всей структурой нейронной сети как целым определяется то, как будут преобразованы рецепторные сигналы на входе сети в сигналы на выходе из неё. Конкретный набор сигналов рецепторов меняет предыдущую картину возбуждения/торможения в сети некоторым конкретным образом, тем самым из структуры сети — из опыта — «вызывается» некоторая конкретная реакция, то есть возникает конкретная конфигурация активности выходных нейронов сети. Например, это означает, что опыт в нейронной сети вызывается не по адресу, а по содержанию. Что отличает нейронные сети от традиционных компьютеров, где разные данные хранятся на своём месте на жёстком диске.

При этом, ввиду того, что торможение одних нейронов — это связанное возбуждение других и наоборот, нельзя сказать, что в сети что-то отключается или подключается, всегда работает вся сеть. Но если любой опыт — это вся сеть, динамика всей сети, то любой опыт размазан сразу по всей сети, по всем её нейронам и связям. В свою очередь, так как сеть неоднородна (на входе нейронов больше, чем на выходе; архитектура связей в разных зонах и отделах сети различается), эти неоднородности вносят свою своеобразную составляющую в активность нейронов на выходе сети. В результате, обобщая размазанность и неоднородность, можно говорить только о большей или меньшей концентрации какого-либо опыта  в пространстве сети, а не о строгом разделении.

Проще говоря, в нейронах самих по себе нет какого-либо опыта, кроме «умения» принимать и передавать возбуждение, их иное функциональное значение возникает только в контексте всех остальных нейронов сети и потому не может быть от них строго отделено. Поэтому, отвечая на вопрос выше, знаменитые «нейроны бабушки», «нейроны новизны» или иные другие нейроны и зоны «чего-то конкретного» — это не элементы мозга, в которых единолично сконцентрирован некий конкретный опыт, а всего лишь те нейроны, зоны и области мозга, которые неизменно активны, когда человек думает о бабушках, замечает что-то новое или в целом занимается некой конкретной деятельностью. Естественно, в этот момент активны и множество других нейронов по всему мозгу (вспомним о балансе возбуждения и торможения), но корреляция их активности с данным опытом просто менее прямая.

Из-за нелокальности опыта, нейронные сети повторяют ту особенность голограмм, когда любая часть изображения содержит всё изображение с уменьшающейся детализацией, в зависимости от величины фрагмента. Ввиду того, что любой опыт принадлежит всей структуре нейронной сети сразу, различаясь только концентрацией в разных областях, то при разрушении оставшаяся часть нейронной сети всё равно сохраняет особенности опыта исходной, только в меньшем объёме. И потому при сохранении у нейронной сети достаточного количества нейронов и связей утраченное качество опыта может быть потом быстро восстановлено. В большей степени это относится к коре мозга, так как структурные отличия подкорковых отделов более выражены. К тому же если разрушение затронуло подкорковые области, то нарушены будут общие функции интеллекта, или не будет поступать афферентное возбуждение, если разрушены первичные проекционные поля.

Распределённость опыта в мозге ограничивает возможность чтения мыслей или управления мыслью различных устройств. В идеале наиболее точное представление о направлении мысли человека, можно получить, только если снять активность всех нейронов. Но это физически невозможно (подробнее о принципиальных ограничениях в исследовании мозга скажем в седьмой главе), и в любом случае мозг у всех людей различается, поэтому чем выше становится точность, тем стремительнее растёт необходимость индивидуализации. Все остальные методы слишком приблизительны, их точность в чтении мыслей сильно ограничена. Более того, мозг обучается (скоро объясним, как это происходит), и в этом процессе распределение опыта (его концентрация в тех или иных областях сети) меняется. В результате значение активности одних и тех же нейронов не только зависит от контекста остальных, но и может менять своё значение с течением времени.

Теперь вспомним об иллюзии Я как наблюдателя образов. Почему она возникает, если мозг мыслит как целое?

Для ответа вспомним, как работают нейронные сети, как происходит распознавание — от общего к конкретному. В результате, как связанных с распознаванием общих признаков ситуации и формированием общего направления поведения, работа низких уровней нейронной сети психически ощущается как эмоции/мотивы. В этот момент «мы понимаем» смысл ситуации (то есть её обобщённую перспективу), и соответствующим образом меняется тонус мышц, пульс, частота дыхания, поза. По мере приближения к коре распознаются всё более частные признаки условий и одновременно происходит их обобщение в «целое», в конкретный образ, вследствие описанного ранее «сжатия» — и общее направление действий становится конкретным целенаправленным поведением. От низкого уровня абстракций к высокому, от общего к конкретному.

В результате в нашем сознании есть самоощущение — наше Я, как психическое восприятие работы наиболее нижележащих отделов мозга; есть более конкретизированные эмоции/мотивы, «концентрирующиеся» в лимбической системе, как восприятие «смысла» условий, и наконец есть конкретные образы, как восприятие нынешней цели действий, за что в большей степени отвечает кора.

Таким образом, в большей степени «мы» — это эмоционально-мотивирующее самоощущение, восприятие смысла происходящего, как «фон» опыта более общего, связанного с нижними уровнями нейронной сети мозга, на котором распознаются общие признаки условий и формируется общее направление действий — возникает мотив и эмоциональное побуждение. И в меньшей степени «мы» — это образы и фразы языка, как опыт более конкретный, больше связанный с корой. Который, как опыт более частный, «мы» поэтому как будто «наблюдаем со стороны», «на фоне» опыта более общего. В итоге мы не наблюдаем в своём сознании что-либо со стороны, а являемся этим, просто на разных уровнях мозга. Тема корреляции сознания с работой нейронной сети мозга будет продолжена в седьмой главе, где рассмотрим физические аспекты этой связи.

Теперь вспомним о свободе воли.

В первой главе мы обещали сказать, откуда берётся ощущение свободы выбора своих действий. Для ответа внимательно посмотрим, что написано в абзаце выше и сформулируем его немного другими словами. На входе нейронной сети условия в целом, ничего не выделено, на выходе конкретные признаки условий. Таким образом, распознавание условий и формирование поведения происходит от общего к частному, от неопределённого к конкретному. Иначе говоря, от «побуждения» к конкретному действию, от «захотел» к «сделал». Это причина ощущения свободы выбора. Вначале «мы» чего-то неопределённо «хотим», затем «понимаем», чего хотим и «делаем» это.

Но где здесь «воля», «приказ» самому себе?

Вследствие наличия обратных связей, в мозге не только нижележащие уровни влияют на вышележащие, но и наоборот. А управление вегетативным функциями происходит именно на нижних уровнях, где происходит распознавание общих признаков условий (конкретика ситуации для этих функций не важна). Поэтому если распознаваемый конкретный стимул оказывается важным (звонок будильника), но не соответствует условиям в целом (тепло, темно и хочется спать), это приводит к активному перестроению работы нижних уровней сети (резко поднять тонус мышц, открыть глаза), что и ощущается как волевое усилие. Не «желание», идущее снизу вверх, а «приказ», идущий сверху вниз.

В итоге, как мы и говорили в первой главе, на общем уровне в нашем поведении всё понятно, в том числе и как возникает ощущение свободы выбора. Но на частном начинаются загадки. Это и сама конкретика выбора, о чём в первой главе мы кратко уже говорили, и это само сознание как таковое, о «непосредственно наблюдаемой» загадочности которого скажем подробнее в четвёртой главе. 

Рост уровня абстракций по мере прохождения возбуждения от входа сети к выходу — это способность выделять всё более сложные признаки условий. Например, если мозг других животных может выделять в условиях более или менее сложные образы непосредственно окружающих их объектов, то человеку за счёт большей сложности его мозга (упрощённо говоря, за счёт большего количества слоёв в нейронной сети и связей нейронов) широко доступны уже и «образы образов», то есть понятия языка — абстракции более высокого уровня, чем образы конкретных объектов. К примеру, понятие «яблоко» обобщает все яблоки, которые как-либо известны человеку. Более того, человек способен распознавать в условиях в том числе такие сложные, глобальные и уже непосредственно не наблюдаемые «образы», как политика, физика, время, вселенная и т. д.. Как следствие, в отличие от более простых животных, поведение человека, тактика и стратегия его действий, формируется не только «здесь и сейчас», вне сколько-нибудь развёрнутого представления о себе и окружающем мире, о прошлом и будущем, но и на таких же сложных и глобальных пространственных и временных масштабах.

Не полях заметим, возможно, что ещё более высокие уровни абстракций могут быть доступны гипотетическим представителям инопланетной жизни. Интеллект которых, таким образом, будет выше человеческого, а тактика и стратегия поведения будет ещё более сложной и глобальной — и непонятной человеку, так же, как человеческие действия непонятны, например, человекообразным обезьянам.

Теперь скажем об обучении.

Все нейронные сети обучаются, то есть, взаимодействуя со средой, нейронная сеть меняется и после обучения обрабатывает сигналы рецепторов уже по-другому. Непосредственно обучение происходит за счёт изменения весов связей нейронов — чем активнее связь, тем всё больше становится её «вес» в торможении или возбуждении нейрона. Или, точнее говоря, меняется «вес» синапса. Нейроны «общаются» нервными импульсами, передача импульса происходит в синапсе, обучение связано с тем, что амплитуда и частота передаваемого сигнала могут меняться.

Суть обучения в том, что разные условия — это разная конфигурация активности рецепторов, а значит, и отличающаяся картина взаимозависимых процессов возбуждения/торможения внутри нейронной сети, то есть разные условия активизируют сеть по-разному. Причём больше всего активизируют сеть не просто условия, а то, что в них повторяется, их неизменно повторяющиеся признаки, характеризующие эти условия. Тем самым по мере повторения эти признаки всё больше меняют сеть «под себя». В результате разный опыт всё больше разделяется в пространстве сети, что, как следствие, приводит к активизации и разных выходных нейронов — нейронная сеть обучается, реакция на разные стимулы становится всё более индивидуальной, учитывающей их особенности всё более точно.

В свою очередь, после обучения распознавание даже минимума знакомых признаков (например, если стимул частично скрыт, зашумлён, искажён или только отчасти похож на ранее виденные) не помешает нейронной сети узнать ранее запомненное. Дело в том, что относительно большой вес активизированных знакомыми признаками связей приведёт к тому, что именно эти связи будут играть главную роль в активизации нейронов на выходе сети — и сеть узнает в условиях знакомое, поэтому в целом реакция сети будет такой же, как на ранее многократно наблюдаемый объект.

Другими словами, в процессе обучения сеть учится распознавать логику происходящего, основные свойства окружающего мира, суть условий — то есть то, что неизменно повторяется, а значит, является в этих условиях важным, основным, определяющим, что характеризует эти условия, «сшивает» внешне разные частные элементы условий некоей внутренней общностью. Поэтому после обучения ответ сети происходит прежде всего в соответствии с сутью происходящего. Говоря по-другому, сети умеют различать контекст условий.

В то же время реакция сети немного изменится под влиянием частных особенностей нынешней ситуации. В результате мы узнаем знакомый объект даже в новом ракурсе — и одновременно тонко скорректируем движения, чтобы им воспользоваться. Мы поймём контекст — дружеская вечеринка или официальный приём — и необходимым образом скорректируем частное поведение.

Немного скажем о кратковременной памяти. Как уже говорилось, возбуждение в мозге циркулирует. Кратковременная память представляет собой до некоторой степени выделенную и наиболее активную составляющую этой циркуляции (как быстрый поток в более медленном потоке), в который вовлечены ансамбли нейронов, более всего связанные с тем, что попадает во внимание. Внимание отражает нынешнюю цель поведения, в контексте которой формируется реакция сети. При этом то, что попало во внимание, не исчезает из кратковременной памяти сразу как только внимание переключится, а ещё некоторое время выделенная активность этих нейронов сохраняется, хотя и менее энергичная. По этой причине запоминается прежде всего то, что ранее попало во внимание (вспомним, чем более активен нейрон, тем больший вес приобретают его связи в активизации других нейронов), в ином случае запоминалось бы много лишнего, маловажного, всё подряд. Больше о внимании скажем в седьмой главе, так как более точное представление требует обращения к физической стороне работы мозга.

Теперь ненадолго вернёмся к обратным связям и дополним их значение с учётом обучения. Дополним коротко, так как подробное описание работы мозга выходит за рамки статьи (но это сделано в другой статье, ссылка на которую есть в главе «Дополнительно»). Обратные связи позволяют не только обучаться, но и переучиваться в широких пределах, так как с их помощью частный вывод может непосредственно влиять низкие уровни сети, обучая их, то есть может менять общее представление. Автоматизация поведения по мере научения, а также возможность «думать», то есть фантазировать, вспоминать, планировать, в том числе мысленно говорить самому с собой — это всё тоже обратные связи. Или, например, сравнение (к примеру, что больше — два или три?) — это тоже обратные связи. Нелокальность опыта означает, что такие естественные функции интеллекта как «сравнение» на самом деле не так очевидны, как может казаться, потому что сравнивающий и сравниваемое, оценщик и оцениваемое представляют в мозге одно целое.

В этой статье только немного подробнее остановимся на разговоре самим с собой. Распознавая общие признаки условий, подкорковые отделы задают общее направление распознаванию в коре. Уточняя его до конкретных фраз и образов, в том числе интроспективных — обозначающих себя, кора по обратным связям повлияет на подкорковые отделы, внеся в их работу соответствующие словам изменения, что воспринимается как некоторое новое эмоциональное состояние. Одновременно подкорковые отделы задают новое общее направление распознаванию в коре, которое приводит к новым конкретным фразам и образам. В итоге субъект и эмоционально «понимает» себя, и соответственно этому пониманию в его сознании возникают новые слова и образы.

Итак, «нейросетевая» организация мышления очевидна: новый опыт — это новое поведение, новая последовательность поведенческих действий. При этом невозможно иметь в мозге хранилище опыта, заранее приспособленного под все возможные нюансы условий, которые только могут встретиться животному. Следовательно нужна такая система, которая будет способная сама собой усложняться, только по причине взаимодействия со средой. В результате в структуре этой системы сама собой будет формироваться картина мира, где представлены важные для животного признаки среды и реакция на них. И чем система изначально сложнее, тем большему животное сможет научиться, сложнее поведение построить. Таковой системой природа создала нейронную сеть, а её начальная сложность связана с наследственными факторами.


2.2. Пределы сложности искусственного интеллекта

Мы в общих чертах рассмотрели работу мозга. Как мы выяснили, мышление — это функция биологической нейронной сети. При этом, как мы узнали в первой главе, выразить мышление в алгоритме невозможно. Следовательно, биологические нейронные сети — это не алгоритм, в алгоритме их работа невыразима. В основе систем искусственного интеллекта тоже лежат нейронные сети, только не биологические, а искусственные. В отличие от биологических сетей, искусственные нейронные сети — это как раз алгоритм. Но алгоритм не совсем обычный. 

Вспомним, алгоритм — это естественное выражение «понимания». Явление понятно, если построен его алгоритм (или, что одно и то же, если явление формализовано, написана формула явления, создана теория, описывающая явление), так как только построение алгоритма позволяет предсказывать течение явления в зависимости от начальных условий, а именно возможность предсказывать и есть суть «понимания». Иными словами, алгоритм позволяет «вычислять» течение явления, последовательно преобразовывая данные в результат по некоторым правилам.

Однако, в отличие от «понятных» алгоритмов, искусственные нейронные сети — это алгоритм как раз «непонятный».

Но как такое может быть, если алгоритм — это выражение понимания?

Короткий ответ дадим сразу. Алгоритм может быть очень сложным — и по этой причине он, естественно, будет малопонятным. Но в пределе малопонятный алгоритм станет алгоритмом уже фактически непонятным. Оставаясь при этом алгоритмом, то есть некоей последовательностью шагов преобразования данных в результат, которою в принципиальном смысле можно расписать ручкой на бумаге, хотя это может быть очень сложно или даже невозможно сделать на практике.

Дальше подробнее рассмотрим, почему искусственная нейронная сеть — это алгоритм сложный и непонятный, а главное — что из этого следует с точки зрения создания искусственного интеллекта.

Если животному обучение необходимо из-за того, что невозможно иметь в мозге хранилище опыта, заранее приспособленного под все возможные нюансы условий, которые только могут животному встретиться, то человеку, очевидно, проще было бы сразу написать прямой алгоритм решения задачи, а не тратить время на создание и обучение нейронных сетей. Тогда зачем нужны искусственные нейронные сети?

Алгоритм — это выражение понимания, но сам по себе алгоритм — это решение, то есть алгоритм — это инструкция, описывающая порядок действий исполнителя для решения задачи. Поэтому какая задача — сложная она или простая, таким же сложным или простым будет её решение. И таким же будет «понимание» этого решения — оно будет понятно меньше или больше. В результате на некотором уровне сложности задач прямой алгоритм их решения написать становится делом на практике неосуществимым, так как он становится уже слишком сложным и потому слишком непонятным.

Таким образом, ответ на вопрос, зачем нужны нейронные сети, заключается в том, что искусственные нейронные сети используются в тех случаях, когда прямой алгоритм решения задачи написать очень сложно, например, ввиду множества данных и нелинейных отношений между ними, поэтому нужен какой-либо иной способ решения.

«Иной способ решения» в этом случае может быть только один — его суть в том, чтобы задача решалась «сама собой», то есть без прямого участия интеллекта человека, ведь человеческий интеллект затрудняется написать прямой алгоритм её решения. Другими словами, «иной способ решения» — это должен быть «непонятный процесс решения». И он же «непрямой процесс решения». Потому что был бы процесс решения понятен, мы бы и сами решили задачу, то есть написали прямой алгоритм решения.

Способ решения задач, который удовлетворяет всем этим особенностям, есть — это искусственная нейронная сеть и обучение. По аналогии с мозгом (который тоже никто заранее не программирует под решение различных конкретных задач, встающих перед животным, направленно внося изменения в его структуру) более или менее наугад создаётся некоторая искусственная нейронная сеть, которая затем обучается предъявлением обучающих примеров.

По тому же принципу, как это описано ранее в отношении мозга, искусственная нейронная сеть запоминает в обучающих примерах нечто неизменно повторяющееся, то есть их некие общие признаки, суть наблюдаемого, логику происходящего. После чего сможет узнать эти признаки в изображении, которого не было в обучающей выборке, верно отнеся его к соответствующему классу; на основании ранее услышанных фраз сможет построить фразу ответа или прогноз на будущее на основании наблюдаемых ранее цепочек событий. То есть сеть решает задачу как будто «сама», в ходе обучения, без прямого задания пути к решению человеком. В свою очередь, так как алгоритм решения непонятной задачи нам, естественно, непонятен, а искусственная нейронная сеть — это и есть этот алгоритм решения, то как сеть приходит к тому или иному решению нам, соответственно, тоже непонятно. По этой причине искусственные нейронные сети иногда называют системой чёрный ящик.

В скобках заметим, получившие широкую известность чат-боты типа ChatGPT, построенные на основе нейронный сетей, обучаются по тому же общему принципу. Сети предъявляется выборка текстов, на основании которых она запоминает, как сочетаются слова. Другими словами, сеть выявляет логику построения фраз, статистику сочетаний слов — то, какое слово «обычно», то есть чаще всего, следует за другим словом в контексте предыдущих слов фразы (точнее говоря, речь идёт о токенах, токен в данном случае — это буква, часть слова, слово или словосочетание, которым можно продолжить фразу). Поэтому в дальнейшем сеть может сама последовательно слово за словом «достраивать» заданный вопрос наиболее вероятными — наиболее «логичными» — в его контексте словами, тем самым получается ответ.

Если пользователь что-то отвечает, например, не соглашается с ответом сети, то его слова меняют контекст диалога, и в этом новом контексте сеть даёт другой ответ — спорит с пользователем или соглашается, что ошиблась. Например, отчасти похожим образом добавление к предыдущему ответу калькулятора нового действия приведёт к изменению ответа. В нейронных сетях контекст диалога с пользователем — это, по сути, упрощённый аналог кратковременной памяти мозга. Её объём, то есть объём контекста, который может воспринимать сеть, ограничен и растёт в новых моделях.

Правда, так как после обучения чат-боты ничего новое запомнить уже не могут (после обучения веса связей фиксируются), то запоминание предыдущего диалога с пользователем происходит посредством отдельной памяти, то есть предыдущие диалоги сама сеть не запоминает, они не меняют её опыт (не меняют веса связей). В отличие от мозга, который меняется постоянно — обучается или забывает. В скобках заметим, что, регулируя параметры сети, можно сделать так, что сеть будет «достраивать» вопрос пользователя по-разному. Например, наиболее вероятными в его контексте словами ответа — и тогда ответ будет более «академичным», сухим, более точно следовать текстам обучающей выборки. Или менее вероятными — и тогда ответ будет более творческим, субъективным, но, возможно, менее адекватным.

Непосредственно же «непонятность» вычислений искусственной нейронной сети заключается во множественности однотипных операций. Мысленно проследить эти вычисления невозможно, поэтому они приобретают смысл фактически только в конце процесса, когда активизируются выходные нейроны сети, обозначающие тот или иной ответ сети.

Вычисления происходят следующим образом (см. рис. ниже): входящие в нейрон сигналы умножаются на коэффициент веса связи, по которой они поступили, получившиеся на всех связях значения суммируются, после чего в соответствии с функцией активации нейрона (которая может быть разной) вычисляется его выходной сигнал. И так с каждым нейроном в слое. Вычислив таким образом выходной сигнал каждого нейрона, переходят к следующему слою, для нейронов которого эти сигналы будут входящими. Как понятно, добавление в сеть обратных связей значительно усложнит алгоритм.

       Рис. 3. Математическая модель нейрона. Пунктиром обозначено тело (сома) нейрона.
      
    1. Нейроны, выходные сигналы которых поступают на вход данному, w — веса входных сигналов.
    2. Сумматор входных сигналов.
    3. Вычислитель передаточной функции (функции активации).
    4. Нейроны, на входы которых подаётся выходной сигнал данного

Таким образом, ответ на вопрос о причинах «непонятности» искусственных нейронных сетей заключается в том, что искусственные нейронные сети непонятны именно вследствие непонятности их вычислений. Сложность не позволяет написать нейронную сеть сразу готовой, не требующей обучения, как пишутся прямые алгоритмы. Можно сказать, что искусственная нейронная сеть до обучения — это фактически алгоритм-заготовка, которая станет алгоритмом решения конкретной задачи только после обучения, и чем изначально сложнее будет сеть, тем большему она сможет научиться, более сложные задачи сможет решать.

Проще говоря, в ходе обучения посредством обучающих примеров нейронная сеть «подгоняется» под задачу — до тех пор, пока задача не будет решена. После этого веса связей фиксируются, обучаться сеть больше не может (различными модификациями опыта могут продолжать заниматься только разработчики сети, имеющие доступ к её настройкам, как, например, в случае ChatGPT), иначе новый опыт будет стирать старый (в чём заключается проблема пластичности/стабильности), замещая его опытом, всё менее зависимым от того, который предусматривался при создании сети.

Однако если работа нейронной сети непонятна, то создавать нейронные сети можно только наугад. Об этом уже говорилось выше, но так как это важный вывод, из которого многое следует, остановимся на нём подробнее.

Создание сетей наугад очевидно, например, и с той точки зрения, что если решение задачи непонятно, то его можно только угадать, пользуясь какими-то общими соображениями о пути к решению. Точно так же по неким общим соображениям создаётся нейронная сеть, и так же более или менее наугад она затем обучается, из-за чего никогда заранее не известно, приведёт ли данная структура нейронной сети и данное обучение к удовлетворительному решению задачи.

Можно заметить, приблизительно так же «непонятен» алгоритм клеточного автомата, поэтому его тоже можно создавать только наугад. В клеточном автомате заданы правила взаимодействия клеток, их появления и исчезновения. Запустив клеточный автомат, можно наблюдать на экране появление, исчезновение и эволюцию различных структур клеток. Но необходимость запоминать состояние множества клеток приводит к тому, что проверить, к чему приведут те или иные особенности правил можно, только запустив автомат на компьютере, то есть вначале надо задать правила более или менее наугад, и только потом, запустив на компьютере, можно будет узнать, что получилось. Нейронная сеть точно так же более или менее наугад создаётся и более или менее наугад обучается.

Если посмотреть на создание искусственной нейронной сети (ИНС) с более общих позиций, то можно написать алгоритм, который будет, к примеру, рассчитывать параметры деталей шкафа в зависимости от объёма вещей, но не имеет смысла такой алгоритм, который будет рассчитывать ИНС в зависимости от условий задачи. В отличие от шкафов, задача у которых одна и она нам полностью ясна — вмещать что-то трёхмерное, поэтому и алгоритм создания шкафов нам тоже понятен и он один на все шкафы, задачи, которые решают ИНС, нам малопонятны. И получается, что задача ИНС состоит не в решении какой-то одной конкретной задачи, а в решении задач вообще. Поэтому алгоритм, который будет рассчитывать ИНС в зависимости от условий задачи, — это суть такой алгоритм, который на входе будет иметь условия задачи, а на выходе алгоритм, который способен её решить, то есть это будет алгоритм решения всех задач, которые только могут решить алгоритмы. Но это значит, что задача написания такого алгоритма выходит за рамки всех задач, которые только могут решить алгоритмы. Иными словами, алгоритм решения всех задач, которые только могут решить алгоритмы, получается, не может быть алгоритмом, ведь он должен решать задачу, которая выходит за рамки задач, которые решают алгоритмы. Естественно, это противоречие.

Можно обратить внимание на соответствие этих выводов аргументам первой главы про теорию множеств, что всё мыслимое, всё сущее или самый богатый язык — это уже не что-либо сущее, что-либо мыслимое или какой-либо язык. Точно так же алгоритм решения всех задач, которые только могут решать алгоритмы, уже не может быть алгоритмом. Построение такого алгоритма так же не имеет смысла, как создание теории всего, которая равносильна выходу за всё или как написание алгоритма мышления, который равносилен выходу за мышление.

И действительно, уже говорилось, работа искусственных нейронных сетей не задаётся заранее в точности. Ввиду сложной структуры нейросетевого алгоритма, проследить ход вычислений мысленно невозможно, поэтому конкретные параметры создаваемой сети выбираются более или менее наугад на основании прошлого опыта решения сетями похожих задач и других общих соображений о целесообразности того или иного выбора. После чего нейронная сеть обучается. В процессе обучения сеть оптимизируется под решение поставленной задачи — можно сказать, что «грубый» процесс создания нейросетевого алгоритма сменяется «тонкой» подгонкой его под задачу. Процесс обучения тоже во многом интуитивен и результат не гарантирует.

Дело обстоит практически так же, как и в отношении человека — устройство мозга непонятно, поэтому и верный подход к обучению неясен, и результат не гарантирован. Но, повторим, с тем важным отличием, к которому мы пришли в первой главе, что работа мозга невычислима в принципе, в отличие от просто сложных вычислений искусственных нейронных сетей.

Обратим внимание, прямой алгоритм — это детерминированный алгоритм. В детерминированном алгоритме путь от данных к результату понятен и потому сформулирован ясно и однозначно — «детерминирован» нашим точным знанием этого пути. Однако искусственные нейронные сети относятся к недетерминированным алгоритмам (подробнее про детерминированные и недетерминированные алгоритмы написано в статье «Приложение» в одноимённых главах, ссылка на эту статью есть в главе «Дополнительно»). Ввиду того, что путь от данных к результату в задачах, которые решают нейронные сети, непонятен — «не детерминирован» нашим точным знанием, то его формулировка подразумевает варианты, полезность которых заранее неизвестна, из-за чего выбор между ними случаен. Например, это разные начальные параметры сети или разные параметры обучения, которые, как сказано выше, выбираются более или менее наугад на основании различных общих соображений. В результате разные варианты нейронной сети могут решать задачу по-разному, будучи точнее в одном её параметре или в другом.

Однако если работа вычислительной системы непонятна, то, как уже говорилось, оценить решения такой системы можно только «снаружи», по самим решениям, а не в точности понимая, как они возникают. Искусственной нейронной сети приходится или «верить на слово», или прежде проверять адекватность её решений. Как и в случае человека, мы больше судим нейронную сеть «по делам», чем проверяя ход её «мыслей».

В свою очередь, это значит, что в создании нейронных сетей возникает такая составляющая, как отбор. Аналогично естественному отбору искусственные нейронные сети создаются и обучаются более или менее наугад, в процессе чего среда — в данном случае человек, как создатель нейронной сети — оставляет те, которые отвечают его нуждам.

При этом, создавая искусственный интеллект, мы так или иначе воссоздаём своё представление о том, что мы хотим от искусственного интеллекта — очевидно, что другого представления у нас нет и быть не может, любая идея становится частью нашего опыта, причём в том виде, как мы её воспримем. Также очевидно, что сложность этого представления ограничена нашими нынешними знаниями. Таким образом, наша способность «отбирать», то есть отделять адекватные системы от не адекватных, всегда ограничена нашими нынешними знаниями. 

Но не менее очевидно и то, что наши нынешние знания — это далеко не все потенциально возможные знания, на которые способен наш интеллект. Однако создать при этом мы должны нейронную сеть, которая потенциально может знать всё, что потенциально можем знать мы. Получается, чтобы создать искусственный интеллект, сложность которого всего лишь равна сложности интеллекта человека, уже нужно знать больше, чем известно. Потому что в ином случае создание искусственного интеллекта будет тормозить наша неспособность отличить более умную систему от более глупой, адекватную от неадекватной, ведь все возможные критерии отбора, естественно, лежат в рамках сложности наших нынешних знаний.

Однако искусственному интеллекту не достичь даже сложности нынешних знаний. Образно говоря, создание искусственного интеллекта ещё только равной себе сложности уже становится равносильно попытке создать то, неизвестно что. 

Дело в том, что точные критерии отбора можно сформулировать только на уровне точных знаний. Поэтому по мере того, как сложность поведения искусственного интеллекта будет приближаться к сложности нашего нынешнего поведения и, таким образом, выходить за рамки того, что мы точно знаем в себе и поэтому можем точно и однозначно оценить это и в поведении ИИ, оценивать станет всё сложнее и сложнее. Но мы точно знаем про себя очень немногое, иначе, например, психология или различные социальные науки были бы науками столь же точными, как физика. Поэтому по мере приближения оценка адекватности будет становиться всё более и более неопределённой, и в конечном итоге, ввиду того, что отличить адекватную систему от неадекватной станет на практике делом слишком сложным, дальнейшее усложнение искусственного интеллекта потеряет смысл задолго до достижения им сложности даже нынешнего опыта человека.

Обратим внимание, отбор нужен не только для оценки адекватности уже созданных систем, но и для того, чтобы выделять в них верные решения и продолжать их в новых системах. То есть для того, чтобы ограничивать количество возможных вариантов систем, а также развивать теоретическую базу и улучшать технологии. Поэтому чем сложнее становится отделить адекватную систему от не адекватной, тем быстрее будет расти количество возможных вариантов систем и тормозиться развитие технологий. Иными словами, неопределённость в оценке систем, как снежный ком, повлечёт за собой рост неопределённости и по всем остальным параметрам создания систем. В результате снова устремляя к бесконечности время приближения создаваемых систем к сложности интеллекта человека, только теперь уже по этой причине.

Посмотрим на сказанное с другого ракурса.

Исследуя мозг, мы выдвигаем гипотезу в отношении работы мозга, и проверяем её, наблюдая за его работой, то есть в конечном итоге наблюдая за поведением самих себя. Создавая искусственные нейронные сети, мы выдвигаем гипотезу в отношении устройства и обучения сети, и проверяем её, опять же сравнивая поведение создаваемой системы со своим поведением, со своим опытом, задачами и их решениями. Таким образом, и изучение естественного интеллекта, и создание интеллекта искусственного одинаково требует всё более глубокого понимания своего поведения.

Но понимание своего поведения равносильно пониманию своего мышления, которое как минимум сейчас понятно далеко не полностью, а на самом деле сколько-нибудь точно понять его невозможно вообще, исходя из того, что алгоритм мышления не просто сложный, а не имеет смысла. И поведение, естественно, непонятно в той же степени, как и мышление. Следовательно приближение сложности поведения создаваемых систем к сложности поведения человека равносильно всё более глубокому познанию того, что познано быть не может — мышления человека, всей сложности его поведения. Иначе говоря, для создания искусственного интеллекта всего лишь только равного интеллекту человека потребуется выйти за рамки познаваемого, что, естественно, бессмыслица. В итоге создание ИИ равного по сложности интеллекту самого человека, как создателя ИИ, невозможно. К уровню интеллекта человека можно только приближаться, при этом на практике приближение происходит только к уровню нынешнего опыта человека, его нынешних знаний о себе и окружающем мире.

Например, мы умеем не только говорить, но и непосредственно действовать — воплощать сказанное, придуманное. Умеем исследовать и подчинять себе природу, взаимодействовать с другими людьми, проводить глобальные политические, экономические, исследовательские программы. Вся наша жизнь — это одно целое, одна глобальная стратегия самосохранения, с неизменной общей целью и постоянно меняющейся тактикой. Всё это тоже часть нашего опыта, причём его наиболее сложная, глубинная и непонятная составляющая. Например, ни кошка, ни червяк, ни животные без нервной системы, ни одноклеточные, ни мы — не обучаемся стремлению к самосохранению, во всех биологических системах оно есть сразу, везде, разница только в сложности реализации этого стремления (подробнее о самосохранении скажем в седьмой главе). Как следствие, ИИ всегда будет оставаться «внутри» этой стратегии, являясь нашим инструментом в её реализации, и выйти за эти рамки не сможет.

В итоге по мере приближения создаваемых систем к сложности интеллекта человека их усложнение будет идти всё медленнее и в конечном итоге оно будет ограничено некоторым уровнем от сложности нынешних знаний человека. Сложность создаваемого искусственного интеллекта всегда будет ограничивать непознаваемость явления, которое в нём предполагается воплотить — мышления человека.

Представленные выше аргументы, вероятно, выглядят довольно абстрактными. Чтобы они стали более наглядными, посмотрим, как ограничение на сложность создаваемых систем будет проявлять себя на практике. По каким конкретно направлениям будут расти проблемы по мере приближения сложности искусственного интеллекта к сложности интеллекта человека.

Наиболее близкое нынешнее приближение искусственных систем к «интеллекту» — это уже упоминавшиеся чат-боты ChatGPT или аналогичные диалоговые системы, созданные на основе нейронных сетей. Такие системы отвечают на вопросы из разных областей знания, могут что-то посоветовать, решить математическую задачу. Однако часто их ответы носят неверный и попросту неадекватный характер (такие ответы по аналогии с человеком называют галлюцинациями). Предсказать появление неадекватных ответов невозможно, они могут быть и в простых темах, и в сложных, а стилистически выглядеть при этом вполне правдоподобно. Поэтому за рамками проверенных разработчиками вопросов и ответов такие системы могут посоветовать пользователю что-то опасное, ложное, ввести в заблуждение, так как не каждый сможет неадекватность ответа распознать и не все вопросы можно задать и проверить заранее. Это уже реальная и серьёзная проблема, возникающая в использовании таких систем. 

Например, как кажется, естественное применение чат-ботов на практике — колл-центры компаний. Операторы колл-центров не решают глобальных проблем, сложных или слишком ответственных вопросов, наоборот, общение ограничено направлением деятельности компании и носит более или менее стандартный характер в основном одних и тех же простых вопросов и ответов. Поэтому даже простые модели нынешних чат-ботов с такой работой, вероятно, вполне справятся. Однако именно по причине заранее непредсказуемой неадекватности ответов такое применение ИИ в обозримой перспективе не ожидается. Нейронные сети сейчас только распознают речь и относят вопрос к тому или иному классу, а заранее записанный ответ «по старинке» даёт или автомат, или общение переводится на человека.

В то же время в областях, где неадекватность не страшна (например, в кратком пересказе новостей) или решения ИИ проходят проверку человеком (проектирование, написание программ, медицина, наука), ИИ может быть полезен. За счёт широкого кругозора и скорости вычислений одна система ИИ может быстро выполнять относительно простую интеллектуальную работу сразу во многих областях знания, оставляя за человеком уровень проверки, стратегических обобщений и руководства. 

Понятно, откуда берётся неадекватность.

Чат-боты обучаются на огромных массивах различных текстов, размеченных приблизительно в том же смысле, как подбирают тексты для обучения детей, — от простых к сложным, от текстов с ясными и «правильными» посылами к идеям неоднозначным. Но, как говорилось выше, составляющая формализованного опыта, то есть точных знаний, не адекватна всему опыту человека — ни по объёму, ни по сложности. Тексты, будь то математический язык или естественный, — это малая и простая часть опыта. Тексты о пешеходах — это не умение ходить, тексты о самоделках — это не умение что-то делать своими руками. Поэтому вполне естественно, что искусственный интеллект, обученный только на текстах, адекватным нашему опыту не станет. Среди ответов, которые он генерирует только на основании других текстов, всегда будет высокая составляющая таких, которые в контексте нашего опыта будут неадекватными, неверными.

То же можно сказать иначе. Описание природы не равно описываемой природе. Абсолютная адекватность описания равносильна теории всего, но теория всего не имеет смысла. В свою очередь, теория всего равносильна алгоритму мышления, поэтому точно так же дела обстоят с опытом — весь наш опыт нельзя выразить словами, так как это равносильно написанию алгоритма мышления. Применительно к созданию искусственного интеллекта это означает, что тексты, которые генерирует искусственный интеллект, обученный только на текстах, будут ещё менее адекватны реальному миру, чем наши тексты, потому что если мы живём в реальном мире, который, естественно, сам себе адекватен и не ограничивается только текстами, то мир искусственного интеллекта — это только наши тексты, а они уже изначально реальному миру более или менее неадекватны. Таким образом, и с этой точки зрения поведение искусственного интеллекта, обученного только на текстах, всегда будет относительно более неадекватным и простым, чем поведение человека.

Например, если бы чат-бот всегда цитировал в тексте ответа какой-либо конкретный источник дословно, то в этом случае неадекватность могла бы быть только в неверном выборе источника или цитаты для ответа. Но чат-бот, то есть нейронная сеть, формирует ответ «самостоятельно», последовательно подставляя в ответ те слова и фразы, которые в контексте слов вопроса встречаются в текстах обучающей выборки наиболее часто. То есть, собственно говоря, подставляя те слова и фразы, которые соответствуют распознаваемой сетью логике ситуации, её сути, контексту, ведь именно логику происходящего и учится распознавать нейронная сеть в процессе обучения. К примеру, если рассматривать работу мозга в самых общих чертах (то есть не учитывая особенности работы мозга, как определённой физической системы), то ответ чат-бота формируется практически так же, как это делает наш мозг. Однако у нас в голове тексты возникают не только на основании других текстов, а в этом участвует и весь другой опыт человека, ввиду того, что нейронные сети работают как целое.

В результате чат-боты по сравнению с человеком уже изначально оперируют неполной информацией о нашем мире, взятой только из текстов. Поэтому они в принципе не могут быть столь же адекватными нашему миру, как сам человек. Как следствие, вполне естественно, что на практике рост объёма знаний нейронной сети или эксперименты с разметкой обучающих текстов не сопровождаются аналогичным уменьшением объёма неадекватных ответов.

Человек понимает смысл слов более или менее в контексте сразу всего опыта, так как в работе биологической нейронной сети всё в высшей степени взаимосвязано. Надо сказать, что в искусственных нейронных сетях связанность не является такой же высокой, как в сетях биологических, но, если не вдаваться в подробности отличий искусственного и естественного интеллекта, то про искусственные нейронные сети можно сказать то же самое. Однако опыт человека много богаче, чем тексты, речь. Поэтому естественно, что один и тот же текст, «пропущенный» через призму нашего многогранного опыта, мы будем понимать более или менее по-другому, чем его поймёт искусственная нейронная сеть, обученная только на текстах.

Как кажется, очевидный выход в этом случае — это дальнейшее усложнение нейронных сетей, то есть дальнейшее приближение их к сложности мозга, в том числе к нашему разнообразию рецепторов и построению движений, а также ещё более точная разметка обучающих примеров. Тогда искусственный интеллект сможет воспринимать мир в большем многообразии причин и следствий, обучить его можно будет точнее, а значит, адекватность ответов вырастет.

Однако чем сложнее становятся создаваемые системы, тем сложнее становятся и решаемые ими задачи. Но сложные задачи — это и важные задачи, а значит, чем сложнее система, тем больше возможный вред от её ошибок. Одновременно, чем сложнее становятся системы искусственного интеллекта, тем потенциально шире становится и область их возможного применения. Как следствие, растёт важность их тестирования во всех условиях, где сеть потенциально может быть использована, так как за рамками проверенных её решения всегда могут быть опасны. Причём ввиду того, что речь идёт о системах обучающихся, то в идеале проверять нейронную сеть требуется не только во всех возможных условиях, но и по-разному обученные.

Но, уменьшая возможности такой проверки, чем сложнее становятся нейронные сети, тем больше становится вариантов сетей и больше вариантов их обучения, ведь больше становится и параметров, которые выбираются наугад. При этом, ещё более усложняя возможности тестирования, богаче становится поведение этих вариантов — аналогично богатству поведения человека. В том числе богаче стратегическими решениями, которые уже в принципе невозможно оценить сколько-нибудь быстро.

Например, как говорилось, поведение человека — это реализация глобальной и, по сути, бесконечной стратегии самосохранения и размножения, её прерывает смерть, а не логическое завершение. Эта стратегия реализуется в сложной и постоянно меняющейся природной и социальной среде, где все частные решения увязаны между собой, представляя из себя на самом деле тактику этой общей стратегии, а не отдельные поступки, из-за чего никакой поступок нельзя оценить однозначно ни на каком конечном промежутке времени. При этом важность точной оценки становится тем выше, чем более отдалённые последствия рассматривать. К примеру, даже оценка того, что съесть на завтрак, будет меняться и становиться всё сложнее и важнее, если рассматривать завтрак не просто с точки зрения насыщения здесь и сейчас, а в контексте всё более многоплановых и далёких последствий завтрака для решения задач наступающего дня, его влияния на своё здоровье и так далее. Ещё быстрее важность точной оценки будет расти, если это план лечения тяжёлой болезни, эпидемии, управленческие, социальные, экономические или политические решения различного уровня, непосредственно влияющие на жизнь сразу множества людей.

Таким образом, уже понятно, что усложнение сетей — это как минимум палка о двух концах. Нельзя создать сразу сложную и адекватную нейронную сеть, а последовательный путь к ней проходит через стремительно ширящиеся проблемы: растёт количество вариантов сетей, вариантов обучения, сложность поведения сети, важность точной оценки адекватности — и потому стремительно усложняется весь процесс создания, обучения и тестирования сетей. В итоге на практике, чем сложнее поведение сети, тем ко всё более неопределённой будет стремиться оценка адекватности, поэтому на некотором этапе каждое новое усложнение искусственного интеллекта станет требовать всё больше времени.

И тем не менее сказанное сейчас всё равно не раскрывает всей глубины растущих проблем и той реальной скорости, с которой они на самом деле будут расти. Ведь в примерах выше искусственный интеллект предстаёт не более чем советчиком, по сути, только компилирующим некий вариант решения задачи на основании уже известного, но он не проводит самостоятельные исследования и не исполняет своё решение.

Как говорилось, на базе обучающей выборки искусственный интеллект может подсказать человеку решение проблемы. Это может быть совет абстрактного характера, научного или любого другого, а специализированные системы могут поставить медицинский диагноз и составить план лечения. При этом чат-боты типа ChatGPT сейчас создаются больше с развлекательной и исследовательской целью, а советы медицинских систем проверяются врачом. Однако у нас всё ещё остаётся выбор — этим советам можно следовать, следовать с осторожностью или не следовать вообще.   

Но важность точной оценки адекватности начинает расти намного более стремительно в случае, если поведение искусственного интеллекта будет подразумевать хотя бы небольшую самостоятельность — от принятия решения до его исполнения. И при этом одновременно будет столь же стремительно уменьшаться возможность эту оценку дать, ведь сети, которые смогут не только советовать, но и что-то делать сами, это сети намного более сложные, поэтому вариантов их устройства и обучения будет больше, поведение этих вариантов богаче, а значит, и проверить его сложнее, это потребует ещё больше времени.

Более того, если системы обладающие самостоятельностью смогут ещё и обучаться в реальном времени, то рост важности точной оценки адекватности претерпевает ещё один качественный скачок, но при этом столь же качественно уменьшается возможность её дать, ввиду того, что оценивать реальное поведение, даже без обучения в реальном времени, сложнее и много дольше, чем просто ответы на вопросы. 

В скобках заметим, как уже говорилось, нынешние системы искусственного интеллекта не обучаются в процессе эксплуатации, после отдельного процесса обучения веса связей фиксируются, в отличие от мозга, который учится всегда. Отсутствие обучения означает отсутствие обратной связи от пользователя или от мира, невозможность персонализации, адаптации, устаревание данных, на которых обучена система. И пока непонятно, как на практике решить эту проблему. Есть и другие серьёзные проблемы, которые тоже можно связать больше с устройством систем, чем с обучением. Например, это количество и сложность рецепторов или моторика, особенно тонкая, сложная, которая, очевидно, потребуется, если речь идёт о роботе.

Но и это тоже ещё не все проблемы. Выше мы говорили про решения сети и то, что их становится всё сложнее проверить. Но при этом всё-таки предполагалось, что вопрос сформулирован, задание дано, нужно только проверить ответ, оценить результат. Однако задать вопрос можно только о том, что как минимум более или менее понятно, в то время как за пределами наиболее формальной части нынешнего опыта понятного, естественно, становится всё меньше, а за пределами нынешнего опыта в целом уже и вообще ничего нет, ни понятного, ни непонятного. Поэтому по мере приближения сложности поведения искусственного интеллекта к сложности поведения человека всё меньше будет понятно и то, что вообще нужно проверять, что спрашивать, какие нужно давать задания. Выражаться это будет в том, что ситуаций, в которых необходимо проверить адекватность ИИ, будет становиться не просто всё больше, а они будут становиться ещё и всё более сложными, многоплановыми, и потому в конечном счёте всё более и более неопределёнными. Их будет всё труднее конкретизировать, найти, представить.

В итоге по причине роста указанных проблем задолго до приближения создаваемых систем к сложности даже нынешнего опыта человека, проверить адекватность поведения создаваемых систем будет возможно только всё более и более фрагментарно и только на уровне относительно простых элементов, аналогично тому, как неполно и неточно мы можем оценить поведение других людей в каком-либо тесте или опросе.

В то же время если говорить о людях, то за рамками проверенного в тестах мы всё равно можем рассчитывать на их адекватность. И не просто потому, что в каждом из нас заключён опыт миллиардов лет биологической эволюции, а потому что активное стремление к самосохранению встроено в любую жизнь ещё на физическом уровне. Иными словами, стремление к самосохранению — это не то, чему мы учимся, и вообще не функция нервной системы, а особенность устройства всего организма, как физической системы. Это та общая цель, которая придаёт смысл всем действиям человека, составляющая которой есть в каждой реакции, каждой мысли, это то физическое основание, которое существовало в природе ещё до появления жизни и на новом уровне сложности продолжается в биологических системах от клетки до человека, определяя их постоянную активность и направленность этой активности в одну и ту же для всех организмов сторону самосохранения. Нервная система позволяет животному уточнять это стремление под окружающую среду в более широких пределах, чем это могут организмы без неё, но нервная система не привносит в жизнь нечто принципиально новое.

Уточним сказанное в предыдущем абзаце в седьмой главе, а пока обратим внимание, что такая поведенческая однонаправленность определяет значительную общность всех людей, их мнений, целей, интересов, а также понимание чужих поступков, возможность их предвидеть, различать намерения, легко этому обучаться. И даже не только людей, по тем же причинам общности нам понятно и поведение животных. Причём поведенческая однонаправленность на общем масштабе у нас сочетается с индивидуальностью на масштабе частном. Но индивидуальность — это не только поступки, мозг, личный опыт человека, это и его тело, лицо, причём всё это более или менее связано. Поэтому характер человека, его настроение, намерения или склонность к неадекватности мы можем заметить и по множеству внешних признаков в том числе.

Однако в отношении искусственных нейронных сетей или роботов ни на что из этого рассчитывать нельзя. Ни стремления к самосохранению, ни вообще какого-либо стремления, ни связи опыта с внешностью у них нет. Мы и ИИ принципиально разные физические системы (подробнее об этой разнице будет сказано в седьмой главе). В результате, в отсутствие понимания работы системы и общности этой работы с собой, сколько-нибудь достоверная экстраполяция поведения системы в проверенных ситуациях на ситуации ещё не проверенные становится невозможна.

Обобщим.

Когда отследить и исправить неадекватность искусственной нейронной сети стало сложно, тогда, чтобы сеть могла стать более адекватной за счёт большего объёма опыта, мы решили её усложнить. Однако, оказывается, что необходимость проверки решений искусственного интеллекта от этого не только не уменьшается, а она стала ещё более необходимой, при том, что осуществить её, наоборот, стало намного труднее.

Имея в качестве образца только себя и свои знания, усложнение возможно только одним способом — это приближать нейронную сеть к тому сложному и глобальному пространственному и временному представлению о себе и мире, которым обладает человек. Но это представление в явном виде недоступно и нам самим, так как формальные, точные знания только часть нашего опыта. Как следствие, по мере приближения систем к сложности нашего нынешнего опыта по всем параметрам создания систем будет стремительно расти неопределённость.

Таким образом, по причине того, что сам образец, в сравнении с которым происходит оценка создаваемых систем, является малопонятным, то по мере выхода сложности поведения искусственного интеллекта за рамки того, что мы сами можем однозначно оценить, точно рассчитать, то есть за рамки нашего наиболее формализованного опыта, возможность дать точную оценку поведению систем будет уменьшаться, стремясь к полной неопределённости. А необходимость её дать, наоборот, будет столь же интенсивно расти, стремясь к требованию полной определённости, так как чем сложнее система, тем всё более важными становятся решаемые ей задачи. Встреча этих противоположных тенденций произойдёт на некотором уровне от сложности нынешних знаний человека и будет выражаться в том, что дальнейшее усложнение систем искусственного интеллекта потеряет всякий смысл.

На практике потеря смысла будет связана с тем, что сочетание стремительно растущего количества возможных вариантов сетей, вариантов их обучения и столь же стремительно уменьшающаяся возможность объективно оценить их адекватность приведёт к тому, что время практической реализации каждого нового усложнения — отбора подходящего варианта сети и подходящего варианта её обучения — будет всё стремительнее расти к бесконечности.

В итоге искусственный интеллект не выйдет за рамки такого помощника человека, который обладает широким кругозором и способен быстро выполнять относительно простую интеллектуальную работу. Однако эта работа, вследствие непредсказуемости и нестабильности её результатов, по мере роста важности задач будет всё больше требовать проверки, тем самым ограничивая применение систем в сложных интеллектуальных задачах или самостоятельность в стратегических действиях. Повторим, это произойдёт не столько вследствие каких-либо законодательных ограничений, а прежде всего само собой, просто по причине естественной невозможности создать столь сложную систему, доверять которой в случае сколько-нибудь важных решений выгоднее, чем не доверять.

Проверим сделанные выводы ещё раз.

Искусственные нейронные сети нам нужны в тех случаях, когда сложно решить задачу прямым путём. Иными словами, искусственные нейронные сети позволяют решать задачи более сложные, чем те, которые можно решить прямыми средствами, точно и однозначно задав порядок переработки данных в результат. 

Но за счёт чего у сетей появляются такие возможности? За счёт растущего непонимания их работы, неоднозначности результатов этой работы, увеличения доли случайного выбора, то есть за счёт роста неопределённости. Что это значит?

Вспомним, алгоритм мышления не имеет смысла, так как в этом алгоритме будут выводиться все утверждения, которые только можно сформулировать, включая противоположные, в том числе о ложности самого алгоритма мышления. Это значит, что как минимум прямыми средствами искусственный интеллект, равный сложности мышления, создать нельзя, это невозможно в принципе. На практике это означает, что усложнение любых прямых алгоритмов остановится задолго до приближения их к сложности мышления, так как сложность мышления в прямых алгоритмах в принципе недостижима. Но насколько вообще можно приблизиться к сложности мышления в прямом алгоритме?

Ответ очевиден. Так как прямой алгоритм целиком пишет человек, то он не может быть сложнее его нынешнего опыта, причём его наиболее формализованной составляющей, так как прямой алгоритм — это однозначная пошаговая инструкция, ведущая от данных к результату. Прямой алгоритм подразумевает, что решение задачи полностью понятно и потому путь переработки данных в результат может быть задан чётко и однозначно. В результате на практике по мере выхода за рамки тех знаний человека, которые можно отнести к наиболее точным, наиболее формализованным, усложнение прямых алгоритмов будет требовать всё больших и больших интеллектуальных усилий, и в конечном итоге выгода от прироста их сложности перестанет усилия по их созданию оправдывать. Таким образом, сложность прямых алгоритмов ограничена сложностью наиболее формализованного опыта человека.

Тогда, если прямых — понятных и однозначных — средств уже не осталось, остаётся только рассмотреть средства не прямые — непонятные и неоднозначные. Надежда теперь может быть только на них, потому что какого-либо третьего варианта решения задач попросту нет. И действительно, мы видим, что искусственные нейронные сети позволяют решать задачи, прямой алгоритм решения которых написать на практике вряд ли возможно.

Но эти возможности появляются у сетей за счёт роста неопределённости, то есть за счёт роста объёма случайного выбора, непонятного и неоднозначного в их работе, устройстве и оценке результатов этой работы. В свою очередь, неопределённость в понимании того, как конкретно система приходит к тому или иному решению, приводит к появлению отбора. Вместо мысленного «отбора» верного пути к решению задачи ещё в процессе написания алгоритма, как это происходит в случае прямого алгоритма решения задачи, в случае искусственных нейронных сетей отбор происходит по итогам работы алгоритма — решила сеть задачу или нет. 

Но возможности нашего «отбирающего» мозга от этого не увеличиваются. Они всё так же ограничены сложностью нашего нынешнего опыта. В результате так же, как на некотором уровне сложности задач становится всё труднее написать прямой алгоритм, на этом же уровне сложности всё труднее становится и отличить верное решение от неверного, даже если они будут предъявлены уже готовыми, как результат работы нейронной сети. Так же, как всё труднее сформулировать прямой алгоритм, в той же степени начинают расти трудности отбора алгоритмов не прямых. Вариантов систем становится всё больше, их поведение всё сложнее и богаче, поэтому отделить адекватный вариант системы от неадекватного становится всё труднее, это требует всё больше времени, а критерии отделения подразумевают в том числе всё более размытые субъективные, всё менее формализованные основания.

С одной стороны, «всё менее формализованные основания» в отборе позволяют достичь большей сложности систем, ведь формализованный опыт теперь не служит строго ограничивающим сложность фактором. Однако, с другой стороны, это и проблема, и она становится всё более серьёзной.

Мы в общих чертах скопировали природу — мозг, который за счёт особенностей своей структуры сам решает задачи, и создали искусственную нейронную сеть, которая тоже сама решает задачи. Мозг решает сложные задачи, нелинейные, он распознаёт условия и в едином порядке организует активность множества мышц и желёз. И искусственная нейронная сеть тоже переняла способность решать сложные нелинейные задачи.

Но в довесок мы получили то, что и должны были получить: сложные задачи — это малопонятные решения, а значит, и малопонятная работа системы, которая может такие задачи решать.

Вспомним, мы не создали нейронную сеть сами, точно понимая, что и зачем мы делаем, а скопировали её у природы, обратив внимание на некоторые общие особенности нейронной сети мозга и то, что, вероятно, именно за их счёт мозг может решать сложные задачи. Другими словами, мы прибегли к эвристике — методу, найденному случайно или взятому у природы и не имеющему точного математического обоснования, то есть методу работающему, но в точности непонятно как.

Например, цепь, подвешенная за концы, из бесконечного множества возможных вариантов «сама собой» принимает именно ту форму, которая соответствует минимуму потенциальной энергии силы тяжести. Человеку же для отыскания этой формы (катеноиды, или цепной линии) требуется решить дифференциальное уравнение Эйлера — Лагранжа. Мыльная плёнка, натянутая на проволочный контур, принимает форму, соответствующую минимуму внутренней энергии плёнки (состоящей, в основном, из потенциальной энергии сил поверхностного натяжения, пропорциональной площади плёнки). Световой луч в прозрачной среде, преломляясь, отыскивает кратчайший путь (требующий наименьшего времени прохождения любого своего участка) с учётом скорости света в каждой точке среды, через которую он проходит.

Однако если для расчёта катеноиды или формы мыльной плёнки есть более или менее точные и понятные алгоритмы, то мозг много сложнее цепи или мыльного пузыря, поэтому в искусственной нейронной сети удалось воспроизвести только некоторые самые-самые общие особенности нейронной сети биологической. Но даже такой несравнимо простой по сравнению с мозгом алгоритм уже слишком сложен, чтобы можно было точно мысленно проследить его работу. Поэтому работа искусственной нейронной сети малопонятна, неясно, как конкретно сеть приходит к тому или иному выводу, из-за чего не все её решения можно оценить однозначно.

Например, ответ чат-бота может быть философского характера, это может быть шутка или сгенерированное им изображение, имеющее художественный смысл. Такие ответы и не нужно оценивать однозначно, субъективность в их оценке неустранима. В то же время метафора, эстетика, шутки и отвлечённая философия — это не то, что нас прежде всего интересует в искусственном интеллекте. Прежде всего нас интересует возможность применения систем в задачах, имеющих объективное решение. И действительно, по мере роста сложности систем искусственного интеллекта объём поведения, которое потенциально может иметь такое применение, тоже будет расти. Однако при этом ответы, советы или возможные самостоятельные действия искусственного интеллекта будут подразумевать и всё большую стратегическую глубину, стратегическое значение. Как следствие, и цена ошибок в оценке адекватности систем тоже будет расти.

В результате «всё менее формализованные основания» в отборе ИИ, означают и то, что по мере усложнения ИИ неопределённость, размытость и субъективность в оценке его поведения будет всё больше противоречить растущему стратегическому значению этого поведения.

Таким образом, одновременно с ростом сложности систем будет расти необходимость, наоборот, формулировать параметры их отбора всё точнее, строже, однозначнее. Но это равносильно всё большему пониманию работы системы, то есть приближению не прямого алгоритма обратно к прямому — к тому, от которого мы, наоборот, хотели уйти, ввиду того, что усложнять их стало уже невозможным.

Иными словами, по мере того, как поведение систем будет становиться всё более сложным и потому всё менее понятным, будет нарастать обратная тенденция — необходимость всё более точного понимания их работы. Рост неопределённости будет всё сильнее требовать определённости. Но «определённость» — это суть прямой алгоритм, точное понимание работы системы. Таким образом, рост сложности непрямых решений, будет всё сильнее требовать прямых решений, сложность будет требовать простоты, «А» требовать «не А», постепенно соединяя эти разнонаправленные тенденции в полную бессмысленность дальнейших попыток усложнения ИИ. Усложнение и не прямых алгоритмов тоже начнёт всё быстрее терять смысл, как это ранее происходило с алгоритмами прямыми, не позволяя искусственному интеллекту приблизиться к сложности нынешнего опыта человека и тем более её превзойти.

Уменьшение одного ограничивающего параметра — необходимости точно представлять алгоритм работы системы, что ограничивает сложность прямых алгоритмов, фактически всего лишь приводит к взаимосвязанному росту сразу целого набора других ограничивающих параметров — вариантов систем, вариантов обучения, богатства поведения, а также важности оценки адекватности. Как следствие, огромное количество вариантов и важность выбора правильного приводят к необходимости всё точнее представлять критерии отбора. Но представление о критериях отбора равносильно пониманию работы системы, а понимание работы системы равносильно пониманию того, как конкретно система решает задачи. Но наш предел в этом уже был достигнут — именно поэтому и потребовались нейронные сети и обучение. В итоге время каждого нового усложнения искусственных нейронных сетей будет всё быстрее расти к бесконечности, и их усложнение потеряет всякий смысл задолго до сколько нибудь близкого приближения к сложности интеллекта человека. Процесс усложнения будет идти всё медленнее и на практике в конечном итоге полностью остановится.

Теперь вспомним, что прямой алгоритм — это не только путь от данных к решению, а ещё и выражение понимания. Но прямой алгоритм мышления не имеет смысла, то есть он не просто сложен, а именно невозможен, не может существовать. Что в точности равносильно принципиальному отсутствию сколько-нибудь ясного представления о системе, которая сможет выразить всю сложность мышления. Это значит, что рост неопределённости будет связан не только с простым ростом количества вариантов систем, имея в виду возможность по-разному компоновать уже известное. Но всё более непонятным будет становиться и то, что вообще нужно «компоновать». Например, точно так же что-то более или менее общее и простое о работе биологической нейронной сети сказать можно, но чем глубже мы пытаемся понять её работу, тем больших усилий это требует. Всё известное о мышлении далеко от реальной сложности явления, однако как минимум только модель равной сложности имеет в данном случае смысл.

Итак, в этой главе мы показали, что принципиальным пределом сложности искусственных нейронных сетей, создаваемых человеком, является сложность интеллекта самого человека, как их создателя, а на практике усложнение систем остановится задолго до приближения к сложности нынешнего опыта человека.

В то же время, заметим, этот вывод не имеет точного количественного выражения, и он не обладает математической строгостью. Если рассмотренные аргументы верны, то столь уточнить их параметры невозможно. Потому что фактически мы рассуждаем о пределах познания, выраженной в данном случае в максимально достижимой сложности создаваемых человеком систем. То есть рассуждаем о таких явлениях, точное «количественное» представление которых невозможно.

Например, точное «количественное» представление о том, какой сложности достигнет искусственный интеллект, относительно интеллекта человека, равносильно точному представлению о сложности интеллекта человека, каковое, в свою очередь, равносильно знанию не имеющего смысла алгоритма мышления.

Ограничение на точность оценки максимальной сложности создаваемого человеком ИИ можно выразить по-другому. Алгоритм мышления равносилен знанию всех возможных знаний, точному знанию всего, что только можно познать. Однако точное знание всего познаваемого — это и точное знание того, что познать нельзя, так как иначе не получится отделить одно от другого. Но нельзя познать то, что познать нельзя, следовательно то, что познать можно, тоже в точности познать нельзя.

В итоге точное «количественное» представление о том, какой сложности достигнет искусственный интеллект, относительно интеллекта человека, невозможно в любом случае, такое знание равносильно точному знанию всего, не имеющей смысла теории всего. 

В том числе вывод о пределах сложности искусственных нейронных сетей, создаваемых человеком, не может иметь экспериментального подтверждения. Потому что если он верен, то эксперимент отнимет вечность, ведь тогда ни на каком конечном промежутке времени искусственный интеллект не достигнет сложности интеллекта человека, а сам процесс приближения не имеет точного «количественного» предела.

В результате такой «неточности» вывод о пределах сложности искусственных систем может показаться недостаточно убедительным. Тем не менее даже если все указанные закономерности в точности существуют и всё сказанное верно, каким-либо более доказательным образом сформулировать их вряд ли возможно. 

Также, обратим внимание, приведённые в этой главе аргументы фактически говорят о том, что никакая система, создаваемая человеком, не может быть сложнее его собственного интеллекта, а не только искусственные нейронные сети. Другими словами, вывод о границах сложности искусственных нейронных сетей — это на самом деле вывод о границах сложности сразу всех мыслимых систем, в создании которых как-либо участвует интеллект человека. Потому что значение имеет только одно: чем полнее работу системы определяет написанный человеком алгоритм, тем ниже будет сложность этой системы относительно интеллекта человека. Искусственные нейронные сети в процессе создания и обучения содержат случайные параметры, то есть такие, выбор которых не задан каким-либо алгоритмом, но сами по себе, как процесс переработки «входа в выход», в том числе изменений в ходе обучения — это обычные алгоритмы, поэтому от сложности мозга они всегда будут далеки. 

Алгоритм — это пошаговая инструкция, описание действий исполнителя, необходимых для решения задачи, достижения цели. Усложнение детерминированных алгоритмов — которые полностью пишет человек — остановится задолго до их приближения к сложности интеллекта человека, так как их построение связано с точными знаниями человека, наиболее формализованным опытом, объём которого меньше и он проще той части опыта, формализация которого невозможна. Недерминированные алгоритмы, участие интеллекта человека в создании которых относительно меньше из-за наличия элементов случайного выбора, смогут поэтому приблизиться к сложности интеллекта человека ближе. Но и их усложнение тоже ограничено, так как взамен прямого ограничения точными знаниями, в недетерминированных алгоритмах возникает отбор, который хоть и подразумевает менее формальные критерии, тем не менее опять же ограничен сложностью нынешнего опыта человека.

Поэтому, например, ограничение сложности касается и искусственных биологических систем. К примеру, гипотетического искусственного интеллекта, собираемого непосредственно из биологических нейронов. В создании таких «живых искусственных» систем точно так же потребуется отбор и будет расти неопределённость, как и в создании «обычных» искусственных нейронных сетей. Другими словами, в создании таких систем тоже будет участвовать интеллект человека — посредством неких правил, принципов, идей, то есть неких алгоритмов действий создания и отбора «живых искусственных» систем — тем самым опять же ограничивая их сложность.
 
В том числе этот вывод касается биологических систем, создаваемых посредством генной инженерии. Возможность направленно вырастить искусственный интеллект равносильна написанию алгоритма мышления, а в любом другом случае это будет тот же случайный выбор, рост неопределённости и проблемы отбора. Подробное обоснование этого утверждения потребует рассмотрения принципов морфогенеза (развитие организма из одной клетки), что выходит за рамки статьи (кратко о принципах морфогенеза скажем в седьмой главе), но если говорить упрощённо, то морфогенез похож на работу клеточного автомата. Вспомним, в клеточном автомате задаются правила взаимодействия, появления и исчезновения клеток. После чего, запустив программу, можно наблюдать на экране компьютера эволюцию различных структур клеток — хаотических, упорядоченных, пульсирующих, сложных и простых. Заранее предсказать, какие структуры будут получаться, в общем случае невозможно, потому что, с одной стороны, нельзя мысленно проследить процесс, так как он слишком сложен, с другой — нигде нет плана возникающих структур клеток, который можно было бы найти и расшифровать, ведь заданы только правила взаимодействия клеток, а не будущие структуры клеток напрямую. В результате можно только более или менее наугад задать эти правила и проверить результат «экспериментально», запустив автомат. Точно так же нигде нет «плана» будущего организма, а есть только определённые «правила», зашифрованные в ДНК. Таким образом, генная инженерия точно так же во многом связана с угадыванием и последующим отбором, как и создание искусственных нейронных сетей или «сборка» нейронных сетей из биологических нейронов. 

Подведём итог главы.

Нет ответа на вопрос, какое максимальное количество нейронов может иметь искусственная нейронная сеть, так как нет никаких критериев для оценки. В то же время интуитивно кажется, что невозможно увеличивать сложность создаваемых систем бесконечно, где-то должен быть предел. Как выяснилось, он действительно есть. Этот предел — сложность интеллекта самого человека. Чем больше мы приближаем систему к сложности своего интеллекта, тем больше времени это отнимает. И задолго до итога стремящееся к бесконечности совокупное время реализации каждого нового усложнения сделает дальнейшие попытки лишёнными смысла.

Как кажется, для усложнения ИИ выше сложности интеллекта человека всё-таки остаётся ещё один путь — самостоятельная эволюция ИИ. Чтобы не человек задавал критерии отбора адекватных систем, ограничивая сложность ИИ сложностью своего опыта, а таким критерием стала вся природа во всей своей сложности, включающей и самого человека, и социум, как это было в случае эволюции самого человека. Однако сколько-нибудь значительная самостоятельная эволюция ИИ невозможна, поэтому и этот путь не позволит ИИ стать сложнее нас. Тем не менее краткость в данном случае явно не сестра таланта, поэтому седьмой главе рассмотрим ограничения на самостоятельную эволюцию ИИ подробнее.



3. Принципиальные аргументы второго уровня

В первой главе были приведены аргумент принципиального характера, из которых следовало, что алгоритм мышления не имеет смысла. В этой главе снова вернёмся к аргументам принципиального характера, но несколько менее абстрактного характера, в том числе с учётом уже понятого про мышление и нейронные сети.

Итак, в первой главе мы выяснили, что алгоритм мышления не имеет смысла. При этом написать алгоритм явления, его формулу — это «понять» явление, научиться предсказывать его течение в зависимости от начальных условий, или, другими словами, понять законы явления. Таким образом, так как алгоритм мышления не имеет смысла, все законы мышления установить нельзя.

Действительно, часть законов мышления, по сути, «растворена» в среде, взаимодействие с которой обучает нейронную сеть. Как следствие, написать алгоритм мышления равносильно изучению всей среды, которая только может повлиять на опыт. До этих пор, пока вся среда, которая только может повлиять на опыт, ещё не изучена, алгоритм мышления построить будет нельзя, мышление будет оставаться «малопонятным».

Однако, как мы тоже выяснили в первой главе, алгоритм мышления равносилен теории всего. Это значит, что «среда, которая только может повлиять на опыт» — это, получается, вся среда, то есть любая среда может повлиять на опыт. Но «вся среда» изучена быть не может, так как теория всего не имеет смысла.

Как кажется, всё то же можно сказать и про искусственные нейронные сети — часть их законов тоже растворена в среде, так как они тоже обучаются. На самом деле все «законы» искусственных нейронных сетей известны, потому что это алгоритм. Иными словами, вся среда, которая только может повлиять на опыт ИНС фактически уже ясна. В результате, хотя бы в принципиальном смысле, все вычисления искусственной нейронной сети, включая её изменение в ходе обучения, можно расписать ручкой на бумаге, пусть даже это и вряд ли возможно на практике. «Малопонятность» же искусственных нейронных сетей имеет не принципиальный характер и связана с тем, что эта запись будет попросту малоинформативной, так как, по сути, представляет из себя описание динамики сложной структуры, а не тот алгоритм, который придумал сам человек, точно понимая значение каждого шага для конечного результата.

Таким образом, разница между биологическими и искусственными нейронными сетями принципиальная, они работают на разных уровнях материи. Биологическая нейронная сеть, требуя для описания теории всего, в принципе не может быть сведена к алгоритму, так как подразумевает связь с элементарным уровнем материи.

Связь мышления с элементарным уровнем материи на более конкретном уровне объясняет описанную в предыдущей главе растущую неопределённость в работе систем по мере их приближения к сложности интеллекта человека. Почему по мере этого приближения неопределённость стремится к полной? Самый глубокий уровень материи является «полностью неопределённым», поэтому приближая ИИ к своей сложности, мы фактически пытаемся выразить в алгоритме то, что выразить в нём невозможно, описать то, для чего не может быть языка. Естественно, что это приближение будет становиться всё труднее, а суть трудностей в том, что верный путь будет растворяться в количестве возможных вариантов сетей, их обучения, растущей сложности технологий, сложности в привлечении энергии, ресурсов, в оценке адекватности систем, и в конечном итоге дальнейшее усложнение систем полностью потеряет смысл.

Например, на более или менее общем масштабе работа мозга понятна — понятна в целом архитектура связей, выявлены некоторые общие принципы обучения. Соответственно, всё это может быть воссоздано в искусственных нейронных сетях. Но по мере исследования мозга на масштабе всё более глубоком понятного будет становиться всё меньше, исследования будут становиться всё более трудными. Точно так же будет расти неопределённость по мере усложнения искусственных систем.

Связь с элементарным уровнем материи означает, что описать нельзя никакую биологическую нейронную сеть — ни человека, ни насекомого — точность такого описания всегда будет недостаточной для адекватных предсказаний её работы. Иначе говоря, если алгоритм мышления не имеет смысла, то можно спросить: алгоритм какого мышления, ведь мозг у всех разный?

Ответ — любого мышления, так как в общих чертах мозг у всех животных одинаковый — он строится из нервных клеток, похож архитектурно (даже мозг насекомых имеет схожее с мозгом человека строение отделов, за исключением коры мозга, которой у насекомых нет), и связь с элементарным уровнем материи тоже его общий параметр. Невозможным описание биологической нейронной сети делает сам принцип её работы, безотносительно к объёму опыта в ней. 

Например, наиболее изучен мозг нематоды — это червь размером в пару миллиметров. У него всего 302 нейрона (у муравья 250 тыс., у пчелы 960 тыс., у таракана 1 млн, у лягушки 16 млн, у кошки 760 млн, у ворона, собаки и свиньи более 2 млрд, у шимпанзе 28 млрд, у человека 86 млрд, у слона 257 млрд) и около 7000 связей между ними, коннектом его мозга не меняется в процессе жизни и полностью описан. Однако ни предсказывать поведение этого червя, ни построить адекватную модель его «мышления» это не позволяет.   

Чтобы было понятнее, рассмотрим сказанное ещё раз. С практической точки зрения невозможно создать систему приближающейся к себе сложности потому, что это равносильно выходу за свой опыт, то есть нужно вместить себя в себя, что в конечном итоге равносильно полной неопределённости в представлении о том, что нужно создавать. Как змея, пожирающая свой хвост, будет пожирать себя всё медленнее и в конечном итоге не сможет этого сделать, из-за того, что не сможет засунуть себя в себя полностью, так и познать самого себя тоже нельзя. Поэтому на практике сложность создаваемых систем будет ограничена сложностью собственного мышления.

Однако, как кажется, «за» опыт пчелы или кошки вполне можно выйти, можно посмотреть на их мышление «со стороны», то есть можно полностью включить их опыт в свой, поэтому систему равную и даже превосходящую сложность их интеллекта создать можно. Но на самом деле в том объёме, в котором работа их мозга связана с элементарным уровнем материи, он тоже непознаваем и невычислим. Разница с мозгом человека будет только в том, что к сложности интеллекта пчелы сложность создаваемых человеком систем сможет приблизиться ближе. Поэтому, можно обратить внимание, пока никакие искусственные системы не превзошли пчелу в сложности даже только одного полёта, ловкости маневрирования, не говоря уже о сложности поведения в целом.

Например, чтобы не только достигнуть сложности мозга, но и качественно её превзойти, система должна работать на ещё более глубоком уровне материи, чем тот, на котором происходит мышление, то есть она должна работать «на иных физических принципах», качественно более сложных. Но связь работы мозга с элементарным уровнем материи говорит о том, что система качественно сложнее уже невозможна — нет уровня материи глубже, чем тот, с которым связано мышление. Наоборот, чтобы превзойти сложность мозга только лишь «количественно», достаточно тех же физических принципов. Например, мозг человека только «количественно» сложнее мозга обезьяны или насекомого, исходя из того, что по принципу работы — это одни и те же системы.

Однако принципиальная возможность описания работы вычислительных систем — и наоборот, принципиальная невозможность описания мышления — говорит о том, что уровень материи, на котором оперируют вычислительные системы — это уровень материи менее глубокий, чем уровень мышления. Именно поэтому физические принципы работы вычислительных систем нам понятны (например принцип Ландауэра), а значит, в отличие от принципиально непознаваемых физических принципов работы мозга, связанных с элементарным уровнем материи, это принципы более простые, уровня сложности мозга с их помощью не достичь.

Можно провести такую аналогию. Если древнему человеку показать компьютер, то сколько-нибудь адекватно описать его он не сможет, хотя бы потому, что в его языке ещё нет тех понятий, которые бы позволили это сделать. Но элементарный уровень материи — это тот уровень, для которого адекватных понятий не может существовать вообще, знание законов этого уровня не имеет смысла. Однако нельзя создать вычислительную систему, которая работает неизвестно как. Такую систему нельзя угадать, так как оценка количества вариантов таких систем не имеет смысла, это даже не бесконечность, таких вариантов «ещё больше», потому что их нет и не может быть ни в каком представимом виде.

Наоборот, работу всех вычислительных систем описать можно, принципы их функционирования понятны, а значит, принципиальную «непонятность» мышления в них уже не выразить — сколько бы ни было элементов в «понятной» системе, она от этого не перейдёт в разряд принципиально непонятных. Вычислительные системы в принципе не могут достичь сложности мышления, «качество сложности» мышления «количеством простоты» какого-либо алгоритма выразить невозможно.

Итак, описать биологическую нейронную сеть нельзя, мышление происходит слишком глубоко, поэтому выразить сложность мышления в какой-либо вычислительной системе, в том числе искусственной нейронной сети, невозможно. Можно попробовать собрать «живую искусственную» нейронную сеть из биологических нейронов, но из-за роста неопределённости, описанного во второй главе, и этот способ тоже превзойти интеллект человека не поможет.

В завершение главы приведём ещё некоторые аргументы, касающиеся принципиальной разницы искусственного и естественного интеллекта, а также помечтаем и наконец дадим ответ на парадокс из первой главы.

Можно заметить, что, как и мозг человека, искусственные нейронные сети умеют делать индуктивные выводы — от частного к общему, то есть находить зависимости в отдельных данных и обобщать их в «целое» — в некоторый вывод, отсутствующий при обучении. Например, узнать объект и отнести его к соответствующему классу, построить фразу, прогноз или стратегию. Однако именно индукцию, как способность создавать новое, часто рассматривают как важнейшее свойство разума, так как на выводы дедуктивные — от общего к частному, то есть вычисления по уже готовым формулам — «способны» и обычные компьютеры. В целом же проявлением способности искусственных нейронных сетей к индукции и дедукции является умение строить алгоритмы решения задач, на что способны рекуррентные нейронные сети (с обратными связями), то есть умение выделять цели и формировать действия по их достижению — чем собственно и занимается мозг любого животного. 

Таким образом, если не заглядывать глубоко, то можно подумать, что в целом искусственные нейронные сети уже умеют всё, что умеет интеллект человека. Исходя только из этого факта, можно предположить, что в принципиальном смысле развитие способностей искусственных сетей вполне укладывается в русло количественного усложнения вплоть до способностей любой сложности, в том числе и выше уровня человека.

На самом деле даже «внешне» похожего между интеллектом естественным и искусственным практически ничего нет, похожи они только абстрактно, в некоторой максимально упрощённой и поверхностной «схеме» работы.

Биологическая нейронная сеть — это неравновесный упорядоченный континуум (объём) веществ и химических реакций, то есть это именно сама биологическая сеть нейронов и окружающие нейроны ткани мозга (которые, как говорилось, тоже участвуют в мышлении). Она работает как целое, сразу вся, мыслит весь континуум биологической нейронной сети. Вероятно, поэтому и сознание тоже упорядоченно и континуально, представляя из себя объём образов и эмоций. Причём, этот континуум неравновесный (почему это важно, узнаем в седьмой главе).

Тогда как сеть искусственная — это или программа (то есть последовательный процесс переработки данных, а не какой-либо континуум, тем более неравновесный), имитирующая работу сети нейронов. Или это аппаратная реализация (например, развивающаяся последнее время технология нейроморфных процессоров, чипов, где используются импульсные нейроны, упрощённо повторяющие некоторые особенности спайковой электрической активности биологических нейронов), которая тоже не неравновесный и не континуум. В отличие от мозга, в ней как минимум есть планировщик заданий, отдельная память, маршрутизатор и так далее.

Более того, наблюдаемое устройство мозга в виде сети нейронов — это только лишь сложная «нейросетевая» организация на самом деле много более сложной системы. Но только эту «нейросетевую организацию» на том или ином уровне схематичности и упрощения воспроизводят искусственные нейронные сети. Настоящая же сложность мозга скрыта не в количестве нейронов и их связей, а в физических особенностях функционирования биологической нейронной сети — в чувствительности и пластичности, способности качественно перестраивать свою работу под влиянием самых ничтожных изменений своих параметров. Иными словами, невозможность алгоритма мышления указывает не на количество нейронов, наличие обучение или вообще что-то нейросетевое, а именно на связь физических принципов работы биологической нейронной сети с элементарным уровнем материи — только в этом случае алгоритм явления будет равен теории всего, вне зависимости от его остальных особенностей.

Но, предположим, всё это на возможности искусственных систем не повлияет. Предположим, что и сознанию столь качественное отличие между программой и мозгом тоже оказалось не помеха, и в итоге полноценно выразить естественный интеллект искусственной нейронной сетью всё-таки можно. Что это означает, если помечтать?

Конечно, это принципиальная возможность появления СИИ. Но вариантов развития событий после его появления слишком много, поэтому лучше скажем о другой возможности. Если мышление можно свести к алгоритму, то хотя бы в принципиальном смысле можно будет копировать мышление конкретного человека.

Тогда, например, можно будет не только перенести себя в компьютер, перенося себя в новый в случае его поломок, но и разделиться сразу на множество компьютеров, в каждом из которых проживать вариант своей жизни. В том числе перенося себя из реального мира в мир виртуальный, потому что если мы смогли во всей сложности смоделировать своё мышление, то и смоделировать сигналы рецепторов труда явно не составит. Причём, вероятно, можно будет ускорять мышление таких «цифровых субъектов» по сравнению с мышлением естественным. Более того, виртуальный мир можно сделать каким угодно, тем самым можно проживать какие угодно жизни, причём проживать их быстро.

Правда, возникает вопрос, где же будет настоящий Я? Впрочем, фантасмагоричность нарисованной картины, очевидно, делает не только любой ответ, но и сам вопрос,  бессмысленным. 

Поэтому вместо ответа вернёмся к парадоксу из первой главы и дадим на него обещанный ответ.

Напомним, суть парадокса в том, что возможность предсказывать поведение человека ведёт к противоречиям. Потому что если предсказание человеку сообщить, то, как кажется, ему ничего не помешает своё поведение изменить и поступить не так, как предсказано. В результате, получается, что предсказание может сработать, только если его не сообщать. Однако возможность изменить поведение противоречит тому, что если работа какой-либо системы известна, то ничего не должно помешать предсказывать её поведение во всех ситуациях.

Можно предположить, что дело в обучении. Мы сообщаем человеку рассчитанное будущее, на этой информации нейронная сеть мозга обучается, её работа меняется, и человек ожидаемо поступает иначе, чем было предсказано. И наоборот, если мы предсказание сообщать не станем, то оно действительно должно быть точным.

Тем не менее это разрешение противоречия только кажущееся. Потому что если биологическая нейронная сеть может быть описана, то есть работу биологической нейронной сети хотя бы в принципиальном смысле может воспроизвести искусственная нейронная сеть, то ничего принципиально непредсказуемого в работе мозга не осталось бы. Подставляя сигналы рецепторов, можно было бы моделировать поведение субъекта в любых ситуациях. В том числе с учётом изменения мозга в процессе обучения, так как изменение веса связи нейрона, в зависимости от его активности, это тоже алгоритм (функция активации). Ничего загадочного, невычислимого, в искусственных нейронных сетях нет, любой этап их работы может быть описан. Поэтому, если бы работу биологической нейронной сети можно было бы описать, то, по крайней мере в принципиальном смысле, стало бы возможным предсказывать поведение во всех ситуациях, независимо от знания или незнания предсказания самим  человеком.

Поэтому на самом деле противоречие с предсказанием разрешается «в другую сторону». Точно предсказывать поведение, наоборот, нельзя ни в каких ситуациях, а не только в зависимости от того, узнает предсказание субъект или нет. Если мышление принципиально «не алгоритм», то вычислить поведение нельзя, поэтому если в общем наше поведение упорядочено и направлено на самосохранение, то чем более частный уровень реакций мы рассматриваем, тем больше предсказания будут похожи на угадывание. Действительно высокая неопределённость предсказаний в случае человека и подобных ему физических систем в принципе неустранима, предсказания возможны или только в общем, или на очень короткий срок.


4. Наглядные аргументы

Приведённые в предыдущих главах аргументы о качественном отличии вычислительных систем от биологической нейронной сети могут показаться слишком абстрактными, и потому не слишком убедительными. Поэтому в нынешней главе проверим сделанные выводы с точки зрения аргументов более наглядных, связанных с сознанием.

В частности, ответим на следующие вопросы. Если мышление связано с элементарным уровнем материи (а именно это, как мы выяснили, является принципиальным основанием его невычислимости), то можно ли эту связь как-нибудь непосредственно «увидеть»? Убедиться в её наличии более наглядно? Заметим, что непосредственно наблюдать непознаваемое — это действо явно должно быть необычным. Тем не менее, как это часто бывает, необычное рядом, и это необычное — наше сознание, квалиа.

Вначале рассмотрим следующий аргумент, связанный с сознанием. Наверное, пока ещё не слишком наглядный и логически достаточно сложный.

Искусственную нейронную сеть можно реализовать программно или аппаратно, а сеть с обратными связями можно заменить сетью только с прямыми (хотя это может быть не оптимально, так как разные функции проще реализовать в соответствующей архитектуре). Поэтому если можно создать искусственную нейронную сеть, не менее сложную, чем мозг человека, то в принципиальном смысле работу такой вычислительной системы тоже можно будет организовать по-разному при том, что результат вычислений будет одинаковым. Однако несложно заметить, что в этом случае не остаётся места сознанию.

Например, если предположить, что сознание есть во всех вычислительных системах, которые выполняют одну и ту же функцию, и оно во всех системах одинаковое, то сознание, следовательно, зависит только от функции, которую выполняет система, ведь организация у всех этих систем разная. Но это значит, что сознание не материя, то есть его нет, так как функция — это не материя. Если предположить, что у разных систем, выполняющих одну и ту же функцию, сознание разное, отражая их разную организацию, или есть только в системах какой-либо определённой организации, то сознание, следовательно, никак не зависит от функции — ведь функция у всех систем одна и та же. Но это опять означает, что сознания не существует, так как тогда получается, что сознание зависит только от организации системы, но организация, схема — это тоже не материя. Сознание не может вдруг появляться из ниоткуда, в зависимости от того, как мы располагаем детали системы. В итоге сознание превращается в нечто противоречивое, ему нигде нет места, оно не может существовать. Однако очевидно, что сознание есть и оно связано с работой мозга. 

Этот аргумент говорит о том, что сознание может быть только в невычислимых системах, то есть таких, описать работу которых сколько-нибудь точно в принципе невозможно, так как только в этом случае функцию и организацию системы принципиально невозможно сколько-нибудь точно отделить от материи системы.

Всё это относится к мозгу. Мы не можем точно установить функцию, так как это равносильно написанию алгоритма мышления, и не можем выделить принципиальную схему работы мозга, так как это тоже равносильно написанию алгоритма мышления. Как следствие, в мозге всегда остаётся что-то непонятное, а значит, неясной остаётся и функция, и организация. Этот вывод не делает сознание понятным, однако сознание перестаёт быть противоречивой сущностью, которой нигде нет места, и становится следствием высочайшей сложности мозга, выраженной в прямой связи его работы с непознаваемым уровнем материи, каковым, вспомним, является только её элементарный уровень. Таким образом, выводы предыдущей главы подтверждаются.

Приведём более простой аргумент.

Предположим, что сложность биологического нейрона каким-то образом всё-таки удалось воспроизвести в нейроне искусственном или искусственная нейронная сеть равная сложности биологической создана из более простых нейронов по принципу замены качества количеством. Если это получилось, то любой мыслительный процесс автоматически становится вычислительным — а следовательно, его можно будет выразить в некоторой записи на некотором формальном языке. Посмотрим, не возникнет ли из-за этого каких-либо «наглядных» противоречий.

Если хотя бы в принципиальном смысле процесс мышления можно выразить в записи на некотором языке, то элементом этой записи должно стать сознание, так как сознание, очевидно, неотделимо от мышления, являясь, как мы выяснили в первой главе, некоторым «внутренним» проявлением мыслительного процесса, мышлением «изнутри» самого мозга. Однако в той же первой главе мы пришли к выводу, что такой элемент сознания, как смысл, формализован быть не может. Но если мы можем создать искусственную нейронную сеть равную сложности мозга и тем самым получим возможность воспроизвести любой мыслительный процесс, то в нём, очевидно, должны быть и все элементы сознания, включая смысл.

О том, что в описании смысла могут возникнуть проблемы, нам говорит ещё один из аргументов первой главы. Если можно проследить связь своих утверждений со средой, то они ничем не будут отличаться от среды. Но среда такая, какая есть, она не может быть ни истинной, ни ложной. Таким образом, возможность проследить связь своих утверждений со средой приведёт к тому, что любые утверждения потеряют смысл — они сами станут просто средой — атомами, молекулами, утратив тем самым свою истинность или ложность. В то же время, очевидно, что утверждения уже имеют смысл, поэтому они не могут его вдруг потерять — если мы узнаем, как они возникают. Получится противоречие: что смысл и есть и нет одновременно.

И наконец действительно наглядный аргумент.

Сознание — то, как оно нами воспринимается, — это многомодальный континуум. С континуумом понятно — сознание представляет из себя некий сплошной «объём», или пространство, субъективных переживаний. В свою очередь, модальности сознания — это разные составляющие этого континуума от наиболее общего самоощущения до конкретных образов и их оттенков — оттенков эмоций, цветовой палитры, звуков, запахов, боли и так далее.

Однако проблема в том, что эти оттенки нельзя выразить словами какого-либо языка — их можно только обозначить.

Невыразимость словами какого-либо языка любой модальности сознания, легко становится понятной, достаточно представить ситуацию, когда требуется объяснить красноту красного цвета, вкус апельсина или звук рояля тому, кто никогда не видел ничего красного, не ел апельсинов или не слышал рояля. Объяснить будет в принципе невозможно, выразить этот опыт словами не удастся. С тем же успехом можно попытаться объяснить своё эмоциональное состояние.

Однако если мышление можно выразить в каком-либо вычислительном процессе, то, как уже говорилось, ход вычислений можно будет записать — совершенно обычно, в виде неких слов, формул, схем и графиков ручкой на бумаге. И тогда краснота красного цвета, вкус апельсина, звук рояля или удивление должны возникать прямо в этой записи. Очевидно, противоречивость этого требования уже действительно наглядная.

Такие элементы сознания называются квалиа (от лат. qualitas — свойства, качества), они отражают качества субъективного мира и по большому счёту сознание целиком состоит из них (поэтому далее в тексте квалиа и сознание разделять не будем). Это печаль, радость, энтузиазм, цвета радуги, свет и темнота, ощущение тепла и холода, звук, запах, боль, вкус и так далее — все ощущения и эмоции и их оттенки, все сенсорные и чувственные явления, включая самоощущение — наше Я. Невыразимость квалиа языком означает, что квалиа могут быть только самими собою, их нельзя передать, «сжать» до некого алгоритма, модели, сути, в них нет важного и неважного, что можно выделить, абстрагировать, сократить или оставить. На основании общности опыта мы можем только их обозначить, описать их отношения и трансформацию — образы, которые они формируют, или динамику изменений, но не то, что их «наполняет». Образно говоря, элементы опыта, которые можно формализовать, это «гребень волны» невычислимого «океана» мышления, из воды которого состоит и сама волна, и её гребень.

В свою очередь, невозможность выразить сознание каким-либо языком означает, что сознание как физическое явление непосредственно связано с таким уровнем материи, который в принципе не может быть как-либо описан, в том числе формулами какой-либо мыслимой теории, то есть, другими словами, этот уровень материи не может быть познан. Уровень материи, на котором «находится» сознание, в принципе не может быть выделен из среды как какое-либо «обычное» явление природы и описан.

Принципиально непознаваемым уровнем материи является только её элементарный уровень, так как только представление об этом уровне равно построению бессмысленной теории всего. Таким образом, нынешние выводы полностью совпадают с выводами, сделанными ранее, о связи мышления с элементарным уровнем материи.

Например, из непознаваемости сознания следует, что отделить от среды структуру биологической нейронной сети (чтобы понять, как она меняется в ответ на воздействия среды и затем перенести понятое в искусственную нейронную сеть), невозможно. Нахождение таких границ будет равносильно познанию непознаваемого. Поэтому мышление является источником языков, но само мышление не язык, так как оно непосредственно связано с принципиально невыразимыми каким-либо языком уровнем материи. И наглядно «наблюдать» этот уровень материи можно прямо в своём сознании.

Рассмотрим ещё один наглядный аргумент.

Теория упругости, формулы этой теории — это алгоритм, написанный на математическом языке, который позволяет вычислять поведение упругих твёрдых тел при статических и динамических нагрузках. Но что такое сама упругость упругости? Непосредственно само сопротивление деформации, которое мы ощущаем, когда сжимаем пружину? Это же не что-нибудь выдуманное? А если так, то и упругость упругости тоже может быть описана в некой теории?

Или не может?

Да, верно, это риторический вопрос. Правильный ответ — нет, не может. Алгоритм — это язык, инструкция, которая говорит нам, что сделать, чтобы решить задачу, в данном случае предсказать поведение упругих тел в зависимости от начальных условий. Но в случае упругости самой по себе предсказывать нечего, упругость упругости — это не динамика чего-то, каковую можно вычислить, используя некоторый алгоритм, а само это «что-то». Другими словами, упругость упругости — это не «явление природы», а сама природа непосредственно, материя как она есть на самом деле. Точно так же, как краснота красного, твёрдость твёрдости или радостность радости. Поэтому вполне естественно, что сколько бы слов ни написать, ни твёрдость, ни радость в записи не возникнет.

В свою очередь, «природа непосредственно», «материя как она есть на самом деле» — это элементарный уровень материи, а «явления природы», которые мы описываем в теориях, которые позволяют течения этих явлений предсказывать, — это феноменологические (наблюдаемые как феномен, без понимания внутренних оснований наблюдаемого) проявления элементарного уровня материи.

Любая формула выражает отношения того, что находится за рамками этой формулы, иначе она станет вещью в себе, бессмысленной. И элементарный уровень материи — это то, что должно всегда оставаться за рамками любых формул, чтобы теория не стала самореферентной, когда слова следуют только из слов, и тем самым полностью утратила какой-либо смысл. Поэтому сознание, как материя на элементарном уровне, в принципе недоступно никакому описанию, «материя как она есть на самом деле» может быть только самой собой.

Рассмотрим сказанное в приведённых выше аргументах подробнее.

Если всё сказанное верно, то работа биологических нейронов и в целом биологических нейронных сетей действительно должна качественно, то есть в некой «высшей степени» отличаться от всех мыслимых инструкций, формул, языков и алгоритмов, в том числе тех, которыми можно описать работу искусственной нейронной сети.

Как кажется, очевидный претендент на такую роль — континуум, понимая этот объект как нечто непрерывное, сплошное, само по себе невычислимое, разделение которого на любое число шагов и элементов будет неадекватно его реальным свойствам. А то, что такой объект, в котором элементов будет больше, чем счётная бесконечность натуральных чисел, возможен, доказывает диагональный аргумент Кантора. И действительно, именно многомодальным континуумом и воспринимается сознание.

Однако континуум может быть формализован — он превратится в несчётное множество. В отличие от множества счётного, выражением которого является множество всех натуральных чисел, континуум — это множество всех вещественных чисел, количество которых несчётно (термины «вещественное число» и «действительное число» равнозначны).  К примеру, если натуральные числа можно последовательно называть — «считать» — 1, 2, 3… и так далее, пусть даже ни за какой конечный промежуток времени не получится назвать их все, то вещественные числа не получится даже считать, так как первое же число после нуля будет бесконечно малым — 0,000...01, и ни за какой конечный промежуток времени его не получится даже назвать.

Тем не менее формализация континуума означает, что он более или менее понятен, его можно описать, объяснить — в той степени, как может быть понятно, что такое бесконечность, которая в вещественных числах проявляет себя более явно. Но он невычислим — в том же смысле, как невозможно выразить несчётность «счётными» вычислительными методами. Поэтому если мышление — это континуум, то оно уже невычислимо. Однако по крайней мере к нему можно бесконечно приближаться, точно так же, как можно бесконечно увеличивать количество граней вписанного многоугольника, пытаясь точно воспроизвести окружность.

Но на самом деле невычислимостью континуума сложность работы мозга не ограничивается. Потому что в случае сознания мы имеем дело с континуумом особенным, качественно иного рода, из-за чего даже само название «континуум» в его отношении можно использовать только за неимением лучшего. Сознание — это «несчётное множество» качественно более мощное, чем какое-либо известное, элементов в котором может быть только больше или меньше, потому что сознание имеет уже полностью невыразимое никаким языком «расширение» в модальность.

К примеру, предположим, сознание — это некое «пространство». Сможем ли мы сопоставить каждой его точке свойство иметь некоторый оттенок красного цвета? Нет, не сможем. Предположим, мы попробуем каждому оттенку красного назначить число — номер, связанный с неким оттенком красного цвета. Но как в числе увидеть цвет? Понадобится образец цвета — на каждый мыслимый оттенок. Однако разделение цвета на оттенки будет во многом субъективным, зависеть от особенностей личного восприятия, как следствие, неоднозначным. Но язык математики строгий, однозначный. А как разделить шкалу от радости до грусти? От «всепоглощающего энтузиазма» до «глубокой апатии»? Что будет образцом? Ещё более непонятно, как быть с самоощущением. У него есть оттенки? Невозможность договориться как раз следствие того, что модальности сознания нельзя формализовать, выразить языком.

В итоге, действительно, между всеми искусственными системами, включая искусственные нейронные сети, и мышлением, есть принципиальные отличия в сложности. Пластичность нейронов, количество степеней его свободы, имея связь с непознаваемым уровнем материи, не просто включает в себя нечто вроде континуума, который нельзя выразить вычислительными средствами, но можно бесконечно приближаться, а нечто такое, что в принципе непонятно, поэтому не к чему даже и приближаться.

Теперь сформулируем приведённые выше аргументы немного иначе.

Чтобы понять явление, необходимо мысленно отделить существенное от не существенного и предположить модель явления, которую затем проверить на соответствие известным фактам и точность предсказаний. Другими словами, любое явление в нашем представлении — это некоторый абстрактный образ той или иной степени сложности, что и есть «модель». «Не моделью» представление о явлении быть не может. «Не модель» — это само явление непосредственно, но само исследуемое явление не может возникнуть в мозге в качестве опыта. Например, представление о стуле — это не сам стул, и стулом оно никогда не станет, реальность и модель — это качественно разные объекты.

Моделью не может быть только одно явление — элементарный уровень материи. Аргументируем это утверждение.

Чем глубже материю мы описываем, тем точнее становится наше представление о природе, и в той же степени растёт предсказательная сила теорий, предсказания теорий становятся всё точнее. Например, квантовая механика очень точна. И в предельном случае описания материи на элементарном уровне все предсказания и представления станут абсолютно точными. Что равносильно появлению в нашей голове самих описываемых явлений непосредственно. Но «само описываемое явление» — это не знание о явлении.

Таким образом, модель элементарного уровня материи не имеет смысла, элементарный уровень материи может быть только самим собой. Другими словами, он непредставим, так как все наши представления о чем-либо реальном — это модели. Сказанное также подтверждает сделанный ранее вывод, что «элементарный уровень материи» и «реальность как она есть на самом деле» — это одно и то же.

В свою очередь, математические объекты — это следствие идеализации, то есть глубокого абстрагирования, описанного выше процесса отделения существенного от не существенного. Другими словами, это тоже модели, только очень общие, далёкие от каких-либо конкретных объектов реального мира.

Это относится и к таким математическим объектам, как числа или континуум, множество счётное и несчётное.

Счётное множество можно представить идеализированной моделью бесконечного набора предметов, поэтому счётное множество эквивалентно множеству всех натуральных чисел, то есть натуральное число — это идеализированная модель количества неких объектов.

Несчётное множество можно представить двумя способами.

Первый — это количество объектов большее, чем есть натуральных чисел. Интуитивно кажется, это невозможно. Но, во-первых, так и должно казаться, ведь чем меньше финитизма, тем больше контринтуитивности, и такая динамика закономерна. Познание — это движение к теории всего, для этой теории нужен самый богатый язык, но, учитывая, что ни сама теория всего, ни самый богатый язык не имеют смысла, то познание и должно порождать всё более и более странные, контринтуитивные объекты и формальные языки, которые способны их выразить. Во-вторых, если посмотреть на способ построения несчётного множества, то «количество объектов большее, чем есть натуральных чисел» уже не выглядит таким уж невозможным.

Несчётное множество — это количество всех возможных перестановок натуральных чисел (множество всех подмножеств натуральных чисел). Поэтому вначале нам надо представить существование бесконечности неких объектов, а потом ещё и бесконечность бесконечности всех их мысленных перестановок. Очевидно, столь высокая умозрительность делает невозможное возможным, хотя бы по принципу гулять так гулять. И наконец тому, что могут быть «количества», большие, чем количество натуральных чисел, есть строгое доказательство — диагональный аргумент Кантора. 

Более того, несчётное множество, естественно, тоже будет иметь своё множество подмножеств, и это множество будет «ещё бесконечнее», его мощность будет выше. Мощность множеств характеризуют кардинальные числа — ; («алеф» — образовано от первой буквы еврейского алфавита) с нижним индексом.

Второй способ представить несчётное множество более наглядный: нужно представить что-то сплошное — линию, поверхность, объём, то есть, собственно, что и есть «континуум». Континуум — это другое название множества вещественных чисел. Мощность континуума обозначается — ;1 («алеф-один»). Оно настолько велико, что своё вещественное число найдётся для каждой точки числовой прямой, сколь угодно большой площади или для каждой точки сколь угодно большого и даже сколь угодно многомерного объёма. Тем не менее, см. абзац выше, континуум — это всего лишь самое маленькое несчётное множество, оно (согласно континуум-гипотезе) идёт сразу после счётного множества всех натуральных чисел, которое имеет мощность ;0.

Однако в нашем восприятии любой объект имеет модальность — например цвет. До сих пор «модель цвета» нам была не нужна. Но для понимания мышления модель цвета необходима, потому что если всё сознаваемое — это суть некоторый мыслительный процесс, то, не описав сознание, нельзя будет описать и мышление. Таким образом, теория мышления должна оперировать моделью цвета.

Но может быть, сознание не равно мышлению? Тогда, например, аргументы в отношении сознания не являются аргументами в отношении мышления. Мы уже отвечали на этот вопрос в первой главе, сейчас сформулируем ответ немного иначе — через теорию всего.

Если сознание сложнее мышления, то окажется, что что-то из мыслимого не связано с самим процессом мышления, то есть существует само по себе. А если сознание проще мышления, то, описав сознание, мы сможем выводить всё мыслимое, что равносильно построению теории всего, а за рамками этой теории ничего не может быть, в том числе, естественно, и мышления. В итоге сознание не может быть сложнее мышления, и сознание не может быть проще мышления, то есть сознание и есть сам процесс мышления.

Обратим внимание на ещё одно обстоятельство.

Чтобы понять явление, требуется посмотреть на него «со стороны» — со стороны своего опыта, для чего нужно «вместить» модель явления в свой опыт. Который, очевидно, должен быть много сложнее представляемой модели, иначе он просто не сможет вместить её всю. Например, модель не только не может быть сложнее мозга, но и вообще не может представлять из себя какую-либо значительную часть его сложности, так как в ином случае вдруг окажется, что мы забыли, как управлять автомобилем, зажечь на кухне газ, как дышать или географию, потому что слишком много мозга будет заполнено этой моделью. В реальности так переполнить память, конечно, невозможно, это потребует столь объёмных изменений мозга в ходе обучения, что они выходят за рамки возможного.

На математическом языке о необходимости посмотреть со стороны чего-то более сложного говорят теоремы Гёделя, согласно которым доказать непротиворечивость формальной системы можно только в системе с более богатым языком. Поэтому если мы смогли что-то оценить, понять, представить, то это уже само по себе означает, что наш опыт много сложнее понятого — и не просто сложнее, а суть «более богатый язык», если выражаться математически.

Тогда что такое мышление? «Со стороны» чего мы наблюдаем модели? По-видимому, со стороны явления такой сложности, на которое со стороны посмотреть уже нельзя, которое исследованию и пониманию недоступно уже полностью — и выражением этой сложности является сознание, реальные свойства которого никакой мыслимый язык в принципе описать не в состоянии. Действительно, невозможно выйти за рамки своего сознания, солипсизм неопровержим. Наше мышление для нас — это «всё», но невозможно посмотреть со стороны на «всё».

Таким образом, рассматривая биологическую нейронную сеть «поверхностно», исследуя её «снаружи», описывая опыт как число возможных состояний, мы как будто наблюдаем просто сложную структуру из множества нейронов, способную меняться — и эти изменения, вероятно, могут носить характер некого континуума. Но «наблюдая» в этой структуре собственное сознание и замечая, что любой воспринимаемый нами объект — это невыразимые никаким языком ощущения и эмоции, сложность биологической нейронной сети предстаёт в совершенно ином свете.

В итоге пластичность биологических нейронов, их способность взаимодействовать со средой, по-видимому, носит качественно более сложный характер, чем те же способности любой искусственной системы. Представленные аргументы говорят не просто о многочисленности возможных состояний нейронной сети, каждое из которых может быть описано и проблема только в том, что их очень много, а о неприменимости какого-либо описания ни к одному из этих состояний, неразложимость мышления на некие формализованные элементы и шаги вычислительного процесса. Мышление нельзя описать каким-либо языком не только «количественно», но и «качественно». Поэтому мышление в принципе не может быть выражено каким-либо алгоритмом сколько-нибудь близко к сложности оригинала, в том числе как вычисление искусственной нейронной сети или любой другой искусственной системы.

В скобках обратим внимание на следующее. Означают ли сделанные выводы, что, когда сознания нет, работу мозга описать можно? Ответ потребует рассмотрения архитектурных и физических особенностей работы мозга и вкратце состоит в том, что описать работу мозга нельзя, независимо от того, находится субъект в сознании или нет. Сознание, как «сознавание себя», связано со сложностью ритмической картины, в частности, с гамма-ритмом, который отвечает за внимание. Без внимания, то есть без восприятия более или менее конкретных образов, «сознавания себя» быть не может (можно попробовать представить себя без внимания — ничего не выйдет, «себя» в этом случае нет). Подробнее об этом написано в статье «Жизнь как самоорганизация», ссылка на которую есть в главе «Дополнительно». Однако отсутствие гамма-ритма во время фазы глубокого сна никак принципиально работу мозга не меняет. Ритмическая картина становится проще, но сама по себе несводимость мышления к алгоритму связана с принципом функционирования мозга как физической системы, то есть с самоорганизацией активности нейронов в ту или иную ритмическую картину вообще, а не с её частными элементами.

Итак, мы выяснили, что естественный интеллект обладает принципиальным преимуществом в сложности перед любыми искусственными системами, в том числе обучающимися. Алгоритмов, которыми можно описать мышление, не просто много, алгоритм не может выразить процесс мышления в принципе. Любой мыслимый язык человека является качественно менее богатым, чем тот, который способен описать работу мозга. Мышление в принципе невозможно «перенести в компьютер» — в искусственную нейронную сеть, её программное или аппаратное воплощение — потому что отличие между биологическими и искусственными нейронными сетями качественное.

В заключение главы скажем о сложности мозга. Можно ли эту сложность оценить? Действительно, принципиально высокая неопределённость в работе мозга не означает, что в мозге непонятно вообще всё. Однако каждый понятный элемент, как матрёшка, только лишь открывает новый уровень непонятного.

Поэтому сложность мозга можно оценить только относительную. Например, мозг человека, очевидно, сложнее любого своего нейрона или сложнее мозга пчелы. Однако вследствие принципиальной невозможности сколько-нибудь точного описания биологических систем, мы можем оценить разницу в сложности только лишь «качественно», а не «количественно», то есть только по неким более или менее общим соображениям, а не точно. А в попытке дать описание, соответствующее их реальной сложности, получается, что и нейрон, и мозг пчелы, и мозг человека имеют одну и ту же бесконечную сложность.

Точно так же любая система, сколь бы сложной и непознаваемой для нас она ни была, тем не менее имеет какое-то определённое устройство, а значит, имеет специализацию, область применения, за пределами которой превзойти её сможет и система несравнимо более простая. Это относится и к мозгу человека. Поэтому даже если мы не можем создать ничего сложнее себя, то, выделяя в своём опыте отдельные задачи, мы можем строить системы, которые, оставаясь много проще нас самих, в решении этих отдельных задач будут нас превосходить.

Например, мы не сможем создать вычислительную систему сложнее интеллекта пчелы, так как биологические системы качественно сложнее вычислительных. Но мы сможем создать вычислительную систему, которая считает намного лучше пчелы или умеет делать то, что не умеет пчела — к примеру, управлять автомобилем.

Однако когда дело касается нас самих, то дело обстоит принципиально иначе. Потому что у создаваемого нами искусственного интеллекта не может быть таких задач и умений, которых у нас нет. Ориентир для создания искусственного интеллекта у нас в принципе может быть только один — мы сами, наш опыт, наши потребности и способности, так как мы не можем ориентироваться на то, что никак не представляем. Всё, что выходит за рамки нашего опыта, не может быть нам понятно, и потому не будет нами развиваться в работе систем в ходе их отбора.

Причём важно подчеркнуть, что этот ориентир — это нынешние знания о себе и мире, о работе мозга, эволюции или о нюансах необходимых в обществе норм поведения, ведь на знания, которых ещё нет, ориентироваться не получится. Но нынешние знания не равны реальной сложности тех явлений, которые они описывают.

Как следствие, максимальная сложность создаваемого человеком искусственного интеллекта будет ограничена некоторым уровнем от сложности нынешнего опыта человека, именно к этому уровню будет бесконечно приближаться сложность вычислительных систем, так как только этот опыт человек может использовать для создания, обучения и отбора систем. Потому что если не сама работа создаваемой системы, то минимум результаты этой работы должны быть понятны человеку, находиться «внутри» его нынешнего опыта, чтобы он мог эти результаты оценить и принять решение об адекватности системы, продолжать разработку систем в этом направлении или прекратить.

К примеру, мы не сможем обучить систему игре, если не будем знать правила этой игры и того, что является в ней выигрышем. То же с любыми другими функциями — их сложность будет всегда ограничена представлением человека о этих функциях.

В том же смысле гипотетические представители внеземных цивилизаций, обладающие более высоким интеллектом, то есть способные к более высоким уровням абстракций и соответствующей сложности тактике и стратегии поведения, вероятно, могут построить вычислительную систему, функции которой мы сможем понять столь же ограниченно, как ограниченно человекообразная обезьяна способна понять функции смартфона. Но это не значит, что вычислительная система инопланетян будет сложнее нашего мозга или что смартфон сложнее мозга обезьяны. Поэтому если эти инопланетяне захотят воссоздать в своей вычислительной системе всю сложность мышления человека, то они тоже потерпят неудачу, хотя и смогут приблизиться к сложности человека ближе, чем сам человек. Точно так же, пытаясь воспроизвести во всей сложности поведение обезьяны или работу нейрона, неудачу потерпим мы.


5. Ещё одна интерпретация
                В этой главе снова обратимся к теоремам Гёделя о неполноте формальных систем. С учётом предыдущих глав, уточним, какой смысл с точки зрения создания искусственного интеллекта всё-таки имеют теоремы, почему они вообще имеют какой-то смысл, и приведём ещё одну интерпретацию теорем.

В первой главе мы выяснили, что из ограничений, накладываемых на формализацию математики теоремами Гёделя о неполноте, следует противоречивость алгоритма мышления. Вспомним, в частности, гёделевский аргумент: если мышление алгоритм, то все утверждения человека, включая математические, должны быть выводимыми, в том числе и истинная невыводимая формула. Что приводит к противоречию, так как эта формула должна быть невыводимой. 

Можно возразить, что прямой алгоритм мышления противоречив, потому что он действительно позволит выводить противоположные утверждения. Но в нейронной сети, вследствие её изменения в ходе обучения, противоположные утверждения будут итогом вычисления, по сути, разных нейронных сетей, то есть разных алгоритмов, их сравнение не имеет смысла.

Однако в искусственной нейронной сети можно описать все изменения, то есть на самом деле у нас всегда одна нейронная сеть, а не разные, а значит, по крайней мере в принципиальном смысле, любую ИНС можно заменить прямым алгоритмом. Поэтому если мышление можно выразить в работе искусственной нейронной сети, то всё равно возникает то же самое противоречие — всё утверждения, включая противоположные, в принципиальном смысле становятся выводимыми.

С другой стороны, то обстоятельство, что мышление невыразимо никаким алгоритмом, включая искусственные нейронные сети и другие недетерминированные алгоритмы, как кажется, сам по себе ничего не говорит о том, насколько близко алгоритмы могут приблизиться к сложности мышления. Однако ответ и на этот вопрос тоже можно обнаружить в теоремах Гёделя — сложности создаваемых систем будет всегда ограничена нынешним опытом человека. Или, точнее говоря, будет бесконечно к нему стремиться, а значит, на практике всегда будет от него далека.

Например, из теорем следует, что посылки теории в рамках самой теории невыводимы, лежат за рамками теории, в ином случае теория станет самореферентной, когда слова будут обосновывать сами себя, выводимым станет всё, что только можно сформулировать, включая противоположные утверждения. Другими словами, теорию нельзя вывести из самой теории, поэтому и доказательство непротиворечивости теории тоже находится за её рамками, ведь только извне теории можно оценить её всю целиком.

Но, создавая искусственный интеллект, мы фактически выводим себя из самих себя. И, естественно, тоже сталкиваемся с проблемами: чем ближе мы приближаем сложность создаваемые системы к сложности себя, тем стремительнее растёт неопределённость — по всем параметрам создания систем, и на некотором этапе дальнейшее усложнение создаваемых систем утратит смысл. При этом мы «выводим себя», исходя из нынешних знаний — о себе, о мире. Таким образом, рост неопределённости происходит по отношению к нынешним знаниям человека, а значит, предел сложности, к которому бесконечно приближаются создаваемые нами самими системы — это тоже уровень сложности только нынешних знаний человека.

Мы также обратили внимание, что из теорем следует невозможность построения теории всего, так как из теории всего должно быть выводимо всё, но посылки теории всего в рамках самой теории всего невыводимы, а значит, теория всего существовать не может. На практике это означает, что исходные положения наиболее общей физической теории должны лежать за рамками физики, оставаться необъяснимыми. Поэтому элементарный уровень материи полностью скрыт от познания, так как «исходными положениями» теории, которая его опишет, должен быть он сам. 

Мы также выяснили, что теория всего суть алгоритм мышления, так как и в том и в другом случае из теории будет выводимо всё мыслимое, то есть всё, так как за рамками мыслимого ничего нет. Поэтому как никакая физическая теория не может описать элементарный уровень материи, так как тогда эта теория выведет сама себя, точно так же никакая теория не может описать появление знания в нашем мозге, так как тогда эта теория точно так же выведет сама себя. Поэтому любое точное знание имеет в основании метафизические идеи, они основываются на некоторых ещё менее формальных допущениях, и в конечном итоге знание, как и природа в целом, возникает из ниоткуда, имея в основании нечто абсолютно непознаваемое.

В свою очередь, получает или не получает подтверждение любое знание в конечном итоге через то, повышает оно качество жизни или нет, а не через соответствие его настоящей реальности, так как настоящая реальность не может быть известна.

В итоге теоремы Гёделя о неполноте формальных систем, создание теории всего, описание работы мозга и создание искусственного интеллекта действительно оказываются связанными. С разных сторон и на разном уровне абстракции эти объекты отражают одно и то же — пределы познания.

В то же время нетрудно заметить, что выводы о пределах познания или границах сложности искусственных систем можно сделать и не привлекая математические теоремы. Например, много таких аргументов приведено в первой главе или это аргументы, связанные с сознанием, приведённые в четвёртой главе. Поэтому можно сказать, что выводы выше следуют не из теорем Гёделя, являясь интерпретацией теорем, а наоборот, теоремы Гёделя интерпретируют эти аргументы в математическом ключе. Ограничивая возможности формального языка на описание самого себя теоремы Гёделя о неполноте, таким образом, ограничивают и описание мышления, как явления, продуктом которого является язык, и описание мира, ведь мышление его часть.

С другой стороны, можно встретить мнение, что теоремы Гёделя ничего не говорят о реальном мире, ведь в них напрямую ничего о нём не сказано. Теоремы, может быть, только случайно выглядят так, что как будто повторяют логику аргументов менее абстрактного характера, сформулированных на естественном языке.

Конечно, связь есть, и она не случайна. Наука исследует природу и описывает её законы, а математика — это язык науки, так как только строгие однозначные формулировки позволят выразить точное знание. Поэтому ограничения формального языка — это и ограничения на познание природы, на описание её законов.

Но почему формальный язык вообще имеет какие-то ограничения? Почему они совпадают с логикой аргументов языка естественного? 

Все законы природы известны быть не могут. В ином случае выводимым становится всё, и в том числе все утверждения, включая противоположные. Поэтому теория всего не имеет смысла. Но если все законы природы известны быть не могут, то очевидно, что истинных утверждений всегда будет больше, чем выводимых — сказать можно много чего правильного, а доказать получится гораздо меньше. И для этих выводов действительно не нужна математика.

Однако формальная система — это, по сути, тоже описание мира, только «математического», со своими «законами природы» в виде аксиом и со своим языком в виде правил вывода. Поэтому, чтобы не быть противоречивым описанием — когда можно и доказать утверждение, и его опровергнуть, формальная система тоже не должна обладать полным набором аксиом, то есть полным набором законов природы этого математического мира. И тогда в ней, естественно, тоже должны быть истинные невыводимые формулы — верные утверждения, которые нельзя доказать. 

Таким образом, отвечая на вопросы выше, ограничения формального языка и связь этих ограничений с аргументами менее абстрактного характера возникает по причине того, что и естественный язык, и язык формальный суть всё более абстрактное выражение нашего опыта. В свою очередь, опыт, как целое, представляет из себя модель наблюдаемого человеком мира. Эта модель включает в себя и логику событий тоже, то есть не только то, что есть, но и как это меняется, по каким правилам. Которая ложится в основание «правил вывода» нашего мышления — правил логики, отношений объектов, их преобразований, выражаемой в виде «разумных» последовательностей слов и фраз. И эта модель в целом непротиворечива, так как возникает в результате естественного отбора и обучения, то есть в непосредственной связи с реальностью, где не бывает такого, чтобы события происходили и не происходили, что-то было и не было, потому что в наблюдаемой природе все «противоположные» события на самом деле разные события. 

Теперь рассмотрим ещё одну тему главы — ещё одну интерпретацию теорем Гёделя о неполноте.

До сих пор речь шла о двух интерпретациях теорем Гёделя — связи теорем с построением теории всего и связи с созданием искусственного интеллекта. Тем не менее можно  интерпретировать теоремы ещё одним способом — связать их с выделенной ролью субъекта в описании природы. Именно субъект и есть невыводимая и неопровержимая формула, без которой ни у чего не будет смысла.

Чтобы формальная система была непротиворечивой, в ней должна быть истинная невыводимая формула. Иными словами, язык непротиворечивой формальной системы не может быть столь богат, чтобы вывести все утверждения, которые только можно сформулировать на этом языке. Но все формальные системы находятся в голове субъекта. Следовательно, язык субъекта не может быть столь богат, чтобы он смог описать самого себя, так как иное равносильно возможности выводить все утверждения, которые только можно сформулировать. Таким образом, субъект описывает мир, но сам он уже не может быть описан, он вне описания. А на границы возможного нам указывает сознание, которое невыразимо словами никакого мыслимого языка. Как следствие, не может быть полностью описан и мир, так как субъект его часть. В принципиальном смысле можно описать всё, но только не уровень сознания, то есть не элементарный уровень материи.

Сформулируем новую интерпретацию более наглядно.

Чтобы формальная система была непротиворечивой в ней должна быть невыводимая и неопровержимая формула. Формула есть и она неопровержима, но её как будто бы и нет, потому что она невыводима. И пока невыводимая и неопровержимая формула есть, непротиворечивость системы не доказана, но если этой формулы не будет, в системе не будет смысла.

Невыводимая и неопровержимая формула — это невыводимый и неопровержимый субъект. Субъект есть — и это неопровержимо, но его как будто бы и нет, потому что он невыводим. И пока субъект есть — ещё ничего не доказано, но если субъекта не будет — в мире не будет смысла.

Подведём итог.

Математика не оторвана от остального опыта человека. Наоборот, математика — это определённый (формальный) язык, который, описывая структуры, порядок и отношения, является идеализированным отражением нашего опыта. В свою очередь, опыт не возникает из ниоткуда, опыт — это связь потребностей и способностей, объективного и субъективного. Поэтому не является странным, что даже, как кажется, в чисто математических утверждениях можно обнаружить связь с реальным миром. В данном случае увидеть связь языка и познания, субъекта и среды, интеллекта искусственного и естественного. В то же время всегда исходя из известного, а значит, неполного и неточного, математика и сама не полна, поэтому в познании природы математическая теория может служить ориентиром, но не доказательством.


6. Тенденции познания

В этой главе рассмотрим пределы и тенденции познания, их связь с субъектом и влияние на фундаментальные научные теории.

Пределом познания, его абсолютным итогом, должна стать теория всего. Но теория всего не имеет смысла, аргументы на этот счёт были приведены в первой главе. Коротко вспомним некоторые из них.

Как следует из теорем Гёделя о неполноте, самих формальных средств для формализации математики недостаточно, в то же время других средств, кроме формальных, для формализации не существует. Поэтому вся математика формализована быть не может. Несмотря на то, что в случае теории всего речь, как кажется, идёт о реальном мире и физике, на самом деле речь продолжает идти о математике. Дело в том, что в процессе познания человек формализует явления природы, гипотетическим итогом чего должна стать формула, которая опишет всё сущее, тем самым сведя мир в одну глобальную математическую теорию, «максимальную» формальную систему, в которой, как часть природы, будет выводим и сам субъект, и вся математика, и построение самой этой формулы. Но это невозможно, потому что тогда как раз окажется, что математика была формализована только формальными средствами, так как формализовано будет всё, включая и все средства.

На языке теории всего должно быть возможным сформулировать истинное утверждение, которое эта теория не сможет доказать, то есть непротиворечивая теория всего должна быть неполна, но теория всего по определению не может быть неполна. Наоборот, в теории всего выводимым должно быть любое утверждение, которое только можно сформулировать, а значит, в том числе утверждения противоположные или о ложности самой теории всего, так как всё, в том числе все утверждения, следуют из этой теории. Но очевидно, что такая теория не будет иметь смысла, теория, в которой можно вывести и утверждение, и его отрицание, является противоречивой.

Теорию всего принципиально нельзя фальсифицировать, то есть представить какое-либо её опровержение, хотя бы гипотетическое, так как это окончательная теория, она описывает всё, поэтому она в принципе не может вступить ни в какое противоречие с опытом. Но это значит, что на теорию всего нельзя будет мысленно посмотреть со стороны, чтобы оценить её истинность или ложность, так как всё, включая всё как-либо мыслимое, в том числе и само представление об истинности и ложности, уже находится внутри теории всего, выводится из неё. Следовательно теория всего не имеет смысла. 

Итак, бессмысленность теории всего достаточно очевидна, её бессмысленность следует из аргументов однозначно.

Однако, несмотря на то, что теории всего не может быть, её значение для познания огромно. Например, можно предположить, что теория всего как минимум является идеей слишком абстрактной, далёкой, не имеющей смысла с практической точки зрения. Как научная теория, обладающая предсказательной силой, теория всего действительно не имеет смысла, потому что она не может быть построена.

Но теория всего — это ещё и то, к чему познание стремится, как к своему абсолютному итогу. И пусть этот итог недостижим, но, задавая направление, он определяет тенденции, которые по мере приближения к теории всего будут становиться всё более заметными. И в этом смысле теория всего имеет практический смысл и даже в каком-то роде обладает предсказательной силой. Именно с этой точки зрения теория всего представляет особенный интерес. Далее в главе рассмотрим эти тенденции подробнее.

Например, следствием противоречивости теории всего является непознаваемость элементарного уровня материи. Элементарный уровень материи является основанием всего происходящего в природе, поэтому теория всего равносильна описанию материи на элементарном уровне.

Ещё одно важное для дальнейшего изложения следствие состоит в том, что познание природы, как приближение к теории всего, есть фактическое приближение к итогу, который не имеет смысла, которого нет. Поэтому, например, гипотезу в отношении всего не просто нельзя экспериментально проверить, прямо или косвенно, но её нельзя даже непротиворечиво сформулировать, так как её объект ни в каком представимом виде не существует, является принципиально непознаваемым. Всё — это объект исключительно метафизический, внеопытный. При этом, говоря обо всём, мы в равной степени говорим об элементарном уровне материи, поэтому непредставимость всего суть непредставимость элементарного уровня материи.

Направление познания на утрату смысла означает то, что чем глубже природу мы узнаём, тем больше познание теряет смысл, так как познание природы — это бесконечное движение к теории всего, которая не имеет смысла. В свою очередь, общее направление на утрату смысла проявляет себя в конкретных тенденциях познания, которые по мере приближения в теории всего будут становиться всё более заметными.

Рассмотрим обстоятельства утраты познанием смысла подробнее.

Вспомним первую главу. Построение теории всего равносильно построению максимально не финитистского языка, то есть «не языка», полной его противоположности, поэтому ни что-либо на нём сформулировать, ни даже построить такой язык невозможно. Например, сознание нельзя описать никаким языком, но построение теории всего потребует и описания сознания тоже, точнее говоря, как было показано в первой главе, описание сознания и теория всего — это одно и то же.

Если построение теории всего потребует максимально выразительного языка, то в ходе изучения материи на всё более глубоком уровне, чтобы оставаться адекватным природе, язык физических теорий тоже должен становиться всё более выразительным и, следовательно, всё менее финитистским. Но чем менее финитистский язык, тем меньше он подходит для выражения ясного, точного и однозначного знания, поэтому прогресс языка в эту сторону ограничен.

Дело в том, что чёткие, однозначные и конечные последовательности действий решения задач — это естественное предназначение мышления, направленного на достижение неких конкретных целей в контексте общей задачи самосохранения. В мышлении человека, способного на высокий уровень абстрагирования, эти последовательности в конечном итоге становятся строгими математическими формулами научных теорий.

Причина стремления знания к ясности, однозначности и конечности в том, что такое знание необходимо для предсказания. В свою очередь, предсказать — это сэкономить силы, не делать лишнего, заранее рассчитав ответ. Любая формула по своей природе такой ответ, возможность предвосхищать события, рассчитать течение явления заранее. Поэтому возможность предсказания — это естественное выражение «понимания», явление понятно, если можно предсказать его течение, в зависимости от начальных условий.

Как следствие, уменьшение финитистского содержания в языке теорий приведёт только к размыванию смысла их утверждений, а не к переходу на новый уровень понимания или к более точному описанию природы.

В результате, так как прогресс языка в сторону адекватного природе ограничен, в ходе познания постоянно растёт рассогласование между описанием природы возможным и адекватным. Которое выражается в том, что фундаментальные теории, с одной стороны, способны на всё более точные предсказания, в то же время, с другой — теоретические модели (образ явления, идеализированное представление об объекте теории, его свойствах и связях, то есть о том, что именно описывают формулы) должны всё менее соответствовать реальному устройству природы.

Объяснить растущую точность предсказаний и при этом всё большее несоответствие теорий реальности можно на таком образном примере. Если уметь мыслить только шары, то описывая ими явление, которое куб, описание будет становиться всё более сложным (потому что, умея мыслить только шары, мы всегда будем наблюдать только их ширящийся набор) и одновременно всё более странным (потому что приближение всего набора представимых шаров к непредставимому кубу будет казаться растущей контринтуитивностью теорий). Но предсказания при этом будут становиться всё более точными, так как набор шаров как целое будет всё точнее имитировать куб (но никогда с абсолютной точностью, так как куб из шаров не собрать).

И в конечном итоге познание остановится, так как сочетание растущей сложности, контринтуитивности и стремления к точности предсказаний приведёт к тому, что новую теорию построить будет уже просто невозможно — её математический аппарат станет уже слишком сложным, а модель непредставимой.   

Ещё один аргумент на этот счёт мы уже приводили, вспомним его. Невозможность достичь точного представления о реальности очевидна и с той точки зрения, что наш мозг имеет определённое устройство, которое вносит свою искажающую составляющую во все наши знания, делая в принципе невозможным добиться идеальной объективности. Как бы точно мы ни описывали стул, он не появится в нашей голове, разница между реальным миром и нашими знанием о нём всегда качественная.

Забегая вперёд (физические основания работы мозга будут рассмотрены в следующей главе), заметим. Качественные переходы от одной теории к другой, а не постоянное уточнение некой «одной теории», «одной модели мира», имеют физические основания в особенностях нашего мышления. Мы не воспринимаем мир непосредственно, наше представление о нём — это сплав среды и опыта, сигналов рецепторов и структуры мозга, то есть сплав объективного и субъективного. В то же время любое переключение внимания — с одной мысли на другую, от образа отдельных элементов к образу целого, от смысла слов к смыслу фразы, от данных к теории — это неравновесный фазовый переход, то есть переход скачкообразный и качественный. Как следствие, такими же более или менее выраженными качественными «скачками» меняется и наше представление о мире.

Вернёмся к растущей неадекватности теорий. Как понятно из образного примера, неадекватность теоретической модели не обязательно будет мешать росту предсказательной силы теорий. К тому же рассогласование описания адекватного и возможного не наблюдается непосредственно, дать адекватное описание в принципе невозможно, неадекватное безальтернативно.

В итоге на практике утраты познанием смысла избежать нельзя, а наблюдать этот процесс можно только по косвенным признакам в растущих проблемах познания. Познание будет становиться всё более трудным, затратным, и поэтому оно будет идти всё медленнее. И в этом смысле, не имея точных границ, познание будет «бесконечным», но на практике на некотором этапе оно остановится.

Непосредственно растущие трудности познания будут проявляться в том, что фундаментальные исследования будут становиться всё более интеллектуально, энергетически и материально затратными и в конечном итоге станут полностью невозможными — «потеряют смысл».

Приведём пример материальных и энергетических затрат, то есть в целом трудностей познания практического характера, которые по крайней мере на данное время выглядят непреодолимыми.

Согласно современной физике, все элементарные частицы являются квантами соответствующих полей. Квантом гравитационного поля является гравитон. Однако квантовое представление гравитационного поля пока только гипотеза, для экспериментального подтверждения существования гравитонов (то есть обнаружения отдельных свободно распространяющихся гравитонов) потребовалось бы строить ускоритель, кольцо которого имело бы минимум протяжённость порядка 10 световых лет. Очевидно, что с практической точки зрения это совершенно нереально. Может быть, существование гравитонов удастся подтвердить или опровергнуть какими-либо косвенными методами, но таковые пока неизвестны.

Одновременно с трудностями практического характера будут расти трудности интеллектуальные. Выражаться это будет в том что математический язык теорий будет становиться всё более сложным — поэтому «смысл» теорий будет всё труднее понять, а мир, который из этих теорий следует, будет всё сильнее отличаться от мира наблюдаемого непосредственно, также затрудняя понимание смысла теорий и построение новых. Иными словами, постановка экспериментов и обобщение полученных данных в новую теорию будет становиться процессом всё более сложным, а всё-таки сформулированные теории будут всё более неоднозначными и контринтуитивными.

Вспомним, точно такие же проблемы и по тем же причинам будут возникать и в построении искусственного интеллекта — решение этой задачи, ввиду стремительно растущей неопределённости, будет всё больше терять смысл. Как показано во второй главе, создание искусственного интеллекта равносильно изучению собственного, а согласно главе первой, изучение собственного равносильно построению теории всего, поэтому такая взаимосвязь естественна.

Ещё одним проявлением утраты познанием смысла является то, что мир теорий должен становиться не только всё более необычным и сложным, но и всё более «математическим», абстрактным, «бесплотным», в отличие от мира наблюдаемого непосредственно, объекты которого обладают твёрдостью, упругостью, плотностью.

Причина «математизации» в том, что гипотетическим итогом познания должна стать формула, которая опишет всё. Но описать всё равносильно возможности заменить всё языком, формулами. Поэтому в теории всего не может быть ничего внешнего — того, что эта теория описывает — останутся только математические выражения, которые будут выводиться строго сами из себя.

Но такой итог не имеет смысла. Тем не менее приближение нему, к теории всего — это и есть познание, поэтому в физических теориях мир на всё более фундаментальном уровне будет всё больше представать как только математический объект, не имеющий никакой механической, «вещественной» природы. В том числе и какой-либо «реальной» природы тоже, становясь всё более необычным, невозможным, по этой причине вызывающим толкования и интерпретации. И в конечном итоге стремясь к такому миру, который уже не имеет и никакой физической природы тоже, понимая таковую как явления, не выводимые в рамках самой теории.

Причём учитывая, что построение теории всего равносильно формализации и всего мышления тоже, а мышление есть непосредственный источник математики, то, одновременно с тем, как выводимыми станут все законы физики, выводимой станет и вся математика. Это значит, что в теории всего математика перестанет быть языком, которым мы описываем явления природы, а сама станет явлением природы, в теории всего разница между языком и объектом описания исчезнет — вместе со смыслом, так как теория всего его не имеет. Поэтому как только из физической теории исчезнет физическая природа, из неё на самом деле исчезнет и математическая природа, и природа любая, так как теория утратит смысл.

Иными словами, никаких реальных объектов, через отношения которых можно формулировать утверждения, в теории всего быть уже не может, всё станет только языком, одной вселенской формулой. Но любая формула, чтобы иметь смысл, должна выражать отношения того, что находится за рамками этой формулы.

Можно обратить внимание, познание действительно движется в этом направлении. Квантовая теория, описывающая материю в наименьшем доступном сейчас масштабе, или общая теория относительности (ОТО), описывающая мир на макромасштабе, действительно чрезвычайно сложны, необычны и абстрактны. Поля в квантовой теории не имеют механической природы, а частицы, являясь квантами полей (одночастичным возбуждением поля), не имеют размера, считаются точечными. Пространство-время, в котором находятся поля и частицы, согласно ОТО обладает только геометрическими свойствами, а тяготение объясняется его деформацией, то есть поле гравитации в ОТО идентифицируется с самим пространством-временем. Таким образом, материя в этих теориях ещё сохраняет физические атрибуты — частиц, полей, пространств, но в то же время она предстаёт уже действительно «бесплотной»: поля, частицы, пространство-время — это «что-то» только в абстрактном математическом смысле. При этом реальные размеры частиц неизвестны; в отличие от других фундаментальных полей, квантование поля гравитации (то есть самого пространства-времени) сталкивается с трудностями не только в экспериментальном подтверждении гравитона, но и теоретического характера, требуется более фундаментальная теория, которая сможет объединить «геометрическое» описание и квантовое.

Одновременно переход от мира теорий к миру наблюдаемому должен становиться всё более скачкообразным и загадочным. Очевидно, что переход от «ничего» к «чему-то» — от бесплотной и контринтуитивной математической абстракции к миру реальному, осязаемому, твёрдому и упругому — другим быть и не может. «Ничего» не может «постепенно» в каком-либо физическом процессе трансформироваться во «что-то», поэтому этот переход и должен быть необъяснимым и происходить мгновенно: есть или «ничего», или сразу «что-то». В том числе этот переход должен быть связан с наблюдением, так как он происходит только в представлении субъекта.

Наиболее выпукло эти особенности познания проявляются в квантовой механике в так называемой проблеме измерения.

Квантовая механика (КМ) — фундаментальная физическая теория, которая описывает природу в масштабе атомов и субатомных частиц. Она лежит в основании всей квантовой физики, включая квантовую химию, квантовую теорию поля и т. д.. Вспомним кратко содержание проблемы измерения.

Проблема измерения связана с коллапсом волновой функции. Волновая функция указывает вероятность обнаружить квантовую систему в том или ином конкретном состоянии в той или иной точке пространства, если будет проведено измерение. Волновая функция эволюционирует во времени, поэтому вероятность тоже меняется. Например, электрон с некоторой вероятностью есть везде, и можно лишь выяснить, какова вероятность обнаружить электрон в том или ином месте, в частности, определить, где он окажется с наибольшей вероятностью, и эволюцию этой области во времени. Другими словами, согласно КМ до измерения любая частица находится в состоянии суперпозиции, то есть с некоторой вероятностью есть везде в пространстве Вселенной и во всех возможных состояниях одновременно. И только в момент измерения происходит коллапс волновой функции и возникает частица с конкретными параметрами.

Следует подчеркнуть, КМ отличается от теории вероятностей, то есть в КМ речь идёт не о том, что электрон где-то находится, но нам просто точно неизвестно, где именно. До измерения электрон, как некая конкретная частица, которая перемещается по определённой траектории, именно не существует. Поэтому в КМ нельзя интерпретировать измерение как раскрывающее некоторые ранее объективно существовавшие свойства системы. Волновая функция, описывающая эволюцию квантовой системы, говорит не о том, что происходит с квантовым объектом до измерения, а скорее о том, что мы могли бы увидеть, если захотим посмотреть.

Волновая функция ставится в соответствие каждой частице и, таким образом, теоретически любому объекту и Вселенной в целом. Однако мы наблюдаем не вероятности, а конкретные объекты, обладающие конкретной траекторией, упругостью, температурой. Поэтому проблема измерения заключается в вопросах — как конкретно вероятности преобразуются в реальный, четко определённый классический результат? Каким образом можно установить соответствие между квантовой и классической реальностью?

Если предположить, что коллапс происходит в процессе декогеренции, то есть в момент измерения, когда квантовая система взаимодействует с классическим прибором и тоже приобретает классические черты, то тогда возникает вопрос: как и когда классические черты возникают у самого прибора и, собственно говоря, у всего наблюдаемого мира в целом? Дело в том, что никаких причин для коллапса волновой функции неизвестно. В квантовой механике нет ничего такого, что могло бы стать основанием для «сваливания» волновой функции в одно конкретное состояние наблюдаемого мира, частью которого мог бы быть прибор.

Причём эксперименты с запутанными частицами показывают, что коллапс волновой функции происходит мгновенно, сразу во всём пространстве. Запутанные частицы (такие, состояние которых связывает общая волновая функция, то есть находящиеся в когерентном состоянии), приобретают конкретное состояние одновременно, в момент измерения одной из частиц и независимо от расстояния между ними. В свою очередь, неспособность напрямую наблюдать коллапс волновой функции (ведь измерения всегда дают определённый результат) породила разные интерпретации квантовой механики, которые представляют из себя попытки объяснить проблему измерения.

В том числе, как часть проблемы измерения, из указанных особенностей квантовой механики следует вопрос о роли субъекта. Сама по себе волновая функция эволюционирует гладко (непрерывно и детерминировано) и взаимодействие с прибором, который тоже описывается волновой функцией, ничего в этом плавном течении нарушать не должно. Проблемы возникают, только когда появляется наблюдатель, так как именно он обнаруживает не волновые функции, а конкретный — «классический» — наблюдаемый мир и конкретные частицы.

Однако если без наблюдателя причин для коллапса волновой функции нет, то, возможно, что появление и классического мира, и конкретных частиц связано не просто с измерением, а именно с наблюдением субъектом. Конкретный результат возникает не в момент взаимодействия системы с прибором, а позже, в момент осознания результата субъектом. Правда, вопросы в этом случае встают уже в отношении субъекта, имеющего такие загадочные свойства. Как выразился по этому поводу Эйнштейн: «Неужели Луна существует только потому, что на нее смотрит мышь?»

Таким образом, непонятно, как, например, из «бесплотных» частиц может возникнуть «вещественный» мир, твёрдый и упругий. Но если посмотреть глубже, то появление самих частиц оказывается ещё много более парадоксальным. Потому что волновая функция кажется уже не просто объектом «бесплотным», но и совершенно невозможным с точки зрения какого бы то ни было физического воплощения. Потому что фактически из КМ следует, что до наблюдения вообще ничего нигде нет (ведь «вероятность обнаружить частицу, если провести измерение», очевидно, не может быть материей), но может появиться, если на мир посмотрит субъект.

Более того, волновая функция описывает вероятность событий, при этом все они сосуществуют одновременно — вспомним, каждая частица с некоторой вероятностью есть везде и во всех возможных состояниях сразу. Но это значит, что в мире, который описывает волновая функция, ничего происходить не может, ведь в этом мире и всё уже произошло, и всё ещё только произойдёт, так как все возможные варианты начала и конца такого мира тоже сосуществуют одновременно. И только субъект с его необычной ролью, которая, по сути, исключает его из квантовомеханического описания, наблюдает некоторое конкретное состояние мира и, таким образом, становится причиной эволюции этого мира, и даже самого его существования.

В то же время, как показано выше, все эти ширящиеся парадоксы могут иметь естественную и в каком-то смысле «обыденную» причину в математизации и растущей неадекватности теоретических моделей.

Заметим, сохраняя парадоксы квантовой механики, более фундаментальной и ещё более сложной и необычной может стать теория струн — самая известная из разрабатываемых сейчас теорий квантовой гравитации, помимо более глубокого описания микромира, призванная объединить описание природы на микро- и макромасштабе. Разные варианты этой теории содержат от 10 до 26 пространственных измерений, необходимых для описания колебаний ультрамикроскопических бесконечно тонких одномерных объектов — квантовых струн (и, как одномерных, объектов, очевидно, тоже абстрактных), которые воспроизводят все элементарные частицы и их взаимодействия.

Перспективы теории струн неясны — пока нет совершенно никакого представления о том, какой практически осуществимый эксперимент смог бы её подтвердить или опровергнуть. С другой стороны, если теория всего не имеет смысла, то любое знание, чтобы таковой иметь, должно подразумевать границы применимости — некоторый предел расширения на время и пространство, за которыми оно свой смысл теряет. Поэтому научная картина мира и должна состоять из отдельных теорий, дающих хорошие предсказания в своей области применения, которые при попытке свести их в одно целое, будут конфликтовать, требуя качественно нового, более фундаментального взгляда на мир. И хотя теория струн не является теорией всего в описанном смысле, тем не менее это движение в сторону таковой, которое естественным образом становится всё сложнее по всем направлениям и интеллектуального, и практического характера.

В итоге, действительно, чем больше мы знаем, тем меньше понимаем, «наглядность» теории нам всё больше заменяет её математический аппарат, «мир вещей» становится «миром идей», превращаясь в мир бесплотных математических структур, процесс познания становится всё более сложным и затратным, модели всё более необычными.

Теперь рассмотрим связь мира теорий с сознанием и ещё раз обратимся к проблеме измерения.

Если сознание — это материя мозга «изнутри», то, как кажется, вполне логично ожидать, что материя в своём описании на всё более фундаментальном уровне должна выглядеть всё больше и больше похожей сознание. Как минимум на его общие свойства, каковыми являются континуальность и многомодальность. Потому что, как мы ранее выяснили, элементарный уровень материи и сознание — это одно и то же, в свою очередь, «материя изнутри» — это и есть элементарный уровень материи, так как только теория всего ничего «внутреннего», скрытого, в материи уже не оставит. Таким образом, всё верно, в том или ином приближении континуальность и многомодальность сознания должны следовать из физических теорий, выводиться из них.

Однако, наоборот, оказывается, что мир теорий всё больше от свойств сознания отличается. Например, модели квантового уровня никак не приближают к пониманию сознания и даже скорее противоположны его свойствам, ни один элемент квантовой теории с сознанием не совместим.

Но если учесть сказанное ранее в этой главе, то ничего странного в этом нет. Континуальность и многомодальность сознания — это действительно свойства элементарного уровня материи, к описанию которого в конечном итоге познание стремится. Однако знание элементарного уровня материи не имеет смысла, это тот уровень, даже гипотезы в отношении которого всегда будут противоречивыми. В результате описание мозга или материи в целом на всё более глубоком уровне — это на самом деле приближение познания к итогу, который недостижим и не имеет смысла, в процессе чего мир, предсказываемый теорией, должен выглядеть всё более необычным — и по отношению к свойствам сознания, как свойствам элементарного уровня материи, прежде всего. В итоге на практике, наоборот, получается именно то, что мир теорий от свойств сознания всё больше отличается.

Как говорилось выше, проявлением фундаментального направления познания на утрату смысла, вероятно, является и проблема измерения: парадоксальный коллапс волновой функции и переход от абстрактного квантового мира к классическому.

Скачкообразность и загадочность этого перехода, по-видимому, связана с растущей неадекватностью и математизацией моделей фундаментальных теорий. То есть в реальности происходит что-то ещё, но мы можем представить эту реальность только такой — или частицами, или волнами. В результате упуская некое «связующее звено», объединяющее эти модели в качественно иное целое. Что, возможно, объясняет проблему измерения, или, точнее, её неизбежное появление в том или ином виде в ходе познания и в конечном итоге неразрешимость.

В свою очередь, связь перехода с субъектом возникает по причине того, что именно по отношению к сознанию субъекта этот переход происходит. Фундаментальные физические теории по факту исключают субъекта — сознание — из описания, так как в принципе не способны описать элементарный уровень материи. Другими словами, мир фундаментальных физических теорий — это мир, где субъект невозможен, где его нет. И чем глубже заглядывают теории, тем тенденция на исключение субъекта усиливается. Но важность его включения в теорию, наоборот, растёт, потому что если в поверхностном описании многое можно упростить и не учитывать, то чем описание глубже, тем точность важнее.

В результате возникает ситуация, что пока в исследуемой системе «нет субъекта» её эволюция, может быть, странная, но никаких парадоксов не возникает — вспомним эволюцию волновой функции. Но в измерении субъект явным образом появляется — именно он наблюдает результат измерения — и парадоксы появляются тоже.

Именно в этот момент возникает необходимость «совместить несовместимое» — перевести принципиально вычислимый и не реальный математический мир теории в принципиально невычислимый и реальный мир сознания. Естественно, это возможно только скачком и естественно, что переход должен быть связан с наблюдением. Причём сам момент этого перехода должен быть неясен — может быть, он происходит в процессе взаимодействия системы и прибора, может быть, вследствие осознания. Ясность в этом отношении равносильна пониманию конкретных обстоятельств перехода, то есть возможности установить связь физической теории и сознания, реальности и знания, вывести одно из другого — но это невозможно, так как равносильно теории всего.

Действительно, всеми этими особенностями характеризуется коллапс волновой функции. Когда «из ничего» — абстрактной волновой функции, эволюция которой плавная и детерминированная, скачком возникает «что-то» — частица, как «начало» наблюдаемого и осязаемого мира, элемент менее абстрактного характера, чем волновая функция. При этом коллапс происходит «где-то и как-то» между моментом взаимодействием измеряемой системы и прибора и моментом осознания результата измерения субъектом.

Завершая тему проблемы измерения, обратим внимание, приведённое сейчас объяснение источника проблемы измерения можно считать ещё одной интерпретацией КМ. Например, «окончательной», так как в ней опровергается любая возможность объективного описания коллапса, физического решения проблемы измерения. Или «гносеологической», так как коллапс — это закономерное следствие познания, особенностей связи познаваемого мира и познающего субъекта. Поэтому тема интерпретации КМ выделена в отдельную статью, ссылка на которую находится в главе «Дополнительно».

Подведём итог.

Когда-то, в прошлые эпохи, внутренний мир казался прямым продолжением мира внешнего, а ошибка была в том, что он казался продолжением слишком прямым, ведь наш внутренний мир не является простым отражением внешнего мира. Однако с тех пор сознание понятнее не стало. Вследствие фундаментального направления познания в сторону бессмысленной теории всего, вместо как будто естественного всё более глубокого понимания связи сознания и материи, наоборот, всё больше увеличивается разница между сознанием и той материей, которая следует из физических теорий. В ходе познания мир естественным образом становится всё более «механистическим» — вычислимым и предсказуемым, потому что возможность предсказывать явления — это и есть суть «понимания», а значит, и суть познания. Но, как выясняется, одновременно теории становятся всё менее адекватными элементарному уровню материи, а значит и всё менее адекватными физической сущности сознания, потому что никакой мыслимый язык элементарный уровень материи выразить не способен. В итоге чем сложнее становится язык формул и как будто точнее понимание природы, тем глубже оказывается пропасть между сознанием и миром физических теорий, не позволяя полностью понять ни мир, ни субъекта.

В заключение главы приведём слова А. Д. Линде, советско-американского физика, профессора Стэнфордского университета, одного из авторов теории инфляционного расширения Вселенной: «Возможно ли, что сознание, подобно пространству-времени, имеет свои внутренние степени свободы, пренебрежение которыми ведет к фундаментально неполному описанию Вселенной? Что, если наши ощущения так же реальны (или, быть может, даже более реальны), чем материальные объекты? Что, если мое красное и синее, моя боль — реально существующие объекты, а не просто отражения реального мира? Возможно ли ввести «пространство элементов сознания» и предположить, что сознание может существовать само по себе, даже при отсутствии материи, подобно гравитационным волнам, существующим при отсутствии протонов и электронов? Заметим, что гравитационные волны обычно настолько слабы и так слабо взаимодействуют с веществом, что мы до сих пор их впрямую не обнаружили [обнаружены в 2015 году. — прим. авт.]. Однако их существование предельно важно для самосогласованности нашей теории, как и для понимания некоторых астрофизических явлений. Не может ли оказаться, что сознание — настолько же важная часть согласованной картины нашего мира, несмотря на то, что до сих пор мы могли совершенно пренебрегать им при описании известных нам физических явлений? Не окажется ли при дальнейшем развитии науки, что изучение Вселенной и сознания неразрывно связаны, и существенный прогресс в одном направлении невозможен без прогресса в другом?» (Лекция «Инфляция, квантовая космология и антропный принцип». 2001 год).


7. Физика жизни

В этой главе скажем о физической стороне жизни, а также рассмотрим основные проблемы, возникающие в моделировании мозга, в том числе узнаем, есть ли какие-либо конкретные физические основания у сделанных в предыдущих главах выводов. И наконец в этой главе ответим на вопрос первой главы — какое поведение принципиально недоступно ИИ и как это отразится на его перспективах.

Начнём эту главу несколько необычным способом. Вспомним некоторые выводы, сделанные ранее, и рассмотрим их под новым углом — ближе к физике жизни. Это поможет лучше понять то, что будет написано в основной части главы.


7.1. Предварительные аргументы

7.1.1. Ещё раз о свободе воли

В первой главе мы пришли к выводу, что свобода воли принципиально неопределённое понятие, так как алгоритм мышления не имеет смысла. Невозможно сформулировать, что такое свобода воли, и невозможно ответить на вопрос, как конкретно происходит выбор поведения в мозге. Также вспомним, одним из аргументов было то, что если в основании выбора лежит случайность, то это никакая не свобода, а если в нашем поведении всё детерминировано, то тогда, получается, эволюция, всё наше поведение, все мысли, всё это было задано ещё в момент рождения Вселенной, а это вроде бы выглядит совершенно невероятным. Вариант вероятностной детерминации ничего принципиально не меняет, а четвёртого варианта в нашем опыте попросту нет.

В этой главе попробуем уточнить сказанное с точки зрения того, что известно о таких физических системах, к которым относится мозг и жизнь в целом. Пойдём от противного и вначале попробуем доказать, что детерминизм свободе воли не помеха.
                Опустим салфетку одним концом в воду. И увидим, как, смачивая салфетку, вода стала подниматься по ней вверх, преодолевая сопротивление среды и пренебрегая силой тяжести, как будто бы проявляя активное целенаправленное поведение.

Точно так же и мы по чисто физическим причинам активно стремимся в направлении, где меньше сопротивление среды или больше ресурсов (то есть в направлении к лучшему качеству жизни, наиболее полному решению задач самосохранения и размножения). А так как во время этого движения мы обучаемся, оно постепенно реализуется всё более сложным образом. Это относится и к обучению, и к эволюции, которая проходит по тем же принципам. Причём это движение всегда немного хаотичное, беспорядочное, так как организм — это не система с жёсткими связями, но в целом оно всё равно стабилизировано вот этим общим «притягивающим» направлением «к лучшему».

Например, как бы мы ни концентрировали внимание, оно всё равно немного флуктуирует, скачет, но его общее направление на решаемую задачу сохраняется. При этом мозг, как физическая система, никак принципиально не отличается от остального организма, поэтому хаотическая составляющая есть не только в работе мозга, но и на всех уровнях биологических систем от клетки до биосферы.

В свою очередь, важной характеристикой хаоса является чувствительность к начальным условиям, когда даже самая ничтожная разница в начальных условиях (то есть в устройстве систем или окружающих их условиях) со временем не нивелируется, а наоборот, приводит к тому, что системы всё больше различаются. В результате наличие в нас составляющей хаоса и, как следствие, чувствительности к начальным условиям, приводит к тому, что хотя в общем и целом мы все похожи, но в частностях отличаемся, на любом более общем масштабе мы все движемся в одном направлении, но разными конкретными траекториями на любом более мелком.

Поэтому даже если бы был строгий детерминизм, точной заданности поведения всё равно не будет. Возможность эволюции, как общего движения к порядку и его всё более сложным формам, задают обычные законы физики, а в рамках этого общего направления все биологические системы столь же случайны, как камни у дороги. Но никто же не станет удивляться, что, если мир детерминирован, то вот этот уникальный булыжник был в точности задан в момент рождения Вселенной? Потому что его уникальность — это и есть фактическая «незаданность», «как попалость».

Законы физики определяют возможность появления камней, но не их конкретные формы, поэтому камни есть, но они все разные. Так же и в случае жизни — законы физики определяют существование таких явлений, которые становятся основанием жизни в целом, предопределяя возможность её появления и дальнейшей эволюции, но не подробности конкретных организмов. В результате так же, как и камни, в целом мы все похожи, так как в целом одинаково заданы едиными для всех законами физики, а частностях мы все разные, потому что не заданы, случайны. И наоборот, если бы, к примеру, несмотря на отсутствие жёстких связей между элементами, хаотичности в нашем поведении не было, то вот это было бы чрезвычайно странно, и говорило о предопределённости. 

Иными словами, даже в строго детерминированной Вселенной начальные условия можно задать более или менее грубо, мир от этого сильно не поменяется. Например, на ранних этапах эволюции Вселенной после этапа кварк-глюонной плазмы и бариогенеза очередной фазовый переход привёл к образованию элементарных частиц в их нынешней форме. Однако, очевидно, что как бы ни перемешать эти частицы, всё равно возникнут звёзды, планеты и камни на них, просто они будут не в точности там же, где находятся сейчас, и не в точности такими же, как нынешние. Точно так же всё равно где-нибудь возникнет жизнь, просто она будет не точная копия себя нынешней. В плане предопределённости у нас нет никакого отличия от камней.

В итоге, согласно бритве Оккама — средневекового монаха, одного из величайших логиков всех времён, призывавшего не плодить лишних сущностей, свобода воли оказывается именно такой лишней сущностью, она не нужна. Наше «личностное» поведение вполне можно объяснить без неё, даже в строго детерминированном мире. А почему мы ощущаем себя свободными в выборе поведения, мы объяснили во второй главе, и, как выяснилось, наличие этого ощущения тоже никакой свободы само по себе не требует.

Однако этот вывод неверный.

Ещё раз вспомним, что теория всего не имеет смысла, поэтому какое «всё», неизвестно и не может быть известно. В свою очередь, это означает, что ни одно утверждение не может быть расширено на «всё». Чтобы иметь смысл, утверждения должны иметь границы применимости — границы их расширения на время и пространство.

Но если мы предполагаем, что мир детерминирован, мы делаем утверждение именно обо «всём». Поэтому, наоборот, можно утверждать, что ни детерминизм, ни случайность, ни что-либо ещё, что можно хоть как-то сформулировать, не лежат в основании мира. Там что-то другое, а наблюдаемая причинность лишь некое «внешнее», феноменологическое (наблюдаемое как феномен, без понимания внутренних оснований наблюдаемого) проявление этого чего-то.

Однако теория всего — это и алгоритм мышления, поэтому если какая-то идея не имеет смысла в отношении всего, то она не имеет смысла и в отношении мышления. Следовательно, если нет предопределённости, то и отсутствие свободы воли утверждать нельзя. Но и что свобода воли есть, тоже утверждать нельзя, так как неизвестно, что такое свобода воли. И не может быть известно, ведь свобода воли должна лежать в основании мышления, а это синоним не имеющего смысла. Чем бы свобода воли ни была, сформулировать, что это такое, невозможно.

Другими словами, ошибочность нынешнего варианта в том, что в нём предполагается наличие в основании мира и, таким образом, в основании мышления, чего-то такого, что можно сформулировать. В данном случае детерминизма. И на этом уже строятся дальнейшие выводы о том, что свобода воли — это лишняя сущность, её нет, а наше личностное поведение всего лишь следствие чувствительности к начальным условиям. Однако никакое представление об истинных основаниях мира не имеют смысла, поэтому апелляция к бритве Оккама неправомерна. Лишней сущностью, наоборот, является сам детерминизм в его таком «безграничном» расширении на всё.

Таким образом, кажется, мы вроде бы снова пришли к выводу первой главы. Однако он хотя и верен по сути, но не всем хорош. Попробуем его уточнить.

Дело в том, что жизнь не такое уж непознаваемое явление, напрямую связанное с чём-то принципиально непонятным, что лежит в основании мира. Например, наличие непонятного в основании мира ещё не означает, что на более или менее поверхностном масштабе нельзя выделить в наблюдаемых событиях те или иные отдельные закономерности, то есть описать те или иные явления, открыть те или иные законы физики.

В том числе описать такие явления, которые лежат в основании работы биологических систем. Естественно, это будут не совсем обычные явления, в силу связи с элементарным уровнем материи они должны отличаться некоей особенной, качественно более высокой непредсказуемостью, чем те явления, алгоритм которых написать можно. Описать их течение получится только очень неточно, поверхностно, потому что если алгоритм обычных явлений написать можно, то, как мы выяснили, алгоритм мышления написать не просто сложно, а он вообще не имеет смысла, в свою очередь, мозг — это явно не что-то принципиально отличное от остального организма.

Прежде чем скажем о явлениях, лежащих в основании жизни, обратим внимание на проблемы, связанные с их пониманием.

Если ход явления непосредственно связан с элементарным уровнем материи, то наблюдение такого явления принципиально ограничено, так как столь глубоко в материю заглянуть невозможно. Как следствие, предсказание течения таких явлений принципиально отличаются высокой неопределённостью. Но понять — это научиться предсказывать, чем точнее может быть предсказание, тем точнее понимание. Поэтому за пределами предсказуемого возникает непонимание, то есть ширится поле для догадок, фантазий, интерпретаций, гипотез. Иными словами, принципиально ограниченная предсказуемость поведения биологических систем означает, что в объяснении их поведения относительно большую роль неизбежно будут играть умозрительные обобщения, которые можно подтвердить только некими логическим выкладками, а не факты. Это первая проблема понимания, она очевидна, мы о ней уже говорили. Вторая проблема серьёзнее.

Наш мозг управляет мышцами, то есть перемещением в среде. Одновременно в разные стороны перемещаться нельзя, поэтому наше поведение целенаправленно, внимание, последовательно выделяя цели, перемещается последовательно. Точно так же пишутся алгоритмы. Другими словами, мы «понимаем» последовательно, шаг за шагом. В результате явления, которые к последовательности несводимы, и в алгоритме невыразимы, и понять нам сложно. Кому-то это удаётся лучше, кому-то хуже.

У кого это получается совсем плохо, зачастую подозревают, что отсылка к этим явлениям суть попытка объяснить непонятное через непонятное, то есть попросту подмена настоящего объяснения некой сакральной терминологией. Действительно, как говорилось выше, если формулы неприменимы, то в объяснении явлений или поведении систем, работу которых они определяют, неустранима значительная составляющая умозрительного, выходящего за рамки формул. Но проблема в том, что данный уровень умозрительности этим людям как раз и недоступен. А если эти явления ещё и связаны с элементарным уровнем материи, то проблема понимания ещё больше усугубляется, так как, можно сказать, добавляется ещё один уровень непонятного.

Как следствие, такие люди в принципе не способны составить адекватное представление ни о работе мозга, ни о сознании, ни о морфогенезе, ни о жизни в целом. И, к сожалению, здесь ничего нельзя сделать, это особенность человеческого интеллекта — такие явления для него непонятны. Понимая эти сложности, мы, по возможности, сделаем упор на непонятных моментах.

Заметим, в том, что в основании жизни лежат несводимые к последовательности явления, ничего странного нет, так и должно быть. Очевидно, что физика жизни одна и та же для всего организма, в том числе и для мышления. Но, как мы выяснили, алгоритм мышления не имеет смысла, то есть язык — это некоторый итог мышления, а не его суть, поэтому очевидно, что если наше мышление в своём основании «не язык», то оно и не последовательность, «нить» наших суждений изначально не вытягивается из их «клубка». Собственно, как и реальная нить тоже изначально возникает из пряжи, из «неупорядоченного объёма», из хаоса. Точно так же последовательности не суть работы и остального организма.

Итак, какие же явления лежат в основании жизни? Пока сформулируем самое необходимое. И начнём с возможности предсказаний. Могут ли быть принципиально разные в этом смысле явления? Ответ не так очевиден.

Все явления природы — это выделяемые нашим вниманием феноменологические проявления того, что лежит в её основании. Иными словами, это проявления происходящего на элементарном уровне материи. Элементарный уровень материи лежит в основании всех явлений природы, поэтому именно описание законов элементарного уровня материи — это и есть теория всего. По-другому, элементарный уровень материи — это реальность «как она есть на самом деле». Явления, которые лежат в основании жизни, естественно, такие же феноменологические проявления элементарного уровня материи.

Естественно также, что чем больше нюансов явления учитывает его описание, тем точнее будут предсказания. Учесть абсолютно все нюансы можно только в том случае, если описать явление на элементарном уровне материи. Такое описание будет абсолютно точным, ведь оно не оставит ничего скрытого, поэтому и предсказания станут абсолютно точными. Однако, требуя описания элементарного уровня материи, абсолютная точность равносильна теории всего и потому теряет смысл. Как следствие, предсказания в принципе не могут быть абсолютно точными, их точность ограничена нашим знанием об основаниях мира, о происходящем на элементарном уровне материи — и это, что тоже естественно, касается всех явлений.

Обратим внимание, «элементарные частицы» в квантовой физике — это микрообъекты субъядерного масштаба, которые или считаются бесструктурными (например, фотоны, электроны), или которые на данное время на практике невозможно расщепить на составные части по причине конфайнмента (протоны, нейтроны). Однако размер и другие свойства частиц за пределами некоторых доступных исследованию масштабов непонятны. Поэтому «элементарные частицы» — это части наиболее глубокого на нынешнее время представления о материи, но не представление об её элементарном уровне.

Как кажется, тогда из сказанного следует очевидный вывод, что, последовательно уточняя описание, можно так же последовательно увеличивать точность предсказаний, но просто не до абсолютно точных — и это тоже касается всех явлений. Однако этот очевидный вывод неверен. Он применим только к равновесным системам — которые сложно вывести из равновесия, то есть таким, на работу которых можно повлиять только более или менее значительным воздействием. В случае же неравновесных систем этот вывод не работает, а жизнь система именно такая.

Поясним.

Представим шарик на вершине горки. Он находится в шатком равновесии (в неравновесном состоянии), поэтому скатится с горки, стоит только к нему хоть немного прикоснуться. Иначе говоря, сколь угодно малое изменение параметров шарика (вследствие того же прикосновения) приведёт к тому, что его поведение качественно изменится — вместо покоя он, наоборот, покатится с горки вниз по той или иной её стороне.

Однако, ввиду того, что к качественному изменению поведения шарика может привести любое самое малое (то есть элементарное, происходящее на элементарном уровне материи) изменение его параметров, то и предсказать поведение шарика в критической точке максимальной неустойчивости (в точке бифуркации) поможет только его абсолютно точное описание.

Стоит описание хотя бы немного упростить, сделать его хотя бы чуть-чуть более грубым, ограничившись уровнем материи менее глубоким, чем элементарный, и предсказания будут качественно отличаться от реального поведения шарика, то есть фактически будут носить характер угадывания, потому что когда и по какой стороне горки скатится шарик, будет совершенно непонятно вплоть до того, как он начнёт катиться. Или предсказание будет абсолютно точным, или пальцем в небо, одно из двух.

Можно сказать иначе. Если бы шарик на вершине горки стоял устойчиво, то знать все подробности устройства шарика было бы необязательно, происходящее на микроуровне шарика на его поведение не влияет. Аналогично для предсказаний поведения шарика нам не нужно было бы учитывать подробности условий, мы точно так же могли бы исследовать их только поверхностно — не имеет значения ветерок, если столкнуть шарик может только ураган. Иными словами, чем более равновесные системы мы рассматриваем, тем грубее может быть описание природы без потери в точности предсказаний. И наоборот, если повлиять на поведение системы может самое ничтожное изменение её параметров, то необходима теория всего.

Итак, мы выяснили, что в плане предсказуемости системы могут качественно отличаться. Неравновесные системы являются качественно более непредсказуемыми.

Подобная непредсказуемость неравновесных систем называется чувствительностью к начальным условиям, мы недавно её уже упоминали. Она является важной характеристикой хаоса, а хаос так же лежит в основании жизни, как и неравновесность, то есть хаос является составляющей нашего поведения на всех уровнях. Таким образом, имея в своём основании неравновесность и хаос, жизнь на всех уровнях связана с элементарным уровнем материи и потому является чрезвычайно мало предсказуемым явлением.

Однако сказанное не выглядит разумным: хаос — это беспорядок, а беспорядка для жизни явно недостаточно.

Действительно, наряду с хаосом в основании жизни лежат такое явление, как самоорганизация, аттракторы. Если хаос — это беспорядок, то самоорганизация — это упорядочение хаоса без каких-либо специфических организующих воздействий (поэтому и само- организация), а аттрактор — это точка, периодическая траектория или область, к которой неизменно стремится поведение системы. Эти явления в некотором смысле противоположны хаосу, они не устраняют хаос, но ограничивают его, упорядочивают и направляют, организуя элементы неживого мира в сложную структуру биологических систем и целенаправленное поведение. Например, аттрактор маятника — это точка, в которой он в итоге остановится, а нашим аттрактором в целом является гомеостаз, стремление к самосохранению, поддержанию неизменными своих внутренних параметров, то есть некоторая область фазового пространства, которую можно обозначить как комплексное удовлетворение потребностей, качество жизни.

Таким образом, на всех масштабах жизнь сочетает в себе одновременно хаос и порядок, на любом более общем масштабе будет наблюдаться порядок, на любом более мелком — хаос. Одной стороны жизни является организованность и целенаправленность, связанная с самоорганизацией и аттракторами, другой — непредсказуемость и индивидуальность, это черты хаоса, связанные с чувствительностью к начальным условиям. Например, поэтому предсказания нашего поведения возможны, но только или только в самом общем, или на очень короткий срок.

Итак теперь мы узнали, какие явления лежат в основании жизни. Это неравновесность, хаос, самоорганизация, аттракторы, гомеостаз.

И это же окончательный ответ на вопрос о свободе воли. И всё наше существование, и любой конкретный выбор — это сочетание самоорганизации и хаоса, порядка и беспорядка. В целом понятное, в частном невычислимое и непредсказуемое, растворяющееся в глубине материи, где любое знание теряет смысл.

В итоге несмотря на то, что явления, лежащие в основании жизни, известны и понятны, оказывается, что они сами ограничивают познаваемость себя. Объясняя жизнь в целом, её частные параметры из них невыводимы. Если в целом жизнь и конкретно поведение человека предопределены указанными выше явлениями, то в частных параметрах о предопределённости говорить не имеет смысла, так как там начинается связь с элементарным уровнем материи, где ничего определённого не существует.

Поэтому больше, чем сказано о свободе воли выше, сказать о ней вряд ли возможно.

Если только добавить к сказанному ещё что-нибудь необычное — что мы и сделаем в последней части этой главы, когда обстоятельства связи мышления с элементарным уровнем материи станут понятнее. А также можно точнее описать, как непосредственно происходит выбор в мозге — это сделано в статье «Жизнь как самоорганизация», ссылка на которую есть в главе «Дополнительно».

Обратим внимание, что искусственный интеллект, будь он в аппаратной или программной реализации, неравновесной системой не является. Поэтому к жизни искусственный интеллект отношения не имеет, знания элементарного уровня материи для описания его работы не требуется. Искусственный интеллект — это достаточно грубая, стабильная в широком классе условий система, работа которой реализована на масштабе много больше, чем элементарный. Иными словами, даже несмотря на обучение, в сравнении с интеллектом естественным ИИ представляет из себя жёстко и однозначно заданное взаимодействие стабильных деталей.


7.1.2. Очень много нейронов

Возможно, аргументы предыдущих глав были убедительными. И всё же. Пусть естественный интеллект не язык, но если в искусственной нейронной сети очень-очень много нейронов, неужели она всё равно не сможет выразить сложность мышления? В это сложно поверить. Разве «количество простоты» искусственных нейронных сетей не перейдёт когда-нибудь в «качество сложности» нейронных сетей биологических? В конце концов если, согласно аргументам второй главы, человек не сможет создать ИИ сложнее себя, то, может быть, он возникнет сам, в ходе некоей «эволюции алгоритмов»?

Ответ в чувствительности к начальным условиям.

В главе выше говорилось про чувствительность к начальным условиям. Более строго, она означает, что близкие траектории в фазовом пространстве отдаляются друг от друга с экспоненциальной скоростью. Проще говоря, даже бесконечно малая разница в начальных условиях приводит к тому, что системы со временем приобретают всё большую индивидуальность. Как также говорилось, чувствительность к начальным условиям важная характеристика хаоса, а хаос — одно из оснований мышления.

Другое основание — самоорганизация, явление упорядочения хаоса, в некотором смысле «сжатия» хаоса в порядок. Например, каждый биологический нейрон — это хаотический автоволновой осциллятор, то есть нервные импульсы генерируются нейроном беспорядочно, хаотически. Однако соединение двух нейронов приводит к более или менее чёткому упорядочению их активности на некотором ритме. Это явление самоорганизации, в данном случае синхронизация нервной активности нейронов. Чем больше нейронов соединены в сеть, тем сложнее ритмическая картина. Сигналы рецепторов и питательные вещества модулируют эту картину, тем самым перераспределяя активность мышц и желёз, формируя наше поведение.

Чувствительность к начальным условиям при этом не исчезает, но теперь она приводит к флуктуациям ритмов — одна упорядоченная ритмическая картина сменяет другую. Точно так же мысли сменяют друг друга, но они всегда организованные, «целые», непредсказуемо флуктуируют около некоторой линии поведения и в целом стремятся в направлении самосохранения. Аналогичным образом поведение меняется, но оно всегда не бессмысленное, не беспорядочное.

То же сочетание чувствительности, хаоса и порядка лежит в основании морфогенеза, в каковом процессе формируется (или изменяется в онтогенезе) сама нейронная сеть мозга. Например, вследствие чувствительности, условия различаются нейроном столь тонко, что для всех из них формируется его индивидуальное воплощение. Поэтому в мозге нет ни одного одинакового нейрона. Причём есть не только множество разных типов нейронов (и до сих пор в мозге обнаруживаются неизвестные ранее типы), но и внутри типов каждый нейрон индивидуален — так же, как в частном индивидуален любой человек, несмотря на то, что в целом все люди похожи.

Можно предположить, что разнообразие нейронов — это дело случая, формирование мозга идёт случайным образом, хаотически. Однако тогда бы порядка в наших мыслях и поведении тоже не было. Поэтому вспомним, что говорилось в предыдущей главе про неразделимое сочетание хаоса и порядка в таких физических системах, к которым относится жизнь. Где-то больше одного, где-то другого, но в целом на любом более общем масштабе будет наблюдаться порядок, на любом более частном черты хаоса.

Например, на частном масштабе нейронные связи в мозге выглядят хаотически, но на крупном масштабе заметно, что архитектура связей повторяется, определяя функциональные особенности структур, зон и отделов. На частном масштабе любой задачи можно заметить ту или иную степень хаотичности движения мысли, но в целом направление на решение сохраняется. На частном масштабе поведение не задано, индивидуально, но в целом оно всегда направлено на самосохранение.

Таким образом, упорядоченность работы мозга сочетается с чувствительностью хаоса, поэтому на ход мыслительного процесса (изменение ритмической картины или рост связей нейронов) может повлиять сколь угодно малое изменение параметров мозга. Однако сколь угодно малые события происходят на элементарном уровне материи, поэтому адекватное описание биологической нейронной сети так же требует точности элементарного уровня материи, а это невозможно.

Как следствие, сколько бы ни было нейронов в искусственной нейронной сети те функции биологической нейронной сети, которые связаны с чувствительностью к начальным условиям, она не выразит.

Какие это функции? Связь с элементарным уровнем материи лежит в основании функционирования любого организма как физической системы. Следовательно, связь с элементарным уровнем материи более или менее касается всех функций организма в целом и мозга в частности, но больше всего той функции, которая точно так же лежит в основании жизни как физической системы.

Об этой функции мы уже говорили — это самосохранение. Вспомним, организм — это самоорганизующаяся система, всё поведение такой системы суть гомеостаз — поддержание системой неизменными своих внутренних параметров, в отсутствие жёстких связей между элементами, то есть самосохранение. Система существует в среде, ведёт с ней интенсивный обмен, не имеет жёстких связей, но при этом не разрушается. Физически упорядоченное состояние системы — это её аттрактор, некоторая область фазового пространства, куда стремятся её фазовые траектории. Проще говоря, аттрактор — это «центр притяжения» поведения системы. Внешне это выглядит как неустойчивые флуктуации — в целом система организована, в частном непредсказуемо изменчива, чувствительна, активна, находится в постоянной динамике. Как возможна столь необычная ситуация, скажем в основной части главы. Сейчас же обратим внимание, что это и есть наше поведение — в целом упорядоченное и направленное на самосохранение, в частном изменчивое и непредсказуемое.

Таким образом, составляющая самосохранения есть в работе любого органа, в каждой поведенческой реакции, в каждой мысли. Нервная система только лишь уточняет функцию самосохранения, позволяя животному более активно и более целенаправленно перемещаться в среде и обучаться в более широких пределах.

Но так ли важна эта функция? Какая проблема в том, что ИИ не будет ей обладать? Разве нельзя заменить её некими правилами?

Самосохранение — это та самая общая цель, стратегическое направление, которое «сшивает» всё наше поведение общим смыслом в одно бесконечно протяжённое целое, а смерть лишь прерывает движение по этому пути, но не является его итогом. Каждая конкретная реакция, идея, мысль — всё приобретает смысл по отношению к этой глобальной задаче, становясь тактикой движения к этой общей цели.

Но если нет цели, то ни у чего нет смысла, ничто ни к чему не приближает и ни от чего не отдаляет. В результате, в отличие от человека или других животных, искусственной нейронной сети или любой другой вычислительной системе всё равно есть она или нет, включили её или отключили, правильно она решила задачу или нет. Ни лучше, ни хуже ей от этого не станет, потому что у таких систем нет ни лучше, ни хуже, ни плохое, ни хорошее для них не существует.

Сделанный выше вывод может показаться слишком абстрактным. От ИИ требуется давать правильные ответы на наши вопросы или делать, что скажут, а собственные стремления этому, наверное, только помешают. Действительно, с этим можно согласиться. Но, вспомним, во второй главе мы пришли к выводу, что появлению СИИ может помочь только самостоятельная эволюция ИИ, так как, оставаясь в контексте наших знаний, нашего опыта, ИИ нас не превзойдёт и даже не достигнет нашего уровня.

И вот как раз для самостоятельной эволюции наличие или отсутствие у ИИ стремления к самосохранению имеет решающее значение. Вспомним, что мы выше говорили об аттракторах — это состояние, к которому стремится система. В случае гомеостаза — это область структурной целостности системы. Простыми словами, это, заложенная ещё на физическом уровне, способность системы выбирать такие пути развития, которые позволят ей не быть разрушенной средой, то есть это способность развиваться адекватно среде, учитывать среду. Составляющей этой способности является чувствительность к начальным условиям, можно сказать, «встроенность» системы в среду, способность различать все нюансы среды, в которой существует система. Если этой способности нет, то система будет средой разрушена, так как всех путей развития несравнимо больше, чем адекватных среде, которые позволят системе не быть ей разрушенной, и очень быстро система выберет путь именно такой. 

Понятно также, что ИИ самосохранению не обучить, ведь самосохранение лежит в основании жизни, в основании нашего поведения, то есть самосохранение не только в весах связей нейронов и даже не только в нервной системе. Стремятся к самосохранению все животные, в том числе животные без нервной системы и даже одноклеточные. Поэтому самосохранение в нас везде — в каждой реакции, на всех уровнях организации, в каждой клетке. Мы не учимся самосохранению, обучение, как и само появление нервной системы, только уточняет эту функцию под условия среды. Но в основание поведения ИИ самосохранение положить невозможно, так как эта функция невыразима в алгоритме, а любой ИИ — это алгоритм.

По тем же причинам невыразимости в алгоритме, то есть в некой инструкции, в неком наборе правил, попытка заменить самосохранение набором правил и инструкций возможна только на сильно упрощённом уровне. Наглядно говоря, настолько же упрощённом, насколько представление о мышлении или жизни в целом далеко от набора правил. А то, что оно далеко от такого набора качественно, говорит, например, наша способность предсказывать поведение — предсказания возможны или только в самом общем, или на очень короткий срок.

Непосредственно обучить самосохранению невозможно по другой причине — отчасти эта причина была описана во второй главе. Чтобы ИИ чему-то обучить, этому должны быть примеры. Но примеры — это что-то конкретное, например, некие конкретные элементы поведения. Однако самосохранение — это общая стратегия любой жизни, «растворённая» в каждой реакции, в каждой функции любого организма, включая отдельные клетки, поэтому обучить самосохранению равносильно наблюдению всей жизни в целом.

Пояснить отсутствие, или, точнее, недостаточность, примеров самих по себе можно аналогией с тем, что мы сами можем сказать о самосохранении. Мы можем сказать или только самое общее, или привести какие-то отдельные примеры «стремления выжить», «избегания опасности» или «альтруизма» (как элемента самосохранения вида, социума, биосферы) и так далее. Однако отдельные примеры и общие формулировки чрезвычайно далеки от описания всего поведения, но самосохранение в нём всём.

Например, мы не учимся боли, голоду или радости, потому что всего этого не может быть отдельно, в качестве некого наложенного опыта, а только как составляющие самосохранения сложной системы. Поэтому сам смысл этих ощущений — хорошо/плохо, то есть ближе к самосохранению или дальше. В результате попытка научить ИИ избегать повреждений, недостатка энергии или «радостному возбуждению» будет именно чем-то поверхностным, наложенным, качественно проще нашего поведения.

Больше о самосохранении и перспективах самостоятельной эволюции ИИ скажем в других частях этой главы. Однако, исходя из уже сказанного, понятно, что сколько бы ни было нейронов в искусственной нейронной сети, мозгом она не станет, никакое «количество простоты» ИНС не станет «качеством сложности» естественного интеллекта, это принципиально разные системы. «Схематично» биологическая и искусственная нейронная сеть похожи, и в этом объёме они смогут заменить друг друга. Но чем глубже мы смотрим, тем больше они начинают отличаться, и на уровне физических принципов работы ничего похожего уже не остаётся. В результате, самостоятельная эволюция ИИ невозможна, а значит, согласно аргументам второй главы, сложность ИИ всегда будет ограничена сложностью нашего интеллекта.


7.1.3. Аргумент о языке, или Сможет ли ИИ описать себя

Вспомним ещё один вывод, сделанный в предыдущих главах. Он в том, что язык, который сможет выразить работу мозга, должен быть богаче любого мыслимого языка, то есть описать работу мозга адекватно реальной сложности этой работы невозможно, выразительных средств никакого языка для этого не хватит. Понятна причина этого — в силу чувствительности к начальным условиям, описание работы мозга требует описания элементарного уровня материи, но этот уровень материи никаким языком невыразим, потому что теория всего не имеет смысла.

В этой главе рассмотрим «аргумент о языке» с ещё одной точки зрения. Человек не сможет описать сам себя, а что можно сказать в этом смысле об ИИ? Сможет ли сам себя описать ИИ? В том числе ответ поможет уточнить выводы предыдущей части, и ещё ближе подвести к тому, что будет сказано в основной части главы.

Качественное отличие языка от работы мозга — это следствие того простого обстоятельства, что язык — это некоторый итог работы мозга, то есть язык формируется в мозге, а не «поступает» в мозг готовым извне. Поэтому вполне естественно, что процесс формирования языка не может быть описан каким-либо языком из тех, которые формируются, для этого нужен более богатый язык. Однако чтобы такой язык мог возникнуть, нужна и система с принципиально более богатыми возможностями, чем мозг человека. Говоря наглядно, описать своё мышление каким-либо «своим» языком нельзя, так как это равносильно возможности посмотреть на самого себя со стороны, наблюдать собственные мысли «изнутри», в процессе их формирования, до их появления в своей голове. Что, очевидно, не имеет смысла.

Можно возразить, что ИИ — это тоже источник языка, при этом ИИ программа, и ИИ может сам писать программы, а значит, вероятно, сможет описать и сам себя.

Однако ИИ как раз не источник языка — источник языка мы, так как ИИ обучается на уже готовых текстах. У нас же изначально никаких текстов не было, язык создавался самим человеком, и этот процесс продолжается, язык трансформируется, развивается.

Но, даже имея наши тексты ИИ, всё равно не сможет описать себя. Причина принципиально та же, что и в случае «описания себя» арифмометром или калькулятором, — всё это слишком простые системы для столь сложных действий.

Мир ИИ — это мир наших текстов, изображений, видео. ИИ может найти в этом мире какие-то данные о себе и других моделях ИИ и обобщить их в некое «описание себя», причём только в том случае, если ему будет дана такая команда. Другими словами, фактически это мы опишем ИИ, начиная от команды и заканчивая самим текстом, а не ИИ опишет себя. При этом ИИ не сможет скомпилированное таким образом описание проверить, так как представление о верном и не верном ему формируют те же наши тексты, а не его реальное устройство, о котором он на самом деле ничего не знает. В результате его ответ будет любой, лишь бы он соответствовал данным, на которых он обучен.
                Точно так же калькулятору всё равно, сколько будет дважды два, — это просто программа, как она написана, таков и будет ответ. ИНС — это такая же программа, которую мы всего лишь не создаём сразу готовой, как в случае калькулятора, а «подгоняем» под решение задачи обучением, поэтому ИНС точно так же всё равно, что отвечать.

Неудачей, естественно, окончится и попытка создать систему, которая сможет самостоятельно прийти к идее описания себя, не опираясь на уже известное нам, как когда-то к этой идее пришли мы. То есть фактически самостоятельно эволюционировать из состояния, когда ИИ ещё не имеет никакого знания программах, языках программирования, схемотехнике, искусственных нейронных сетях и так далее. Причина неудачи в том, что самостоятельная эволюция ИИ ограничена, он будет разрушен средой задолго до того, как сколько-нибудь значительно изменится его опыт, относительно той основы, которая была заложена в него нами.

Дело в том, что поведение ИИ жёстко задано устройством системы — необходимость обучения само по себе не делает ИИ чем-то большим, чем калькулятор. Поэтому окружающая среда сама по себе не может подвигнуть ИИ к какой-либо серьёзной эволюции, качественно новой идее, она может только ИИ разрушить, как она разрушит тот же калькулятор или арифмометр. Как следствие, возможность описания себя всё равно должна быть заложена в ИИ ещё в момент его создания.

Наоборот, в отличие от калькуляторов, в основании перестроения организмов в ходе эволюции или перестроения активности мозга в процессе мышления, когда одна мысль сменяет другую, лежат описанные ранее чувствительность к начальным условиям и самоорганизация — способность таких физических систем, которыми является жизнь, скачками трансформироваться из одного активного упорядоченного состояния к другому активному упорядоченному.

В случае эволюции «активные упорядоченные состояния» — это новые организмы, в случае мышления — это новая ритмическая картина в мозге, переход к которой ощущается как переключение внимания, смена линии поведения, что всегда происходит более или менее выраженными скачками от одного не бессмысленного действия к другому такому же.

В свою очередь, суть активности таких самоорганизованных физических систем, к которым относится жизнь, — это гомеостаз, поддержание постоянства своего внутреннего состояния, то есть стремление к самосохранению. Как это ни покажется странным, но ритмическая картина нейронной сети мозга, как возникший в хаосе порядок, точно так же противостоит разрушению, как и весь организм в целом, поэтому нервная регуляция — это уровень гомеостаза всего организма, а не что-то из него выделенное.

Таким образом, перестроения, происходящие в ходе эволюции или в работе мозга, всегда представляют из себя новый путь к самосохранению в данных условиях, а естественный отбор приводит к тому, что в конечном итоге выделяется наиболее оптимальный — возникает новый вид животных или выделяется новое глобальное направление поведения, в случае эволюции человека связанное в том числе и с исследованием себя. В результате такие физические особенности жизни означают, что устройство биологических систем можно задать грубо — физика и естественный отбор всё равно сделают своё дело. 

У ИИ ничего этого нет, в отсутствие чувствительности к начальным условиям его связь со средой гораздо менее интенсивная. Он не чувствует среду и не стремится к самосохранению. Как следствие, устройство ИИ нельзя задать грубо, эволюция ИИ должна быть просчитана заранее. В ином случае поведение ИИ быстро станет среде неадекватным, и он будет ей разрушен. Поэтому или фактически опять же мы сами зададим ИИ путь к описанию себя, то есть опишем ИИ мы, а не ИИ опишет себя, или не будет ни описания, ни ИИ.

В итоге идея «описания себя ИИ» попросту не имеет смысла. ИИ качественно проще человека и не может существовать в нашем мире без нас. ИИ существует и развивается не как мы — в реальной среде, элементом которой являются накопленные человечеством знания, а в качественно более простом мире накопленных человечеством знаний, элементом которых является среда, и никак иначе он сколько-нибудь долго существовать и развиваться не может. Поэтому наши понятия применимы к ИИ столь же ограниченно, насколько ИИ физически отличается от нас.


7.2. Физические основания жизни, или Что не может искусственный интеллект

Мы подошли к основной части главы, в которой раскроем физические основания сделанных ранее выводов, в том числе уточним выводы, сделанные в первой части этой главы. Прежде чем приступить к изложению, ещё раз напомним — тот факт, что мы «не язык», говорит о принципиально разнице между нами и тем, что мы создаём. То, что мы создаём, нам понятно, мы сами это придумали, рассчитали, соединили. Наоборот, принципы функционирования биологических систем — которые создают — могут поэтому показаться неправдоподобными, сложными для понимания и потребуют умения обобщать, видеть в явлениях частного масштаба то, к чему приводит их взаимодействие на масштабе целого. Тем не менее это реальные и в целом достаточно хорошо известные физические процессы. Вначале скажем о том, что эти явления представляют из себя в целом, и постепенно раскроем содержание сказанного.

С точки зрения физики клетка, мозг, организм в целом — это диссипативные структуры/системы. Диссипативные системы — это открытые термодинамически неравновесные системы, такие, которые, вследствие интенсивного обмена со средой веществом/энергией (поэтому они и «открытые»), находятся вдали от термодинамического равновесия. По этой причине в диссипативных системах возможно образование диссипативных структур.

К диссипативным структурам можно отнести все структуры организма от клетки до синхронной активности нейронов, образующей ритмы мозга, поэтому организм в целом можно называть как диссипативной системой, так и диссипативной структурой. Надо сказать, эти термины изначально обозначали чрезвычайно простые по сравнению с организмом явления, поэтому в случае отнесения к ним жизни могут выглядеть неподходящими. Тем не менее общие принципы одинаковы, поэтому они применимы и к жизни.

Заметим также, термин диссипативные системы имеет и другое, очень широкое толкование, фактически обозначающее все системы, в которых часть энергии рассеивается — например, вследствие трения (трение приводит к тому, что часть энергии преобразуется в тепло и рассеивается в среде в виде беспорядочного теплового излучения), к каковым, по сути, относятся все реальные системы.

Как уже было сказано, особенностью «наших» диссипативных систем является их интенсивный обмен со средой энергией/веществом. Обмен со средой неупорядочен, поэтому реакции диссипативных систем нелинейные, состояние высоко неравновесное, неустойчивое, чувствительное. В результате поведение хаотическое, то есть выглядит случайным, беспорядочным.

Однако ещё одной особенностью диссипативных систем является их способность к самоорганизации, упорядочению, когда возникает диссипативная структура. Есть разные типы самоорганизации. Например, кристаллизация — это тоже самоорганизация (фазовый переход первого рода), но диссипативная самоорганизация другая. Это спонтанное, то есть без какого-либо специфического «организующего» внешнего воздействия, появление в хаотической динамике элементов системы согласованности, наблюдаемой на масштабах всей системы.

Другими словами, диссипативная самоорганизация — это появление в хаосе (или «вместо хаоса») некоторой упорядоченной структуры, которая существует не потому, что её элементы жёстко связаны, как в том же кристалле, а потому что они согласованно движутся. Простой пример диссипативной самоорганизации — ячейки Бенара, более сложный — класс химических реакций Белоусова — Жаботинского (см. рис. ниже). Последние имеют важнейшее значение для жизни — например, они отвечают за разметку формирующегося органа в ходе морфогенеза (подробнее о морфогенезе скажем позже).

Самоорганизация — это очень необычное явление, так как мы привыкли, что среда всё только разрушает — например, то, что мы создаём. Однако откуда тогда берётся то, что мы создаём? Почему часы или автомобили не возникают сами, как возникли живые организмы? Потому что они очень сложные? Но мы ещё сложнее, много сложнее. Тогда как в природе возникает сложность, порядок? Ведь порядок, да ещё и сложный, с точки зрения теории вероятности является фактически абсолютно невероятным. Возможных неупорядоченных состояний материи просто-таки несравнимо больше, чем упорядоченных. Поэтому, как кажется, много более вероятно, что вещество, предоставленное само себе, всегда будет находиться в состоянии беспорядочном, чем в динамике молекул вдруг возникнет согласованность. Даже если островки порядка и будут где-то иногда возникать, то этот порядок будет простой, и это будут кратковременные, то есть именно случайные события, а не массовое и к тому же постоянно усложняющееся явление, к каковым можно отнести жизнь.












а)                б)

Рис. 4. а) реакция Белоусова — Жаботинского, б) ячейки Бенара.

Ответом на эти вопросы является самоорганизация, её различные проявления. Например, создаваемые нами объекты порождены нашим мозгом, но сам мозг уже некому создавать, он создаётся и усложняется сам, среда только поставляет энергию/вещество.

Тем не менее, несмотря на необычность самоорганизации, её механизмы в целом понятны, а их конкретная реализация в разных типах систем очень разнообразна и может быть как простой и легко объяснимой, так и очень сложной.

Что нужно для диссипативной самоорганизации, какими свойствами должна обладать система?

Диссипативные системы — неравновесные. Как и любое неравновесие (стоять на одной ноге, например) — это состояние неустойчивое, напряжённое, флуктуирующее, чувствительное, активное. Ещё одно свойство неравновесных систем — это свойство целостности, которое чрезвычайно важно для самоорганизации (а значит, и для жизни). Суть целостности в том, что неравновесная система может реагировать как одно целое, например, самое ничтожное воздействие может привести к тому, что поведение сразу всей системы качественно изменится. Простой пример неравновесной системы и качественного изменения поведения сразу всей системой как одним целым — сход снежной лавины или обрушение песчаной кучи при малейшем прикосновении.

Песчаная куча или снежная лавина — это простой пример неравновесной системы, после разрушения система приходит в состояние равновесия и беспорядка и активность прекращается. Разница с диссипативными системами в том, что диссипативная система открытая, поэтому флуктуации (те самые «сходы лавин» или «обрушения песчаных куч», возникающие внутри системы) в них происходят постоянно. Однако вместо того, чтобы оставаться только «актом разрушения», в диссипативных системах, наоборот, всё это становится «актом созидания», так как, вследствие интенсивного обмена со средой и флуктуаций, в динамике элементов системы в некоторый момент скачком появляется согласованность, то есть диссипативная структура. Подробнее об «акте созидания» скажем позже, а пока запомним, что именно неравновесное состояние и, как следствие, целостность позволяет диссипативной системе перестраиваться как одно целое, скачком — от беспорядочного поведения сразу к упорядоченному, без сколько-нибудь выраженных промежуточных этапов.

В свою очередь, способность поддерживать упорядоченное состояние, несмотря на обмен со средой и отсутствие жёстких связей между элементами, означает, что другой стороной диссипативной самоорганизации является гомеостаз. Гомеостаз — это саморегуляция, способность открытой системы сохранять постоянство своего внутреннего состояния посредством скоординированных реакций, направленных на поддержание динамического равновесия. Интенсивный обмен со средой, с одной стороны, возмущает систему и тем самым как будто стремится её разрушить, но с другой — он же даёт системе энергию на поддержание упорядоченного состояния.

Перестроение диссипативной системы, когда её поведение качественно меняется, называется неравновесный фазовый переход (в отличие от фазовых переходов, считающихся равновесными, например, той же кристаллизации). Неравновесный фазовый переход происходит как переход через точку бифуркации. Бифуркация — это качественное изменение поведения системы при бесконечно малом изменении её параметров.

Вспомним, мы уже об этом говорили, связь качественного изменения поведения с событиями сколь угодно малого характера — это чувствительность к начальным условиям. Более строго, чувствительность к начальным условиям — это когда близкие траектории в фазовом пространстве отдаляются друг от друга с экспоненциальной скоростью. Проще говоря, бесконечно малое изменение начальных условий приводит к сколь угодно большому расхождению поведения систем с течением времени. Поэтому, например, даже самая ничтожная разница в условиях или устройстве систем приводит к тому, что системы быстро приобретают всё большую индивидуальность. Чувствительность к начальным условиям известна также как эффект бабочки, подразумевая, что слабые потоки воздуха от её крыльев, как переход через точку бифуркации, могут стать решающим фактором образования урагана где-то на другом конце Земли, вследствие их многократного усиления в атмосфере за какое-то время.

Обратим внимание, диссипативная самоорганизация — это упорядочение хаоса, то есть неустойчивость и флуктуации остаются, но в целом, на общем масштабе, в движении элементов системы будет наблюдаться согласованность, поэтому чувствительность к начальным условиям так же теперь ведёт к индивидуальности частного масштаба поведения систем.

Итак, образование диссипативных структур происходит как неравновесный фазовый переход, который, в свою очередь, является переходом через точку бифуркации, а бифуркация — это качественное изменение поведения системы при бесконечно малом изменении её параметров.  Но ни одна теория не описывает материю на элементарном уровне — а именно этот уровень и есть «бесконечно малый». Следовательно, как конкретно происходит переход узнать нельзя в принципе. Например, сейчас наиболее фундаментальной теорий микромира является квантовая механика, но в квантовой механике отсутствует экспоненциальная чувствительность к начальным условиям, то есть поведение системы в точке бифуркации выходит за границы применимости КМ.

В итоге, так как система в точке бифуркации не имеет пределов чувствительности, предсказания поведения диссипативных систем отличаются принципиально высокой неопределённостью. Никакое осуществимое на практике измерение не может дать достаточной информации для сколько-нибудь точного предсказания состояния диссипативной системы в сколько-нибудь отдалённом будущем или прошлом. Диссипативной системой является любой организм, поэтому поведение всего живого тоже отличается высокой неопределённостью.

Теперь, узнав самое общее, рассмотрим как конкретно происходит самоорганизация на примере одной из самых простых диссипативных систем — ячеек Бенара.

Ячейки Бенара — это возникновение упорядоченности в виде цилиндрических валов в интенсивно подогреваемой снизу жидкости. При  преодолении некоторого критического значения интенсивности нагрева плавная диффузия жидкости с разной температурой не успевает произойти. В результате в жидкости скачком возникают валы, вращающиеся навстречу друг другу (как сцепленные шестерёнки), которые переносят нагретую жидкость вверх и остывшую вниз.

Конкретно происходит следующее. Рост интенсивности обмена со средой ведёт к тому, что резко увеличивается скорость движения молекул воды, они перемещаются всё более беспорядочно. Их столкновения становятся всё более энергичными, то есть растёт количество и сила флуктуаций, развивающихся внутри системы аналогично обрушению куч песка или сходу снежных лавин из примеров ранее, динамика системы беспорядочная, хаотическая. Одновременно флуктуации разрушают плавную конвекцию тепла снизу вверх, он становится всё более затруднён, как следствие, растёт неравновесное, напряжённое состояние системы, как будто всё сильнее сжимают пружину.

При этом во взаимодействии флуктуаций, то есть, по сути, конкуренции за возможность своего дальнейшего развития, какие-то направления движения молекул будут взаимно подавляться, какие-то, наоборот, взаимно усиливаться, достигая всё больших масштабов энергии — при том, что развитие флуктуаций по мере роста их количества и силы будет становиться всё более затруднённым. В результате в какой-то момент не имеющая выхода растущая энергия резко высвободится, и вся система, как одно целое, скачком перейдёт через точку бифуркации, все элементы системы фактически одновременно и со всех сторон системы придут в упорядоченное движение по некоторым отобранным в масштабе всей системы глобальным направлениям.

В более общем смысле в ходе самоорганизации в системе сами собой выделяются степени свободы (куда можно двигаться, как изменяться), по которым энергия переносится с меньшим сопротивлением, тем самым поведение всех элементов системы упорядочивается в направлении этих степеней свободы.

Этот процесс и есть диссипативная, или неравновесная самоорганизация, неравновесный фазовый переход. Вся система, как одно целое, скачком переходит через точку бифуркации в качественно новое, упорядоченное состояние — хаотическое поведение элементов системы скачком упорядочивается, на масштабе всей системы возникает некоторая макроструктура их согласованной активности — в сосуде с водой возникают ячейки Бенара.

После чего уже все происходящие в системе флуктуации или работают на поддержание возникшего порядка, совпадая с ним по направлению, или подавляются массами согласованно движущихся элементов. Другими словами, одновременно с появлением порядка начинается гомеостаз.

Вот как описал самоорганизацию ячеек Бенара Илья Пригожин, бельгийский физик российского происхождения, лауреат Нобелевской премии по химии 1977 года с формулировкой «за работы по термодинамике необратимых процессов, особенно за теорию диссипативных структур»: «Однако пока величина градиента температуры не превышает некоторого критического его значения, эти флуктуации гасятся и исчезают. Напротив, когда величина градиента температуры превышает его критическое значение, амплитуда некоторых флуктуаций возрастает, что в конечном счете приводит к формированию макроскопического потока. В результате возникает новый надмолекулярный порядок, по существу представляющий собой гигантскую флуктуацию, стабилизируемую благодаря обмену энергией между системой и окружающей ее средой. Это и есть порядок, характеризуемый наличием в системе диссипативных структур.» (Время, структура и флуктуации. Нобелевская лекция по химии. И. Пригожин, 1977).

Вспомним предыдущие главы и ещё раз скажем о сложности понимания систем, «которые создают».

Флуктуации, их появление, развитие и конкуренцию, нельзя точно описать или непосредственно наблюдать. Поэтому явление самоорганизации, как и гомеостаз, несводимо к последовательности событий. Можно только более или менее умозрительно представлять, что происходит в системе, а в описании исходить из общих параметров системы и её обмена со средой.

Как следствие, понимание самоорганизации, когда разнонаправленная хаотическая динамика вдруг сама собой преобразуется в согласованную, или гомеостаз, когда согласованная динамика сама собой поддерживается, при том, что в системе нет жёстких связей между элементами, всё это требует значительного уровня обобщения, непривычного для нашего «последовательного» ума.

В результате для многих людей самоорганизация остаётся непонятной, некой абстрактной философской терминологией, которой подменяют реальное знание. Но, повторим, в ячейках Бенара нечего наблюдать более глубоко, чем систему в целом, потому что чем глубже мы будем наблюдать, тем больше будем видеть только хаос, а не какие-либо причины появления ячеек Бенара или их существования. Более того, глубоко наблюдать и вовсе невозможно, так как слишком пристальное наблюдение приведёт к тому, что обмен со средой будет нарушен, а без него не будет ни самоорганизации, ни гомеостаза, и наблюдать будет попросту нечего. Естественно также, что чем сложнее самоорганизующиеся системы рассматривать, тем сложнее будет их понять, разрыв между тем, что можно описать, и тем, что можно только представить, будет расти. В том числе это затрудняет популяризацию физической стороны жизни.

Но, тоже повторим, в той или иной степени так и должно быть. Наше целенаправленное перемещение в среде, поэтому последовательное переключение внимания и потому столь же «последовательный» язык, в том числе математический, как выразитель точного знания, ясного понимания пути от предпосылки к выводу — это только итог работы той физической системы, которой являемся мы, а не суть.

Тем не менее это ещё не всё, что можно сказать о самоорганизации и о нас как о самоорганизующихся системах, поэтому продолжим.

Как уже говорилось, гомеостаз — это саморегуляция, способность открытой системы сохранять постоянство своего внутреннего состояния посредством скоординированных реакций. Особенностью гомеостаза является то, что вся внутренняя, структурная и функциональная организация системы способствует сохранению баланса. Например, очевидно, что в ячейках Бенара нет никаких центров, уровней или структур, которые могли бы организовывать движение молекул воды, и тем не менее ячейки не разрушаются. Действительно, как можно видеть в описании самоорганизации, «скоординированные реакции» возникают сами собой, всего лишь как сочетание интенсивного обмена со средой и флуктуаций, никакая специальная структура, управляющая поддержанием гомеостаза, не нужна. Поэтому, например, чем сложнее диссипативная структура, тем в той же степени сложнее её гомеостаз, так как его поддерживает сразу вся система.

Если интенсивность обмена со средой продолжает расти, то диссипативная система может так же скачком усложняться, эволюционировать. Например, при дальнейшем увеличении интенсивности подогрева каждый вал ячеек Бенара в какой-то момент распадается на два вала меньшего размера, и в пределе возникает турбулентный хаос.

Теперь обратим внимание на три важных обстоятельства.

Во-первых, если поддержанием гомеостаза занимается вся диссипативная система как целое на всех уровнях организации, то всё поведение системы суть поддержание гомеостаза, ничем другим система не занимается. Поэтому, например, любое её усложнение — это не появление у неё неких новых функций, а усложнение одной — функции гомеостаза.

Наш организм, как тоже диссипативная система, только очень-очень сложная, тоже поддерживает гомеостаз как одно целое, он тоже ниоткуда не управляется, всё наше поведение — это те же самые «скоординированные реакции» поддержания гомеостаза, мы в этом ничем не отличаемся от ячеек Бенара. Например, мозг, как часть организма, управляет мышцами, а не гомеостазом. 

Во-вторых, происходящие в системе флуктуации фактически являются сигналами среды, посредством которых система постоянно «чувствует» среду, изменяясь непредсказуемо и поэтому как будто случайно, но на самом деле тонко учитывая окружающие условия в процессе эволюционных переходов или в ходе гомеостаза.

В-третьих, чтобы флуктуации были возможными, система должна представлять из себя «континуум», «объём» вещества, где они происходят, неравновесную среду. В ином случае это будет качественно более простая модель гомеостаза, так как той высочайшей взаимосвязи поведения со средой добиться будет невозможно.

Жизнь много более сложная диссипативная структура, чем ячейки Бенара. Процессы самоорганизации в организме носят сложный многоуровневый характер, проявляя себя в относительно более равновесных и стабильных структурах, задающих общую логику процессов (мембраны клеток, молекулы ДНК, скелет, коннектом). И в менее равновесной динамике, определяющей частные параметры реакций (начиная от внутриклеточных процессов и формирования структур организма в ходе морфогенеза до синхронизации нервных импульсов нейронов). Также, в отличие от ячеек Бенара, самоорганизация биологических систем связана с химическими реакциями. Тем не менее это не меняет описанные ранее общие свойства организмов как диссипативных систем, но вносит в их поведение дополнительную сложность.

Как диссипативные структуры, мы, наше сознание, жизнь в целом — это не просто среда, а порядок в среде или, точнее, упорядоченная динамика элементов среды, выделенная таким образом из её более беспорядочного окружения.

Порядок не прямое продолжение среды, ведь он противостоит ей, сопротивляется разрушению — и в этом наша самостоятельность. Но он существует за счёт интенсивного обмена со средой — и в этом наша связь со средой. Мы не зависимы от среды, но мы и не свободны от неё.

Последнее означает, что стоит только интенсивность обмена со средой уменьшить, например, ограничить поступление кислорода — и мы исчезнем, быстро и необратимо устремимся к равновесию, распадаясь на отдельные молекулы и растворяясь в среде. Подтверждая, что гомеостаз поддерживает вся система как одно целое, организм попросту «растает», разрушится полностью. Вначале разрушится мозг, так как его связь со средой наиболее интенсивная, затем остальной организм. Мы растворимся в среде — точно так же, как в воде без следа растворятся ячейки Бенара, стоит попытаться отгородить ячейку от остальной воды или уменьшить интенсивность её подогрева.

Например, при прочих равных, показателем интенсивности обмена диссипативной системы со средой является сложность её структуры. И действительно, мозг человека в пересчете на единицу массы потребляет в 16 раз больше энергии, чем мышечная ткань; составляя приблизительно 2% от массы тела, потребление кислорода центральной нервной системой составляет более 20% от общего потребления кислорода организмом и около 50% от всей глюкозы, вырабатываемой печенью и поступающей в кровь.

В свою очередь, интенсивный обмен со средой естественным образом означает, что работа организма и особенно мозга в высшей степени зависит от среды, а не от какого-либо алгоритма, заранее предопределяющего поведение системы, а изучение этой работы поэтому в той же степени равносильно изучению среды, материи, её оснований.

Теперь скажем о стремлении к размножению. Так ли оно отличается от самосохранения?

Вначале вспомним, что мы узнали о самосохранении.

Гомеостаз — это то физическое основание, которое на уровне таких сложных диссипативных структур, как биологические системы, становится подмеченным нами в себе «стремлением к самосохранению». Как активное поведение, направленное на сохранение системой постоянными своих основных параметров, гомеостаз фактически означает появление цели, к которой любая биологическая система активно стремится — цели самосохранения. Иными словами, гомеостаз является физическим основанием поведения всех биологических систем, как активного стремления всего живого к самосохранению. Появление нервной системы позволяет биологическим системам перемещаться в среде более сложным образом, чем без неё, но любая траектория этого перемещения всё равно лежит внутри задачи самосохранения.

Как ни странно, это и описание размножения. Проверим.

Элементарной жизнью является клетка. Согласно наиболее известной гипотезе появления жизни — гипотезе мира РНК, в начале жизни были ансамбли молекул рибонуклеиновых кислот, способные к самокопированию, и соединения солей жирных кислот, самоорганизующиеся в пузырьки — липосомы, которые сами собой могут проходить циклы роста и деления, восстанавливаться после повреждений и обладающие селективной проницаемостью для разных веществ. Считается, что около 4 млрд лет назад произошло объединение липосом как элементов, способных выполнять функцию клеточной мембраны, и РНК, как элементов, способных выполнять функцию хранения генетической информации и катализа химических реакций собственного синтеза. В результате возникает клетка и начинается жизнь. РНК формирует внутреннюю среду клетки для синтеза самой себя, мембрана клетки сама собой делится, и в каждой новой клетке остаётся своя РНК. При этом РНК мутирует, свойства клетки и самой РНК меняются. Далее в ходе эволюции возникает современная ДНК-РНК-белковая жизнь, где РНК сохранилась как посредник между ДНК, которая содержит информацию о структуре белков, и белками, из которых состоят клетки организма.

Обратим внимание, напрямую к диссипативной самоорганизации относится внутриклеточная активность, морфогенез (развитие организма из одной клетки) или работа нейронной сети мозга. Образование таких высокомолекулярных соединений, как молекулы ДНК или мембраны клеток, стоит на стыке диссипативной самоорганизации и самосборки — ещё одного типа самоорганизации. ДНК и мембраны клеток — это более стабильные структуры, более равновесные, поэтому первые хранят наследственную информацию, а вторые в некотором смысле образуют «сосуд» для менее стабильных явлений. В то же время это и не кристаллы льда.

В результате, в отличие от ячеек Бенара, состояние организма как целого много более равновесное, стабильное. Тем не менее это не меняет качественное отношение жизни к диссипативным системам. Усложнение подхода в том, что каждый организм — это неравновесный активный и движущий «центр», определяющий частные параметры поведения и устройства организма, и более стабильная «периферия», определяющая структуру организма и поведение в целом. Иными словами, это то же самое сочетание порядка и хаоса, на котором построена жизнь и о котором говорилось в первой главе, только выраженное в объединении более равновесных и стабильных структур и более активных неравновесных.

В том числе из сказанного понятно, что самокопирование тоже лежит в основании жизни, как и гомеостаз. Причём самокопирование — это, очевидно, физическое основание размножения, а гомеостаз — физическое основание самосохранения. Однако, вспомним, гомеостаз — это и деление тоже (вспомним деление ячеек Бенара или липосом), когда система не разрушается, а усложняется путём деления и продолжает противостоять среде на новом уровне сложности. Поэтому жизнь сочетает в себе стремление к самосохранению и размножению, но это не такие уж разные функции, в чём-то они пересекаются. 

В то же время, как кажется, в целом они всё-таки являются разнонаправленными. На самом деле как раз в целом они ещё больше представляют из себя одно целое.

Если есть активность и есть цель, сама собой появляется тактика и стратегия, а если цели и среда обитания совпадают, возникает отбор наиболее приспособленных. В результате после объединения самоорганизации и самокопирования — самосохранения и размножения — и присущих размножению изменчивости и наследственности сам собой возникает механизм естественного отбора и начинается биологическая эволюция.

В процессе эволюции в объединении клеток возникают диссипативные системы нового уровня — колонии клеток, многоклеточные организмы, популяции организмов, социум, биосфера в целом. На масштабах таких макросистем размножение и смерть их элементов становится способом самосохранения этих макросистем, то есть способом их гомеостаза, противостояния среде, обновления и развития, посредством появления новых организмов и избавления от старых.

Поэтому размножение — это, как ни странно, не одно из стремлений, а фактически то же самое самосохранение. Размножение, стремление воспроизводить себя, как будто противоречащее задаче самосохранения, так как требует ресурсов и создаёт конкурентов в борьбе за них, на самом деле обобщает задачи отдельного организма с задачами макросистем, элементом которых он является, и жизни в целом. Например, часто встречается мнение, что любовь нерациональна. Действительно, её рациональность проявляется на уровне вида, социума, биосферы.

Далее рассмотрим эволюцию и морфогенез.

Способность диссипативных систем перестраиваться скачком, как одно целое — от одного более простого упорядоченного состояния сразу к другому, более сложному упорядоченному состоянию — лежит в основании усложнения организмов в ходе биологической эволюции. Ниже коротко скажем, как происходит морфогенез и как конкретно в нём участвует диссипативная самоорганизация. Но вначале приведём некоторые аргументы, говорящие о том, что она необходима.

Вспомним биологическую эволюцию. Случайные мутации ДНК, результатом которых становилось появление у животного какой-либо новой полезной функции, приводили к тому, что животное получало преимущество в естественном отборе. Однако проблема в том, что появление у организма любой новой функции должно быть связано с одновременным перестроением всех систем организма — кровеносной, нервной, мышечной — чтобы новое могло адекватно взаимодействовать со старым. И если бы за это перестроение отвечал только случай, то эволюции бы не произошло.

Если в ДНК зашифрован план организма, в соответствии с которым он формируется, то мутации ДНК — это, очевидно, отдельные случайные изменения этого плана. Однако в этом случае мутации должны приводить к таким же отдельным изменениям и в организме, а совсем не к взаимосвязанному перестроению всех его систем сразу. При этом вероятность появления в ДНК в одно и то же время необходимого количества строго подобранных случайных мутаций исчезающе мала, поэтому даже если бы они и могли произойти, то никак не с той частотой, которую требует эволюция.

Более того, жизнь вообще не смогла бы возникнуть, потому что «только случай» сделал бы невозможным не только эволюцию, но и само появление жизни. Ведь организм должен быть способен функционировать сразу, то есть он должен возникать сразу «живым», «целым», иначе, «возникая по частям», он будет разрушен средой — точно так же, как среда быстро разрушает любой мёртвый организм — и всё придётся начинать сначала.

Но что так упрощает задачу эволюции, позволяя ей обходиться без полного перебора? Почему в ходе эволюции происходит отбор, по сути, только наиболее эффективных из уже «функционирующих», «целых» организмов, а не отбор таковых из всех возможных сочетаний молекул? Как из всего бесконечного множества состояний материи природа выбирает сразу упорядоченное состояние биологических систем? Если это всё-таки происходит случайно, то почему не разрушается средой сразу, как ненадолго появляется и тут же тает знакомый образ в облаках, а существует миллиарды лет и при этом ещё усложняется?  Как получается, что движение мириадов молекул и протекание бесчисленного множества химических реакций происходит в организме согласованно, в едином порядке? Что их координирует? Если в ДНК всё же нет плана организма, то что им подсказывает, как конкретно нужно перестроиться, чтобы в ходе эволюции у организма могла появиться новая функция?

Всё эти вопросы говорят об одном: чтобы жизнь и эволюция стали возможными, помимо случая в природе должно было быть что-то ещё, какое-то явление, которое позволило бы первому организму возникнуть сразу целым, а также это должно быть такое явление, которое смогло бы связать отдельные случайные мутации ДНК с перестроением сразу всех систем организма. Причём, по-видимому, за всё это должно отвечать одно явление, так как и появление первого организма сразу как целого, и затем его целостное перестроение в ходе эволюции — это явно процессы одного порядка.

Как уже понятно, это явление — самоорганизация. Её самые общие элементы уже были описаны выше на примере ячеек Бенара. Однако если с ячейкой Бенара ещё можно сравнить отдельную клетку, то многоклеточный организм состоит из множества клеток. Например, увеличение интенсивности обмена со средой приводит к тому, что ячейки Бенара как будто «размножаются», делятся, как делятся клетки — из одной возникает две, из двух четыре. Но создать что-либо сложное таким путём невозможно, потому что задолго до появления сколько-нибудь сложной структуры обмен со средой станет столь интенсивным, что всё превратится в турбулентный хаос. Поэтому в случае многоклеточного организма продолжать аналогию с ячейками Бенара на самом деле нельзя, а для построения многоклеточного организма на основе всё той же диссипативной самоорганизации природа придумала морфогенез. Как он происходит?

В пространстве зародыша многоклеточного организма формирующиеся клетки выделяют специфические вещества — морфогены. В процессе диффузии этих веществ возникают упорядоченные градиенты их концентрации, которые имеют смысл разметки будущего органа. В свою очередь, эти градиенты обратно влияют на формирующиеся клетки. В результате дифференцировка клеток происходит в соответствии с необходимым устройством органа. И таким образом от общего к частному происходит морфогенез всего многоклеточного организма. Появление таких градиентов — это диссипативная самоорганизация, класс реакций Белоусова — Жаботинского (рис. 4, а), протекающих в неравновесной среде.

Таким образом, морфогенез представляет из себя один целостный процесс формирования всего организма, а не набор отдельных, в которых каждый орган формируется отдельно. Поэтому любое изменение в веществах-морфогенах, связанное с мутацией ДНК, плавно перетекает в изменение сразу всех органов и систем, в формировании которых они участвуют. Возникающая новизна в устройстве организма сама собой формируется уже встроенной в организм, а не является чем-то внешним. И далее уже отбор определяет пользу она несёт в нынешних условиях или вред. ДНК при этом не нужно содержать какой-либо план организма, достаточно лишь реагировать на вещества.

Механизм самоорганизации многоклеточного организма в 1952 году в статье «Химические основы морфогенеза» впервые описал уже упоминавшийся в первой главе известный английский математик Алан Тьюринг. Сформулированный им принцип гласил, что глобальный порядок может определяться локальным взаимодействием, поэтому чтобы получить структурную организацию всей системы, необязательно иметь план системы, а можно ограничиться исключительно заданием правил близкого взаимодействия образующих систему элементов. Как это происходит в более простом случае, говорилось во второй главе на примере клеточного автомата.

Вследствие описанных физических особенностей биологических систем, жизнь есть как таковая, и она эволюционирует, как в целом более или менее последовательное усложнение организмов по некоторым выделенным направлениям, в которых меньше сопротивление среды или больше ресурсов, из-за чего отбор по этим направлениям наименее жёсткий. Биосфера усложняется и расширяется, захватывая новые ниши, образуя новые экосистемы и связи между ними.

В том числе можно говорить о «направленности» эволюции. Потому что в ходе эволюции происходит не просто беспорядочное заполнение пространства неупорядоченными объектами и образование между ними случайных связей, а происходит всё более точное приспособление к условиям определённой функции — функции самосохранения. Как в отдельных видах и для конкретных условий, так и на масштабе всей биосферы, как единой системы, то есть помимо эволюции видов, происходит и эволюция фактически единого организма — биосферы. 

От всей биосферы вернёмся к организмам попроще и рассмотрим работу мозга как физической системы.

Организм — это диссипативная структура. Такой структурой является и каждая клетка, и весь многоклеточный организм в целом. Но в организмах с нервной системой появляется ещё один уровень диссипативной самоорганизации. Это нервная регуляция, то есть, собственно, мышление.

Сам по себе одиночный нейрон генерирует нервные импульсы хаотически, беспорядочно, а в объединении с другими нейронами импульсы сами собой упорядочиваются. Это явление синхронизации. Синхронизация хаотической активности нейронов в мозге тоже происходит посредством неравновесных фазовых переходов. В результате синхронизации образуются ритмы мозга. Далее сигналы рецепторов и поступление питательных веществ модулирует эту ритмическую картину, и на выходе нейронной сети формируется столь же упорядоченная активность нейронов, непосредственно активизирующих мышцы и железы, а в процессе обучения нейронной сети происходит усложнение этого порядка. Тем самым наше поведение тоже всегда упорядочено, активность всех мышц всегда точно согласованна и может усложняться. 

Синхронизация объясняет способность мозга проводить действия, вроде бы никак не связанные друг с другом — например, идти и говорить по телефону. Дело в том, что разные синхронизированные структуры нейронов или в целом разные ритмы в мозге — это физически в точности как разные валы ячеек Бенара или относительно устойчивые области упорядоченной динамики, наблюдающиеся в турбулентном потоке. Которые как будто бы существуют независимо друг от друга и даже могут быть описаны через собственные аттракторы, но в то же время они являются следствием более общего процесса самоорганизации всей системы и постоянно взаимодействуют.

Неравновесным фазовым переходом является в том числе каждое самое мимолётное переключение внимания, когда в сознании возникает новая мысль, образ. Нейронный коррелят внимания — селективная синхронизация ансамблей нейронов, возникающая на самой высокой частоте ритмов мозга — гамма-ритме. В свою очередь, высокая активность этих нейронов, как аттрактор, притягивая фазовые траектории других нейронов мозга, задаёт нынешнюю цель поведения.

Диссипативную самоорганизацию можно рассматривать как «сжимание» хаоса в упорядоченную макроструктуру, в которой чем меньше масштаб, тем больше сохраняется хаотичность. Как следствие, наличие в ритмической картине активности нейронов неизменной хаотической составляющей приводит к тому, что мы как будто постоянно «тестируем» среду — сюда посмотреть, тут попробовать, этим поинтересоваться. Следуя за флуктуациями фокуса внимания, поведение не точно направлено, а постоянно флуктуирует в общем направлении, где меньше сопротивление среды или больше ресурсов, то есть в направлении к лучшему качеству жизни, наиболее полному удовлетворению потребностей самосохранения и размножения.

Тем не менее это хаотичность в общем контексте порядка, поэтому она не полностью бессмысленная. Это флуктуация нашего опыта, целенаправленного движения туда, где меньше сопротивление среды или больше ресурсов, а не просто нечто действительно случайное, внешнее, по типу генератора случайных чисел. Можно сказать, что в некоторой степени эти флуктуации заданы опытом, упорядочены им. В результате постоянно выявляются новые пути, возможности, идеи. Они запоминаются, и, таким образом, со временем по мере накопления опыта поведение становится всё более организованным, сложным, всё более точно направленным в какую-то одну сторону.

Из сказанного про синхронизацию понятно, как в целом в мозге физически реализован индуктивный вывод, обобщение, появление нового знания, то есть когда внимание переключается от образа отдельных элементов к образу целого, от смысла слов к смыслу фразы, от данных к теории — как неравновесный фазовый переход.

Понятно и как происходит обучение. Новое, более сложное состояние сети, возникающее в ответ на обмен со средой, консолидируется в более равновесных и потому более стабильных элементах внутриклеточной структуры нейронов, то есть в долговременной памяти. Тем самым как будто возникает новая и более сложно организованная нейронная сеть, активность нейронов в которой изначально задана более  сложным образом. В результате поддержание нового более сложного состояния нейронной сети мозга не требует постоянного роста интенсивности обмена со средой, как это было бы необходимо, если бы речь шла об усложнении ячеек Бенара.

Однако ввиду принципиальной невычислимости перехода через точку бифуркации, его связи с флуктуациями, искусственные нейронные сети могут воспроизводить только некоторую общую логику неравновесного фазового перехода, а не действительную суть в её реальной сложности. Поэтому чувствительность, способность меняться, перестраиваться у вычислительных систем качественно ниже. Тем более не приходится говорить о какой-либо целостности вычислительных систем, ввиду отсутствия в их работе какого-либо континуума и неравновесного состояния. Наконец бифуркации связаны с флуктуациями, а флуктуации в вычислительных системах — это только сбои в работе, поломки.

Также обратим внимание, что не имеющая границ чувствительность неравновесного фазового перехода и качественный характер последующего перестроения всей системы как одного целого — суть не просто способность мышления выделять самые слабые сигналы рецепторов или самую малую разницу во времени или степени их активизации, но и способность заметить мельчайшее противоречие в опыте, после чего энергично, качественно изменить поведение, следуя новым идеям.

Таким образом, и сама жизнь в целом, и мышление в частности на всех уровнях связаны с элементарным уровнем материи. Причём связь мышления наиболее сложная, так как самоорганизация активности нейронов имеет в основании фактически ещё два уровня самоорганизации — уровень самоорганизации клеток и уровень самоорганизации многоклеточного организма как целого. В итоге чувствительность мышления, выраженная в принципиальной способности замечать сколь угодно малые события, которую мы ранее вывели чисто логически, действительно находит подтверждение в реальных физических свойствах биологической нейронной сети.

Связь жизни с элементарным уровнем матери можно аргументировать ещё одним способом. Вкратце эти аргументы уже были приведены, рассмотрим их ещё раз.

Возникающие в диссипативной системе флуктуации выглядят случайными, но на самом деле они отражают особенности конкретной системы и среды, поэтому можно сказать, что через флуктуации система как будто постоянно чувствует среду. В результате реакции системы, какими бы случайными они ни казались, на самом деле скоординированы — средой и системой, их постоянным взаимодействием. Именно эта постоянная координация и является основой диссипативной самоорганизации и гомеостаза. Но в алгоритме флуктуации не воспроизвести — они требуют реальной среды, а не виртуальной — материи, а не её описания. Иначе связь системы со средой будет настолько же недостаточной, насколько описание материи — не сама материя. А как мы выяснили, разница между материей и её любым возможным описанием всегда будет оставаться качественной — вспомним, стул не появится в нашей голове, как бы точно мы его ни представляли. Поэтому поведение диссипативных структур всегда будет качественно сложнее любого возможного алгоритма. Алгоритм — это всего лишь простой итог работы много более сложной системы, которая сама уже не алгоритм.

Сформулируем иначе. Любое изменение ритмической картины в мозге — это неравновесный фазовый переход, он происходит как переход через точку бифуркации. Его причина такая же, как и в случае ячеек Бенара — рост интенсивности обмена со средой и, как следствие, рост количества флуктуаций, в данном случае рост количества нервных импульсов, выбивающихся из общей ритмической картины. При этом те или иные изменения ритмов происходят постоянно. Например, уже говорилось, каждое самое мимолётное переключение внимания — это  неравновесный фазовый переход, смена ансамблей нейронов селективно синхронизированных на частоте гамма-ритма. Однако флуктуации — это те же самые переходы через точку бифуркации, только локального уровня. Действительно, переходом через точку бифуркации является любой нервный импульс, так как сам по себе нейрон — это хаотический автоволновой осциллятор, он беспорядочно генерирует нервные импульсы, а объединение нейронов в сеть приводит к упорядочению их активности, так возникают ритмы мозга. Точно так же с флуктуациями и неравновесными фазовыми переходами связаны морфогенез, неравновесной средой является внутриклеточная среда не только нейронов. Но переход через точку бифуркации в алгоритме не воспроизвести — мы не можем заглянуть в материю так глубоко, чтобы понять, как конкретно происходит выбор в точке бифуркации. Поэтому для нас он выглядит случайным, но на самом деле он суть чувствительность системы к начальным условиям, а это не одно и то же.

Теперь вспомним первую главу. В начале первой главы мы обещали ответить на вопрос, какие задачи недоступны искусственному интеллекту, что умеет человек, но никогда не сможет ИИ. Конечно, ответ на этот вопрос уже был дан — это самосохранение. И всё же сформулируем ответ ещё раз, более подробно. 

Вспомним, к каким выводам мы пришли ранее. Всё поведение диссипативных структур, в том числе всё наше поведение, — это гомеостаз, то есть стремление к самосохранению. Это та общая для любой жизни стратегия, общая суть поведения, его основание, которое задаёт направление всем частным реакциям, формируя любую активность в этом единственном направлении. Это то, что объединяет всех людей и вообще всё живое, что помогает нам понимать друг друга, находить общий язык даже без слов.

И эта стратегия, как мы выяснили, неразрывно связана с элементарным уровнем материи. Но для алгоритмов этот уровень сложности недостижим.

Поэтому ИИ никогда не станет ни к чему стремиться, так как в природе есть только одно стремление — реальное, физическое — это стремление к самосохранению, гомеостаз. Гомеостаз, стремление жить — это и есть суть жизни, её физическое основание, без которого ничего не имеет смысла, нет самого смысла.

Но если нет стремления к самосохранению, то нет хорошего и плохого, побед и поражений, верного и неверного, красивого и отвратительного, грусти, радости, любви или ненависти. ИИ не личность, потому что без стремления к самосохранению у ИИ нет воли — добиваться желанного, подчинять себе мир, ведь у ИИ нет желанного. Нет ничего, потому что вне стремлений ни у чего нет смысла. ИИ всё всё равно. ИИ машина, но это не жизнь. И не смерть, которой у ИИ тоже нет — вспомним о постоянной активности, упорядоченности и целостности диссипативных структур и, наоборот, о качественно противоположном состоянии — быстром, полном и необратимом распаде на отдельные молекулы той системы, которая больше не может поддерживать гомеостаз.

Известный советский физик Я. И. Френкель различие живой и неживой природы сформулировал следующим образом: «Нормальное состояние всякой мертвой системы есть состояние устойчивого равновесия, в то время как нормальное состояние всякой живой системы, с какой бы точки зрения она не рассматривалась (механической или химической), есть состояние неустойчивого равновесия, в поддержании которого и заключается жизнь». Открытость среде, нахождение в неустойчивом, критическом состоянии и потому как будто ненадёжность и случайность, но на самом деле чувствительность, активность, сложность и упорядоченность, являются фундаментальными свойствами жизни.

Самоорганизация, гомеостаз, неравновесные фазовые переходы — это физическое основание, на котором потом возникает то, что начинается с био- или нейро-. Поэтому поведение биологических систем всегда целостно, едино, подчинено общему смыслу гомеостаза. Это одна бесконечная реакция, никогда не прекращающаяся активность, в которой мы выделяем отдельные элементы. Поток, который наполняют возникающие в ходе эволюции новые организмы и их личный опыт, но этот поток никогда не останавливается и не поворачивает вспять, потому что всё новое — это тоже он.


7.3. Моделирование мозга

Но так ли это всё важно? Что следует из того, что у ИИ не будет стремления к самосохранению, не будет чувств, сознания? Ответим на этот вопрос ближе к концу главы, а пока уточним некоторые сделанные ранее выводы и рассмотрим основные проблемы, возникающие в моделировании мозга. 

Как мы выяснили, мозг — это только «внешне» нейронная сеть, но на самом деле — это диссипативная система, имеющая нейросетевую организацию. По причине связи с элементарным уровнем материи, точность представления о работе мозга значительно ограничена, причём сложная нейросетевая составляющая ограничивает это представление ещё больше. Поэтому если из «внешней» нейросетевой организации мозга что-то перенести в искусственные системы можно, то его внутренняя «диссипативная сторона» всё равно не позволит воспроизвести работу мозга во всей сложности. В свою очередь, чем окончится попытка заменить «качество» сложности мозга «количеством» искусственной нейронной сети, говорилось во второй главе и ранее в этой главе.

Выражением ограниченного представления о физических механизмах работы мозга является проблема нейронного кода — вопрос того, как мозг кодирует информацию. Что меняется в работе мозга, когда мы видим свет яркий или тусклый, синий или голубой? Современные модели фундаментальным элементом этого кода рассматривают спайк нейрона (потенциал действия, нервный импульс). Предполагается, что информация содержится в количестве спайков за конкретное время (частотный код) или в их точном положении во времени (временной код). При этом сами спайки рассматриваются как идентичные дискретные события.

Однако реальные спайки являются континуальными колебательными процессами и отличаются периодом, амплитудой и формой фазового портрета, индивидуальными у каждого нейрона.

Для описания возбуждения нейронов широко применяются статистические методы, методы теории вероятностей и стохастических процессов. Но все эти теории всё равно являются вариациями модели дискретного спайкового нейрона. Поэтому они в лучшем случае охватывают только часть наблюдаемых явлений и не могут объяснить другие, и в целом не соответствуют фактической эффективности мозга.

Как кажется, очевидным решением проблемы будет более точная модель нейрона. Однако даже на нынешнем уровне детализации нейронные сети из биологически правдоподобных нейронов требуют огромных вычислительных ресурсов и суперкомпьютеров уже на уровне десятков тысяч нейронов. Причём, естественно, не все свойства нейронов в той степени понятны, чтобы их можно было перенести в модель.

И наконец точность моделей ограничивает причина более общая и уже неразрешимая. Её частью является описанная выше «проблема дискретного спайка», а значение этой причины растёт тем стремительнее, чем точнее становятся модели.

Чтобы ответ был более наглядным, зададимся вопросом — почему вообще возникла идея, что искусственная нейронная сеть — это некий искусственный аналог интеллекта? Например, вряд ли кто-то подумает, что программа может выполнять функции желудка, печени или лёгких. Очевидно, что программа сама по себе не переварит пищу, не очистит кровь и не насытит её кислородом, максимум она может только лишь управлять устройствами, которые будут моделировать эти функции (вспомним, программа — это алгоритм, а алгоритм — это инструкция). Почему же мы полагаем, что она может мыслить? Потому что считаем, что мозг — это именно некая управляющая система, поэтому важно не то, как эти команды конкретно реализованы «в материале», то есть как конкретно они передаются или как конкретно мозг их вырабатывает, а важна только их абстрактная суть, логика.

Проще говоря, кажется, что можно отделить от материи мозга функцию мышления, и затем реализовать её любыми удобными способами и на других носителях аналогично тому, как по-разному можно реализовать, например, отсчёт времени — часы могут быть солнечные, водяные, песочные, механические, кварцевые, электронные, атомные, наручные и башенные, большие и маленькие.

Однако из аргументов предыдущих глав следует, что в мышлении важно всё, вплоть до элементарного уровня материи. Поэтому, чтобы воспроизвести функцию мышления, необходимо воспроизвести весь мозг в точности, что невозможно. Иными словами, непосредственная связь «функции мышления» с элементарным уровнем материи фактически говорит о том, что эта функция не существует. Одним из её наглядных проявлений является описанный выше, как оказывается, совсем не дискретный, то есть «не абстрактный», нервный импульс.

Принципиальное несуществование функции мышления — это, по-другому, принципиальная индивидуальность любого мозга, любой личности. Вспомним, чувствительность к начальным условиям означает, что даже похожие системы со временем приобретают всё большую индивидуальность. Но нет в точности одинаковых условий, а мозг — это именно чувствительная к начальным условиям система, поэтому любую разницу условий мозг обязательно «заметит». Например, монозиготные близнецы имеют идентичный генотип, в том числе развиваясь в одной утробе в одинаковых условиях, очень похожи внешне, но не до отпечатков пальцев или подробностей внутренних органов, также различается их опыт и даже характер.

Другими словами, чем больше система индивидуальна, тем меньше её поведение выводимо из чего-либо, что может быть применимо к другому, известно всем. Иначе, например, можно будет создать её копию. И так как наше поведение в целом похожее, но в подробностях невыводимое, то точно так же на общем масштабе мы все более или менее одинаковые, но на частном принципиально своеобразные.

Причём на практике проблемы в исследовании таких систем, как мозг, организм, клетка возникают задолго до приближения к элементарному уровню материи. Вспомним первую главу: понять себя и понять всё — это одно и то же, поэтому приближение познания к элементарному уровню материи — это не приближение к черте, за которую не переступить. Такой черты — предела познания — нигде нет, но продвижение как вглубь материи, так и вглубь мозга становится всё труднее.

В случае мозга и в целом любых диссипативных систем трудности связаны с тем, что наблюдать, с одной стороны, требуется максимально пристально, так как на поведение диссипативной системы может критически повлиять событие самого ничтожного характера, с другой — ввиду того, что система ведёт интенсивный обмен со средой как одно целое, и именно этот обмен её как целое стабилизирует, то нарушение целостности, попытка разобрать систему на детали, «вскрыть» её, приведёт к нарушению обмена, и вся система полностью разрушится, попросту «растает», информация об её устройстве будет утрачена. И наконец по причине чувствительности неравновесных систем, интенсивное воздействие с целью наблюдения внутренних процессов минимум изменит их естественный ход, а максимум опять же систему разрушит — и опять задолго до необходимой глубины наблюдения. 

Вспомним, что все нейроны разные. Причина этого в том, что с диссипативной самоорганизацией связано не только упорядочение хаотической активности нейронов, но и морфогенез, то есть не только функционирование биологической нейронной сети, но и само её формирование, в той или иной степени не прекращающееся на протяжении всей жизни.  Поэтому индивидуализация биологической нейронной сети связана не только с обучением и изменением весов связей нейронов, но и с трансформацией самой структуры нейронной сети мозга.

Конкретная среда обитания животного не только обучает нейронную сеть посредством изменения весов связей нейронов, определяя появление личного опыта, но и меняет саму нейронную сеть как целое, приспосабливая каждый нейрон к своему «месту» в сети в широких пределах. Что также означает появление нового опыта, обучение. Только опыта более общего характера, потому что если вся нейронная сеть — это опыт, то более общие параметры сети — это более общий опыт.

Свойство мозга перестраиваться называется нейропластичностью, и в целом оно связано с морфогенезом. Как и генерация нейроном спайка, морфогенез тоже имеет в основании неравновесные состояния, флуктуации и бифуркации. Если на уровне нейрона способность перестраиваться заключается в возможности оперативно менять частоту генерации спайков, то на уровне всей сети это перестроение нейронов более общего характера, включая сам их рост и оптимизацию их связей, что также влияет на спайки.

Ранее было сказано, что в искусственных нейронных сетях широко применяются статистические методы, методы теории вероятностей и стохастических процессов. Дело в том, что поведение человека и вообще работу любой нейронной сети тоже можно связать со статистикой (а значит, вероятностями и случайными событиями), так как чем чаще ситуация повторяется, тем лучше она запоминается, приобретая больший вес в поведении.

Вероятностные алгоритмы применяются в обучении искусственных сетей. Например, это популярный метод отжига — техника оптимизации, использующая упорядоченный случайный поиск (то есть некоторые параметры алгоритма выбираются случайным образом) на основе аналогии с процессом образования в веществе кристаллической структуры, в том числе при отжиге металлов. Метод отжига позволяет найти более или менее оптимальное состояние сети в процессе обучения без перебора всех возможных состояний, которых может быть очень много. Это эвристический алгоритм, он не гарантирует самый оптимальный результат, но в некоторых случаях позволяет его улучшить, по сравнению с другими методами, и в целом применяется в тех задачах, где сложно произвести полный перебор и найти точное решение.

Но представим статистическую модель человека. Поведение этого человека будет не логически адекватным, а статистически, то есть отражать не реальность, а некую обобщённую статистическую модель реальности. Если эта модель простая, то такой человек будет здороваться не потому, что кого-то встретил, а потому что по статистике он должен поздороваться некоторое количество раз за некоторый промежуток времени. И наоборот, чем полнее статистика, тем логически точнее будет поведение.

Последнее, например, заметно в чат-ботах. Нейронную сеть обучают на множестве текстов. В результате чат-бот начинает различать контекст вопроса, в соответствии с которым, достраивает вопрос словами (токенами) ответа. Или, иначе говоря, достраивает вопрос теми словами из обучающих текстов, которые наиболее часто встречались в контексте слов вопроса, то есть словами наиболее вероятными. Каждое новое слово ответа меняет общий контекст слов, теперь уже состоящий из слов вопроса и предыдущих слов ответа, в этом новом контексте подходит уже новое слово — и так далее, пока наиболее вероятным продолжением не будет окончание ответа. 

Однако за счёт высочайшей чувствительности, недостижимой ни в каких вычислительных системах, и пластичности, как способности перестраиваться, целостно меняя работу в ответ на мельчайшие изменения условий, в мозге эта статистика учитывает среду качественно полнее и точнее и становится уже действительно логикой. Поэтому логически адекватной реальному человеку модель человека станет только тогда, когда её сложность будет равна оригиналу. Пока этого не произойдёт, будут оставаться такие же проблемы адекватности, которые были описаны на примере чат-ботов во второй главе. Относительно обучающих примеров поведение системы будет статистически верным, но относительно реального мира логически неадекватным. И вспомним, в той же главе мы тоже пришли к выводу, что с целью повышения адекватности ответов искусственного интеллекта надо увеличивать сложность систем, опять же приближая их к сложности человека.

Ещё раз вспомним, что в мозге все нейроны разные. В искусственных сетях — одинаковые. Кажется, зачем даже пытаться повторять мозг в этом его разнообразии? Как ранее говорилось, в биологических системах на всех уровнях есть хаотическая, случайная составляющая, и за это разнообразие наверняка отвечает именно она. Зачем её воспроизводить?

Однако, как говорилось в первой и этой главе, хаотичность в биологических системах неотделима от порядка, потому что и сам порядок, и его флуктуации есть следствие интенсивного обмена системы со средой, неравновесного состояния и чувствительности. Иными словами, индивидуальность мозга — это не беспорядок, а следствие глубочайшей «встроенности» мозга в среду. Каковая позволяет ему тонко чувствовать среду и формировать поведение адекватно ей, преобразовывая чувствительность и хаос неравновесных состояний во внимательное движение к самосохранению. В результате, с одной стороны, мозг является элементом гомеостаза всего организма как одного целого, с другой — мозг становится координатором, ведущим остальной организм к выделенной им цели, управляя мышцами и железами.

Поэтому искусственный нейрон как обобщения всего множества реальных нейронов — это как обобщённый кирпич для строительства дома, который столь сложен, что все кирпичи в нём индивидуальные. Дом из обобщённых кирпичей будет настолько же проще, насколько они подверглись упрощению.

Причём в нашем случае проблема ещё и в том, чем ближе мы подбираемся к строительству такого сложного «дома» — искусственного интеллекта, сравнимого по сложности с человеческим — тем больше будет требоваться превращение вычислительной системы в живой развивающийся организм, в диссипативную систему. Но свойства диссипативных систем противоположны свойствам систем вычислительных. Флуктуации — это сбой в работе у одних, и связь со средой у других; неравновесное состояние — это нестабильность работы у одних, и основа порядка у других. Одни системы среда только разрушает, другие создаёт и стабилизирует; одни системы надо вначале собрать, а потом включить, другие возникают сразу работающими и прямо работающими растут; одни следует выключить и изолировать от среды, если надо, чтобы они подольше сохранились, другие нельзя выключить и не стоит изолировать.

В результате если в моделях тех процессов, которые протекают близко к равновесию, достаточно выразить только некоторую внешнюю суть происходящего, ввиду того, что процессы на более глубоком уровне материи всё равно не оказывают на течение явления никакого значимого влияния, то адекватная модель мышления должна обладать точностью элементарного уровня материи, так как мышление способно на абсолютную чувствительность. Но это уже само по себе означает, что обобщённые нейроны для создания адекватной модели мышления не имеют смысла, потому что обобщение — это упрощение, но необходимость отразить в модели элементарный уровень материи уже говорит о том, что никакое упрощение недопустимо.

Теперь сформулируем сказанное выше более наглядным образом.

Магнит и металлическая гайка — это простая модель гравитации. Магнит притягивает гайку почти как Солнце притягивает Землю или как Земля притягивает людей. Такая модель вполне годится для объяснения ребёнку того, почему недостаточно подпрыгнуть, чтобы улететь в космос, или почему Земля вращается вокруг Солнца. Иными словами, система магнита и гайки более или менее сносно моделирует некоторое частное, непосредственно наблюдаемое проявление гравитации — притяжение тел друг к другу. Однако понятно, что для более точного моделирования гравитации эта модель не подходит. Гравитация и электромагнитное взаимодействие, может быть, и возникли из чего-то единого, но на современном этапе эволюции Вселенной они отличаются качественно, поэтому одно через другое выразить можно только ограниченно, в каких-то частных проявлениях.

Так же качественно отличаются диссипативные системы и вычислительные, это разные физические системы, работающие на разных физических принципах. Поэтому на уровне частных свойств одну систему можно выразить в другой — это видно по умениям чат-ботов. Но по мере приближения к общим их возможности будут всё стремительнее расходиться. Имея в основании гомеостаз, мы во всём частном чувствительны и изменчивы, но зато в целом целеустремлённые. Наоборот, ИИ в частном гораздо более стабильная система, но зато в целом, не имея ни чувств, ни стремлений, не умирая и не живя, это система никуда не направленная, «без руля и ветрил».

В итоге необходимая для воспроизведения сложности мышления точность моделей не только недостижима на практике, но и невозможна в принципе. Задача превращения алгоритма в не алгоритм — это задача превращения знания в не знание, так как за пределами алгоритмов находятся явления, которые описанию недоступны, а значит, они недоступны и познанию. Но вычислительная система, работающая на недоступных познанию принципах — это не имеющее смысла сочетание слов.


7.4. Сознание

Тем не менее некоторые совпадения в особенностях нейронных сетей и свойствах сознания обнаружить несложно. Проблемы возникают только в уточнении того, как конкретно всё это связано. Точно так же относительно несложно разглядеть в мозге сеть нейронов и понять некоторые принципы её работы, но проблемы стремительно растут в попытке эти принципы уточнить.

Как известно, от слоя к слою нейронной сети уровень абстрагирования растёт. Почему последовательность именно такая, говорилось во второй главе. Например, в мозге рост уровня абстракции можно связать с переходом от эмоций к конкретным образам. Если не вдаваться в подробности, то утверждение про рост уровня абстракций применимо ко всем нейронным сетям, искусственным в том числе, так как само по себе оно не означает наличие в сети каких-либо реальных абстракций. «Абстрагирование» в данном случае — это всего лишь обозначение способности всех нейронных сетей к распознаванию, то есть выделению в сигналах рецепторов неких зависимостей, суть которых — признаки условий. Чем сложнее сеть, чем больше в ней слоёв нейронов, тем более сложные, скрытые признаки она сможет выявить. Например, чтобы отличать кошек от собак, нужно выделить признаки кошек и собак, алгоритм на это вполне способен и даже не обязательно он должен быть нейронной сетью, но так как такие алгоритмы сложны, то проще не писать его напрямую, а воспользоваться алгоритмами обучающимися.

Однако у биологических нейронных сетей есть такие особенности, сопоставимые со свойствами сознания, которых нет в искусственных нейронных сетях.

Прежде всего обратим внимание, что уменьшение энтропии можно связать с информацией.

«Понятие количества информации в системе, — пишет Норберт Винер, — совершенно естественно связывается с классическим понятием статистической механики — понятием энтропии. Как количество информации в системе есть мера организованности системы, точно так же энтропия системы есть мера дезорганизованности системы; одно равно другому, связанному с обратным знаком». (Кибернетика, или Управление и связь в животном и машине. Н. Винер, 1948).

Из этого определения следует, что уменьшение энтропии в системе, самоорганизация — это появление информации. Теперь вспомним, что говорилось о синхронизации нейронов и добавим новые подробности.

Одиночным нейронам присуща хаотическая генерация нервных импульсов, но в нейронной сети мозга, во взаимодействии с другими нейронами, импульсы синхронизируются на некотором наборе частот, а обмен со средой, происходящий через поступление питательных веществ и сигналы рецепторов, приводит к тому, что картина ритмической активности в мозге постоянно меняется, флуктуирует, становясь нашими мыслями, поведением. Синхронизация происходит на разных частотах, затрагивает как отдельные ансамбли нейронов, так и целые области мозга.

Синхронизация — это самоорганизация, упорядочение, а значит, появление в мозге информации. Причём в мозге информации очень много, она разнообразная, так как процессы синхронизации в той или иной степени затрагивают весь мозг, только основных ритмов (частот синхронизации) выделяют 10 типов, поэтому можно сказать, что мозг буквально заполнен информацией, состоит из неё.

При этом внимание в этом объёме активности связано с селективной синхронизацией нейронов на самой высокой частоте ритмов мозга, то есть представляет из себя наиболее упорядоченный и энергичный процесс синхронизации, происходящий «внутри» гамма-ритма. Поэтому, например, то, что попало в фокус внимания, воспринимается ярче, чётче. Во время концентрации внимания повышается скорость обработки информации, уменьшается время реакции, повышается уровень точности, чувствительности к небольшим изменениям в стимуле и восприятие контраста.

Похожим на селективную синхронизацию образом сама нервная система — это «энергичная» диссипативная система «внутри» диссипативной системы организма (мозг потребляет более 20% энергии организма, составляя всего несколько процентов от его массы). Гомеостаз которой, как «уровень» гомеостаза всего организма (уровень нервной регуляции), заключается в стремлении поддерживать некоторый объём синхронной активности нейронов, а флуктуации этой активности, отражаясь на работе выходных нейронов, становятся нашим поведением.

В свою очередь, «порядок», как нечто «обобщающее» отдельные элементы в некое «над-элементное» целое, абстрактен и континуален. При этом порядок — это аттрактор, притягивая фазовые траектории других нейронов, он задаёт нынешнюю цель поведения. Таким образом, в процессе синхронизации из хаоса — из «непонимания», возникает информация — «понимание», цель действий. От общего направления, выраженного в эмоционально-мотивирующем самоощущении, до точного в виде конкретных образов. Каждое изменение в синхронной активности нейронов, как появление новой информации, меняет поведение, упорядочивая его в направлении новой цели. 

Наоборот, вычислительный процесс противоположен свойствам сознания, так как вычислительный процесс — это всего лишь некоторая последовательность отдельных операций, а не упорядоченный континуум чего-либо, к тому же обладающий свойством целостности.

Основанием целостности является неравновесное состояние системы, когда система реагирует как одно целое, то есть представляет из себя одно целое — неравновесный упорядоченный континуум веществ и химических реакций. В той или иной степени таковым континуумом является весь организм, однако, за счёт гораздо более интенсивного обмена со средой и свойств нейронов, в нейронной сети мозга возникает ещё один уровень самоорганизации, целостности, неравновесности и информации — синхронизация нейронов на разных ритмах. В свою очередь, «внутри» этого уровня ритмов можно выделить ещё один уровень самоорганизации — селективную синхронизация на гамма-ритме, самом высоком ритме мозга, отвечающую за самую изменчивую, яркую и контрастную часть нашего сознания — фокус внимания.

Но в вычислительных системах неравновесность может возникать только в микроскопических и локальных процессах, не меняющих общую картину равновесного состояния вычислительной системы, поэтому нет ни континуумов, ни целостности, ни самоорганизации, ни информации. Вычислительные системы оперируют данными, но данные — это не информация.

Таким образом, абстрактности, континуальности, яркости и упорядоченности сознания некоторое общее объяснение есть. Более сложное объяснение есть и другим особенностям сознания, не упомянутым в этой статье — например, временной «протяжённости» сознания, которое даёт ощущение своего постоянного «движения» во времени из прошлого в будущее. Тем не менее единство сознания с элементарным уровнем материи всё равно не позволяет провести эту связь точно, потому что всё равно нет никакого объяснения модальностям сознания. Например, частоту синхронизации можно связать с яркостью и контрастом воспринимаемого — такая связь очевидна даже интуитивно, и она действительно обнаружена, но неизвестны нейронные корреляты цветовой гаммы, оттенков эмоций и так далее. Элементы образов в нашем восприятии чётко разделены, но непонятно, как столь чёткое разделение закодировано в мозге. 

Также обратим внимание, напрямую отождествлять сознание и самоорганизацию нельзя. Самоорганизация — это физическое основание его появления, но само появление сознания связано с «организацией самоорганизации» в мозге. Например, в фазе глубокого сна нейроны мозга синхронизированы, но сознания нет. Коротко мы уже об этом говорили, дело в том, что эта синхронизация простая, и в частности, в ней нет гамма-ритма, отвечающего за внимание, а без выделенного внимания нет «нас».

В итоге по общим признакам сознанию что-то в работе мозга сопоставить можно, но ответить на вопрос, как выглядит эта связь конкретно, невозможно, так как это потребует описания элементарного уровня материи. Проблема нейронного кода столь же нерешаемая, как непознаваемой является физическая сущность сознания (подробнее сознание рассмотрено в статье «Жизнь как самоорганизация», ссылка на которую есть в главе «Дополнительно»).


7.5. Самостоятельная эволюция ИИ

В описанных физических особенностях биологических систем как систем диссипативных можно заметить другие указания на ограничение сложности искусственного интеллекта, которые мы не приводили ранее.

Диссипативные системы — это открытые системы, ведущие интенсивный обмен со средой, поэтому если в эволюции животных максимально участвует среда во всей своей сложности, то в эволюции искусственных систем максимально участвует человек, тем самым ограничивая эволюцию искусственных систем своими знаниями, сложность которых, как показано в статье, не может быть сколько-нибудь равна сложности среды. Похожий аргумент: создание искусственного интеллекта равносильно повторению человеком эволюции как минимум нервной системы, при том, что человек много проще биосферы, включающей самого человека, в которой эта эволюция проходила.   

Можно сформулировать иначе. Принципиальное отличие вычислительных систем от систем биологических говорит о том, что самостоятельная эволюция вычислительных систем настолько ограничена, насколько они физически отличаются от биологических систем — а это отличие носит качественный характер, поэтому они всегда будут зависеть от человека. Вычислительные системы всегда эволюционируют «внутри» интеллекта человека и не смогут выйти за эти пределы.

Тем не менее эти выводы следует обосновать подробнее, так как распространено мнение, что даже если сильный искусственный интеллект нельзя как-либо создать человеку, то, вероятно, он сможет неким образом развиться сам из некого более простого написанного человеком алгоритма.

Начнём с наводящего вопроса. Как человек отличает верное решение от неверного, адекватное поведение от неадекватного? Должен быть какой-то критерий, который позволит это сделать. Потому что без критерия обучение быстро пойдёт вразнос, хаотично, по всем мыслимым направлениям, и поведение скатится к бессмысленному, так как всех возможных поведенческих реакций неисчислимо больше, чем тех, которые позволят животному не погибнуть и размножаться.

Упростим вопрос. Откуда ячейки Бенара знают, как им нужно реагировать на окружающие их беспорядочные потоки кипящей воды, чтобы не разрушиться?

В случае ячеек Бенара дать ответ, вероятно, не составило большого труда, так как причины гомеостаза уже были в предыдущей главе описаны. Однако функционирование биологических систем происходит по тем же общим принципам, поэтому общие свойства ячеек Бенара проявляются и на уровне биологических систем. Сформулируем эти свойства ещё раз и посмотрим, какие ограничения на самостоятельную эволюцию алгоритмов из них следуют. 

Диссипативная система перестраивается в такое состояние, которое позволяет выводить поступающую в систему энергию быстрее, компенсируя, таким образом, рост интенсивности обмена. Перестроение происходит естественным образом, как движение к равновесию, а не достигается равновесие и покой только по той причине, что интенсивный обмен системы со средой продолжается. Иными словами, упорядоченное состояние всего лишь является энергетически более выгодным.

Это означает, что поведение диссипативной системы уже само собой, на физическом уровне, формируется адекватным среде. Например, перестраиваясь от хаоса к порядку и потом разделяясь на всё большее количество валов, можно сказать, что система ячеек Бенара эволюционирует, обучается — у неё сразу, единовременно, без каких-либо предварительных чертежей и расчётов, возникает новое более сложное поведение. Которое, с одной стороны, позволяет противостоять среде в новых условиях более интенсивного взаимодействия с ней, с другой — можно сказать, что система освоила новую природную нишу, потому что «поняла», как надо вести себя в новых условиях. Она эволюционировала, обучилась, сделала открытие, узнала что-то новое. Точно так же можно сказать, что после усложнения у диссипативной системы появляются некие новые функции, которые позволяют ей проводить более сложное поведение.

Но если посмотреть внимательнее, окажется, что любое усложнение структуры диссипативной системы — это всегда усложнение непосредственно самого гомеостаза, а не нечто к нему добавленное, потому что кроме гомеостаза никаких других функций у диссипативных систем не бывает, и появиться им попросту неоткуда. Усложнение гомеостаза происходит естественным образом, вследствие интенсивного обмена системы со средой и её стремления системы к равновесию, а не вносится извне. 

Поэтому даже если усложнить диссипативную систему до уровня организма с развитым мозгом, то в этом описании ничего не изменится, за исключением того, что гомеостаз теперь будет выражаться в том числе и в перемещении в среде — в направлении где меньше сопротивление среды или больше ресурсов, а скачкообразные неравновесные фазовые переходы на уровне мозга станут сменой «всегда целых» мыслей. 

Именно этот механизм позволяет нашим знаниям всегда оставаться адекватными природе. Ячейки Бенара флуктуируют, то отклоняясь от равновесия, то приближаясь к нему, и могут усложняться. Точно так же флуктуируют наши представления о мире, то отражая природу более адекватно, то менее, и при этом становятся сложнее. Но в целом этот процесс всегда стабилизируется стремлением системы к равновесию, которое на уровне человека становится стремлением к лучшему качеству жизни. И всегда нас выводит из равновесия интенсивный обмен со средой, который нам, с одной стороны, необходим, но с другой — не даёт достичь нам разрушительного для нас покоя. Единство и борьба противоположностей. В итоге в ходе познания наиболее адекватные направления сами собой выделяются, не адекватные сами собой подавляются, и постоянно происходит поиск новых.

Образно говоря, равновесие и покой можно обозначить как идеальную цель диссипативной системы, к которой она всегда стремится. Но диссипативная система может существовать только в интенсивном обмене со средой, а этот обмен означает постоянную неустойчивость, флуктуации и отсутствие состояния, в котором система как организованное целое есть, но её «ничего не тревожит». Поэтому через неустойчивость и флуктуации система как будто постоянно пробует новые пути к равновесию и покою, но каждый из них оказывается всего лишь новым витком бесконечного движения к тому, чего нет. Любую часть этого движения можно обозначить как решение системой некоторой частной задачи или достижение некоторой частной цели на пути к несуществующему идеалу, после чего система стремится к новой цели и так бесконечно. 

Например, как уже говорилось, каждое переключение внимания — это переход через точку бифуркации, смена ансамблей нейронов, селективно синхронизированных на самой высокой частоте ритмов мозга (гамма-ритме). Как аттрактор, он притягивает к себе фазовые траектории других нейронов мозга, задавая нынешнюю конкретную цель поведения. В свою очередь, так как неравновесные фазовые переходы носят скачкообразный характер — от одного упорядоченного состояния к другому, то поведение всегда имеет смысл — тот или иной, а не неопределённый.

Точно так же, как не перебирают реакции ячейки Бенара, эволюции тоже не нужно перебирать все возможные сочетания молекул в поисках похожего на жизнь сочетания. Естественный отбор работает сразу на уровне уже так или иначе «готовых», «функционирующих» систем, из которых остаётся отобрать те, которые в силу каких-либо особенностей самосохраняются лучше остальных. В каждой природной нише это могут быть свои организмы, свои поведенческие особенности.

Не перебирает все возможные цели и пути к ним и мозг, а последовательно упорядоченными реакциями перемещает организм туда, где больше градиент концентрации ресурсов или меньше сопротивление среды. Этот путь в итоге может оказаться более удачным или менее, но он никогда не бывает бессмысленным, только случайным, потому что всегда является неразделимым сочетанием упорядоченности и целенаправленности с хаотическим «тестированием» всех возможных путей в поиске лучшего.

Таким образом, диссипативная самоорганизация, как перестроение, направленное на повышение эффективности обмена со средой, и гомеостаз, как поведение, направленное на поддержание обмена эффективным, на всех уровнях жизни сами собой формируют и оптимизируют поведение биологических систем.

Здесь мы вплотную подошли к ответу на вопрос из начала главы. Так ли важно для ИИ обладать гомеостазом, то есть в итоге уметь чувствовать, «жить», отличать хорошее от плохого, победы от поражений?

Гомеостаз — это те самые «руль и ветрила», определяющий нашу чувствительность и изменчивость в частном, но целеустремлённость в целом, тем самым становясь общим критерием адекватности поведения, верного знания. Этот критерий в том, способствует ли знание поддержанию гомеостаза или нет, способствует ли повышению качества жизни. Ошибочное знание в конечном итоге ударит нас неправильно подвешенным грузом, а боль от удара, которой мы не обучаемся и которой нельзя научиться, неизбежно «заставит» искать ошибку. «Заставит» стоит в кавычках потому что боль не заставляет, то есть боль не отдельно от нас, боль — это сам уже начавшийся процесс избегания, как он выглядит изнутри материи мозга, на уровне таких сложных систем, как мы. Например, научные гипотезы проверяются экспериментом, то есть, можно сказать, применением знания непосредственно самими учёными, поэтому мы обычно доверяем научному сообществу или научным теориям, даже если их не понимаем.

Стратегия гомеостаза — это естественная, физическая стратегия адекватного поведения, заложенная в основание активности биологических систем. Для сохранения упорядоченного состояния диссипативной системе нужна энергия, но её приток неупорядочен, заставляя систему постоянно флуктуировать около уровня динамического равновесия, когда она то отклоняется от равновесия больше, то опять к нему приближается. Поэтому стратегией гомеостаза можно назвать принцип: уступать среде в малом — в частных элементах своей структуры, ради решения основной задачи — сохранения структуры в целом. Чем сложнее диссипативная система, тем сложнее эта динамика, на уровне животных превращаясь в такие поведенческие стратегии, как жертвовать частным ради целого, малым сейчас ради большого потом, своим ради общего, ведь одному не выжить. Через труд к успеху, через тернии к звёздам, через альтруизм и самопожертвование к уважению и славе.

Но как нельзя программой переварить пищу, гомеостаз нельзя сколько-нибудь точно воспроизвести в алгоритме, различие между алгоритмом и работой диссипативных систем качественное. Поэтому без человека — развивающего технологии, контролирующего обучение, отбирающего адекватные варианты систем и продолжающего найденные в них решения в новых системах — развитие ИИ, его эволюция или обучение, через короткое время остановится. Путей развития, которые позволят ИИ усложняться и противостоять среде, неизмеримо меньше, чем тех, которые ведут к разрушению, и без гомеостаза ИИ быстро пойдёт по одному из них.

Не умея отличать на физическом уровне хорошее от плохого, не имея «встроенного» сразу во всю систему критерия для этого, а основываясь только на наших всегда неполных и неточных знаниях, без нас ИИ будет разрушен средой точно так же, как среда разрушает любую другую искусственную систему. Вне интенсивного обмена со средой ИИ качественно меньше зависит от среды, поэтому развитие ИИ быстро станет ей неадекватным. В итоге единственная «природная» ниша, в которой может существовать ИИ — это мы, наш опыт, внутри него. За эти рамки ИИ выйти не сможет.

Это не значит, что ИИ не может быть опасен для человека, но и калькулятор может принести вред в руках преступника. Поэтому опасность ИИ не в том, что он когда-нибудь захватит власть над человеком, заставит человека служить ему или уничтожит, а в том, что человек сам поставит ИИ над собой — станет слишком полагаться на советы ИИ. Воспринимая ИИ как личность, исполнительного и заботливого товарища, тем самым утрачивая навык и интерес к общению с личностями реальными.

Теперь всё, что, по мнению автора, требовалось сказать в этой статье, сказано, осталось только подвести итог, и он, вероятно, уже понятен. Тем не менее ненадолго его отложим и вспомним, что одной из тем статьи была свобода воли, к каковой мы обещали вернуться в этой главе с чем-то ещё более необычным. Так и сделаем, в заключение главы вернёмся к свободе воли и скажем о ней ещё несколько слов.

Ранее мы пришли к выводу, что свобода воли — это принципиально неопределённое понятие, поэтому по поводу есть она или нет, тоже ничего определённого сказать нельзя. На самом деле вопрос свободы воли требует более комплексного рассмотрения с учётом не только физики, но и логики мышления, что выходит за рамки данной статьи (но сделано в статье «Жизнь как самоорганизация»), однако кое-что сейчас добавить к уже сказанному всё-таки можно.

Для этого вспомним, что мозг управляет мышцами, принимает решения о том, что делать, куда идти, как поступать, то есть отвечает за конкретику нашего поведения. Несмотря на то, что в целом мы стремимся к самосохранению — и в этом у нас выбора нет (даже причинение себе вреда или самоубийство — это лучший выход, а не реальное стремление причинить себе вред), тем не менее, как кажется, в конкретных решениях свобода может быть. Или, точнее, только в этих решениях она быть и может, если есть вообще. В свою очередь, работа мозга на всех уровнях связана с бифуркациями, а они с бесконечно малыми изменениями параметров системы. Например, как говорилось, переходом через точку бифуркации является каждое переключение внимания. Следует ли из всего этого что-то необычное?

В точке бифуркации — в критической точке максимального неравновесия — система становится одним «напряжённым» целым, поэтому даже бесконечно малое изменение параметров системы приводит к качественному изменению поведения сразу всей системы. В свою очередь, связь перехода с бесконечно малым изменением параметров означает, что в точке бифуркации система становится полностью неотделима от среды, так как требует для предсказания знания всей среды — теории всего. 

Полная неотделимость от среды означает, что в точке бифуркации система фактически расширяется на всю среду, то есть на всё, становится всем. Но у всего уже не может быть каких-либо предопределяющих его причин, так как любые «причины всего» тоже часть всего. Поэтому, получается, что выбор в точке бифуркации — это строго выбор самой системы, который, кроме неё самой, ничем не предопределён, ни от чего, кроме самой системы, не зависит, так как какие-либо обстоятельства «до системы» или «вне системы» в точке бифуркации теряют смысл — не может быть ничего до всего, ничего больше всего и ничего иного, чем всё.

Причём если считать, что система решает некие задачи и в точке бифуркации происходит выбор решения, то этот выбор можно считать идеальным относительно опыта системы и среды, в которой она оперирует, потому что в точке бифуркации система и среда становятся одним целым. И так как сложность этого выбора фактически бесконечна, то любые способы как-либо моделировать этот выбор неизбежно приведут к упрощению — модель поведения системы в точке бифуркации может быть только качественно проще реальности. В результате связь создаваемой системы и среды, адекватность её поведения среде, тоже будет качественно ограничена.

Таким образом, мы опровергли выводы первой главы? Если мы, наш мозг, сам принимает решения, то свобода воли есть? Однако мы и раньше и тоже на основании связи мышления с элементарным уровнем материи, пришли к выводу, что наш выбор и не детерминирован, и не случаен, и вообще не может быть как-либо конкретизирован. Но, ввиду такой неопределённости, он, следовательно, не может быть и как-либо локализован. Сейчас, как кажется, мы выбор локализовали — собой, решения принимаем мы. Однако на самом деле мы всего лишь посмотрели на вывод первой главы немного под другим углом, и от этого наш выбор ничуть более локализованным не стал. Потому что «мы» в данном случае — это, получается, «всё», а «всё» — это то же самое, что и элементарный уровень материи, то есть объект неопределённый, что такое «локализован», в отношении него неизвестно. Поэтому на самом деле мы пришли к тем же самым выводам, что и в первой главе: множество всех множеств, теория всего, алгоритм мышления, сознание, свобода воли — это всего лишь разные выражения границ познания.


8. Заключение

Теперь можно подвести итог. Во второй главе мы выяснили, что чем ближе ИИ будет приближаться к сложности поведения человека, тем дольше будет идти процесс усложнения, стремясь к бесконечности. Далее мы узнали, что ИИ качественно проще человека, что у ИИ не может быть сознания. Как стало понятно в этой главе, у ИИ не может быть гомеостаза. И наконец выяснилось, что без гомеостаза ИИ не сможет развиваться самостоятельно, сколько-нибудь значительная самостоятельная эволюция алгоритмов невозможна. Таким образом, мы возвращаемся обратно к аргументам второй главы: вне возможности самостоятельного развития, навсегда сохраняя зависимость от человека, ИИ превзойти человека не сможет. Поэтому ИИ всегда будет оставаться не более чем помощником человека, аналогично другим создаваемым человеком системам.

Тем не менее, как уже говорилось, в отдельных задачах вычислительные системы могут и превосходить человека. Например, за счёт более точного соответствия устройства системы задаче или за счёт объёма или скорости выполняемой простой работы. К примеру, калькулятор считает быстрее человека, а ракета может быстрее человека перемещаться в пространстве. Или, выделив в своём опыте задачу, человек может создать систему, которая сможет найти её решение «самостоятельно» в процессе обучения, то есть в последнем случае искусственный интеллект как будто превзойдёт человека именно в интеллекте. Но на самом деле как раз за счёт качественно более высокой сложности человек способен выделить в своём опыте и задачу, и придумать систему, которая, оставаясь много проще человека, в процессе обучения только лишь выявит в задаче некоторые частные закономерности, не замеченные человеком. И только человек сможет понять, что задача решена верно — об этом ему подскажет «чувство удовлетворения», то есть в конечном итоге растёт качество его жизни или нет. ИИ не подскажет ничего.

На практике сказанное означает, что получится или создать искусственную систему, работа которой будет повторять мышление человека в целом, начиная от распознавания условий и до построения действий, но воспроизведённого на очень простом уровне, или систему, которая будет, может быть, и превосходить человека, но лишь на уровне отдельных элементов его опыта. И чем более частный характер носит задача, тем «превзойти себя» человеку будет проще, а превосходство может быть заметнее. И наоборот, по мере приближения возможностей искусственных систем к полноте возможностей интеллекта человека превосходство сменится отставанием. Поэтому усложнение систем, способных делать то, что в целом делает человек, то есть ставить задачи и решать их, всегда будет ограничено уровнем сложности много ниже тех же способностей человека.


9. Дополнительно

Некоторые темы этой статьи подробнее рассмотрены в других статьях. Аргументы первой главы дополняет глава «Абсолютная истина» статьи «Эволюция методов познания». Физическая сторона работы мозга, в том числе вопрос свободы воли, подробнее описана в статье «Жизнь как самоорганизация». Новая интерпретация квантовой механики приведена в статье «Гносеологическая интерпретация квантовой механики, физическая сущность сознания. Пределы сложности искусственного интеллекта» и «Гносеологическая интерпретация квантовой механики, физическая сущность сознания (короткий вариант)». Тема этой статьи сжато изложена в статье «Материя, сознание и пределы сложности искусственного интеллекта». В «Приложении» собраны некоторые аргументы, формулировки и подробности, не вошедшие в эту (основную) статью.


10. Использованная литература

1. Feferman S., Dawson J., Goldfarb W., Parsons C., Solovay R. Kurt G;del Collected Works. Volume III: Unpublished Essays and Lectures. — Oxford: Oxford University Press, 1995.
2. Chalmers D. The Conscious Mind. — Oxford: Oxford University Press, 1996.
3. Bell J. Speakable and Unspeakable in Quantum Mechanics. — Cambridge: Cambridge University Press, 2011.
4. Richard D. String Theory and the Scientific Method. — Cambridge: Cambridge University Press, 2013.
5. Linde A. D. Inflation, Quantum Cosmology and the Anthropic Principle. — Cambridge: Cambridge University Press, 2003.
6. Turing A. The Chemical Basis of Morphogenesis. — Philosophical Transactions of the Royal Society of London, 1952.
7. Борисюк Г. Н., Борисюк Р. М., Казанович Я. Б., Иваницкий Г. Р. Модели динамики нейронной активности при обработке информации мозгом — итоги "десятилетия" — Успехи физических наук, 2002, том 172, номер 10. страницы 1189–1214.
8. Kuramoto Y. Chemical Oscillations, Waves, and Turbulence. — Berlin: Springer-Verlag, 1984.
9. Buzs;ki G. Rhythms of the Brain. — Oxford: Oxford University Press, 2006.
10. Breakspear M. Dynamic Models of Large-Scale Brain Activity. — National Library of Medicine, 2017.
11. Князева Е. Н., Курдюмов С. П. Законы эволюции и самоорганизации сложных систем. — Москва, Наука, 1994
12. Singer W. Dynamic coordination in the brain: from neurons to mind. — Cambridge: MIT Press, 2010.
13. Womelsdorf T., Fries P. The role of neuronal synchronization in selective attention. — National Library of Medicine, 2007.
14. Пригожин И. Р., Стенгерс И. Порядок из хаоса. Новый диалог человека с природой. — Москва: Прогресс, 1986.
15. Пригожин И. Р. Время, структура и флуктуации. Нобелевская лекция по химии 1977. — Успехи физических наук, 1980, том 131, номер 2, страницы 185–207.
16. Френкель Я. И. Кинетическая теория жидкостей. — Ленинград: Издательство академии наук СССР, 1945.

***