Пол Гутам. Искусственный интеллект и сознание

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И СОЗНАНИЕ
Пол Гутам

1. Введение

Искусственный интеллект (ИИ) - одна из новейших дисциплин, пытающихся понять интеллектуальные объекты. Одна из причин, по которой мы изучаем ИИ, заключается в том, чтобы лучше понять самих себя. Такие области, как философия и психология, также пытаются сделать то же самое, но разница в том, что ИИ не только пытается понять человеческий интеллект, но и пытается создавать человекоподобные разумные сущности. Компьютеры с интеллектом на уровне человека определенно окажут огромное влияние на нашу повседневную жизнь, может быть, не совсем так, как это показано во многих научно-фантастических фильмах, но похожим и многими другими способами. ИИ - это междисциплинарная область, и помимо компьютерных наук он использует концепции из математики, логики, теории вероятностей, статистики, систем управления, теории информации, философии, психологии, нейробиологии и многих других дисциплин. Однако в этой статье у нас будет нетехнический взгляд на предмет и мы попытаемся проанализировать с точки зрения философских и интуитивных представлений возможность машин с человеческим интеллектом и сознанием.

2. Четыре подхода к ИИ

Существуют разные подходы к определению ИИ. Одна дихотомия - мысль против поведения. Другой пример - человеческий интеллект в сравнении с идеальным интеллектом (также называемым рациональностью)..  Он не предполагает, что люди иррациональны. Скорее, люди не «всегда» . Подход «действовать по-человечески» использует подход теста Тьюринга [2]. В рамках своего аргумента Алан Тьюринг (1912-1954) выдвинул идею «имитационной игры», в которой следователь-человек взаимодействует с человеком и компьютером в условиях, когда следователь не знает, кто
есть кто. Например, мы можем держать человека и компьютер в двух отдельных
комнатах с закрытыми дверями, и следователь может общаться с ними исключительно путем обмена текстовыми сообщениями. Тьюринг утверждал, что если следователь не может различить их, задавая вопросы, то было бы разумно назвать компьютер разумным.
Подход «мыслить по-человечески» использует подход когнитивного моделирования, который проникает внутрь фактической работы человеческого разума. Когнитивная наука является междисциплинарной областью. Она объединяет компьютерные модели  искусственного интеллекта и экспериментальные методы из психологии для построения поддающихся проверке теорий работы человеческого разума.
«Рациональное мышление» основано на законах мышления (также называемых логикой), впервые инициированных греческим философом Аристотелем (384–322 до н. э.). Известный пример логического рассуждения: «Сократ человек; все люди смертны; следовательно, Сократ смертен».
Подход «действовать рационально» использует понятие рационального агента. Агент - это то, что имеет набор датчиков для наблюдения за состоянием своей среды и набор предопределенных действий, которые он может выполнять для
изменения одного состояния в другое. Например, мобильный робот может иметь такие датчики, как камера и сонары, и такие действия, как «движение вперед» и «поворот». Более изощренный пример - агент Смит в популярном фильме «Матрица». В настоящее время большинство исследований ИИ связано с изучением и созданием рациональных агентов.

3. Оглядываясь назад в историю
Хотя ИИ - это недавняя область изучения, первый шаг любого человека к ИИ
был сделан, когда Сократ (469–399 до н. э.) искал алгоритм (т. е. процедуру или рецепт, аналогичный компьютерной программе) . ) различать добро и зло. Ученик Сократа Платон (427-347 гг. до н.э.) и великий ученик Аристотель (384-322 гг. до н.э.) сформулировали законы, управляющие рациональной частью разума (мы можем назвать эту рациональную часть интеллектом). Аристотель заложил основы логики, которые позволяют шаг за шагом делать выводы, начиная с фиксированного набора аксиом или предположений. Это дало человеческому обществу надежду понять разум с помощью математики. Позже
Джордж Буль (1815-1864) математизировал систему рассуждений Аристотеля и дал начало символической логике в том виде, в каком мы ее понимаем сегодня.
Однако французский философ и математик Рене Декарт (1596-1650) указал на
проблему чисто механического и физического понимания разума: оно не оставляет места для свободы воли. Он указал, что есть часть разума, находящаяся вне природы, освобожденная от физических законов. Кеннет Крейк (1914-1945) открыл область когнитивной психологии и утверждал, что вера и рассуждения являются такими же научными компонентами человеческого поведения, как температура и давление газов.
Алан Тьюринг (1912–1954) формализовал понятие современных компьютеров и дал строгое математическое описание того, как работает компьютерная программа. Фон Нейман (1903-1957) разработал теорию принятия решений, которая предложила теорию, позволяющую различать хорошие и плохие действия, о чем мечтал Сократ.
В 1943 году нейрофизиолог Уоррен МакКаллох и математик Уолтер Питтс написали статью о том, как могут работать нейроны в мозге. Они смоделировали простую нейронную сеть с использованием электрических цепей, которые положили начало подразделу нейронных вычислений в дисциплине ИИ.

4. Настоящее и будущее

Во второй половине ХХ века одна за другой происходили революции в области ИИ. Чтобы проследить их все, потребовалась бы еще одна полная статья. Короче говоря, ИИ стал передовым искусством от игры до автоматической системы управления дорожным движением, от судебно-медицинской экспертизы до медицинской диагностики, от предсказания погоды до торгового агента на фондовых рынках. Люди разработали программы, которые успешно учатся распознавать произносимые слова, предсказывать скорость выздоровления пациентов, выявлять мошенническое использование кредитных карт, управлять автономными транспортными средствами по дорогам общего пользования, играть в игры на уровне, приближающемся к производительности чемпионов мира среди людей, и т. д. НАСА использует система ИИ для классификации небесных объектов в обзоре неба. Пока что искусственные нейронные сети даже близко не приблизились к моделированию сложности мозга.
Будущее управляется прошлым и настоящим. Судя по тому, как идет текущая исследовательская деятельность, в ближайшие годы ИИ определенно заполнит все сферы нашей жизни. У нас могут быть роботы в качестве домашней прислуги, системы искусственного интеллекта, выполняющие операции над пациентами, и многое другое, или у нас может быть даже смешанная футбольная команда, состоящая из людей и агентов с искусственным интеллектом. Научно-фантастические фильмы показывают множество замечательных достижений ИИ. Некоторые из них, очевидно, когда-нибудь возникнут; это всего лишь вопрос времени.

5. Ограничения ИИ: машинный разум против человеческого

Мы должны понимать, что не может произойти все, о чем мечтает и воображает ИИ,. Есть некоторые неизбежные и присущие ограничения. Одно такое ограничение, потрясшее мир, было обнаружено известным логиком Куртом Гёделем (1906–1978) в 1931 г. в его двух теоремах о неполноте [3]. Математически они весьма строги, но философски очень просты, и их может понять и оценить даже неспециалист. Здесь мы возьмем точку зрения  непрофессионала.
Любая научная теория начинается с набора предположений, называемых аксиомами, которые принимаются как самоочевидные истины. Все теоремы и результаты, доказываемые впоследствии, опираются на эти аксиомы. Например, познание геометрии начинается с предположения о существовании точки. Знание физики начинается с предположения, что существуют три вещи: материя, пространство и время. Знание математики и компьютеров основано на предположении о таких числах, как 1, 2, 3 и т. д.
Неформально говоря, первая теорема Гёделя о неполноте гласит: «Для любой системы аксиом всегда будет какое-то истинное утверждение, которое система не сможет доказать». Но как это ограничивает возможности ИИ? Аргумент прост. Если мы верим, что можем понять человеческий разум с точки зрения математического и логического анализа, то, согласно первой теореме Гёделя, о нашем разуме всегда будет некоторая истина, которую мы никогда не сможем узнать! Если мы не можем полностью понять свой собственный разум и разум, как мы можем создать разумное существо, точно такое же, как мы?
Вторая теорема Геделя о неполноте касается непротиворечивости. Система аксиом называется непротиворечивой, если система доказывает, что утверждение либо истинно, либо ложно, но не то и другое одновременно. Простая аналогия: если мы говорим «идет дождь», то мы последовательны, потому что тот факт, что «идет дождь», либо истинен, либо ложен, но не то и другое одновременно. Подобным образом, если мы говорим: «Дождя нет», то мы также последовательны. Но если мы говорим: «Идет дождь, и не идет дождь», то мы непоследовательны.
Неформально вторая теорема Геделя о неполноте гласит: «Если система аксиом непротиворечива, то она не может проверить свою собственную непротиворечивость». Каково его значение для ИИ? С одной стороны это
означает, что если мы создадим робота, то этот робот не сможет проверить собственную непротиворечивость, потому что, в конце концов, робот является продуктом аксиоматической науки. С другой стороны, эта теорема означает, что человеческий разум - это не просто система аксиом. Если бы это было так, мы не смогли бы проверить нашу собственную непротиворечивость. В то время как на самом деле мы знаем, что мы последовательны. Например, никто не говорит одновременно: «У меня болит голова и не болит голова». Если мы сочтем, что мы непоследовательны, то мы скорее вообще перестанем думать и сойдем с ума. Поскольку мы знаем нашу собственную последовательность, наш разум не может быть чисто механическим, в нем должна быть какая-то духовная часть, как предположил Рене Декарт.

6. Тело, разум, интеллект и сознание

До сих пор мы использовали слова «разум» и «интеллект» взаимозаменяемо. Однако, если мы внимательно проанализируем, они выделяются, чтобы быть отличными. Самый грубый уровень существования живого существа, такого как человек, - это тело, состоящее из органов чувств. Тот факт, что ум отличен от тела и тоньше его, нетрудно понять. Часто мы чувствуем боль в уме, хотя в теле ее может и не быть. Опять же, в теле может быть болезненная рана, но если ум занят чем-то приятным, тогда мы можем временно забыть о ране и совсем не чувствовать боли. Ум - это просто хранилище мыслей и чувств. Однако интеллект тоньше ума. Интеллект можно определить как сущность, которая способна различать правильные и неправильные действия (или, между рациональными и иррациональными действиями, в соответствии с терминологией раздела 1).
В качестве примера предположим, что врач дал пациенту немного горького сиропа. В настоящее время, разум пациента может быть полностью против приема такого лекарства, разум может сказать: «Не принимайте лекарство», в то время как его или ее разум говорит: «Ну, если вы не примете лекарство, ваша болезнь не пройдет».. Кто-то может возразить, что это дихотомия самого разума — рациональная часть разума против иррациональной. Но причина, по которой мы предпочитаем говорить, что интеллект является сущностью, отдельной от ума, заключается в контролирующей силе интеллекта над умом. Кажется, что существует иерархия, так как разум имеет власть контролировать тело, а интеллект имеет власть контролировать разум. Ум функционирует на основе эмоций, поэтому, если мы делаем что-то под влиянием наших инстинктов, часто мы совершаем ошибки. Это разум, обладающий силой различения и рациональных решений. Когда мы говорим: «Принимайте решение мозгом, а не сердцем», мы на самом деле имеем в виду: «Принимайте решение, руководствуясь разумом, а не эмоциями ума». Однако это не доказывает, что сердце является вместилищем ума, а мозг - вместилищем интеллекта; это совсем другая тема и выходит за рамки нашего текущего обсуждения.
Сознание - это сущность, которая является самой тонкой из всех. Оно за пределами тела, ума и разума. Например, предположим, что пациент находится в коме. Он или она ничего не думает и не чувствует, поэтому его или ее ум неактивен. Он не проводит никакого логического анализа и не принимает никаких решений, поэтому его или ее интеллект также неактивен. Но он все еще жив, и поэтому жизненная сила или сознание полностью присутствует в нем. Короче говоря, сознание есть симптом жизни. Люди пытались связать сознание с мозгом, но безуспешно [4]. Ум и интеллект могут иметь некоторую связь с мозгом, поскольку разные типы живых существ имеют разный уровень интеллекта. Но сознание не кажется просто продуктом нервной системы или мозга. У деревьев нет ни нервной системы, ни мозга, но у них есть сознание. Может возникнуть спор о том, обладает ли отдельная живая клетка разумом или интеллектом, но она, несомненно, обладает сознанием.
Сознание также может быть связано с тем, что называется эго или идентичностью. Например, человек может расти от детства к старости, претерпевая изменения в своем теле, разуме (с точки зрения мыслей, чувств) и интеллекте (надеемся, что он или она станет более зрелым и рациональным), но личность человека остается неизменной. Каждый из нас знает, что это «я» и никто другой, и то самое «я», которое существовало десять лет назад, существует и сейчас. Это «я» или «эго» можно рассматривать как сознание. Когда некоторые философы говорят о душе, они имеют в виду именно это сознание [5].

7. Превосходство сознания

Тот факт, что интеллект выше разума и он связан с рациональностью, не гарантирует, что решения, принимаемые разумом, всегда правильны. Как и в логике, даже если каждый шаг в аргументации совершенен, если исходные предположения или аксиомы ошибочны, то все выводы будут неверны. В качестве примера предположим, что у нас есть совершенная компьютерная программа, но входные данные для этой программы неверны (скажем, не в том формате, в котором программа предполагает ввод). Тогда, даже если каждый шаг выполнения программы совершенен, вывод будет неправильным.
Поскольку аксиомы считаются само собой разумеющимися и не могут быть доказаны рациональностью или интеллектом, единственный способ сделать выбор между правильными и неправильными наборами аксиом — это применить правильное сознание. Во всех областях науки именно так возникают аксиомы - они возникают из ядра человеческого сознания, а затем, применяя разум к этим аксиомам, люди развивают последующую теорию или обосновывают результаты наблюдений.
Мы также можем понять различные уровни тонкости тела, ума, интеллекта и сознания по тому, как мы испытываем удовлетворение от каждой из этих сущностей. Например, сексуальная активность может удовлетворять тело (и, возможно, частично удовлетворять разум, поскольку разум находится на следующем уровне выше тела и, таким образом, находится в прямом контакте с телом). Но это не удовлетворяет интеллект, что уже говорит об удовлетворении сознания. Подобные вещи происходят, когда мы голодны и едим немного еды. Это удовлетворяет тело (и, может быть, частично разум), но не более того. С другой стороны, когда мы видим красивые пейзажи природы или слушаем мелодичную музыку, наш ум получает удовлетворение, а наше утомленное тело расслабляется и заряжается энергией. Интеллект удовлетворяется, когда, например, мы решаем сложную математическую задачу, или сочинить стихотворение, или выиграть дебаты. Поскольку разум выше ума, когда разум удовлетворен, ум также удовлетворен, но сознание, которое выше разума, не удовлетворено. Однако, когда мы жертвуем из любви, и когда мы сочувствуем чужим страданиям и пытаемся служить другим, наше сознание удовлетворено. Поскольку сознание является высшим из всех, естественно, разум и ум также удовлетворены вместе с ним.
В качестве аналогии иерархии тела, ума, разума и сознания можно представить себе колесницу. Тело подобно лошади, а ум подобен веревке, привязанной к лошади. Разум — это водитель, который держит веревку в руке и имеет возможность управлять веревкой. Сознание подобно пассажиру в колеснице, который направляет возницу. Возница будет вести лошадей по правильному пути при условии, что пассажир сможет правильно его проинструктировать. Подобным образом, для того чтобы разум избрал правильный курс действий и задействовал разум и чувства в надлежащей деятельности, он должен должным образом направляться сознанием.

8. Машинный интеллект и сознание

До сих пор мы говорили об ИИ с точки зрения проектирования интеллектуальных машин. Но теперь, когда мы обсудили взаимосвязь между интеллектом и сознанием, возникает следующий вопрос: «Можем ли мы спроектировать сознательные машины, то есть машины, которые смогут идентифицировать в них уникальное «я»?» Что касается текущих исследований, это кажется неосуществимым. В этом смысле термин «искусственный интеллект» по совпадению подходит к предмету исследования - люди не придумали термин «искусственное сознание», возможно, из-за кажущейся невозможности его существования. Но есть ли какое-то оправдание тому, что не может быть сознательных машин? Кажется, есть.
Интеллект, понимаемый как рациональность, в определенной степени может быть определен и проанализирован с помощью математики и логики. И вся компьютерная наука и ИИ основаны прежде всего на математике и логике. Однако когда дело доходит до сознания, математика заканчивается и начинается философия. Ученые пытались найти источник сознания, начиная от мозга и заканчивая генетическим кодом. Но даже на этом уровне не обнаруживается следа сознания, хотя его существование может испытать каждый человек. Состав сознания не кажется чисто механическим или химическим, как обсуждалось в разделе 5. Мы даже не можем полностью понять свой ум и интеллект, что уже говорить о понимании нашего сознания. Если бы он состоял только из материи, его можно смоделировать с помощью сетей электронных схем или каких-либо других инженерных средств. Если же это не просто материя, а что-то за пределами материи, как кажется, то на искусственное сознание надежды нет.
Как бы мы ни старались, возможно, сознание всегда останется трансцендентным по отношению к человеческому знанию. Сам источник догики есть само сознание. Таким образом, невозможно понять сознание, применяя логику. Как можно понять источник по продукту источника? Может быть, это можно понять в какой-то степени, но не полностью.

9. Заключение

Мы неофициально проанализировали основы и границы искусственного интеллекта и его ограничения. Мы обсудили четыре компонента так называемого разумного живого существа, а именно: тело, ум, интеллект и сознание. Тело - это просто грубая осязаемая материя. Но когда дело доходит до трех других компонентов, это не просто химические или механические системы, состоящие из материи. Аппаратное обеспечение может имитировать тело в той или иной форме. Программное обеспечение может попытаться смоделировать разум и интеллект с помощью таких инструментов, как логика, но симуляция всегда будет неполной из-за некоторых внутренних ограничений. Лучшее, что мы можем сделать, - это обеспечивать все более и более точные приближения, хотя наилучшее приближение может сильно отставать от идеальной цели. Идя дальше по иерархии, когда дело доходит до сознания, самого тонкого из всех компонентов, мы упираемся в стену, которая непреодолима.
Тем не менее, исследования в области ИИ имеют свое значение. Хотя первоначальной целью ИИ было создание мыслящих машин, а исследования, направленные на достижение этой цели, привели к созданию совершенно иных систем, далеких от этой цели, эти системы успешно применялись и будут успешно применяться для решения многих практических задач на благо общества и людей..

Ссылки
1 Russel S. and Norvig P., Artificial Intelligence: A Modern Approach, Prentice Hall, Second Edition, 2002.
2 Turing A., “Computing Machinery and Intelligence,” Mind: A Quarterly Review of Psychology and Philosophy, Vol. 59, No. 236, October 1950, pp 433-460.
3 G;del K.,“;ber formal unentscheidbare S;tze der Principia Mathematica und verwandter Systeme,” I. Monatshefte f;r Mathematik und Physik, 38 (1931), pp. 173-198. Translated in English by van Heijenoort: From Frege to G;del. Harvard University Press, 1971.
4 Moravec H., Mind Children: The Future of Robot and Human Intelligence, Harvard University Press, Cambridge, Massachusetts, 1988.

Перевод (С) Inquisitor Eisenhorn