Станет ли компьютер разумным?

               
                Мозг – это не ум, он всего лишь офис, где ум работает
               
                Е.М. Чайтанья Чандра Чарана. «Уровни сознания»


Вступление
      Западная культура изначально пронизана стремлением к рациональному знанию как к панацее от всех бед. В начале веков казалось, что на пути ко всеобщему благополучию, строгость логического мышления в познании разрешит, наконец, все недоразумения, происходящие якобы от незнания. В наш компьютерный век эта древнегреческая надежда превратилась в убеждение возможности тотальной формализации чуть не всех областей человеческой деятельности.
 
      В древности всякая творческая деятельность человека называлась умением, наукой. Постепенно дифференцируясь, творчество разделилась на две отдельные области – науку и искусство. Расставшись у основания, они снова встретились в конце 40-ых прошлого века, когда Р. Винеру пришла в голову мысль превратить искусство управления в науку.  Умение управлять – одно из самых древних искусств стало нынче одной из самых молодых наук.
   
       Свою идею он назвал Кибернетикой, и объявил, что предметом исследований новой науки будут все процессы управления в машине и животном независимо от их материальной природы. И что же? Очень скоро стало ясным, что произошло нечто чрезвычайное как в естественнонаучной, так и гуманитарной сфере.

      Во-первых, наука заявила о строительстве функционального моста через непреодолимую пропасть, разделяющую живую и неживую природу, человека и машину. Во-вторых, вопросы познания и природы мышления, доселе находящиеся исключительно в ведении философов и психологов, стали объектом рассмотрения ученых и специалистов информационных технологий. И наконец, компьютерное моделирование процессов мышления немедленно возродило фантастическую идею средневековых мистиков-каббалистов, искавших и якобы владевших тайными знаниями создания искусственного «человека», т. н. Голема (недочеловека). Родилась научно-техническая проблема создания робота с искусственным разумом.
               
      К середине прошлого века под впечатлением бурного развития вычислительной техники и автоматики ряд лабораторий университетов США уже вели настойчивые разработки систем искусственного интеллекта (ИИ). Сначала исследования проводились под общим названием моделирование процессов познания. Затем ввиду значительных неудач первого десятилетия проблема была сужена, заговорили о более скромной, как казалось, проблеме моделирования процессов мышления. Эйфория первых энтузиастов, громко обещавших в самое ближайшее время научить компьютер мыслить, видеть, слышать, обучить его естественному языку понемногу таяла под напором все возрастающей критики пессимистов.

      Философское осмысление проблем ИИ способствовало выработке более трезвого взгляда на возможности ЭВМ.   Философы упрекали создателей искусственного интеллекта в том, что они часто пытались обойти вниманием вопросы человеческого мышления, сущности разума, смыслообразующей функции сознания и значения слова «понимать».

      Кроме того, инженеры, ученые и философы так и не пришли к общему мнению относительно критерия интеллектуальности, да и само понятие «интеллект» все толковали по-разному. Понимая лишь некоторые функции интеллекта и не понимая остальные, разработчики ИИ в рамках данной проблемы по умолчанию под мышлением понимают лишь вычислительную составляющую мышления – способность достигать некоторых целей в мире.

      Такие ученые как Х, Дрейфус, Роджер Пенроуз, Джон Сёрль, У.Фримен весьма скептически относились к возможности формализации процесса мышления. Вместе с тем среди больших ученых, включая нашего Колмогорова, было много оптимистов создания разумного компьютера. Они объясняли неудачи малой памятью и низким быстродействием существующих в то время компьютеров, но постепенно выяснялось, что это не так.

      Позднее исследования в этой области стали связывать лишь с имитацией отдельных функций человеческого интеллекта. Проблема естественно распалась на отдельные, более или менее успешно развиваемые, отрасли: решение интеллектуальных задач, программирование игр, автоматический перевод, распознавание образов, обучение и роботехника.
 
      В конце ХХ века после десятилетий безуспешных попыток построения искусственного интеллекта компьютерщики, наконец, стали понимать, что дело вовсе не в технических возможностях современных компьютеров, а в несостоятельности методологии подхода. Не только философы, но и инженеры стали сомневаться в том, что современный компьютер вообще может быть адекватной моделью человеческого разума.

      Необходимость понимания мира и умения управлять им всегда вынуждала к определенному упрощению действительности. Но предположение, что внутренний мир человека так же, как и внешний, может быть представлен в терминах множества элементов, вряд ли мог привести к успеху, т.к. отождествлял ситуации (состояния) человеческой психики с состояниями физической системы.

      Известный американский специалист в области информационных технологий Д. Хокинс в своей книге «Об интеллекте», вышедшей в 2004 г подводит итоги полувековым исследованиям этого направления. Вот некоторые из его выводов:
      1.  Современный «компьютерный» подход к проблеме построения ИИ бесперспективен, это тупик».
      2.  «Нам надо отделить разум от мозга. Это единственно возможный путь к успеху».

Разумный компьютер – это миф?               
      Еще до того, как прозвучали эти выводы, американский суперкомпьютер Deep Blue обыграл, наконец, чемпиона мира по шахматам, но это захватывающее шоу не произвело особого впечатления на ученых. Каспаров заявил, что это не имеет ничего общего с наукой. Сам факт, дескать, ничего не доказывал, тем более что компьютером во время матча неоднократно манипулировали люди (по условиям контракта это допускалось). На самом деле, Каспаров проиграл не машине, а людям, ее создавшим. Это они хотели выиграть, а у машины такого намерения не было.

      Компьютер – это вычислительная машина, умеющая только вычислять, т.е. действовать по логико-математическим или эвристическим правилам, предписанным программой, которая заранее вводится в машину, составляя как бы ее внутренние стимулы. Поступающая в компьютер входная информация – внешние стимулы, которые вместе с внутренними формируют реакцию машины. Ответы компьютера на задаваемые вопросы не означают, что он понимает, осознает их смысл. Свои более или менее релевантные ответы он вычисляет по правилам обработки информации из базы знаний, предварительно введенной в машину.

      Разумное осмысленное поведение человека начинается с намерения и всегда характеризуется целью. Смысл как идеальная сущность не имеет меры, каких-либо физических параметров, значений, которые можно формализовать и ввести в машину.  Например, смысл (идею) храма нельзя свести к сумме значений его частей – колон, пилястр и водосточных труб. Между тем в формальной логике смысл отождествляют со значением.
 
      Понимать значит переживать смысл. Человеческое понимание – это психический процесс наполнения смыслом некоторого сосуда в форме знания или образа (чувственного, ментального, духовного). В процессе наполнения сосуд проходит не только логический контроль рассудка на непротиворечивость, но и цензуру оценочных, познавательных чувств (веры, совести, интуиции и т.д.), и лишь затем выносится на суд нашему сознанию.
 
      Может ли компьютер наполнить смыслом что-либо, даже если он сможет прогнозировать, распознавать образы, обучаться, и управлять процессами? Каким бы сложным и "умным" не был компьютер – он остается устройством по обработке символьной информации и только. Никакие формальные процедуры над знаками не могут родить смысл, а, следовательно, и понимание.

      Поэтому поведение машины, в принципе лишенной функций намерения и понимания, может быть в лучшем случае лишь целесообразным, которое необходимо отличать от разумного. Впрочем, и такое (похожее на человеческое) поведение машин, построенных на символьной логике, возможно только в узкой ограниченной сфере рационального, прежде всего, в управлении детерминированными процессами, поддающимися формализации.
 
      Нас сейчас не заботят проблемы соотношения сознательного – подсознательного в мышлении или вопросы имитации психических явлений техническими средствами. Мы обращаем внимание на разум, на самые сокровенные сферы души, подчеркивая значимость желания, намерения, внимания, понимания (переживания смысла) и принятия осмысленного решения. Сюда же следует отнести такие важные формы мысле-жизнедеятедьности человека, как творчество, нравственный выбор, веру и любовь, считая их находящимися вне досягаемости машины. Это как раз те глубинные вопросы сознания, мимо которых проходят не только компьютерщики, но и многие ученые когнитивной психологии.

       Итак, перечисленные функции сознания принципиально не могут быть воспроизведены, смоделированы на компьютере. Поэтому говорить о разумном понимающем компьютере или возможной тождественности человеческого поведения и реакции машины это более чем оптимистичный взгляд на проблему. К этому следует добавить, что мы намеренно не касаемся огромной сферы бессознательного ума и психофизической проблемы человеческой природы, духовной и телесной одновременно, и не учитываем т.н. биологический ум, обеспечивающий жизнедеятельность тела, включая мозг.
 
Тайны «ящика Пандоры»
      Какова природа искусственного интеллекта? Какие возможности компьютера позволяют имитировать некоторые функции естественного интеллекта?  Попробуем заглянуть в этот «ящик Пандоры». Может там мы найдем надежду, которая питает стойкий к неудачам оптимизм создателей разумного компьютера.

      С интересующей нас точки зрения компьютер очень прост. Он состоит из двух частей: материальной, которую можно пощупать, и невидимой программной, которая спрятана (записана) в физической памяти компьютера. Аппаратную часть компьютерщики называют «железом», а невидимую – программным обеспечением. Это набор инструкций, указывающий «железу», что надо делать, и обеспечивающий связь машины с человеком.

      Аппаратная часть компьютера содержит два устройства – процессор (вычислитель) и память, в которой хранятся данные и программы - правила обработки данных. Процессор, называемый «мозгом» компьютера, выполняет арифметические и логические действия в строгом соответствии с инструкциями программы. Ни устройство памяти, ни процессор не понимают с чем и зачем они работают.

            Все поколения компьютеров ХХ века от 30-тонных ламповых гигантов, занимавших сотни квадратных метров, до супертонких и легких ноутбуков, с которыми мы сейчас спим и работаем, имеют одну и ту же принципиальную логическую схему функционирования, так называемую «архитектуру фон Неймана». Схема предполагает физическое отделение процессора (вычислителя – устройства обработки информации) от устройства памяти.

      Процесс вычисления осуществляется последовательным выполнением инструкций, предварительно записанных в специальной программе, хранимой в памяти совместно с входной и выходной информацией. Этот принцип отдельно хранимой программы делает компьютер удобно программируемым и универсальным.

       Программирование сводится к записи инструкций в терминах команд, которые вводят в память машины. Иначе говоря, программист выступает в роли переводчика формального способа решения поставленной задачи с естественного языка текста, формул, графиков на искусственный язык машины. Процедура формальной постановки задачи и поиск алгоритма решения называется формализацией. Не всякая формализация приводит к алгоритму. Задачи, не имеющие точного алгоритма решения, компьютерщики называют интеллектуальными задачами. Человек их решает по-разному, используя опыт (умение), знания, сообразительность и интуицию. Формализацией этих свойств естественного интеллекта занимается наука ИИ.

      Принципиальное отличие искусственного интеллекта от естественного состоит в том, что компьютер обрабатывает только символьную информацию, а человек еще — и образную информацию. Имеются ввиду не только визуальные образы, но такие целостные образные представления как впечатления, мысли, идеи, оценки людей и ситуаций. Человек оперирует образными представлениями неформально, не по законам рассудочного мышления, а «сразу и целиком» неизвестным нам способом с очень высоким уровнем параллелизма.
               
      Фундаментальная проблема ИИ состоит в том, что он может решить любую задачу, но только если схема решения задачи заранее известна. Решивший тысячу задач компьютер не может решить новую 1001-ую задачу, все равно нужно начинать сначала. Обычными логическими средствами можно строго доказать, что чисто дедуктивный интеллект может предъявить решение задачи, только если он уже в какой-то форме его знает. Человек же в поиске решения может мыслить неформально!

      Многие математики и физики говорили, что, рассматривая все нюансы на смысловом поле проблемы, они сначала получали результат и лишь потом – дедуктивную цепь доказательства. Наш интеллект каким-то образом отбирает среди всех возможных смысловых комбинаций только те, которые ведут к цели. В результате: что легко для компьютера (например, сложные вычисления), трудно для человека и наоборот.
 
      Архитектура фон Неймана благополучно дожила до пенсионного возраста и доказала свою эффективность огромными успехами компьютерных технологий во всех областях науки, техники и быта. Сейчас многие специалисты считают эту архитектуру ахиллесовой пятой современных компьютеров особенно в применении к разработкам ИИ. Предполагается, что в основе компьютеров ХХ1 века (пятого поколения) будут лежать не только вычисления.

       Итак, компьютер не думает, а вычисляет, его интеллектуальные возможности ограничены логическими схемами выбора и перебора вариантов. При этом тупой перебор ведет к экспоненциальному росту вариантов и при малейшем усложнении задачи становится неприменимым. Тогда используют ограниченный перебор вариантов с помощью эвристических алгоритмов. Может быть, поэтому программирование игр стало наиболее продвинутой отраслью ИИ. В решении интеллектуальных задач особенно в области распознавания образов и обучения искусственный интеллект на базе фон-неймановского компьютера выглядит очень беспомощно, все еще слабо отражая естественный интеллект, искаженный кривым зеркалом формализации.
 
Муки искусственного интеллекта
       Полувековой спор оптимистов и пессимистов создания искусственного интеллекта с помощью компьютера продолжается. Остается открытым вопрос принципиальной возможности формализации психических функций познания человека. Сужая и упрощая проблему, спросим: насколько соответствует организация хранения, поиска и обработки информации в компьютере и в психике человека? Одни считают, что алгоритмы работы нашего мозга близки или такие же, как в ЭВМ. Другие утверждают, что в основе все еще плохо изученной работы мозга лежат иные, не детерминированные алгоритмы, используемые в известных компьютерах.
 
       Многие психические процессы познания не формализуются, как физические процессы, и поэтому их нельзя смоделировать на современном компьютере. Наглядным примером могут послужить неудачи машинного перевода, свидетельствующие о неразрешимых проблемах в обучении компьютера естественному языку. Программисты бессильны в ситуации, когда необходим смысловой выбор из набора фактов (значений слов), т.е. выбор факта, имеющего непосредственное отношение к делу, которое человек обнаруживает в контексте. Компьютер не может устранить неоднозначность гибкого естественного языка. Поэтому эффективный перевод особенно художественного текста принципиально не возможен.

      Никакие формальные правила не позволят понять смысл, без которого качественный перевод невозможен. Живой переводчик не ограничивается формальным сопоставлением значений слов (словосочетаний), но в поиске эквивалентности языковых форм он поднимается на смысловой уровень с другой формой мышления (скажем, интуитивной), отличной от формальной логики. Трудно понять, как человек владеет естественным языком. Не существует формальной системы правил для описания этой гибкой эффективной чисто человеческой системы коммуникации.
 
      У компьютера нет человеческой способности распознавать по смыслу существенное и несущественное, уместное и неуместное. Он не может делать такой выбор в каждом случае по ходу перевода. Машинный поиск вариантов эффективен лишь после того, как подобное разделение произведено человеком. Такая функция смыслового выбора вариантов отсутствует во всех системах ИИ и не дает возможности эффективно решать задачи машинного перевода, обучения и распознавания образов.

      Живой процесс обучения нельзя формализовать. Человеческое обучение предполагает, что обучающийся находится в атмосфере доверия и согласия со своим учителем, разделяя с ним свои интересы. Это помогают ему устанавливать правильные соответствия между значениями слов и их конкретным употреблением. Толкование любого словосочетания необходимо происходит в некотором контексте, который позволяет уточнить его смысл. Обучение обязательно предпола¬гает процессы критической оценки и осмысливания в отличие от механического запоминания. Обучающийся не просто усваивает некие навыки и приемы перевода, он учится «верному взгляду на вещи», учится «видеть» смысл в данном контексте.

      Практика формализации и моделирования познавательных функций показывает, что компьютерщики безуспешно пытаются использовать методологию формализации физических явлений в сфере психических процессов. При моделировании физических явлений на компьютере достаточно знать и программно реализовать законы, описывающие этот процесс. Формализация состоит в том, что мы определяем набор исходных параметров системы и правило перехода к следующему состоянию. Тогда компьютер может выдать набор параметров состояния процесса в любой заданный момент времени. Совсем другое дело, когда мы пытаемся моделировать психические процессы, например, управления транспортным средством. Здесь процесс формализации как бы раздваивается, обнаруживая внутреннюю и внешнюю стороны.
 
      Пилот, велосипедист, лыжник никогда не следуют указаниям формальной инструкции, какой бы точной и подробной она не была. Одно дело – знать, другое – уметь.  Возьмем, к примеру, управление велосипедом. С тех пор, как его изобрели, все знают, что равновесие человека, оседлавшего велосипед, достигается одновременным поворотом руля и наклоном тела в зависимости от скорости движения. Сейчас наша компетентность значительно выросла – мы знаем точную формулу этой закономерности. Поможет ли нам это знание удержаться в седле? Разумеется, нет. Мы встретимся с той же проблемой, что и Марк Твен.
 
      Рациональное знание закономерностей лишь формально описывает явление и не может служить руководством к действию человека. Формализация процесса на основе внешнего объективного описания указывает лишь на то, как протекает процесс «правильной» езды велосипедиста, а не на то, что надо делать велосипедисту для «правильной» езды, и совсем не отражает внутреннее субъективное восприятие и реакции, происходящие в его голове.
 
      Надо сказать, что моделирование физических движений относится к таким областям, где сейчас даже в принципе не ясно, как имитировать человека. Проблема важна не только в роботехнике, ее решение связано с эффективностью практического протезирования. В науке о физиологии движения есть гипотеза о существовании в мозгу нескольких уровней управления движением. Первый уровень занимается только тонусом мышц. Второй - временным согласованием действий разных мышц. Третий – пространственным согласованием, далее - уровень целей, потом - уровень смысла.

      Практически даже механическая сторона далека от понимания. Использование техники следящих систем (управление по ускорению) не приводит к движению, которое воспринималось бы как естественное. Кроме того, существует обратная связь - движение руки влияет на то, что происходит в голове. В голове ли, только ли в голове – никто пока не знает.
 
      С естественнонаучной точки зрения пока нет окончательного ответа на вопрос о роли мозга как органа мышления. Философы говорят, что мыслит не мозг, а человек с помощью мозга.  Разработчики ИИ представляют себе мозг как простое вместилище интеллекта, а не как необходимое для мышления условие. Можно ли создать полноценный искусственный интеллект, не зная механизмов естественного интеллекта? Стив Джобс считал, что компьютеры как «велосипеды для мозга» могут  увеличивать эффективность мышления.

Заключение
      В нашей проблеме важно различать целесообразное поведение, которое компьютер способен имитировать, и разумное поведение, свойственное исключительно понимающему человеку, осознающему свое намерение, цель и средства достижения. Может быть задача создания полноценного искусственного интеллекта, похожего на естественный, вообще не имеет решения. Во всяком случае, пока разработки разумного понимающего компьютера напоминают попытки построения вечного двигателя. Опосредованное знание формализуется, его можно получить, передать и ввести в компьютер. Но не всякое умение может быть сведено к знанию. Умению надо обучаться.
         
      Тем не менее, компьютерное моделирование отдельных видов интеллектуальной деятельности человека было и остаётся успешным в самых разных областях диагностики, диспетчеризации, различных игр, программ сдачи экзаменов на уровне хорошего абитуриента и в тысячах прикладных задач науки и техники, бизнеса и быта.  Построение роботов целесообразного поведения – это уже наше настоящее, которое будет развиваться все более возрастающими темпами.
 
      Система «человек-машина» обернется еще одной стороной, и мы увидим развитие новых технологий продления жизни с помощью искусственных нейроинтерфейсов и нейропротезов частей человеческого тела. Успехи нейрофизиологии позволяют надеяться на создание ИИ для управления, поддержания биологического тела в нашем стремлении к «телесному бессмертию».  Пенроуз оказался провидцем, когда, обращаясь к оптимистам создания ИИ, заявил: «Не пробуйте имитировать Бога, строя нейросети, просто попробуйте создать конструкцию, выполняющую такую же зрительную функцию».

      В будущем нас ожидает не соперничество человек-машина, а их эффективный симбиоз. Фантасты пугают нас пришествием сверхразумных роботов, похожих на человека, а некоторым читателям кажется, что опасаться следует появления неполноценно мыслящих человеческих существ, похожих на компьютерные устройства.

Киев. Март 2012.