От аристотеля до геделя и дальше. новая парадигма

Введение. Размышления о судьбе человечества в эру Искусственного Интеллекта (ИИ), набирают обороты. Уже никто не сомневается, что человек против робота не устоит, обсуждаются только сроки, кердык человечеству наступит при нынешнем поколении или при следующем. И как-то даже не модно считать, что искусственный разум дал роботу человек, и он же им управляет. В этом случае теряется интрига, а без интриги какой же хайп? Поэтому превалирующая мысль всех популяризаторов ИИ такова, что он развивается и вскоре, достигнув человеческого уровня, превзойдет его по всем параметрам. И по нравам джунглей, поработит человека, сделав его своим придатком. Перспектива незавидная!
То, что ИИ развивается, не вызывает сомнений, но пока это происходит в результате усилий человеческого интеллекта и предела этому развитию пока не видно. Однако, и человеческое сознание не заморожено. Человеческий разум лабилен, и наивно предполагать, что он останется таким же, когда напрямую начал взаимодействовать со своим искусственным двойником. До сих пор человечество выходило победителем, как в адаптации к изменению физической среды, так и в противодействии интеллектуальным вызовам. Человеческое мышление претерпевает качественные изменения, когда в этом возникает необходимость. И без сомнения человеческий интеллект справится с вызовами, порождаемыми новым способом обработки информации, называемым Искусственным Интеллектом.
Заметим, что революционные изменения сознания, совершившиеся, например, в результате отрицания, что Земля плоская, и признания ее шарообразности, не затронуло фундамента сознания – способа обработки информации. Признание шарообразности Земли лишь заменило одно представление другим. Появление же «мыслящего» двойника с «сознательным» поведением потребует качественной перестройки человеческого сознания путем подключения тех механизмов, которые сейчас у человека не развиты в силу отсутствия в этом жизненной необходимости. Какие качества имеются в виду, обсудим далее.
Память. Вначале приведем те особенности человеческого сознания, которые, очевидно, определяют его ограниченность. Как представляется, основное ограничение связано с тем, что человек не может одновременно удерживать в поле сознания более 7 (;2) объектов. Это свойство человеческого сознания назовем локальностью. Если объектов, с которыми приходится оперировать здесь и сейчас больше, то человек прибегает к подручным средствам – в виде разнообразных «подпорок для памяти». Это суть зарубки на дереве, записи, справочники, поисковые системы, базы данных и пр.
В результате эволюции человеческая память приобрела качество избирательности. Поэтому человек помнит то, с чем чаще общается в повседневной жизни, и забывает то, в чем потребность возникает редко. Это сформировало многоуровневый и достаточно быстродействующий механизм извлечения данных из памяти, в том числе ассоциативный, когда факты всплывают из памяти в результате возникновения нечетких ассоциаций. Впрочем, ассоциации всегда нечеткие.    
ИИ в принципе не обладает локальностью сознания. Любые данные, один раз возникшие в памяти ИИ, не разделяются по важности или частоте использования, они одинаково доступны. Каким бы объемным ни было хранилище данных, извлечение информации определяется одним и тем же механизмом. Данные не разделяются на актуальные – не актуальные, важные – не важные, свежие – не свежие и пр. Прерогатива такого разделения у человека. И, как показывает опыт работы с поисковыми системами, иногда требуется весьма постараться, чтобы найти необходимые данные.
Итак, налицо две парадигмы памяти – одна естественная, возникшая в результате эволюции, другая – машинная – созданная искусственно, но также эволюционизирующая. Механически соединить их не удастся, они слишком разные по своей природе. Но как видится их симбиоз? В отношении машинной памяти – это очевидно, память становится семантической, т.е. реагирующей на смысловые запросы. Это существенно ускоряет поиск релевантной информации. А что же человек? В этом отношении человек переживает определенную деградацию, т.к. тренировка памяти стала излишней. Все, что надо, можно найти на просторах Интернета. Тем самым подтверждается тезис, что эволюция – это не обязательно поступательное движение вперед, бывают и откаты. Однако, сразу же отметим, что память – это не только хранилище фактических данных, наподобие «А.С. Пушкин родился в Москве», это еще и хранилище знаний. А в этом естественная память существенно превосходит искусственную, человек располагает знаниями, представленными в виде различных правил, например, логического вывода. Именно знания позволяют ему ориентироваться в огромном потоке информации, представленной в Интернете. Человек попросту знает, что искать. И поэтому поиск не превращается в бесконечный перебор, т.к. направляется знаниями.
Поэтому, если управляемый семантический поиск человека расширить за счет быстрой доступности данных, чтобы все хранимые элементы были доступны, то это можно было бы считать следующим эволюционным шагом развития памяти. Однако, вспомним про локальность мышления, которая рушит такие предположения. Из-за локальности мы не можем поместить в поле внимания большое число фактических данных. Следовательно, остается только модифицировать аппарат выделения релевантной информации с использованием семантической фильтрации. Последняя должна осуществляться на стороне искусственной памяти, тем самым повышая избирательность по отношению к хранимым данным.
Итог следующий: человеческие возможности запоминания будут развиваться за счет появления мобильных хранилищ информации, снабженных семантическими фильтрами для выделения релевантной информации. Тем самым, ИИ остается помощником в хранении и выборе информации, роль человека по-прежнему в ее анализе и принятии или не принятии.
Логический вывод. Рассмотрим еще один сознательный механизм, который в настоящее время активно используется в искусственно-интеллектуальных устройствах – принятие решения на основе логического вывода. Логика, как наука и способ рассуждения, сформировались в Древней Греции. Окончательное оформление логика приобрела в трудах Аристотеля, после которого мыслить нелогично стало признаком неразвитости. Рассмотрим, чем отличается логический вывод человека от логического вывода, реализованного в машинной программе. Человек, рассуждая, переходит от посылок к заключению, которое формируется на основе формального (т.е. универсального для любых ситуаций) правила. Но так как сознание человека локально, то логический вывод характеризуется выраженной последовательностью и детерминированностью. Всегда можно указать из каких исходных посылок следует то или иное заключение. Научить машину такому способу заключений можно, но это не эффективно. Так рассуждала программная система «Логик теоретик», которую можно считать первой искусственно-интеллектуальной системой. Но практических результатов достигнуто не было. Сейчас машина рассуждает иначе, она выводит все следствия из фиксированного множества посылок. Тем самым вывод приобретает лавинообразный характер, и установить с достоверностью, какое следствие из каких посылок получено, невозможно, по меньшей мере, крайне затруднительно. Тем самым, логические рассуждения, реализованные в машинном интеллекте, не внося ничего нового по существу в сравнении с традиционным логическим выводом, по форме носят массовый характер, получая все возможные следствия из имеющихся посылок. Поэтому, даже имея машинное доказательство какого-либо утверждения, человеку требуется немало усилий, чтобы выделить из него содержательное доказательство в традиционных терминах. Человек не верит «на слово» компьютеру, что тому удалось доказать то или иное утверждение, ему надо воспроизвести доказательство.
Сформулируем вопрос – может ли человек в своей практической деятельности освоить подобную парадигму (лавинообразную) логического вывода. Судя по всему, локальность сознания такую возможность исключает. И что же – машина может быстрее и полнее строить картину мира, если это основывается на умозаключениях? На первый взгляд, именно так и обстоит дело. Но только на первый.
Возьмем, например, программу, которая строит доказательства геометрических теорем. Имеется условие, которое формулируется в терминах чертежа и отношений между его элементами. Далее включается автоматический поиск, и машина с ее неисчерпаемой энергией строит все логические выводы из имеющихся посылок. При этом она доказывает не одну теорему, а десятки, сотни и тысячи, которые суть следствия из заданного условия. И этот процесс прекращается лишь с нахождением т.н. неподвижной точки, т.е. такого состояния пространства поиска, когда не будут добавляться новые соотношения между элементами чертежа. С некоторым допущением можно полагать, что неподвижная точка всегда существует, она конечная и единственная. Таким образом, машина не строит вывод конкретной теоремы, она строит неподвижную точку, которая включает доказательство искомой теоремы наряду с большим числом других. Поэтому вывод не имеет направленного характера, он всенаправлен, и, если мы хотим сузить его, то необходимо использовать стратегии, ограничивающие вид и содержание неподвижной точки. Человек в своих содержательных рассуждениях такое ограничение использует при каждом умозаключении, у него есть внутреннее убеждение в каком направлении надо двигаться. За счет этого получаются прозрачные, содержательные выводы.
Следовательно, новая парадигма мышления состоит в том, чтобы человек освоил инструмент для выделения из построенных неподвижных точек содержательно интересные умозаключения. В результате он сможет получать не одно искомое утверждение, а совокупность всех интересных утверждений. И представление о логическом выводе приобретает новое звучание: по исходному набору посылок требуется установить все содержательные следствия. Это уже иной взгляд на умозаключения: от нахождения конкретного заключения мы переходим к формированию всей предметной области, которая базируется на исходной аксиоматике. Но так, что все полученные факты о предметной области не противоречат аксиоматике. Для человека это кажется парадоксальным, всегда представлялось, что решать конкретную задачу легче, чем совокупность (да еще немалую). Но компьютер не решает конкретной задачи, он предлагает все решения, из которых можно отбирать по содержательным критериям. В том числе и искомую задачу. И тогда следующий эволюционный шаг человеческого сознания состоит в том, чтобы использовать все данные полученной предметной области для выделения интересных свойств. Машина берет на себя труд по генерированию описания предметной области, а человек – отбор интересных свойств. И такой способ описания предметной области более информационный, нежели простое доказательство конкретных утверждений.
К.Гедель доказал, что для каждого достаточно богатого исчисления можно предложить утверждения, которые нельзя ни доказать, ни опровергнуть в рамках этого исчисления. Поэтому добавление такого утверждения в исчисление не приводит к противоречию, и тем самым создается новая предметная область, включающая предыдущую, и еще ряд дополнительных. Машина при построении неподвижной точки генерирует все выводимые утверждения и, если какое-либо утверждение не получается в виде следствия, то оно может быть добавлено без нарушения непротиворечивости. Происходит построение новой предметной области, включающей предыдущую и такое расширение может быть интересно с содержательной точки зрения. Вполне возможно, это путь машинной эволюции.
Итог: эволюция человеческого сознания представляется следующей. Человеческие способности к умозаключению преобразуются в способности выбора искомого соотношения из множества порожденных в результате массового вывода, осуществляемого машиной. Принятие или не принятие – это прерогатива человека, а порождение всего допустимого описания – функция машины. И в этом случае, как и в случае с памятью, ИИ останется лишь вспомогательная роль.
Формирование знаний. Затронем еще одну функцию ИИ – обучение (в достаточно широком смысле). Под машинным обучением обычно понимается распознавание образов или выделение закономерностей в наборе фактических данных. Во всяком случае, эти два направления наиболее проработаны к настоящему времени. При распознавании образов в некоторых достаточно содержательных областях правильность распознавания приближается к 100% , а выделение закономерностей тоже иногда впечатляет. В любом случае при распознавании или выделении закономерностей происходит этап обучения, когда формируются параметры компьютерной программы. Это может быть нейронная сеть, и тогда формируются ее параметры, или программа обучения и тогда формируется т.н. решающее дерево. В результате сотен и тысяч экспериментов по обучению программа эволюционизирует, и затем, когда ей подают на вход новый образ, она относит его к определенному классу. Человек, при исследовании новой предметной области осуществляет такие же действия. Вначале обязательно обучение, в результате чего формулируются рабочие гипотезы, они принимаются в качестве рабочих правил или модифицируются, а затем рабочие правила используются в практической деятельности. Однако, в силу локальности сознания, формирование рабочих правил достаточно медленный процесс, в то время как машина может за считанные секунды обработать большие массивы данных и сформулировать гипотезы по их классификации. Человеку остается только проверить эти гипотезы на новых данных и, в случае успеха, принять в качестве рабочих правил. Однако обучение зависит от исходных данных и метода обучения. Исходный набор задается априорно, а метод обучения определяется человеком, и от него зависит формирование гипотез для последующей работы. Получается, что человек определяет «правила игры», которых должна придерживаться машина, чтобы выделить реальные закономерности из имеющихся первичных данных
И вновь получаем, что принятие решения – это функция человека, а машина лишь поставляет промежуточные данные, полученные в результате предварительного обучения. Эволюция сознания видится в том, что человек формулирует правила классификации и проверяет их на обучающей выборке с последующем подтверждением на новых данных. Т.е. от непосредственного формирования гипотез человек переходит к формулировке правил и фильтрации получаемых гипотез.   
Реальная опасность ИИ. Однако, развитие ИИ несет и реальную опасность т.к. машинное окружение человека становится более функциональным, в котором каждый механизм обладает своим узконаправленным ИИ. Но все вместе они покрывают большой сектор человеческой деятельности, в котором раньше полностью господствовал человеческий интеллект. В результате возникает иллюзия, что человеческое сознание не востребовано, человек превращается в придаток машинного окружения, живущего по расписанию, определяемом этим окружением. От пробуждения по звонку интеллектуального будильника, занимаясь деятельностью, которая требует взаимодействия с машиной, до вечерней, также программируемой культурной программы. Может возникнуть иллюзия неполноценности, т.к. человек потребляет то, что ему предлагает машина, его производственная деятельность неразрывно связана лишь с выбором из имеющихся вариантов решений, опять же предлагаемых машиной, а про культурную программу и говорить нечего – машина подбирает то, что ему нравится. В этом массовом окружении машин, где основные функции человека суть: потреблять и выбирать, и кроется основная опасность ИИ. Она уже приводит к деградации массового сознания. Уже сейчас при задании: «Найти решение этой задачи», студенты первым делом гуглят ее условие, в полной уверенности, что ее решение существует и надо лишь его найти в Интернете. И если решение не находится, то следует возглас, что задача неверно сформулирована.