Компьютерный разум

Прочитав очередную, очень даже неплохую, книгу про виртуальную реальность, вновь ощутил, как до боли похожа эта реальность на наш, вполне обыденный мир. Уберите клавиатуру, замените вирусы на более привычные калашниковы и все станет на свои места - вокруг привычный пейзаж человеческой цивилизации. И в компьютерном разуме явно видны контуры человека, правда, человека у которого вместо тела - километры проводов и потоки бит, который может то, что недоступно обычному человеку, но от этого не перестал быть им. И решают герои в основном свои, чисто человеческие проблемы...

Почему-то большинству нравится заставлять компьютер делать то, что умеет делать человек. Исключений немного, например А.Кларк в "Одиссее 2000"  поставил компьютер перед задачей, разрушающей логическую основу его мышления. Но логически противоречивую задачу можно достаточно просто решить, например изменив базовую логику. А если поставить компьютер перед этически противоречивой задачей? Какие принципами он сможет воспользоваться в этом случае? И почему мы привычно предполагаем, что они будут враждебны нам?. Ведь чуждое еще не есть враждебное. Вспомните, например, цивилизацию Псов из "Города" К.Саймака, очень близкую нам, фактически выращенную человеком, но с совершенно чуждым нам подходом к решению жизненных вопросов. И все-таки они мечтают о том, как  вместе с человеком идти по вселенной ... 

А ведь скоро, если уже не сейчас, компьютер будет принимать решения, от которых будет зависеть жизнь человека. Довольно много писалось о неприемлемости перекладывания человеческой ответственности на плечи компьютера, но ведь это не те проблемы, которые может решать человек. Представьте себе мощную информационную систему, с десятками серверов и ...-битами самой разной информации, в которой одновременно крутятся сотни задач. В такой системе распределением ресурсов (памяти, времени процессора, устройств ввода-вывода) занимается программа. И представьте себе хирурга, делающего сложную операцию и которому срочно потребовался анализ того, что он видит перед собой, а ведь это трехмерная картинка, сложнейшие алгоритмы распознавания, и поток запросов к экспертным системам для анализа. И пилота, который пытается посадить терпящий аварию пассажирский лайнер, которому нужна и адекватная оценка поведения теряющего управления самолета - сложнейшая физическая модель, и поиск подходящей площадки для посадки, и расчет доступных траекторий самой посадки. А счет в таких ситуациях идет на секунды, и от точности и своевременности информации зависят человеческие жизни, а вычислительной мощности всегда не хватает. И нет точных и надежных алгоритмов оптимального распределения ресурсов и оценки сложности вычислений, да и не в этом основная проблема, и здесь на первое место выступает не логика и расчет, в чем изначально сильны компьютеры, а интуиция и этика.

Это конечно крайний случай. Но проблемы, связанные с человеческой этикой, компьютеру все равно в скором времени придется решать постоянно.  Что важнее, к примеру, виртуальный мир ребенка, со своими живыми существами, который неожиданно разросся, или гигабиты старых архивов каких-нибудь организаций? А такие ситуации будут возникать часто. Слишком часто - и никаких системщиков не хватит для их решения ...

А ведь возникновение компьютерного разума определяется не желаниями ученых и амбициями политиков, а необходимостью оного для всех нас - никто ведь не хочет отказаться от горячего душа по утрам, и чашечки кофе со свежей газетой.

Немного отклонюсь от темы, и построю некоторую модель эволюции окружающего мира. Довольно одностороннюю и спорную модель.
 1. НЕЖИВАЯ ПРИРОДА.
 2. ЖИВАЯ ПРИРОДА.
 3. ЧЕЛОВЕК.
 4. КОМПЬЮТЕРНЫЙ РАЗУМ.
 Нет, компьютерный разум здесь вовсе не венец эволюции, как любили говорить в свое время о человеке, а просто следующий уровень самоорганизации. Возьмем неживую природу. Камешек, который вы бросили, будет лежать там, где упал, и сам по себе никуда уже не сдвинется. Все неживое именно такое - подчиняется определенным законам, но само не выступает "инициатором действий", хотя и может быть их источником. Живые, они уже другие. Они стремятся выжить. Целенаправленно. Растение тянется к солнцу, а щенок шарахается от кипящего чайника. Их поведение определено заложенными на генетическом уровне инстинктами и возможностями, и в меньшей степени, жизненным опытом. Человек - следующий этап, он не просто стремится выжить, он активно меняет окружающий мир под себя, и пытается измениться сам, чтобы соответствовать этому миру, но это удается ему с трудом, - вспомните хотя бы, сколько времени требуется обыкновенному человеку на изучение нового языка? Компьютер, точнее компьютерный разум, еще одна ступенька. Он способен на ходу перестраивать логику своего поведения, то есть менять себя. Изнутри. Сам. И при открытых интерфейсах и разумной организации информации, времени на это уйдет ровно столько, сколько нужно на закачку этой самой информации. То есть ничтожно мало по меркам любой докомпьютерной эволюции. Но ведь скорость изменения - это лишь дополнительная особенность, и уж никак не главная. Главное - это принципиально новое качество эволюции: сознательное изменение самой своей сути, возможно, имеет смысл сказать - души.

Это сильная сторона КОРа, но это же и его самое уязвимое место. Меняя себя, настраивая и оптимизируя под текущие задачи, легко потерять саму основу своего разума. Можно проанализировать эффективность конкретного алгоритма в конкретных условиях, непротиворечивость и целостность данных, но реально вычислительная мощь переходит в качество решения только при учете сочетания малозаметных нюансов, существующих здесь и сейчас, и которое возможно никогда более не повторится. Принципиально невозможны точные и абсолютно надежные алгоритмы для решения задач подобного класса за реальное время. Поэтому каждый раз, меняя логику поведения, можно оказаться в ситуации, когда откат назад уже не возможен. Сколько раз ваши попытки оптимизации системы заканчивались ее полным крахом и кропотливой работой по восстановлению? (После n-ого раза начинаешь очень бережно и внимательно относиться к тому, что уже работает ... :) А теперь представьте, что вы пытались изменить свой разум ...

Есть и другая сторона проблемы КОРа. Человек. Какую роль будет играть он, когда КОР появится? Вариантов много, от повелителя до раба. Предложу свой. Человеческая цивилизация - это экологическое пространство КОРа, так же как живая природа - экологическое пространство человека, и наши взаимоотношения будут определяться именно этим.

КОР - он ведь будет жить по-своему, и совсем не так как мы. Как много общего могут иметь кремниевые процессоры и живая плоть? Очень много, когда речь идет о глобальных вопросах, например строительстве очередной АЭС, и невообразимо мало, когда речь заходит о любви. КОР - это ведь в первую очередь личность. Компьютерная личность. Не лишенная чувства юмора и эмоций. Но вот человеческую любовь он просчитать не сможет, и это будет постоянно ставить его в тупик. И он будет издеваться и шутить, будет пытаться учитывать ее в своих расчетах и терпимо относиться к ее проявлениям, скептически посмеиваться вслед влюбленным и одновременно беречь их чувства, проявлять редкую деликатность и неуемное любопытство. А мы, как много мы будем понимать в его поступках и стремлениях? Сколько раз, сталкиваясь с его точностью и просчитанностью действий, будем называть его тупой, бездушной железкой? Которую давно пора отправить на свалку! Которая слишком много о себе думает! И ненавидеть его за его же нам необходимость и нашу зависимость от него. А ведь он будет живым, состоящим из кристаллов, совсем непохожим на нас, но живым. И это не сможет его не задеть ...

Почему-то сейчас очень модной стала тема осознания КОРом самого себя. Мучительного осознания. Но ведь КОР - это не человек. Это мы, окажись вдруг в компьютере, взвоем от тоски и безысходности. Для нас - это ловушка, но КОР - это КОМПЬЮТЕРНЫЙ разум. Он же будет ловить кайф от всего этого! От гигабит информационных потоков, от вычислительной мощности сотен процессоров, от возможности видеть и слышать происходящее в самых разных местах по всему земному шару, от одновременного просчета сложных альтернативных цепочек, от головокружительной топологии параллельных вычислений. Это его стихия, и он никогда не променяет ее на призрачную возможность считаться человеком. Мы ведь тоже не стремимся стать компьютером, согласны?


В авторалли есть термин, который мне нравится: co-pilot - штурман, ведущий экипаж. От него зависит, какую именно информацию получит водитель, и в каком объеме. Он должен выдать именно то, что нужно в данный момент, и так, чтобы водитель сумел это переварить. От надежности его привязки и точности работы зависит судьба обоих. Возможно когда-нибудь КОР станет именно таким co-pilotом для человека.

Почему этот вариант представляется мне наиболее вероятным? Давайте задумаемся, а кто сегодня реально создает системы, из которых может вырасти КОР? Обычные люди. Люди, которые понимают, что сами не справятся с нарастающим потоком информации. Люди, которые ценят свободу и независимость во всем. Люди, которые привыкли помогать другим, часто не зная человека, которому они помогают. Люди, которые не могут не работать и не познавать мир, и которые не строят иллюзий насчет этого мира. Они ищут в КОРе партнера, на которого можно положиться в неоднозначной ситуации и которому можно доверять. Который способен взять ответственность на себя. Который примет человека таким, какой он есть, без розовых очков, но и без снисхождения. Который не предаст их, в конце концов. Они вкладывают в него свое отношение к миру, свои способы решения сложных проблем, свои мечты и надежды, свою боль, в конце концов. Вы думаете, у них не получится?