Где мы, кто мы, куда идем?

Это статья из проекта 3. Коротко обо всех проектах – в резюме на моей странице на proza.ru, о каждом - в Предисловии к нему.


На это «путешествие» меня сподвигла видео дискуссии 2018 г. в МГУ им. М.В. Ломоносова (Москва) об ИИ и искусственном сознании между академиком РАН К.В. Анохиным (нейробиолог, специалист по мозгу и сознанию), С.А. Шумским (специалист по машинному обучению) и Т.В. Черниговской (дважды доктор наук, биология, лингвистика), в которой обсуждались три вопроса: где мы, кто мы, куда мы идем. Имеются в виду состояние разработок ИИ на данный момент (где мы), «кто мы» - состояние науки о сознании, а также будущее цивилизации в связи с ИИ и не только. Тема «горячая», по ней высказывалось очень много специалистов, меня в первую очередь интересуют Анохин и Черниговская, т.к. вместе со своими коллегами они встречались с Его Святейшеством Далай Ламой XIV в 2017-2018 гг.  А мой образ будущего строится с участием исследований на стыке науки и религий, конечно, в контексте моей гипотезы продолжающегося палеоконтакта, о чем я и пишу в статьях раздела «Религия».


 Из этой встречи наших ученых с Далай Ламой пока получился только Medvedev Tutdam Project, которым руководит академик РАН С.В. Медведев (см. «Кто мы?», «Граница публичности?», «Тукдам и общие анестетики», тукдам по-тибетски святой ум). Его участник, известный ученый д.б.н. А.Я. Каплан выразил надежду, что этот диалог с Далай Ламой даст ответы на вопросы «кто мы?» и «куда идем?». Я был рад узнать это, т.к. сам прицелился на те же вопросы, в т.ч. и в связи с их проектом (см. «Кто мы?»). Для полного совпадения исходных вопросов с дискуссией об ИИ и искусственном сознании добавляем «где мы?» и получаем такую двухчастную «картину маслом». С одной стороны, эта дискуссия об ИИ, а также еще одна об ИИ и тоже с Анохиным и Черниговской (OpenTalk.AI), а с другой, исследования «на стыке» науки и буддизма с участием наших ученых, в т.ч. Анохина и Черниговской. Хотя академик РАН К.В. Анохин прямо не формулировал такие вопросы в связи со встречами с Далай Ламой, но он прямо заявил, что строгие эксперименты по исследованиям реинкарнации являются критическими, как для науки, так и для буддизма. При этом он считает, что они более критичны для буддизма, чем для науки, т.к., разумеется, не верит в реинкарнацию. В статье «Тукдам и общие анестетики» я предположил, что критическими для его науки могут оказаться уже исследования тукдама и он, как теоретик, первым «примет удар». 


Надо сразу понимать, что прямого влияния на разработки ИИ диалог науки с буддизмом не может оказать, т.к. речь идет о смерти, которая к ИИ не имеет отношения в его обозримом будущем. Речь о возможном влиянии на теорию сознания.



Структура статьи задается тремя вопросами где-кто-куда. В дискуссии по ИИ и искусственному сознанию в МГУ 2018 г. на вопрос «где мы?» отвечал С.А. Шумский, «кто мы?» - К.В. Анохин (он же модератор) и «куда мы идем?» - Т.В. Черниговская. Я дополняю каждый пункт ответом на соответствующий вопрос по отношению к исследованиям на стыке науки и буддизма, в первую очередь, конечно, с участием наших ученых.


1. Где мы?


Все познается в сравнении и поэтому оценка положения дел с ИИ определяется тем, с чем их сравнивают.


С.А. Шумский (центр науки и технологий искусственного интеллекта МФТИ, российская ассоциация нейроинформатики).
сравнил создание ИИ с коперниканской революцией и началом науки нового времени. Ни больше, ни меньше. Как известно, этот революционный процесс, изменивший сначала судьбу Европы, а потом и всего мира, проходил в три этапа. Сначала Коперник (1473-1543) сказал «не верьте глазам своим»: Солнце не движется по небу, оно не восходит и не заходит – это иллюзия. Потом Галилей (1564-1642) создал телескоп, увидел в него много всего интересного и очень поспособствовал внедрению в массы коперниканства. Но завершил это дело, опустив небо на землю своими тремя законами и законом тяготения, И. Ньютон (1642-1727). Без него все это было почти только разговорами, т.к. с вычислительно-предсказательной точки зрения модель Коперника была не лучше модели Птолемея.


Таким образом, видим, что этот революционный процесс длился не один век.  Сейчас аналогичный для судеб «всего прогрессивного человечества» процесс происходит в течение нескольких десятилетий, т.к. компьютеры постепенно начали входить в нашу жизнь всего лет 60 назад (период «Коперника»). Шумский полагает, что период «Коперника» пройден, период «Галилея» заканчивается и на подходе теоретический прорыв «Ньютона». До сих пор проблемой сознания черепашьим шагом занималась в основном философия. В связи с ИИ настала практическая необходимость в теории сознания.


В качестве собирательного образа «Ньютона» я здесь понимаю К.В. Анохина, что, конечно, не было сказано, я просто соединил оценку Шумского с фактом разработок Анохиным теории сознания. Для удобства обозначим его «Ньютон №1». В предисловии к «Наука и религии: пять проектов» я писал о проекте фонда Темплтона по отбраковке теорий сознания из 6ти отобранных ими, на что фонд ассигновал $20M. Первый этап закончится в конце 2022 г., будем надеяться, что к концу 20-х гг. проект даст результат. Посмотрим,  каких «ньютонов» отберет фонд Темплтона.  Ниже я скажу, кто, с моей точки зрения, «основной Ньютон».  В этом многообразии нет ничего особенного, т.к. природа научного знания гипотетична и идет отбор гипотез. Не удивлюсь, если окажется, что среди нейробиологов наш «Ньютон №1» самый крутой (он же академик в третьем поколении, знает, что делает).


Ну, а на «сломе цивилизации» надо шутить, а не рыдать.


В связи с такой радикальной оценкой Шумского того «где мы?» приведу также оценки Анохина и Черниговской, по их словам, они не сговаривались. Академик говорил, что это крупнейшая научная революция в истории, это не только его мнение, а и многих его коллег. Черниговская еще больше драматизировала: «вообще слом всей цивилизации».


Государства и крупный бизнес уже поняли, что ИИ – это мощный экономический ресурс и поэтому началась очередная гонка, которая, согласно приведенным Шумским данным, по финансовым вложениям превосходит Манхеттенский проект (создание атомной бомбы в США) и ракетную гонку. Только в 2016 г. мировые инвестиции в ИИ примерно вдвое превысили среднегодовые затраты на Манхеттенский проект, причем дальше вложения только растут. Число людей в мире, занятых в создании ИИ в 2016 г., оценено в 300 000  человек и эта армия ежегодно растет на 50 и более процентов в США и Китае (лидеры разработок ИИ).


Главный вывод из этой концентрации финансовых и человеческих ресурсов: остановить это движение не возможно. Очевидна заинтересованность военных в ИИ, о чем прямо не говорилось в дискуссиях, т.к. в принципе достаточно упомянуть ИИ как экономический ресурс. Недавно видел сообщение о виртуальном бое военного летчика США и ИИ, кто там победил, не знаю, но не сомневаюсь, что очень скоро и тут ИИ всех «забодает».
 
 
За 5 лет (2012-2017) в машинном интеллекте было сделано больше, чем за 50 лет. Около 2012 г. произошла революция под названием «машинное обучение»: программисты перестали учить комп «думать», как человек, т.к. разум человека очень сложен и не до конца понятен, а стали учить его учиться. Например, обыгравшему всех в шахматы, го и сёги AlphaZero от DeepMind (Google) потребовалось всего по несколько часов, чтобы с нуля обучиться каждой из этих игр. Играя самим с собой. Вычислительная мощность, набор правил, цель и перебор вариантов, все, никаких дебютов, никаких примеров гроссмейстерских партий, прошлый человеческий опыт этой самообучающейся программе не нужен.


Начавшееся в 2012 г. «машинное обучение» - это собственно период «Галилея», а поэтому пусть разработчики программ, обыгрывающих чемпионов в шахматы, го и сёги – это «лоб Галилея».   


Благодаря машинному обучению за последние годы был создан сенсорный и стратегический интеллекты. Компы научились распознавать образы и речь на уровне человека (проза, стихи, музыка, песни, картины с обывательской т.зр. не хуже человеческих, см. в этой связи «Сознание А.В. Купатова») и лучше человека добиваться своих целей, когда противник мешает это делать (игры). Черниговскую особенно удивила победа компьютерной программы в покер, т.к. там нужно лгать, блефовать.


Следующий шаг, апогей периода «Галилея», он либо уже сделан, т.к. обсуждение было в 2018 г., а прогноз был дан на 3-5 лет, либо произойдет где-то в 2023 г. – это создание искусственной психики, как у млекопитающих, такой искусственной домашней зверушки, которую потом будут дорабатывать до человеческого уровня. На этом Шумский закончил свой ответ на вопрос «где мы?».


***


Теперь «где мы?»  в диалоге науки и буддизма, точнее говоря,  отечественной науки с тибетским буддизмом. Поскольку во всяком диалоге есть две стороны, то надо оценить ситуацию для обеих (см. savetibet.ru).


Сделаю следующее отступление общего характера.


Сравнение С.А. Шумского ситуации с ИИ с зарождением науки нового времени, нынешней стадии ИИ с периодом «Галилея» продуктивно еще вот в каком отношении. Дело в том, что наука нового времени зародилась в лоне христианства и это очень важно. Лауреат премии Темплтона за выдающийся вклад в развитие взаимодействия науки и религий Я. Барбур писал о том, что в наше время наука, окрыленная своими неоспоримыми успехами, уже не нуждается в религии, но на ее заре это было не так. В статьях я не один раз ссылался на знаменитую метафору Галилея научного знания о том, что ученые читают Книгу Природы, написанную Богом на языке математики. Во времена Галилея научные исследования понимались в религиозном, христианском контексте, как «чтение» одной из двух книг Откровения. В христианском богословии считается, что есть два Откровения Бога: Библия и Природа – поэтому ученые занимались богоугодным делом, изучая Природу. То, что они при этом «впадали в ересь» и Джордано Бруно католики сожгли на костре – это «издержки производства». Здесь уместно вспомнить о том, что И. Ньютон считал абсолютное пространство своей механики чувствилищем Бога. 


Думаю, что в нынешней революции науки о сознании аналогичную роль может сыграть тибетский буддизм. Либо же религиям надо просто дать «спокойно умереть». В них ничего нет, кроме веры у каждой в свое, этик и красивых слов о любви, сострадании и т.д. и т.п.    


П.В. Флоренский со товарищи сделали свое дело, изучив мироточащие иконы (см. "Почему растительные масла?", "Растительные масла и триглицериды"), А. Вировски предложил модель для чудес Солнца (см. "Об оптико-атмосферной модели чудес Солнца"), но только у тибетского буддизма есть воспроизводимые нетривиальные результаты, интересные специалистам по мозгу и сознанию.


В ответе на вопрос «где мы?» со стороны нашей науки ограничимся текущим проектом Medvedev Tukdam Project, которым руководит академик РАН С.В. Медведев, кстати, тоже академик в третьем поколении. Это не официальное название проекта, так его называют участвующие в нем монахи тибетского буддизма. Мне слышится ирония в этом названии в двух смыслах. С одной стороны, на русский его можно перевести как «проект святого ума Медведева». С другой стороны, надо знать общий контекст организации этого научного проекта, в котором семь монастырей тибетского буддизма в Индии объединены Медведевым с коллегами в два научных центра. Для этих центров наши ученые (в т.ч. и Анохин) готовят монахов-исследователей. В целом этот проект идет в русле мощной тенденции синтеза/соединения описаний опыта человека от первого (религиозный опыт) и третьего (наука) лиц. Я не буду здесь вдаваться в детали (см. например, «Кто мы?»), главное в том, что пора изучать самих себя, а не только других. По мнению Анохина, у этого синтез/соединения есть два основных сценария: монах-исследователь и ученый-практик медитации.  Сейчас развивается первый сценарий и в связи с этим легко понять иронию в названии проекта: тукдам исполняет вовсе не Медведев. Я не перевожу на русский название, т.к. его английское звучание мне нравится больше, оно динамично и даже несколько агрессивно.


По задействованным в проекте научным ресурсам (savetibet.ru): среди его участников видим Институт мозга человека РАН, МГУ им. М.В. Ломоносова, Институт медико-биологических проблем РАН, Indian Institute of Science, Отделение физиологических наук РАН. Академик С.В. Медведев (он член бюро отделения РАН) в интервью СМИ говорил, что пока их финансируют из частных источников, но они надеются на госфинансирование.


Исследовательская ситуация в Medvedev Tukdam Project такова (savetibet): исследуются как практики медитации, ведущие к тукдаму, там и сам тукдам. О тукдаме см. статью «Тукдам и общие анестетики». По медитациям были получены первые результаты, которые Медведев с коллегой доложили на двух конференциях, статья послана в журнал. По тукдаму только высказывание Медведева в ответах на вопрос по докладу о медитациях и в интервью СМИ.


Считаю, что это ответ на вопрос «где мы» со стороны науки.


«Где мы?» со стороны Его Святейшества Далай Ламы XIV?


Далай Лама ежегодно встречается с западными учеными с 1989 г., по материалам практически каждой встречи публикуется книга, для поддержки этих встреч и развития научных исследований медитации был создан институт (mindandlife.org), наши ученые встретились с ним в 2017-2018 гг. в формате отдельных встреч, т.е. отдельно от западных ученых. С 2001 г. Далай Лама инициировал реформу монашеского образования «Science for monks», которая, как я выяснил благодаря материалам ИВ РАН (см. «Тибетология и буддология на стыке науки и религии»), порождена объективными процессами, идущими после вторжения в Тибет Китая в 50-х гг. До этого там было только монашеское образование, которому в современных условиях объективно нужна реформа. В предисловии к «Наука и религии: пять проектов» я писал, что этот образовательный проект Далай Ламы поддерживает фонд Темплтона (и не только он), выдавая гранты западным ученым, чтобы они учили науке тибетских монахов и монахинь. Хотя у наших ученых другие источники финансирования, но они «идут» в том же реформаторском русле.


Его Святейшество предложил ученым изучать тукдам более 10 лет назад (savetibet.ru), публикации результатов этих исследований, если они были, мне неизвестны. С.В. Медведев встречался с ключевым человеком в научных исследованиях медитации в США, Р. Дэвидсоном, и они договорились обмениваться информацией.


Таки образом, ответ на вопрос  «где мы?» понятен.


2. Кто мы?


Прежде чем приступить к этому вопросу, полезно вспомнить о другом, ему сопутствующем: «кто я?». Это - великий религиозный вопрос, отвечая на который многие восточные святые постигли свои религиозные максимы. Я отнес его к религиозным, потому что в древности вряд ли им задавался каждый крестьянин, торговец, воин и даже царь. Будда Шакьямуни искал счастья, не подверженного влиянию болезни и смерти, и попутно предложил свое решение вопроса «кто я?». В мировых религиях, конечно, есть и ответ на вопрос «кто мы?»: как произошли люди и чем все это дело закончится, - но он об очень больших временах, что будет вообще в конце времен, поэтому религиозный индивидуализм личного спасения/освобождения находится во главе угла. Биологию, как и другие науки о человеке и прочей живности, конечно, интересуют отдельные особи, но поскольку их обычно много и они похожи друг на друга, то ей больше интересны  таксоны, виды, отряды – отсюда скорее не «кто я?», а «кто мы?». Эта наука нам говорит, что вся наша жизнь, как всякой стадной живности, – это по сути дела сплошная сатисфакция трех базовых инстинктов, динамических стереотипов (мы ими не с рождения «загружены»): самосохранения, размножение и иерархии – слегка очеловеченная многообразными лингвистическими прибамбасами духовностей, философий и т.д. Конкретно, кто я? Конечно, человек, мужчина и обычно член каких-то групп/иерархий. Разные люди с разной силой озабочены этими динамическими стереотипами, отсюда все многообразие личностей. 


Я уже писал об А.В. Курпатове (см. «Сознание А.В. Курпатова»), у которого есть много книжек по психотерапии и трилогия о так сказать природе человека. Он связал нарушения в этих трех стереотипах с тремя основными психопатологиями и тремя стилями мышления: шизофренией (самосохранение)/конструктор, психозом (размножение)/рефлектор и неврозом (иерархия)/центрист. По его словам, он - центрист, т.е., как и все невротики-центристы, озабочен общим делом, собиранием масс под свои знамена. Таких людей по его оценке сейчас 80%, кто со знаменем, кто под ним. Таким образом, он предложил один из современных научных ответов на вопрос «кто я?» вместе с «кто мы?» - диагноз поставлен. Для Сбербанка – он еще и научный руководитель лаборатории по нейронауке и поведению человека у Грефа -  80% населения за глаза хватит. 


Теперь, что думает академик РАН К.В. Анохин К.В. (лаборатория нейробиологии, НИЦ «Курчатовский институт»; центр нейронаук и когнитивных наук МГУ имени М.В. Ломоносова) по поводу того, кто мы.


Как я уже писал, он согласился с Шумским в том, что мы находимся на пороге, может быть, крупнейшей в истории человечества научной революции. По его мнению, мы только входим в нее (для Шумского мы на пороге периода «Ньютона»), но в конце получим ответ на вопрос «кто мы?», как мы мыслим, как осознаем окружающий мир, что такое знание – и все это будет иметь непосредственное отношение не только к познанию, но и к технологиям.  Эта революция должна будет ответить на вопросы о сознании и разуме, не просто о работе мозга, как биологическом органе, как почки, печень, а почему нейроны мозга продуцируют мысли, чувства, желания. Он считает, что современные поиски нейроколлерятов сознания («буря исследований, занимающих первые страницы научных журналов») не приведут к прорыву в понимании сознания, нужна фундаментальная теория сознания, которой он и занимается.


Очень важный момент в связи с вопросом «кто мы?», который более отчетливо прозвучал во время обсуждения ИИ на OpenTalk.AI 2018 г., предшествовавшего дискуссии в МГУ, это обсуждение также проводили Анохин и Т.В. Черниговская, состоит в следующем. В 2012 г. на ежегодной конференции ассоциации по исследованиям сознания в Кембридже (Англия) была принята декларация о сознании у животных, которую подписали 25 ее участников. Декларация утверждает, что согласно современным научным исследованиям не только человек обладает сознанием, но и многие млекопитающие, птицы, даже рыбы и осьминоги. В параллель этому Черниговская говорила о том, что в некоторых странах, Индии и др., вводится понятие «нечеловеческого субъекта» (нечеловеческой личности), к которым относят китов, дельфинов, слонов, шимпанзе. Среди откликов в СМИ на кембриджскую декларацию я посмотрел колонку К. Коха (крупный нейробиолог) «Сознание есть везде», которую он заканчивает обращением к читателю, что если во время десерта к вам прилетит пчела, не убивайте ее, это ваш брат по разуму. Черниговская рассказала о своей поездке к новосибирским ученым, изучающим интеллект (!) у муравьев. Руководительница исследований кроме всего прочего сказала им, что вот этот муравей «№ 11» - очень умный (они нумеруют их, чтобы различать).


Упасть  - не встать!


Анохин дал определение сознания, которое разделяет большинство специалистов. Его «сухой остаток» такой: «сознание – это любой субъективный опыт». В контексте разработок ИИ самое главное в связи с сознанием – и эту позицию он сформулировал на OpenTalk, причем, по словам Черниговской, публично впервые - состоит в следующем. Поскольку разработки ИИ остановить нельзя и для того, чтобы не допустить чудовищные этические и др. проблемы, которые возникнут с появлением у ИИ сознания, он считает, что развитие ИИ нужно остановить на уровне домашних животных. Как мы помним, Шумский говорил (2018 г.) о том, что искусственная психика будет создана в ближайшие 3-5 лет, т.е. искусственное домашнее животное. Для того, чтобы установить такой контроль, и нужна теория сознания и продолжение соответствующих исследований. Они называют свою теорию «когнитом: гиперсетевая теория мозга».


В связи с развитием этой теории придется отказаться от двух предрассудков, которые разделяет «все прогрессивное человечество» на протяжении веков. Во-первых, от предрассудка нематериальности психики. Во-вторых, «мы должны отказаться от понимания мозга, как низко-материально устроенного обычного физиологического органа типа печени, почек и т.д.». Анохин ввел ключевое для его теории различение между сознанием и разумом (психикой) и сказал, что надо сначала изучить разум, который, по его мнению, возникал в ходе эволюции много раз и в нем можно видеть простые закономерности (всего три). У ворон нет коры головного мозга, но они умные, у осьминогов всего 500 миллионов нейронов и они тоже умные и т.д. и т.п. Зная общие закономерности возникновения разума в эволюции мы можем соотнести его с искусственными системами, а также инопланетным разумом.


В контексте машинного обучения исключительно важно замечание Анохина об обучении машин. Хотя на пути машинного обучения достигнуты колоссальные успехи и в них используются элементы человеческого обучения, но это не оно. Главное отличие машинного обучения от человеческого состоит в том, что человек хочет учиться, а машина нет. Анохин закончил свой ответ на вопрос «кто мы?» утверждением о том, что он знает, как научить машины хотеть.


Итак, «Ньютон №1» знает, как научить роботов хотеть учиться? Все. Пора призывать «основного Ньютона».


Т.В. Черниговская очень наглядно показала – портретами ученых – что иногда обсуждают специалисты по мозгу и сознанию, когда пытаются понять, а какая физика им нужна? Эйнштейна, Ньютона, Бора по отдельности или всех вместе? А какая математика? Она упоминала (в 2018 г.) сэра Роджера Пенроуза, ставшего в 2020 г. лауреатом Нобелевской премии по физике, в этом контексте как «провокатора». Однако, то, что она сказала о его работах по проблеме сознания, касается только одного из моментов (очень важного, но одного) и только его квантовой модели. В контексте ИИ, вопроса «кто мы?», на мой взгляд, важен другой его вклад в эту область, который остался не признанным специалистами по мозгу и сознанию на этих обсуждениях и, не сомневаюсь, не только на них.
 

В «сухом остатке» сэр Роджер Пенроуз «перенес» теорему Гёделя на мышление/сознание человека и тем самым доказал теорему «no go» для ИИ: «перенос» сознания на современные компы не возможен. В уточнении последнего я рекомендую работу д.ф.-.м.н. А.Д. Панова о технологической сингулярности и теореме Пенроуза об ИИ (см. его сайт).   


Для того, чтобы понять, почему я привлек сюда теорему Пенроуза, нужно вспомнить, что современный сенсорный и стратегический интеллект и будущая психика робота – это решение задач, которые раньше умел решать только человек, на современных компьютерах современными программами. AlphaZero лучше людей играет в шахматы, го, сёги и покер, но это не значит, что программа является как бы высококлассным игроком в эти игры, но только с вычислительной мощностью современного суперкомпа.  Она умеет играть лучше, но делает это не как человек, а сенсорный ИИ распознает речь, образы и т.д., но это не компьютерные программы соответствующих способностей человека, не «перенесенные» на компьютерное «железо» способности человека.


Пенроуз доказал общую теорему о природе сознания, которая показывает, что сознание человека на компьютер не «перенести», его работа не моделируема на классическом компьютере в принципе.


В статье «Тукдам и общие анестетики» я уже писал о том, что научное творчество Пенроуза после черных дыр (1965 г.), «последние 30-40 лет», оценивается академическими сообществами не однозначно, утверждая это, я исходил из нобелевской статьи на портале elementy.ru.  А теорема об ИИ как раз одно из очень сильных утверждений этого периода, однако, я рад снова сослаться на тот же портал elementy.ru, который в статье, посвященной теореме Гёделя, ссылается на работу Пенроуза, по мнению автора статьи, показавшего, что эта  теорема  математической логики применима не только к абстрактной и далекой от жизни области «чистой математики», но и к самому близкому каждому человеку процессу – его сознанию.


Пенроуз перенес теорему Гёделя (-Тьюринга) на мышление, сознание. Но что же сделал Гёдель в математике, почему он так велик, что его и к сознанию привлекают?


Математик, который в детстве читал книгу о теореме Гёделя, а став математиком, сам написал о ней книгу, пишет (elementy.ru), что Гёдель показал математике ограниченность ее возможностей. Он опроверг утверждение Д. Гильберта, который после смерти французского математика А. Пуанкаре стал безусловным авторитетом в мире математиков начала 20 в., о существовании системы принципов, из которых, используя логику, можно вывести все положения математики.  Если быть более точным, то теорема Гёделя о неполноте арифметики доказывает, что в ней есть утверждения, которые нельзя ни доказать, ни опровергнуть. Это о натуральных числах, которыми мы все пользуемся! Для того, чтобы доказать истинность или ложность такого утверждения, нужно ввести новую аксиому.


Я не буду здесь обращаться к самому Пенроузу, т.к. его размышления достаточно сложны и пространны. Простейший перенос теоремы Гёделя на мышление, который я сделал после того, как прочитал книгу Пенроуза, такой: в каждом акте осознания, в каждом и у каждого, а не только у математиков, понимающих теорему Гёделя, есть что-то такое, что не выводимо напрямую, логикой, из предыдущего опыта, что-то новое.  Ну, хотя бы то, что разные акты осознания происходят в разные моменты времени: весь предыдущий опыт был получен в другое время и в нетождественных (в математическом, абсолютном смысле) обстоятельствах.


На elementy.ru  от Гёделя к Пенроузу популярно переходят следующим образом.


«Спокойнее было бы думать, что теоремы Гёделя носят отвлеченный характер и касаются не нас, а лишь областей возвышенной математической логики, однако фактически оказалось, что они напрямую связаны с устройством человеческого мозга. Английский математик и физик Роджер Пенроуз (Roger Penrose, р. 1931) показал, что теоремы Гёделя можно использовать для доказательства наличия принципиальных различий между человеческим мозгом и компьютером. Смысл его рассуждения прост. Компьютер действует строго логически и не способен определить, истинно или ложно утверждение «А», если оно выходит за рамки аксиоматики, а такие утверждения, согласно теореме Гёделя, неизбежно имеются. Человек же, столкнувшись с таким логически недоказуемым и неопровержимым утверждением «А», всегда способен определить его истинность или ложность — исходя из повседневного опыта. По крайней мере, в этом человеческий мозг превосходит компьютер, скованный чистыми логическими схемами. Человеческий мозг способен понять всю глубину истины, заключенной в теоремах Гёделя, а компьютерный — никогда. Следовательно, человеческий мозг представляет собой что угодно, но не просто компьютер.»


Для строгого обоснования перехода от теоремы Гёделя к мышлению, конечно, надо обращаться к самому Пенроузу, но есть и А.Д. Панов, который обосновывает этот переход очень подробно и совершенствует его.


В предыдущем пункте я предложил ответ на вопрос «где мы?» в связи с диалогом науки и буддизма, в основном для проекта наших ученых. Здесь упоминание буддизма также уместно, но оно очень специфично. Т.В. Черниговская говорила о том, что они с Анохиным встречались с Далай Ламой, правда, на вторую встречу она поехать не смогла. Ее впечатление от встречи с буддизмом – «это другое». В буддизме сознание существовало всегда и разлито всюду, по ее мнению. Анохин ей возражал, что она не совсем правильно поняла буддистов, но суть дела от этого не поменялась. «Это - другое». Рассказывая о своей теории сознания, буддизм он, разумеется, не упоминал. В статье «Тукдам и общие анестетики» я писал, что, с моей точки зрения, уже результаты исследований по тукдаму, а не только по будущим экспериментальным исследованиям реинкарнации, могут быть критичны для науки о сознании и нет сомнений, что задолго до публикаций причастным к диалогу с Далай Ламой ученым все известно.


3. Куда мы идем?
 

На панельной дискуссии в МГУ 2018 г. на этот вопрос отвечала Т.В. Черниговская (кафедра проблем конвергенции естественных и гуманитарных наук СПбГУ, лаборатория когнитивных исследований СПбГУ). Хочу сказать, что из двух их выступлений совместно с К.В. Анохиным (и Шумским в МГУ) вырисовывается ее имидж воплощенных эмоций, чувств. Мужчины же при этом – воплощенный (сверх)разум, само спокойствие и выдержка. По содержанию того, что она говорит, она тоже акцентирует роль чувств и эмоций для сознания человека. Предлагает, например, заменить декартовское «я мыслю, следовательно, я существую» на «я чувствую, следовательно, я существую». Поскольку она обращается к широкой аудитории, то делает это очень наглядно и  эмоционально. Так, например, на OpenTalk.AI 2018 г. с прикладыванием руки к груди она говорила, что у нее, петербурженки в третьем поколении, до сих пор замирает сердце от окружающих красот, когда она плывет на катере по Неве. Ее сердце по той же причине и с прикладыванием руки останавливалось, когда она плавала на гондоле по Венеции (показывается картинка с красотой каналов и архитектуры Венеции).  Ее вопрос в связи с этим такой: будет ли способен ИИ понимать красоту? И вообще понимать в нашем смысле. Ответ на него дает К.В. Анохин, когда настаивает на ограничении развития ИИ не выше уровня домашних животных и Черниговская его полностью поддерживает в этом, т.к. все прекрасно понимают, что отказаться от ИИ не возможно.


Будущее цивилизации в контексте разработок ИИ, его многообразных применений в разных областях нашей жизни в двух словах, по ее мнению, выглядит так: цивилизация создающего себя человека и праздности.


Она не верит, что если ИИ заменит нас во многом, то освободившиеся люди станут сильно творческими, «начнут играть на лютне», по ее словам. Выше я уже писал в связи с общей оценкой разработок ИИ как научной революции, что Черниговская говорит о сломе цивилизации (в конце своего выступления она сказала, что ее называют алармисткой, что она всех пугает – «ну что же делать?»). Еще один очень важный тезис, который она акцентирует на разных выступлениях, это проблема «зомби». Имитация сознания, интеллекта может быть такой совершенной, что мы не сможем отличить подлинность от подделки. Здесь, на мой взгляд, снова наиболее конструктивен подход Анохина об ограничения развития ИИ.


Что она не говорит, как и другие наши ораторы, о будущем? В дискуссии в МГУ лидирующие игроки в ИИ были показаны только один раз, когда речь шла об объемах инвестиций в ИИ: США и Китай – понятно, что где-то «тут» и другие  страны первого мира.  Очевидно, что не все страны сейчас обладают равным доступом к соответствующим технологиям, дальше – больше. На языке технологических укладов первый мир – это 5-6 уклад, а Россия – в основном 4й. Известный отечественный финансист А. Мовчан как-то сказал на одном из своих публичных выступлений по поводу нашего технологического отставания: ну, да, ничего страшного, африканцы же пьют Кока-колу и у них есть мобильники.


Есть, конечно, OpenAI Илона Маска, о котором говорилось в дискуссии, но есть и секретные данные о «квантовом превосходстве», как говорят эксперты, хотя относительно недавно Google публично заявила о нем. Период «Галилея» продолжается с применением квантовых компьютеров, по сообщениям СМИ, в специализированных задачах их быстродействие превосходит классические компьютеры не в разы, а в миллионы раз. Специалисты ждут очередной прорыв в ИИ от соединения машинного обучения и квантовых компьютеров. 


Это все происходит без теории сознания, «Ньютона» все еще нет.


В связи с молчанием наших авторов о неравномерном распределении технологий ИИ хочу вспомнить П. Диамандиса, о котором я уже писал (см. «Почему я живу не в компьютерной симуляции?»). Это сподвижник Р. Курцвейла - футуролога, известного, как своими предсказаниями, так и высокой частотой их сбываемости; он технический директор Google по распознаванию речи – который предсказал наступление технологической сингулярности к середине века. Анохин говорил, что эксперты по-разному оценивают время создания искусственного сознания, большинство согласно с тем, что это может произойти в 21 в. Надо сказать, что имя Курцвейла и, соответственно, технологическая сингулярность, не упоминались ни в дискуссии в МГУ, ни в обсуждении на OpenTalk.AI. Под прогноз Курцвейла П. Диамандис в 2012 г. взял на себя обязательство до 2037 г. ежегодно собирать 360 бизнесменов, руководителей компаний и рассказывать им о таком будущем, об экспоненциальных технологиях, вложения в которые дадут не +10%, а +1000%, о конвергирующих экспоненциальных технологиях, о том, как жить в таком будущем долго и активно. Другими словами, он не дискутирует, а делает «самосбывающееся пророчество». В приглашении на эти ежегодные встречи он описывает в двух словах свое видение будущего в свете технологической сингулярности и утверждает, что некоторые страны и бизнесы пройдут этот переход мягко, а другие нет, для них он может быть катастрофой.


В том, что тибетский буддизм может сыграть для науки о сознании ту же роль, которое сыграло христианство, католичество для естествознания при зарождении науки нового времени, самое главное для меня, разумеется, – это моя гипотеза о продолжающемся палеоконтакте. Я извлекаю ее из Medvedev Tukdam Project, интересуясь происхождением соответствующих (тантрических) знаний. Как я уже писал (см. «Кто мы?”, «Граница публичности?», «Тукдам и общие анестетики») наши специалисты по мозгу и сознанию его не обсуждают в связи с их исследованиями медитаций просто потому, что они изучают конкретный эмпирический факт. И это совершенно понятно.  Есть еще проект А.Уоллеса, в научном совете которого два лауреата Нобелевских премий, который также стал возможен благодаря интересу Далай Ламы к науке.


В «О проекте А. Уоллеса» я писал, что он примерно с 2007 г., с международного медитативного проекта «Шаматха» (shamatha.org), публично, на весь интернет, заявляет о своих планах открытия аналога генома человека в области сознания. По результатам проекта «Шаматха» помимо многих других публикаций у него есть  статья с лауреаткой Нобелевской премии по физиологии и медицине Э. Блэкберн о том, что длительная практика медитации влияет на организм человека на молекулярном уровне, на уровне длины теломер, что понимается, как замедление старения. Эта статья в принципе показывает, что интересно Блэкберн в проекте Уоллеса (помимо того, что она сама медитирует), особенно с учетом того, что продолжительность регулярной практики медитации станет еще больше, чем была в «Шаматхе». Второй Нобелевский лауреат в научном совете проекта А. Уоллеса – это физик-экспериментатор С. Чу (см. «О проекте А. Уоллеса»). В целом же научный совет состоит пополам из физиков и специалистов человековедческого профиля.


Что привлекло физиков во главе с С. Чу? Проект только запущен, в ноябре заселились первые йоги (ccryogis.org), о планах можно судить только по разделу Миссия в итальянской версии его сайта. Там есть претензия на решение квантовой проблемы измерения, что может быть интересно физикам. И есть утверждение о выходе практиков на уровень сознания, с которого можно вспоминать прошлые жизни. Я не понимаю, как чисто эмпирически Уоллес собирается решать проблему измерения, не могу себе представить,  чтобы его йоги вместе с ним «опустились» до чего-нибудь типа психокинеза, левитации. Ну разве что телепортации – но вряд ли… И потом, лауреату Нобелевской премии по физике интересоваться психокинезом, левитацией тоже как-то не серьезно. Наиболее привлекательны, конечно, вспоминания прошлых жизней, хотя и не понятно, какое они имеют отношение к тем вполне про-социальным планам, которые Уоллес имеет в отношении своих йогов по окончании ими некоего курса.  Однако, воспоминания прошлых жизней можно соотнести с его заявлениями о раскрытии «генома сознания». Хотя, возможно, что этот «геном» и не имеет прямого отношения к прошлым жизням и раскрывается иначе.


В связи со всеми этими непонятностями и тем, что первые публикации по проекту, по результатам медитаций, я бы ожидал года через два, не раньше, я уже извлек из проекта Уоллеса гипотезу о продолжающемся палеоконтакте. Когда его йоги вспомнят свои прошлые жизни, в которых они жили на других планетах, то Уоллес расскажет об этом сначала ЦРУ, а потом с помощью Чу президенту США и Папе Римскому. «Геном» нашего сознания формируется несколькими цивилизациями, которые как минимум с неолитической революции «заселяют» нас изнутри (см. «Кто мы?).


Таким образом, в контексте гипотезы о продолжающемся палеоконтакте ответ на вопрос «куда мы идем?» в связи с христианством и тибетским буддизмом – в космос. Мы уже давно изнутри космическая цивилизация, но только не осознаем это.


Статья из сборника проекта 3.