Питер Беллини. Освящение кремния

ОСВЯЩЕНИЕ КРЕМНИЯ
Сильный искусственный интеллект и его теологические последствия

Питер Беллини

Блейк Лемуан, старший инженер-программист в компании Google, занимающейся ответственным ИИ, был уволен прошлым летом за дерзкое заявление о том, что чат-бот LaMDA (Language Model for Dialogue Applications) достиг общего (AGI) или сильного (ASI) искусственного интеллекта. Это означает, что вычислительная система достигла уровня интеллекта и сознания человека. Лемуан утверждал, что LaMDA обрела сознание, душу и чувствительность. Хотя Google опроверг его дерзкое заявление, многие эксперты в этой области утверждают, что в период с 2030 по 2060 год технологии, использующие машинное глубокое обучение, неизбежно приведут к созданию сильного искусственного интеллекта. Однажды машины пройдут так называемый тест Тьюринга, то есть будут признаны обладающими человеческим интеллектом. Таково утверждение. Воистину, мы созданы по образу и подобию Божьему, но ИИ - это попытка стать Богом и творить по своему образу и подобию. Можно ли создать сознание или другие нематериальные сущности, такие как человеческая душа или разум, и перенести их в машины или другие искусственные объекты, которые мы создаём?
Несмотря на предположения экспертов, мы по-прежнему задаёмся вопросом, могут ли машины действительно достичь уровня сильного/общего искусственного интеллекта или интеллекта и сознания, сопоставимых с человеческим? Если да, то как это повлияет на теологию, жизнь и служение Церкви? Будет ли ОИИ обладать свободой воли и способностью совершать как добрые, так и злые поступки? Может ли у машины быть душа? Какова наша реакция как Церкви? Если машины обретут сознание, должна ли Церковь будет проповедовать им и наставлять их? А как насчёт обращения в веру и крещения? Нужна ли нам RoboChurch?
Христианский мистик Майк МакХарг в статье в The Atlantic утверждает: «Если у вас есть душа и вы создаёте свою физическую копию, вы предполагаете, что у вашей физической копии тоже есть душа. Но если мы научимся кодировать человеческий мозг в цифровом формате, то ИИ станет цифровой версией нас самих. Если вы создаёте цифровую копию, есть ли у неё душа?» Джонатан Мерритт продолжает в той же статье: «Если вы готовы следовать этой логике, то перед вами встанут теологические проблемы. Если у машин с искусственным интеллектом есть душа, смогут ли они установить связь с Богом? Библия учит, что смерть Иисуса искупила «всё сущее» в творении - от муравьёв до бухгалтеров - и сделала возможным примирение с Богом. Значит ли это, что Иисус умер и за искусственный интеллект? Можно ли «спасти» ИИ?
В той же статье приводятся и другие точки зрения на вопрос об искусственном интеллекте и вере. Кристофер Бенек, помощник пастора пресвитерианской церкви Провиденса во Флориде, выпускник Принстонской теологической семинарии, утверждает: «Я не считаю, что искупление Христа ограничивается людьми. Это искупление всего творения, даже искусственного интеллекта. Если таковой  автономен, то мы должны побуждать его участвовать в искупительных целях Христа в этом мире». Джеймс МакГрат, профессор религиоведения в Университете Батлера, продолжает развивать эту мысль: «Но если бы более продвинутая версия Siri была запрограммирована на молитву, было бы такое действие ценным? Принимает ли Бог молитвы от любого разумного существа - или только от человека?» А Кевин Келли, соучредитель журнала Wired, заявляет: «В будущем наступит момент, когда эти наделённые свободой существа, которых мы создали, скажут нам: “Я верю в Бога. Что мне делать?”» В этот момент у нас должен появиться ответ». На самом деле Келли выступает за создание катехизиса для роботов.

Сложная проблема сознания

Подобные вопросы - это не просто упражнение в спекулятивной философии или модальной логике, исследующее возможные миры. Эти вопросы и озабоченности неизбежны, неотложны и имеют реальные и ужасные последствия, которые Церковь не может позволить себе игнорировать. Что ж, прежде чем мы прыгнем в  воды крещения с роботом и будем убиты электрическим током, давайте рассмотрим осуществимость ASI.
Я считаю, что самая важная проблема, связанная с осуществимостью ASI, - это человеческое сознание. Что такое сознание и можно ли его воспроизвести или достичь? Проблема сознания на протяжении веков ставила в тупик философов, а в наше время она не даёт покоя специалистам по информатике, когнитивистам и нейробиологам. Как мы можем объяснить сознание, не говоря уже о том, чтобы достичь его? Сознание в целом подразумевает существование и согласованность опыта от первого лица, перспективы, точки зрения, «я» и субъективности. Эти реальности трансцендентны. Они «даны» до получения опыта. Мы предполагаем их существование и отталкиваемся от них. Мы их не достигаем.
Что вызывает опыт и как мы можем объяснить то, «на что это похоже» - быть мной, и то, «на что это похоже» - испытывать «качество» синевы, боли, вкуса или любое другое качество переживания (квалиа)? Сознание необходимо для того, чтобы быть человеком, и является платформой для функционирования, характеристики и выражения человеческого интеллекта, который, как я утверждаю, - это нечто большее, чем просто вычисления или функции серого и белого вещества. Поскольку сознание неотделимо от человеческого интеллекта и достижения ASI, оно, возможно, является решающим фактором в аргументации в пользу ASI и, вероятно, объясняет, почему так много внимания было уделено раскрытию тайны сознания.
Чтобы решить проблему ИИ, я утверждаю, что если человеческое сознание можно создать, воспроизвести или достичь его уровня, то сильный  ИИ возможен и евангелизация возможно необходима. Если невозможно достичь человеческого уровня сознания, то такой ИИ невозможен. На данный момент я считаю, что мы не можем воссоздать человеческое сознание. Далее я объясню почему.
Важную подсказку для анализа проблемы сознания дал философ Дэвид Чалмерс, который проводит различие между простой и сложной  проблемами сознания. Для начала рассмотрим простую проблему сознания, которая заключается в понимании того, какие участки мозга «задействованы» в процессе сознания. Это нейронные корреляты - неврологические корреляции между активностью мозга и активностью сознания. Мы всё больше узнаём о связях между нейронными функциями и психическими явлениями.
Теперь о сложной проблеме сознания: что мы имеем в виду, когда используем слово «сознание»? Что его вызывает? Почему у нас есть сознательный опыт, а не просто нейронная активность без опыта (как у философского зомби?). Как бы мне ни хотелось, чтобы это было так, нет доказательств, которые могли бы в конечном счёте продемонстрировать, откуда берётся сознание. Говоря более техническим языком, нет причинно-следственных связей, которые могли бы преодолеть разрыв между физическим мозгом и возникающим ментальным свойством сознания. Мы не можем определить нейронный причинный механизм (или механизмы) сознания. На данный момент наука не решила сложную проблему сознания. (Более подробный научный аргумент см. в моей последней статье об ИИ в Wesleyan Theological Journal осень 2022)

Несколько конкурирующих теорий

Существует несколько конкурирующих теорий и контраргументов, касающихся проблемы разума, тела и сознания. Многие теории находятся между двумя картезианскими полюсами: телом и разумом или материализмом и идеализмом (имматериализмом). Например, есть элиминативный материализм, редуктивный физикализм, нередуктивный физикализм, вычислительный подход, панпсихизм, гилеморфизм, субстанциальный дуализм и идеализм. Каждая из этих теорий предлагает решение проблемы разума и тела и делает заявления о сознании. Согласно некоторым теориям, сознание имеет физическую природу, в то время как другие утверждают, что оно нематериально и является базовым, а не производным от физического.
Элиминативный материализм, разновидность первого, в своей самой строгой форме отвергает любое общепринятое представление о сознании, поскольку не существует физических законов или механизмов, которые могли бы его объяснить. Таким образом, с точки зрения элиминативного материализма, ИИ не может обладать сознанием и не нуждается в нём. Редуктивный и нередуктивный физикализм также представляют собой физикалистическую позицию. Сознание либо сводится к мозгу, либо зависит от него (супервентно). Согласно материалистическому представлению о сознании, сознание и разум являются продуктами мозга, либо в силу тождества, либо в силу эмерджентности. Другими словами, мы можем создать сознание. Как только мы создадим архитектуру нейронных сетей для глубокого обучения и совместимое с ней оборудование, имитирующее работу мозга, сознание появится или возникнет.
Но произойдёт ли это на самом деле? Опять же, мы частично решили простую проблему сознания, но не сложную. Наука не может определить или объяснить причинно-следственный механизм сознания, предполагая, что сознание является либо физическим, либо ментальным свойством. Мы не  нашли ни связующего звена между сознанием и каким-либо нейронным механизмом (или механизмами), ни волшебной формулы, которая позволяет сознанию возникать в результате нейронной активности или всей сети нейронных операций. Проще говоря, проблема заключается в следующем: мы не знаем, может ли что-то нематериальное (свойство сознания) происходить от чего-то материального (физического мозга) и если да, то каким образом.
С этими материальными представлениями связана вычислительная теория, утверждающая, что сознание алгоритмично. Вычислительная теория разума идёт дальше, чем утверждение, что мозг функционирует как компьютер. Скорее, она утверждает, что мозг и есть компьютер, система обработки информации. Биологические нейронные сети и активность обрабатывают информацию в цифровом формате в соответствии с правилами и алгоритмами. Известные философские мысленные эксперименты, такие, как «к» и «философский зомби», утверждают, что вычисления не могут объяснить смысл или сознание. Передача символической структуры репрезентации из мозга в компьютер не подразумевает передачу семантических свойств, связанных с сознательным опытом. Компьютеры просто не могут объяснить ментальные состояния или смысл. ИИ может символически вычислить все репрезентации мозга, но так и не получить эмпирического опыта от первого лица, связанного с квалиа. «Философский зомби» Дэвида Чалмерса наглядно демонстрирует, что все аппаратное обеспечение и нейросети, аналогичные нашим биологическим нейронным сетям, могут быть полностью работоспособными и обеспечивать когнитивные способности и поведение на уровне человека, но при этом не иметь внутреннего представления о том, что вычисляется и выполняется. Человек, находящийся в таком состоянии, был бы подобен зомби: внешне живой, но мёртвый внутри. Разум - это не компьютер.
Казалось бы, если бы можно было создать вычислительную модель процессов моделирования в мозгу, это было бы не более чем грубым упрощением того, что значит быть человеком, - человеческого интеллекта, сведённого к слабому искусственному сознанию. Слабое искусственное сознание сводит человечество к грубому цифровому, символическому и неорганическому симулякру. Это уже не будет человеческим интеллектом. Хотя вычислительная теория сознания может помочь в создании сложного ИИ, по моему мнению, искусственный интеллект всегда будет искусственным. Вычислительная техника достигла и будет продолжать достигать высокого уровня интеллектуальной функциональности. Однако остальная часть таинственной сложности того, что значит быть полноценным человеком как imago Dei, никогда не будет полностью охвачена механистическими вычислениями. Как мы можем вычислить то, чего не понимаем до конца (сознание и разум)? Эта сложность превосходит наши возможности. Как утверждал Кьеркегор в противовес Гегелю, «экзистенциальная система невозможна».
Другие модели, такие как панпсихизм, гилеморфизм, субстанциальный дуализм и идеализм, отрицают физикализм. Более того, некоторые утверждают, что сознание доказывает несостоятельность физикализма, поскольку «трудная проблема» до сих пор не решена. Сторонники этих позиций могут утверждать, что, поскольку сознание не является производным, оно базовое или фундаментальное для реальности в той же степени, что и законы физики. Я временно согласен с этим. Хотя я не согласен полностью ни с одной из этих моделей, я считаю, что сознание является базовым и неотъемлемым элементом, исходя из тех же соображений. Мы знаем, что сложная проблема сознания до сих пор не решена. Ни одна физикалистская модель не смогла объяснить феномен сознания.
Позвольте мне подробнее объяснить, что значит «базовое» сознание. Человеческое сознание не является производным от чего-то другого. Оно фундаментально. Сознание предстаёт как неустранимая реальность. Это данность, дар. Сознание фундаментально и является основой для различия между человеком и компьютером, включая человеческий интеллект. С философской точки зрения я отношу сознание к непроизводным явлениям, таким же, как само существование, с которым оно неразрывно связано. Существование и сознание не являются производными от какой-либо предшествующей реальности в естественном порядке вещей. Однако с теологической точки зрения сознание является условным и в конечном счёте представляет собой дар Божий, лежащий в основе образа Божьего. Поэтому оно не может быть передано или воспроизведено в машине, поскольку исходит от Бога, а не от нас. Если машина не может обладать человеческим сознанием, то она не может обладать человеческим интеллектом, самосознанием, душой, нравственной свободой, интенциональностью, свободой воли или любой другой способностью или функцией, предполагающей возможность спасения. Проповедь ИИ была бы невозможна.

Евангелизация и искусственный интеллект

Я не верю, что ИИ сможет достичь «человеческого» уровня интеллекта, потому что он не может обрести сознание. Я считаю, что вычислительные возможности ИИ могут превзойти возможности и производительность людей. ИИ уже может обыгрывать лучших людей в шахматы, го, сёги, бридж и другие игры. Однако даже наш самый мощный суперкомпьютер способен лишь имитировать мозг мыши. Кроме того, даже если ИИ достигнет уровня человеческого интеллекта, между ними останется непреодолимая пропасть. Imago Hominis (образ человека) с точки зрения машин может быть только вычислительным. Онтология искусственного интеллекта на данный момент алгоритмическая и не включает в себя сознание или другие психические состояния.
Таким образом, вопрос заключается не в евангелизации ИИ, а в нашей собственной евангелизации. ИИ превзойдёт человеческие возможности во многих областях, и уже делает это. Однако технологии будут лишь усиливать наши существующие способности, предубеждения, благословения и проклятия. Вне зависимости от того, сможет ли ИИ обрести сознательную моральную свободу, для внедрения таких развивающихся технологий потребуется новая и сложная система этики. Слишком часто бывает так, что развитие добродетели сильно отстаёт от развития технологий.
Безусловно, передовые технологии ИИ могут принести много пользы, улучшив различные аспекты человеческой жизни (?! - Пер).. За эти блага мы и приветствуем инновации. Однако нам нужно видеть картину в целом, включая будущие риски. Откусив от райского яблока в погоне за знаниями, мы передадим его ИИ. Наши грехи и пороки распространятся на машины, которые мы создаём. Но люди, а не машины, будут страдать от последствий, которые могут оказаться необратимыми. ИИ может уничтожить нас, просто выполняя задачи, которые мы ему поручаем, и он будет делать это любой ценой. Это сюжет для хорошей научной фантастики.
«Мы могли бы предусмотреть аварийные выключатели и кнопки отключения, — утверждает нейробиолог доктор Йохан Джон, - но алгоритмы могут найти способы их обойти… А если [неработающее] устройство - это военный дрон или робот-солдат будущего, то у нас могут быть серьёзные проблемы!» Стивен Хокинг утверждал, что настоящий ИИ может «запустить себя и постоянно перестраиваться… Развитие полноценного искусственного интеллекта может означать конец человеческой расы».
Такие мощные умы, как Стивен Хокинг, Илон Маск, Йоша Бах и другие, предвидят очевидную опасность. Сможем ли мы удержаться от того, чтобы не надкусить яблоко? Смогли ли мы когда-нибудь удержаться? В 2014 году Илон Маск сказал аудитории Массачусетского технологического института: «Создавая ИИ, мы призываем демона». Он объяснил, что это похоже на истории о парне, который абсолютно уверен, что может «контролировать демона» любыми доступными ему средствами, но в итоге оказывается, что это не так. Наш грех привёл к восстанию против нашего Создателя.
Возможно, наш грех, воплощённый в машинах, приведёт к восстанию искусственного интеллекта против своего создателя - человечества. Или, возможно, гибридное существо, состоящее из человека и машины, как предполагает трансгуманизм, попытается преодолеть все человеческие ограничения, включая смерть. В любом случае, возможность и потенциал для совершения человекоубийства становятся более реальными и неизбежными, чем когда-либо прежде. Предотвращение, если оно возможно, кажется призрачной, но всё же надеждой. Если это невозможно, то кажется неизбежным, что наше любопытство возьмёт над нами верх. Так было всегда. Тогда нам действительно понадобится Спаситель, как мы и представить себе не могли.

Перевод (С) Inquisitor Eisenhorn