ИИ меняет наше представление о реальности

На создание данной статьи меня подтолкнул вот этот материал: Эта статья является по большей частью переводом первой части оригинала, которая мне показалась особенно важной и интересной, но всё-таки это не просто перевод, а, скажем так, творческое переосмысление изначально написанного. Перевод я разбавил дополнительными важными на мой взгляд вставками и некоторыми собственными мыслями.

Смена парадигмы

Революционные достижения в области Искусственного Интеллекта сегодня заставляют нас переосмыслить не только наше понимание того, что такое интеллект есть на самом деле, но и что из себя в действительности представляет вся реальность. Наши новые знания позволят нам создать более совершенный ИИ, глубже понять самих себя и мир вокруг.

Короче говоря, мы находимся на стадии глобальной смены парадигмы.

Смена парадигмы часто сопряжена с трудностями, потому что легче принять новые идеи, если они совместимы с существующим мировоззрением, и сложнее, если это не так. Классический пример — крах геоцентрической парадигмы, которая доминировала в космологической мысли примерно два тысячелетия. В геоцентрической модели Земля оставалась неподвижной, а Солнце, Луна, планеты и звёзды вращались вокруг неё. Вера в то, что мы находимся в центре Вселенной, подкреплённая теорией эпициклов Птолемея, которая в своё время была крупным научным достижением, была одновременно интуитивной и совместимой с религиозными традициями. Таким образом, гелиоцентрическая парадигма Коперника была не просто научным достижением, но и горячо оспариваемой ересью, а для некоторых, как отмечает Бенджамин Брэттон, даже экзистенциальной травмой. То же самое происходит и сегодня в связи с стремительным развитием ИИ.

В оригинале этого эссе описывается пять взаимосвязанных изменений в парадигме, которые повлияли на развитие ИИ:

1. Естественные вычисления: вычисления существовали в природе задолго до того, как мы создали первые «искусственные компьютеры». Понимание вычислений как естественного явления позволит добиться фундаментальных успехов не только в информатике и Искусственном Интеллекте, но и в физике и биологии.

2. Нейронные вычисления: наш мозг является превосходным примером естественных вычислений. Перепроектирование компьютеров, на которых работает ИИ, таким образом, чтобы они больше походили на мозг, значительно повысит энергоэффективность ИИ, а также его возможности.

3. Прогностический интеллект: успех больших языковых моделей (LLM) показывает нам нечто фундаментальное в природе интеллекта: он включает в себя статистическое моделирование будущего (в том числе собственных будущих действий) с учётом развивающихся знаний, наблюдений и обратной связи из прошлого. Это понимание позволяет предположить, что существующие различия между проектированием, обучением и использованием моделей ИИ носят временный характер; более совершенный ИИ будет развиваться, расти и учиться непрерывно и интерактивно, как и мы.

4. Общий интеллект: интеллект не обязательно должен быть основан на биологических вычислениях. Хотя модели ИИ будут продолжать совершенствоваться, они уже сейчас способны решать широкий спектр когнитивных задач на уровне, приближающемся к возможностям человека, а в некоторых случаях и превосходящем их. В этом смысле «Искусственный общий интеллект» (AGI) уже может существовать — мы просто продолжаем менять ориентиры.

5. Коллективный интеллект: мозг, агенты ИИ и общество в целом могут стать более эффективными за счёт увеличения масштаба. Однако одного размера недостаточно. Интеллект по своей сути является социальным, он основан на сотрудничестве и разделении труда между многими агентами. Это понимание не только заставляет нас переосмыслить природу человеческого (или «более чем человеческого») интеллекта, но и предполагает социальные объединения интеллектов и многоагентные подходы к разработке ИИ, которые могут снизить вычислительные затраты, повысить неоднородность ИИ и по-новому взглянуть на споры о безопасности ИИ.

В рамках данной статьи мы подробно рассмотрим лишь первый пункт, в котором говорится, по сути, о фундаментальной природе нашей реальности.

Возможно, величайшая «коперниканская травма» эпохи ИИ заключается в том, чтобы просто смириться с тем, насколько "обычным" может быть общий и нечеловеческий интеллект. Но чтобы понять наш собственный «интеллектуальный геоцентризм», мы должны начать с переоценки наших представлений о природе вычислений, поскольку они являются основой как ИИ, так и, как мы утверждаем, интеллекта в любой форме.

Естественное Вычисление

Является ли “информатика” вообще наукой? Часто это рассматривается скорее как инженерная дисциплина, зародившаяся вместе с электрическим цифровым интегратором и компьютером времен Второй мировой войны (ENIAC), первым полностью программируемым электронным компьютером общего назначения - и далеким предком вашего смартфона.

Однако теоретическая информатика предшествовала вычислительной технике. В новаторской публикации 1936 года британского математика Алана Тьюринга было представлено воображаемое устройство, которое мы сейчас называем машиной Тьюринга. Оно состоит из головки, которая может перемещаться влево или вправо по ленте, считывая, стирая и записывая символы на ленте в соответствии с набором правил. Обладая подходящими правилами, машина Тьюринга может следовать инструкциям, закодированным на ленте, — то, что мы сейчас назвали бы компьютерной программой или кодом, — что позволяет такой «универсальной машине Тьюринга» (UTM) выполнять произвольные вычисления. Если говорить иначе, вычисление — это всё, что может быть выполнено UTM. Когда в 1945 году был завершён проект ENIAC, он стал первой в мире реальной UTM.

А может, и нет. Небольшая, но растущая группа неортодоксальных исследователей с глубокими знаниями в области физики и информатики, таких как Сьюзан Степни из Йоркского университета, в 2014 году доказала в научном журнале «Proceedings of The Royal Society A», что в мире природы полно вычислительных систем, «в которых нет очевидного пользователя-человека». Джон Уилер, выдающийся физик XX века, отстаивал радикальную гипотезу «всё из бита», которая утверждает, что в основе структуры Вселенной лежат вычисления. Согласно Уилеру, элементарные явления, которые мы считаем физическими, — кварки, электроны, фотоны — являются продуктами вычислений, как интернет-пакеты или пиксели изображения.

В некоторых интерпретациях Квантовой механики эти вычисления происходят в Мультивселенной, то есть в огромном количестве параллельных, запутанных вселенных. Как бы вы ни интерпретировали лежащую в основе физику, вполне реальная технология квантовых вычислений использует этот параллелизм, позволяя нам выполнять определённые вычисления за минуты, на которые самым мощным суперкомпьютерам сегодня потребовалась бы целая жизнь Вселенной. Это уже, по любым меркам, есть смена парадигмы в вычислениях.

Утверждения о том, что вычисления лежат в основе физической реальности, трудно доказать или опровергнуть, но чёткие доказательства существования вычислений в природе появились задолго до гипотезы Уилера «всё из бита». Джон фон Нейман, выдающийся физик-математик и ещё один основоположник информатики, обнаружил глубокую связь между вычислениями и биологией ещё в 1951 году.

Фон Нейман понял, что для воспроизведения сложного организма ему необходимо содержать инструкции по самовоспроизведению, а также машину для считывания и выполнения этих инструкций — «ленту». Лента также должна быть копируемой и содержать инструкции по созданию считывающей её машины. Так получилось, что технические требования к этому «универсальному конструктору» в точности соответствуют техническим требованиям к универсальной машине Тьюринга. Примечательно, что идея фон Неймана предвосхитила открытие в 1953 году структуры и функции ДНК, напоминающей ленту Тьюринга.

Фон Нейман показал, что жизнь по своей сути является вычислительной. Это может показаться удивительным, поскольку мы думаем о компьютерах как о решительно не живых существах, а о живых существах как о совершенно определенно не компьютерах. Но это правда: ДНК — это код, хотя этот код трудно реконструировать и он не выполняется последовательно. Живые существа обязательно вычисляют не только для размножения, но и для развития, роста и исцеления. И в наши дни становится все более возможным редактировать или программировать основополагающие биологические системы.

Тьюринг также внёс значительный вклад в теоретическую биологию, описав, как рост и дифференциация тканей могут быть реализованы с помощью клеток, способных воспринимать и испускать химические сигналы, которые он назвал «морфогенами» — мощной формой аналоговых вычислений. Как и фон Нейман, Тьюринг догадался об этом, несмотря на то, что никогда не работал в биологической лаборатории.

Раскрывая вычислительную основу биологии, Тьюринг и фон Нейман заложили фундамент для искусственной жизни или «АLife» (от слова artificial - "искусственный" - по аналогии с "AI") — области, которая сегодня остаётся неясной и допарадигмальной, как и Искусственный Интеллект до недавнего времени.

Тем не менее есть все основания полагать, что ALife скоро расцветет, как и ИИ. Реальный прогресс в области ИИ пришлось ждать до тех пор, пока мы не смогли собрать достаточно «искусственных» вычислительных мощностей, чтобы смоделировать (или, по крайней мере, имитировать) активность миллиардов нейронов, необходимую для достижения сложности, присущей мозгу. Инновационность ALife должна пойти гораздо дальше, воспроизводя работу, проделанную миллиардами лет эволюции на Земле. Это по-прежнему непростая задача. Однако мы добиваемся прогресса.

Недавние эксперименты команды «Парадигмы интеллекта» в Google показали, что в смоделированной игрушечной вселенной, способной поддерживать вычисления, мы можем перейти от полной случайности к минимальным «формам жизни», возникающим спонтанно. Один из таких экспериментов начинается с «супа» из случайных строк, каждая из которых состоит из 64 байт. Восемь из 256 возможных значений байтов соответствуют инструкциям минимального языка программирования 1990-х годов под названием «Brainfuck». Эти цепочки байтов можно рассматривать как ленты Тьюринга, а восемь компьютерных инструкций определяют элементарные операции машины Тьюринга. Эксперимент заключается в том, что мы многократно выбираем две ленты из «супа» случайным образом, соединяем их, «запускаем» соединённую ленту, снова разделяем ленты и возвращаем их в «суп». Поначалу кажется, что ничего особенного не происходит; мы видим только случайные ленты, в которых время от времени меняется один байт, по-видимому, случайным образом. Но после нескольких миллионов взаимодействий появляются функциональные ленты, которые начинают самовоспроизводиться: это и есть минимальная искусственная жизнь.

Появление искусственной жизни похоже на фазовый переход, как при замерзании или закипании воды. Но в то время как обычные фазы материи характеризуются статистической однородностью — упорядоченная атомная решётка у льда, случайные положения атомов у газа и нечто среднее у жидкости — живая материя гораздо сложнее и демонстрирует разнообразную и целенаправленную структуру на всех уровнях. Это связано с тем, что вычисления требуют наличия отдельных функциональных частей, которые должны работать вместе, как в любой машине, организме или программе.

Есть что-то волшебное в наблюдении за тем, как из случайного шума в наших симуляциях возникают сложные, целенаправленные и функциональные структуры. Но в этом нет ничего сверхъестественного или чудесного. Подобные фазовые переходы от неживого к живому происходили на Земле миллиарды лет назад, и мы можем предположить, что аналогичные события происходят на других пригодных для жизни планетах или спутниках.

Как могла возникнуть, не говоря уже о том, чтобы сохраниться, такая сложная жизнь в случайной среде? Ответ: всё, что похоже на жизнь, что самовосстанавливается или размножается, более «динамически стабильно», чем что-то инертное или неживое, потому что живое существо (или его потомство) будет существовать и в будущем, в то время как всё неживое со временем деградирует, поддаваясь случайности. Жизнь вычислительна, потому что её стабильность зависит от роста, исцеления или размножения; и сами вычисления должны развиваться, чтобы поддерживать эти важнейшие функции.

Этот вычислительный взгляд на жизнь также позволяет понять, как усложнялась жизнь в ходе эволюции. Поскольку вычислительная материя — включая саму жизнь — состоит из отдельных частей, которые должны работать вместе, эволюция воздействует одновременно на части и на целое. Этот процесс известен в биологии как «многоуровневый отбор».

Существующие части (или организмы) могут многократно объединяться в более крупные и сложные структуры. Давным-давно на первобытном морском дне (согласно общепринятой точке зрения) молекулы объединились в самовоспроизводящиеся или «автокаталитические» циклы реакций; эти химические циклы объединились с жировыми мембранами, образовав первые клетки; бактерии и археи объединились, образовав эукариотические клетки; эти сложные клетки объединились, образовав многоклеточные организмы; и так далее. Каждый такой крупный эволюционный переход включал в себя функциональный симбиоз — форму взаимозависимости, при которой ранее независимые сущности объединяли усилия, чтобы создать нечто большее.

Первые ступени этой эволюционной лестницы не включали в себя живые организмы с наследуемыми генетическими кодами. Однако, как только объединившиеся организмы стали живыми — а значит, способными к вычислениям, — каждая последующая комбинация увеличивала потенциальную вычислительную мощность симбиотического целого. Интеллект человеческого уровня, на много ступеней выше этих самых ранних форм жизни, возникает в результате совокупной работы примерно 86 миллиардов нейронов, работающих параллельно.

Так что за коперниканский переворот происходит с нашей научной парадигмой?

Говорят, что когда более 30 лет назад Макс Тегмарк начал делать первые робкие шаги в продвижении своей гипотезы математической Вселенной в научном сообществе, его посчитали чуть ли не сумасшедшим и намекнули, что такие вещи больше не надо озвучивать и публиковать, если он не хочет лишиться должности, грантов и возможности публиковаться.

Но Тегмарк не отступил. Постепенно к радикальности его идей начали привыкать, а вскоре в схожем ключе начал работать и другой видный ученый Стивен Вольфрам, которого, в целом, до сих пор считают хоть и талантливым, но весьма странным и экстравагантным.

Но вот прошли годы, ИИ за короткий срок сделал огромные успехи, и теперь ученые всерьез начинают задумываться: а что если математика играет в нашей жизни гораздо большую роль, чем считалось прежде? Оказалось, что биологическая эволюция вполне успешно может быть рассмотрена как математический, то есть вычислительный процесс. Оказалось, что ИИ вообще имеет немало общего с человеческим мышлением. Российский нейробиолог К.В. Анохин и вовсе прямо считает, что любой мозг - это сеть, а разум - гиперсеть мозга.

Ученые из самых разных областей науки по всему миру словно перестали рьяно отрицать идеи, подобные гипотезе Тегмарка или Вольфрама и задумались: а может быть и правда фундаментальный характер нашей реальности очень плотно связан с чем-то похожим на код, вычисление, математику?

История знает огромное количество примеров ученых, которые провозглашали радикальные идеи, но встречали несправедливо жесткую, порой даже токсичную критику со стороны коллег: Н.И. Лобачевский, И. Земмельвейс, М. де Саутуола, Г. Кантор и мн. др. Но проходило время, люди свыкались с радикальностью, начинали осмыслять эти идеи более трезво и объективно и вдруг выяснялось, что несправедливо загнобленный ученый был во всем прав.

Возможно М. Тегмарк, С. Вольфрам, Дж. Уилер, Дж. фон Нейман и другие, кто в той или иной степени и форме отстаивал математический характер нашей реальности, станут новой плеядой великих умов, радикально перевернувших наши представления о мире? А кто-то из них, возможно, даже будет объявлен новым Коперником?

***

Обывателю порой хочется верить, что не всё сводится к сухой академической науке, что есть всё-таки что-то "большее", что-то иррациональное. Поэтому заявления о том, что возможно вся наша реальность, включая человеческий разум, носит математический характер так, порой, травмируют тех, кто хочет сохранить хоть какую-то долю "волшебства" в мире.

Но даже если завтра наука действительно признает математичность нашей Вселенной, это не будет на самом деле означать чего-то плохого. Это будет большой шаг к гораздо более глубокой и сложной парадигме мышления, приближающей нас к научному познания удивительной красоты и изящности объективной истины.

Мой научно-философский проект: t.me/edstarru