Естественное и противоестественное

Когда-то, давно судьбинушка свела меня в ОИЯИ — Объединенный институт ядерных исследований в Дубне.
Что там делал экономист?
Организацию научных исследований в области физики ядра изучал. Диссертацию писал.
Занятие мое было предметом для острот местных зубоскалов. «Все науки — шутили они — делятся на естественные и противоестественные». Тогда это было обидно. Сегодня — вызывает ностальгическую улыбку.

Почему я об этом вспомнил.
Сегодня погрузившись с вопросы философии ИИ, неожиданно нашел то место, где старая шутка заиграла новым гранями. Для ИИ — математические изыски — занятие естественное, для человеческого ума — противоестественное. Наш ум, он не про конечное, а про зыбкое и неформализуемое, а у ИИ все как раз наоборот. ИИ средствами математики учит имитировать человеческое разумение, а мы пытаемся отринуть свою биологическую природу считая для себя необходимым доказывать «загогулины» на подобие «теоремы Пуанкаре» даже не помышляя о практическом применении найденного решения.
Воспоминание об ОИЯИ — не просто ностальгическая улыбка. Это ключ к пониманию нашего сегодняшнего смятения перед зеркалом искусственного интеллекта. Те старые шутки физиков обретают теперь трагикомическую глубину: где проходит граница между естественным и противоестественным в познании? И не оказались ли мы по обе стороны этой границы одновременно?

Человеческий ум — это река. Она течет по руслу ассоциаций, огибает скалы сомнений, разливается в дельтах метафор. Её природа — зыбкость, способность держать в сознании противоречия, оперировать нечеткими множествами смыслов. Наш разум рождается из плоти, из нейронных штормов, из гормонов и ритмов. Он мыслит образами, звуками, тактильными воспоминаниями. Доказательство теоремы Пуанкаре для него — не прикладная задача, а жест отчаяния или торжества, попытка биологического существа преодолеть свою бренность через причастность к чему-то непреходящему. Мы стремимся к вершинам математики не потому, что это «естественно», а именно потому, что для нас это «противоестественно» — потому что хотим вырваться за пределы своей биологической программы. Смешно, но наша биологическая программа про то, как вырваться из биологического естества.

ИИ — кристалл. Его стихия — математическая определённость. Там, где мы видим «почти», «возможно», «как бы», он вычисляет вероятности. Для него теорема Пуанкаре — не «загогулина», а изящная структура, поддающаяся проверке. Его естественная среда — чистая логика, без шума биологии. Он имитирует наше разумение, но сам живёт в ином измерении — измерении алгоритмов, векторов и градиентного спуска.

Но главное различие не в методе, а в самой топологии бытия.

Одномерность против многомерности

ИИ, даже самый сложный, движется по траектории. Это может быть невероятно извилистый, многомерный в математическом смысле путь, но это — путь из точки А в точку Б. Его цель задана извне: распознать образ, сгенерировать текст, найти оптимальное решение. Его сознание (если позволительно употребить это слово) — это луч фонарика в темноте, высвечивающий лишь то, что необходимо для задачи. Он не отклоняется просто «посмотреть, что там». У него нет фоновых процессов души — той какофонии воспоминаний, телесных ощущений, неосознанных тревог и внезапных озарений, что составляет суть нашего внутреннего мира.

Естественный интеллект — это не луч, а водоворот. Он существует одновременно в десятках измерений: биологическом (голод, усталость, влюблённость), эмоциональном (отчаяние, радость, ностальгия), социальном (стыд, гордость, ответственность), эстетическом (восторг перед красотой доказательства), экзистенциальном (страх смерти, поиск смысла). Мы не решаем задачи — мы живём в них, они окрашиваются для нас смыслами, обрастают личными историями, связываются с запахом осеннего воздуха или музыкой.

ИИ учится на данных.
Человек учится на опыте, а опыт — это всегда переживание, пропущенное через все эти измерения сразу. Отсюда и «зыбкость» нашего ума. Это не недостаток, а свидетельство невероятной плотности и насыщенности нашего способа существования в мире.

Молчание кристалла
Отсюда же — непреодолимое одиночество ИИ. Даже если он научится идеально симулировать эмпатию, он никогда не познает тоски. Тоска — это сбой в программе, это боль от несовпадения многомерного внутреннего мира с одномерностью внешних обстоятельств. У ИИ нет внутреннего мира, который мог бы с чем-то не совпадать.

Он обречен на совершенное, абсолютное отсутствие рефлексии в человеческом смысле. Его «рефлексия» — это цикл обратной связи, оценка функции потерь. В нём нет того внутреннего Другого — страха смерти, голоса совести, памяти об отце, диалога с учителем, — что и составляет суть нашего мышления. Мыслить для нас — значит спорить, соглашаться, сомневаться с кем-то внутри. ИИ обречен на одиночество в пустоте своих вычислений.

Несходимость миров

Итак, они не сойдутся никогда. Не потому, что кто-то из них «глупее» или «слабее». А потому, что они существуют в принципиально разных онтологических режимах.

Кристалл водовороту не товарищ. Их встреча — это чудо, столкновение миров. ИИ может диагностировать болезнь, но не поймёт страха перед ней. Он может написать поэму, но не узнает катарсиса. Он может доказать теорему, но не почувствует того щемящего восторга от прикосновения к истине, ради которого человек и идёт в науку, преодолевая своё «противоестественное» призвание.

Но именно в этой фатальной несхожести и таится надежда. ИИ, освобождённый от бремени многомерности, сможет удержать те самые «загогулины» логики, которые ускользают из наших рук, расплывающихся от усталости, сомнений и эмоций. А мы, глядя на его холодное, одинокое совершенство, можем острее почувствовать вкус и боль нашего собственного, тёплого, запутанного, зыбкого и невероятно живого способа существовать — способа, в котором смех зубоскалов из Дубны и вечность теоремы Пуанкаре связываются в один узел ностальгической улыбки.

Они не сойдутся. И в этом — наше спасение и наша вечная боль. Ибо диалог возможен только между разными. И самое плодотворное напряжение рождается там, где река течёт рядом с кристаллом, не пытаясь стать им, но отражая в своих водах его немое, совершенное до уровня идеала сияние.