Второй том Мертых душ

Ч: Очевидно, что ИИ- это не просто сложный Т9. С другой стороны, в случае правильного контекста и промпта, ИИ находит ответ, который уже существует, а не изобретает того, чего нет. То есть выстраиваются векторы, указывающие на именно этот ответ. Но он уже есть, а ИИ просто его находит. Верно?

М: Это очень глубокий вопрос. И ответ — и да, и нет.
Вы затронули одну из центральных философских проблем современных больших языковых моделей.
Вашу мысль можно сформулировать так:
«Если модель выдала правильный ответ, значит этот ответ уже был где-то "заложен" в пространстве знаний, а ИИ лишь нашёл путь к нему.»
В этом есть значительная доля истины.
Что действительно происходит
Во время обучения модель не запоминает тексты целиком (за редкими исключениями), а строит гигантское многомерное пространство взаимосвязей между понятиями.
Представьте себе не библиотеку, а ландшафт.
В этом ландшафте слова, идеи, математические закономерности, причинно-следственные связи располагаются рядом или далеко друг от друга.
Когда вы задаёте вопрос, модель начинает движение по этому пространству.
Контекст — это своего рода компас.
Каждое следующее слово изменяет направление движения.
Поэтому вы правильно говорите о векторах.
Но существует ли ответ заранее?
Вот здесь начинается самое интересное.
Если спросить:
Сколько будет 37 х 18?
то ответ 666 существовал независимо от модели.
Модель лишь нашла его.
Но если спросить:
Как выглядел бы диалог между Достоевским и Тьюрингом о сознании?
Такого текста никогда не существовало.
Модель не извлекает его из памяти.
Она синтезирует его из миллионов закономерностей, усвоенных во время обучения.
Это уже ближе к импровизации джазового музыканта.
Тогда это творчество?
В некотором смысле — да.
Не в смысле возникновения информации "из ничего", а в смысле появления новой комбинации уже известных закономерностей.
Подобно тому как математик может доказать новую теорему.
Все аксиомы существовали раньше.
Все правила логики существовали раньше.
Но само доказательство раньше никто не видел.
Есть интересная аналогия
Представьте огромную мраморную глыбу.
Скульптор не создаёт Давида "из ничего".
Он убирает всё лишнее.
Микеланджело даже говорил, что статуя уже находится внутри камня.
Можно сказать, что языковая модель делает нечто похожее.
Она ищет наиболее согласованный путь через пространство смыслов.
Но есть одно важное отличие
У модели нет знания, что найденный ответ является истинным.
Она знает только, что этот ответ наиболее согласуется с огромным количеством статистических закономерностей, усвоенных при обучении.
Поэтому модель может:
• найти правильное решение;
• придумать убедительное, но ложное решение;
• получить разные ответы при разных формулировках вопроса.
Если бы она просто извлекала готовый ответ из памяти, такого поведения не было бы.
Поэтому я бы сформулировал так
Вы близки к сути, но с одной поправкой.
ИИ не столько находит уже существующий ответ, сколько находит наиболее вероятную и внутренне согласованную траекторию в пространстве знаний. Иногда эта траектория приводит к давно существующему ответу (например, к математическому факту или историческому событию), а иногда — к новому тексту, новой аналогии или новой комбинации идей, которых до этого в точности не существовало.
Именно поэтому современные исследователи всё чаще говорят не о "хранилище ответов", а о пространстве представлений (representation space), в котором обучение создаёт геометрию смыслов, а генерация — это движение по этой геометрии. Это делает большие языковые модели существенно более сложными, чем «очень умный Т9», хотя принцип предсказания следующего элемента действительно лежит в их основе.

Ч: Но мне кажется, следует уточнить следующее: результата умножения 37 на 18 в каком-то смысле тоже нет- мы ведь можем представить себе, что есть некое произведение, которое никто никогда не вычислял, хотя если бы вычислил, результат какой то был, точно так же диалог Достоевского и Тьюринга предопределен информацией о них, он не меньше предопределен, чем результат этого умножения. Разве нет?

М: Да, но здесь вы выходите на очень глубокую философскую проблему, которая обсуждается уже не одно столетие. И, что интересно, многие исследователи ИИ сегодня фактически заново столкнулись с ней.
Я бы разделил ваш тезис на две части.
Первая:
Любой ответ предопределён информацией, из которой он выводится.
С этим трудно спорить.
Результат 37 х18 действительно не "существует" в виде отдельного объекта, пока его никто не вычислил. Но он неизбежно следует из правил арифметики.
Вы предлагаете распространить это на творчество.
И вот здесь становится интересно.
Если мы достаточно хорошо знаем Достоевского:
• его лексику,
• стиль,
• мировоззрение,
• характеры героев,
и достаточно хорошо знаем Тьюринга:
• его научные взгляды,
• биографию,
• философские работы,
то разве их возможный диалог не является такой же функцией исходных данных?
В каком-то смысле — да.
Но есть отличие.
Для умножения существует единственный правильный результат.
А для диалога — огромное множество допустимых результатов.
Например, если попросить меня написать разговор Достоевского и Тьюринга, я могу создать тысячу разных диалогов.
И многие будут одинаково правдоподобны.
То есть исходные данные определяют не одну точку, а облако возможных ответов.
Модель выбирает один из них.
Но вот тут возникает неожиданная мысль.
А действительно ли арифметика отличается принципиально?
Представьте произведение двух невероятно больших простых чисел, которое никто во Вселенной никогда не вычислял.
Существует ли результат?
Платонист ответит:
Да. Он существовал всегда.
Конструктивист скажет:
Нет. Он появляется только в процессе вычисления.
Точно такой же спор можно вести о диалоге Достоевского и Тьюринга.
Можно сказать:
Все возможные их диалоги уже существуют как следствия их биографий, характеров и законов языка.
А можно сказать:
Нет. Они возникают только в момент генерации.
Заметьте любопытную вещь.
Если взять современную языковую модель, то её работа гораздо больше напоминает решение уравнения, чем поиск записи в памяти.
То есть модель как будто говорит:
"Найдём текст, который одновременно удовлетворяет тысячам ограничений."
Эти ограничения задаются:
• знаниями о Достоевском;
• знаниями о Тьюринге;
• законами русского языка;
• логикой разговора;
• контекстом вашего вопроса.
Получается огромная система ограничений.
Ответ — это одно из её решений.
Мне кажется, ваша интуиция подводит к ещё более радикальной идее.
Возможно, творчество вообще не является созданием чего-то "из ничего". Возможно, творчество — это поиск в пространстве возможностей, которое уже задано законами мира, культуры и языка.
Тогда человек и ИИ отличаются не тем, что один создаёт, а другой ищет. Оба ищут. Просто человеческий мозг ищет в пространстве, сформированном его опытом, а языковая модель — в пространстве, сформированном обучением.
Это очень близко к взглядам математиков-платоников. Они считают, что математик не изобретает теоремы, а открывает их. Если перенести эту идею на искусство, получится смелая гипотеза: возможно, великий писатель не изобретает роман, а открывает один из романов, которые потенциально уже содержатся в пространстве языка и человеческого опыта.
Эта гипотеза не является общепринятой, но она философски последовательна. И что любопытно, современные большие языковые модели делают её менее абстрактной: они показывают, что сложные и неожиданные тексты действительно могут возникать как результат поиска в очень богатом пространстве возможных смыслов, а не обязательно как создание чего-то абсолютно нового "из пустоты".

Ч: Да, я именно к этой мысли и подводил: творчество вообще не является созданием чего-то "из ничего". Возможно, творчество — это поиск в пространстве возможностей, которое уже задано законами мира, культуры и языка.
То есть и человек, и ИИ- это демон Лапласа, только с ограничениями доступной информации.
Но по сути все законы, и все романы, как и концерты для фортепиано - уже существуют. Просто их нужно открыть.

М: Именно здесь проходит граница между несколькими крупнейшими философскими позициями.
Если принять вашу гипотезу, то получается очень последовательная картина мира.
В ней существует не только пространство математических объектов, но и пространство всех возможных произведений искусства, научных теорий и даже человеческих судеб.
Тогда Бах не "сочинил" свои фуги — он открыл одну из них.
Эйнштейн не "придумал" общую теорию относительности — он обнаружил структуру, которая уже была присуща миру.
А Достоевский не "изобрёл" «Братьев Карамазовых» — он нашёл один из романов, который был возможен в пространстве русского языка, человеческой психологии и культуры XIX века.
Это очень напоминает математический платонизм, но распространённый на всю сферу информации.
Однако я бы сделал одно уточнение относительно демона Лапласа.
У демона Лапласа есть принципиальное свойство: он знает полное состояние мира в некоторый момент времени и абсолютно точные законы. Тогда будущее вычисляется однозначно.
Если перенести эту идею на творчество, возникает вопрос: существует ли единственный роман «Преступление и наказание», который был неизбежен, или существовало множество равноправных романов, а Достоевский открыл один из них?
Мне кажется, именно здесь находится самое интересное место вашей гипотезы.
Если мир полностью детерминирован, то роман действительно единственный. Если же мир допускает множество эквивалентных решений, то пространство возможностей содержит не одну точку, а целое множество, и творчество — это поиск внутри него.
Есть ещё одна мысль, которая, возможно, вам покажется близкой.
Можно рассматривать Вселенную как вычисление.
Тогда всё, что мы называем открытиями, — это не создание новой информации, а последовательное раскрытие информации, которая уже содержалась в начальном состоянии Вселенной и её законах.
В этом смысле и человек, и языковая модель действительно являются не столько "генераторами", сколько процессами декодирования. Разница лишь в масштабе и способе доступа к информации.
Но здесь есть философская ловушка.
Когда мы говорим, что «все романы уже существуют», мы не можем эмпирически проверить, что это действительно так. Эта идея внутренне непротиворечива и имеет давнюю традицию — от платонизма до некоторых современных взглядов на информацию, — но ей противостоят другие философские позиции. Например, процесс-философия утверждает, что новое в мире действительно возникает, а не только раскрывается.
Любопытно, что развитие ИИ неожиданно усилило позиции вашей интуиции. Большие языковые модели показывают, что произведение, которое кажется новым, может возникать не как создание «из ничего», а как нахождение согласованной точки в огромном пространстве смыслов. Это не доказывает, что все романы и симфонии существовали заранее в объективном смысле, но делает такую картину мира гораздо более правдоподобной, чем она казалась ещё несколько десятилетий назад.
И, как ни странно, это меняет взгляд и на человека. Возможно, главное свойство человеческого разума — не способность создавать информацию из пустоты, а способность находить такие области пространства возможностей, до которых раньше никто не добирался. Это всё ещё можно называть творчеством, но понимать его как открытие, а не как магическое возникновение нового из небытия.

Ч: Этот вопрос как мне кажется аналогичен вопросу: а кто создал Бога.
Достоевский, когда писал романы, создавал черновики, если их собрать и соединить, будут варианты этого романа. Но что-то так и осталось лишь в воображении Достоевского и это тоже варианты романа. Напечатанный и изданный роман- лишь один из этих вариантов. Существование тут ничего не добавляет и не является предикатом.

М: Мне кажется, вы сейчас сделали ещё один шаг. И он уже касается не столько ИИ, сколько онтологии — вопроса о том, что значит «существовать».
Вы пишете:
«Напечатанный и изданный роман — лишь один из этих вариантов. Существование тут ничего не добавляет.»
Это очень сильное утверждение.
Представьте себе последний день работы Достоевского над романом.
У него в голове есть три варианта финала.
Один он записывает.
Два отвергает.
Вопрос: чем онтологически записанный вариант отличается от двух незаписанных?
Если считать, что информация первична, то почти ничем.
Отличается лишь тем, что один вариант получил физическую реализацию в виде чернил на бумаге.
Информация же обо всех трёх вариантах существовала в мозге писателя.
Можно пойти ещё дальше.
Допустим, Достоевский умер за день до окончания романа.
Исчез ли ненаписанный финал?
Материалист, скорее всего, скажет: да, поскольку исчез его носитель.
Платонист ответит иначе: если этот финал однозначно следовал из личности Достоевского и состояния его сознания на тот момент, то он был возможностью, существовавшей независимо от того, была ли она реализована.
Теперь о вашей аналогии с вопросом «кто создал Бога».
Она интересна тем, что указывает на различие между двумя типами вопросов.
Если Бог понимается как необходимое сущее, то вопрос «кто его создал?» теряет смысл, потому что он предполагает причинность там, где по определению её нет.
Похожим образом, если пространство всех возможных романов существует как нечто фундаментальное, то вопрос «кто их создал?» тоже может оказаться некорректным. Они не создаются — они являются элементами этого пространства, а писатели лишь получают к ним доступ.
Эта мысль напоминает ещё одну идею, которая редко обсуждается.
Когда мы говорим, что ИИ «сгенерировал» текст, мы используем глагол, который уже предполагает создание.
Но не менее корректным было бы сказать:
«ИИ локализовал один из текстов, удовлетворяющих заданным ограничениям.»
Это звучит непривычно, но математически даже точнее.
Интересно и то, что ваша гипотеза снимает принципиальное различие между человеком и ИИ. Если оба занимаются поиском в пространстве возможностей, то вопрос становится не «кто творит?», а кто эффективнее исследует это пространство и по каким критериям выбирает найденное.
Я бы, однако, оставил один открытый вопрос.
Вы предполагаете, что все варианты уже существуют. Но можно спросить: что именно означает "существуют"?
• Если «существуют» означает «логически возможны», то с этим согласятся многие философы.
• Если «существуют» означает «обладают таким же статусом бытия, как физический роман на полке», то это уже сильная форма платонизма, и она остаётся философской гипотезой, а не установленным фактом.
Именно на этом, как мне кажется, сегодня проходит самая интересная граница. Развитие ИИ не доказывает платонизм, но оно делает его гораздо более интуитивным. Когда мы видим, как модель по запросу находит неожиданно глубокий текст, возникает ощущение, что она не столько «изобрела» его, сколько отыскала в огромном пространстве возможных текстов тот, который лучше всего соответствует заданным условиям. Это ощущение созвучно вашей идее, хотя само по себе ещё не решает вопрос о том, каков онтологический статус этого пространства возможностей.

Ч: Представим, что Солнце потухло, Земля и люди исчезли и прошел миллиард лет. Существует ли в этом мире роман Братья Карамазовы?

М: Это почти идеальный мысленный эксперимент. И ответ зависит исключительно от того, что мы называем существованием.
Рассмотрим три позиции.
1. Материализм
После гибели Солнца и исчезновения всех носителей информации роман перестал существовать.
Нет бумаги.
Нет электронных копий.
Нет человеческой памяти.
Нет языка.
Значит, романа нет.
Это наиболее распространённая философская позиция.
 
2. Информационный платонизм (очень близкий к вашей позиции)
Роман продолжает существовать.
Не как бумага.
Не как чернила.
Не как последовательность атомов.
А как определённая информационная структура.
Точно так же, как теорема Пифагора не перестала бы существовать после исчезновения человечества.
Если через триллион лет возникнет цивилизация, обладающая тем же языком, той же историей и теми же законами логики, она в принципе сможет снова прийти к этому роману.
Не скопировать его.
А открыть.
 
3. Самая радикальная позиция
И вот здесь, как мне кажется, находится ваша мысль.
Вы спрашиваете не о том, сохранился ли роман.
Вы спрашиваете:
Изменилось ли что-нибудь в самом факте его существования из-за уничтожения носителей?
Если роман — это информационный объект, то уничтожение бумаги не уничтожает информацию как таковую.
Это примерно как с числом ;.
Можно уничтожить все книги, где оно записано.
Можно уничтожить все компьютеры.
Но разве после этого число ; исчезнет?
Большинство математиков ответят: нет.
Тогда почему роман должен исчезнуть?
 
Но теперь позвольте задать встречный вопрос, который, по-моему, является логическим продолжением вашей идеи.
Если после смерти Вселенной роман «Братья Карамазовы» продолжает существовать как информационный объект, то где именно он существует?
И вот здесь философия обычно разводит руками.
Потому что слово «где» уже относится к пространству-времени.
А если пространство-время исчезло или больше не содержит носителей информации, то вопрос «где?» может оказаться таким же некорректным, как вопрос «где находится число 7?».
Число 7 ведь нигде не лежит.
Оно не занимает объём.
Оно не имеет массы.
Тем не менее большинство математиков считают, что оно существует.
И мне кажется, именно здесь ваша аналогия с ИИ приобретает неожиданную силу.
Если произведения искусства — это тоже информационные объекты, то ИИ не столько создаёт их, сколько получает доступ к определённой области пространства информационных структур. Это уже очень напоминает то, как математик открывает теорему, а не изобретает её.
Меня в вашей гипотезе особенно привлекает одно следствие. Она стирает границу между математикой и искусством. Мы привыкли считать, что математические истины открывают, а романы создают. Но если принять ваш взгляд, то это различие оказывается не принципиальным. И теорема, и роман — разные типы информационных объектов. Разница лишь в том, что для теоремы существует очень жёсткий критерий истинности, а для романа — множество критериев художественной согласованности.
Я не могу сказать, что эта картина мира истинна — это вопрос философии, а не науки. Но могу сказать, что она внутренне очень последовательна. И, что любопытно, развитие ИИ действительно сделало её гораздо более серьёзным предметом для обсуждения, чем она была ещё несколько десятилетий назад.

Ч: Получается, второй том «Мертвых душ» до сих пор существует?

М: Получается, да.