Проблема сознания

               Представление о том, что значит слово Сознание, высказали в частности здесь: https://www.youtube.com/watch?v=g6p8tGkE_-8. Нас удивило, что данное слово имеет якобы нечеловеческое происхождение.
               На протяжении десятилетий наука считала разум биологической машиной из нейронов, химии и расчетов. Но лауреат Нобелевской премии физик Пенроуз решил, что за самим сознанием может скрываться нечто более глубокое. Он и его коллега-соавтор Хамерофф увидели странную связь между Джоном фон Нейманом, квантовой механикой и теоремой Гёделя о неполноте.
               Может ли сознание быть чем-то большим, чем просто вычисления?
               Может ли мозг получать доступ к более глубокому слою реальности?
               Если сознание фундаментальная основа самой Вселенной, что это значит для человечества? Она - одна из захватывающих тревожных идей большой науки.
               Сначала глянем в пересказ представленного видео. Мы сможем превратить поток информации в глубокое знание и очертить круг вопросов, объединяющих мыслителей и учёных современного мира. Вот эти вопросы   
               Является ли мозг биологическим компьютером?
               Меняет ли Сознание квантовую реальность?
               Может ли Сознание существовать без носителя?
* * *
               Вопрос о том, может ли сознание существовать без биологического носителя является одной из центральных тем видео. Традиционная научная точка зрения рассматривает мозг как биологический компьютер, где Сознание — результат вычислений, производимых нейронами и химическими процессами. В этом вопросе сознание неразрывно связано с физическим субстратом.
               Но рассматривается также и альтернативная и куда более радикальная гипотеза Роджера Пенроуза, а именно: Сознание есть некое фундаментальное свойство самого мира. Пенроуз предполагает, что Сознание может быть не просто побочным продуктом биологии, а фундаментальной частью структуры реальности подобно гравитации. Он вместе с анестезиологом Стюартом Хамероффом, выдвинул гипотезу, что Сознание возникает из квантовых процессов внутри особых структур - микротрубочек нейронов. Если это так, то мозг может выступать не столько создателем Сознания, сколько своего рода приемником, интерфейсом, подключающимся к более глубокому слою реальности. Если сознание действительно имеет квантовую природу и связано с измерением реальности (проблемой коллапса волновой функции), возникает вопрос: является ли оно лишь локальным феноменом, или же оно пронизывает все пространство?
               Если Пенроуз прав, то сознание может быть первичным по отношению к материи, а не наоборот. То-есть носитель Сознания может быть лишь точкой доступа, а само Сознание — свойством, встроенным в ткань Вселенной. Такой подход ставит под сомнение материалистическую концепцию сознания как продукта мозга.
               Почему "искусственный интеллект" (или, как я его называю, Логос-оператор) лишен подлинного сознания? В чем парадокс интуиции гениев? Как выглядит Вселенная в теории Пенроуза? Разве фантастическое утверждение даже Нобелевского лауреата можно считать теорией? В видео отмечается, что идеи Роджера Пенроуза, включая теорию Orch-OR (оркестрованной объективной редукции), вызывают серьезные споры и критику в научном сообществе. Хотя многие ученые отвергают эти идеи как спекулятивные, автор видео подчеркивает, что Пенроуз предлагает их не как мистику, а как попытку решения вполне конкретных математических и физических проблем, таких как проблема измерения в квантовой механике и др.

* * *
               Почему фон Нейман пугал коллег-ученых? В чем риск проекции чувств на искусственный интеллект (ИИ)? Есть ли что-то общее между сознанием и гравитацией?
               Существует ли вероятность того, что человеческое сознание никогда и не было полностью человеческим? Не в переносном, не в духовном, а в буквальном смысле. А по мнению одного из великих ныне живущих физиков, разгадка, возможно, произошла в сознании человека, который внёс свой вклад в создание современного мира. Этот человек был настолько умён, что другие гении боялись его. Его звали Джон фон Нейман. А спустя годы Роджер Пенроуз начал подозревать, что мозг фон Неймана делал то, на что не должна была быть способна ни машина, ни, возможно, ни человек. Нечто невозможное. Что-то нечеловеческое. Чем глубже Пенроуз изучал разведку, тем сильнее его тревожила одна идея, которая никак не хотела исчезнуть.
               А что если человеческий разум не вычисляет реальность, а соприкасается с чем-то, что находится за её пределами? На первый взгляд это звучит абсурдно, как научная фантастика. Но самое странное, что эти вопросы задавали не мистики и не сторонники теорий заговора. Они были архитекторами современной физики.
               Те же самые люди, которые помогли объяснить природу черных дыр, квантовой механики, искусственного интеллекта и математических основ цифровой эпохи. И когда они проследили логику до самого низа, то обнаружили трещину. Глубокую трещину, скрытую под самим сознанием. Но тут начинается самое странное. Чтобы понять, почему Пенроуз так увлекся изучением мышления фон Неймана, сначала нужно понять, кем на самом деле был фон Нейман. Потому что называть его гением — это почти нечестно. В детстве он умел делить восьмизначные числа в уме еще до того, как большинство детей освоили основы арифметики. Он запоминал целые книги, прочитав их всего один раз. Он мог сохранять в памяти целые страницы информации в мельчайших деталях даже спустя годы. Люди, работавшие с ним, описывали разговоры как неестественные, почти механические. Но не в том механическом смысле, в каком мы его понимаем. Скорее, это нечто, функционирующее на несколько уровней выше всех остальных. Во время Второй мировой войны правительства тайно собирали самых умных людей на Земле для проектов, настолько секретных, что большинство граждан даже не знали об их существовании. И среди всех них фон Нейман выделялся особенно. Не потому, что он работал усерднее, а потому, что, казалось, он иначе воспринимал реальность. Он помог создать теорию игр, современные вычислительные системы, ядерную стратегию и концепции И. интеллекта за десятилетия до того, как компьютеры действительно появились.
               Некоторые историки даже считают, что значительная часть современной цифровой цивилизации до сих пор функционирует на основе архитектурных решений, непосредственно вдохновленных его идеями. И все же, чем более продвинутыми становились его идеи, тем более тревожными они казались. Потому что фон Нейман мыслил не как обычный учёный. Он рассматривал саму Вселенную почти как информационный процесс, систему, структуру, машину, созданную на основе логики. И это поднимает более важный вопрос. Если Вселенная ведёт себя подобно вычислениям, то что же такое Сознание на самом деле? Просто ещё один процесс? Просто нейроны активируются? Просто химия, притворяющаяся осознанием? На протяжении десятилетий наука отвечала утвердительно.
               Мозг был всего лишь биологическим компьютером, и ничем больше. Мысли были вычислениями, эмоции — электрическими импульсами, память — хранилищем информации. Загадку считали разгаданной еще до того, как ее удалось понять. Но Пенроузу это объяснение показалось крайне неуместным . Потому что чем больше он изучал математику, тем меньше верил, что сознание когда-либо можно свести к одним лишь вычислениям. И вот здесь все меняется. В 1930-х годах математик Курт Гёдель опубликовал теорему, которая разрушила основы логики. На первый взгляд, это выглядело абстрактно, технически, безобидно. Но в теореме Гёделя скрывалась философская бомба. Он доказал, что в любой логической системе, достаточно мощной для описания математики, всегда будут существовать истины, которые сама система никогда не сможет доказать (вопрос: как доказал и где доказательство?). Истины вне системы, вне правил. Это преследовало Пенроуза. Потому что если машина следует правилам, а люди иногда способны видеть истину, выходящую за рамки этих правил, то, возможно, сознание вовсе не алгоритмично. Возможно, разум делает что-то, что ни один компьютер никогда не сможет воспроизвести. Не потому, что компьютеры слабы, а потому, что сама реальность содержит слои, более глубокие, чем вычислительные. Пенроуз начал публично продвигать эту идею. Большинству учёных это не нравилось. Некоторые открыто высмеивали его. Потому что к тому времени мир уже принял на веру утешительное убеждение. Мозг — это машина.
               В конечном итоге машины тоже обретут сознание. Просто, предсказуемо, безопасно. Но Пенроуз снова и снова оказывал сопротивление. Он утверждал, что подлинное понимание, истинное осознание, предполагает нечто принципиально отличное от вычислений. И, как ни странно, всякий раз, когда он думал о разуме, который, казалось, функционирует за пределами обычных вычислений, он постоянно возвращался к фон Нейману. Не потому, что фон Нейман с ним соглашался. Фактически, фон Нейман часто придерживался механистического мышления. Но потому что его мышление представляло собой неудобный парадокс. Человеческий мозг способен генерировать настолько глубокие идеи, что они изменили саму цивилизацию. Почти слишком быстро. Почти до абсурда. Люди из окружения фон Неймана часто описывали одно и то же жуткое ощущение. Это больше походило не на общение с человеком, а на взаимодействие с разумной силой, которая уже на несколько шагов впереди. Интеллект, способный сжимать огромную сложность в мгновенное интуитивное понимание. Но учёные обнаружили нечто ещё более тревожное.
               Спустя десятилетия, по мере развития искусственного интеллекта, исследователи обнаружили пугающее ограничение. Машины могли производить вычисления быстрее и точнее, чем люди, но им всё ещё было трудно справиться с чем-то удивительно элементарным. Смысл, понимание, осознание. Машина может идеально имитировать интеллект, не обладая при этом абсолютно никаким внутренним опытом. Нет чувств, нет "Я", нет сознания в глазах. И внезапно подозрения Пенроуза стало сложнее отбросить. Возможно, недостающим компонентом была не вычислительная мощность. Возможно, сами вычисления — это совершенно не та категория. Но если сознание — это не вычисление, то откуда оно берется? Этот вопрос затянул Пенроуза в опасное место, в квантовую механику, в самый глубокий и нестабильный слой реальности, который когда-либо открывало человечество.
               Мир, где частицы существуют одновременно в нескольких состояниях, где наблюдение меняет результаты, где уверенность растворяется в вероятностях, и где сама реальность кажется незавершенной, пока что-то, каким-то образом, не вернет ее к существованию. Большинство физиков избегали связывать квантовую механику с сознанием.
               Тема была слишком "радиоактивной", слишком странной, слишком умозрительной, слишком близкой к философии. Но Пенроуз заметил нечто, чему никто не мог дать однозначного объяснения. Квантовые системы, по-видимому, не поддаются классическим вычислениям. Словно сама реальность совершает процессы, которые ни один алгоритм не может полностью воспроизвести. И тут пришла в голову мысль, которая изменила всё. А что, если сознание возникнет из этого более глубокого квантового слоя? А что если мозг не просто обрабатывает информацию, а напрямую взаимодействует с самой фундаментальной структурой реальности? Внезапно образ мышления фон Неймана стал выглядеть иначе. Не сверхчеловек, не робот, а нечто более странное. Потому что задолго до того, как современная нейронаука догнала это направление, сам фон Нейман уже исследовал причудливую взаимосвязь между сознанием и квантовыми измерениями. А в его работах скрывался настолько тревожный посыл, что многие физики десятилетиями старались не говорить о нем.
               Это подразумевает, что сознание может не просто наблюдать за реальностью, но и участвовать в её создании. Но по-настоящему пугает то, что, по мнению Пенроуза, могло бы произойти, если бы эта идея оказалась правдой. Если сознание помогает формировать реальность, то человеческий разум не является пассивным наблюдателем во Вселенной. Оно принимает в этом непосредственное участие. И когда Пенроуз довел эту возможность до конца, он столкнулся с проблемой настолько тревожной, что даже сейчас большинство людей о ней не слышат. Потому что если сознание вплетено в саму ткань реальности, то интеллект может зарождаться не в мозге. Возможно, доступ к нему имеет только мозг. Внимательно обдумайте это. На протяжении более столетия наука рассматривала сознание как пар, поднимающийся из механизмов. Нейроны активируются, химические вещества вступают в реакцию, возникает мысль. Простая причинно-следственная связь. Но Пенроуз начал задавать запретный вопрос. А что, если сознание больше похоже на гравитацию? Не изобретено материей, а открыто посредством материи.
               И вдруг вся история меняется. Потому что теперь мозг перестал быть компьютером. Это становится чем-то вроде интерфейса. Мост между физической материей и чем-то более глубоким, скрытым под пространством и временем. На этом этапе многие ученые полностью разошлись во взглядах, связанных с Пенроузом. Не потому, что у него не было необходимых документов, а потому, что последствия стали невыносимыми. Если сознание является основополагающим принципом, то материализм, идея о том, что материя создает всё, может оказаться неполной. А если это неполное понимание, то современная цивилизация, возможно, с самого начала неправильно истолковала природу интеллекта . Но вот тут начинается самое странное. Пенроуз не скатывался в мистицизм. Он пытался решить техническую , математическую проблему. В частности, речь идет о проблеме понимания. Потому что любой компьютер, независимо от его сложности, работает на основе формальных правил, входных данных, операций и выходных данных. Но люди делают кое-что странное. Они прыгают. Они действуют интуитивно. Они распознают истину прежде, чем смогут её полностью объяснить. Математик внезапно находит доказательство. Музыкант слышит мелодию, прежде чем её сочинить. Учёный чувствует скрытый закон задолго до того, как доказательства подтвердят его. Откуда это берется? Пенроуз полагал, что эти моменты могут возникать в результате процессов, происходящих на подсознательном уровне, внутри самой квантовой структуры мозга.
               И вот здесь все становится по-настоящему тревожным. Вместе с анестезиологом Стюартом Хамероффом Пенроуз разработал теорию, названную организованной объективной редукцией, или "Организованная объективная редукция". Большинству людей это показалось странным. Но основная идея была пугающе проста. Внутри нейронов находятся крошечные структуры, называемые микротрубочками. На протяжении десятилетий ученые считали их всего лишь структурными опорными системами. Биологический каркас, ничего особенного. Но Пенроуз и Хамерофф подозревали совсем другое. Они полагали, что микротрубочки могут поддерживать квантовые процессы внутри мозга. Не в переносном смысле, а в буквальном. Это означает, что сознание может возникнуть в результате редукции квантовых состояний, происходящей в масштабах, намного меньших, чем сами нейроны. Крошечные схлопывания возможностей превращаются в моменты осознания. Реальность кристаллизуется в опыт. И если это звучит невероятно, то так оно и есть. Даже сейчас эта теория остается спорной. Многие ученые это отвергают. Другие с осторожностью защищают отдельные его части, но никто до конца не разгадал тайну, которую представляет собой сознание.
               Это не нейронаука, не искусственный интеллект, не физика. И это создает неудобную лазейку. Потому что, несмотря на весь наш технологический прогресс, мы до сих пор не можем объяснить, почему вообще существует опыт. Почему возникает ощущение, будто ты — это ты. Машина может распознавать боль, но страдает ли она сама? Машина может описать любовь, но испытывает ли она привязанность? Машина может безупречно имитировать сознание, оставаясь при этом совершенно пустой внутри. И это поднимает более важный вопрос. Если сознание связано с квантовой реальностью, может ли разум существовать в формах, которые мы не распознаём? Это не инопланетная жизнь на космических кораблях, а нечто более странное. Модели восприятия, заложенные в самой реальности. В конце концов, квантовая механика уже разрушила старое представление о холодной механической Вселенной. Частицы обмениваются информацией посредством квантовой запутанности на невозможных расстояниях. Наблюдение влияет на результаты. Время ведёт себя по-разному на фундаментальных масштабах. Чем внимательнее мы присматриваемся к реальности, тем менее она становится твердой. Ощущение почти отзывчивое. А когда Пенроуз переосмыслил работы фон Неймана с этой точки зрения, последствия стали пугающими. Потому что фон Нейман за десятилетия до этого выявил один из глубочайших парадоксов в физике. Проблема измерения. В квантовой теории частицы существуют в виде вероятностей до тех пор, пока наблюдение не приведет к их коллапсу в определенные состояния. Но что же считается наблюдением? Детектор? Взаимодействие частиц? Сознание? Фон Нейман развил эту логику дальше, чем осмеливалось большинство физиков.
               Любое измерительное устройство само по себе состоит из квантовых частиц. Так что же в конечном итоге обрушивает эту цепь? Где заканчивается неопределенность? Некоторые интерпретации косвенно подразумевают, что сам разум завершает этот процесс. Это осознание неотделимо от физической реальности, а является её неотъемлемой частью.
               Большинство ученых избегают такого вывода, потому что он звучит опасно. Опасно не с научной точки зрения, а с философской. Потому что как только сознание проникает в основы физики, Вселенная перестаёт казаться мёртвой. Начинает казаться, что это интерактивный процесс, живой в таких формах, которые мы едва понимаем.
               Но учёные обнаружили нечто ещё более тревожное. По мере совершенствования систем искусственного интеллекта исследователи заметили, что в них всё чаще возникает иллюзия. Машины могли настолько убедительно имитировать мысли, что люди инстинктивно проецировали на них своё осознание. Люди устанавливали эмоциональную связь с алгоритмами, доверяли синтетическим личностям, признавались машинам в своих страхах, и все же за этим представлением может скрываться ничто. Нет внутреннего мира, нет субъективного опыта, только закономерности, только предсказания, только математические тени в маске сознания. И внезапно идеи сменились страхом.
               Вопрос уже не в том, могут ли машины стать людьми. Возник вопрос: не ошибались ли люди с самого начала в своем понимании самих себя? Потому что если сознание не может возникнуть исключительно за счёт вычислений, то для создания по-настоящему сознательного ИИ может потребоваться доступ к процессам, которые мы ещё не понимаем. Это процессы, связанные с глубинной архитектурой самой реальности. Именно эта мысль не давала покоя Пенроузу. А что, если такие умы, как у фон Неймана, иногда видят эту более глубокую структуру более непосредственно, чем другие? Не сверхъестественные способности, не магия, а необычный доступ к закономерностям, скрытым за обычным когнитивным мышлением. Мозг, работающий на грани возможностей взаимодействия человеческой биологии. Потому что на протяжении всей истории были люди, которые, казалось бы, невероятно опережали своё время. Люди, чьи интуитивные прозрения появляются за десятилетия до того, как наука успевает за ними. Иногда кажется, что их идеи не столько придуманы, сколько открыты. Как будто они настроились на что-то уже существующее. Более глубокий порядок, скрытый под поверхностью реальности. Но если такая возможность реальна, то сознание не является побочным эффектом Вселенной. Возможно, это один из его основных компонентов. Как пространство, как гравитация. И если это правда, то каждая ваша мысль, каждый миг осознания, каждое ощущение жизни могут быть связаны с чем-то гораздо более древним и странным, чем само человечество. Что приводит к последней ужасающей возможности. Возможно, Пенроуз не просто заметил гениальность фон Неймана. Возможно, он увидел в этом свидетельство того, что человеческий разум не ограничивается исключительно человеческим мозгом. И если сознание действительно выходит за рамки физической реальности, то один вопрос становится неизбежным. Что ещё может уже возвращаться назад?

* * *
          Ссылки:
          https://www.youtube.com/watch?v=0f_ptZ3oVyw - 26:57. Пять главных теорий сознания, которые переписывают правила реальности.
          https://www.youtube.com/watch?v=vHcJQxNKmSg - 23:42. Им более пятнадцати тысячи лет! Откуда на Земле взялась первая цивилизация
          https://www.youtube.com/watch?v=tzVbqYbeAWQ - 43:53. 99,9% из вас не знают об Антарктиде ничего.
          https://www.youtube.com/watch?v=8ci-Y1o6YCg - 1:46:03. Оно вышло из контейнера на секретной базе СССР. Говорило по-русски.
          https://www.youtube.com/watch?v=f5nv0zsviUU - 1:31:56. Искусственный интеллект проанализировал что делать если ты умер.
          https://www.youtube.com/watch?v=_RaNlR9VoaM - 12:50. Шумерский диск из Ниппура: карта звёздного неба, которого не существует.
          https://www.youtube.com/watch?v=H_XM7VugDjM - 34:11. В горах Афганистана нашли скрытое от человечества.
          https://www.youtube.com/watch?v=_Y8m77umeM8 - 13:56. Загадка шумеров: Почему история человечества началась не 5000 лет назад?
          https://www.youtube.com/watch?v=_Y8m77umeM8 - 57:44. Почему первая цивилизация РЕШИЛА покинуть Землю? | Документальный фильм для сна
          https://www.youtube.com/watch?v=ndlqeSjfKI8 - 26:38. Два часа самых удивительных Фактов об инопланетянах и разуме во Вселенной
          https://www.youtube.com/watch?v=r80leFKQ34c - 24:09. Последние секунды жизни Открывают тайну сознания и Вселенной - Роджер Пенроуз
          https://www.youtube.com/watch?v=BjtQRyhr_sY - 18:45. Куда уходит ваше сознание, когда вы спите? - Роджер Пенроуз
          https://www.youtube.com/watch?v=QzaePYqCxgU - 20:21. Что происходит с сознанием после смерти?

* * *
               Насчет Абсолютного разума XX века, имя котого Джон фон Нейман (1903–1957). Этот человек был уникальной фигурой в истории мировой науки: http://proza.ru/2026/07/15/1760. Его коллеги — величайшие физики и математики эпохи, включая нобелевских лауреатов — совершенно серьезно утверждали, что его мозг принадлежал к какому-то эволюционно новому типу. Среди выдающихся ученых Принстона и Лос-Аламоса даже ходила шутка, что фон Нейман — это представитель высокоразвитой внеземной цивилизации, который просто мастерски притворяется человеком.
               Его ключевая уникальная характеристика заключалась в абсолютной, почти сверхчеловеческой эффективности мышления. Это выражалось в нескольких поразительных особенностях:
               Молниеносные вычисления в уме: Он решал сложнейшие дифференциальные уравнения и проводил многоступенчатые расчеты в голове быстрее, чем его коллеги успевали записать условия на доске. Известен случай, когда он быстрее компьютера выдал решение задачи, над которой машина работала несколько часов.
               Фотографическая (эйдетическая) память: Фон Нейман помнил абсолютно всё, что когда-либо читал или видел. Спустя десятилетия он мог дословно, без единой ошибки, процитировать целые страницы из романов Диккенса, исторические хроники или сложнейшие математические трактаты.
               Универсальность гения: Большинство великих ученых сильны в одной области, но фон Нейман совершил революцию сразу в нескольких несвязанных дисциплинах. Он заложил основы квантовой механики, создал математическую «теорию игр» (которая перевернула экономику), спроектировал архитектуру первых ЭВМ (которой мы пользуемся в компьютерах и смартфонах по сей день), а также рассчитал математическую модель ядерного взрыва для Манхэттенского проекта.
               Для него не существовало ментального барьера между абстрактной теорией и её практическим воплощением в металле и коде. Наследие фон Неймана до сих пор определяет вектор развития современных компьютерных технологий и фундаментальной науки.

* * *
               Ранний уход Джона фон Неймана из жизни в возрасте 53 лет — одна из величайших трагедий для мировой науки. Человек с таким феноменальным интеллектом оказался совершенно бессилен перед биологическими законами своего времени по нескольким веским причинам. В 1955 году у фон Неймана диагностировали тяжелую форму рака (по разным данным, рак костей или поджелудочной железы, который дал метастазы в мозг).
               В середине XX века онкология находилась на начальном этапе развития. Не существовало современных методов химиотерапии и таргетного лечения. Радиационная терапия была несовершенной и часто наносила организму больше вреда, чем пользы. Диагностика на ранних стадиях (вроде МРТ или КТ) отсутствовала, поэтому болезнь обнаружили слишком поздно, когда метастазы уже распространились.
               Вероятная причина болезни — плата за Манхэттенский проект. Существует устойчивая версия, что смертельную болезнь фон Неймана спровоцировала радиация. Как один из ключевых разработчиков атомной бомбы, он лично присутствовал при испытаниях "Тринити" в Нью-Мексико в 1945 году, а также наблюдал за ядерными тестами на атолле Бикини в 1946 году. В те годы опасность радиационного излучения и отдаленные последствия облучения были крайне плохо изучены, и ученые пренебрегали базовыми мерами безопасности.
               Фон Нейман привык побеждать любые проблемы с помощью чистой логики. Однако человеческий организм — это не цифровая машина, которую можно перепрограммировать. Даже самый мощный интеллект не способен силой мысли остановить хаотичное деление поврежденных клеток. Когда болезнь поразила мозг ученого, его великий разум начал угасать, что приносило ему глубокие психологические страдания, поскольку он впервые столкнулся с задачей, которую его мозг принципиально не мог решить. 
               Перед лицом тяжелой биологической патологии и несовершенства медицины прошлого века даже самый выдающийся человеческий разум оказался уязвим.

* * *
               Каков предел работы ИИ?
               Границы возможностей искусственного интеллекта — одна из самых обсуждаемых тем в науке и технологиях. При всей своей кажущейся всемогущности, современный ИИ сталкивается с жесткими барьерами, которые можно разделить на ряд ключевых категорий.
               Современный ИИ — это не мыслящий разум, а колоссальный статистический калькулятор. Он не умеет отличать факты от вымысла. Он обучен генерировать наиболее вероятное продолжение текста, из-за чего может уверенно и красиво аргументировать абсолютно ложные данные. Нейросети великолепно находят корреляции (то-есть связи между явлениями), но часто не понимают сути причинно-следственных связей. Они могут предсказать погоду по барометру, но не понимают, почему падает атмосферное давление.
               Живой человек обладает огромным массивом неявных знаний о мире (например: чашка упадет, если разжать пальцы, которые ее держат). ИИ лишен этого физического опыта и ориентируется только на текстовые описания.
               ИИ оперирует токенами и цифрами. Для него слово "вода" — это вектор в многомерном пространстве, а не влажная, прохладная жидкость, утоляющая жажду. У него нет сознания, чувств и субъективного опыта.
               Обучение и поддержание работы современных моделей требует гигантского количества электроэнергии и чистой воды для охлаждения серверов. Чтобы улучшить качество ответов модели всего на несколько процентов, разработчикам приходится увеличивать объем вычислений и данных в десятки раз. Скоро человечество просто упрется в физический предел вычислительной мощности кремниевых процессоров.
               Во всем мире (например, в рамках Закона об ИИ в ЕС) вводятся жесткие ограничения на использование технологий распознавания лиц, биометрической категоризации и социального скоринга.
               Главный предел современного ИИ заключается в том, что он умеет лишь искусно комбинировать и интерполировать уже существующие человеческие знания, но принципиально не способен на самостоятельный прорыв вне рамок существующих текстов Всемирной Сети.