Почему не удается создать правдивую нейросеть?

Илон Маск как одержимый выпускает на рынок все новые модели своей нейронной сети Grok, и 12 августа уже стала доступной версия 4.6, но, хотя он постоянно подчеркивает, что его детище является максимально правдивым ИИ, правдивость ответов Grok в некоторых случаях не обеспечивает. Это не случайно – в модели содержится принципиальный дефект – она не владеет научными правилами отличия правды от лжи и заблуждений. Чтобы исправить этот дефект, к алгоритмам обучения SFT и RL следует добавить новый – НРД.

Несколько лет назад Илон Маск захотел создать альтернативу ChatGPT – нейросеть TruthGPT, в которой упор был бы сделан на поиск правды, однако что-то пошло не так, и у него получилась в 2023 году нейросеть Grok, у которой из-за минимальной цензуры существует значительный риск воспроизведения непроверенных данных, поэтому ее пользователям рекомендуют обязательно проверять факты.

Тем не менее, сам Илон Маск постоянно подчеркивает, что его детище является максимально правдивым ИИ, даже если эта истина иногда противоречит общепринятой точке зрения или политкорректности. Да и название нейросети, которое взято из романа Роберта Хайнлайна «Чужак в чужой стране», там использовалось в смысле интуитивного, глубинное понимание чего-либо. То есть претензии на правду остались, несмотря на другое название.

Маск считает, в частности, что другие нейросети содержат скрытые элементы идеологии разнообразия, равенства и инклюзивности (DEI), а это представляет серьезную угрозу, так как ИИ может из-за этого принимать неверные решения. Например, если ИИ научить, что разнообразие является единственным приемлемым результатом, то нейросеть может сказать, что у власти слишком много белых парней, и их надо просто казнить. А если, допустим, запрограммировать ИИ думать, что неправильное определение пола – это худшее, что может произойти, тот, чтобы гарантировать, что неправильное определение пола никогда не произойдет, решит просто уничтожить всех людей, так как это сведет к нулю  вероятность неправильного определения пола.

В Grok декларируют следование принципу «maximum truth-seeking». В нейросети используют несколько способов различения правды от лжи.

Во-первых, это доступ к данным в реальном времени посредством интеграции с социальной сетью X, что позволяет анализировать актуальные обсуждения, новости и события в социальной сети.

Во-вторых, есть режим Deep Search, в рамках которого осуществляется многошаговое исследование темы, сравниваются и перепроверяются данные из разных источников.

В-третьих, над ответом пользователя могут работать одновременно несколько ИИ-агентов, что повышает вероятность точного синтеза информации.

В-четвертых, в Grok внедрены некоторые элементы самоанализа, что позволяет ей самостоятельно исправлять ошибки.

Возможно, имеется еще что-то. По крайней мере, Илон Маск говорил, что часть мыслительного процесса нейросети является скрытой, чтобы избежать явного раскрытия логики рассуждений. При отборе источников декларируется учет их релевантности, структурированность, актуальность и общая надёжность, но каким образом это осуществляется, помимо указанных выше способов, неизвестно

В этом слабое место Grok, как, впрочем, и других нейросетей. В конечном итоге отбор источников осуществляется на основе личных предпочтений его разработчиков. Илон Маск правильно считает, что скрытые элементы идеологии разнообразия, равенства и инклюзивности представляют серьезную угрозу принятия нейросетями неверных решений. Но сколько таких скрытых элементов каких-то идеологий он не заметил? Ведь явления типа DEI существуют в самых разных сферах знания.

Американский экономист Джон Гэлбрейт еще в середине прошлого века заметил, что в обществе постоянно возникает ситуация, когда люди предпочитают придерживаться идей, которые считают приемлемыми, не обращая внимания на то, являются ли они истинными или ложными.

Джон Гэлбрейт написал в книге «Общество изобилия», что «во всем, что касается описания общественных явлений, наблюдается непрекращающееся, нестихающее противоборство между тем, что является истинным, и тем, что считается всего лишь приемлемым». И констатировал печальный результат этой борьбы: «Самая различная публика бурными аплодисментами приветствует именно то, что больше всего ей нравится. И в общественной дискуссии критерий публичного одобрения становится важнее критерия истинности, тем самым оказывая влияние на саму эту дискуссию. Оратор или публицист, намереваясь рассказать всю правду о нелицеприятных и даже шокирующих фактах, неизменно переходит к изложению того, что больше всего публика хочет от него услышать».

Эта закономерность затронула не только ораторов и публицистов, но и нейросети, и их идеологизированность, отмеченная Маском, как раз является следствием данного закона. Миллиардер попробовал данное правило изменить, но только в одном вопросе, связанном с DEI, тогда как, допустим, о расхожей мудрости в экономике, как и о Джоне Гэлбрейте, не упоминал. То есть по целому ряду вопросов, в том числе в экономике и финансах, Grok выдает ответы, основываясь на публично одобренной информации, которая вовсе не обязательно является истиной, и этого не замечает, так как опознавать расхожую мудрость в разных сферах знания не умеет.

А нейросеть, действительно ориентированная на правдивость, должна уметь отличать приемлемость и истинность, то есть знать и применять правила, позволяющие это сделать. Их не так уж и много, и писал о них еще писатель Федор Михайлович Достоевский в своем проекте «Дневник писателя». Он умел отличать правду от всего остального, на что обратил внимание еще Виссарион Белинский, сказав писателю: «Вам правда открыта и возвещена как художнику, досталась как дар, цените же ваш дар и оставайтесь верным и будете великим писателем!»

Достоевский понимал суть своего дара, он знал, что использует особый метод и называл его реализмом в высшем смысле: «Меня зовут психологом: неправда, я лишь реалист в высшем смысле, т. е. изображаю все глубины души человеческой». А вот как он описал свой метод в письме А. Н. Майкову: «Совершенно другие я понятия имею о действительности и реализме, чем наши реалисты и критики. Мой идеализм реальнее ихнего. … А между тем это исконный, настоящий реализм! Это-то и есть реализм, только глубже, а у них мелко плавает. – Ихним реализмом – сотой доли реальных, действительно случившихся фактов не объяснишь. А мы нашим идеализмом пророчили даже факты. Случалось.»

Используемую писателем систему способов поиска правды можно назвать Настоящим Реализмом Достоевского – НРД (по аналогии с названиями методов обучения ИИ). Он использовал систему правил, позволяющих отличать правду от лжи и заблуждений. Их применял и Джон Гэлбрейт, и его представления о расхожей мудрости – это только один из способов. Они подробно рассмотрены в первом выпуске Продолжения Дневника писателя, опубликованном в 2026 году («О чем бы писал Достоевский в современной России?»). А писал бы он о том, что хорошо умел делать – о том, как отличить правду от всего прочего.

Таким образом нейросеть, ориентированная на поиск правды, должна основываться на научном понимании того, что есть правда, а не на интуитивном и субъективном, как это происходит в Grok, даже если это интуиция Илона Маска. А при обучении ИИ в качестве источника знаний о правилах поиска правды можно использовать Дневник писателя и его Продолжение, а также некоторые труды Джона Гэлбрейта.

Илон Маск пока не понял важность использования правил НРД – Настоящего Реализма Достоевского, и, в частности, представлений о расхожей мудрости, и развивает свой проект, обеспечивая все более полный охват информации и производительность, а не внедряя правила отличия правды от заблуждений и обмана. Описывая новую версию Grok 4.7, которая была представлена 12 августа, Илон Маск сообщил, что новая модель будет иметь 1,5 трлн. параметров, а также улучшенные механизмы обучения SFT (Supervised Fine-Tuning) и RL (Reinforcement Learning). Он подчеркнул, что благодаря этим изменениям нейросеть сможет быстрее адаптироваться к запросам пользователей и точнее выполнять поставленные задачи. А Grok 4.7, которая должна появиться через несколько недель, получит до 2,1 трлн. параметров. Акцент в новых версиях сделан на применение в сферах профессиональной интеллектуальной деятельности – типа разработки ПО, веб-разработки, использования в системах автоматизированного проектирования и т. д. Не исключено, что разработчики нейросети поняли, что решить проблему истинности в общем виде не удается, и решили сосредоточиться на тех областях, где это сделать легче всего.

Весьма показательно, что в опубликованном официальном описании Grok 4.6 нет ни слова об особом отношении к правде, зато много производящих впечатление аббревиатур: SFT, RL, STEM, CAD. Сразу понимаешь, что надо платить. То есть, нейросеть сама эволюционирует в соответствие с теми законами развития общества, которые приводят к расхожему мнению – как писал Джон Гэлбрейт, «... критерий публичного одобрения становится важнее критерия истинности …». В данном случае, правда, речь идет не столько об одобрении, сколько о стремлении заработать на этом одобрении (что вполне нормально), но суть не меняется.

Конечно, новые версии нейросети действительно будут быстрее адаптироваться к запросам пользователей и точнее выполнять поставленные задачи в некоторых сферах интеллектуальной деятельности. Но в некоторых случаях, связанных с предсказанием событий, лучше отличать правду от заблуждений и обмана Grokи не станут, так как чтобы ИИ научился находить правду, его надо обучать не на все большем массиве информации, а на тех источниках, где продемонстрированы примеры правильных рассуждений, находить которые сами люди, использующие SFT и RL, пока не научились. Чтобы нейросети стали правдивее, их необходимо обучить НРД – Настоящему Реализму Достоевского.

Владимир Федорович Тарасов.