Эволюция ИИ от Берлиоза к Воланду и Достоевскому

В настоящее время нейросети в целом ряде областей гуманитарного знания обладают обширным интеллектом, хотя и на уровне персонажа романа «Мастер и Маргарита» Берлиоза. Но буквально через несколько лет способности ИИ могут приблизиться к способу мышления, продемонстрированного другим персонажем романа – Воландом, а затем и реального писателя – Федора Михайловича Достоевского.

За последние несколько лет искусственный интеллект сделал стремительный рывок и значительно поумнел по сравнению с чат-ботами, которые могли только отвечать на вопросы. Теперь они могут анализировать данные, решать некоторые задачи, самостоятельно принимать решения и обучаться. Тем не менее, разумность нейросетей еще довольно ограничена. В частности, не решена проблема создания ответственного ИИ – такого, который не будет допускать умышленное или неумышленное нанесение вреда человеку.

Определить, является ли ИИ ответственным и наносит вред или нет, довольно сложно. К тому же видов возможного вреда довольно много. Из них можно выделить один, неумышленный, связанный с неумением нейросети определять то, что может нанести вред человеку и предупреждать об этом. Подобная «безответственность» существует и в мире людей, более того, имеются и способы борьбы с нею.

Нынешние нейросети мыслят на уровне главы МАССАЛИТа Берлиоза

Современные версии ИИ используют способ мышления, который был присущ герою романа Михаила Афанасьевича Булгакова «Мастер и Маргарита» – главе МАССАЛИТа и редактору какого-то журнала Михаилу Александровичу Берлиозу, человеку, как сказано в книге, очень образованному.

Булгаков указал, что редактор был человеком начитанным, обнаруживая солидную эрудицию и знал много интересного и полезного. Такая характеристика полностью подходит для современных систем ИИ. Они демонстрируют энциклопедическое знание, а некоторые даже указывают на ошибочные и правильные мнения (с их точки зрения).

Таким же типичными для современного ИИ были и рассуждения Берлиоза по поводу смертности людей и возможности предсказания смерти. Когда Воланд заметил, что человек иногда внезапно смертен, и «вообще не может сказать, что он будет делать в сегодняшний вечер», Берлиоз решил возразить. Он сказал, «… здесь уж есть преувеличение. Сегодняшний вечер мне известен более или менее точно. Само собой разумеется, что, если на Бронной мне свалится на голову кирпич …».

Таким образом, Берлиоз не учел существование некоторых скрытых для него процессов, которые влияли на его будущее. Он собирался зайти к себе домой на Садовую, а в десять часов вечера – председательствовать на заседании МАССАЛИТа. В то же время, он теоретически признавал возможность наличия явлений, которые могут помешать этому, в частности, падение кирпича.

Воланд размышлял по-другому. Из всего множества возможных вариантов развития событий тем вечером (типа падения кирпича) он выделил только те, которые соответствуют фактически происходящим событиям. Он, в частности, сказал, что «Кирпич ни с того ни с сего … никому и никогда на голову не свалится. В частности же, уверяю вас, вам он ни в коем случае не угрожает. Вы умрете другой смертью. … Аннушка уже купила подсолнечное масло, и не только купила, но даже разлила. Так что заседание не состоится».
 
Таким образом, способ мышления Воланда заключается не просто в отборе различных мнений и отсеве фактических ошибок и неуклюжих формулировки по никому неизвестным критериям (как это делают продвинутые современные модели ИИ), а в отборе того, что действительно существует. Как это он сделал, правда, осталось неясным. Как бы это не было, тем самым решил проблему предвзятости ИИ.

Но это еще не самый продвинутый способ мышления. Воланд не убедил Берлиоза в том, что его предупреждение является правдой, то есть проблему объяснимости ИИ он не решил, да, собственно, и не пытался.

Берлиоз не поверил Воланду. А вот читатель книги верит, так как он изначально понимает, что по замыслу Булгакова Воланд – это настоящий Дьявол, и он вполне мог присутствовать на встрече Иисуса Христа с Понтием Пилатом и знать про Аннушку.

Мышление по Достоевскому – объяснимое и ответственное

Конечно, вся эта история неправда, художественный вымысел Булгакова, но по законам жанра – это правда. И в рассматриваемом случае важно именно это.
То есть читатель имеет возможность оценить достоверность высказываний Воланда в рамках сюжета книги, получив информацию о том, кто он такой, и доступом к какой информации обладает. Это уже следующий уровень мышления, на котором используется информация, позволяющая оценить обоснованность решения ИИ.

Подобный способ мышления, включающий одновременно и способ Воланда (опоры на факты) и Булгакова (объяснение хода мышления Воланда и правдивости его утверждений) использовал Федор Михайлович Достоевский.

В январском выпуске Дневника писателя за 1877 год он отметил, что «огромная часть русского строя жизни осталась вовсе без наблюдения и без историка», и задал риторический вопрос: «У нас есть бесспорно жизнь разлагающаяся …. Но есть, необходимо, и жизнь вновь складывающаяся, на новых уже началах. Кто их подметит, и кто их укажет? Кто хоть чуть-чуть может определить и выразить законы и этого разложения, и нового созидания?».

Как видим, замысел у Достоевского был намного глобальнее, чем у Воланда, всего-то хотевшего узнать будущее Берлиоза, которое находилась без наблюдения последнего, хотя его непосредственно касалось. Подобным образом (как Берлиоз) действовало общество в целом в эпоху Достоевского, так же оно поступает и сейчас: есть множество процессов в обществе, которые находятся как бы в некой серой зоне, и которые не принято обсуждать и рассматривать.

Несколько таких частей русского строя жизни, которые затрагивал Достоевский в своем Дневнике, а также в художественных произведениях, и которые до сих пор в общественном сознании в России практически не рассматриваются, описаны в первом выпуске Продолжения Дневника за 2026 год «О чем бы писал Достоевский в современной России?». В частности, это существование в обществе такого явления, которое американский экономист Джон Гэлбрейт назвал расхожей мудростью. Оно состоит в том, что люди часто предпочитают придерживаться не истинных представлений об обществе, а тех, которые предпочтительнее для них, не думая о вреде, который тем самым наносят и обществу, и им самим. Как это делал Берлиоз. Достоевский и Гэлбрейт стремились избежать подобной безответственности.

У Достоевского имеется множество других правил, которые стоит перенять ИИ, о чем написано во втором выпуске Продолжения «Чему искусственный интеллект может научиться у Достоевского?» Современному ИИ эти знания пока недоступны, что отчасти и приводит к его безответственности, но рано или поздно его «учителя» поймут, как сделать ИИ умнее, и научат его думать не только как Берлиоз, но и как Воланд, а затем и Достоевский.

Владимир Федорович Тарасов.