Синдром Воланда 12

      Уже дома Макс мысленно вернулся к разговору с Пестрым. Состояние некоторого замешательств, которое он испытал после визита Минца, вновь овладело им.
      Обычно его коллектив справлялся с решением схожих головоломок, правда, несколько иного рода, но сейчас он терялся в догадках. Первое, что приходило на ум – попробовать сравнить результаты решения ИИ конкретной задачи пятилетней давности с теми, которые он выдавал сейчас и найти отличия в их ауре. Конечно же, при условии, что эти решения можно будет представить в виде некого образа. Тоже задача непростая, хотя здесь у него уже имелся некоторый опыт.

      Подобным образом он поступал, когда требовалось выявить следы ИИ в решениях типовых задач выпускниками одной из престижных школы по просьбе директора, его доброго приятеля. Так, баловство. Но там все было довольно несложно – речь шла о сравнении продуктов, происхождение которых имело совершенно разную природу. А здесь пришлось бы иметь дело с товарами, сходящими с ленты одного и того же конвейера, пусть временами и пошаливающего.
      И что это даст?
      Мысли бесплодно роились в голове.

      Макс вдруг вспомнил, что нередко в затруднительных ситуациях он прибегал к помощи Эдика. Его оригинальные подходы к решению нестандартных задач нередко выручали. Эдик был просто мастером разрыва шаблона.
      
      Однажды их общий знакомый предложил товарищам пари, которое  обычно с лёгкостью выигрывал в иных ситуациях.
      – Давайте поспорим. Вот я возьму сигарету, – он вынул ее из пачки, – закурю, сделаю три затяжки и стряхну пепел. И длина сигареты при этом не изменится. Готов поспорить на красный лейбл Джони Вокера, – он подмигнул Эдику – что сейчас продемонстрирую это. Идет?
      Обычно всегда находился желающий принять выгодные и казалось бы беспроигрышные условия пари и всякий раз оказывался посрамленным.
      Эдик быстро разгадал фокус.
      – Конечно, если ты её закуришь не с конца, а с середины,
      Он лукаво взглянул он на интригана, и, убедившись в своей правоте, добавил:
      – Давай, выкатывай фуфырь!

      Хорошо бы позвонить ему, а лучше – навестить, тем более, с прошлого визита прошло уже две недели. Но прежде описать суть проблемы по телефону. Что он и сделал.

      Эдик встретил его в свойственной манере – разговор возобновился ровно с той фразы, на которой он был прерван в прошлый раз, словно они расстались буквально пять минут назад.
      – По поводу гитары Смита и о грустных мотивах его музыки, – начал он, когда Макс уселся в кресло. – Думаю, здесь нет никакой связи, это его привычный стиль. Не зря его считают основоположником «эмо», а там сплошная романтика вперемешку с тоской. Но, к сожалению, грустное имеется и там, с чего мы начали эту тему – я имею в виду коллайдерщиков. Даже, скорее, плохо объяснимое. А это меня всегда печалит, если не удручает.

      Только сейчас Макс обратил внимание на то, что сегодня на столике перед ними не было традиционных атрибутов – исключение составляла пепельница с тлеющей сигарой. Значит, в самом деле все непросто.
    
      – После нашего разговора я связался с ними и попросил поделиться последними новостями. И, знаешь, у них тоже начались проблемы. Впрочем, подспудно я это уже дано ожидал.
      Эдик потянулся к сигаре.
      – Недавно я интересовался всеми открытиями, которые были сделаны в течение прошлого года и пришёл к странному выводу. Человечество явно поглупело несмотря на то, что львиная доля в исследованиях приходится на алгоритмы, базирующиеся на ИИ. Я даже познакомился с одной из работой претендентов на нобелевскую в области физики – в лучшем случае она тянет на диссертационное исследование соискателя из какого-нибудь отраслевого института. Да и практический выхлоп у неё смехотворный. Раньше за это можно было рассчитывать, разве что, на шнобелевку. Короче говоря, очередной когнитивный тупик – помнишь, мы уже это проходили в своё время. Но с тех пор этот барьер преодолен, и ты прекрасно знаешь как.
Макс кивнул.

      – Но в данной ситуации я считаю виновным то, что человечество слишком передоверилось своему искусственному помощнику.
      – Так что там с твоими коллайдерщиками? Они же, как я помню, оставались в стороне от этих процессов.
      – Вот именно, они жуткие ретрограды. До недавнего времени у них все было в порядке, копали вглубь свою материю без устали. Даже черную дыру сумели смоделировать. Маленькую такую и безобидную. В то же время вполне функциональную. При этом категорически отрицали всякие искусственные подпорки, работали по старинке. Только сухие факты, продуманные гипотезы и научно-обоснованная интуиция. Никакого ИИ.
      – А почему же они тогда оставались в тени у мирового научного сообщества?
      – Работали за идею и не пиарились. Хотя, там результаты сразу не видны. Но недавно и они сломались. Все началось с алгоритма, который они используют для планирования экспериментов. Он заложен в основу их интеллектуального помощника, этакий ИИ в усеченной форме – ты же помнишь, как долго они противились внедрять его полную версию. Без сомнения, ИИ гораздо лучше справляется с написанием кодов и выдвижением гипотез, но их останавливало то, что осмыслить предлагаемые им конструкции человеческий мозг зачастую не в состоянии. Тревожило и то, что решения, предлагаемые  ИИ, нравственно нейтральны и нередко антигуманны. Правда, с внедрением в алгоритмы инстинкта материнства большинство проблем ушло. Но не все. И чтобы хоть как-то купировать возможную аморальность и прочие фантазии помощника, они взяли в штат супервизора, этакую даму неопределенного возраста с мускульными замашками.

      В его глазах мелькнули озорные искорки.

      – Кто-то за глаза прозвал её ИИ-шницей, и кличка прижилась. А алгоритм, которым она заведуют, с тех пор и именуют не иначе, как ИИ-цо. Интересно, что из него в итоге вылупится под надзором этой мамаши?
      Эдик ухмыльнулся.
      – Но, да ладно. Так вот, с недавних пор это ИИ-цо стало пошаливать. Примерно тогда же, когда стали возникать проблемы и у других пользователей нейросетей. Я собрал кое-какую статистику за последний месяц. Действительно, со всеми ними стало происходить что-то неладное. Причем, прежде всего, началось все с генеративных моделей – с тех, которые создают тексты, музыку и прочее развлекалово.

      Макса немного покоробило жаргонное словцо. Раньше приятель был строже в формулировках. Может, пресловутая ИИ-шная напасть не обошла стороной и его?
      Мелькнувшее недоумение в глазах Макса не осталось незамеченным, но Эдик истолковал его по-своему.

      – Чтобы тебе была понятной суть проблемы, объясню на последнем. Принцип работы алгоритмов с рисунками заключается в переводе в векторную форму большого объема исходников, содержащихся в обучающей базе, после чего результаты зашумляют по определённому закону. Здесь в ход, как правило, идёт старое доброе распределение Гаусса – оно тебе должно быть знакомо: этакая черепаха под скатертью, вид сбоку. Затем промежуточные результаты чистят от шума – не буду вдаваться в детали, как именно. В очищенном отыскивают базовые закономерности, а потом работают уже с ними. Так вот, с этими алгоритмами вдруг произошло что-то непонятное, чуть ли не массовое помешательство. Они вдруг утратили адекватность, стали чудить и куролесить, выдавая на выходе довольно парадоксальные результаты. Обычно это называют артефактами – то, что происходит в результате непонимания реальной логики прохождения естественных процессов и никак не может случиться при естественном ходе событий. Например, шестипалость руки на изображении, или появление за рулем той же Теслы мустанга в пятнистом кожаном реглане. Ни дать ни взять – пародия на мифического коня в пальто, скроенного из шкуры неосторожно подвернувшегося под его копыта леопарда!
      Он усмехнулся.

      – Хотя, здесь можно усмотреть и иные аллюзии, если таковые тоже могут возникнуть в недрах ИИ. И мустанг и леопард – традиционные эмблемы производителей спортивных автокаров, Феррари и какого-то китайского гиганта, кажется BYD. Последний, правда, сравнительно недавно вписался в эту тему, но уже здорово потеснил итальянцев.

       Эдик пыхнул сигарой и выпустил струйку сизого дыма.
       – Есть и иная версия. Можно во всем этом усмотреть изощрённое издевательство ИИ над своим естественным собратом, но это уже совсем из области фантастики. Да, и не будем забывать, что мощность мотора до сих пор измеряется в лошадиных силах. В общем, замес интересный, – подвел он промежуточный итог своим размышлениям. И добавил после паузы:
      – Если подобное случилось бы на ранних стадиях внедрения ИИ, то можно было бы говорить об изъянах обучающих алгоритмов, формирующих визуальный контент. Или о дефиците обучающего материала. Тогда, чтобы с этим справится, алгоритмам скормили все содержание открытой части интернета, и чтобы дать им новую пищу, потом взялись за остальные источники информации. Например, за старые, еще не оцифрованные книги, а затем за материалы, закрытые от публичного доступа. В частности, за внутренние ресурсы разорившихся корпораций. Скупили всю их деловую коммуникацию на корню.
Число артефактов существенно уменьшилось, но у процесса появилась оборотная стороне. Дело дошло до того, что этот ненасытный и словно сорвавшийся с цепи ИИ стал обучаться самостоятельно, раплачиваясь криптой с обычными пользователями сети. Те добывали инфу по запросу, а заодно, до кучи, ссыпали в базы данных всякий малозначимый хлам. И вот тогда из него опять полезла всякая белиберда. Самоуправство вновь удалось обуздать, выгладив обучающие алгоритмы и законодательно запретив их левое кормление.

      Эдик положил тлеющую сигару на пепельницу.
      – Теперь же возникли проблемы несколько иного рода. Наряду с генерацией артефактов нового поколения, смахивающих на троллинг, ИИ стал откровенно тупить. А в последнее время эта эпидемия – иначе это не назовешь – распространилась и на другие виды генеративного ИИ. Посыпались жалобы от кинопродюсеров по части музыки. Вместо сладостно-лиричного контента к телесериалам ИИ стал выдавать нечто атональное, словно написанное по лекалам Арнольда Шёнберга и подходящее, разве что, для психологического триллера. Что едва ли способны оценить даже утончённые знатоки и ценители авангарда, не говоря о простых смертных. Нечто подобное произошло с самими сценариями и даже фильмами. Кстати, мой виртуальный приятель Константин, с которым я привык проводить время в беседах, тоже порой стал нести какую-то пургу. Поэтому не удивлюсь, если вскоре забьют тревогу и гранды от науки, если, судя по коллайдерщикам, это уже не случилось.

      – Приятеля ты в честь известной персоны назвал, полагаю? Мечту папашину осуществил? – не удержался Макс.
      – Ну да, Костиком. Это меня порой забавляет в домашней рутине. Как тебе такая картинка – Эдуардыч, приветствует он меня с утра вместо будильника. Сам ты Эдуардыч, бурчу ему спросонок. Иной раз даже подушкой запущу. Так и живем, душа в душу – согласен, дружище?
      – Сам же просишь разбудить, а потом злишься, – недовольно откликнулся динамик, скромно стоящий на столике. Несмотря на  миниатюрность устройства, голос звучал вполне натурально. – А насчет пурги, это ты, Эдуардыч, немного хватил. Не припомню я такого.

       В голосе, имитирующем интонацию мультяшного Винни-Пуха, послышались обиженные нотки.
      – Вот и в памяти у тебя провалы в память, раньше такое не замечалось. Но не будем ворошить, может, я и преувеличиваю. Впрочем, отдохни, Константин, пока мы с Максом беседуем.
      – Как скажешь.

      Раздался щелчок. Наверное, для контроля, подумал Макс. Везде эти развесистые уши. Не говоря о бесстыжих глазах-камерах. Не удивлюсь, если скоро после посещения домашнего туалета во вкладке напоминальника будет выскакивать несанкционированная рекомендация обратиться к проктологу.

      Словно в подтверждении его догадки Эдик произнес:
      – Ты даже не представляешь, как я к нему привык. Пыль, мусор, обед – всем это на нем. Чуть что не так в анализах (как он это улавливает?), тут же ответ в рационе. В одном он только пока слаб, сам понимаешь…
      – Стало быть, все же Крис?

      Эдик жеманно поморщился.
      – Посмотрим.
      – Интересно, удастся ли твоему Константинычу поладить с ней? И с ее электронной подругой, если таковая имеется?
      – Кто его знает, – пробурчал Эдик, немного обескураженный вопросом. – В крайнем случае, сброшу до заводских настроек. Хотя, жаль, конечно, он мне уже почти как родственник… Но вернемся к нашим баранам. Да-да, иначе все это не назовешь. Так что там у тебя с этим Минцем?
      – Ты же в курсе его запроса. Ничего путного пока не могу предложить. Разве что, сравнить хронологически разнесенные продукты ИИ по одной и той же тематике. Но вряд ли что это даст.

      – А пусть они предоставят тебе не только несколько таких продуктов,  – нормальных и этих, условно говоря, коней в пальто, – но и мнемосхему самой нейросети. Хотя бы в грубом виде – я понимаю, что детально это сделать невозможно. Но она все же сможет послужить тебе условной куклой вуду, в которую служители этого культа обычно тыкают свои иголки. А ты вместо иголок сопоставь ауру этого исходника с аурой актуального состояния нейросети, которое ты представишь мысленно. Ведь ты же рассказывал мне, что способен проделывать подобные штуки – помнишь, как вы раскрыли тайну янтарной комнаты?

      В свое время в их контору обратились чиновники из министерства культуры – кому-то из музейщиков пришла в голову идея с воспользоваться услугами синестетов для поиска утраченной во время второй мировой войны жемчужины Екатерининского дворца. Ему тогда предоставили архивную карту Кёнигсберга, и на ней с помощью кусочка янтаря, обнаруженного в музее после освобождения Царского села, он довольно точно выявил место, где были спрятаны янтарные панели. Помогла всё та же аура, наведенная на карте - видимо, теми, кто был причастен к организации тайника. Событие было громкое, о находке раструбили многие мировые СМИ.

      –  А заодно сравни ауры сгенерированных сетью продуктов с аурами мнемосхемы и актуального  состояния сети. Может, там ты тоже сможешь обнаружишь нечто любопытное. И тогда посмотрим.

      Идея не сильно вдохновила Макса. Уж больно бесплодным представлялось ему слепое плутание в поисках света в дебрях столь незнакомого ему лабиринта. Но, ввиду отсутствия альтернатив, он вынужденно согласился на этот, казалось бы, малоперспективный вариант.