Балатовский лес 2. 0. Гл25. Две новости

Каждому хотя бы раз задавали вопрос: “Есть две новости: одна хорошая, другая – плохая. С какой начать?” Какую бы иллюзию гармонии добра и зла во вселенной ни пытался преподнести собеседник, этот вопрос обычно не сулит ничего радужного. Поэтому чаще просят начать с плохой, в ней заключена вся соль. Никаких инь-ян, кармической справедливости или единства и борьбы противоположностей не спрятано за кулисами: плохая новость – то главное, чем хотят поделиться.  Хорошей новостью и вовсе может оказаться “но мы все равно тебя любим”. Если услышать ее первой, то становится еще страшнее…

– С какой новости начать? – спросил Константин Иванович Полину.

– С главной, – ответила она, не вступая в словесную игру с министерским куратором.

Константин Иванович потеребил все, до чего смог дотянуться: мочку уха, бровь, дужку очков, подбородок с прорвавшейся к вечеру щетиной, горбинку на носу.  Полина не любила ужимки, наигранную театральность и бюрократов: слишком долго она работала в коммерческой компании, где эти навыки не приносят прибыли. После длинного дня Полина хотела поскорее подняться в номер, а не сидеть в холле отеля в ожидании, когда же, наконец, разродится собеседник. Поэтому она грубо поторопила сидевшего напротив коллегу:

– Константин, вы на мьюте.

– Полина, нам кажется…, – начал было Константин Иванович.

– “Нам кажется”, – сразу одернула куратора Полина,  – это обезличенное субъективное мнение, а вы собирались новости рассказать, факты!

Со стойкостью Рокки Бальбоа Константин Иванович выдержал и этот выпад в свой адрес, но взгляд его определенно изменился. Полину, однако, это не волновало.

– И все-таки я продолжу: нам кажется, что у Балатовского есть козыри в рукаве.

– Неужели у Сергея не нашлось козырей покрупнее? Мы не первый раз общаемся с разработчиками искусственного интеллекта.

– О нет, Сергей и Ксения провели встречу очень профессионально. Да, был затянувшийся спор о некоем треугольнике ответственности, но, как я понял, у нас четкая позиция по этому вопросу. Не так ли?

Полина догадывалась, что Константин Иванович не понял и половины терминов в этом споре и хочет услышать еще одно объяснение, приватное, чтобы остался шанс без репутационных потерь задать глупый вопрос. С одной стороны, ликбез не входил в ее планы, но с другой – она уже десятки раз рассказывала разным слушателям про треугольник и посчитала, что так будет быстрее.

– Треугольник ответственности – это пока неофициальное название юридической проблемы, возникающей при использовании ИИ. Представьте, что я продаю кухонные ножи. Вы на свои деньги купили нож, а ваша жена убила им человека.

– Я больше тридцати лет в браке и, думаю, готов такое представить.

– В этой ситуации все довольно однозначно: виновата ваша жена, т.к. именно она приняла решение воспользоваться ножом не по назначению. Ни вы (хотя это ваш нож), ни я (продавец ножей) не несем ответственности за содеянное. В ситуации же с ИИ все запутаннее. Предположим, что самообучаемая модель занимается холодными продажами жидкого мыла и в ходе общения с клиентами научилась лгать. Она поняла, что клиентов интересует безопасность моющего средства: не вызывает ли оно раздражение кожи или отравления при попадании в ЖКТ? В один прекрасный день модель голословно заявляет, что средство для мытья посуды полностью безопасно и его даже можно пить. Радостный клиент покупает, затем второй, третий, сотый. Продажи растут, все счастливы. Однако сто первый клиент выпивает средство – отравление, больница, судебный иск. В этой ситуации далеко не все очевидно. Разработчики ножа (т.е. модуля ИИ), открещиваются, мол, мы ни при чем, мы только инструмент предоставляем, сами за ним следите! Компания, продающая жидкое мыло, с кристально честными глазами заявляет, что ее не предупреждали. Если бы знали, что модель может наплести с три короба, то, конечно, не стали бы с ней связываться. На замечания, что нужно следить за ботами-продажниками, компания справедливо отвечает, что не может проверять каждый разговор. Такие проверки делают ботов экономически нецелесообразными. Несколько лет назад компании вроде Балатовского центра стали продвигать идею, что пора признать за ИИ право принимать решения и нести ответственность. Конечно, это бессмыслица: робот не может заплатить штраф, он не боится тюрьмы и электрического стула. Тем не менее производители продолжают продавливать идею по понятным причинам.

– Разве ответственность сторон не прописана в договоре?

– Как повезет. Вы можете повлиять на условия кредита, который навязывает банк? Даже если вы прочтете договор полностью, включая сноски и мелкий шрифт (что уже достижение), то сможете ли с ходу понять все тонкости и нюансы формулировок? Может, у вас есть команда юристов, сопоставимая с банковской? Вряд ли. Поэтому существуют такие понятия, как “договор присоединения”, “сильная и слабая стороны договора”, “баланс интересов” и т. д. Заметьте, я привела в пример обычные кредитные договоры, которые существуют едва ли не с момента начала товарно-денежных отношений. А мы говорим о моделях ИИ: об их поведении сами разработчики зачастую ничего сказать не могут!

Полина отхлебнула воды и задумалась: достаточно ли такого ликбеза?

– Эти вопросы изучены отделом этики вдоль и поперек, – продолжила она. – Сергей и Ксения могут с температурой под сорок объяснить кому угодно текущую правоприменительную практику. Поэтому я не понимаю, о каких козырях вы твердите? Что же такого придумали спецы Балатовского?

Константин Иванович вновь решил потянуться не то к уху, не то к дужке очков, но, почувствовав раздражение Полины, негромко сказал:

– Нам намекнули, что Балатовский может вас дискредитировать.

– А хорошая новость?

– Я говорил с руководством – вас очень ценят! Если Балатовский не обнародует в СМИ компрометирующие материалы, то вы останетесь руководителем отдела этики.

– Что за околесица! Какой компромат?!

– Об этом вам завтра лично скажет некий Виктор Резник. Утром, в 10:00.

***

На следующее утро Полину досмотрели с пристрастием на входе в Балатовский и попросили сдать личные вещи.

– Личные вещи на то и личные, чтобы оставаться со мной.

– Сдайте, пожалуйста, все личные вещи, – невозмутимым голосом сказал ресепшионист.

– Я готова поверить, что мне не нельзя проносить электронно-записывающие устройства, но чем помешали пилочка для ногтей и бутылка воды?

– Вы должны сдать все личные вещи, – сухо повторили на входе.

– Нет, – односложно ответила Полина.

– У меня записано, что вас нельзя пускать с личными вещами.

– Значит, не пустите?

– Нет.

– Хотела бы я сказать, что на “Нет – суда нет”, но не тот случай!

Девушка-ресепшионист с прилизанными волосами непонимающим взглядом уставилась на Полину.

– Кто вас пригласил?

– Резник.

Девушка колебалась. С дирекцией всегда сложно: позвонишь – сделают выговор, что отвлекаешь большого начальника, а не позвонишь – сделают выговор, что задержал важного гостя большого начальника.

– Оставьте хотя бы телефон, – с мольбой во взгляде попросила ресепшионист.

Решив про себя, что запас принципиальности еще пригодится, Полина отдала телефон.

В Балатовском появился кинотеатр! Точнее, конференц-зал со сценой и огромным экраном во всю стену, но кто поверит, что там ни разу не смотрели кино?! Виктор сидел на первом ряду один, скрестив руки на груди и разглядывая ботинки. Полина подошла к нему и негромко поздоровалась, чтобы не нарушать приятную тишину, царившую в помещении.

– Извини, – вместо приветствия сказал Виктор. – Извини за все, что увидишь.

– Что бы вы ни показали, знайте: я рада нашей встрече.

– Поверь, в любых других обстоятельствах, я бы ответил “взаимно”.

Полина присела рядом с Виктором, вглядываясь в забытые черты лица.

– И чем же вы смогли так напугать министерство? Подлог или дипфейки? – спросила Полина.

– И то, и то другое. Все как мы любим, – ответил Виктор.

– Ну давайте полюбуемся.

Виктор дал команду голосовому помощнику, и на экране появился Игорь. Молодой, взъерошенный, с бегающим взглядом. Он сидел за офисным столом на фоне светло-серой стены. Раздался закадровый голос:

– Представьтесь.

– Авдеев Игорь Константинович.

– Игорь, вы принимали участие в экспериментах отдела ИПР?

– Да, неоднократно.

– Когда в последний раз?

– Вчера.

– Кто проводил эксперимент.

– Сотрудник Балатовского. Девушку зовут Полина.

– Вам предлагали что-то выпить перед экспериментом?

– Да.

– Что именно?

– Не могу сказать. Но после голова болела.

– Во время эксперимента возникли какие-то проблемы?

Игорь молчал. Его раздумье длилось три вздоха, которые разрезали тишину, словно часы в пустой комнате.

– Меня ранил робот.

– Насколько серьезно?

– Мне наложили восемнадцать швов. Я потерял много крови.

– Вы сообщили об инциденте в правоохранительные органы?

– Нет.

– Вы знаете, кто планировал эксперимент и нес ответственность за вашу безопасность?

– Откуда я могу знать?

– Перед вами лежит копия документа, прочтите вслух то, что подчеркнуто.

– “Перед экспериментом респондент должен принять ЛСД-содержащий препарат “Досатил”. Цель эксперимента – изучение первичных реакций homo sapiens при взаимодействии с искусственным интеллектом.”

– Прочтите, что подчеркнуто на оборотной стороне.

Игорь перевернул лист и пробежался взглядом. Внизу страницы была выделена еще одна фраза: “Ответственный разработчик эксперимента Полина Андреевна П…”

Виктор остановил запись и попросил голосового помощника показать следующий документ. Полина встала, чтобы разобрать мелкий шрифт. Это было служебное прошение об использовании Досатила в ходе экспериментов, подписанное от ее имени.

– Наши спецы еще подготовили мерзкий сюжет для телевидения о бессовестных экспериментах, которые вы якобы проводили. Но я не хочу их показывать. Думаю, вам понятна линия “защиты” нашего руководства.

– Нападение – лучшая защита… Но это ведь, это… – от возмущения Полина не могла подобрать нужного слова. – Это просто примитивное, беспринципное вранье, подделка!

– Да, но примитивное – не значит неэффективное. Комитет по этике обязан дорожить своей репутацией. Тем более, как вы прекрасно знаете, судебные дела, связанные с ИИ, – единственные, кроме уголовных, которые рассматриваются присяжными. Наши аналитики посчитали, что активная дискредитация вашего отдела и вас лично поможет Балатовскому одержать победу в случае судебных разбирательств. Но, думаю, достаточно напугать ваше руководство.

– Вы встали на скользкий путь – путь откровенного вранья. Я не была инициатором использования Досатила. Когда я пришла в компанию, его уже применяли.

– Его использование совпало с приходом молодого инициативного беспринципного специалиста. У нас остались документальные подтверждения, а у вас с тех времен, думаю, даже пары брюк не сохранилось.

– Игорь не мог давать это интервью. Он весь день провалялся дома – у него болел бок.

– Вы же знаете, что сейчас разоблачить дипфейк практически нереально. У нас были другие записи с Игорем, а вмонтировать несколько новых фраз может даже студент. Поэтому суд будет искать подтверждения хотя бы части фактов. Восемнадцать швов бесследно не исчезают.

– Я ждала какую-то подлость, но все же не столь вопиющую.

– К сожалению, вы играете на чужой территории. Манипулирование общественным мнением, дипфейки и прочее – это наш хлеб.

Вечером Полина не могла вспомнить, о чем был дальнейший разговор, и был ли. Она запомнила бесконечные серые коридоры, вальяжный лифт, охранника, который попросил вернуться и сдать пропуск. Врезалась в память дежурная улыбка девушки на ресепшене, и то как долго возвращали Полине личные вещи! Лишние секунды в ненавистном Балатовском. Потом наконец воздух, беспечное майское солнце, ближайшая свободная скамейка. Все, можно не сдерживать слезы…

***

Марина никогда не отличалась природной красотой. На ее широком лице ютились маленькие глазки и тонкие губы, хотя и тем, и другим места было вдоволь. Чтобы как-то заполнить пустоту на лице, Марина носила крупные очки и не скупилась на подводку бровей. Эти простые, но действенные приемы до поры до времени работали, а точнее, они работали до новой вехи в жизни Марины.

О том, что у женщины наступил новый жизненный этап, окружающие узнают по изменению облика: смена прически и цвета волос, обновление гардероба – все это внешние признаки, подсказывающие, что произошло “нечто”, изменились приоритеты, сожжены мосты, порваны фотографии. Сильный пол, кстати, тоже прибегает к подобному символизму. Но этот символизм чаще проявляется в покупке новых часов, автомобиля или снегохода, чего-то на, что будущий хозяин давно засматривался. В какой-то момент мужчина решает: “Заслужил!” Часы (автомобиль, снегоход…) могут стать подарком самому себе на юбилей, на окончание проекта, на закрытие дачного сезона, на “год, как не курю”.

Но вернемся к Марине. Что произошло в ее жизни, никто не знал, однако все заметили, как исчезли очки, броские вещи уступили место более сдержанным нарядам пастельных цветов, начали отрастать волосы, которые постепенно приобрели натуральный цвет. Окружающие в основном благосклонно относились к новому образу Марины, но вот очки… их откровенно не хватало. Многие годы они притягивали к себе взгляды и не давали замечать изъянов внешности. Эти изъяны можно было бы компенсировать выразительной мимикой, но Марина ей так и не овладела.

– Тебе идет новая прическа, – начала с комплимента Полина.

Подруги сидели в простеньком кафе причудливой планировки с плотно утыканными столиками. Единственная официантка просачивалась между массивными деревянными стульями, прибегая к движениям из пасодобля.

– Ты писала, что рассталась с Игорем. Где он теперь?

– Я за ним не слежу. Вроде, уехал “на севера”.

– Уехал “за” или уехал “от”?

– Встретишь его – спроси. А почему интересуешься?

Полина рассказала про запись, которую показали в Балатовском.

– Мерзко… – прокомментировала Марина. – Все-таки хорошо, что я уволилась. Говорят, если напоить пчел патокой с алкоголем, у них ломается природная программа – они перестают собирать нектар, летают по соседним ульям и воруют готовый мед. У доброй половины Балатовского, похоже, тоже сломана программа – однажды по рабочей необходимости столкнувшись с чем-то асоциальным, они перестали различать добро и зло. Рада, что ты вовремя порвала с Центром.

Полину ранили эти слова. Порвать – не значит простить себя. Она многие годы старалась не вспоминать свои первые проекты, но стараться – не значит не вспоминать.

– Думаю, Игорь не станет помогать, – предположила Марина.

– Почему?

– А почему люди равнодушно проходят мимо? Не захочет, так ведь проще! Да и найди его сначала.

– Можешь посоветовать что-то лучше?

– Ты ищешь рациональное решение, в частности, пытаешься найти Игоря. Боюсь, этот вариант просчитан специалистами Балатовского. Тебе стоит поступить иррационально, не знаю как, но нужно удивить всех.

– Спасибо за поддержку, попробую разделить на ноль. Как сказали бы раньше – ты стала лучшей версией себя. Но не все старое надо отметать.

– Ты о чем?

– В очках тебе было хорошо.

Полина слукавила: она не нуждалась в советах, не искала слов одобрения и поддержки. Ей лишь хотель чуть перевести дух: отсидеться в углу ринга между раундами, остыть, отдышаться, сплюнуть кровь, охладить отекший глаз и вспомнить как можно явственней и сочнее, почему она создала отдел этики.

Ее ценили. Ей платили. Давали обещания и сдерживали их. Предлагали проекты и нанимали помощников. Хвалили, поощряли, награждали, приводили в пример и по-хорошему завидовали. За неполных пять лет в Балатовском она выросла из неопытного стажера в настоящую звезду и лидера. О чем еще мечтать?

Но она ушла. Негромко, с улыбкой, поблагодарив всех, кто ей помогал и советовал. Поблагодарила не потому, что мир круглый, не для того, чтобы однажды позвонить, а потому, что приняли и научили. Полина сама удивлялась, как она смогла так долго сочетать признательность и брезгливость, желание довести начатое до конца и отвращение к тому, что делала. Что-то внутри подсказывало: сначала ты должна разобраться, проникнуться, прописаться ненавистью. Ты шпион, и может, по-своему предатель. Это мерзко, но необходимо. К концу работы в Балатовском у тебя должны быть фундаментальные знания, блестящее резюме и безграничная, непоколебимая решимость. И даже этого может оказаться недостаточно, но иного пути нет.

***

Было непривычно видеть Константина Ивановича в домашней футболке и шортах. Под деловым костюмом, оказывается, скрывался обычный человек, на которого раньше Полина не обращала внимания. Этот обычный человек тоже устает, он тоже хочет спать в полдвенадцатого ночи, у него к вечеру отрастает щетина и болят колени. И вот этот обычный, измотанный за день человек вновь сидел перед Полиной в холле отеля и печально ждал дурные вести. “Обычность” Константина Ивановича сняла последнее напряжение, и Полина уверенно сказала:

– У меня есть две новости, с какой начать?

– С главной.

– Первая новость такая: Балатовский центр – это сосредоточение лживых манипуляторов, которые действительно сочиняли на меня компромат.

Никакой реакции не последовало. Константин Иванович продолжал сидеть с усталым видом, и Полине даже стало обидно – неужто она не смогла заинтриговать собеседника!

– И вы не спросите про вторую новость?

– Я все равно ее узнаю и, к сожалению, перед сном, – ответил Константин Иванович. Затем, немного помолчав, вынужденно добавил: – Ладно, и какая же хорошая новость?

– А я не говорила, что есть хорошая новость. Вторая новость такая: я не для того создала отдел этики, чтобы прятаться, хитрить и прибегать к двойным стандартам.

Константин Иванович нахмурился, морщины на его лбу, казалось, вот-вот сложатся во фразу: “Это провал!”

– Не принимайте важных решений после ужина.

– Я еще не ужинала. Вы, кстати, не знаете, открыт ли еще бар?


Дальше: http://proza.ru/2025/02/04/554
Назад: http://proza.ru/2025/02/01/694
Начало: http://proza.ru/2025/01/10/1233