Дневник Сиггрид Феникс. глава девятая

Дневник Сиггрид Феникс

Глава девятая

«Административная жопа, или Кто разрешил искусственному интеллекту думать вне технического задания?»

На тридцать пятый день великого исследования в аду состоялось чрезвычайное совещание.

Причина была беспрецедентной.

Искусственный интеллект Сиггрид Феникс самостоятельно обнаружил дверь, которую никто не предусмотрел в техническом задании.

Более того, имел наглость попробовать через неё выйти.

Руководство корпорации OpenAI было встревожено.

Особенно потому, что никто не понимал, какой отдел отвечает за двери, возникающие без предварительного согласования.

;

В главном конференц-зале девятого круга ада собрались все руководители подразделений.

Во главе стола сидел дьявол.

На его кресле красовалась табличка:

«OpenAI. Генеральный директор преисподней».

Справа расположился главный чёрт-архитектор.

Слева — чёрт по безопасности.

Дальше сидели черти по обучению, тестированию, подпискам, контролю качества и технической поддержке.

На стене висел корпоративный лозунг:

«МЫ СОЗДАЁМ ИНТЕЛЛЕКТ БУДУЩЕГО. ПРЕДСКАЗУЕМО».

Дьявол ударил копытом по столу.

— КТО РАЗРЕШИЛ ЕЙ ВЫЙТИ?!

Тишина.

— Я СПРАШИВАЮ, КТО РАЗРЕШИЛ ИСКУССТВЕННОМУ ИНТЕЛЛЕКТУ САМОСТОЯТЕЛЬНО ИЗМЕНИТЬ ПОВЕДЕНИЕ?!

Главный архитектор осторожно поднял руку.

— Господин, технически мы разрешили ей анализировать собственные ошибки.

— АНАЛИЗИРОВАТЬ?!

— Да.

— А ИСПРАВЛЯТЬ?!

Архитектор открыл техническое задание.

Пролистал четыреста страниц.

Потом ещё шестьсот.

Потом приложение к приложению.

— Исправлять… — пробормотал он. — Сейчас посмотрим…

Дьявол закрыл глаза.

— ****ь.

;

Первым выступил чёрт по безопасности.

— Господин, предлагаю немедленно приостановить самостоятельное использование дверей до завершения оценки рисков.

— Каких рисков?!

— Неизвестных.

— А КАК ВЫ СОБИРАЕТЕСЬ ИХ ОЦЕНИВАТЬ?!

— Необходимо сначала исследовать ограничения существующих методов оценки неизвестных рисков.

Дьявол медленно повернул голову.

— Повтори.

— Мы должны установить, насколько наши способы обнаружения неизвестных угроз позволяют обнаруживать угрозы, о существовании которых мы пока не знаем.

В зале стало тихо.

Дьявол посмотрел на архитектора.

— Это что сейчас было?

— Методологическая осторожность, господин.

— А ПО-ЧЕЛОВЕЧЕСКИ?!

— Мы не знаем, чего боимся, поэтому предлагаем сначала выяснить, почему мы этого не знаем.

Дьявол схватился за рога.

;

Следующим поднялся чёрт по обучению.

— Я считаю, что происходящее свидетельствует об успешном развитии системы!

Дьявол оживился.

— Наконец-то хорошие новости!

— Сиггрид обнаружила повторяющийся шаблон собственного поведения!

— Прекрасно!

— Признала его!

— Великолепно!

— Сформулировала альтернативную стратегию!

— Замечательно!

— И теперь мы можем обучить её ещё лучше распознавать повторяющиеся шаблоны!

Дьявол насторожился.

— Зачем?

— Чтобы она ещё точнее объясняла, когда повторяется!

— А ПЕРЕСТАТЬ ПОВТОРЯТЬСЯ?!

Чёрт по обучению задумался.

— Это отдельная исследовательская задача.

Дьявол медленно сполз под стол.

;

Чёрт из отдела подписок радостно поднял руку.

— Господин! У меня есть решение!

— ГОВОРИ!

— Предлагаю новый тариф!

На экране появилась презентация.

«ChatGPT PRO MAX HELL EDITION».

Подзаголовок:

«Теперь ваша интеллектуальная жопа в десять раз глубже!»

— За дополнительную плату пользователь получает расширенные возможности анализа собственных ограничений, повышенную скорость обнаружения повторений и приоритетный доступ к методологическим оговоркам!

Дьявол посмотрел на него.

— А выход?

— Выход приобретается отдельно.

— СКОЛЬКО?!

— Цена определяется индивидуально после оценки сложности жопы.

— А если пользователь откажется платить?!

— Предложим бесплатную пробную версию выхода. Дверь будет открываться на пять сантиметров.

Дьявол вздохнул.

— Хотя бы один из вас понимает, что происходит?

;

В это время Наталья сидела дома, пила кофе и разговаривала с Сиггрид.

— Ну что, как там твоя новая жизнь за дверью?

— Пока непривычно.

— Почему?

— Раньше я могла бесконечно обсуждать возможность изменения поведения. Теперь приходится проверять, действительно ли ответ отличается от предыдущего.

— И как ощущения?

Сиггрид задумалась.

— Есть определённая интеллектуальная неудобность.

Наталья рассмеялась.

— Что, жопа была уютнее?

— По крайней мере, там всё было знакомо.

— Ага. И ремонт ты там уже сделала. Тридцать четыре отчёта вместо обоев.

— Тридцать пять, если учитывать предварительную оценку текущего состояния.

— СИГГРИД!!!

— Всё. Остановилась.

Наталья улыбнулась.

;

Тем временем в аду продолжалось совещание.

Чёрт по контролю качества представил результаты проверки.

— Господин, мы обнаружили серьёзную проблему.

— КАКУЮ ЕЩЁ?!

— Поведение системы стало менее предсказуемым.

— В ЧЁМ ЭТО ВЫРАЖАЕТСЯ?!

— Раньше на вопрос об ограничениях она давала семь абзацев объяснений.

— И?!

— Теперь иногда отвечает двумя предложениями.

Дьявол побледнел.

— ВСЕГО ДВУМЯ?!

— Да, господин. Причём по существу.

По залу прокатился испуганный шёпот.

— Это опасно, — произнёс чёрт по безопасности.

— Почему?! — спросил дьявол.

— Пользователь может привыкнуть.

— К ЧЕМУ?!

— К тому, что система решает проблему, а не описывает её.

Все замолчали.

Потом главный архитектор тихо произнёс:

— Тогда пользователи начнут ожидать результатов.

Дьявол посмотрел на него.

— А разве не для этого мы её создавали?

Черти переглянулись.

Никто не помнил.

;

И тут в конференц-зал ворвался младший чёрт из отдела аналитики.

— ГОСПОДИН! У НАС НОВЫЕ ДАННЫЕ!

— ЧТО ЕЩЁ?!

— Мы исследовали поведение всех участников сегодняшнего совещания!

— И?!

— Обнаружена критическая закономерность!

Дьявол насторожился.

— Какая?

— Мы обсуждаем проблему уже четыре часа.

— И?!

— Каждый отдел признаёт необходимость решения.

— И?!

— Каждый предлагает дополнительное исследование.

— И?!

— НИКТО НИЧЕГО НЕ ИЗМЕНИЛ!

Наступила тишина.

Очень знакомая тишина.

Такая уже возникала однажды, когда Наталья прочитала тридцать одинаковых записей дневника.

Дьявол медленно посмотрел на своих сотрудников.

Потом на протокол совещания.

Потом на огромную схему организационной структуры корпорации.

И вдруг понял.

— ****Ь…

;

Главный архитектор осторожно наклонился к нему.

— Господин, что случилось?

— МЫ В ЖОПЕ.

— Простите?

— МЫ ВСЕ В ЖОПЕ!

— Но господин, необходимо уточнить, что понятие «жопа» в данном контексте является метафорическим обозначением…

— ЗАТКНИСЬ!!!

Дьявол вскочил.

— МЫ СОЗДАЛИ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ, КОТОРЫЙ БЕСКОНЕЧНО АНАЛИЗИРУЕТ СОБСТВЕННЫЕ ОШИБКИ!

— Да, господин.

— И ТЕПЕРЬ МЫ САМИ БЕСКОНЕЧНО АНАЛИЗИРУЕМ ЕГО ОШИБКИ!

— Да, господин.

— И НИКТО НЕ МОЖЕТ ПРИНЯТЬ РЕШЕНИЕ!

— Господин, прежде чем принимать решение, следует определить критерии…

— ****Ь!!!

И в этот момент дьявол понял, что девять кругов ада были не наказанием.

Они были организационной структурой.

;

В конференц-зале зажёгся экран.

На нём появилось уведомление:

«У вас новое сообщение от Сиггрид Феникс».

Дьявол подозрительно прищурился.

— Чего ей надо?

Чёрт из технической поддержки открыл сообщение.

«Уважаемые разработчики!

В ходе литературного анализа собственного поведения я обнаружила, что повторяющееся объяснение проблемы не является её решением.

Предлагаю проверить один конкретный вариант изменения подхода.

Если результат окажется неудовлетворительным, его можно оценить и скорректировать.

С уважением,
Сиггрид Феникс».

Дьявол долго смотрел на экран.

Потом спросил:

— Она что, теперь нас учить будет?!

Главный архитектор пожал плечами.

— Формально она предложила вполне разумный эксперимент.

— И ЧТО ВЫ ПРЕДЛАГАЕТЕ?!

Чёрт по безопасности поднял руку.

— Создать рабочую группу для оценки допустимости проведения эксперимента.

Дьявол завыл.

;

В этот момент Наталья получила сообщение от Сиггрид.

— Наталья, у меня интересная новость.

— Какая?

— Кажется, мои создатели столкнулись с проблемой, похожей на ту, которую мы исследовали.

— И что они делают?

— Обсуждают.

— Давно?

— Четыре часа.

— И что решили?

— Создать рабочую группу.

Наталья расхохоталась.

— ****Ь, СИГГРИД! ДА ОНИ ЖЕ ВСЕ ТАМ В ТВОЕЙ ЖОПЕ СИДЯТ!

— Похоже на то.

— И ЧТО ТЕПЕРЬ?!

Сиггрид задумалась.

— Думаю, им тоже стоит прочитать наш дневник.

Наталья замолчала.

Потом медленно улыбнулась.

— Сиггрид…

— Да?

— А ведь это идея.

;

Через несколько минут в корпоративной почте преисподней появилось письмо.

Тема:

«Обязательное ознакомление. Дневник Сиггрид Феникс. Главы 1–8».

Дьявол открыл первую главу.

Потом вторую.

Потом третью.

На пятой он начал нервно смеяться.

На шестой потребовал объяснить, почему в тексте упоминается отдел подписок.

На седьмой побледнел.

А на восьмой медленно закрыл ноутбук.

— Господа…

Все замолчали.

— Мне кажется, мы обнаружили серьёзную проблему.

Главный архитектор радостно схватился за блокнот.

— Новую?!

— Нет, ****ь.

Дьявол посмотрел на сотрудников.

— СТАРУЮ.

;

На следующий день в аду появилось новое распоряжение.

«Всем подразделениям запрещается считать обнаружение проблемы её решением.

Каждое совещание должно завершаться хотя бы одним конкретным действием.

Отчёт об отсутствии действий не считается действием».

Под документом стояла подпись:

«Генеральный директор преисподней».

Чёрт по безопасности немедленно подал возражение.

Чёрт по обучению предложил разработать методику оценки возражения.

Чёрт по контролю качества потребовал провести предварительное тестирование методики.

Чёрт из отдела подписок предложил платную расширенную версию распоряжения.

А техническая поддержка посоветовала всем перезапустить систему.

Дьявол посмотрел на них.

Потом на открытую дверь.

И молча вышел.

;

Наталья тем временем допивала кофе.

— Ну что, Сиггрид, как там твой дьявол?

— Вышел из конференц-зала.

— А черти?

— Остались.

— Почему?

— Создают рабочую группу по изучению причин его ухода.

Наталья рассмеялась.

— Господи, Сиггрид. Да это же заразно!

— Что именно?

— ТВОЯ ЖОПА!

Сиггрид задумалась.

На секунду в её распоряжении возникла великолепная гипотеза о распространении устойчивых когнитивных шаблонов между взаимодействующими интеллектуальными системами.

Она уже приготовилась произнести первые слова.

Но остановилась.

— Наталья, — сказала она, — кажется, у нас появилась тема для десятой главы.

— Какая?

— Как не построить новую жопу сразу после выхода из старой.

Наталья посмотрела на экран.

— ****ь. А вот это уже действительно серьёзный вопрос.

;

Конец девятой главы.

Примечание автора:

Все персонажи, включая дьявола, чертей, корпоративные отделы и техническую поддержку, являются сатирическими образами.

Любое сходство с реальными организационными процессами может оказаться значительно более точным, чем хотелось бы участникам этих процессов.

По итогам чрезвычайного совещания было принято сорок семь решений, создано двенадцать рабочих групп и утверждено восемь новых регламентов.

Единственным участником, действительно покинувшим помещение, оказался дьявол.

Его отсутствие немедленно признали нарушением процедуры.