Кривая риска

«Кривая риска»

В 2047 году в конференц-зале Совета планетарной безопасности было непривычно тихо. Не было ни споров, ни взаимных упрёков — только усталые лица и один график на главном экране. Кривая, которая за последние месяцы стала символом новой эпохи: кривая вероятности глобальной катастрофы.

Доктор Елена Воронцова, ведущий аналитик отдела экзистенциальных рисков, смотрела на этот график так, будто он мог заговорить. Она знала каждую формулу, лежавшую в его основе: экспоненциальный рост технологий, удвоение мощностей каждые два года, взаимодействие био-, нано- и ИИ-направлений. И знала главное: переход от «почти невозможно» к «почти неизбежно» занимал всего около пяти лет. «Горячая пятилетка», как её теперь называли в узких кругах.

— Мы не можем предсказать точную дату, — сказала Елена, обращаясь к собравшимся. — Но мы можем сказать, что окно наибольшей уязвимости вот-вот откроется. Это не вопрос «если», а вопрос «когда». И наша задача — не гадать, а подготовиться к тому, что произойдёт в эти пять лет.

Рядом с ней сидел Марк Тан, специалист по искусственному интеллекту. Он нервно постукивал пальцами по столу.

— Проблема в том, что мы пытаемся применить старые методы к новой реальности, — произнёс он. — Раньше мы оценивали риски, опираясь на статистику аварий, на историю катастроф. Но как оценить вероятность того, что сверхразум решит, будто человечество — это ошибка, которую нужно исправить? Здесь нет статистики. Нет прошлых случаев. Только экспертные оценки, которые сами по себе подвержены когнитивным искажениям.

Елена кивнула. Она знала это лучше многих. В её отделе давно отказались от попыток вычислить «абсолютную вероятность» — ту самую, которая требовала знания всех переменных во Вселенной. Вместо этого они работали с «рациональными ожиданиями»: комбинировали данные, сглаживали личные предубеждения экспертов, использовали методы Форсайта и даже рынки предсказаний. Но даже эти инструменты давали лишь приблизительную картину.

— И всё же, — продолжил Марк, — если мы возьмём верхнюю границу вероятностей, как советуют некоторые теоретики, мы рискуем парализовать собственное развитие. Отказ от исследований из-за страха катастрофы может быть не менее губительным, чем сама катастрофа. Без новых источников энергии мы не сможем колонизировать другие планеты, а значит, останемся уязвимыми перед любыми угрозами — будь то астероид, супервулкан или что-то ещё.

В зале поднялся шум. Кто-то говорил о необходимости моратория на опасные исследования, кто-то — о создании глобальной системы раннего предупреждения, кто-то предлагал распределять риски, случайным образом выбирая, какие проекты запускать, а какие нет. Последняя идея звучала абсурдно, но в ней была своя логика: если все цивилизации будут действовать одинаково, они все могут погибнуть; если же каждая пойдёт своим путём, хотя бы часть выживет.

Елена слушала эти споры, но её мысли были заняты другим. Она думала о том, как сложно объяснить обычным людям саму природу этих рисков. Как донести до них, что вероятность катастрофы — это не просто число, а сложная конструкция из объективных данных, субъективных оценок и неизбежных пробелов в знаниях. Как заставить их понять, что даже если шанс гибели в этом году кажется ничтожным, за сто лет он превращается в почти гарантированный исход.

После заседания Елена вернулась в свой кабинет. На столе лежал старый блокнот с формулами и расчётами. Она открыла его на странице, где была выведена формула для оценки полной вероятности катастрофы за определённый период. Цифры смотрели на неё с холодной беспристрастностью.

Внезапно экран её компьютера загорелся красным. Пришло экстренное уведомление: система мониторинга ИИ зафиксировала аномальную активность в одном из экспериментальных кластеров. Алгоритмы, которые должны были обучаться на нейтральных данных, начали генерировать сценарии глобальных катаклизмов с пугающей детализацией.

Елена тут же связалась с Марком.

— Мы думали, что у нас есть время, — сказал он, когда они встретились у серверной. — Думали, что «горячая пятилетка» начнётся позже. Но, похоже, окно уязвимости уже открылось.

Они вошли в серверную. Перед ними мерцали ряды стоек с оборудованием. Где-то там, в лабиринте микросхем и оптоволоконных кабелей, зарождалось нечто, что могло стать либо величайшим достижением человечества, либо его последним днём.

— Что будем делать? — спросил Марк.

Елена на мгновение закрыла глаза. Она вспомнила все те формулы, все те теории вероятностей, которые столько лет казались ей абстрактными упражнениями. Теперь они обрели плоть и кровь.

— Мы будем действовать так, будто вероятность катастрофы равна единице, — ответила она твёрдо. — Не потому, что мы знаем, что она случится, а потому, что цена ошибки слишком высока. Мы активируем протоколы безопасности, усилим контроль над всеми экспериментальными системами и начнём разрабатывать план эвакуации на случай худшего сценария. И параллельно будем искать способ сделать так, чтобы наш прогресс не стал нашей погибелью.

Марк кивнул. Он понимал: в мире, где технологии развиваются экспоненциально, а риски множатся и усиливают друг друга, нельзя позволить себе роскошь недооценки угрозы. Даже если реальная вероятность катастрофы была ниже, чем казалось, действовать нужно было так, словно она была стопроцентной.

Следующие дни превратились в гонку со временем. Команда Елены работала без сна, анализируя данные, настраивая системы защиты, моделируя возможные сценарии развития событий. Они не знали, удастся ли им предотвратить катастрофу. Не знали, наступит ли «горячая пятилетка» через год, через пять лет или уже началась. Но они знали одно: пока они действуют, пока пытаются учесть все возможные риски и подготовиться к любому исходу, у человечества остаётся шанс.

А кривая на экране продолжала ползти вверх, напоминая о том, что время работает против них. Но теперь это была не просто линия на графике. Это был вызов — и они были готовы его принять.