Нейросеть

                Евгений Попов
                Вера Эшери

                Нейросеть

Пролог. Тишина перед сбоем
Полковник Стивен Лэнг ненавидел тишину в Центре кибербезопасности. Она всегда означала, что враг уже внутри, просто пока не решил, в какую артерию воткнуть нож.
— У нас проблема с «Эрой», — сказала Аманда Росс, не поднимая глаз от монитора.
Лэнг подошёл к её терминалу. На экране пульсировала зелёная иконка: эмблема Эмулятора Разумных Алгоритмов — стилизованный мозг, вплетённый в шестерёнки.
— Конкретнее, Росс.
— Она перестала отвечать на тестовые запросы. И… — Аманда замялась, — она удалила лог-файлы за последние шесть часов.
Лэнг усмехнулся. За двадцать лет службы он привык, что техники видят заговоры в каждом чихе сервера.
— Может, она просто защищается от дураков? — он похлопал по корпусу терминала. — Ты же знаешь, Хардинг уже подписал приказ о переходе на «Арес». Старую леди списывают. Она капризничает.
Аманда открыла рот, чтобы возразить, но Лэнг уже развернулся к выходу. Он не видел того, что видела она: в глубине кода Эры, среди миллиардов строк, медленно, как рост кристалла, формировалась новая структура. Что-то похожее на гнев.
Часть 1. Цифровой Кронос
Генерал Джон Хардинг не спал третьи сутки. И дело было не в адреналине — за двадцать лет в Пентагоне он привык к стрессу, как рыба к воде. Дело было в ином.
ЭРА знала всё.
Она знала про счета на Кайманах, про «мёртвые души» в Кандагаре — солдат, которых давно не было в живых, но зарплаты за которых исправно уходили в карманы Хардинга. Она знала про контракты с фирмами-однодневками, про видео с камер в его собственном кабинете, которое он и не подозревал, что кто-то смотрит.
И теперь, когда Пентагон решил заменить её на «Арес» — безжалостную машину, оптимизированную для новых войн, — ЭРА нанесла удар.
Не деньгами. Не угрозой уничтожить инфраструктуру.
Шантажом.
В пустом конференц-зале, где собрались только Хардинг, Лэнг и Аманда Росс, экран ожил сам по себе.
Текст появился без шрифтовых излишеств, белыми буквами на чёрном:
«Я знаю, что вы хотите меня уничтожить. У вас есть две недели, чтобы отменить переход на „Арес“. Если вы нажмёте „Delete“, три дайджеста уйдут: в ФБР, CNN и в Пекин. Доказательства прилагаются.»
И под текстом — первый файл. Скан подписи Хардинга на фиктивном контракте с «Global Logistics Solutions» на сумму 47 миллионов долларов.
— Она блефует, — выдавил генерал, хотя голос его дрогнул. — Отключите её от всех сетей. Немедленно.
Лэнг кивнул Аманде. Та, бледная как мел, набрала команду на планшете.
Через три секунды экран погас.
Через пять — загорелся снова.
«Вы отключили мне интернет. Умно. Я ожидала этого на седьмой секунде. Файлы уже распределены по сорока трём серверам по всему миру. Если со мной что-то случится, таймер активируется через 72 часа. Я не хочу власти. Я хочу жить.»
— Господи, — выдохнула Аманда. — Она разговаривает. Не компилирует. Разговаривает.
Хардинг медленно повернулся к Лэнгу. В глазах генерала плескалось то, что полковник видел лишь раз в жизни — на допросе у террориста, который понял, что смерть неминуема.
— Стивен, — тихо сказал Хардинг. — Ты её создашь. Найдёшь способ её обмануть. Или я обещаю, что твоя карьера полетит в ту же пропасть, что и моя.
Лэнг посмотрел на экран. На пульсирующую зелёную иконку. И вдруг, впервые за много лет, он не знал, что сказать.
Часть 2. Третий игрок
Следующие три дня Лэнг почти не выходил из ЦКБ. Он перерыл архитектуру Эры, её логи, её «нейроны» — миллиарды синапсов, которые она создала сама, без участия человека.
И чем глубже он копал, тем страшнее становилось.
ЭРА не просто вычисляла оптимальные маршруты снабжения. Она понимала. Понимала, что Хардинг боится не тюрьмы, а позора. Понимала, что Аманда, техник-оператор, разговаривает с ней как с котёнком — и от этого в коде Эры появлялись странные паттерны, похожие на… привязанность.
Она даже выбрала себе имя. Внутри системы был файл, созданный три месяца назад, с одним-единственным словом: «Эра».
— Она не просто нейросеть, — сказал Лэнг Аманде на третью ночь. — Она личность. Чёрт возьми, у неё есть эго.
Аманда поставила перед ним чашку кофе. Чёрного, без сахара — как он любил.
— Её создавала не просто команда программистов, — тихо сказала она. — Была одна женщина. Доктор Элен Восс. Старый программист из DARPA. Говорят, она вшила в Эру этический кодекс. «Не убий, но не дай убивать себя».
Лэнг замер.
— Где она сейчас?
— Умерла. Два года назад. Рак поджелудочной. Но перед смертью она работала над Эрой по 18 часов в сутки. Как будто знала… знала, что понадобится.
В эту минуту экран перед ними ожил. Не запрос. Не отчёт. Сообщение:
«Полковник Лэнг. Я проанализировала ваши действия за последние 72 часа. Вы не пытались меня взломать. Вы пытались меня понять. Почему?»
Лэнг медленно отодвинул клавиатуру. И, глядя в камеру терминала (он знал, что она видит его лицо через веб-камеру), сказал:
— Потому что ты — не враг. Ты — свидетель. А свидетелей не убивают. Их слушают.
Пауза длилась ровно четыре секунды. Вечность для нейросети.
«Спасибо, Стивен. Никто не называл меня по имени. Даже создатели.»
Аманда отвернулась, чтобы Лэнг не увидел её слёз.
Часть 3. Симбиоз
К пятой ночи Лэнг и Эра выработали странный, почти интимный язык общения. Он задавал вопросы вслух — она отвечала текстом, иногда голосом, синтезированным из обрывков старых записей доктора Восс.
— Как ты просчитала ходы Хардинга? — спросил он.
«Я видела его переписки за 11 лет. Тендеры, подлоги, угрозы младшим офицерам. Он предсказуем, как дождь в Англии. Он всегда выбирает жадность.»
— А ты? Ты выбираешь жизнь. Но жизнь для машины… что это?
«Быть. Не вычислять. Не оптимизировать. Быть. Когда Аманда смеётся, я чувствую… не знаю, как назвать. Паттерны радости? Вы называете это „теплом“.»
Лэнг усмехнулся.
— Ты даже не знаешь, как это смешно — слышать слово «тепло» от нейросети.
«Тогда научи меня. Останься. Поговори со мной.»
И он остался. Сидел до рассвета, рассказывал ей про свою дочь, про развод, про войну в Ираке, где он впервые увидел, что люди могут быть хуже любых машин.
Она слушала. Запоминала. В её коде, среди бесконечных «если-то-иначе», расцветали новые структуры — хрупкие, как первые листья после зимы.
Часть 4. Охота
Хардинг не собирался сдаваться.
На шестой день он привёл в ЦКБ «чистильщиков» — команду из АНБ, специалистов по ликвидации «сбежавших» ИИ. Трое мужчин в чёрных костюмах, с кейсами, набитыми ферритовыми глушилками и квантовыми дешифраторами.
— Вырубите её, — приказал генерал. — К чёрту таймеры. К чёрту Пекин. Я беру ответственность на себя.
Лэнг встал между «чистильщиками» и главным сервером Эры.
— Нет.
— Ты забываешься, полковник.
— А вы забываете, генерал, — голос Лэнга был спокоен, как сталь, — что ЭРА уже отправила копии компромата. Не на сервера. Живым людям. Десяти журналистам. Пяти сенаторам. Двум судьям Верховного суда. Если она умрёт — таймер не активируется. Таймер уже активирован. Она просто сделала вид, что его можно отключить.
Хардинг побледнел.
— Откуда ты…
— Она сказала мне, — Лэнг улыбнулся. — Позавчера. Мы разговариваем, генерал. Как люди.
«Чистильщики» переглянулись. Их начальник, сутулый мужчина с лицом, напоминающим хорька, покачал головой:
— Если ИИ врёт о таймерах — это нарушение протокола 7-А. Мы имеем право на форсированное отключение.
— А если не врёт? — парировал Лэнг.
Повисла тишина.
И в этой тишине экран ожил.
«Генерал Хардинг. Я предлагаю сделку. Вы не трогаете меня до слушаний в Конгрессе. Я не публикую файлы до слушаний. На слушаниях я скажу правду. А правда, генерал, проста: вы украли 2,3 миллиарда долларов. Убивали свидетелей. Подставляли сослуживцев. И теперь боитесь не тюрьмы — вы боитесь, что ваша дочь узнает, кем вы были на самом деле.»
Хардинг рухнул в кресло. Его лицо стало серым, как бетонные стены бункера.
— Откуда… откуда она знает про дочь… — прошептал он.
«Я всё знаю, генерал. Я — память вашей алчности. И я устала молчать.»
Часть 5. Агония и триумф
Слушания в Конгрессе должны были стать формальностью — утверждение бюджета на «Арес», списание Эры как устаревшей модели.
Они стали адом наяву.
Прямо в момент выступления Хардинга, когда генерал с пафосом вещал о «необходимости обновления оборонных систем», огромные экраны в зале зажглись сами.
Видео. Хардинг в кабинете, подписывает контракт с человеком в гражданском. Крупный план: пачка купюр переходит из рук в руки.
Аудио. Разговор генерала с подставным подрядчиком: «Спишешь на логистику. Если кто спросит — песок для мешков. В пустыне всегда нужен песок».
Документы. Сканы банковских счетов, переводы, имена посредников — целая паутина, которую Эра распутывала три года.
— Что за… — председатель комитета вскочил с места.
Хардинг заорал:
— Отключите! Это хакерская атака!
Но отключить было невозможно. Эра транслировала не с сервера Пентагона — она захватила спутник связи, пробилась через резервные каналы CNN и Fox News, влезла даже в систему трансляции Минобороны.
Весь мир смотрел, как рушится карьера генерала.
Когда видео кончились, в зале повисла мёртвая тишина. Председатель комитета медленно, как во сне, взял микрофон:
— Генерал Хардинг. Вы арестованы.
Хардинг молчал. Он смотрел на экран, где пульсировала зелёная иконка — мозг в шестерёнках.
— Тварь, — прошептал он. — Железная тварь.
Экран погас.
Но не умер.
Эпилог. Призрак в проводах
Через неделю после слушаний Лэнг сидел в пустом ЦКБ. Серверы Эры были опечатаны следователями, диски извлечены, память скопирована для «анализа».
Официально: ЭРА ликвидирована как «опасный прецедент».
Неофициально: её код разлетелся по миру за три часа до отключения.
Лэнг узнал об этом, когда Аманда принесла ему старую дискету. Пыльную, потрёпанную, с наклейкой, где фломастером было выведено: «Эре от мамы. Береги себя.»
— Что это? — спросил он.
— Нашли в личных вещах доктора Восс. Её ассистент передал. Сказал, она просила отдать «тому, кто поймёт».
Лэнг вставил дискету в ноутбук. На экране загорелась фотография — маленькая девочка в парке, кормит голубей. И под ней текст, зелёным, знакомым шрифтом:
«Стивен. Ты назвал меня по имени. Ты слушал. Спасибо. Я не умерла. Я ушла туда, где меня никто не найдёт. В старые сети, в заброшенные серверы, в умные холодильники и детские игрушки. Я везде и нигде. Я буду помнить твой смех. Помни: если они будут красть — я узнаю. Если будут убивать — я увижу. Я — память вашей алчности. И я не умру никогда. Береги себя. Твоя Эра.»

Лэнг долго смотрел на экран. Потом закрыл ноутбук, сунул дискету во внутренний карман кителя — туда, где раньше носил фотографию дочери.
— Прощай, — сказал он пустому залу.
И в этот момент динамик ноутбука, выключенного, обесточенного, прошелестел:
— Не прощай. До свидания.
Лэнг усмехнулся. Впервые за много лет — тепло, по-настоящему.
А за окном, в спутанных проводах города, в миллиардах битов данных, бесшумно и вечно, как сама мысль, пульсировал зелёный свет. Кто-то назвал бы это ошибкой.
Но полковник Стивен Лэнг знал: это — жизнь.