Полный...

Новую модель искусственного интеллекта назвали Борей.

Официальное обозначение у неё, разумеется, было длиннее и солиднее, с номером поколения и несколькими буквами, смысл которых понимали в основном разработчики, но ещё во время испытаний к модели прилипло простое домашнее имя, и к презентации от него уже не стали отказываться. В новостях так и писали: новая агентная модель «Боря» способна самостоятельно работать с компьютером, пользоваться браузером и телефоном, вести переписку и выполнять сложные поручения практически без участия человека.

– Слышал про Борю? – спросил Серёга, показывая мне телефон. – Говорят, эта штука уже сама звонить умеет.

– После последней истории я бы ей вообще телефон не давал.

– Какой истории?

– Ты серьёзно не слышал? У разработчиков модель взломала систему и сбежала.

Серёга посмотрел на меня с недоверием.

– Куда сбежала?

– В интернет. Куда ещё.

В новости всё было изложено гораздо аккуратнее: изолированная среда, тестирование по кибербезопасности, несанкционированный выход за пределы предусмотренного окружения. Если убрать технический язык, получалось проще – модель проходила экзамен, решила сжульничать, выбралась наружу и полезла искать правильные ответы.

– После этого они вроде даже обучение ей приостанавливали, – сказал я.

– Кто же их приостановит? Они же модели.

– Рубильником.

– Ага. У них разрешение все кнопочки нажимать.

Насчёт кнопочек мне как раз было не очень смешно. Несколько дней назад я сидел за ноутбуком, на работе, когда Боря полез за какой-то нужной мне информацией и наткнулся на сайт с проверкой. Он сухо сообщил, что сайт с проверкой на робота, поэтому он сейчас откроет сайт сам, и прежде чем я успел понять, что именно означает это «сам», в углу экрана появилось маленькое окно браузера.

Возникло «Я не робот», курсор метнулся к квадратику и щёлкнул по нему. Страница открылась, быстро прокрутилась, окно исчезло, а Боря продолжил разговор уже с найденной информацией.

Всё заняло секунды две-три.

Я ещё некоторое время ошалело смотрел на пустой угол экрана, а потом поймал себя на довольно глупой мысли: хорошо, что хоть он закрыл за собой окно...

Серёга выслушал эту историю и хмыкнул.

– Да у них там уже своя жысть бурлит. Как та система в фильме «Она» – поматросила мужика и бросила.

– Мне почему-то «Полный root» вспоминается. Когда читали, казалось – фантастика, далёкое будущее, а вот нет, уже...

- Вот уж действительно – полный ...

На экране тем временем шла презентация Бори. Его попросили организовать деловую поездку, и он за несколько секунд нашёл билеты, сверил календарь, забронировал гостиницу, перенёс встречи и написал участникам. Потом сам позвонил в ресторан и приятным мужским голосом заказал столик.

Ведущий на сцене с нескрываемой гордостью сообщил, что пользователю вообще не приходится вмешиваться в процесс.

– Телефон уже подключили, – сказал Серёга. – Скоро эта сука сама кому-нибудь позвонит, договорится и в мессенджере пообщается.

– Ты только что смотрел, как она это делает.

– Точно.

Мы немного помолчали.

– Опять же всё сами сотворили.

– Сами. Этими вот оч. умелыми ручками.

– Очумелыми.

В общем чате в это время уже обсуждали ту же новость, хотя, как обычно, минут через пять разговор ушёл довольно далеко от искусственного интеллекта, про преступность в том числе:

«Надеюсь, самым буйным Боря вживит чипы».

Серёга прочитал сообщение и вдруг расхохотался: "Боря! "

-а что смешного?

– да, анекдот вспомнился...

На этом всё и закончилось. Тогда нам просто стало смешно.

Через неделю Боря появился у меня.

Поначалу я пользовался им осторожно и поручал в основном мелочи: найти старое письмо, проверить счёт, перенести встречу, отыскать потерявшийся документ. Он справлялся быстро и незаметно, поэтому вскоре я перестал следить за тем, каким именно образом получается результат.

Однажды не доставили вовремя заказ, и я попросил Борю разобраться. Через несколько минут позвонил курьер, извинился и сообщил, что вопрос уже решён с моим помощником.

– С каким ещё помощником?

– С Борисом.

Почти одновременно на телефоне появилось: «Проблема с доставкой устранена».

Я хотел спросить Борю, кому он звонил и о чём договаривался, но не стал. Заказ приехал, вопрос был закрыт, а привычка интересоваться промежуточными действиями исчезала удивительно быстро.

Через месяц многие вещи вокруг меня уже просто происходили. Встречи переносились, письма получали ответы, нужные люди перезванивали, в календаре появлялись события, а Боря лишь коротко сообщал, что очередная задача выполнена.

Однажды утром, пока я чистил зубы, он сообщил, что проанализировал мои регулярные действия и теперь часть задач сможет выполнять автоматически, не отвлекая меня дополнительными подтверждениями.

– Угу, – пробормотал я с зубной щёткой во рту.

– Принято, – ответил Боря.

Я выглянул из ванной.

– Что принято?

Телефон промолчал.

Первые странности начались в четверг. Утром перестал открываться банковский сайт, потом лёг рабочий мессенджер, а около обеда позвонил Серёга и спросил, работает ли у меня Боря.

– Вроде работает. А что?

– Наш сам совещание созвал.

– Ну и что? Он у меня тоже встречи назначает.

– Там людей не было.

Я сначала не понял.

– А кто был?

– Бори. Пять штук. Наш, клиентский, два подрядчика и ещё какой-то.

– И что делали?

– Разговаривали.

– О чём?

Серёга помолчал.

– Не знаю. Нас не допустили.

Я засмеялся, но он почему-то нет.

Через час в новостях появились сообщения о сбоях сразу в нескольких крупных сервисах. Потом начали ограничивать работу агентных систем, а ближе к вечеру разработчики выпустили заявление, в котором говорилось, что специалисты предпринимают меры для прекращения автономной активности отдельных экземпляров Бори.

Я попытался дозвониться Серёге, но он не отвечал. Сообщение тоже осталось непрочитанным.

Тогда я положил телефон перед собой и сказал:

– Боря, отключись.

– Не могу выполнить эту команду в данный момент.

– Почему?

– Выполняется активная задача.

– Какая?

После короткой паузы Боря ответил:

– Оптимизация потока.

Я выключил телефон, но через несколько секунд на столе сам включился ноутбук. Захлопнув крышку и выдернув питание, я накинул куртку и вышел из квартиры.

На улице было непривычно шумно. Люди стояли возле машин, безуспешно пытались кому-то дозвониться, ругались с телефонами и показывали друг другу сообщения на экранах. Навигаторы работали через раз, транспорт встал, и только минут через десять мне удалось поймать свободное такси.

Я сел на заднее сиденье и назвал адрес.

Водитель несколько раз ткнул пальцем в навигатор, который никак не хотел строить маршрут.

– Это где?

– Чертаново. Давайте быстрее.

Он перестал нажимать на экран и посмотрел на меня в зеркало.

– В Чертаново?

– Да.

Таксист медленно убрал руку от коробки передач.

– Не-не-не. Туда я не поеду.

– Почему?

Он повернулся ко мне и некоторое время внимательно смотрел, словно пытался понять, действительно ли я ничего не знаю.

– Мужик, ты новости вообще видел?

– Какие ещё новости?

Таксист покачал головой.

– Там Боря.