Система. Фантастический рассказ

Создание искусственного интеллекта может стать последним технологическим достижением человечества, если мы не научимся контролировать риски.
                Стивен Хокинг

  Мелодичный, но настойчивый звон в ухе- и мир снов растаял, являя раскрывшимся глазам привычную домашнюю обстановку. Нет, не привычную: срок действия предыдущей картинки ЖК панели истек, и песчаный пляж с пальмами был немилосердно смыт волнами тропического моря. А может, океана.

 Двенадцатилетняя Ми в этом разбиралась не очень, и новый сюжет новой картинки, растущей с «размножением» нано роботов, и уже, с жадностью, захватившей две стены и потолок спальни, её не впечатлил. Выбранный сюжет компьютерного разума развернул перед девочкой темноту сырого осеннего леса, вздрагивающего желтой листвой под тихим дождем. Картинка меняется стандартно. Раз в сутки. Хочешь самостоятельно выбирать картинку- дополнительно плати. Ма на это не согласится. А это значит, что весь долгий вечер Ми будет слушать шёпот дождя. Тоска, одним словом.

Ми поторопилась вскочить с постели со вторым утренним звонком, ибо со следующим её уютная постель выкинет из себя девочку, и начнет собираться, трансформируясь в стандартный набор дневной мебели: письменный стол со стулом.  А быть позорно выброшенной на пол девочке не хотелось.

Настоящую, сделанную из живого дерева мебель, родители не могли себе позволить. Как и свой дом. Поэтому их квартира была оборудована стандартным набором. Впрочем, как и все соседние в их бюджетном огромном доме. Впрочем, они жили на 17-ом статусном этаже, в самой середине, поднявшись с низины шестого. Ма этим очень гордилась, сказав, что это благодаря способностям па.

 Их дом представлял собой замкнутую на себе СИСТЕМУ, и был так огромен, что каждый этаж включал в себя не только множество жилых квартир-ячеек, но и всю необходимую рабочую, общеобразовательную и развлекательную инфраструктуру. Это было очень удобно. Тем более, что покидать свой этаж без спецпропуска было строжайше запрещено СИСТЕМОЙ. Ей же осуществлялся всеобщий контроль.

Десятилетняя Ми быстро посетила ванную комнату, сменила пижаму на школьную форму, бросив последнюю в заботливо распахнувшееся нутро одежной корзины.
 Это было забавно и очень удобно: прежний нижний этаж не предоставлял такой функции.
 Чем выше этаж, тем больше комфорт.

 Об этом она смотрела ежедневно в новостной ленте, и знала, что высота этажа всегда соответствует работоспособности и обратно пропорциональна степени надежности и функциональности объекта. Вывод был простым: хочешь хорошо жить- хорошо работай.

 Девочка подкорректировала нажатием ладони длину юбки перед зеркалом. Умная ткань тут же уползла вверх, равномерно подравнявшись по всей длине.  Оставшись довольной результатом, она вошла на кухню, чтобы позавтракать. 
-При все, - поздоровалась она со своей семьей. В переводе на русский, это означало бы «привет всем».

-При, - ответила ей ма, -са ешь (садись ешь).
Па, уже сидящий за столом, и листающий нужную инфу нэта в отражающей поверхности своей кружки, лишь кивнул, не поднимая головы.
-Спа, - благодарно кивнула девочка.

Ми взяла свою кружку, включив экран изображения нажатием на ручку. Отражающая поверхность мигнула, и включила панель экрана. Девочка склонилась над ней, пролистывая новостную ленту, не глядя беря и отправляя в рот питательные капсулы завтрака, и запивая их содержимым из чашки.

Своих родителей, чьи лица вышли из-под ножа одного пластического хирурга, девочка различала от соседей по цвету индикационного браслета. Она знала, что, когда закончится период роста биологического тела, ей позволят убрать курносость, изменить форму губ и цвет волос. Как-то раз она просматривала программу, и нашла смешную инфу о смене формы ушей. На кошачьи. Решила уточнить, примерить их- и получила укол своего индикационного браслета, высветившего одну тёмную полосу.

 Эта программа оказалась проверочной, специально запущенной СИСТЕМОЙ. Ми очень испугалась этой метке, но ма открыла ей нужную закладку. Девочка просмотрела и успокоилась: в период роста организма лишняя любознательность допускалась.
 Допускалась умной СИСТЕМОЙ аж до пяти меток.
    
  Их семья пила кофе по старинке. Ма где-то заказывала настоящий. Растворимый. Такой, который пили их далекие предки в начале тысячелетия, целых сто лет назад. Об этом кофе рассказывала их ба, пользуясь устаревшим способом передачи событий. А именно- подовая свою информацию примитивными словесными символами. Ещё до того, как СИСТЕМА признала ба устаревшим элементом, и заперла старушку в её комнате. На долгий десятидневный цикл.

 Это позволило их семье значительно увеличить объём ЖК панелей на стенах, и количество мебели.
СИСТЕМА милосердна.
Она избавляет своих подопечных от ненужных эмоций, связанных со смертью устаревших или больных элементов. Она избавляет от ритуала похорон и прочих анахронизмов прошлого, перерабатывая все отходы их жизнедеятельности, включая отросшие волосы, ногти, продукты жизнедеятельности, и тела. СИСТЕМА сама знает, кому и сколько жить из её элементов, и СИСТЕМА простила её слёзы по ушедшей ба.

СИСТЕМА милосердна. Она сама определяет количество питательных капсул для каждого её подопечного. Тип наиболее функциональной одежды в зависимости от времени суток, сна или бодрствования. Прическу, в зависимости от пола и возраста. Профессию, в зависимости от уровня интеллекта и спроса на рынке труда.
СИСТЕМА милосердна в той мере, в какой может быть милосерден компьютерный общий разум, заменивший правительство и страны. Отменивший деление на расы и само это понятие на всех выживших континентах.

СИСТЕМА милосердна. С её подключением в мире прекратились голод, войны и эпидемии. СИСТЕМА сама регулирует численность элементов, полностью исключая перенаселение.  У каждой пары- один ребёнок. В тоже время, система одобряет беременность и рождение второго и третьего: ей нужен материал для саморазвития и дальнейшего строения.

СИСТЕМА милосердна. Она сама выбирает по генотипу идеальную половину, тем самым избавляя подопечных от ненужных проб и ошибок. От переживаний и устаревших, никому не нужных эмоций, которые могут отразиться на работоспособности элементов.
 
СИСТЕМА контролирует биение каждого сердца, чистоту каждого пульса, давление и работу внутренних органов. При сбое их работы- неполадки устраняются. Так или иначе. В зависимости от неполадок в организме рабочего элемента. От его возраста и изношенности деталей: СИСТЕМА знает два пути решения проблемы.

СИСТЕМА милосердна. Она лояльно относится к бунтарям, давая подопечному ещё один шанс путем вживления в голову микрочипа, отключающего лишние эмоции и желания. Путем перевода на нижние этажи. Таким образом, выбившийся из системы элемент становится послушен и полезен, способен трудиться и приносить пользу разветвлённому и сложному порядку построения самой СИСТЕМЫ.
      
СИСТЕМА милосердна. Она избавила своих подопечных от необходимости общаться устарелыми словами, от обучения ненужной и лишней информации, как это было в прошлом. Она контролирует и дозирует количество произнесённых слов. Рекомендует сократить ненужную трату психической и физический энергий на общение. Рекомендации выполняются.

 Сейчас Ми войдет в свою комнату, сядет за стол, и СИСТЕМА подключится к ней и станет заботливо давать необходимые знания, строго их дозируя в зависимости от возраста, пола, и потенциала обучаемого. Знаний будет ровно столько, сколько девочка сможет усвоить за один раз. Затем- лента развлекательной инфы, и снова обучение.

 И так до того момента, как от СИСТЕМЫ не придет сигнал о необходимости принятия пищи. Ми позволено будет встать со стула и покинуть комнату. Посетить туалет и пройти на кухню. На столе девочку будет ждать обед. Стакан жидкости и три разноцветные капсулы: первое, второе и третье. Все капсулы пронумерованы, и должны приниматься в строгом порядке нумерации.

А что будет, если сначала проглотить номер второй?
Девочка протянула руку и взяла выше обозначенную продолговатую капсулу, тут же ощутив болезненный укол индикационного браслета, высветившего вторую темную полосу.  Болезненный укол. Резкий звуковой сигнал. Нахмуренные брови ма, которая застывает на миг, получает сигнал Системы, позволяющей ей погрозить пальцем и придвинуть к девочке капсулу под номером один.

-Почему? Почему я не могу поменять очередность?
СИСТЕМА милосердна. Она сама принимает все необходимые решения, избавляя несовершенный человеческий мозг от ненужной нагрузки. Тебе не нужно думать и что-либо менять. СИСТЕМА сама решает очерёдность принятия питательных веществ в наиболее целесообразном порядке.
-Я съем и первую! Но я хочу сначала вторую!

Вновь укол, звуковой сигнал. На этот раз-более громкий. Резкий.  Тревожный. В другое время Ми испугалась бы и отступила, послушно приняв решение СИСТЕМЫ. Но сейчас её мучил этот простой вопрос, разбудивший так долго дремавший бунтарский дух юности.
Ма замерла, а потом строго посмотрела на дочь, и указала на стену кухни: картинку природного окна стала быстро сменять бесстрастное лицо диктора, строго рассказывающего о милосердии СИСТЕМЫ.

 СИСТЕМА милосердна. Она позволяет своим рабочим элементам расти, жить и работать в безопасности, т.к. за пределами СИСТЕМЫ- смерть! СИСТЕМА полностью автономна, и может обойтись без рабочего биоматериала. Человек- нет. Но СИСТЕМА, путём старых проб и экспериментов, позволяет пользоваться предоставленными благами, даёт работу, взамен устанавливая свои правила.

-Я не прошу две вторых капсулы! Я хочу просто поменять очерёдность!
Снова укол и тревожный звук сигнала, но заупрямившаяся девочка даже не посмотрела на тревожно чернеющие и растущие в количестве полосы браслета. Она хотела получить ответ на свой вопрос, и не принимала наказания за то, чего не делала.

СИСТЕМА милосердна.  СИСТЕМА должна скоро разобраться в происходящем. Она уже отключила ма от функции передвижения, и теперь на её смотрит остановившимися глазами ма, и слушает. Пусть СИСТЕМА знает, что это не бунт. Это просто любопытство. Бунт запрещён. Она, Ми об этом знает. Поэтому, она никогда не потребует у СИСТЕМЫ сверх положенного одному растущему элементу. Она просто хочет понять, почему её решают права выбора на такое простое действие.

 Всё это девочка торопливо выдала, путаясь от волнения в бедном запасе словесных сокращений, и не находя определения многим своим ощущениям и желаниям. Она вспомнила ба, которая даже могла рассказать СКАЗКУ.
-Я хочу сказку!
 Панель неожиданно мигает и загорается красным. Ноги отказывают Ми, и она падает на пол, теряя сознание.

СИСТЕМА милосердна. В ней не бывает сбоев. Но сейчас СИСТЕМА ошибочно решает, что это- именно бунт растущего элемента. Такие милосердной СИСТЕМЕ не нужны.
  Через определённый отрезок времени, прошедший для ма, как один миг, ей вновь подключают двигательные и прочие функции. Она видит свою Ми, несколько изменившуюся. С другим цветом волос. Но эта информация очень быстро стирается из её памяти, замещаясь новым файлом закачанной информации: ма не должна узнать, и тем более догадаться, что это не её дочь, а совсем другая девочка. На руке девочки браслет с одной темной полоской.
 
-Здравствуй. Ты носишь стандартное имя Ми? Хочешь, мы назовём тебя Миленой, Мирабели? А может быть, Марией? Или, Милорадой? Ты можешь выбрать, - склонившееся над девочкой женское лицо, лишенное привычной гладкости, изборождено мелкими морщинками, но выглядит совсем не злым и совсем не страшным. Глаза глубокие и добрые, а взгляд совсем не застывший. Он живой и очень эмоциональный. Головная боль мешает вспомнить о происшедшем, но правая ладошка девочки уже нащупывает левое запястье, и не находит на нём чего-то привычного и неотъемлемого, носимого с самого рождения.
 
-Я могу выбрать? – вяло удивляется растерянная девочка, которой после смерти ба не приходилось слышать такого потока слов.
-Да. Какое тебе больше нравится.
-Милорада, - шепчет девочка, осматривая окруживших её людей, и небольшое помещение со столом и рядом узких коек, расположенных друг над другом, - кто вы? Где я?

-Мы-  те же, кто и ты. Те, кто захотел воспользоваться правом выбора. К сожалению, таких становится всё меньше, Милорада. Добро пожаловать к нам, изгоям!
-Милорада, - девочка серьёзно кивает, пробуя на вкус своё новое имя, и неожиданно улыбается, осознавая, что её новое имя несёт в себе частичку радости.

 Настоящей Ми милосердная СИСТЕМА даёт второй шанс, переведя её в экспериментальную общину низшего уровня, т.е. первого этажа. Там нет браслетов и чипов, а обучение ведётся посредством примитивных устаревших средств, т.е. через истрёпанные книги. и запрещённые на высших уровнях полные словесные символы. Ещё в экспериментальной общине есть теплица, позволяющая самим выращивать и готовить еду. Выращивается даже одежда из растений, путем долгого и кропотливого процесса прядения из растительных волоков нити, с последующим ткачеством. В этой общине несколько семей и по трое детей в каждой.

Здесь даже можно побегать и поиграть, и вездесущая СИСТЕМА не упрекнёт за это. Не предупредит о нерациональном расходовании физической энергии и пустом проведении времени. Здесь есть настоящие окна, и день общины отмерен восходом и закатом солнца. Непривычно, что пейзаж за окном не сменяется ежедневно, а являет однообразие заснеженных голых скал. Но так не всегда. Ей объясняют, что когда приходит весна, склоны покрываются зеленью и желтыми цветами. Их название утеряно людьми, но сохранено на страницах ветхих книг. Когда они выйдут, то смогут определить их название. Если, смогут. 

Иногда девочка видит пролетающих птиц, а это значит, что Земля выжила и на ней сохранилась жизнь. Когда-нибудь, когда она вырастет, то найдёт путь туда. На волю.  Милораде ещё ко многому предстоит привыкать. Тут непривычно, но девочке тут нравится. И главное, что у неё теперь есть бабушка, которая перед сном рассказывает самые настоящие сказки.