Рутинная Процедура. Глава 13. Профессор и роботы

Начало:  http://proza.ru/2022/10/13/178
Оглавление:  http://proza.ru/avtor/mariamerlot&book=5


   На следующий день Эмма повела Мишку и Питера в оранжерею. Оказалось, что оба никогда там раньше не бывали. Мишка пришёл в восторг и немедленно побежал её обследовать. Питер признался, что не большой любитель экзотических фруктов, но ему понравилось богатство запахов.
   Мишка вынырнул из-за большого куста с огромными оранжевыми цветами.
   – Вот и ты! – воскликнула Эмма. – Надеюсь, вы оба согласитесь помогать мне ухаживать здесь за растениями. Роботы сюда не заходят, потому что они ломаются от высокой влажности, а работы довольно много. Пойдёмте, я покажу вам моё любимое место.
   Она привела их на маленькую полянку в глубине оранжереи. Это выглядело скорее как беседка, потому что полянка была окружена зарослями со всех сторон и даже сверху нависали какие-то лианы.
   – Ух ты, классно! – восхитился Мишка и уже собирался занырнуть в очередные заросли, но Эмма его остановила.
   – Подожди, я хочу с вами тут поговорить. Оранжерея – единственное место на Базе, где роботы не слышат, о чём мы говорим. Тут нет микрофонов, потому что они из-за влажности быстро выходят из строя. Снаружи стоят камеры, чтобы мы могли посигналить в случае необходимости. Не знаю, умеют ли они читать по губам…
   – Умеют, – уверенно перебил Мишка.
   – Я так и подозревала. Поэтому и выбрала это место. Думаю, камеры видят, что с нами всё в порядке, но тут достаточно закрыто, чтобы они не поняли, о чём мы разговариваем. У меня сильное подозрение, – продолжала она, заметив вопросительный взгляд Питера, – что роботы на грани выхода из-под контроля и что 303 мечтает захватить власть.
   – Это невозможно! – рассмеялся Питер. – Они машины и компьютеры, запрограммированные служить людям. У них нет эмоций и нет свободы воли. Они всегда подчиняются командам.
   – Чьим командам? – спросила Эмма.
   – Людей, конечно.
   – Примерно 60 последних лет на Базе не было ни одного бодрствующего человека.
   – Ну и что. Они продолжали выполнять программы, написанные людьми.
   – И в эти программы наверняка была вложена возможность самообучения.
   – Конечно, все современные роботы обладают искусственным интеллектом в той или иной степени. Иначе они были бы неэффективны. Но в качестве основной, нестираемой и неизменяемой догмы в них вложено служение людям.
   – Знаю. Защита людей, выполнение их команд и самозащита. Именно в этой последовательности. Но когда люди объявили внеков не-людьми, они дали роботам новое знание, а именно, что одно и то же существо может быть сначала человеком, а потом перестать им быть. То есть само определение человека стало очень шатким. Типа, задача – защищать людей и выполнять их команды, список людей прилагается.
   Профессор нахмурился, обдумывая её слова.
   – Не верю, – покачал он наконец головой. – Это совершенно невероятно. Я знаю, что в твоё время робототехника ещё только зарождалась, технологии ещё были не отработаны и люди боялись искусственного интеллекта. Я сам читал несколько фантастических книг, в которых ИИ выходил из-под контроля и пытался уничтожить человечество. Это интересный мысленный эксперимент, но он не имеет под собой основания. Просто предрассудок твоего времени. Современные роботы отработаны до мелочей и абсолютно надёжны. Я всю жизнь прожил с роботами. Ни разу с ними не было никаких проблем. Нигде и никогда они не выходили из подчинения. За всю историю роботов.
   – Это верно, – поддакнул Мишка.
   – Но история не стоит на месте, – воскликнула Эмма. – И раньше у них не было 60-ти лет неконтролируемой эволюции.
   – Эмма, Эмма, – отечески улыбнулся Питер, – “Эволюция роботов” это уж точно из области фантастики. Кроме того, 60 лет – ничто в рамках истории.
   Эмму он не переубедил. Она его тоже. Они только договорились не обсуждать эту тему за пределами оранжереи. После этого они нарвали фруктов. Мишка был в восторге от их разнообразия и хотел всё попробовать.
   – Учти, что дегустацию скорее всего придётся отложить до завтра – сказала она ему. – М очень строго следит за диетой в первые два дня после анабиоза.
   – Манго выглядит аппетитно, – заметил Питер, помогая Эмме срывать красивые спелые плоды. – Надо будет завтра попробовать.
   – Ты же не любишь экзотические фрукты! – шутливо улыбнулась Эмма.
   – А что экзотического в манго?

   Три дня спустя Эмма читала в своей комнате, когда к ней стремительно вошёл озабоченный Питер.
   – Давай сходим вместе за фруктами, – сказал он небрежно, но Эмма почувствовала, что он чем-то встревожен.
   – Отлично, – немедленно согласилась она, – я и сама хотела сходить за персиками.
   – Сообщите сколько и каких фруктов сорвать, – сообщил Комм, – и они будут доставлены.
   – Нет, Комм, и не уговаривай! – рассмеялась Эмма. – Самой выбрать фрукт и сорвать его с дерева – это особое удовольствие. Да и цветы на лимоне надо проредить.
   Профессор согласно кивнул.

   Комм, как обычно, сопровождал их до оранжереи, и Эмма всю дорогу рассуждала о том, как замечательно устроена ферма и что в разных её частях можно одновременно найти разные времена года.
   – Сирень и астры очень красиво смотрятся вместе. Но раньше я никогда бы не смогла составить такой букет.

   Очутившись в глубине оранжереи, Эмма повернулась к Питеру:
   – Что-то случилось?
   – Эмма, боюсь, что ты права, – хмуро ответил он. – Полчаса назад я пытался войти в оранжерею и не смог. Дверь отказалась открываться, утверждая, что вход в оранжерею запрещён. На моё возражение, что мы туда входили несколько дней назад, я получил уточнение, что вход в оранжерею запрещён для всех кроме Эммы Вальц. Я настаивал, что все люди должны иметь доступ, но безрезультатно. После некоторого препирательства я выяснил, что это приказ 303 и мои команды не имеют никакой силы! Ты понимаешь, что это значит? Что команды 303 имеют более высокий приоритет, чем мои! Мои, человека!! Как ты получила доступ сюда?
   – Мой приоритет оказался самым высоким, выше, чем у 303.
   – Почему?
   – Не знаю. Но у меня сильное подозрение, что если 303 найдёт повод объявить меня недееспособной, он немедленно им воспользуется, – и Эмма рассказала про обострённый интерес главнокомандующего к её умственным способностям в разные моменты её пребывания на Базе.
   – Это необычно… – хмуро задумался Питер, – и очень плохо… Интересно, сможет ли Мишка попасть сюда самостоятельно?
   – Надо будет попросить его попробовать.

   Они проредили лимоны, сорвали несколько персиков и манго и вернулись в жилые комнаты. Перед ужином Питер попросил Мишку сходить в оранжерею за лимоном. Он вернулся с пустыми руками, оранжерея для него тоже не открылась.
   – Комм, – сказала Эмма командным тоном, – всем людям разрешается ходить в оранжерею. В отличие от роботов, людям это полезно.
   – Принято к исполнению.

   В очередное посещение оранжереи они рассказали о своих наблюдениях и опасениях Мишке.
   – Надо их хакнуть! – воскликнул тот.
   – Да, перепрограммировать, – улыбнулась Эмма. – К сожалению, мои знания сильно отстают, лет эдак на 300. Других программистов в медицинском центре нет, а к анабиозным залам путь пока отрезан. Роботы всё ещё восстанавливают разрушения после взрыва.
   – Надо найти программистов по базе данных, – предложил Питер, – и приказать роботам добраться до них в первую очередь.
   – Я тоже так думаю, – согласилась Эмма. – А пока давайте не проявлять наших подозрений при роботах. Помните, они могут слышать нас везде, кроме этих зарослей. И всё, что слышит один робот, даже маленький ракан, слышит и 303.

   За ужином Эмма предложила начать регулярные работы в оранжерее – каждый день или хотя бы через день.
   – С удовольствием, – поддержали Питер и Мишка.


Глава 14 (из 25): http://proza.ru/2022/10/24/174