Железная логика

(фантастический детектив)

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму закону.

Законы робототехники


- - -

Раньше я любил смотреть на звезды. Знаете, бывают такие ночи, когда нет ни облачка и рядом нет фонарей и тогда видна каждая звездочка. Наши дневные проблемы кажутся простыми и даже смешными, ты ненадолго вновь становишься ребенком, а звезды снова становятся заманчивыми и загадочными игрушками.

Так было, пока я не подрядился работать на этом трижды проклятом астероиде. Здесь СЛИШКОМ много звезд. Я уже смотреть на них не могу: куда ни глянь – только железо и звезды
Добываем мы железную руду, точнее – химически чистое железо. Слово «руда» – дань традиции, когда полезные ископаемые добывались только на Земле. Как мне объясняли – «руда» на каком-то языке означает «красный», потому что на Земле природное железо образует гидроокислы бурого или красного цвета – отсюда и название. Говоря, что мы добываем руду я, конечно, хочу сказать, что мы командуем роботами. Мы – это я и мой напарник Абранс.
Чтобы вы поняли в какой… в смысле, как здесь непросто, расскажу, что из себя представляет наш астероид. Он вращается вокруг Солнца по умеренно вытянутой эллиптической орбите, период обращения составляет три года. Один раз в одиннадцать лет он подлетает достаточно близко к Земле, чтобы до него могли добраться грузовые транспорты. Само собой, люди не могут прожить на куске металла целых одиннадцать лет, поэтому смена персонала происходит, когда астероид проходит через перигелий. Вы скажете: «три года не так уж и много, если учесть, сколько денег вы загребете». Тут я вам отвечу: вы ошибаетесь! На астероиде время р-а-с-т-я-г-и-в-а-е-т-с-я. Вы помните, какое долгое было лето в детстве? Казалось, оно не кончится никогда. То же происходит и на астероиде. Если кто-то жалуется, что жизнь быстротечна – прошу пожаловать сюда!
Кроме звёзд в нашем мире есть еще железо. Всё, до чего мы можем прикоснуться, сделано из химического элемента феррум. Что неудивительно, если учитывать, что железо единственный строительный материал на ближайшие миллиарды километров. Еще менее удивительно, что Абранс невзлюбил железо, как я возненавидел звезды. Что ж, каждый сходит с ума по-своему. Но если звезды находятся на безопасном удалении, то несчастным железякам, нелюбимыми Абрансом, часто доставалось. Он как мог, вымещал на них свое плохое настроение. Возможно, с точки зрения поддержания нервной системы в норме, это неплохо, но астероиду приходилось туго. Особенно в смены Абранса. Странно, но на норме выработки это никак не отражалось: когда мы подводили итоги за очередную сотню земных суток, оказывалось, что мы с Абрансом, точнее наши смены роботов, выдавали на-гора приблизительно равное количество руды.
Хотя мы и не расшибались в лепешку, чтобы опередить друг друга, но дух соперничества был крепок. Возможно из-за заложенного в человеке упрямства, а может, оттого что в нашей ситуации такое соревнование было единственным развлечением. Поэтому, когда в одну прекрасную смену я принимал роботов и обнаружил, что одного из них не хватает, то сперва решил что это какое-то жульничество со стороны Абранса. Вскипев от негодования я вызвал его:

- Портер, ты ведешь нечестную игру! - выкрикнул я в запальчивости. – Где робот номер 13?
- Чего?! – отозвался Абранс. По его тону я сразу понял, что мои предположения безосновательны. – Какой еще 13-й?
Я еще раз пересчитал роботов и снова воззвал к Абрансу:
- Одного не хватает. Сейчас буду разбираться.
Я осмотрел выстроившихся в шеренгу роботов. На месте 13-го зияла дыра. Я скомандовал:
- Разворачиваемся и бегом обратно в шахту!
Чем хороши роботы – они не задают ненужных вопросов. Не успел я отдать распоряжение, как все они покатили в забой. Я едва успевал за ними. Не прошло и пары минут, как мы были на месте.
- Искать 13-го! – распорядился я
Роботы рассыпались по штольням и очень скоро я услышал сигнал тревоги. Когда я примчался на место, то понял, почему 13-й не вернулся на базу. Что-то прижало его к изломанной стене туннеля и протащило несколько метров. Несчастный 13-й стерся как мелок об асфальт, его металлические потроха вывалились из распоротого брюха и блестели на черной железной стене. Издали могло показаться, что по стенке прополз гигантский слизняк.
Когда долго живешь среди роботов, начинаешь воспринимать их как живых существ, поэтому при виде останков 13-го меня слегка замутило. Пока я отходил от шока, подоспели все остальные роботы и окружили нас стальным полукольцом. Слегка опомнившись, я попытался представить, какая сила могла расплющить несчастный механизм. Думать, впрочем, долго не пришлось. Единственными движущимися предметами на астероиде были роботы. Значит, виновника следовало искать среди них.
Тогда я решил, что дело не стоит выеденного яйца. Поскольку роботы подчиняются трем основным законам, из которых Второй гласит, что они должны выполнять требования человека, я решил опросить по очереди каждого из них, не он ли придавил 13-го. За свою безопасность я не опасался – гарантией ей был Первый закон. Сказано – сделано. Я прочистил горло и свирепо спросил:
- № 1-й, ты разрушил № 13?
- Нет! – отчеканил № 1-й.
- № 2-й,  - не давая роботам опомниться, продолжил я, - отвечай: ты разрушил № 13?
- Нет! – молодецки гаркнул №2.
И пошло: «№ 3-й, отвечай…». «Нет!», «нет!», «нет!» - бодро отвечали мне роботы. Перевалив за середину списка, я почувствовал беспокойство. Вполне вероятно было ожидать, что виновник уже должен был обнаружиться, однако этого все еще не произошло. Что-то было не так. Наконец предпоследний робот сказал «нет». Я остановился. Воцарилась тишина. Меня вдруг забила нервная дрожь, потому тут я понял, что последний, 21-й робот оказался у меня за спиной. Что может выкинуть свихнувшийся робот, трудно даже представить.
- 21-й, это ты сделал!? - выкрикнул я, поворачиваясь и отпрыгнув в сторону. – Отвечай, ты разрушил 13-го?
Вопреки моим ожиданиям 21-й не кинулся на меня, размахивая манипуляторами. Он спокойно стоял на месте и, как и остальные роботы, ответил:
- Нет!
Мне показалось, что у меня что-то не то со слухом. Законы робототехники рушились на глазах. Роботы не должны лгать, 13-й был уничтожен кем-то из них – следовательно, один из роботов нарушил Закон. Я ещё раз оглядел шеренгу неподвижных механизмов. Необходимо вычислить дефектного робота, пока ещё он не дошёл до нарушения Первого закона.
Я связался с Абрансом.
- Плохо, - только и сказал он, выслушав мои выводы. – Надо загнать их в боксы, пока они повинуются. А потом будем разбираться.
К моему облегчению роботы, не выказывая ни малейшего неповиновения, дали запереть себя в своих стойлах. Отключив у последнего из них питание, я обессилено ввалился в жилые помещения.
- Ну и набрался я сегодня страху, - пожаловался я Абрансу. – Как бы побыстрее выяснить, который из них свихнулся?
- Это мне раз плюнуть, - самонадеянно заявил напарник. – Сегодня же протестирую всех их и найду неисправного.

- - -

Ночью мне приснился кошмарный сон, как будто все роботы взбунтовались и гоняются за моим вездеходом по штольням. Куда бы я ни свернул, везде в свете фар я видел блеск хищно распростертых забойных инструментов и, в конце концов, один из них схватил меня манипулятором. Я едва не сошёл с ума от ужаса, а, когда проснулся, оказалось, что это Абранс трясет меня за плечо. Вне себя от счастья я обругал его самыми грязными словами. Впрочем, Абранс не обратил на них никакого внимания: он был чем-то сильно озабочен.
- Дела хуже некуда, - заявил он, - тесты показали, что все роботы исправны.
Я посидел, осмысливая сказанное.
- Ты хочешь сказать, что роботы научились врать?
- Может быть, дело в каком-то излучении, которое медленно но верно портит их мозги? – предположил Абранс. – Я не сказал еще вот о чём: в последнюю смену, когда я ехал на вездеходе, меня вдруг развернуло на 180 градусов. Я тогда подумал, что барахлит сцепление, дал задний ход, но вездеход неожиданно пришел в норму. Я собирался разобраться, в чем тут дело, когда приеду домой, но потом стало уже не до того. А теперь мне кажется, что дело в электронике. Может и с вездеходом происходит то же самое.
Может быть. Я промолчал, но за завтраком мои мысли пошли совсем в другом направлении. А что если все роботы действительно исправны? 13-го раздавило что-то движущееся, но я ошибочно предполагал, что движутся на астероиде только роботы и совсем забыл про наши вездеходы. Что если Абранс сам раздавил робота? Может его железобоязнь прогрессирует? Я застыл с поднятой ложкой. Абранс уловил мой взгляд.
- Что случилось? – подозрительно спросил он.
Я лихорадочно обдумывал ответ.
- М-м… Знаешь, мне пришла одна идея. Я активизирую мозг одного из роботов и поговорю с ним. Знаешь… вот… задавая логические вопросы, можно определить причину неисправности. Нам о таком рассказывали в училище, - врал я на одном дыхании.
Как ни странно, уловка сработала. Абранс не возражал и только заметил с иронией:
- Ну-ну! И не забудь сказать ему, что он имеет право на адвоката.
Пока Абранс не передумал, я пробрался в бокс, где стоял 21-й робот (тот самый который напугал меня в прошлый раз), подключил его мозг и начал допрос:
- 21-й, ты знаешь, что должен выполнять все человеческие приказы?
- Да, - без запинки ответил робот.
- Хорошо. Тогда говори правду: это Абранс раздавил 13-й номер?
С роботом что-то произошло. По индикаторам пробежала рябь красных огоньков, но все же он, после почти незаметной паузы, ответил:
- Нет.
Я со злостью грохнул кулаком по железной стене. Пока рука отходила, я обдумывал ситуацию. Возможно, Абранс на самом деле не виноват, но тогда почему тест не выявил неисправного робота? А вдруг, пока я спал, Абранс стёр из памяти роботов всё, относящееся к произошедшему и теперь он чист, как ангел. Как из множества разрозненных фактов сделать логически верный вывод? В такой запутанной ситуации разобрался бы, пожалуй, только Шерлок Холмс, окажись он на астероиде.
Тут я взглянул на 21-го, который молча ожидал моих приказов, и меня осенило: вот готовый Шерлок Холмс! Конечно, робот предназначен для горнодобычи, но кто сказал, что он не может решать логические задачи?
- 21-й, придется тебе пошевелить мозгами. Условия задачи…
И я принялся рассказывать всё, что могло иметь отношение к гибели №13. Рассказал даже про нелюбовь Абранса к железу и про наше соперничество по нормам выработки. Робот молча слушал, и только изредка вспыхивающие в полумраке индикаторные огоньки говорили о том, что идет процесс запоминания. В конце концов, я наговорил столько, что уже не мог вспомнить: рассказывал ли я уже об этом или еще нет, и почувствовал себя последним ватсоном.
«Сейчас произойдет чудо» - подумал я перед тем как дать 21-му заключительную команду.
- Теперь определи, кто раздавил робота №13?
Я замолчал в ожидании ответа. №21 тоже молчал. Внутри него, вероятно, шёл сложный вычислительный процесс, но внешне он никак не проявлялся, только иногда на контрольном щитке вспыхивали индикаторы перегрузки. Я присел – неизвестно, сколько придется ждать. Мозг робота оптимизирован для других задач. При расчете движения по неровной поверхности или оценке ситуации и степени опасности он обладает чудовищным быстродействием, но загадки, какими на переменах балуются школьники, могут поставить его в тупик.
Мои раздумья прервал сигнал тревоги. Я подскочил к 21-му и присвистнул – на табло мерцали слова: «Операция прервана. Нарушение Первого закона.»
- Ты, тупой комбайн! - я стукнул здоровой рукой по стальному корпусу робота. - Объясни, какой вред ты можешь мне причинить?
21-й растерянно мигнул индикаторами и собрался было ответить, но снова поперхнулся Первым законом.
Я отключил питание и в который уже раз за последние сутки серьезно задумался. Начнём сначала. В начале следствия собирают вещественные доказательства на месте преступления. Придя к такому выводу я сел на вездеход и поехал к месту аварии. Вскоре фары вездехода осветили бренные останки №13. Остановив вездеход так, чтобы его прожекторы освещали место происшествия, я медленно подошел к мертвой машине. Смерть застигла 13-го во время работы и набор манипуляторов, который обычно складывается в специальные ниши, был судорожно задран вверх. Нескольких инструментов не хватало, они были обломаны под корень. Я огляделся вокруг, ожидая увидеть, что они валяются где-то неподалеку, но ничего похожего не увидел. Странно, не роботы же их утащили. Я прошёл вдоль стены, по которой размазались кишочки 13-го и, наконец, нашёл что искал. Недостающие инструменты торчали в своде туннеля – 13-й как раз собирался обрушить очередную глыбу. Технология добычи железа очень проста: робот находит место, где монолитность железа прерывается прожилкой камня и забивает туда клин. Потом рядом – следующий клин и так далее, пока кусок не отваливается. Я посветил фонарем, чтобы определить размеры глыбы – её было опасно оставлять в таком положении. Каменная полоска тянулась по потолку прохода. Я пошел вслед за ней, но она всё не кончалась. На всем протяжении в ней через равные промежутки виднелись следы от клиньев оставленные, очевидно, всё тем же 13-м. Я представил, как он радовался, вбивая эти клинья. Еще бы – ведь он вот-вот должен был добыть самый большой кусок железа за всю историю разработки. Скорее всего, стремление отделить глыбу побольше, зашито у них в памяти. Наконец я добрался до конца прожилки, оглянулся назад и ужаснулся: если бы этот тупой трудоголик сумел бы обвалить такую титаническую глыбу, то придавило бы всех находящихся в туннеле. Так что того робота, который уничтожил 13-го, прежде чем тот успел раздавить всех остальных, нужно не ремонтировать, а наоборот – орден ему на корпус приварить!
Из всего увиденного следовал очередной несокрушимый вывод: 13-го раздавил не Абранс. Если бы Абранс увидел, что собирается делать 13-й робот, то он попросту остановил бы его командой. Значит, это сделал робот – сработал Первый или Третий закон – в зависимости от того, где находился Абранс в тот момент. Но почему ни один робот не признался? По дороге на базу я чуть не свихнулся от раздумий, но так и не нашел ответа. Поставив вездеход на стоянку я уже собрался зайти в шлюз, но тут заметил нечто странное на вездеходе Абранса, стоящим бок о бок с моим. Я подошел поближе и не поверил своим глазам: в щели между бронепластинами застрял обломок клешни робота. У самого слома виднелась цифра «13».
Я устал от загадок, к тому же у меня кончался кислород. Да и будь даже у меня неограниченный запас кислорода, пищи и воды, разве удастся мне на астероиде бесконечно прятаться от Абранса. Поэтому я сам решил найти его и поговорить начистоту, а в случае, если он вдруг сошел с ума и нападет на меня, то и убить его. В такой ситуации это будет расценено как простая самозащита.
Вооружившись самым большим гаечным ключом я вошел внутрь базы и бродил по помещениям до тех пор, пока не встретил Абранса. Он сразу почуял что-то неладное.
- Признавайся, - зловеще сказал я, - ведь это ты придавил 13-го?!
- Тихо! Спокойно! – забормотал Абранс, поглядывая на мой гаечный ключ. – Что на тебя вдруг нашло?
- Я всё знаю, меня не обманешь! – ответил я и показал ему обломок клешни 13-го. – Вот что я нашёл на твоём вездеходе.
- На вездеходе? – выдавил из себя Абранс.
- Не изображай невинность, - окончательно рассердился я. – Ты сам прекрасно всё знаешь. 13-го раздавил твой вездеход.
Абранс стукнул себя кулаком в лоб:
- Так вот в чём дело! Это многое объясняет. Видимо я действительно придавил 13-й номер, но случайно. Я даже не заметил этого. Помнишь, я рассказывал, что вездеход потерял управление? Наверное, тогда всё и произошло.
- А ты и не заметил… - издевательски посочувствовал я.
- Клянусь тебе! – воскликнул Абранс. – К концу смены от мелькания роботов уже голова кругом идет. Да что я рассказываю – ты и сам прекрасно знаешь, как они любят кидаться чуть ли не под вездеход. А в том месте вообще было сплошное мельтешение из манипуляторов.
Выходило складно, но у меня оставался козырь в запасе. Я рассказал, что 13-й, аккурат перед гибелью, собирался обрушить пол-штольни. Если Абранс не знал об этом, а вездеход под ним, случайно, именно в этот момент, потерял управление и расплющил 13-го, то теперь Абрансу, с таким невероятным везением, следует зарабатывать на жизнь игрой в каком-нибудь казино.
- Вот так! Слишком счастливое стечение обстоятельств, - подытожил я. – Скорее всего, дело было так: в последний момент ты обратил внимание на то, чем занимается 13-й и ты, то ли перепугался и не сообразил, как его остановить по-другому, то ли разозлился на него и, учитывая твою нелюбовь ко всему железному, сгоряча переехал его. Но потом поостыв, подумал, что так ведь и с твоих денег могут стоимость 13-го удержать. Поэтому ты собрал всех роботов и потихоньку смылся: дескать, знать ничего не знаю и пусть с этой историей сменщик разбирается!
Абранс ненадолго задумался.
- Послушай теперь меня, - он показал один палец. – Первое: выход вездехода из-под контроля как-то связан с тем фактом, что 13-й собирался похоронить всех нас в том туннеле. Второе: я тут не при чем! И третье…
Абранс повысил голос, чтобы заглушить мое скептическое хмыканье и выставил третий палец:
- Третье: вездеход неразумен. Он не мог понимать, что действия 13-го несут в себе угрозу. Сделать такой вывод могло только разумное существо. Кто на астероиде кроме нас с тобой обладает интеллектом?
Абранс выдержал эффектную ораторскую паузу.
- Роботы! – закончил он.
- Роботы, - задумчиво согласился я. – Но как? Каким образом? Роботы не могут перехватить управление вездеходом.
- Предлагаю осмотреть вездеход, - ответил Абранс. – И убери куда-нибудь свой дурацкий гаечный ключ. Мало того, что ты намеревался меня им убить, так он еще и железный.

- - -

Осмотр вездехода показал, что тот исправен, но Абранс был преисполнен решимости выяснить истину.
- Этого следовало ожидать. Нужно допросить роботов.
- Уже спрашивал, - сказал я, - они всё отрицают.
- Существует Второй закон, - настаивал Абранс, - они должны будут сказать правду.
Ближайшим был бокс с №21. Проснувшийся робот беспокойно ворочал камерами, переводя их с Абранса на меня.
- Скажи-ка, приятель, - задушевно спросил робота Абранс, - ты знал, что №13 собирался обвалить такую большую-большую глыбу?
- Да, - покаянно ответил 21-й.
Абранс торжествующе взглянул на меня.
- И что тогда могло бы произойти?
- Абранс и роботы номера 3, 5, 6, 18, 19, 20, 21 оказались бы придавленными ей.
- А почему этого не случилось?
Робот икнул, а на панели вспыхнула уже знакомая мне надпись: «Нарушение Первого закона». Мы с Абрансом синхронно ругнулись.
- Ну ты, законник! – не выдержал я. – Если ты так твердо усвоил Первый закон, объясни нам, почему ты ничего не предпринял для спасения Абранса?
- Я предпринял, - неожиданно ответил №21.
- Что? – хором воскликнули мы.
- Я произвел действие в результате которого вездеход Абранса развернулся и не дал 13-му закончить работу.
- Так и чешет, как протокол читает! – восхитился Абранс. Я спросил 21-го:
- Значит это твоя работа? Но как тебе удалось? Частота вездехода защищена от роботов. Как же ты развернул вездеход? Почему не обратился к Абрансу? Почему, наконец, сам не протаранил 13-го?
- Я обращался к Абрансу, но ответа не получил.
Абранс виновато развел руками:
- Видимо отвлекся на что-то другое. Я уже рассказывал, что там творилось.
21-й подождал, когда Абранс закончит, и продолжил:
- Я не мог подъехать к №13, потому что путь был заблокирован другими роботами. Тогда я принял решение воздействовать на №13 вездеходом Абранса. Для этого я бросил небольшой кусок железа так, чтобы он попал между вторым и третьим катком правой гусеницы. В результате действия гусеницу заклинило и вездеход развернулся.
Мы с Абрансом ошарашено посмотрели друг на друга. Он сказал:
- Теоретически такое возможно, но какая же нужна точность…
- Он мог это сделать, - ответил я, вспомнив, как недавно размышлял о приспособленности мозга роботов к решению сложнейших задач по ориентации в пространстве. Одновременно я вспомнил, насколько они не приспособлены к решению задач, которые мы считаем простыми.
- Кажется я понял, почему 21-й не мог сказать, что 13-го раздавил твой вездеход, - сказал я Абрансу. – Он ошибочно предполагал, что раз в этот момент за управлением вездехода был ты, то вся ответственность за произошедшее лежит на тебе. Поэтому 21-й считал, что рассказав правду, он нанесет вред тебе, Человеку. Говорить всю правду ему не давал Первый закон, но на отдельные вопросы он отвечал со всей откровенностью. Первый раз я неправильно сформулировал вопрос, я спросил его: «это сделал ты?» Но ведь раздавил 13-го не он сам, а твой вездеход. Второй раз я спросил у него, не ты ли виновник и 21-й , повинуясь Первому закону, запрещающего роботу наносить вред человеку, ответил что не ты. Тем более, что фактически ты и в самом деле не виноват.
Абранс со смехом похлопал 21-го по гладкому корпусу:
- Молодец, товарищей продавать нельзя! Но если он сам себя считал виновником происшествия, почему в то же время выгораживал меня? По его логике я должен быть невиновным.
- По его логике – да. А по логике руководства корпорации? Первый закон гласит, что робот не должен нанести вред человеку. Но что такое «вред»? Программисты должны были заложить понятия вреда, иначе робот не мог бы определить границы вреда для человека. Например, с какой силой робот может пожимать человеку руку, чтобы не расплющить ее? И так во всех областях: физиологии, химии, психологии, механике, социологии... 21-й знает все внутрикорпоративные правила, и считал, что нанес бы тебе вред, потому что по этим правилам ты должен бы был возместить ущерб. Даже если бы он считал тебя виновным, то и тогда Первый закон стал бы для него серьезным тормозом.
Абранс еще раз погладил 21-го:
- Умная, хорошая машинка. Ну что ж, спасибо тебе за твои благие намерения, хотя мы чуть не поубивали друг друга из-за твоих понятий о чести и справедливости. Спокойной ночи, 21-й!
- Спокойной ночи, Абранс, - отозвался робот.
Мы отключили питание и вышли из бокса. По дороге Абранс спросил меня:
- Одного я не пойму - почему 21-й сам не сознался во всем?
Я улыбнулся:
- Элементарно, Ватсон. 13-й ведь погиб по его вине. С его точки зрения ему грозил демонтаж. Он сказал правду, только когда мы сами догадались и вынудили его признаться. А до тех пор – «робот должен заботиться о своей безопасности…» Третий закон.
-Железная логика! – сказал Абранс восхищенно.

Интересно, чью логику он имел в виду?