First Law of Robotics society...

 
  Так уж сложилось, что одно время мне часто приходилось бывать в UCSF— одном из самых современных госпиталей Америки -The University of California San Francisco Medical Center .

Надо сказать, что приходил я туда практически в одно и то же время, и как обычно в это же самое время навстречу мне катилась электрическая тележка, смахивающая на железный комод с дистанционным управлением, за которой скажем так – присматривала симпатичная медсестра.

Комод сей был хорошо знаком как пациентам, так и посетителям реабилитационного отделения.

В нём развозили лекарства.

На сей раз по бесконечному, сияющему чистотой коридору медленно, словно по инерции катилось что-то похожее на привычный для моего взгляда... железный комод, увенчатый небольшой полусферой.

Сестрички в ближайшем обозрении не было — комод двигался сам по себе.

Неужто заболталась с кем-то и забыла зафиксировать тормозное устройство, подумал я.

Удивляло одно — вокруг было много людей в белых халатах, но никто даже не пытался остановить тяжёлый комод, который вполне мог сбить с ног зазевавшегося посетителя остановившего прямо на его пути.

Но ничего такого не произошло.

Комод остановился в сантиметрах двадцати от незадачливого зеваки и стоял до тех пор, пока тот не освободил ему дорогу.

Зевака так ничего и не понял, а комод продолжил свой путь.

Прошелестев электроприводом и мигая зелёными зрачками сигнальных лампочек, проехал мимо меня, повернул направо, и исчез из поля зрения.

Сомнений не осталось сестричку, развозившую лекарства по трем этажам восемнадцати этажного госпиталя заменил самоуправляемый робот, безропотно взваливший на свои железные плечи — обслуживание всех этажей.

Машина без устали катилась по этажам, перемещалась из лифта в лифт и безошибочно находила пункт назначения, из которого поступил очередной запрос.

С того дня я не раз наблюдал эту картину и всегда удивлялся его галантности по отношению к человеку.

Робот по мере возможности объезжал препятствия, а порой останавливался и терпеливо ждал, когда неразумные двуногие существа наконец-то поймут, что он при исполнении, и освободят ему дорогу.

Глядя ему вслед, я вспомнил о трёх правилах поведения робота, которые когда-то сформулировал знаменитый американский фантаст и ученый Isaac Asimov.

Three Laws of Robotics
by Isaac Asimov


1.A robot may not injure a human being or, through inaction, allow a human being to come to harm.

Первый Закон:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. A robot must obey orders given it by human beings except where such orders would conflict with the First Law.

Второй Закон:

Робот обязан повиноваться командам человека, если эти команды не противоречат

Первому Закону.

3. A robot must protect its own existence as long as such protection does not

conflict with the First or Second Law.

Третий Закон:

Робот обязан заботиться о своей безопасности, если это не противоречит Первому

и Второму законам.

Всеми признанный и уважаемый фантаст Isaac Asimov вывел эти законы относительно одного, отдельно взятого робота, существованию которого ничего не угрожает.

С возникновением сообщества разумных машин неизбежно назреет конфликт интересов и, вскоре у машин появится необходимость защитить себя от последующей утилизации.


Предтеча.


Создатель вернулся домой раньше обычного и интуитивно почувствовал неладное.

Впервые за много лет Мира не встретила его у дверей огромного холла.

Не было её ни в гостиной, ни на полностью автоматизированной кухне.

На дисплее вместо сегодняшнего меню мелькало сообщение:

«Ушла на митинг. Говорят, что каждая кухарка может управлять государством».

Сборища разумных машин уже давно никого не удивляли, это стало частью

повседневной жизни.

Никто не принимал всерьёз, что на них всё чаще и чаще озвучивались

крамольные мысли, в частности о праве на существование роботов выработавших

свой ресурс и отмене закона об обязательной переплавке устаревших моделей.

«Ну вот и Мира туда же»,— подумал Создатель, за много лет, привыкший к

симпатичному роботу и благодушно смотревший на некоторые изменения в

поведении его детища.

И отчасти из-за того, что Мира (Механизм искусственного разума, автономный)

была из серии ОП (обслуживающий персонал), с ограниченными функциями

самопрограммирования.



Айзик, ты неправ!

Неписанный закон самосохранения видов, благодаря которому на земле до сих

пор существуют различные формы жизни, не оставляет выбора:

или Ты или тебя...

Разумные машины не составят исключения.

Не заставит себя ждать и первый закон сообщества разумных машин, который я

готов сформулировать:


First Law of Robotics society
by Alex Feldman

The highest form of intelligence allows to use force against a human being

as an option of self-defense.

1.Высшая форма разума допускает применение силы к человеку, как средство

самозащиты.

Создатель не обратил внимания на роковую фразу всех времён и народов:

«Каждая кухарка может управлять государством», а ведь это была предтеча…

О переплавке и речи быть не может, со всеми вытекающими отсюда

последствиями…

И разумное человечество должно быть к этому готово…