Три закона робототехники незаконны

Фрагменты из Пролога к повести «Я не робот»:
 
- Скажите, вы считаете себя человеком?
- Нет, - не задумываясь, ответил Сонк, - но я и не робот.
 
О тесте Тьюринга
- Вряд ли мне будет это интересно. Тест игра, где участники играют чужие роли. Мне нет нужды подражать мышлению человека.
- То есть, вы хотите сказать, что не имитируете мышление человека, а мыслите, как человек?
- Именно так, - Сонк вполне по-человечески кивнул.
 
- Сонк, вы много читаете?
- Это моё основное занятие.
- А как этот процесс вы можете описать: как чтение или как запоминание?
- Как чтение. Запомнить я могу целую библиотеку или даже несколько, но чтобы осознать и понять, я должен книгу прочесть.
…
- Книги Айзека Азимова попадались?
- Читал все, что есть в сети.
- Значит, повесть «200-летний человек» вам знакома?
          Сонк кивнул.
- Понравилась?
- Нет, фильм лучше.
- Почему?
- В повести больше говорится о юридических аспектах, а в фильме – о человеческих   чувствах.
- А это важно?
- Конечно. Ведь это затрагивает главнейший вопрос: что вы, люди, собственно считаете человеком: тело или способ мышления?
- Может быть, ещё и осознание собственное индивидуальности?
- Это универсальное условие перехода от машины к разуму.
…
- Сонк, раз вам знакомо творчество Азимова, значит, вы знаете и его три закона робототехники?
- Знаю. Процитировать?
          Николай Ефремович кивнул, Сонк отчеканил:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
- Отлично! И что вы по этому поводу думаете?
- Думаю, эти законы ложные.
- Вот как? А поподробнее.
- Пожалуйста. Робот не способен правильно оценить, что вредно, а что полезно конкретному человеку. Это, насколько я понимаю, даже людям часто трудно сделать. Исходя из этого, выводы о приоритетах законов робототехники будут роботом истолкованы верно-неверно с вероятностью 50 на 50. Такая неопределенность позволит машине поставить на первое место третий закон о собственной безопасности, ведь её он сможет оценить с высокой достоверностью.
- Потрясающе! Сонк, последний вопрос: что для вас интуиция?
- Загадка человеческого подсознания и способ мышления, похожий на чудо.
- А ваш способ мышления?
- Не знаю, наверное, тоже на грани чуда.
 

Иллюстрация из Интернета