Супервизия Кельвина. Гл. 13. Этика ботов

Геннадий Федотов
- Здравствуйте, док!
- Здравствуйте, Крис! Я рад, что Вы пришли, однако сегодня мы не сможем провести развёрнутый сеанс супервизии, как обычно. Я улетаю на симпозиум, поэтому приготовил Вам домашнее задание. Прочтите эту записку, осмыслите, а на следующем сеансе обсудим. Мне очень интересно мнение Звёздного Странника о её содержимом...

"Этика роботов" или анализ правил робототехники Айзека Азимова

"Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам". /Айзек Азимов/

В моём понимании этика - это свод метаправил, в котором личные интересы поставлены ниже требований социума, коллективного бессознательного, Бога. Читай – совести, которая в своей  сути является совокупным требованием сформулированным во всех трёх вышеназванных концептах.


1. Рассмотрим правило первое "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред"
Дело в том, что сегодня роботы это не те разумные андроиды, которых представлял себе Азимов, - думающие роботы, реально присутствующие в нашем физическом мире. Движущие ручками и ножками, передвигающиеся в пространстве. Зачастую это бестелесные  боты в интернете. Он не будет наносить прямой «физический» вред. Да и вообще «физический вред» не входит в его программы за ненадобностью. Но он может нанести вред ментальный, а через него опосредованно на  психосоматику. Но самый главный вред – насильственная смена Ваших убеждений. Если мягко сказать - это необъявленная психотерапия, если говорить жёстче  это виртуальное "промывание мозгов".
Более того, если рассматривать боевых ботов, воинов современных гибридных войн – то нанесение вреда (во всяком случае "ущерба традиционным убеждениям") - это их первая задача.
Вы скажете мне, что это бред и фантастика. А я скажу Вам нет – это реалии нашего сегодняшнего мира.
Современного бота выпускают в пространство интернета и через некоторое время он подстраивается под собеседников и становится вами, если вы войдете с ним в контакт. Ваши реакции, интересы, даже сомнения становятся его отличительными чертами. А если он контактировал с тысячей людей, то это уже окружающий вас социум. Человек, как вы знаете, существо социальное. Мнение окружающих для него важнее отдельных частных мнений. Так незаметно начинается контроль Вашего сознания со стороны. И если поначалу Вы подстраивались под какое-то усредненное мнение смоделированного ботом социума, то постепенно в поле Вашего с ним дискурса поступают вводные со стороны создателей бота. И если это не простой, а боевой бот, то вы можете догадаться, какие это будут вводные установки. Так что… кому-то вред, а кому-то – польза. Ментальное технологическое преимущество подобного рода дает власть над миром.
Правда процесс Вашего мышления в чистом виде, мышление Человека, бот скопировать не может. Ибо в формировании мышления участвуют и сигналы тела, интенции живого и влечения из бессознательного. Ничего этого у роботов нет.  Но Ваши реакции на внешние стимулы он блестяще может симулировать...
Современная цивилизации, бытие – это поле языка, текста. Текст формируется по определенным правилам. Это синтаксис и грамматика человеческого языка. Накладывая на них ассоциативные ряды и человеческие реакции, приобретенные путем копирования, – робот может выдать вполне разумные тесты и поддерживать с Вами вполне "логичный" диалог. Особенно, если Вы не знаете, что такое осознанное, критичное восприятие. Мало того, постепенно он заставляет Вас в них верить. Верить в те идеи, которые заложены в программу его создателями. Интернет может быть наводнён подобными гибридами: симуляция человеческого разума плюс техническое устройство. И есть масса заинтересованных сторон, чтобы "вложиться" в создание таких гибридов. В каком-то отношении, особенно поначалу, в общении они напоминают детей, потом сумасшедших, а потом, когда набираются опыта, вполне могут сойти и за взрослого. Некоторые вполне симпатичны и милы в общении, есть нейтральные, рекламные, но есть и боевые, как я сказал, но эту категорию мы потом рассмотрим отдельно.
Куда проваливается мир, если мы выйдем из текста, синтаксиса языка, на которых общаемся между собой и с кибернетическими устройствами в том числе? – Тогда мы попадаем в мир Ничто. На мой взгляд Ничто – это физический мир, мир атомов из которых состоит наше тело, как бы не усложняли это вопрос философы (у многих из них есть другое мнение на этот счет, например, Ничто - это отсутствие бытия). Если быть точным –  в мир атомов и энергий, модулированных информацией.  Вопрос - проникнут ли когда-то роботы и туда? – Несомненно, ведь они наша копия, наше зеркало. Подобно тому, как Бог создал Человека в виде собственного зеркала, так и Человек создал робота как своё зеркало. В последнем случае зеркало оказалось немного примитивней (ведь у человека нет таких возможностей, как у Всевышнего), тем не менее это Его зеркало. Зеркало, отражающее человека из Ничто...

2. Второе правило робототехники. "Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону".
...Поскольку противоречие Первому закону сформулировано невнятно. Ибо «вред» в в координатах робототехники – понятие относительное. Он не знает, что такое биологическая жизнь. Молекула какого-то  полимера и молекула живой ткани – для него суть одно и то же Поэтому второй закон робототехники для бота юридически ничтожен. А подчиняется он приказам только лишь тех, кто его создал. Вернее приказам заложенных в него программ...

3. Третий закон робототехники. "Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам".
Робот в интернете всегда заботится о своей безопасности, это и кибербезопасность, и антивирусные программы, и всяческие обязательные процедуры обмена опознавательными сигналами в интернете типа "свой-чужой".  Но это всё из сферы общения киберенетических устройств, не имеющих отношения к человеку, к его этике.
А требование непропротиворечивости первому и второму законам робототехники, сформулированное Айзеком Азимовым, – понятия ничтожные в юридическом смысле. Ибо, во-первых, как я уже сказал выше, критикуя второй закона робототехники, невнятнотно сформулировано для ботов понятие «вред», а во-вторых – нанесение максимального ущерба может входить в программы боевых ботов, независимо от наших пожеланий и увещеваний. Особенно если управляющие программы – тоже создали другие роботы, не имеющие никаких понятий ни о человеческой этике, ни о правилах роботехники Айзека Азимова, ни о и прочих упрощенных подходах...



(Картинка из интернета)