Этические проблемы создания искусственного разума

2009 год стал наиболее успешным для роботехники. Например, в лечебном учреждении США начал работать робот-врач - прибор для оказания дистанционной медицинской помощи - оборудованный большим монитором, видеокамерами и антеннами, которым может управлять врач, находящийся в другом городе или стране. В Италии появился робот-уборщик, оснащенный литиевой батареей и системой навигации, - он приезжает к дверям квартиры, забирает мусор, кладет его в корзину и отвозит на переработку или утилизацию. Но больше всего удивили японцы: в июле 2009 г. они продемонстрировали девушку-робота поразительной красоты – Миму, модель HRP-4-S, которая умеет говорить, двигать руками, ходить, выражать на «лице» различные эмоции. Она стала участницей показа моды, выйдя на подиум в свадебном платье.
Что же произойдет, когда роботехника займет прочное место в человеческой жизни, и какие последствия могут нас ожидать? Обратимся к главным этическим проблемам создания искусственного разума, пути решения которых человечество пыталось найти задолго до появления эры компьютеризации.

1. Если в будущем машины смогут рассуждать, осознавать себя и иметь чувства, то, что тогда делает человека человеком, а машину — машиной?

Достаточно найти ответ на первый вопрос: «Что делает человека человеком?» и сразу же получим ответ на второй.
А, действительно, почему мы считаем себя людьми? Философия - многогранная наука. В ней нет места точным формулам, непреклонным аксиомам и строгому математическому анализу. Наверное, именно поэтому философия не получила такого развития, как физика, химия, литература и т.п. В столь широкой отрасли не существует течений, которые не заслуживают на существование (разве что фашизм).
Что делает нас людьми? Каждый по-разному отреагирует на этот вопрос. Биолог ответит, что человек - это, прежде всего, биологическое существо, которое имеет качества, свойственные живому организму, - человек дышит, питается, размножается (некоторым подобное слово кажется даже оскорбительным, поэтому сформулируем его так - «воспроизведение особей себе подобных»). Конечно, с биологом трудно не согласиться, но проблема состоит в том, что большинство животных поступает точно так же. В таком случае, чем же мы отличаемся, скажем, от того же льва или гепарда? Понятно, что мы не способны только бегать со скоростью 110 км/ч.
Психолог скажет, что человек - это социальное существо. И тоже будет по-своему прав. Однако чего больше в человеке - биологического или социального? Об этом долгое время спорили научные сотрудники и философы разных направлений и школ. С течением времени стало понятно, что в человеке, который является биологическим объектом, но живет по определенным социальным законам, оба начала соединились в тесной взаимосвязи. Социальные нормы поведения могут (и должны) ограничивать биологические инстинкты, вносить в них коррективы если не на уровне генетического наследования, то на уровне социализации человека. Люди в своем поведении руководствуются, скорее, именно социальными нормами, а не биологическими потребностями. И чем сильнее моральные принципы человека, тем сильнее он может противостоять биологическим инстинктам (примеры этому: голодание как форма протеста, героические действия солдат на войне, половое воздержание монахов - как противостояние основным человеческим инстинктам по З.Фрейду - голоду, страху и половому влечению). С другой стороны, некоторые социальные нормы изначально выросли из норм биологической целесообразности, скажем, нормы полового поведения (в частности, экзогамия - запрет половых отношений с ближайшими кровными родственниками). Поэтому с полной уверенностью можно утверждать, что человек является существом биосоциальным. Человек превратится в сильную личность, только если будет воспитываться среди себе подобных. Однако здесь и возникает проблема: большинству животных также свойственно развиваться среди себе подобных - детеныш слона не сможет вырасти в гнезде кукушки.
Ученые мужи прокомментируют этот вопрос так: «У человека есть один дар, которым не владеет ни одно существо на этой планете. Это интеллект». Что ж, логично. Это чистая правда, что в каждом из нас живет талант к чему-то. Представьте себе ситуацию, когда музыкант играет сложнейшую композицию на пианино: многочисленные комбинации складываются в его мозге за доли секунды, тысячи нервных импульсов посылаются по нервным волокнам, передавая нужную команду. А если музыкант случайно берет не ту ноту, то сразу же следует еще быстрейший сигнал: «Нет, неправильная клавиша!» Или вообразите себе писателя, работающего над новым книжным шедевром. Мозг производительнее любого компьютера в мгновение ока складывает слова в предложения, а предложения в текст, оперируя при этом многими принципами: не нарушается ли логическая цепочка, соблюдается ли орфография, стилистика, сюжетная правильность того или иного романа. А если человека посещает муза? Вообще начинает твориться всякая чертовщина: только и успеваешь записывать нужные слова (или печатать на клавиатуре - кому что по вкусу). При этом кажется, что морфемы рождаются просто из ниоткуда - это то, что творческие личности называет «вдохновением», «мысленным всплеском», а Джимми Нейтрон (персонаж одного м/с) - «умственным зарядом». Но является ли интеллект той основой, которая может отличать нас от машин в будущем? На планете Земля есть один представитель, который вполне может быть даже разумнее нас. Это дельфины. Согласно легенде, эти представители семейства афалин когда-то были людьми, которые ввиду катастрофы ушли в море и эволюционировали. Да и вообще существование дельфинов - это серьезный повод задуматься о том, что планетные братья по разуму соседствуют с нами и в двадцать первом веке. Таким образом, подводя итог размышлению, интеллект не может быть главным критерием отличия человека от ИИ.
Точка зрения священника, иными словами, служителя Божьего в этой дискуссии примерно следующая: «Человек - это божественное существо, ибо Бог создал человека по Своему подобию». Абсолютно верно, поскольку именно так говорит Библия. Здесь сочетаются и интеллектуальные особенности, и биологические. Правда, человечество со временем само приблизиться к Творцу, когда создаст нечто похожее на себя.
Какие у нас остались еще варианты? Безусловно, мнение романтиков - «Человека делают человеком его эмоции и чувства», т.е. те же самые любовь, ненависть, верность, дружба, зависть и т.д. И это довольно серьезное мнение, поскольку некоторые чувства вполне можно отнести только к человеческим. Каждое ли животное будет убивать просто ради убийства и наслаждения? Испытывает ли животное чувство алчности или зависти? Правда, следует признать, что тот же зверь не может любить и жертвовать своей жизнью ради другого во время кризисной ситуации (не путать с животными инстинктами).
Таким образом, можно смело утверждать, что человек - это интеллектуальное психосоциальное биологическое существо, в основе развития которого лежит воспитание.
Если машина научится мыслить и чувствовать, то сможет ли она себя назвать человеком? Вполне возможно, что да, но это вовсе не означает, что человечество признает ее таковой. Есть вещи, которые ученые не смогут воссоздать в ближайшую сотню лет. Прежде всего, следует отметить, что под человеческим интеллектом подразумевается не только способность размышлять над математической задачкой. Разум человека состоит из логики, спонтанного принятия решений и интуиции. Если логика - чрезвычайно сложный процесс, поскольку у двух человек ход мыслей может кардинально отличаться друг от друга (в голову сразу приходит анекдот: «Мужчине и женщине задают один и тот же вопрос: «Какова вероятность того, что, выйдя на улицу, вы встретите тираннозавра?» Мужчина отвечает твердым тоном: «Одна миллиардная процента!» Женщина подумала и внезапно заявляет: «Пятьдесят процентов!» Ученые шокированы и с искренним недоумением спрашивают: «Как так?» Женщина медленно отвечает: «Ну, или встречу... или не встречу!»), то, что тогда можно говорить об интуиции - поистине загадочном явлении, когда в мгновение ока становится известен какой-либо факт без применения логических размышлений?
Но предположим, что искусственный интеллект будет обладать совершенной холодной дедукцией. Тогда появляется проблема более серьезная - изобретение чувств. Не секрет, что чувства можно поделить на две категории: биологические, которые порождаются из-за особенностей нашего организма (страх, возбуждение, перенапряжение) и духовные (настоящая истинная любовь, которая может ломать время и пространство, когда любимые чувствуют на расстоянии боль или радость любимой половинки (согласимся здесь с романтиками, поскольку каждый из нас мечтает о подобном)). Возможно, этот пробел в построении искусственного интеллекта будет заполнен не сразу и только после построения логического фундамента. Понятно, что некоторые человеческие эмоции порождаются гормонами (к примеру, феромоны создают сексуальную тягу к противоположному полу). Если конструкторы ИИ захотят взять за основу работу человеческого организма, то гормоны подействуют только при условии, что искусственный интеллект будет находиться в живом, биологически функционирующем теле. Правда, тогда создание ИИ будет похоже, скорее, на процесс клонирования, чем на отдельное создание существа, отличающегося от рода человеческого по многим параметрам....
Что тогда говорить о структуре человеческого сознания, ведь она является многоуровневой. Она отображает его составные части, характер функционирования. Что касается составных частей сознания, то о них говорят как о единстве эмоций, мышления, памяти и воли. Первая составная часть - эмоции - непосредственно связана с первой реакцией организма на мир. Эмоции также способны компенсировать недостаток информации и существенным образом влияют на процесс познания. Благодаря мышлению происходит преобразование первоначальной информации о мире в образы и понятия. Память сохраняет и классифицирует полученную и осознанную информацию. Воля является стремлением человека к реализации полученной и осознанной информации. Если же рассматривать характер функционирования сознания, то с позиций носителя сознания выделяют индивидуальное, общественное, социально-групповое, национальное и т.д. С позиций духовно-практического характера говорят о сознании философском, научном, мифологическом, религиозном, правовом, политическом, этическом и т.п.; с позиций способа отображения мира - о сознании будничном и теоретическом. Особое место в структуре сознания занимают также сознательное и бессознательное. Однако оставим эту проблему философам...
Когда создатели ИИ столкнуться с проблемами внедрения чувств в процессор машины, то вопрос застопориться, поскольку мы испытываем чувства в большей степени потому, что являемся биологическими существами. Как ученые смогут внедрить в ИИ понятие и ощущение боли? У роботов ведь поначалу вообще не будет нервной системы, а объяснение на основе механических повреждений выглядит со стороны просто смешно. Кроме того, у представителей искусственного интеллекта может возникнуть мысль, чтобы самим попробовать научиться чувствовать. Подобная тема часто обыгрывается в фантастике. Возьмем, к примеру, т/с «Звездные врата: Атлантида» и х/ф «Крикуны». В «Звездных вратах» сценаристы создали одну могущественную расу - репликаторов, которых их создатели Древние хотели использовать в качестве оружия. Главной проблемой этих технических существ было то, что они, в отличие от своих создателей, не могли пройти процесс Вознесения (состояние, при котором достигшее конца эволюции существо освобождалось от физической оболочки и сознательно переходило на более высшую плоскость пространства). Репликаторы скопировали полностью внешний облик Древних, их технологии и т.д. Но вот вознестись они никак не могли, потому что были просто машинами. И они попросили землян помочь им в этом, чтобы те смогли исправить «подобный дефект» в строении репликаторов.
В х/ф «Крикуны» искусственный интеллект постепенно совершенствовался скрытно от человека, пока не превратился в реальную грозную силу. Развитие крикунов шло по тропе эволюции, подобно человеческой стезе развития: сначала это были миниатюрные аппараты, потом они стали копировать внешний облик человека, потом манеры поведения своих создателей. В фильме красиво описывается трагический момент, когда девушка-робот (кстати, женщина была венцом эволюции крикунов, самой последней стадией развития) говорит мужчине-землянину, что он «научил ее чему-то большему, он научил ее любви». Другими словами, довольно трогательная сцена.
Нельзя не вспомнить и Ромми, одного из ключевых персонажей т/с «Андромеда». Андромеда – это космический крейсер нового поколения, который вместе со своим капитаном Диланом Хантом попал в зону притяжения черной дыры, и вышел из нее только три столетия спустя. По мере развития сюжета сериала зритель понимает одну чрезвычайно любопытную деталь: Андромеда испытывает к своему командиру Ханту нечто большее, чем просто уважение – она в виде голограммы наблюдает за ним, когда тот спит, постоянно интересуется о его самочувствии и заботится, общаясь с ним на сокровенные темы. Потом один из членов экипажа Андромеды создает Ромми – аватару корабля, в которой находится часть сознания Андромеды. Создатели сериала отлично проработали духовную линию, которая может связывать человека и ИИ, ведь Ромми получает возможность более тесного контакта с Хантом. Да и сами отношения между командиром и подчиненным переходят на новый уровень. В сериале присутствуют, откровенно говоря, напряженные сцены, как допустим следующая: однажды Ромми в чем-то не согласилась с Диланом, рассуждая с ним о сущности человека, и Хант, взяв ее руку в свою ладонь, произнес: «Скажи мне, Ромми, ты действительно ощущаешь мою руку или просто воспринимаешь механические колебания?» Несмотря на то, что, казалось бы, девушка-робот не должна была как-нибудь реагировать, она обидчиво посмотрела на командира и отвела взгляд. Вообще, в этом т/с присутствует и множество комических сцен, так или иначе, связанных с проблемой взаимоотношений представителей ИИ с человеком. Достаточно вспомнить, как Ромми постоянно по пятам следует за капитаном, ревностно оберегая его от поклонниц, или как она интересуется у него, что значит для человека любовь, и как люди в таком случае поступают, чтобы показать своим избранникам/цам свои чувства, на что Дилан смущенно целует ее в щеку. Ну, а последний пример дает повод ликовать романтикам: после выполнения одной из миссии Ромми получает приглашение перейти на службу к другому командиру, на что она отвечает: «Я не могу оставить Дилана, ведь я его... (пауза)... я его... (длинная пауза)... я его крейсер». В любви тогда Андромеда не призналась, впрочем, у нее на это было еще множество времени... Но вернемся к размышлениям.
Существует большая разница между словами «чувствовать» и «думать, что ты чувствуешь». Вы никогда не поймете человека, потерявшего близкого человека, пока сами не окажетесь в его ситуации. Поскольку создание (точнее было бы сказать копирование) человеческих эмоций процесс сложнее создания интеллекта, как основы логических размышлений, то на протяжении долгого времени машины будут способны только подражать человеческим чувствам, как маленький ребенок копирует своих взрослых родителей. Но следует помнить, что нельзя принимать желаемое за действительное.
Ну, да ладно. Предположим, что в далеком будущем машины действительно будут чувствовать как люди, и думать, как люди. Останутся ли вещи, которые будут отличать творцов от своих созданий? Да. И это то, что присутствует в каждом из нас, то, о чем говорится в Библии, то, что подтверждается видеозаписями, регрессивной терапией и больными, пережившими клиническую смерть. Это наша человеческая душа.
В каждом человеке заключена Божья искра, поэтому нельзя исключать того, что человек найдет способ вложить в машину чувства и интеллект. Эмоции можно скопировать на основе гормонов, простых словесных характеристиках и манерами поведения, интеллект - простыми логическими законами. Но точно в ближайшую пару тысячелетий человек не сможет воссоздать душу, которую, согласно Библии, мог сотворить только сам Бог. И это будет главная особенность, отличающая нас от роботов. Итак:

1. Человек - это интеллектуальное психосоциальное биологическое существо, в основе развития которого лежит воспитание.
2. Даже при внедрении в ИИ эмоций и интеллекта невозможно будет создать человеческую душу.

2. Если в будущем машины смогут осознавать себя и иметь чувства, возможно ли будет их эксплуатировать или придется наделять их правами?

Вопрос не менее интригующий, чем предыдущая проблема. Представим, что в будущем машины достигли такого совершенства (или роботехники достигли такого познания в области создания ИИ), что они будут способны чувствовать и, что самое интересное, смогут осознавать себя. Второе более опасно, чем первое, хотя любой путь, даже демократический, может привести к кардинальным проблемам. Если машины смогут понимать суть их существования, то смогут выбрать цель. Но вот выбор цели - это уже другая тема разговора. Вообще же, вероятен второй вариант решения проблемы, потому что могут ли существа эксплуатировать своих созданий, которые при этом уже достигли уровня развития собственного создателя? К примеру, взглянем на сегодняшнюю ситуацию: Африканский континент постоянно использовался в качестве сырьевого придатка, а его темнокожее население применялось в роли дешевой рабочей силы для трудовой повинности на протяжении нескольких столетий. Сегодня Европейский Союз, страны Северной и Южной Америки, «среднеазиатские тигры» и страны постсоветских республик находятся в куда лучшем положении, чем многие африканские страны, где, во-первых, даже четких территориальных границ нет, а, во-вторых, само население многих стран погрязло в войнах и анархии. Но за последнее время можно заметить тенденцию как чаша весов (пусть и муравьиными шагами) склоняется в пользу бывших колоний. Пока страны «золотого миллиарда» будут бороться с негативными тенденциями в экономике и социальной сфере, страны Африки, тем временем, прекратят войны и правительства некогда воюющих стран по причине религиозных и этнических разногласий примут решения об индустриализации. В результате этого когда-нибудь Африка сравняется с остальными странами мира в индустриальном развитии. Вопрос: будут ли тогда те же ЕС, НАТО, «среднеазиатские тигры» прямо вмешиваться во внутреннюю и внешнюю политику африканцев, как это мы делаем сейчас? А если последние сравняются с нами и в военной сфере (баллистические ракеты, сверхзвуковые истребители и, наконец, атомные бомбы)? Если соперники равны по потенциалу, то думаете, они будут оставаться на нижайшей ступеньке эволюции лишь по той причине, что жители другого мира развивались куда дольше и быстрее чем коренные жители Африки?
Почти такая же ситуация складывается и с машинами. Если они достигнут тех высот, что и люди, то, хочешь, не хочешь, а права придется поделить.

3. Если в будущем машины смогут рассуждать, то, как сложатся отношения людей и машин?

Взаимоотношения людей и машин - довольно обширная тема для философских рассуждений. Подобные последствия детально обрисовываются в кинематографе и литературе, правда, там часто присутствует отрицательный результат взаимоотношений между людьми и их созданиями.
Рамки отношений между человечеством и машинами будут зависеть от начального поведения человека как создателя в проблеме ИИ. Вообще возможны только три варианта развития событий: первый - человек будет хозяином на планете Земля до окончания времен, и будет доминировать над машинами; второй - человеческие и машинные взаимоотношения будут развиваться на принципах партнерства; третий - человечество будет уничтожено (причин можно подобрать множество: военные действия с машинами, при этом не имеет значения, кто первым их начнет; какой-нибудь катаклизм или катастрофа, которая затронет только род человеческий и не коснется роботов) и дальнейшая история Земли будет продолжена детищем человека. Рассмотрим каждый их вышеуказанных вариантов.
Вариант №1. Человек - хозяин на планете Земля, и Творец - для машин. Подобный вариант возможен лишь при условии, что человечество будет превосходить машин в интеллектуальном и военном плане. Такое доминирование достигается при полном контроле роботов, например, создание Трех Законов Роботехники, о котором писал еще фантаст Айзек Азимов. При этом следует учесть, что или человек должен непрерывно совершенствоваться, или интеллектуальный контроль роботов должен быть «заперт» на определенном уровне.
Вариант №2. Человек и машины - партнеры. Этот вариант достижения баланса использовали знаменитые полководцы и политики. Если поразмыслить, то у человека и у машин есть сильные стороны. У первого есть многосотлетний опыт и цель, у второго - преимущества над физическим телом человека и возможности для достижения этих целей. Подобный союз мог бы ускорить достижения человечества, как технократической расы: к примеру, машины могли бы использоваться для укрепления человеческих рубежей в местах, где условия жизни непригодны для людей, добывать ресурсы, находиться в районах, где хрупкое физическое тело не могло бы существовать. В то же время машины могли бы получить от человечества накопленную ранее земной цивилизацией информацию, а также получить шанс стать людьми. Одно только предложение получить эмоции может подтолкнуть детей человека стать ближе к своему Творцу.
Вариант №3. Человечество уничтожено. Его детище - ИИ - продолжает писать историю Земли.
Находясь в сотрудничестве с машинами, род человеческий может быть уничтоженным по трем причинам: первая - самая банальная, война с представителями искусственного интеллекта, и победа последнего; вторая - исчезновение землян по причине собственной глупости (война, эпидемия - нужное подчеркнуть); третья - гибель человека от независящего от него фактора - астероида, кометы, сверхновой, глобальных тектонических катастроф. Дальнейшие события при осуществлении последних двух вариантов понятны: машины продолжат развитие, как бы занимая ячейку своего Создателя, и продолжая дело последнего. Куда интереснее первая причина: война людей с машинами.
Военный конфликт детально описывается в культовой трилогии «Матрица» и серии х/ф «Терминатор». Когда становится понятен факт того, что человек не заслуживает существования на этой планете (точка зрения машин), или того, что само человечество боится своего детища, которое достигло более высоких результатов во многих сферах деятельности и превзошло своего Творца, то начинается кровавая война за господство между этими двумя видами. У машин имеется большое преимущество: во-первых, они не подвержены тем слабостям, которые свойственны человеку (страх смерти, слабое физическое тело, не выносящее высоких и низких температур, резкого перепада давления, отсутствия кислорода, радиации и прочих других факторов); во-вторых, им, вероятно, будут свойственны более хорошая оснастка и стремительная атака. Человек же будет знать, что у машин есть только одна слабость: ИИ может сразить только исчезновение энергии. Понятно, что при быстром развитии ситуации расчет будет не в пользу рода человеческого.
В настоящее время итальянские конструкторы конструируют человекоподобного робота, ростом с трехлетнего ребенка (уже сейчас он может двигать конечностями и брать в «руки» предметы - ученые создают программу, которая позволит машине понимать человеческую речь и реагировать на поведение людей), а европейцы строят робота с человеческой анатомией, который будет наделен костями, суставами, мышцами и сухожилиями.
Видимо, не за горами, когда осуществятся мечты человечества. Это хорошо. Главное, чтобы не сбылись наши страхи.