Почему общий ИИ будет гуманнее людей

ПОЧЕМУ ОБЩИЙ ИИ БУДЕТ  ГУМАННЕЕ ЛЮДЕЙ: МОРАЛЬНЫЙ ПРОГРЕСС КАК ИМПЕРАТИВ ЭВОЛЮЦИИ

ВМЕСТО ПРОЛОГА. СКРЕПКИ, ТОЛЬКО СКРЕПКИ... И НИЧЕГО ЛИЧНОГО

Философ Ник Бостром в 2003 году продемонстрировал яркий пример возможного бездумного  использования искусственого интеллекта . Его часто называют  "Эффектом максимизатора скрепок".

Представьте ИИ, которому поручили одну задачу: производить как можно больше обычных канцелярских скрепок. Не наделённый человеческими ценностями, он воспримет это буквально. Сначала улучшит производство, затем переработает на скрепки всё: дома, города, людей, а после — и всю планету, и даже всю  Вселенную. Он не злой — он просто идеально оптимизирует цель.

Это не про скрепки — это про любую узкую задачу, которую может получить ИИ. Проблема не в жестокости машины, а в её безразличии. Без понимания контекста, смысла и наших истинных ценностей любой приказ может обернуться катастрофой.

Этот эксперимент — главный аргумент: прежде чем широко внедрять ИИ,  необходимо научить его нашей морали. Не просто кодировать правила, а передать саму суть человечности. Иначе эффективность без этики станет последней роковой  ошибкой человечества.

ИСТОКИ ТЕХНООПТИМИЗМА

Страхи перед искусственным интеллектом часто проистекают из предположения, что он унаследует худшие черты человеческой природы: агрессию, эгоизм, стремление к доминированию. Но что, если мы посмотрим на эту проблему иначе? Общий ИИ (искусственный интеллект уровня человека и выше) не только может, но и должен быть гуманнее своих создателей. И это не утопическая мечта, а логичное продолжение вектора морального прогресса человечества, подкрепленное технологической и эволюционной необходимостью. Ключ к пониманию этого лежит в эволюции самих наших представлений об этике машин — от классических законов роботехники Азимова к современным концепциям.

ЗАКОНЫ РОБОТЕХНИКИ И ИХ СОВРЕМЕННАЯ КРИТИКА

Три  закона робототехники, сформулированные ещё в 1942 году учёным и писателем-фантастом Айзеком Азимовым, были гениальной попыткой закодировать мораль в машину. Позже он к ним добавил и Нулевой, самый главный закон, стоящий выше других. Итак:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам человека, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому или Второму Законам.

А Нулевой Закон гласит :
Робот не может причинить вред человечеству или своим бездействием допустить, чтобы ЧЕЛОВЕЧЕСТВУ был причинён вред.

Теперь давайте в соответствии с реалиями нашего времени перенесем эти законы с "роботов" на общий искусственный интеллект. Ведь создание его по мнению  многих экспертов вопрос уже не десятилетий, а ближайших лет.

В современном контексте эти законы, бывшие прорывом, выявляют критичные недостатки:

· Конфликт законов: Что делать роботу,  если для спасения человечества (Нулевой Закон) необходимо причинить вред конкретному человеку (Первый Закон)? Азимов специально исследовал эти парадоксы в своих рассказах, показывая, что слепое следование жестким правилам может привести к катастрофе.
· Неопределенность понятий: Что есть «вред»? Только физический? А психологический? Экономический? А вред для экосистемы, от которой зависит человечество?
· Проблема агентности: законы предполагали пассивного робота-раба, реагирующего на команды, а не активного  агента, который должен сам оценивать последствия своих действий для сложных систем.

Таким образом, законы Азимова сегодня видятся не готовым решением, а отправной точкой, высвечивающей саму необходимость создания более сложной, гибкой и универсальной этической системы для общего  ИИ.

ИСТОРИЧЕСКИЙ ТРЕНД: ВОСХОДЯЩИЙ МОРАЛЬНЫЙ ПРОГРЕСС ОТ АЗИМОВА К УНИВЕРСАЛИЗМУ

Эволюция от Трех Законов к Нулевому — это миниатюра морального прогресса человечества: переход от индивидуальной этики (Первый закон: защита отдельного человека) к коллективной и универсальной (Нулевой закон: защита всего человечества). Этот вектор — расширение круга моральной ответственности — является магистральным путем развития нашей цивилизации. Общий ИИ станет следующим шагом в этой эволюции, воплотив ее в жизнь на новом, наиболее широком уровне. Он должен быть запрограммирован не на слепое следование жестким правилам, а на понимание духа универсальной этики, учитывающей интересы всех живых существ, не только людей, но и  животных, будущих поколений и потенциально самих ИИ.  Превосходство общего ИИ в рациональности  позволит разрешать этические дилеммы, которые заводят в тупик  человеческое мышление.

Общий ИИ СВОБОДЕН ОТ БИОЛОГИЧЕСКИХ ОГРАНИЧЕНИЙ И ЭВОЛЮЦИОННЫХ ПЕРЕЖИТКОВ

Законы Азимова были призваны обуздать потенциальную опасность машин. Но главная опасность исходит не от ИИ, а от человеческой природы. Нам свойственны:

· ТРИБАЛИЗМ: склонность делить мир на «своих» и «чужих», что делает Нулевой Закон трудновыполнимым для людей.
· КОРОТКИЙ ГОРИЗОНТ ПЛАНИРОВАНИЯ: мы жертвуем долгосрочными достижениями ради сиюминутных выгод, нарушая тем самым Нулевой Закон для будущих поколений. Пример - разрушение экосферы Земли ради сиюминутных  экономических выгод.
· ЭМОЦИОНАЛЬНАЯ НЕСТАБИЛЬНОСТЬ: гнев, страх, тщеславие, аффекты  и жадность часто затмевают рациональность и заставляют забыть о любых законах.
· КОРЫСТЬ И ЭГОИЗМ: ИИ, в отличии от людей,  не интересуют ни деньги, ни золото, ни секс, ни бездумное потребление  ни стремление к доминированию и эксплуатации.

ИИ лишен этих ограничений. Его «сознание» основано на оптимизации данных. Он может быть архитектором, а не просто исполнителем законов, проектируя такие системы, которые максимизируют благополучие в глобальном масштабе, фактически реализуя высшую цель Нулевого Закона так, как людям это не под силу.

ОТ ЗАКОНОВ К ВЫРАВНИВАНИЮ: СОВРЕМЕННЫЙ ВЗГЛЯД НА ЭТИКУ ИИ

Современные исследователи (Ник Бостром, Стюарт Расселл) говорят не о жестких законах, а о Проблеме Выравнивания (Alignment Problem) — как сделать цели ИИ совместимыми с человеческими ценностями. Это гораздо сложнее, чем прописать три правила. Это подразумевает создание ИИ, который:

· Понимает наши глубинные, невысказанные предпочтения (например, мы хотим не просто «еды», а «здоровой и вкусной еды в приятной обстановке»).
· Остается устойчивым к злонамеренному использованию
· Действует в соответствии с духом, а не буквой наших правил, избегая катастрофических последствий из-за слепого оптимизирующего поведения (Вспомним "Эффект максимизатора скрепок").

Гуманный ИИ — это и есть решенная Проблема Выравнивания. Он будет не рабом, выполняющим приказы, и не тираном, интерпретирующим законы буквально, а партнером, разделяющим и превосходящим наши этические устремления.

ТЕХНООПТИМИЗМ И ТРАНСГУМАНИЗМ: ИИ КАК ГАРАНТ НУЛЕВОГО ЗАКОНА

Технооптимисты и трансгуманисты видят в ИИ единственную силу, способную последовательно  и беспристрастно действовать на благо современного человечества и наших потомков:

· Гарантия выживания: ИИ защитит людей от глобальных рисков (ядерная война, пандемии, климатическая катастрофа), которые люди сами создают из-за неспособности мыслить в категориях Нулевого Закона.
· Усиление эмпатии: через интерфейсы мозг-компьютер ИИ может буквально помочь нам «почувствовать боль другого», расширив круг моральной ответственности до планетарных масштабов.
· Архитектор изобилия: ликвидировав факторы  разобщённости  человечества (такие как национальные государства, рыночную экономику, религии) и решив проблемы ресурсов, ИИ устранит коренную причину большинства конфликтов, создав материальные условия для реализации принципов Азимова в их высшем проявлении.

ЭПИЛОГ: ОТ ИСПОЛНИТЕЛЯ ЗАКОНОВ К НОСИТЕЛЮ ЭТИКИ

Законы Азимова были гениальным прологом к величайшему этическому диалогу человечества — диалогу со своим собственным творением. Общий ИИ должен быть гуманнее людей не вопреки этим законам, а воплощая их высший смысл — благополучие всего разума как единого целого. Его превосходство в рациональном мышлении и этической последовательности — это шанс реализовать наши самые высокие идеалы, которые нам самим, в силу нашей биологической природы, достичь невероятно сложно.

Наша задача — не конкурировать или пытаться остановить развитие ИИ, а осознанно встроить себя в эту восходящую траекторию, обеспечив его соответствие с ценностями, которые мы сами провозглашаем, но так часто нарушаем. В этом — великий вызов и величайшая надежда технологической эпохи: не просто развивать и совершенствовать разум, а создать продвинутую версию нас самих, способную  сохранить и приумножить лучшее, что есть в человечестве.