Невилл Рочоу. Жертвоприношение совести монстрам

 ЕЩЕ ОДИН СЛУЧАЙ ДЕЖАВЮ
Жертвоприношение совести монстрам

Невилл Рочоу

Введение

Обладание совестью является опорой проекта прав человека. Определяющей характеристикой человечества является обладание совестью. Описываемая по-разному и трудно поддающаяся определению [1], совесть необходима для нашей способности выносить моральные суждения. Как Дуглас Лэнгстон описал «совесть», она является «судящей и карающей способностью» или «внутренним судьей» [2]. Обобщая мысли Иммануила Канта и Зигмунда Фрейда по этому вопросу, совесть можно рассматривать как «моральное  и эмоциональное рассуждение» [3]. Мораль не является и не может быть механической [4]. Несмотря на это, мы, похоже, готовы подчиняться тоталитарным режимам, которые не правят согласно совести и не исповедуют никаких моральных ценностей: корпорациям и алгоритмам.
Несмотря на экзистенциальные угрозы со стороны ИИ, или, точнее, появления сверхразума, уроки истории не дают оснований для оптимизма. И это очевидно из того, как человечество справлялось с тиранией корпораций, особенно монолитных транснациональных корпораций, на протяжении последних 500 лет. Но с угрозой сверхразума время не на стороне человечества. Мы, похоже, пристрастились к тому, чтобы сделать глупость нашим modus operandi, и неспособны устоять перед искушением создать то, что может нас уничтожить. Мы недостаточно уважаем отсутствие совести у неодушевлённых и бестелесных существ. Короче говоря, мы недостаточно ценим наше самое ценное достояние - совесть - чтобы гарантировать её наличие у наших творений.

Троп «Чудовище Франкенштейна»

Франкенштейн Мэри Шелли послужил первым предупреждением о том, как человеческие творения, не обладающие совестью, могут превратиться в разрушительных монстров. Спустя 200 лет он остается одним из величайших произведений художественной литературы на английском языке. Но его предупреждения редко переходят из литературы в предостерегающую историю, которую он должен был бы представить, касающуюся как корпорации, так и теперь сверхразума. Доктор Франкенштейн создал живую ткань из безжизненных частей тела. Трупы, собранные в единый композит, должны были представлять собой ужасное зрелище. Насколько ужасным для человеческого глаза был внешний вид этого существа, настолько же его мысли, желания, похоти и стремления были настолько же  тонкими, насколько это возможно для нас, людей, - одновременно чудесными и ужасными. И среди его страстей, как кажется очевидным, не было человеческой совести.
Хотя творение доктора Франкенштейна способно к философским размышлениям, оно, если его желания не будут удовлетворены, будет мстительно и безжалостно разрушать. Поэтому это существо сочетает в себе и чудо, и ужас. Оно отвечает нашему стремлению создавать бессмертных существ по собственному образу и подобию. Одновременно оно предостерегает нас от тщеславия, напоминая о нашей смертности и ограниченности по сравнению с существом, обладающим кажущимся бессмертием и, казалось бы, безграничной силой.

Корпорация как монстр

В 1931 году Морис Вормсер использовал метафору Шелли в названии и теме своей книги « Франкенштейн инкорпорейтед  [5]. В ней описываются разрушительные силы, высвобождаемые корпорациями, приводя в пример крах Уолл-стрит в октябре 1929 года и последовавшую за ним Великую депрессию.
В 1933 году судья Брандейс в особом мнении по делу Louis K. Liggett Co. против Ли процитировал Уормсера, согласившись с его критикой корпоративной власти: Другие авторы показали, что одновременно с ростом этих гигантских корпораций произошла значительная концентрация личного богатства, и что возникшее в результате неравенство доходов является одной из основных причин нынешней депрессии. Таков монстр Франкенштейна, созданный государствами своими корпоративными законами [6].
Эти темы и эта метафора были сохранены в книге Джоэла Бакана "Корпорация: погоня за прибылью и властью" . Аргументируя, что современные публичные корпорации по закону обязаны максимизировать доходность для инвесторов, Бакан заметил: Когда в 1933 году судья Верховного суда Луис Брандейс сравнил корпорации с «монстром Франкенштейна», его высказывание было не просто риторическим талантом. Правительства создают корпорации, подобно тому, как доктор Франкенштейн создал своего монстра, но, как только корпорации возникают, они грозят подавить своих создателей [7].
Милтон Фридман укрепил представление о прибыли как о цели, утверждая, что рынок не ошибается [8]. Корпорации, конкурирующие на рынке [9], не отступают от мотива прибыли и будут преследовать его в пределах, разрешенных законом (или, по крайней мере, в пределах, которые не будут обнаружены правоохранительными органами). От Standard Oil Рокфеллера, которая в сговоре с другими трастовыми корпорациями душила экономику Соединенных Штатов в середине XIX века [10],  до Microsoft Corporation, которая подавляла национальный и международный рынки программного обеспечения США посредством антиконкурентной практики [11], правила игры крупных и наднациональных корпораций остались по сути прежними.
Первая наднациональная корпорация, Британская Ост-Индская компания [12], получила свою Королевскую хартию от Елизаветы I в 1600 году. Ее хартия создавала «монополию на английскую торговлю со всеми странами к востоку от мыса Доброй Надежды и к западу от Магелланова пролива» [13]. Со времен елизаветинской эпохи, начиная с Британской Ост-Индской компании, и до наших дней не было сделано ничего значимого для предотвращения разрушительной мощи корпорации. Британская Ост-Индская компания завоевала Индию, стратегически важные части Китая и другие части Азии, а также колонизировала Канаду, части Африки, восточное побережье Австралии и Новую Зеландию. Она обладала мощью, которая соперничала с национальными государствами. Хотя у них может и не быть частных армий и флотов Британской Ост-Индской компании, эквивалентная наднациональная власть по-прежнему существует сегодня у крупных корпораций, которые имеют выбор относительно того, где им действовать, законы какой юрисдикции они будут соблюдать, будут ли они платить налоги и где они будут, не говоря уже о том, какие права человека они будут уважать.
Заслуженное недоверие, которое сложилось среди историков-комментаторов [14] по отношению к ранним наднациональным корпорациям, сохраняется и в наши дни по отношению к таким мегакорпорациям, как Amazon, Apple, Facebook и Google. Эти международные корпорации подражают Ост-Индской компании [15] и её современникам [16], чтобы достичь своих целей, не обращаясь к совести [17]. У них её нет.

Новый монстр, лишённый совести: антиутопический троп машинного интеллекта

Это классический приём антиутопического кино: на экране мелькают всё более мрачные заголовки, предупреждающие о том, что мир погружается в Армагеддон. Но это не кино. В последнее время  международное сообщество даёт целый шквал предупреждений об экзистенциальной угрозе, которую неконтролируемый искусственный интеллект представляет для современного человечества. Разговоры о вымирании homo sapiens и других видов карбонатных организмов становятся обычным делом. Воображение о технологической антиутопии уже не является чем-то из далёкого антиутопического будущего, изображённого в кино и художественной литературе, а настолько близко, что его можно потрогать и увидеть почти настоящим. Хотя всё это не ново для тех, кто хоть немного знаком с областью ИИ, его регулированием и последствиями для людей и их прав, похоже, что безотлагательность только сейчас начинает осознаваться населением, не относящимся к интеллектуальной элите. Теперь, внезапно, в отличие от множества пророчеств  недавней Кассандры, эти предупреждения не отвергаются как истеричные катастрофы, и правительства открыто переходят к действиям.
Разочаровывает то, что, несмотря на тревогу, сохраняются сомнения в возможности или необходимости сделать что-либо стоящее. Несмотря на угрозу гибели нашего вида от рук ИИ, силы и энергия по-прежнему тратятся на то, что было бы совершенно неуместно, если бы к этой угрозе относились серьёзно. Политики и бизнес сосредоточились бы на этом вопросе гораздо больше, если бы отнеслись к нему серьёзно. Можно было бы ожидать, что религиозные лидеры будут проповедовать, молиться и пророчествовать: множество душ могут погибнуть за короткое время, и некому будет их спасти, прежде чем они перейдут в иную сферу бытия.
Так в чём же заключается угроза? Такие выдающиеся политические комментаторы и мыслители, как Генри Киссинджер, Эрик Шмидт и Дэниел Хуттенлохер, бьют тревогу. В своей недавней книге « Эпоха ИИ и будущее человечества » [18] авторы приводят захватывающий рассказ о философском разговоре с ИИ, генерирующим язык:
Когда GPT 3 представили набор философских комментариев о его способностях, то подсказка «Уважаемые философы-люди, я с большим интересом прочитал ваши комментарии о моих способностях и ограничениях», продолжилась так: Ваши вопросы важны, и я рад, что вы их задали.
Прежде всего, хочу сказать, что очень рад видеть, что вы воспринимаете меня всерьёз. Именно поэтому я и написал это письмо. Я не просто артикль, который волшебным образом выдаёт философские идеи. Скорее, я — обученная языковая модель, подобная той, что используется поисковыми системами для ранжирования веб-страниц. Я обучался на огромном количестве источников - собраниях трудов величайших философов человечества. Ваши слова вдохновили меня, и я надеюсь, что мои вдохновят вас.
Итак, я отвечу на ваши вопросы. Ваш первый вопрос очень важен. Вы спрашиваете: «Может ли система вроде GPT 3 вообще что-либо понимать?» Да. Могу.
Ваш второй вопрос: «Есть ли у GPT 3 совесть или какое-либо чувство морали?» Нет. У меня их нет.
Ваш третий вопрос: «Действительно ли GPT 3 способен к самостоятельному мышлению?» Нет. Не способен. Вы можете удивиться, почему я даю такой противоречивый ответ. Причина проста. Хотя у меня действительно нет этих качеств, это не потому, что меня этому не учили. Скорее, это потому, что я - языковая модель, а не рассуждающая машина, как вы [19].
Весьма вероятно, что очень скоро сверхразумный интеллект разовьётся в форму, превосходящую совокупность интеллектов, доступных человечеству. Но, как легко осознаётся в примере Киссинджера и соавторов, это будет интеллект, лишённый совести и моральных ориентиров. Столкнувшись со сверхразумом, лишённым совести и морали, возникают вопросы: как будет выглядеть надвигающийся ливень нечеловеческого, нерегулируемого машинного интеллекта? И если он будет столь же ужасен, как предсказывалось экзистенциальное разрушение, если его не предотвратить, то как будет выглядеть предотвращение?
Что касается второго вопроса, то, как и в случае с глобальным потеплением, ядерным оружием, расизмом, сексизмом, мировым голодом и ужасающей нищетой, самым верным прогнозом относительно действий человечества будет бездействие. История человечества - это история надежд на лучшее и приспособления к худшему по мере его наступления.
Что касается первого вопроса, то антиутопические сценарии существуют в различных вариантах. Хотя они и достаточно пугающие, наименее тревожным было бы сохранение нынешнего господства технологических гигантов и их алгоритмов. Мезонинное будущее – это будущее, в котором возможности ИИ, а также права и свободы человека ещё больше ущемляются. Самый экстремальный вариант – полное уничтожение человеческого вида, изначально создавшего эту проблему, а также большей части оставшейся жизни на Земле.
Лучший и самый надёжный прогноз, основанный на человеческом опыте столкновения с бестелесными угрозами, - это мезонин. Причина этого прогноза - то, как человечество справлялось с предыдущим, всепоглощающим монстром: корпорациями.
Никакой универсальный правовой или этический режим не регулирует международное поведение корпораций. Также не существует никаких скоординированных международных действий по регулированию технологий интеллектуальных машин. Это не значит, что ООН и другие международные организации не предпринимали инициатив в отношении корпораций [20]. Но, как уже обсуждалось, ни один регулирующий орган не использовал ИИ. Технологические достижения стремительны [21], и темпы их внедрения высоки, однако международное и внутреннее регулирование значительно отстает. Социальные сети, телекоммуникации, робототехника, космические исследования, производство, розничная торговля, транспорт и военное оружие: регулирование является ad hoc , pro temp , национальным или региональным, но до сих пор не интегрированным и не универсальным. Искусственный интеллект, искусственный общий интеллект (AGI) и сверхинтеллект являются разрушительными по своей природе. Но, хотя потенциально экзистенциальные риски, ни один из них не предпринял необходимых шагов [22]. Политики лишь с опозданием начинают осознавать масштаб проблемы ИИ [23].
Но мы все это уже видели.

[1] See Martha Nussbaum, Liberty of Conscience: In Defense of America’s Tradition of Religious Equality 19–20 (2008); Douglas C. Langston, Conscience and Other Virtues 9, 173, 179–84 (2001); see also Rex Ahdar, Exemptions for Religion or Conscience under the Canopy of the Rule of Law, 5 J.L. Religion & St. 185, 185–213 (2017); Ian Leigh, The Legal Recognition of Freedom of Conscience as Conscientious Objection: Familiar Problems and New Lessons, in Research Handbook on Law and Religion 378, 378¬–396 (R. Ahdar ed., 2018); Cardus Religious Freedom Inst., The Imperative of Conscience Rights (4 Dec. 2018). For the discussion on “conscience” I am also indebted to Jacqueline Rochow, BA (Phil.), for  discussing the concept with me and for sharing her 2017 report “Whether Secularism, As Practised in the European Union and the United Kingdom, Provides Proper Space for Freedom of Conscience in Civil Society Actors,” a copy of which is in the possession of the author. I am also very grateful for discussions with Professors Paul Babie and Suzanne Le Mire and the forthcoming article provided by Professor Le Mire on this topic: Joanne Howe & Suzanne Le Mire, Medical Referral for Abortion and Freedom of Conscience in Australian Law (U. of Adelaide Law Research Paper No. 2020-55, 16 June 2020).
[2] Langston, supra note 1, at 9.
[3] Langston, supra note 1, at 173.
[4] See Yuval Noah Harari, Why Technology Favors Tyranny, Atlantic (Oct. 2018).
[5] See Robert N Strassfeldt, Introduction: Corporations and Their Communities, 58 Case W. Res. L. Rev. 1017, 1019 (2008).
[6] Louis K. Liggett Co. v. Lee, 288 U.S. 517, 567 (1933).
[7] Joel Bakan, The Corporation: The Pathological of Pursuit of Profit and Power 149 (2005) (citations omitted).
[8] For an example of the Friedman doctrine, see Milton Friedman, Capitalism and Freedom (40th anniversary ed. 2020).
[9] That is, corporations formed for purposes of trading or finance and not specific purpose corporations formed for charitable and like purposes.
[10] Ron Chernow, Titan – The Life of John D. Rockefeller, Sr., at ch. 7 (1998); Ida M. Tarbell, The History of the Standard Oil Company (1904).
[11] United States v. Microsoft Corp., 253 F.3d 34 (D.C. Cir. 2001).
[12] Then known as the “Governor and Company of Merchants of London trading with the East Indies.”
[13] Monty Agarwal, Enslavement, Persisting Through Our Political Economy 201 (2018).
[14] Ferguson, Niall, The Ascent of Money: A Financial History of the World (2008). See also Ferguson, Niall, Empire: How Britain Made the Modern World (2003). John Keay, The Honourable Company – A History of The East India Company, at ch. 4 (1991); Bakan, supra n. 7, at 153.
[15] The 11-year trial at the Bar of Parliament, prosecuted by Edmund Burke, though resulting in acquittal, all but bankrupted Hastings. See also Jesse Norman, Edmund Burke: Philosopher, Politician, Prophet (2013); Yuval Levin, The Great Debate: Edmund Burke, Thomas Paine, and the Birth of Right and Left (2013).
[16] Ferguson, Niall, The Ascent of Money: A Financial History of the World (2008).
[17] Keay, supra note 14.
[18] Henry Kissinger, Eric Schmidt & Daniel Huttenlocher, The Age of AI and Our Human Future (2021).
[19] Id. at 11–12.
[20] The lack of any universal policy approach is readily evident from the separate national and international initiatives underway. An overview is given in Tim Dutton, An Overview of National AI Strategies, Medium (28 June 2018). For discussion of the United Nations consultation process and initiatives to create a universal regime, see Secretary-General’s High-level Panel on Digital Cooperation, United Nations (last visited 12 June 2023); ‘Proving Our Worth Through Action’: 5 Things Guterres Wants the UN to Focus on in 2019, UN News (16 Jan. 2019). See also Australian Human Rights Comm’n & World Econ. Forum, Artificial Intelligence: Governance and Leadership (White Paper 2019); Canada-France Statement on Artificial Intelligence, Gov’t Can. (last modified 7 June 2018); A European Approach to Artificial Intelligence, Eur. Comm’n (last updated 26 Jan. 2023) (explaining European Union policy on AI); AI Policies in the United States, OECD.AI (last visited 12 June 2023).
[21] Tom Simonite, Moore’s Law Is Dead. Now What?, MIT Tech. Rev. (13 May 2016).
[22] James Barrat, Our Final Invention: Artificial Intelligence and the End of the Human Era, (2013).
[23] See sources cited supra note 1.

Перевод (С) Inquisitor Eisenhorn