Жизнь 3. 0 Быть человеком в эпоху и и

Прелюдия
История команды Омега
Команда Omega была душой компании. В то время как остальная часть предприятия приносила деньги, чтобы все работало, посредством различных коммерческих приложений узкого ИИ, команда Omega продвигалась вперед в своих поисках того, что всегда было мечтой генерального директора: создание общего искусственного интеллекта. Большинство других сотрудников считали «Омег», как они их ласково называли, кучкой мечтателей о журавле в небе, вечно находящихся в десятилетиях от своей цели. Однако они с радостью баловали их, потому что им нравился престиж, который передовая работа Омег давала их компании, и они также ценили улучшенные алгоритмы, которые Омеги время от времени им предоставляли.
Чего они не осознавали, так это того, что Омеги тщательно создавали свой образ, чтобы скрыть секрет: они были чрезвычайно близки к осуществлению самого смелого плана в истории человечества. Их харизматичный генеральный директор отобрал их не только за то, что они были блестящими исследователями, но и за амбиции, идеализм и твердую приверженность делу помощи человечеству. Он напомнил им, что их план был чрезвычайно опасен, и что если могущественные правительства узнают об этом, они сделают практически все, включая похищение, чтобы закрыть их или, что предпочтительнее, украсть их код. Но они были все, на 100%, по той же причине, по которой многие из ведущих физиков мира присоединились к Манхэттенскому проекту по разработке ядерного оружия: они были убеждены, что если они не сделают этого первыми, это сделает кто-то менее идеалистичный.
Созданный ими ИИ, получивший прозвище Прометей, продолжал становиться все более способным. Хотя его когнитивные способности все еще сильно отставали от человеческих во многих областях, например, в социальных навыках, Омеги упорно трудились, чтобы сделать его выдающимся в одной конкретной задаче: программировании систем ИИ. Они сознательно выбрали эту стратегию, потому что поверили в аргумент о взрыве интеллекта, выдвинутый британским математиком Ирвингом Гудом еще в 1965 году: «Пусть сверхразумная машина будет определена как машина, которая может намного превзойти все интеллектуальные действия любого человека, каким бы умным он ни был. Поскольку проектирование машин является одним из видов этих интеллектуальных действий, сверхразумная машина могла бы проектировать еще лучшие машины; тогда, несомненно, произойдет «взрыв интеллекта», и интеллект человека останется далеко позади. Таким образом, первая сверхразумная машина — это последнее изобретение, которое когда-либо нужно будет сделать человеку, при условии, что машина будет достаточно послушной, чтобы сказать нам, как держать ее под контролем».
Они решили, что если им удастся запустить это рекурсивное самосовершенствование, машина вскоре станет достаточно умной, чтобы научиться самостоятельно всем остальным полезным человеческим навыкам.

Первые миллионы
Было девять часов утра пятницы, когда они решили запуститься. Prometheus жужжал в своем специально созданном компьютерном кластере, который располагался в длинных рядах стоек в огромной комнате с контролируемым доступом и кондиционером. По соображениям безопасности он был полностью отключен от Интернета, но в нем содержалась локальная копия большей части сети (Wikipedia, Библиотека Конгресса, Twitter, выборка из YouTube, большая часть Facebook и т. д.), которую можно было использовать в качестве обучающих данных для обучения.* Они выбрали это время начала, чтобы работать без помех: их семьи и друзья думали, что они на корпоративном отдыхе на выходных. Мини-кухня была завалена едой, которую можно разогреть в микроволновке, и энергетическими напитками, и они были готовы к работе.
Когда они запустились, Prometheus был немного хуже их в программировании систем ИИ, но компенсировал это тем, что был намного быстрее, тратя эквивалент тысяч человеко-лет на решение проблемы, пока они пили Red Bull. К 10 утра он завершил первую переделку себя, v2.0, которая была немного лучше, но все еще нечеловеческой. Однако к тому времени, когда в 2 часа дня был запущен Prometheus 5.0, Omega были поражены: он превзошел их показатели производительности, и темпы прогресса, казалось, ускорялись. К ночи они решили развернуть Prometheus 10.0, чтобы начать вторую фазу своего плана: зарабатывать деньги.
Их первой целью был MTurk, Amazon Mechanical Turk. После запуска в 2005 году в качестве краудсорсинговой интернет-площадки он быстро рос, и десятки тысяч людей по всему миру анонимно соревновались круглосуточно за выполнение высокоструктурированных домашних дел, называемых HIT, «задачами человеческого интеллекта». Эти задачи варьировались от расшифровки аудиозаписей до классификации изображений и написания описаний веб-страниц, и у всех было одно общее: если вы справитесь с ними хорошо, никто не узнает, что вы ИИ. Prometheus 10.0 мог выполнять около половины категорий задач приемлемо хорошо. Для каждой такой категории задач Omega поручили Prometheus разработать компактный специализированный узкий программный модуль ИИ, который мог выполнять именно такие задачи и ничего больше. Затем они загрузили этот модуль в Amazon Web Services, платформу облачных вычислений, которая могла работать на стольких виртуальных машинах, сколько они арендовали. За каждый доллар, который они заплатили подразделению облачных вычислений Amazon, они заработали более двух долларов от подразделения Amazon MTurk. Amazon и не подозревал, что в их собственной компании существует такая потрясающая возможность арбитража!
Их первой целью был MTurk, Amazon Mechanical Turk. После запуска в 2005 году в качестве краудсорсинговой интернет-площадки он быстро рос, и десятки тысяч людей по всему миру анонимно соревновались круглосуточно за выполнение высокоструктурированных домашних дел, называемых HIT, «задачами человеческого интеллекта». Эти задачи варьировались от расшифровки аудиозаписей до классификации изображений и написания описаний веб-страниц, и у всех было одно общее: если вы справитесь с ними хорошо, никто не узнает, что вы ИИ. Prometheus 10.0 мог выполнять около половины категорий задач приемлемо хорошо. Для каждой такой категории задач Omega поручили Prometheus разработать компактный специализированный узкий программный модуль ИИ, который мог выполнять именно такие задачи и ничего больше. Затем они загрузили этот модуль в Amazon Web Services, платформу облачных вычислений, которая могла работать на стольких виртуальных машинах, сколько они арендовали. За каждый доллар, который они заплатили подразделению облачных вычислений Amazon, они заработали более двух долларов от подразделения Amazon MTurk. Amazon и не подозревал, что такая потрясающая возможность арбитража существует в их собственной компании!
Чтобы скрыть следы, они тайно создали тысячи учетных записей MTurk в течение предыдущих месяцев на имена вымышленных людей, и модули, созданные Prometheus, теперь принимали их личности. Клиенты MTurk обычно платили примерно через восемь часов, после чего Omega реинвестировали деньги в большее количество времени облачных вычислений, используя еще более совершенные модули задач, созданные последней версией постоянно совершенствующегося Prometheus. Поскольку они могли удваивать свои деньги каждые восемь часов, они вскоре начали насыщать запас задач MTurk и обнаружили, что не могут заработать больше миллиона долларов в день, не привлекая к себе нежелательного внимания. Но этого было более чем достаточно, чтобы профинансировать их следующий шаг, устраняя необходимость в неловких запросах наличных денег у финансового директора.

Опасные игры

Помимо их прорывов в области искусственного интеллекта, одним из последних проектов, который больше всего понравился Омегам, было планирование того, как заработать деньги как можно быстрее после запуска Прометея. По сути, вся цифровая экономика была открыта для захвата, но было ли лучше начать с создания компьютерных игр, музыки, фильмов или программного обеспечения, писать книги или статьи, торговать на фондовом рынке или создавать изобретения и продавать их? Все сводилось к максимизации нормы прибыли от инвестиций, но обычные инвестиционные стратегии были замедленной пародией на то, что они могли сделать: в то время как обычный инвестор мог быть доволен 9%-ной доходностью в год, их инвестиции в MTurk приносили 9% в час, генерируя в восемь раз больше денег каждый день. Итак, теперь, когда они насытили MTurk, что дальше?
Их первой мыслью было сорвать куш на фондовом рынке — в конце концов, почти все они в какой-то момент отклонили выгодное предложение о работе по разработке ИИ для хедж-фондов, которые вкладывали большие средства именно в эту идею. Некоторые помнили, что именно так ИИ заработал свои первые миллионы в фильме «Превосходство». Но новые правила в отношении деривативов после прошлогоднего краха ограничили их возможности. Вскоре они поняли, что, хотя они могли бы получить гораздо большую прибыль, чем другие инвесторы, они вряд ли получат прибыль, близкую к той, которую они могли бы получить от продажи собственных продуктов. Когда у вас работает первый в мире сверхразумный ИИ, вам лучше инвестировать в свои собственные компании, чем в чужие! Хотя могли быть отдельные исключения (например, использование сверхчеловеческих хакерских способностей Прометея для получения инсайдерской информации, а затем покупка опционов колл на акции, которые вот-вот взлетят), Омеги посчитали, что это не стоит нежелательного внимания, которое может привлечь.
Когда они переключили свое внимание на продукты, которые они могли бы разрабатывать и продавать, компьютерные игры сначала казались очевидным лучшим выбором. Prometheus мог быстро стать чрезвычайно искусным в разработке привлекательных игр, легко справляясь с кодированием, графическим дизайном, трассировкой лучей изображений и всеми другими задачами, необходимыми для создания конечного готового к отправке продукта. Более того, после обработки всех данных сети о предпочтениях людей, он бы точно знал, что нравится каждой категории геймеров, и мог бы развить сверхчеловеческую способность оптимизировать игру для дохода от продаж. The Elder Scrolls V: Skyrim, игра, на которую многие из Omega потратили больше часов, чем они хотели признать, собрала более 400 миллионов долларов за первую неделю в 2011 году, и они были уверены, что Prometheus сможет сделать что-то по крайней мере столь же захватывающее за двадцать четыре часа, используя 1 миллион долларов ресурсов облачных вычислений. Затем они могли бы продавать это в Интернете и использовать Prometheus, чтобы выдавать себя за людей, расхваливающих игру в блогосфере. Если бы это принесло $250 млн за неделю, они бы удвоили свои инвестиции восемь раз за восемь дней, что дало бы доходность в 3% в час — немного хуже, чем их старт MTurk, но гораздо более устойчиво. Разрабатывая набор других игр каждый день, они посчитали, что вскоре смогут заработать $10 млрд, не приближаясь к насыщению игрового рынка.
Но специалист по кибербезопасности в их команде отговорил их от этого плана игры. Она указала, что это создаст неприемлемый риск того, что Прометей вырвется и захватит контроль над своей собственной судьбой. Поскольку они не были уверены в том, как будут развиваться его цели в ходе его рекурсивного самосовершенствования, они решили действовать наверняка и пойти на все, чтобы держать Прометея ограниченным («заключенным в коробку») таким образом, чтобы он не мог сбежать в интернет. Для основного движка Прометея, работающего в их серверной, они использовали физическое ограничение: просто не было подключения к интернету, и единственный вывод Прометея был в форме сообщений и документов, которые он отправлял на компьютер, контролируемый Омегами.
С другой стороны, на подключенном к Интернету компьютере запуск любой сложной программы, созданной Prometheus, был рискованным предложением: поскольку Omega не могли полностью понять, что она будет делать, они не могли знать, что она, скажем, не начнет вирусно распространяться в Интернете. При тестировании программного обеспечения, написанного Prometheus для задач MTurk, Omega защищались от этого, запуская его только внутри виртуальной машины. Это программа, которая имитирует компьютер: например, многие пользователи Mac покупают программное обеспечение виртуальной машины, которое позволяет им запускать программы Windows, обманывая их, заставляя думать, что они на самом деле находятся в машине Windows. Omega создали свою собственную виртуальную машину, прозванную Ящиком Пандоры, которая имитировала сверхупрощенную машину, лишенную всех наворотов, которые мы обычно ассоциируем с компьютерами: без клавиатуры, без монитора, без громкоговорителей, без подключения к Интернету, без ничего. Для аудиотранскрипций MTurk Omega настроили все так, что все, что могло попасть в ящик Пандоры, был один аудиофайл, а все, что могло выйти, было одним текстовым документом — транскрипцией. Эти законы ящика были для программного обеспечения внутри него тем же, чем законы физики для нас внутри нашей Вселенной: программное обеспечение не могло выйти из ящика больше, чем мы можем путешествовать быстрее скорости света, независимо от того, насколько мы умны. За исключением этого единственного входа и выхода, программное обеспечение внутри ящика Пандоры было фактически заперто в параллельной вселенной со своими собственными вычислительными правилами. У Omega была такая сильная паранойя, что они добавили также упаковку во времени, ограничив срок службы ненадежного кода. Например, каждый раз, когда упакованное программное обеспечение для транскрипции заканчивало транскрипцию одного аудиофайла, все содержимое памяти ящика Пандоры автоматически стиралось, и программа переустанавливалась с нуля. Таким образом, когда он начинал следующую задачу транскрипции, он не знал, что произошло ранее, и, следовательно, не мог учиться с течением времени.
Когда Omegas использовали облако Amazon для своего проекта MTurk, они смогли поместить все свои модули задач, созданные Prometheus, в такие виртуальные коробки в облаке, потому что ввод и вывод MTurk были очень просты. Но это не сработало бы для графически тяжелых компьютерных игр, которые нельзя было бы упаковать, потому что им нужен был полный доступ ко всему оборудованию компьютера геймера. Более того, они не хотели рисковать тем, что какой-нибудь подкованный в компьютерах пользователь проанализирует код их игры, обнаружит ящик Пандоры и решит исследовать, что внутри. Риск прорыва на данный момент закрыл не только рынок игр, но и чрезвычайно прибыльный рынок другого программного обеспечения, на котором можно было бы захватить сотни миллиардов долларов.

Первые миллиарды
Омеги сузили свой поиск до продуктов, которые были очень ценными, чисто цифровыми (избегая медленного производства) и легко понимаемыми (например, текст или фильмы, которые, как они знали, не представляли бы риска прорыва). В конце концов, они решили запустить медиакомпанию, начав с анимированных развлечений. Веб-сайт, маркетинговый план и пресс-релизы были готовы еще до того, как Прометей стал сверхразумным — не хватало только контента.
Хотя к воскресному утру Prometheus был на удивление способным, стабильно загребая деньги от MTurk, его интеллектуальные возможности все еще были довольно узкими: Prometheus был намеренно оптимизирован для проектирования систем искусственного интеллекта и написания программного обеспечения, которое выполняло довольно отупляющие задачи MTurk. Например, он был плох в создании фильмов — плох не по какой-то глубокой причине, а по той же причине, по которой Джеймс Кэмерон был плох в создании фильмов, когда родился: это навык, которому нужно время, чтобы научиться. Как и человеческий ребенок, Prometheus мог узнать все, что хотел, из данных, к которым имел доступ. В то время как Джеймс Кэмерон потратил годы, чтобы научиться читать и писать, Prometheus позаботился об этом в пятницу, когда он также нашел время, чтобы прочитать всю Википедию и несколько миллионов книг. Создавать фильмы было сложнее. Написать сценарий, который люди сочли бы интересным, было так же сложно, как написать книгу, требуя детального понимания человеческого общества и того, что люди находят развлекательным. Превращение сценария в финальный видеофайл потребовало огромного количества трассировки лучей смоделированных актеров и сложных сцен, через которые они проходили, смоделированных голосов, создания убедительных музыкальных саундтреков и так далее. По состоянию на утро воскресенья Prometheus мог посмотреть двухчасовой фильм примерно за минуту, что включало чтение любой книги, на которой он был основан, и всех онлайн-обзоров и рейтингов. Omega заметили, что после того, как Prometheus запоем посмотрел несколько сотен фильмов, он начал довольно хорошо предсказывать, какие обзоры получит фильм и как он понравится разной аудитории. Действительно, он научился писать собственные обзоры фильмов таким образом, который, по их мнению, демонстрировал реальное понимание, комментируя все, от сюжета и актерской игры до технических деталей, таких как освещение и ракурсы камеры. Они поняли это так, что когда Prometheus будет снимать свои собственные фильмы, он будет знать, что означает успех.
Омеги поручили Прометею сначала сосредоточиться на создании анимации, чтобы избежать неловких вопросов о том, кто были симулированные актеры. В воскресенье вечером они завершили свои дикие выходные, вооружившись пивом и попкорном из микроволновки, приглушив свет и посмотрев дебютный фильм Прометея. Это была анимированная фэнтезийная комедия в духе «Холодного сердца» Диснея, а трассировка лучей была выполнена с помощью кода, созданного Прометеем в облаке Amazon, на что ушла большая часть дневной прибыли MTurk в размере 1 миллиона долларов. Когда фильм начался, они обнаружили, что он был создан машиной без человеческого руководства, и увлекательным, и пугающим. Однако вскоре они смеялись над шутками и затаили дыхание в драматические моменты. Некоторые из них даже немного прослезились от эмоционального финала, настолько поглощенные этой вымышленной реальностью, что забыли о ее создателе.
Omegas запланировали запуск своего веб-сайта на пятницу, дав Prometheus время на создание большего количества контента, а себе время на то, что они не доверяли Prometheus: покупку рекламы и начало набора сотрудников для подставных компаний, которые они создали в течение последних месяцев. Чтобы скрыть следы, официальная история прикрытия состояла в том, что их медиакомпания (которая не имела публичной связи с Omegas) покупала большую часть своего контента у независимых кинопродюсеров, как правило, высокотехнологичных стартапов в регионах с низким доходом. Эти фальшивые поставщики удобно располагались в отдаленных местах, таких как Тируччираппалли и Якутск, которые большинство любопытных журналистов не стали бы посещать. Единственные сотрудники, которых они действительно наняли, работали в отделах маркетинга и администрирования и говорили всем, кто спрашивал, что их производственная группа находится в другом месте и в данный момент не дает интервью. Чтобы соответствовать своей истории прикрытия, они выбрали корпоративный слоган «Направление творческих талантов мира» и позиционировали свою компанию как принципиально иную, используя передовые технологии для расширения прав и возможностей творческих людей, особенно в развивающихся странах.
Когда наступила пятница и любопытные посетители начали заходить на их сайт, они столкнулись с чем-то, напоминающим онлайн-развлекательные сервисы Netflix и Hulu, но с интересными отличиями. Все анимационные сериалы были новыми, о которых они никогда не слышали. Они были довольно захватывающими: большинство серий состояли из серий продолжительностью сорок пять минут с сильной сюжетной линией, каждая из которых заканчивалась так, что вам хотелось узнать, что произошло в следующей серии. И они были дешевле, чем у конкурентов. Первая серия каждой серии была бесплатной, а остальные можно было посмотреть за сорок девять центов за каждую, со скидками на всю серию. Изначально было всего три серии по три серии в каждой, но ежедневно добавлялись новые серии, а также новые серии, рассчитанные на разные демографические группы. В течение первых двух недель «Прометея» его навыки создания фильмов быстро улучшались, с точки зрения не только качества фильмов, но и более совершенных алгоритмов для моделирования персонажей и трассировки лучей, что значительно снизило стоимость облачных вычислений для создания каждой новой серии. В результате Omega смогли выпустить десятки новых сериалов в течение первого месяца, ориентируясь на демографические группы от малышей до взрослых, а также расшириться на все основные языковые рынки мира, сделав свой сайт в высшей степени международным по сравнению со всеми конкурентами. Некоторые комментаторы были впечатлены тем фактом, что не только саундтреки были многоязычными, но и сами видеоролики: например, когда персонаж говорил по-итальянски, движения рта соответствовали итальянским словам, как и характерные итальянские жесты рук. Хотя Prometheus теперь был вполне способен снимать фильмы с имитацией актеров, неотличимых от людей, Omega избегали этого, чтобы не раскрыть свои карты. Однако они запустили много сериалов с полуреалистичными анимированными человеческими персонажами в жанрах, конкурирующих с традиционными телешоу и фильмами с живыми актерами.
Их сеть оказалась весьма захватывающей и имела впечатляющий рост числа зрителей. Многие фанаты посчитали персонажей и сюжеты более умными и интересными, чем даже самые дорогие постановки Голливуда на большом экране, и были рады, что они могли смотреть их гораздо более доступно. Подстегиваемые агрессивной рекламой (которую Omega могли себе позволить из-за почти нулевых затрат на производство), отличным освещением в СМИ и восторженными отзывами из уст в уста, их глобальный доход вырос до 10 миллионов долларов в день в течение месяца после запуска. Через два месяца они обогнали Netflix, а через три они зарабатывали более 100 миллионов долларов в день, начав конкурировать с Time Warner, Disney, Comcast и Fox за звание одной из крупнейших в мире медиаимперий.
Их сенсационный успех привлек массу нежелательного внимания, включая предположения о наличии у них сильного ИИ, но, используя лишь малую часть своих доходов, Омеги развернули довольно успешную кампанию по дезинформации. Из нового блестящего офиса на Манхэттене их недавно нанятые спикеры подробно рассказывали о своих прикрытиях. Множество людей были наняты в качестве контрастов, включая настоящих сценаристов по всему миру, чтобы начать разработку новых серий, никто из которых не знал о Прометее. Запутанная международная сеть субподрядчиков позволила большинству их сотрудников легко предположить, что другие где-то в другом месте выполняют большую часть работы.
Чтобы сделать себя менее уязвимыми и избежать излишних облачных вычислений, они также наняли инженеров, чтобы начать строительство ряда крупных компьютерных объектов по всему миру, принадлежащих, казалось бы, неаффилированным компаниям-пустышкам. Хотя они были представлены местным жителям как «зеленые центры обработки данных», поскольку в основном работали на солнечной энергии, на самом деле они были в основном сосредоточены на вычислениях, а не на хранении. Prometheus разработали свои чертежи до мельчайших деталей, используя только готовое оборудование и оптимизируя его для минимизации времени строительства. Люди, которые строили и управляли этими центрами, понятия не имели, что там вычислялось: они думали, что управляют коммерческими облачными вычислительными объектами, похожими на те, которыми управляют Amazon, Google и Microsoft, и знали только, что все продажи управляются удаленно.

Новые технологии
В течение нескольких месяцев бизнес-империя, контролируемая Омегами, начала укрепляться во все большем количестве областей мировой экономики благодаря сверхчеловеческому планированию Прометея. Тщательно анализируя мировые данные, она уже в течение первой недели представила Омегам подробный пошаговый план роста и продолжала совершенствовать и дорабатывать этот план по мере роста ее данных и компьютерных ресурсов. Хотя Прометей был далек от всезнания, его возможности теперь были настолько выше человеческих, что Омеги считали его идеальным оракулом, добросовестно предоставляющим блестящие ответы и советы в ответ на все их вопросы.
Программное обеспечение Prometheus теперь было высоко оптимизировано, чтобы максимально использовать довольно посредственное аппаратное обеспечение, изобретенное человеком, на котором оно работало, и, как и предполагали Омеги, Prometheus нашел способы радикального улучшения этого оборудования. Опасаясь прорыва, они отказались строить роботизированные строительные объекты, которыми Prometheus мог бы управлять напрямую. Вместо этого они наняли большое количество ученых и инженеров мирового класса в нескольких местах и ;;скармливали им внутренние исследовательские отчеты, написанные Prometheus, притворяясь, что они были от исследователей с других мест. В этих отчетах подробно описывались новые физические эффекты и производственные технологии, которые их инженеры вскоре проверили, поняли и освоили. Обычные циклы человеческих исследований и разработок (R & D), конечно, занимают годы, во многом потому, что они включают в себя множество медленных циклов проб и ошибок. Текущая ситуация была совсем другой: Prometheus уже продумал следующие шаги, поэтому ограничивающим фактором было просто то, насколько быстро людей можно было направить, чтобы они понимали и создавали правильные вещи. Хороший учитель может помочь ученикам изучать науку гораздо быстрее, чем они могли бы открыть ее с нуля самостоятельно, и Прометей тайно сделал то же самое с этими исследователями. Поскольку Прометей мог точно предсказать, сколько времени потребуется людям, чтобы понять и построить вещи, имея различные инструменты, он разработал максимально быстрый возможный путь вперед, отдавая приоритет новым инструментам, которые можно было быстро понять и построить и которые были полезны для разработки более продвинутых инструментов.
В духе движения мейкеров инженерные команды поощрялись использовать собственные машины для создания лучших машин. Эта самодостаточность не только экономила деньги, но и делала их менее уязвимыми для будущих угроз из внешнего мира. В течение двух лет они производили гораздо лучшее компьютерное оборудование, чем когда-либо знал мир. Чтобы не помогать внешним конкурентам, они держали эту технологию в тайне и использовали ее только для модернизации Prometheus.
Однако мир заметил поразительный технологический бум. Компании-выскочки по всему миру запускали революционные новые продукты практически во всех областях. Южнокорейский стартап выпустил новую батарею, которая хранила вдвое больше энергии, чем батарея вашего ноутбука, при вдвое меньшей массе и могла заряжаться менее чем за минуту. Финская фирма выпустила дешевую солнечную панель с эффективностью, вдвое превышающей эффективность лучших конкурентов. Немецкая компания анонсировала новый тип провода массового производства, который был сверхпроводящим при комнатной температуре, что произвело революцию в энергетическом секторе. Базирующаяся в Бостоне биотехнологическая группа объявила о клиническом испытании фазы II того, что, по их словам, было первым эффективным препаратом для похудения без побочных эффектов, в то время как слухи предполагали, что индийская компания уже продавала что-то подобное на черном рынке. Калифорнийская компания ответила испытанием фазы II сверхпопулярного препарата от рака, который заставлял иммунную систему организма распознавать и атаковать клетки с любой из наиболее распространенных раковых мутаций. Примеры продолжали поступать, вызывая разговоры о новом золотом веке науки. И последнее, но не менее важное: компании по производству роботов появлялись как грибы по всему миру. Ни один из ботов не приближался к человеческому интеллекту, и большинство из них не были похожи на людей. Но они кардинально изменили экономику и с течением лет постепенно заменили большинство рабочих в производстве, транспорте, складировании, розничной торговле, строительстве, горнодобывающей промышленности, сельском хозяйстве, лесном хозяйстве и рыболовстве.
Чего мир не заметил, благодаря упорной работе первоклассной команды юристов, так это того, что все эти фирмы контролировались Омегами через ряд посредников. Прометей наводнял патентные бюро мира сенсационными изобретениями через различных доверенных лиц, и эти изобретения постепенно привели к доминированию во всех областях технологий.
Хотя эти подрывные новые компании нажили себе сильных врагов среди своих конкурентов, они нажили еще более сильных друзей. Они были исключительно прибыльными, и под лозунгами вроде «Инвестируем в наше сообщество» они тратили значительную часть этой прибыли на найм людей для общественных проектов — часто тех же людей, которые были уволены из компаний, которые были подорваны. Они использовали подробный анализ Prometheus, определяя рабочие места, которые были бы максимально полезны для сотрудников и сообщества при наименьших затратах, с учетом местных обстоятельств. В регионах с высоким уровнем государственных услуг это часто было сосредоточено на развитии сообщества, культуре и уходе, в то время как в более бедных регионах это также включало открытие и поддержание школ, здравоохранения, дневного ухода, ухода за престарелыми, доступного жилья, парков и базовой инфраструктуры. Практически везде местные жители согласились, что это то, что нужно было сделать давно. Местные политики получали щедрые пожертвования, и были приняты меры, чтобы они выглядели хорошо для поощрения этих корпоративных инвестиций в сообщество.

Обретение власти
Омеги запустили медиакомпанию не только для финансирования своих ранних технологических предприятий, но и для следующего шага своего смелого плана: захвата мира. В течение года после первого запуска они добавили в свою линейку удивительно хорошие новостные каналы по всему миру. В отличие от других своих каналов, эти были намеренно созданы для убытков и позиционировались как общественная услуга. Фактически, их новостные каналы не приносили никакого дохода: они не показывали никакой рекламы и были доступны для бесплатного просмотра любому человеку с подключением к Интернету. Остальная часть их медиаимперии была такой машиной по производству денег, что они могли тратить гораздо больше ресурсов на свою новостную службу, чем любые другие журналистские усилия в мировой истории, — и это было заметно. Благодаря агрессивному набору с весьма конкурентоспособными зарплатами журналистов и репортеров-расследователей они вывели на экран замечательные таланты и открытия. Через глобальную веб-службу, которая платила любому, кто раскрывал что-то заслуживающее освещения в печати, от местной коррупции до трогательного события, они обычно были первыми, кто раскрывал историю. По крайней мере, так считали люди: на самом деле, они часто были первыми, потому что истории, приписываемые гражданским журналистам, были обнаружены Прометеем посредством мониторинга интернета в реальном времени. Все эти сайты видеоновостей также содержали подкасты и печатные статьи.
Фаза 1 их новостной стратегии заключалась в завоевании доверия людей, что они и сделали с большим успехом. Их беспрецедентная готовность терять деньги позволила обеспечить исключительно старательное освещение региональных и местных новостей, где журналисты-расследователи часто раскрывали скандалы, которые действительно вовлекали их зрителей. Всякий раз, когда страна была сильно разделена политически и привыкла к партийным новостям, они запускали один новостной канал, обслуживающий каждую фракцию, якобы принадлежащий разным компаниям, и постепенно завоевывали доверие этой фракции. Где это было возможно, они добивались этого с помощью доверенных лиц, чтобы купить самые влиятельные существующие каналы, постепенно улучшая их, удаляя рекламу и вводя собственный контент. В странах, где цензура и политическое вмешательство угрожали этим усилиям, они изначально соглашались на все, что требовало от них правительство, чтобы остаться в бизнесе, с секретным внутренним лозунгом «Правда, ничего, кроме правды, но, возможно, не вся правда». Прометей обычно давал отличные советы в таких ситуациях, разъясняя, каких политиков нужно представить в хорошем свете, а каких (обычно коррумпированных местных) можно разоблачить. Прометей также дал бесценные рекомендации о том, за какие ниточки дергать, кого подкупать и как это лучше всего сделать.
Эта стратегия имела ошеломительный успех во всем мире, и контролируемые Omega каналы стали самыми надежными источниками новостей. Даже в странах, где правительства до сих пор препятствовали их массовому принятию, они создали себе репутацию заслуживающих доверия, и многие из их новостных сюжетов просачивались через сарафанное радио. Конкурирующие руководители новостей чувствовали, что они ведут безнадежную битву: как можно получить прибыль, конкурируя с кем-то с лучшим финансированием, кто раздает свою продукцию бесплатно? С падением их зрительской аудитории все больше сетей решали продать свои новостные каналы — обычно какому-то консорциуму, который позже оказывался контролируемым Omega.
Примерно через два года после запуска Prometheus, когда фаза завоевания доверия была в основном завершена, Omegas запустили фазу 2 своей новостной стратегии: убеждение. Еще до этого проницательные наблюдатели заметили намеки на политическую повестку дня за новыми медиа: казалось, что был легкий толчок к центру, от экстремизма всех видов. Их множество каналов, обслуживающих разные группы, по-прежнему отражало враждебность между Соединенными Штатами и Россией, Индией и Пакистаном, разными религиями, политическими фракциями и так далее, но критика была немного смягчена, обычно фокусируясь на конкретных вопросах, связанных с деньгами и властью, а не на атаках ad hominem, запугивании и плохо обоснованных слухах. Как только фаза 2 началась всерьез, это стремление разрядить старые конфликты стало более очевидным, с частыми трогательными историями о бедственном положении традиционных противников, смешанными с журналистскими расследованиями о том, как много громких разжигателей конфликтов были движимы личными корыстными мотивами.
Политические комментаторы отметили, что параллельно с ослаблением региональных конфликтов, похоже, наблюдается согласованный толчок к снижению глобальных угроз. Например, риски ядерной войны внезапно стали обсуждаться повсюду. Несколько блокбастеров показали сценарии, в которых глобальная ядерная война начиналась случайно или намеренно, и драматизировали антиутопические последствия с ядерной зимой, крахом инфраструктуры и массовым голодом. Новые захватывающие документальные фильмы подробно описывали, как ядерная зима может повлиять на каждую страну. Ученым и политикам, выступающим за ядерную деэскалацию, было предоставлено достаточно эфирного времени, не в последнюю очередь для обсуждения результатов нескольких новых исследований о том, какие полезные меры можно было бы предпринять — исследований, финансируемых научными организациями, которые получили крупные пожертвования от новых технологических компаний. В результате политический импульс начал набирать обороты для снятия ракет с повышенной боевой готовности и сокращения ядерных арсеналов. Возобновленное внимание СМИ также было уделено глобальному изменению климата, часто подчеркивая недавние технологические прорывы, реализованные в рамках проекта «Прометей», которые сократили стоимость возобновляемой энергии и побудили правительства инвестировать в такую ;;новую энергетическую инфраструктуру.
Параллельно с захватом СМИ Omega использовали Prometheus для революции в образовании. Учитывая знания и способности любого человека, Prometheus мог определить для него самый быстрый способ изучить любой новый предмет таким образом, чтобы он был максимально заинтересован и мотивирован продолжать, и создать соответствующие оптимизированные видео, материалы для чтения, упражнения и другие учебные инструменты. Поэтому компании, контролируемые Omega, продавали онлайн-курсы практически обо всем, строго настраиваемые не только по языку и культурному происхождению, но и по начальному уровню. Независимо от того, были ли вы неграмотным сорокалетним человеком, желающим научиться читать, или доктором биологических наук, ищущим последние новости об иммунотерапии рака, у Prometheus был идеальный курс для вас. Эти предложения мало напоминали большинство современных онлайн-курсов: используя таланты Prometheus в создании фильмов, видеофрагменты действительно вовлекали, предоставляя мощные метафоры, которые вы бы соотнесли с собой, заставляя вас жаждать узнать больше. Некоторые курсы продавались с целью получения прибыли, но многие были доступны бесплатно, к большой радости учителей по всему миру, которые могли использовать их в своих классах, а также для большинства тех, кто хотел чему-то научиться.
Эти образовательные сверхспособности оказались мощными инструментами для политических целей, создавая онлайн-«убеждающие последовательности» видеороликов, где идеи каждого из них как обновляли чьи-то взгляды, так и мотивировали их посмотреть другое видео на связанную тему, где они, вероятно, были бы еще больше убеждены. Например, когда целью было разрядить конфликт между двумя странами, исторические документальные фильмы независимо выпускались в обеих странах, которые представляли истоки и ход конфликта в более тонком свете. Педагогические новостные сюжеты объясняли, кто с их стороны выигрывал от продолжающегося конфликта, и их методы его разжигания. В то же время симпатичные персонажи из другой страны начинали появляться в популярных шоу на развлекательных каналах, так же как сочувственно изображенные персонажи меньшинств поддерживали гражданские и гей-движения в прошлом.
Вскоре политические комментаторы не могли не заметить растущую поддержку политической повестки дня, сосредоточенной вокруг семи лозунгов:
1.Демократия
2. Снижение налогов
3. Сокращение государственных социальных услуг
4. Сокращение военных расходов
5. Свободная торговля
6. Открытые границы
7. Социально ответственные компании

Менее очевидной была основная цель: разрушить все предыдущие структуры власти в мире. Пункты 2–6 подрывали государственную власть, а демократизация мира давала бизнес-империи Омеги больше влияния на выбор политических лидеров. Социально ответственные компании еще больше ослабляли государственную власть, принимая на себя все больше и больше услуг, которые правительства предоставляли (или должны были предоставлять). Традиционная бизнес-элита была ослаблена просто потому, что не могла конкурировать с компаниями, поддерживаемыми Прометеем, на свободном рынке и, следовательно, владела постоянно сокращающейся долей мировой экономики. Традиционным лидерам общественного мнения, от политических партий до религиозных групп, не хватало аппарата убеждения, чтобы конкурировать с медиа-империей Омеги.
Как и в случае с любыми масштабными изменениями, были победители и проигравшие. Хотя в большинстве стран ощущалось ощутимое новое чувство оптимизма по мере того, как улучшалось образование, социальные услуги и инфраструктура, утихали конфликты и местные компании выпускали прорывные технологии, охватившие весь мир, не все были счастливы. В то время как многие уволенные работники были снова наняты для общественных проектов, те, кто обладал большой властью и богатством, как правило, видели, как и то, и другое сокращалось. Это началось в секторах СМИ и технологий, но распространилось практически везде. Сокращение мировых конфликтов привело к сокращению оборонного бюджета, что нанесло ущерб военным подрядчикам. Растущие компании-выскочки, как правило, не были публично проданы, под предлогом того, что акционеры, максимизирующие прибыль, заблокируют их огромные расходы на общественные проекты. Таким образом, мировой фондовый рынок продолжал терять стоимость, угрожая как финансовым магнатам, так и обычным гражданам, которые рассчитывали на свои пенсионные фонды. Как будто сокращение прибыли публичных компаний было недостаточно плохим, инвестиционные компании по всему миру заметили тревожную тенденцию: все их ранее успешные торговые алгоритмы, казалось, перестали работать, уступая даже простым индексным фондам. Всегда казалось, что кто-то другой перехитрил их и победил в их же игре.
Хотя массы влиятельных людей сопротивлялись волне перемен, их реакция была поразительно неэффективной, словно они попали в хорошо спланированную ловушку. Огромные изменения происходили с такой ошеломляющей скоростью, что было трудно отслеживать и разрабатывать скоординированный ответ. Более того, было совершенно неясно, за чем им следует бороться. Традиционные политические правые увидели, что большинство их лозунгов были кооптированы, однако снижение налогов и улучшение делового климата в основном помогали их высокотехнологичным конкурентам. Практически каждая традиционная отрасль теперь требовала спасения, но ограниченные государственные средства столкнули их в безнадежной битве друг с другом, в то время как СМИ изображали их как динозавров, ищущих государственные субсидии просто потому, что они не могли конкурировать. Традиционные политические левые выступали против свободной торговли и сокращения государственных социальных услуг, но радовались сокращениям военных расходов и сокращению бедности. Действительно, большую часть их грома украл неоспоримый факт, что социальные услуги улучшились теперь, когда их предоставляли идеалистические компании, а не государство. Опрос за опросом показывали, что большинство избирателей по всему миру чувствовали, что качество их жизни улучшается, и что в целом все движется в хорошем направлении. Это имело простое математическое объяснение: до Прометея беднейшие 50% населения Земли зарабатывали всего около 4% мирового дохода, что позволяло компаниям, контролируемым Omega, завоевывать их сердца (и голоса), делясь с ними лишь скромной долей своей прибыли.

Укрепление
В результате, страна за страной увидели убедительные победы на выборах партий, принявших семь лозунгов Omega. В тщательно оптимизированных кампаниях они изображали себя в центре политического спектра, осуждая правых как жадных, ищущих спасения разжигателей конфликтов и критикуя левых как подавителей инноваций с помощью налогов и расходов большого правительства. Почти никто не понял, что Прометей тщательно отобрал оптимальных людей, чтобы подготовить их в качестве кандидатов, и потянул за все свои ниточки, чтобы обеспечить их победу.
До Prometheus росла поддержка движения за всеобщий базовый доход, которое предлагало минимальный доход, финансируемый налогами, для всех в качестве средства от технологической безработицы. Это движение рухнуло, когда корпоративные общественные проекты начали развиваться, поскольку контролируемая Omega бизнес-империя фактически предоставляла то же самое. Под предлогом улучшения координации своих общественных проектов международная группа компаний основала Гуманитарный альянс, неправительственную организацию, целью которой было выявление и финансирование наиболее ценных гуманитарных усилий во всем мире. Вскоре практически вся империя Omega поддержала его, и он запустил глобальные проекты беспрецедентного масштаба, даже в странах, которые в значительной степени пропустили технологический бум, улучшая образование, здравоохранение, благосостояние и управление. Излишне говорить, что Prometheus предоставлял тщательно продуманные планы проектов за кулисами, ранжированные по положительному влиянию на доллар. Вместо того чтобы просто раздавать деньги, как в предложениях о базовом доходе, Альянс (как его стали называть в разговорной речи) привлекал тех, кого он поддерживал, к работе над своим делом. В результате значительная часть населения мира в конечном итоге почувствовала благодарность и преданность Альянсу — часто даже большую, чем своему собственному правительству.
Со временем Альянс все больше брал на себя роль мирового правительства, поскольку национальные правительства видели, как их власть постоянно ослабевает. Национальные бюджеты продолжали сокращаться из-за снижения налогов, в то время как бюджет Альянса рос, затмевая бюджеты всех правительств вместе взятых. Все традиционные роли национальных правительств становились все более излишними и неактуальными. Альянс предоставлял самые лучшие социальные услуги, образование и инфраструктуру. Средства массовой информации разрядили международный конфликт до такой степени, что военные расходы стали в значительной степени ненужными, а растущее благосостояние устранило большинство корней старых конфликтов, которые восходили к конкуренции за скудные ресурсы. Несколько диктаторов и других яростно сопротивлялись этому новому мировому порядку и отказывались подкупаться, но все они были свергнуты в результате тщательно организованных переворотов или массовых восстаний.
Омеги теперь завершили самый драматичный переход в истории жизни на Земле. Впервые наша планета управлялась единой силой, усиленной интеллектом настолько огромным, что он мог потенциально позволить жизни процветать в течение миллиардов лет на Земле и во всем нашем космосе — но в чем конкретно заключался их план?
Это была история команды Omega. Остальная часть этой книги посвящена другой истории, которая еще не написана: истории нашего собственного будущего с ИИ. Как бы вы хотели, чтобы она разыгралась? Может ли что-то отдаленно похожее на историю Omega произойти на самом деле, и если да, то хотели бы вы этого? Оставив в стороне рассуждения о сверхчеловеческом ИИ, как бы вы хотели, чтобы началась наша история? Как бы вы хотели, чтобы ИИ повлиял на рабочие места, законы и оружие в грядущем десятилетии? Заглядывая дальше вперед, как бы вы написали ее конец? Эта история поистине космических масштабов, поскольку она включает в себя не что иное, как окончательное будущее жизни во Вселенной. И это история, которую нам предстоит написать.
* Для простоты я предположил в этой истории сегодняшнюю экономику и технологии, хотя большинство исследователей полагают, что общий ИИ человеческого уровня появится не раньше, чем через десятилетия. План Omega должен стать еще более простым в реализации в будущем, если цифровая экономика продолжит расти и все больше услуг можно будет заказывать онлайн без лишних вопросов.























































Глава 1
Добро пожаловать на самый важный разговор нашего времени
Технологии дают жизни возможность процветать как никогда прежде — или самоуничтожаться.
Институт будущего жизни

Спустя тринадцать с половиной миллиардов лет после своего рождения наша Вселенная пробудилась и осознала себя. С маленькой голубой планеты крошечные сознательные части нашей Вселенной начали вглядываться в космос с помощью телескопов, неоднократно обнаруживая, что все, что они считали существующим, является лишь малой частью чего-то большего: солнечной системы, галактики и вселенной с более чем сотней миллиардов других галактик, организованных в сложную структуру групп, скоплений и сверхскоплений. Хотя эти сознательные наблюдатели за звездами расходятся во мнениях по многим вопросам, они склонны соглашаться, что эти галактики прекрасны и внушают благоговение.
Но красота в глазах смотрящего, а не в законах физики, поэтому до того, как наша Вселенная проснулась, красоты не было. Это делает наше космическое пробуждение еще более прекрасным и достойным празднования: оно превратило нашу Вселенную из бездумного зомби без самосознания в живую экосистему, таящую в себе саморефлексию, красоту и надежду — и стремление к целям, смыслу и предназначению. Если бы наша Вселенная никогда не просыпалась, то, насколько я понимаю, она была бы совершенно бессмысленной — просто гигантской тратой пространства. Если бы наша Вселенная навсегда вернулась ко сну из-за какой-то космической катастрофы или самопроизвольной неудачи, она, увы, стала бы бессмысленной.
С другой стороны, все может стать еще лучше. Мы пока не знаем, являемся ли мы, люди, единственными наблюдателями за звездами в нашем космосе или даже первыми, но мы уже достаточно узнали о нашей Вселенной, чтобы знать, что у нее есть потенциал пробудиться гораздо полнее, чем до сих пор. Возможно, мы как тот первый слабый проблеск самосознания, который вы испытали, когда начали просыпаться сегодня утром: предчувствие гораздо большего сознания, которое придет, как только вы откроете глаза и полностью проснетесь. Возможно, жизнь распространится по всему нашему космосу и будет процветать миллиарды или триллионы лет — и, возможно, это произойдет из-за решений, которые мы принимаем здесь, на нашей маленькой планете, в течение нашей жизни.

Краткая история сложности
Так как же произошло это удивительное пробуждение? Это было не изолированное событие, а всего лишь один шаг в неустанном 13,8-миллиардном процессе, который делает нашу Вселенную все более сложной и интересной — и продолжается все ускоряющимися темпами.
Как физик, я считаю, что мне повезло провести большую часть последней четверти века, помогая определять нашу космическую историю, и это было удивительное путешествие открытий. С тех пор, как я был аспирантом, мы перешли от споров о том, 10 или 20 миллиардов лет назад, к спорам о том, 13,7 или 13,8 миллиардов лет назад, благодаря сочетанию лучших телескопов, лучших компьютеров и лучшего понимания. Мы, физики, до сих пор не знаем наверняка, что вызвало наш Большой взрыв, было ли это действительно началом всего или просто продолжением более ранней стадии. Однако мы приобрели довольно подробное понимание того, что произошло после нашего Большого взрыва, благодаря лавине высококачественных измерений, поэтому, пожалуйста, позвольте мне выделить несколько минут, чтобы подвести итог 13,8 миллиарда лет космической истории.
В начале был свет. В первую долю секунды после нашего Большого взрыва вся часть пространства, которую в принципе могут наблюдать наши телескопы («наша наблюдаемая Вселенная» или просто «наша Вселенная» для краткости), была намного горячее и ярче, чем ядро ;;нашего Солнца, и она быстро расширялась. Хотя это может показаться впечатляющим, это было также скучно в том смысле, что наша Вселенная не содержала ничего, кроме безжизненного, плотного, горячего и скучно однородного супа элементарных частиц. Вещи выглядели почти одинаково везде, и единственная интересная структура состояла из слабых случайно выглядящих звуковых волн, которые делали суп примерно на 0,001% плотнее в некоторых местах. Широко распространено мнение, что эти слабые волны возникли как так называемые квантовые флуктуации, потому что принцип неопределенности Гейзенберга в квантовой механике запрещает чему-либо быть полностью скучным и однородным.
По мере того, как наша Вселенная расширялась и охлаждалась, она становилась все интереснее, поскольку ее частицы объединялись во все более сложные объекты. В течение первой доли секунды сильная ядерная сила сгруппировала кварки в протоны (ядра водорода) и нейтроны, некоторые из которых, в свою очередь, в течение нескольких минут слились в ядра гелия. Примерно 400 000 лет спустя электромагнитная сила сгруппировала эти ядра с электронами, чтобы создать первые атомы. По мере того, как наша Вселенная продолжала расширяться, эти атомы постепенно остывали в холодный темный газ, и темнота этой первой ночи длилась около 100 миллионов лет. Эта долгая ночь дала начало нашему космическому рассвету, когда гравитационной силе удалось усилить эти колебания в газе, стянув атомы вместе, чтобы сформировать первые звезды и галактики. Эти первые звезды генерировали тепло и свет, сплавляя водород в более тяжелые атомы, такие как углерод, кислород и кремний. Когда эти звезды умерли, многие из созданных ими атомов были переработаны в космосе и образовали планеты вокруг звезд второго поколения.
(25 стр_.