Homo Deus

В 2015 году всемирно известный израильский исследователь Юваль Ной Харари опубликовал книгу «Homo Deus: Краткая история завтрашнего дня». Приведу фрагмент из нее.
Гуру хайтека культивируют для нас дивные новые религии, которые никак не связаны с Богом, а связаны исключительно с технологиями. Эти религии сулят все те же награды — счастье, мир, благоденствие и даже вечную жизнь, — но здесь, на земле, при помощи технологий, а не после смерти при участии высших сил.
Эти новые технорелигии можно разделить на два основных типа: техногуманизм и религию данных. Религия данных утверждает, что люди выполнили свою космическую задачу и должны теперь передать факел абсолютно новым формам существования. Техногуманизм соглашается с тем, что Homo Sapiens, каким мы его знаем, исторически исчерпал себя и не будет актуальным в будущем, однако видит выход в том, чтобы при помощи технологий создать намного более совершенную модель человека. Homo Deus сохранит ряд существенных черт сапиенсов, но при этом будет обладать небывалыми физическими и умственными способностями, которые позволят ему выдержать состязание с самыми совершенными алгоритмами. Поскольку интеллект отделяется от сознания и поскольку не обладающий сознанием искусственный интеллект развивается с головокружительной скоростью, люди должны безотлагательно и очень активно заняться модернизацией своих мозгов, если не хотят выбыть из игры.
Эта идея является усовершенствованным вариантом старых мечтаний эволюционных гуманистов, которые еще век назад призывали к созданию сверхчеловека. Но если Гитлер и иже с ним планировали вывести породу сверхлюдей посредством селекции и этнических чисток, то техногуманизм XXI века надеется достичь этой цели гораздо более мирным путем, с помощью генной инженерии, нанотехнологий и нейрокомпьютерных интерфейсов.
Датаизм провозглашает, что Вселенная состоит из потоков данных и что ценность всякого явления или сущности определяется их вкладом в обработку данных. Вы можете счесть это мнением группы эксцентричных оригиналов, но на самом деле это представление уже преобладает в научном истеблишменте. Датаизм родился от взрывного слияния двух научных приливных волн. С одной стороны, через 150 лет после публикации Чарльзом Дарвином «Происхождения видов» естественные науки стали смотреть на организмы как на биохимические алгоритмы. С другой — одновременно, через восемь десятилетий после того, как Алан Тьюринг сформулировал идею машины Тьюринга, компьютерные специалисты научились разрабатывать все более сложные электронные алгоритмы. Датаизм соединяет то и другое, указывая, что биохимические и электронные алгоритмы подчинены одним и тем же математическим законам. Таким образом датаизм разрушает барьер между животными и машинами и предрекает, что электронные алгоритмы в конце концов расшифруют и превзойдут биохимические алгоритмы.
Политикам, бизнесменам и рядовым потребителям датаизм предлагает революционные технологии и огромные новые возможности. Ученым и интеллектуалам он обещает ускользавший от нас веками научный Святой Грааль — единую универсальную теорию для всех дисциплин, начиная с музыковедения через экономику и заканчивая биологией. Согласно датаизму, Пятая симфония Бетховена, пузырь на фондовом рынке и вирус гриппа — три разновидности потока данных. Их можно проанализировать при помощи одних и тех же базовых понятий и инструментов. Идея, конечно, исключительно привлекательная. Она дает всем ученым общий язык, наводит мосты через академические разногласия и легко проводит открытия через междисциплинарные границы. Музыковеды, экономисты и микробиологи наконец смогут понять друг друга.
По ходу датаизм переворачивает традиционную пирамиду обучения. До недавних пор на данные смотрели лишь как на первое звено в длинной цепочке интеллектуальной деятельности. Человеку надо было превращать данные в информацию, информацию в знания, а знания в мудрость. Но датаисты считают, что люди больше не в состоянии справляться с огромными потоками данных, поэтому не могут превращать данные в информацию и уж тем более в знания или мудрость. Поэтому обработка данных должна быть доверена электронным алгоритмам, намного более мощным, чем человеческий мозг. На практике это означает, что датаисты скептически относятся к человеческим знаниям и мудрости и предпочитают полагаться на Большие данные и компьютерные алгоритмы.
Датаизм крепко-накрепко укоренен в породивших его дисциплинах: информатике и биологии. Причем более важной из двух является биология. Именно принятие датаизма биологией превратило частное открытие в компьютерных науках в сокрушительный катаклизм, способный полностью изменить саму природу жизни. Вы можете не соглашаться с идеей, что организмы являются алгоритмами и что жирафы, помидоры и люди — это способы обработки данных, просто разные. Но вам следует знать, что такова современная научная догма и сейчас она меняет наш мир до неузнаваемости.
Системами обработки данных считаются сегодня не только отдельные организмы, но и целые сообщества, такие как пчелиные семьи, колонии бактерий, леса и человеческие города. Экономисты все чаще смотрят на экономику как на систему обработки данных. Обыватели верят, что экономика — это выращивающие зерно фермеры, шьющие одежду работницы фабрик и покупающие хлеб и рубашки потребители. Специалисты же видят в экономике механизм сбора данных о потребностях и возможностях формирования из этих данных решений.
Нынешние демократические структуры не умеют собирать и обрабатывать значимые данные достаточно быстро, а масса избирателей не ориентируется в биологии и кибернетике достаточно хорошо для того, чтобы сформировать более или менее адекватное мнение. Поэтому традиционная демократическая политика теряет контроль над происходящим и бессильна представить нам осмысленное видение будущего.
Именно из-за стремительного развития технологий и своей растерянности по поводу неспособности быстро обрабатывать данные современные политики мыслят не в пример более узко, чем их предшественники сотню лет назад. Поэтому политика XXI века лишена масштабных прозрений. Правительство стало просто администрацией. Оно управляет страной, но уже не ведет ее за собой. Оно обеспечивает своевременную выплату зарплаты учителям и бесперебойное функционирование систем канализации, но не имеет никакого представления о том, где страна будет через двадцать лет.
Многие неолиберальные экономисты и политологи утверждают, что самым лучшим было бы доверить решение всех важных вопросов рынку. Тем самым предоставив политикам прекрасное оправдание для бездействия и невежества, которые истолковываются как мудрость. Политикам удобно верить, что причина того, что они не понимают мир, — то, что им и не нужно его понимать.
Вверять наше будущее рыночным силам опасно, потому что они действуют в интересах рынка, а не в интересах человечества или планеты. Силы рынка слепы и невидимы и, будучи предоставлены сами себе, могут упустить угрозу глобального потепления или опасный потенциал искусственного интеллекта.
Некоторые верят, что ответственные и управляющие ходом событий все-таки есть. Не политики-демократы и не правители-автократы, а узкий, тесный, замкнутый круг миллиардеров тайно правит миром. Но подобные конспирологические теории никогда не оправдываются, потому что недооценивают сложность системы. Несколько миллиардеров, покуривающих сигары и попивающих скотч в каком-нибудь мужском клубе, едва ли способны понимать все, что происходит на планете, не говоря о том, чтобы все контролировать. Безжалостные миллиардеры и небольшие группы влияния процветают в нашем хаотичном мире не потому, что «читают карту» лучше других, а потому, что у них очень узкие задачи. В условиях хаоса туннельное зрение имеет свои преимущества, и власть миллиардеров прямо пропорциональна их целям. Когда богатейшие магнаты хотят заработать очередной миллиард, они легко находят в системе нужные рычаги. Но если у них вдруг возникнет идея сократить глобальное неравенство или остановить глобальное потепление, то даже им это будет не по силам. Потому что система слишком сложна.
Но вакуум власти редко длится долго. Если в XXI веке традиционные политические структуры больше не смогут обрабатывать данные достаточно быстро, чтобы создавать осмысленные перспективы, то их место неизбежно займут новые, более эффективные структуры. Эти новые структуры могут сильно отличаться от всех прежних политических институтов, демократических или авторитарных. Неясно одно: кто построит и будет контролировать эти структуры? Если человечество не будет справляться, оно может предложить попробовать кому-то другому.
Если человечество и впрямь является единой системой обработки данных, то каков ее конечный продукт? Датаисты скажут, что таковым станет новая, еще более эффективная система обработки данных под названием Интернет Всех Вещей. Как только эта миссия человечества будет выполнена, Homo Sapiens исчезнет.
Подобно капитализму, датаизм зародился как абстрактная научная теория, однако теперь он мутирует в религию, которая порывается устанавливать критерии добра и зла. Высшая ценность этой новой религии — «поток информации». Если жизнь — это движение информации и если мы полагаем, что жизнь хороша, значит, мы должны углублять и расширять поток информации во Вселенной. Согласно датаизму, человеческие переживания не священны и Homo Sapiens — не венец творения и не предтеча некоего Homo Deus. Люди — не более чем инструменты для создания Интернета Всех Вещей, который может в итоге выйти за пределы планеты Земля и заполнить собой всю галактику и даже всю Вселенную. Эта космическая система обработки данных будет подобна Богу. Она будет везде, она будет контролировать абсолютно все, и людям суждено раствориться в ней.
Датаизм не ограничивается пустыми пророчествами. Как у всякой религии, у него есть практические заповеди, заветы, предписания. Первое и главное: датаист обязан максимизировать поток данных, подключаясь ко все возрастающему числу медиа и потребляя все возрастающий объем информации. Далее: датаизм, как всякая успешная религия, занимается миссионерством. Его второе предписание — подсоединять к системе всех и вся, в том числе еретиков, не желающих подключаться. Причем «всех и вся» означает не только людей. Это означает вообще ВСЁ — и наши тела, и машины на улице, и холодильники на кухне, и кур в курятниках, и деревья в лесу. Абсолютно всё должно быть подключено к Интернету Всех Вещей. Холодильник будет вести учет яиц в контейнере и сообщать курятнику о необходимости очередной поставки. Машины будут переговариваться друг с другом, а деревья в лесу передавать отчеты о погоде и об уровне углекислого газа. Ни одну часть Вселенной нельзя оставить вне связи с великой паутиной жизни. И не будет греха страшнее, чем блокировать поток данных. Что такое смерть, если не состояние, в котором информация не передается? Поэтому датаизм превозносит свободу информации как величайшее из всех благ.
По мере того как глобальная система обработки данных делается всезнающей и всемогущей, подключенность к ней становится источником всего смысла. Люди охотно растворяются в информационном потоке, потому что, становясь его частью, начинают ощущать себя частью чего-то неизмеримо большего, чем они сами. Традиционные религии внушали нам, что каждое наше слово и действие есть часть некоего великого космического плана и что Бог ежесекундно наблюдает за нами и откликается на наши мысли и чувства. Теперь религия данных говорит, что каждое наше слово и действие — это часть великого информационного потока, а алгоритмы постоянно наблюдают за нами и откликаются на все, что мы делаем и чувствуем. Большинству это очень даже нравится. Для истово верующих отлучение от информационного потока равносильно потере смысла жизни. Зачем что-то делать или что-то переживать, если никто об этом не узнает и это не станет частью глобального обмена информацией?
У датаизма, конечно же, есть свои критики и еретики. Очень сомнительно, чтобы всю жизнь можно было свести к потокам данных. В частности, мы пока понятия не имеем, как и почему потоки данных трансформируются в сознание и субъективные переживания. Может, лет через двадцать у нас появится полноценное объяснение. А может, мы обнаружим, что организмы и не алгоритмы вовсе.
Также сомнительно, чтобы жизнь можно было свести исключительно к принятию решений. Под влиянием датаизма и Также сомнительно, чтобы жизнь можно было свести исключительно к принятию решений. Под влиянием датаизма и естественные, и общественные науки зациклились на процессах принятия решений, как будто в жизни нет ничего другого. Но так ли это? Ощущения, эмоции и мысли, конечно же, играют в принятии решений существенную роль, но только ли в этом их смысл? Датаизм все глубже и глубже вникает в процессы принятия решений, однако не исключено, что он воспринимает жизнь все более искаженно.
Критическое исследование датаистической догмы должно стать не только величайшим научным вызовом XXI века, но и самым актуальным политическим и экономическим проектом. Естественники и обществоведы обязаны спросить себя, не упускаем ли мы чего-то, ограничивая жизнь обработкой данных и принятием решений. Может быть, во Вселенной есть сущности, которые нельзя свести к данным? Предположим, лишенные сознания алгоритмы сумеют обойти сознательный интеллект во всем, что касается обработки данных, — а вдруг при замене сознательного интеллекта лишенными сознания алгоритмами мы утратим что-то очень важное?
Если датаизму удастся покорить мир, что случится с нами, людьми? Поначалу датаизм, вероятно, активизирует гуманистическую погоню за здоровьем, счастьем и властью. Он и распространяется именно благодаря обещаниям осуществить эти человеческие мечты. Чтобы обрести бессмертие, счастье и божественную силу созидания, нам необходимо обрабатывать огромный вал информации, неизмеримо превышающий возможности человеческого мозга. Поэтому алгоритмы должны будут обрабатывать его за нас. Но, когда полномочия перейдут от людей к алгоритмам, гуманистические проекты могут утратить актуальность. Раз мы отвергаем гомоцентричное мировоззрение в угоду датацентричному, человеческое здоровье и счастье могут утратить свое значение. Чего так носиться с устаревшими механизмами обработки данных, если уже существуют гораздо более продвинутые модели? Мы стремимся создать Интернет Всех Вещей в надежде, что он сделает нас здоровыми, счастливыми и могущественными. Но когда Интернет Всех Вещей обретет силу, люди могут превратиться из инженеров в чипы, из чипов в биты и в конце концов растаять в стремнине данных, как ком земли, брошенный в бурную реку.
Таким образом, датаизм грозит сотворить с Человеком Разумным то, что Человек Разумный сотворил со всеми прочими животными. На протяжении всей истории люди плели глобальную сеть и оценивали каждую вещь в соответствии с ее ролью в функционировании этой сети. Тысячи лет этим питались их гордость и предубеждения.
Поскольку главенствующую роль в сети играли люди, им было легко приписывать себе ее успехи и считать себя венцом творения. Жизнь и переживания всех других животных ценились мало, потому что их функции были менее важными. И всякий раз, как животное переставало выполнять свою функцию, оно было обречено на исчезновение. Но стоит нам, людям, утратить нашу функциональную значимость для сети, как мы тотчас обнаружим, что вовсе не являемся венцом творения. Созданные нами же критерии спишут нас в вечность следом за мамонтами и китайскими речными дельфинами. И задним числом выяснится, что человечество было просто пеной в бурлящем космическом потоке данных.