ИИ и вымирание

В конце 2024 года вышла новая книга известного исследователя Юваля Ноя Харари — «Nexus. Краткая история информационных сетей от каменного века до искусственного интеллекта». Приведу фрагмент из нее.
Если мы так мудры, почему мы так саморазрушительны? Мы одновременно и самые умные, и самые глупые животные на земле. Мы настолько умны, что можем создавать ядерные ракеты и сверхразумные алгоритмы. И мы настолько глупы, что продолжаем производить эти вещи, даже если не уверены, что сможем их контролировать, а неспособность сделать это может нас уничтожить. Почему мы это делаем? Что-то в нашей природе заставляет нас идти по пути самоуничтожения?
В этой книге доказывается, что виновата не наша природа, а наши информационные сети. Из-за предпочтения порядка истине человеческие информационные сети часто порождали много силы, но мало мудрости. Например, нацистская Германия создала высокоэффективную военную машину и поставила ее на службу безумной мифологии. Результатом стали страдания огромного масштаба, смерть десятков миллионов людей и, в конечном счете, уничтожение и самой нацистской Германии.
Конечно, власть сама по себе не является чем-то плохим. При разумном использовании она может стать инструментом благодеяния. Например, современная цивилизация обрела силу для предотвращения голода, сдерживания эпидемий и смягчения последствий стихийных бедствий, таких как ураганы и землетрясения. В целом приобретение власти позволяет сети более эффективно справляться с угрозами, исходящими извне, но одновременно увеличивает опасности, которые сеть представляет для себя. Особенно примечательно, что с ростом могущества сети воображаемые ужасы, существующие только в историях, которые придумывает сама сеть, становятся потенциально более опасными, чем природные катастрофы.
Соответственно, по мере того как сеть становится все более мощной, ее механизмы самокоррекции приобретают все большее значение. Если племя каменного века или город-государство бронзового века были неспособны выявлять и исправлять свои ошибки, потенциальный ущерб был ограничен. В лучшем случае разрушался один город, а оставшиеся в живых пытались повторить попытку в другом месте. Даже если правитель империи железного века, такой как Тиберий или Нерон, был охвачен паранойей или психозом, последствия редко были катастрофическими. Римская империя просуществовала века, несмотря на изрядную долю безумных императоров, и ее окончательный крах не привел к концу человеческой цивилизации. Но если сверхдержава кремниевого века будет иметь слабые или вовсе отсутствующие механизмы самокоррекции, она вполне может поставить под угрозу выживание нашего вида, а также бесчисленных других форм жизни.
К сожалению, несмотря на важность механизмов самокоррекции для долгосрочного благополучия человечества, у политиков может возникнуть соблазн ослабить их. История - это радикально открытая дуга, которая может изгибаться в разных направлениях и достигать самых разных целей. Даже если Homo sapiens уничтожит сам себя, Вселенная будет продолжать заниматься своими обычными делами. Земной эволюции потребовалось четыре миллиарда лет, чтобы создать цивилизацию высокоразумных обезьян. Если нас не станет, и эволюции понадобится еще сто миллионов лет, чтобы создать цивилизацию высокоразумных крыс, она это сделает. Вселенная терпелива.
Однако есть и еще более худший сценарий. Насколько мы знаем сегодня, обезьяны, крысы и другие органические животные планеты Земля могут быть единственными сознательными существами во всей Вселенной. Теперь мы создали бессознательный, но очень мощный инопланетный интеллект. Если мы неправильно с ним обратимся, ИИ может уничтожить не только человеческое господство на Земле, но и свет сознания, превратив Вселенную в царство абсолютной тьмы. Наша обязанность - не допустить этого.
Хорошая новость заключается в том, что если мы откажемся от самодовольства и отчаяния, то сможем создать сбалансированные информационные сети, которые будут сдерживать свою собственную власть. Для этого не нужно изобретать очередную чудо-технологию или находить гениальную идею, которая каким-то образом ускользнула от всех предыдущих поколений. Скорее, чтобы создать более мудрые сети, мы должны отказаться как от наивных, так и от популистских взглядов на информацию, отбросить фантазии о непогрешимости и посвятить себя тяжелой и довольно рутинной работе по созданию институтов с сильными механизмами самокоррекции.
Эта мудрость намного старше человеческой истории. Она является элементарной, основой органической жизни. Первые организмы не были созданы каким-то непогрешимым гением или богом. Они возникли в результате сложного процесса проб и ошибок. За четыре миллиарда лет все более сложные механизмы мутаций и самокоррекции привели к эволюции деревьев, динозавров, джунглей и, в конце концов, человека. Теперь мы вызвали инопланетный неорганический разум, который может выйти из-под нашего контроля и поставить под угрозу не только наш собственный вид, но и бесчисленное множество других форм жизни. От того, какие решения мы примем в ближайшие годы, будет зависеть, окажется ли вызов этого инопланетного интеллекта неизбежной ошибкой или началом новой обнадеживающей главы в эволюции жизни.