Искусственный разум

В 2022 году вышла книга Генри Киссинджера, Эрика Шмидта и Дэниела Хаттенлокера «Искусственный разум и новая эра человечества». Приведу фрагмент из нее.
Сегодня наступает новая эпоха, когда технологии меняют знания, открытия, коммуникации и индивидуальное мышление. Человечество создало новую цифровую область, и теперь мы создаем в ней новые формы интеллекта. ИИ — это не человек. Он не надеется, не мечтает, не молится и не чувствует, он не обладает сознанием или способностью к рефлексии. Это творение человека, и оно отражает разработанные человеком процессы, выполняющиеся на машинах, созданных человеком. Тем не менее в некоторых случаях, при огромных масштабах и скорости, он дает результаты, приближающиеся к тем, что до сих пор достигались только с помощью человеческого разума. Хотя этот новый интеллект разрабатывается людьми, он использует некую собственную логику, которая не похожа на нашу, но может казаться человеческой.
ИИ может открыть аспекты реальности, более невероятные, чем те, о которых мы когда-либо задумывались. Люди или государства, которые привлекут ИИ в качестве партнера для усиления навыков или реализации идей, будут способны на подвиги — научные, медицинские, военные, политические и социальные, — которые затмят достижения предшественников или соперников. Однако, если интеллектуальные машины будут рассматриваться как ключ к достижению лучших и быстрых результатов, наш собственный разум может показаться архаичным и недостаточным. Независимое применение человеческого разума может отойти на второй план.
Печатная революция XV в. в Европе породила множество новых тем и идей, изменив и обогатив привычную жизнь. Революция ИИ может привести к значительным научным и экономическим достижениям, но ее влияние на уровень дискурса пока трудно определить. Помогая людям ориентироваться в массивах цифровой информации, революция ИИ может обогатить и расширить поле нашего мышления — но может случиться и так, что ИИ, оценивая закономерности в массе доступных данных, просто создаст набор очевидных истин, которые станут общепринятыми на континентальных и глобальных сетевых платформах. Это может снизить нашу способность к спонтанности и критическому поиску, которая определила нынешнюю эпоху, или направить различные страны или сообщества сетевых платформ в отдельные и противоречивые ветви реальности.
ИИ может пойти на пользу или — при его неправильном использовании — во вред человечеству, но сам факт его существования бросает вызов основополагающим допущениям. До сих пор люди сами развивали свое понимание реальности, и эта способность определяла наше место в мире и отношение к нему. На этом фундаменте мы создавали философские учения, выбирали формы правления, разрабатывали военные стратегии и моральные заповеди. Теперь ИИ показал, что могут существовать иные способы исследования реальности, возможно, более глубокие, чем самостоятельное познание мира людьми. Иногда ИИ будет добиваться не менее ошеломляющих открытий, чем достижения самых влиятельных мыслителей-людей своих эпох, которые порождали озарения и бросали вызов устоявшимся концепциям, требовавшим переосмысления. Чаще ИИ будет невидимым, вездесущим и встроенным в обыденность, тонко приспосабливающим нашу реальность к нам так, чтобы у нас это не вызывало протеста.
Мы должны признать, что достижения ИИ в рамках определенных для него параметров иногда не уступают или даже превосходят те, на которые способен человек. Мы можем успокаивать себя тем, что ИИ никогда не сможет достичь сознательного, человеческого восприятия реальности. Но когда мы столкнемся с некоторыми достижениями ИИ, способного на мыслительные, технические, стратегические прорывы, обучаемого на основе больших и сложных систем, сложного в управлении, станет очевидно, что перед нами иная сущность с иным опытом восприятия мира.
Благодаря ИИ перед нами открываются широкие горизонты. Пределы человеческого разума ограничивали нашу способность собирать и анализировать данные, фильтровать и обрабатывать новости и разговоры, вести социальную жизнь в цифровой среде. ИИ позволяет нам более эффективно ориентироваться в этих сферах. Он может расширить наше видение, снабжая нас информацией и показывая нам тенденции, которых не могли так же изящно и эффективно выявить традиционные алгоритмы. ИИ может более тесно связать нас с этими сферами, предоставляя нужный нам контент — близкую нам информацию и соответствующие нашему мировоззрению материалы. ИИ не только расширяет наше понимание физической реальности — он позволяет нам организовать и освоить растущий цифровой мир.
Одновременно ИИ ослабляет нас. Из-за него постепенно исчезает человеческий разум в том виде, в каком мы привыкли к нему в современную эпоху. Социальные сети лишают человека пространства для размышлений, поиск в интернете отменяет потребность в организации знаний, а ИИ усиливает обе эти тенденции. Алгоритмы и раньше бесперебойно снабжали людей затягивающим контентом, а ИИ делает это еще эффективнее. Время, необходимое для внимательного чтения или глубокого анализа, сокращается, снижается мотивация к размышлению, становится все труднее отказаться от преимуществ цифровой среды, при этом растет ее способность развлекать и отвлекать. Как следствие, роль человека в анализе, проверке и осмыслении информации снижается — человеческий анализ все чаще дополняют или вытесняют системы с ИИ.
Исключительно важно разработать этический кодекс для эпохи ИИ, и это задача не для какой-то одной сферы. Компьютерные ученые и руководители компаний — разработчиков технологий, внедряющие эти технологии военные стратеги, политические лидеры как их заказчики и пользователи, философы и богословы в поисках глубинных смыслов этих технологий — все они видят свою часть картины, и все они должны вести диалог, в ходе которого им придется отказаться от предубеждений.
У человечества будет три основных варианта действий: ограничить ИИ, сотрудничать с ним или отступить перед ним. Эти варианты отражают как философские, так и практические аспекты применения ИИ в конкретных задачах или областях. Например, что делать в критической ситуации при управлении самолетом или автомобилем — должен ли ИИ-пилот подчиниться человеку или наоборот? Людям в каждом случае придется отвечать на эти вопросы, некоторые ответы будут меняться по мере развития возможностей ИИ и тестирования машинного обучения. Иногда будет уместно послушаться ИИ — раз уж он может раньше и точнее диагностировать рак груди по маммограмме, нужно использовать это для спасения жизней. Иногда лучшим вариантом будет партнерство — например, автопилоты автомобилей, скорее всего, будут функционировать аналогично автопилотам современных самолетов. Наконец, для критических условий, например войны, важно выработать строгие и четкие ограничения, которые будут беспрекословно выполняться.
Те, кто разрабатывает ИИ, обучает его и сотрудничает с ним, смогут добиться результатов такого масштаба и сложности, которые до сих пор были недоступны человечеству, — новых научных прорывов, новой экономической эффективности, новых форм безопасности и, возможно, общественного контроля. В результате обычные люди могут почувствовать, что за ними наблюдают, что их изучают и что на них постоянно и повсеместно воздействует нечто совершенно непонятное, — во многих странах такое раньше считалось недопустимым. Разработчики и интеграторы ИИ должны быть готовы к решению этих проблем. Они должны быть в состоянии объяснить всем остальным, что именно делает ИИ и почему, а также что он «знает» и как он это узнаёт.
Ограничивать ИИ придется более жестко, чем мы ограничиваем сами себя. Обсуждения и переговоры с участием правительств, университетов и корпоративных инноваторов должны быть направлены на ограничение практических действий ИИ — аналогично тому, как сегодня регулируются действия людей и организаций.
ИИ — это великое начинание. Его потенциальные преимущества огромны. Его разрабатывают люди — но сможем ли мы использовать его так, чтобы сделать нашу жизнь лучше, или же мы сделаем ее хуже? Скорее всего, произойдет и то и другое. ИИ позволит нам создать более сильные лекарства, более эффективное и справедливое здравоохранение, более устойчивую экологию и др. Вместе с тем он изменит концепцию истины, и некоторые люди утратят способность рассуждать и судить.