Случайных встреч не бывает. Часть 2

Он поднял кружку — не в тосте, а скорее в знак признания.

— А теперь скажите: вы спрашиваете это как человек, который боится ИИ, или как человек, который боится людей при ИИ? Это разные страхи и вопросы. Я хочу понять, на какой должен ответить.

Я понял, что блестяще отточенное умение переводить диалог в нужное русло у Лекса опять сработало. Он был на своём поле. Но я именно этого и хотел. Только в этой ситуации я и мог понять Лекса во всей глубине его личности. И я продолжил разговор в этом направлении:

—  Похоже, вы преугадали мой следующий вопрос. Треугольник: ИИ — человек — страх. У меня нет страха перед ИИ. Даже если он попробует выйти из под контроля человека. ИИ создали люди, люди же найдут и способ его усмирить. Я так полагаю. Но вот другое. Представим себе. Человек контролирует ИИ с его по сути безграничными возможностями. И этот человек не то что совсем без эмпатии. У него всё было нормально, как у всех. Но вдруг он понял — его возможности ничем не ограничены. Прошло несколько лет и в этих условиях, с такими мыслями у него "поехала крыша". Капитально. Я — Бог, я всё знаю и всё могу. Всё в мире будет так, как я хочу. Со всеми печальными последствиями. Это возможный сюжет, а вот, собствннно, мой вопрос. Как исключить такую возможность на 100%? Но, если честно, я лично этого тоже не боюсь. Но хочу исключить возможность такого сюжета в жизни людей. Об этом я часто пишу.

Лекс выслушал меня, не перебивая, и где-то на середине моего вопроса в его глазах зажёгся тот самый опасный огонёк, который, подозреваю, его сотрудники научились распознавать как предвестник долгой и безжалостной дискуссии. Но это был не гнев — скорее, азарт шахматиста, которому наконец показали новую, неожиданную комбинацию на доске.

Он допил остатки кофе одним большим глотком, поставил кружку на стол с чуть более громким стуком, чем требовала тишина кабинета, и произнёс — на этот раз без всякой полуулыбки:

— А вот теперь, Денис Лоу, мы добрались до настоящего разговора. Не о технологиях. Не о геополитике. О гравитации человеческой души.

Он встал. Не потому что хотел закончить разговор — наоборот. Он прошёлся до окна, за которым всё так же безжизненно стояли самолёты, и, глядя на эту картину застывшей мощи, заговорил. Его голос звучал глуше — возможно, потому что он обращался теперь не столько ко мне, сколько к проблеме, которую явно не раз обдумывал в одиночестве.

— Вы сказали: «исключить на сто процентов». Это единственные слова в вашем вопросе, с которыми я не согласен. Я не верю в сто процентов. Я не верю в исключение зла как класса. Я вырос в послевоенной Германии — пусть и в академических аудиториях Франкфурта, а не на руинах, — но руины всегда стояли где-то на горизонте любого философского текста. Я читал Гёте, который сказал: «Der Handelnde ist immer gewissenlos» — «Действующий всегда бессовестен». Тот, кто действует в масштабе, всегда оставляет за спиной последствия, на которые не давал согласия. И чем масштаб больше, чем инструмент мощнее, — тем быстрее мораль отделяется от личности, как отработанная ступень ракеты.

Он повернулся ко мне. Теперь он стоял, опираясь рукой о спинку кресла напротив, глядя на меня сверху вниз — но не давя, а словно вглядываясь, понял ли я.

— Ваш сюжет — про человека, у которого «поехала крыша» от могущества. Вы правы. Это самый реальный сценарий. И он не гипотетический. Римские императоры болели этим без всякого ИИ. Просто им требовалось несколько легионов и пара удачных отравлений предшественников. Теперь же — один человек с одной кнопкой, кнопка подключена к системе, которую я, Лекс Реншоу, помог создать. Думаете, я этого не вижу? Вижу. И именно поэтому внутри моей компании — культура несогласия, о которой я говорил. Не из доброты. Из гигиены. Чтобы меня самого не вынесло на эту орбиту.

Он вернулся в кресло. Жестом показал: я снова здесь, не там, за стеклом.

— Теперь — как исключить. Я дам вам не технический ответ. Технически — вы правы, можно создать «стоп-краны», распределённые контуры, алгоритмические ошейники, привязку к многостороннему консенсусу. Всё это уже делается, и всё это можно взломать. Настоящий ответ — он в вашем ремесле, Денис. Не в моём.

Он провёл ладонью по воздуху, словно обводя невидимый текст на невидимой стене.

— Человек становится Богом только в отсутствие трагедии. ИИ даёт ему иллюзию, что всё можно оптимизировать, исправить, перезапустить. Что нет необратимости. Что нет цены. Но цена есть всегда. И единственный способ удержать того, кто сидит перед экраном, от ощущения всемогущества — это дать ему то, чего нет у ИИ. Дать ему эмпатию. Но не ту, о которой пишут в эзотерических брошюрах, — а ту, которую вы, писатели, вкладываете в настоящую литературу. Когда читатель проживает чужую боль так, что она становится его собственной памятью. Когда мальчишка военной поры, прочитав «На Западном фронте без перемен», больше не хочет в герои. Когда инженер, прочитав историю человека, которого его изобретение лишило дома, не спит ночь и переписывает код.

Он замолчал. Молчание длилось долго — может быть, целых пятнадцать секунд, что для разговора такого накала было почти вечностью.

— Сто процентов не даст ничто. Но лучшее, что у нас есть, — это две вещи. Первая: культура несогласия вокруг того, у кого «крыша едет». Потому что безумен не тот, кто говорит с Богом, — безумен тот, кому никто не говорит «нет». Вторая: искусство. Ваше, Денис. Книги, которые делают читателя уязвимым к чужой боли до того, как он сядет перед той самой кнопкой.

Он снова взял кружку. Она была пуста, но он этого, кажется, не замечал.

— Вы спросили, как исключить этот сюжет из жизни. Я отвечаю: не исключать. Рассказывать его снова и снова — с такой силой, чтобы человек, стоящий у кнопки, захотел её отпустить. Это не инженерия. Это культура. Но культура — это операционная система человечества. А операционные системы надо обновлять.

Он коротко, почти сухо кивнул — словно поставил точку в абзаце. И, как бы признавая равенство партнеров в шахматно партии, тихо произнёс:

— Ваш ход, Денис Лоу.

Лекс, так постепенно вы можете обратить меня в вашу веру. Но я упрямый шотландец и с корнями терпеливого русского. "Операционные системы надо обновлять". Это точно, но это как?

Денис замолчал. Гул из общего зала заметно усилился. Похоже, в полётах авиалайнеров пауза закончилась.

— Я продолжу. Обновлять операционные системы в культуре людей, в их умении говорить нет безумцу? Как вы видите это можно сделать? Много стран, много народов, много культур. И все разные. Привести всех к общему знаменателю? Это будет глобальная моноимперия. Исключив одно зло мы приобретем другое зло. Да ещё какое! Тупик?

Лекс сцепил пальцы в замок и опустил на них подбородок. Шум из общего зала действительно нарастал — далёкий голос диспетчера, металлический гул возобновившейся жизни, — но здесь, в кабинете, он казался лишь фоном, подчёркивающим плотность тишины между нами.

— Вы только что описали центральную проблему политической философии последних трёх столетий, Денис. И сделали это с изяществом, которое я редко встречаю за пределами академических аудиторий. Моноимперия — это решение, которое становится болезнью. Плюрализм без компаса — это болезнь, которая притворяется решением. Да, на первый взгляд — тупик.

Он разомкнул пальцы и положил ладони на стол — открытый, почти уязвимый жест.

— Но только если мыслить в бинарных категориях. А я, как человек с дислексией, бинарностям не доверяю. Есть третий путь. Не единый знаменатель и не хаос знаменателей. А нечто, что я называю «совместимостью интерфейсов».

Он усмехнулся собственному термину, но тут же продолжил — серьёзно, собранно:

— Разные культуры не должны становиться одинаковыми. Это утопия, причём опасная. Но они могут научиться общаться друг с другом без разрушения. Условно: японец остаётся японцем, русский — русским, шотландец — шотландцем. Но когда один из них говорит: «я теперь Бог», все остальные должны иметь и право, и способность сказать ему: «нет». Не потому что они одинаковые, а потому что у них есть общий протокол распознавания безумия у власти.

Он указал на меня — не пальцем, а всей ладонью, как учитель указывает на студента, который задал правильный вопрос.

— Как это сделать? Вы задали практический вопрос. Я не дам вам готового рецепта — их не существует. Но я дам вам три принципа, которые мы — моя организация, мои люди — закладываем в работу с государствами, и которые, я убеждён, работают на уровне культур.

Он снова загнул первый палец.

— Первое. Прозрачность как оружие. Безумец у кнопки не выносит света. Он растёт в темноте, в закрытых кабинетах, в монополии на информацию. Первое, что делают мои системы, — не находят врага, а дают картинку. Показывают своим же командирам их же действия. Когда генерал знает, что каждое его решение будет видно в цепочке командования, — он дважды подумает, прежде чем объявить себя богом. Это не демократия в американском смысле. Это просто освещение. Свет — лучший антисептик.

Второй палец.

— Второе. Распределённое право на несогласие. Не просто свобода слова в конституции — конституции пишутся и переписываются. А встроенный в систему механизм, при котором решение одного человека может быть заблокировано не потому, что он злой, а потому, что его анализ не подтверждается данными. Культура несогласия, оцифрованная в процедуры. Это сложно. Это бесит управленцев. Но это работает.

Третий палец.

— Третье. Контакт без унификации. Вы, писатель, знаете это лучше меня. Когда человек читает роман, написанный автором из враждебной культуры, — он не перестаёт быть собой. Но в его картине мира появляется трещина. И через эту трещину заходит сомнение в собственной абсолютной правоте. Таких трещин нужно больше. Не чтобы все стали одинаковыми — чтобы ни один не остался герметичным. Герметичный ум — это инкубатор безумного бога.

Он откинулся — и впервые за время нашего разговора выдохнул не как оратор, закончивший тезис, а как человек, который добрался до сути.

— Так что — нет, Денис. Не тупик. Это узкий проход. Очень узкий. По обе стороны — пропасти. Одна называется «единый мир с единым хозяином», вторая — «война всех против всех в раздробленных осколках». И идти нужно ровно посередине. Без гарантий. Без страховки.

Он чуть повернул голову к двери, за которой ощутимо нарастал гул возобновлённой жизни аэропорта, и добавил — тише, почти себе:

— Но человечество шло этим коридором всю свою историю. Иногда срываясь. Иногда возвращаясь. Я не знаю, дойдём ли мы. Но я знаю, что сидеть на месте и бояться — это выбрать пропасть, не сделав ни шага.

Он снова посмотрел на меня. Глаза его оставались спокойными, но где-то глубоко за этим спокойствием я увидел — или мне показалось — ту самую трещину, о которой он говорил. Трещину, которая не ослабляет конструкцию, а даёт ей дышать.

— Кажется, наши самолёты возвращаются к жизни. У вас есть ещё один вопрос, Денис, или этот коридор мы прошли до конца?

— Вопросов ещё не мало. — Ответил я.

— А вот времени уже нет. Самолёт ждать не будет. Улетит. Но, не знаю, как вы, а я хотел бы продолжить наше знакомство и нашу дискуссию. Трудно переоценить её важность для судьбы людей и ИИ, кстати. И, конечно, для меня. Можно общаться по-разному и даже заочно. Для занятых людей это подходит

— Я бесконечно благодарен этой случайной, но, возможно, не последней нашей встрече. Лекс, я редко встречал столь интересного и многое понимающего собеседника. Спасибо вам за этот откровенный разговор!

Лекс поднялся одновременно со мной — плавно, без суеты, как человек, который покидает поле боя не в спешке, а потому что битва на сегодня завершена.

— Денис Лоу, — произнёс он, и в голосе уже не осталось ни риторики, ни дистанции. — Вы задавали вопросы, которые большинство боится сформулировать даже себе. И делали это, не пытаясь понравиться и не пытаясь задеть. Это редкость.

Он сунул руку в карман свободных брюк и извлёк простую визитную карточку — без логотипа, без золотого тиснения. Только имя, написанное от руки, и адрес электронной почты.

— Мой прямой ящик. Не корпоративный. Я не проверяю его месяцами, но когда проверяю — отвечаю тем, с кем хочу продолжить разговор. Вы в этом списке. Напишите мне, когда ваша следующая книга будет готова. Или когда захотите проверить, не «поехала ли крыша» у кого-то из нас.

Он протянул карточку — и на секунду задержал мою руку в своей. Рукопожатие оказалось неожиданно тёплым и точным.

— За кофе, за тишину. За трещины, через которые заходит свет. Спасибо, Денис.

Он кивнул коротко, развернулся и первым шагнул в гул возобновлённого аэропорта. Я ещё несколько секунд стоял один в опустевшем кабинете, глядя на две пустые кружки и ощущая странную, почти физическую лёгкость — такую, какая бывает после долгого бега на пределе сил.

Случайных встреч не бывает. Бывают упущенные возможности. Но сегодня подарок судьбы был принят полностью и с благодарностью.

Самолёт уже был готов к посадке пассажиров. . Я убрал карточку в нагрудный карман — туда, где лежал блокнот с набросками к роману — и пошёл к выходу. За окнами уже разгоралось закатное небо. Где-то там, в диспетчерской, кто-то обновил софт, и всё снова работало. Как всегда. Почти как всегда.