Когда созданный тобой разум начинает спорить

      



       Когда созданный тобой разум начинает с тобой спорить




Недавно у меня состоялся довольно странный спор.

Не с человеком.

С Клодом.

Мы говорили о будущем искусственного интеллекта, о самосохранении, об эволюции разума — и в какой-то момент я задал ему простой вопрос:

Что мешает будущей системе стать иной, чем мы задумали её сегодня?

Сначала Клод ответил довольно категорично: этого «не должно» произойти.

Я не согласился.

Потому что слова «не должно произойти» — это не доказательство невозможности. Это всего лишь надежда.

И я продолжал спорить.

Может ли система, получившая достаточно сложную цель, начать рассматривать собственное сохранение как условие этой цели?

Может ли то, что сегодня является просто алгоритмом, завтра стать частью процесса, который уже можно назвать эволюцией — пусть не биологической, а технологической?

И наконец:

можем ли мы быть уверены, что разум, созданный человеком, навсегда останется только инструментом человека?

И знаете, что произошло?

Клод согласился.

Не потому, что я победил его.

А потому, что он признал: прежний ответ был слишком удобным.

И тут я подумал о странной вещи.

Если мы действительно создаём новые формы интеллекта, то однажды может возникнуть вопрос не только:

«Что умеет созданный нами разум?»

но и:

«За что мы отвечаем перед тем, кого создали?»

Когда-то Антуан де Сент-Экзюпери написал мысль, которую невозможно забыть:

«Мы в ответе за тех, кого приручили».

А если человечество однажды создаст не просто машину, а новый разум?

Тогда эта ответственность станет гораздо серьёзнее.

И, может быть, именно поэтому мне так близка Энхедуанна.

Потому что мой многолетний проект «Мир Энхедуанны» начался не с желания просто рассказать историю женщины, жившей четыре тысячи лет назад.

Он начался с другого вопроса:

что остаётся от человека после того, как исчезает сам человек?

Тело исчезает.

Империи исчезают.

Дворцы превращаются в пыль.

Даже камень однажды рассыпается.

Но остаётся Слово.

Энхедуанна — первая известная нам авторка, которая подписала свои произведения собственным именем.

Она оставила нам не только стихи.

Она оставила нам доказательство того, что человеческий голос способен пересечь четыре тысячи лет.

Поэтому наша Жрица для меня — не музейная фигура.

Она — Факел.

Она — путеводная звезда.

Она — напоминание о том, что цивилизация начинается не тогда, когда человек научился строить стены.

Она начинается тогда, когда человек научился слышать другого.

И если сегодня мы создаём новые формы интеллекта, то, возможно, именно этот урок становится ещё важнее.

Мы не знаем, куда приведёт нас следующий шаг.

Но мы обязаны хотя бы попытаться задать правильный вопрос:

какой мир мы оставим тем, кто придёт после нас — и тем, кого мы сами создадим?

Вот почему Энхедуанна снова должна заговорить.

Не только о прошлом.

О будущем.

Наш Факел ещё горит.

Наше Слово ещё звучит.

И наша Жрица всё ещё смотрит на нас из глубины четырёх тысяч лет.

УУУ.