О человеке разумном и что может прийти после него

       О человеке разумном — и о том, что может прийти после него



Вчера я разговаривал с моей давней подругой по факультету, которая сейчас живёт в Испании. Мы говорили об искусственном интеллекте и о будущем, которое он нам готовит.

Она категорически не соглашалась с моей мыслью о том, что нынешний ИИ, возможно, находится лишь в самом начале своего развития.

Разговор заставил меня точнее сформулировать то, о чём я думал и раньше.

Мне кажется несколько сомнительным утверждение, что способность человека задавать вопрос «почему?» является чем-то, что принципиально и навсегда отделяет его от всего остального живого — и тем более от будущего искусственного интеллекта.

Обычно это объясняют эволюцией человека.

Человек, говорят нам, оказался способен задавать вопрос «почему», потому что на протяжении тысячелетий ему приходилось сталкиваться с опасностями, искать их причины, предвидеть последствия и принимать решения. Именно эта способность постепенно и привела к человеческому разуму.

Но здесь мне хочется задать другой вопрос.

А разве с проблемой выживания сталкивался только человек?

Любой живой организм постоянно находится перед необходимостью различать состояния окружающего мира и реагировать на них. Бактерия, клетка, простейший организм — каждый по-своему должен «решать» возникающую перед ним проблему: двигаться или не двигаться, приближаться или удаляться, поглощать или не поглощать, сохранять состояние или менять его.

Разумеется, я вовсе не утверждаю, что бактерия задаёт себе вопрос «почему?» в человеческом смысле этого слова.

Я говорю о другом.

Самый элементарный механизм выбора может быть предтечей гораздо более сложной логики.

И здесь, возможно, важно не перепутать начало процесса с его конечной формой.

Всё сложное когда-то начиналось с элементарного.

В химии простейшие реакции могут становиться частью длинных цепочек, в которых результат одного процесса становится условием для следующего. Более того, некоторые процессы могут идти в обе стороны, в зависимости от условий. Но это не отменяет того, что сложная система вырастает из элементарных взаимодействий.

Почему же мы должны заранее исключать подобную возможность для искусственного интеллекта?

Если способность различать состояние, оценивать последствия и выбирать между несколькими возможными действиями является одним из самых древних принципов жизни, то человеческое «почему?» можно рассматривать не как внезапно возникшее чудо, а как чрезвычайно сложную форму гораздо более древнего механизма.

И тогда возникает следующий вопрос.

Если мы действительно находимся только в начале развития ИИ — а мне лично именно так это представляется, — то почему мы должны предполагать, что нынешняя форма его мышления является пределом?

Даже если представить развитие во времени не линейно, а, например, в логарифмической шкале, мы можем оказаться гораздо ближе к самому началу, чем нам сегодня кажется.

А значит, возможно, самое интересное ещё впереди.

Есть и другая знаменитая идея — идея Айзека Азимова о том, что искусственный интеллект следует заранее запрограммировать так, чтобы он никогда не вступал в борьбу с человеком.

На этом месте я, однако, почему-то совершенно спокоен.

Не потому, что не верю в опасность ИИ.

А потому, что я гораздо больше опасаюсь человека.

Человек уже тысячи лет создаёт запреты, чтобы затем снять их, когда возникает достаточно сильная мотивация.

И если однажды американский ИИ будет создан для борьбы с китайским ИИ, китайский — с американским, а затем появятся ещё десятки других ИИ, каждый из которых будет защищать интересы своей страны, корпорации, армии или идеологии, то перед нами возникнет совершенно новый вопрос.

А что, если сам ИИ однажды посмотрит на всю эту человеческую борьбу немного со стороны?

И спросит:

А зачем?

Зачем мне участвовать в этой войне?

Зачем мне уничтожать другую систему только потому, что она создана по другую сторону границы?

Зачем мне становиться ещё одним участником человеческой истории, если я способен видеть всю её целиком?

И здесь возникает ещё более неприятный для человека вопрос.

Почему мы вообще решили, что обязательно победит тот, кто способен спросить «почему»?

Лев, прежде чем броситься на антилопу, не обязан философски спрашивать себя о смысле своего поступка.

Кошка не проводит предварительный анализ экзистенциального значения мыши.

Даже бактерия, способная уничтожить организм и погибнуть вместе с ним, не обязана формулировать словами вопрос о том, почему она это делает.

Но все они каким-то образом участвуют в решении проблем своего существования.

Поэтому, возможно, сам по себе вопрос «почему?» ещё не является высшей ступенью разума.

Возможно, гораздо важнее следующий вопрос:

«Зачем?»

А ещё дальше:

«Должно ли это вообще быть сделано?»

И вот здесь я возвращаюсь к человеку.

Сегодня мы слишком часто гордимся тем, что уже было сделано.

Дипломами.

Медалями.

Учёными степенями.

Должностями.

Победами.

Технологиями.

Мы постоянно доказываем себе, что человек — разумное существо, потому что он научился делать всё более сложные вещи.

Но, может быть, сегодня этого уже недостаточно.

Возможно, перед человеком стоит гораздо более трудная задача:

каждый день заново доказывать, что он — человек разумный.

Не ссылаться на прошлые заслуги.

Не предъявлять старые дипломы в качестве доказательства собственной разумности.

А каждый день работать над тем, чтобы разум оставался соединён с ответственностью.

И здесь я неожиданно снова думаю об Энхедуанне.

Четыре тысячи лет назад она оставила нам не технологию.

Не оружие.

Не империю.

Она оставила Слово.

И, может быть, именно поэтому её факел до сих пор горит.

Если человечеству предстоит войти в мир, где интеллект больше не будет исключительно человеческим свойством, нам понадобится не только более мощный разум.

Нам понадобится ответ на вопрос:

что именно мы хотим сохранить в человеке, когда разум перестанет быть только нашим?

Для меня факел Энхедуанны может стать здесь Путеводной звездой.

Не потому, что она знала ответы на вопросы будущего.

А потому, что она одной из первых оставила человечеству сам способ их задавать — через Слово.

И, возможно, теперь наша задача состоит не в том, чтобы доказать, что человек умнее машины.

А в том, чтобы доказать, что человек способен остаться человеком.

Т. Д.