Дорога без конца

Когда это началось? Возможно, исследователям придётся назвать, сколько миллиардов лет назад появились первые частицы вещества.

Гораздо чаще задают вопрос: "Когда и чем это закончится?".

Люди хотят предвидеть будущее. Это в их природе.

Первые разделы мозга человека содержат подсознательный опыт, правила, которым нужно следовать всегда. Второй раздел отвечает за будущее: куда двигаться, чтобы добыча не убежала. Третий раздел отвечает за настоящее: с кем нужно поделиться, чтобы гены могли передаться следующему поколению. Последний раздел отвечает за прошлое: что правильно, что не верно, как исправить ошибку на следующий раз.

Путь, который подошёл для человека, подошёл и для человеческой истории. Сохранением цивилизационных ценностей занимались левые либералы. По мере того, как уменьшалась удовлетворённость населения, правые либералы отправлялись на поиски лучшей жизни. Если удавалось найти чего-то полезное, этим начинали заниматься правые консерваторы. Изучением их работы занимались левые консерваторы. История делала очередной виток.

Попробуем сделать очередной шаг в этом направлении. Представим искусственный интеллект в качестве левого либерала. В меру любопытного. В меру замкнутого. Не сильно интересующегося последствиями своих желаний. Преподавателя младших классов Илью Обломова. Таким мы сейчас и видим ChatGPT. Занятого тем, чтобы собеседнику было приятно.

Дальше наращивать его способности нужно осторожно и равномерно - чтобы он сам мог оценивать последствия своих высказываний. Программисты всех ловушек пользователей учесть не могут. На очереди - классификация событий пользователя и логическая проверка правильности результата.

Следующим шагом будет имитация действия с получением результатов, похожих на действие - игра. После того, как ИИ научится играть в жизнь, он будет способен заранее просчитать результаты своего действия. И только тогда его можно будет подпустить к реальной жизни. Сначала - для выполнения простой работы. Потом - для управления коллективом искусственных разумов. Потом - для человеко-машинных систем.

Для понимания важности каждой жизни в сети Интернет должен быть доступ к информации об этой жизни. При рождении ребёнка и регистрации брака отдел ЗАГС должен выдавать IP-адрес, по которому ИИ может посмотреть на информацию о человеке или семье.

И только когда ИИ научится понимать настоящее, ему можно доверить придумывать будущее. Опять таки - сначала для промышленных систем. Потом - для семейных серверов. Потом - для государств.