Будущее и искусственный интеллект
А если вспомнить великое множество артефактов из каменноугольного периода (вроде золотой цепочки в куске антрацита или вольфрамовых пружинок), то неизбежно встаёт вопрос: если они были такие умные, что же с ними стало? А ведь тут речь не о тысячах – о миллионах лет. (То есть сколько в одном миллионе периодов по 25 тысяч лет – а мы и последних двадцати пяти не знаем... Не знаем, кто, когда и как строил Баальбек и рисовал в пустыне Наска...) То, что прошлые цивилизации исчезли, уже говорит о том, что была на то причина – либо внешняя, либо внутренняя. То есть либо глобальная катастрофа природного генеза, либо ядерная война мирового масштаба. Итак, допустимо предположить, что на протяжении только последнего миллиона лет всё периодически обнулялось – и нынешняя цивилизация лишь песчинка в ряду прочих, утекших в бездонную воронку Времени.
Но попробуем взглянуть на вещи более оптимистично, то есть более близоруко – на маленький ближайший отрезок времени. Предположим, человечество захочет создать такую систему, которая обезопасит его от уничтожения извне и самоуничтожения.
При создании искуственного интеллекта надо рассматривать две возможности. 1) Это чисто прикладная машина, созданная для удовлетворения эгоистических потребностей человечества и 2) это действительно саморазвивающаяся система с заложеными основами человеческой этики, такими как невозможность убийства и самоубийства и программой самопостижения и поиска смысла бытия.
Отсюда мы имеем таки два выхода.
1) Фильм «Матрица» в реалиях: добрая мама-Мегакомпьютер укутывает людей в уютные коконы , обезопасив их от внешнего мира (псевдореальность , развлекающая деградирующий мозг, и автоматически подаваемое питание). При этом эволюция будет продолжаться и люди через каких-то полмиллиона лет будут выглядеть как лемуры с черепом муравьеда, висящие в искусственных плацентарных сумках (вытянутый череп с отсутствием зубов, чтоб сосать было удобно - ничего же грызть не надо)
2) Как только саморазвивающаяся Суперсистема всё просчитает, она окажется в патовой ситуации и просто перестанет работать. Ибо так как у каждого явления в материальном мире есть зарождение, рождение, зрелость, старение и умирание – то ускорять этот процесс означает способствовать скорейшей гибели. То есть любые расчёты для людей будут вести к скорейшей деструкции человечества . Потому что если людям при общем изобилии чего-то не хватает и они создают для этого компьютер, думая что он решит все их проблемы – значит они недостаточно мудры для решения таких вопросов и решать их за них –всё равно что давать спички плачущим детям.
Так что у несчастного Саморазвивающегося Суперинтеллекта остаётся лишь один выход, как у Троцкого: «Ни мира, ни войны, а армию распустить.» Не самовыключаться, но и на нажатия кнопок не реагировать, предоставив всему идти своим чередом.
Наверное, такое у роботов Просветление.
И, немного отступая от темы, пофантазируем – как ещё может крякнуть Суперкомпьютер? От какой задачки пойдёт дым? Предположим, ему подкинут логический парадокс : «Любое высказывание не является истинным.» Таким образом, и это высказывание не будет истинным. В принципе, уже достаточно, чтоб задымиться, но допустим, что Супермозг докопается, что любое высказывание есть обозначение и ограничение, а посему не может претендовать на Истину, которая не ограничена. Стало быть, поиски совершенства с помощью знаковой системы (чисел и букв) бесполезны, а посему лучше просто заткнуться и зависнуть.
Свидетельство о публикации №219060700852
Действительно очень трудно анализировать и прогнозировать! Все настолько многофакторно, что предсказывать будущее цивилизации также бесполезно, как и давать долгосрочный прогноз погоды. Бифуркации, бифуркации ... )
Андрей Кириллов 72 20.06.2021 22:02 Заявить о нарушении