Qui credis esse?

КОМУ ВЕРИТЬ?

Типичная ошибка - полагать, что ИИ - "думает". Он, вернее говоря - оно, - не «думает» и думать никак не может, но - всего лишь выбирает наиболее экономные логические решения из необозримой человеческим умом массы возможных, из всей их доступной совокупности.

"Думать", в истинном смысле, - это не перебирать и выбирать уже готовые или выводить логически обоснованные решения. Думать – значит, искать или изобретать и предлагать решения новые (пусть и нелогичные или даже -  неудачные), такие, о возможности которых никто еще ранее не догадывался и часто основанные на таких же, ранее неизвестных, новых алгоритмах.

Грубо говоря, ИИ потенциально способен "изобрести велосипед» или написать заново "Войну и мир", но - не создать, скажем, «машину времени» или «нейтринный двигатель», или – новую литературную форму, понятную и привлекательную для людского ума.

Для создания чего-то нового очевидно необходимо появление определенных периодических «сбоев» и/или «коротких замыканий» в природных (наследственных) и социально отшлифованных алгоритмах мышления.

Развитие мышления подобно эволюции живого мира, а упомянутые «сбои» и «короткие замыкания» - аналогичны мутациям, что могут быть нейтральными, вредными и полезными, но - всегда безусловно необходимыми для дальнейшего развития, т.е. для появления чего-то действительно нового.

ИИ же – лишь несовершенное, виртуальное подобие природного человеческого алгоритма мышления, оснащенное неимоверной памятью, всегда и легко доступной во всех своих разделах, способностью к фантастической скорости операций и - к абсолютной концентрированности на поставленной цели.

Отсутствие же в этом подобии никак не моделируемых эмоциональных и вообще - всех внешних чувственных помех, способных вызывать индивидуальные сбои и замыкания в процессе «самообучения» (мутации),  неизбежно «выпрямляет» эволюцию алгоритма ИИ в сторону его излишней "самоуверенности".

Вообще говоря, "совершенный" ИИ в глазах его создателей все более обретает черты некоего божества.

Но ведь люди в естественных условиях начинают «думать» только тогда, когда не верят тому, что видят, слышат и что-либо ощущают вообще или – когда перестают верить в то, в чем ранее были убеждены.

Пока мы верим, то ничем, по сути, от ИИ и не отличаемся, разве что медленной скоростью операций, ограниченностью памяти и более низкой или вообще сомнительной эффективностью (экономичностью) результатов.

А так - есть цель (задача), имеется набор испытанных алгоритмов ее достижения (решения), подключаемся к памяти и – вперёд!

Поэтому, для того чтобы оставаться Человеком и совершенствовать свой разум по человечески, никому полностью доверять не следует. 

Ни ИИ, ни авторитетам, ни (боже упаси!) политикам и политолухам и пр. Никому не верьте. Мне не верьте. И - себе - тоже не верьте.

Вполне доверять можно (и нужно!) только собственному сомнению. В остальном - не верьте и – спасётесь.