Камо грядеши?

Если рассуждать в рамках эволюционного подхода, человек же одно из животных, которое в ходе эволюции заняло некую уникальную нишу. В силу некоторых отклонений в своей нервной организации (неокортекс), оно приобрело ряд возможностей по обработке информации, ее сохранению и передаче (знаки, книги, компьютеры ...), а также (а может и вследствие) в добыче и использовании энергии (огонь-нефть-атом ...). И благодаря всему этому человечество как вид довольно успешно построило "вторую природу", в которой собственно сейчас и живет. Если вы прямо сейчас осмотритесь, то не увидите наверное ни одного чисто природного предмета - ну, если только камни привезенные "на память" с одного из курортов. В результате человек вышел из естественного отбора и ... начался отбор неестественный. Эволюция-то конечно не останавливается, просто критерии какие сейчас? Кто из людей имеет эволюционное преимущество и благодаря чему? Собственно все сводится к тому какие именно гены сейчас воспроизводятся человечеством. Раньше это были гены связанные с силой, ловкостью, умственными способностями - те, которые кодировали качества способствующие выживанию и размножению. Указанные факторы в развитых странах сейчас практически не коррелируют с количеством детей у их носителей.

Если взять даже уникальную способность человека к передаче информации, срок его обучения хотя бы до среднего уровня знаний (школа) уже растянулся почти до 18 лет. Притом, следует отметить, что в районе 12-15 лет еще есть пубертат, совсем не способствующий усвоению знаний. А если обратиться к истории, то всего 300 лет назад к 12 годам человек практически заканчивал свое образование в части овледения знаниями, необходимыми для жизни. Выход может быть в сдвиге пубертата, но это биология и с ней особо не поспоришь, либо в продлении обучения, что экономически не выгодно и сказывается на демографии - эволюционно, конечно. В том смысле, что общества увеличивающие срок образования могут не вытянуть демографической конкуренции с другими.

Технологии - резкий рост технических и технологических возможностей приводит с одной стороны, к неэффективности образовательных программ (сочинения и курсовые от ИИ), а с другой стороны, к прогрессивному снижению доли людей понимающих как работают окружающие их устройства, что порождает их фетишизацию и сегрегацию общества на страты пользователей и разработчиков/управленцев.

Таким образом, объективно имеем назревающий разрыв между растущими возможностями человека и его природой, откуда собственно и появляется техногуманизм, апокалиптические сценарии с участием ИИ и фантастика (пока!) с участием киборгов.

Похожий кризис был в эпоху упадка Рима, но он разрешился за счет неоднородности человечества (Рим-варвары) когда разность потенциалов (уровня технологий и полученных за их счет благ) привела к пробою границы (нашествие варваров). Похожие процессы сейчас идут в мировом масштабе (миграция) и очень вероятно, решение проблемы будет похожим, но оно будет последним, так как максимально повысит однородность человечества, границ уже не будет и противоречие биологической природы человека его возможностям оформится окончательно и во всем мире.

Поскольку кроме технического прогресса стремление человечества в его основной массе к комфорту необоримо (что во много и поддерживает указанный прогресс), на горизонте маячит массовое снижение интеллектульных возможностей и расслоение человечества на тонкий слой разработчиков/управленцев и другого населения - у И.Ефремова эти слои хорошо описаны в "Часе Быка" как джи и кжи - долго  и короткоживущие. Опять же такое расслоение возникало и раньше, но возможностей узкой группы противостоять остальной массе в эпохи кризиса было недостаточно и они периодически сметались противостоящей массой. С учетом нарастающих возможностей есть опасность долговременной сегрегации которая еще будет усиливаться генной модификацией, киборгизацией и использованим ИИ со стороны джи - они будут использовать указанные возможности на основе своей "групповой" морали (см. например "список Эпштейна" или мораль британской элиты). Что касается имевшего место вымирания элиты из-за ее вырождения и снижения рождаемости это будет преодолено путем искусственного деторождения к которому человечество уже сейчас двигается из-за демографического кризиса через суррогатное материнство, ЭКО и эксперименты с клонированием.

Риски связанные с ИИ плохо предсказуемы, так же как и в эпоху появления и становления неокортекса у обезьян, поскольку это появление нового вида кардинально разрушающего гомеостаз системы. Первый этап описан выше и связан с использованием ИИ в конкуренции социальных страт. Дальнейшее развитие ИИ в направлении его слияния с биосистемами может дать рождение новым искусственно производимым видам способным, например к заселению других планет, но это уже не совсем про человека или совсем не про него.