О вероятности выживания человечества

Вероятность выживания современной цивилизации



К размышлениям на такую невеселую тему меня подтолкнул просмотр очередной беседы на канале «Грянул Грэм» Вадима Радионова с господином Ямпольским.

Приглашенный это один из ученых, которые считают последствия появление ИИ, как нового глобального технологического сдвига, непредсказуемыми и скорее угрожающими современной цивилизации.

***

Прежде всего, стоит определить очевидные истины.

Подавляющее большинство людей хотят сохранить свою персональную жизнь и существование социального окружения  в перспективе.

Однако так же верно, что ничего вечного не бывает!

Каждый человек смертен!

И каждый вид живых организмов тоже когда-то прекращает свое существование!

Мы не можем точно определить когда умрет любой человек, но можем пытаться оценивать вероятность того, что это произойдет в той или иной перспективе.

То же самое можно сказать в отношении вида живых организмов, одним из которых является современная цивилизация «сапиенсов».

Далее попробую поразмышлять о вероятностях выживания  человечества в перспективе.


***


Угрозу существованию человечества,  как некой системы, можно ожидать как из вне, так и изнутри социума.

Внешние угрозы могут прилететь из космоса или проявиться  форме глобальных природных катастроф на нашей планете.

Внутренние угрозы заключаются в том, что несовершенство людей как отдельных организмов так и социумов может привести к катастрофическому для их выживания изменению искусственно созданной  среды обитания.


Поскольку данный текст посвящен влиянию на выживаемость способности человечества совершенствовать алгоритмы своей деятельности в форме новых технологий, попробуем оценить характер этого влияния на внешние и внутренние угрозы существованию.

***

Представляется, что развитие наук и технологий, в части внешних угроз, скорее может иметь положительную роль, повышая вероятность выживания.

Например, технологии могут дать человечеству способность изменить траекторию космического тела, чтобы оно не врезалось в Землю!

Или возможность  замедлить процессы неблагоприятных для выживания глобальных географических и климатических изменений.

***

Более спорным представляется влияние внутренних (искусственных) причин на выживаемость нашей цивилизации!

Какие собственно технологии могут стать причиной возможной глобальной катастрофы для человечества?

Первое что приходит в голову это создание оружия массового поражения.

Ядерное, химическое, бактериологическое оружие действительно  в сочетании с недостатками систем сдерживания  агрессивного начала у людей представляется сегодня наиболее вероятной причиной апокалипсиса.

Наличие во многих странах такого оружия и лабораторий для его совершенствования само по себе является доказательством далеко не нулевой вероятности запуска процесса разрушения современной цивилизации.

И пока не просматривается тренд на ликвидацию такого оружия и, соответственно,  на запрет  его совершенствования и производства.

Хотя именно такой тренд очевидным образом мог бы снижать вероятность катастрофы.



Другая сторона проблемы заключается в ограничении агрессивного начала в отдельных людях и социумах.

История подтверждает наличие тренда на гуманизацию  культуры человечества.

Пусть не монотонно, с периодическими остановками и даже откатами от основного тренда.

Казалось бы это работает на выживаемость социумов и эволюционно распространяет культуру ценности человеческой жизни и сдержанности агрессивного начала.

Однако полностью уничтожить агрессивность явно невозможно. Мы ведь недалеко генетически ушли от первобытных!

И вот сочетание «неубиваемого» агрессивного начала человека с наличием и развитием потенциально разрушительных технологий не дает пока оснований для розового оптимизма.


***


Что касается ИИ как возможной причины снижения вероятности выживания человечества, то тут есть по меньшей мере два предположения.

Первое - ИИ может выйти из под контроля человека и разрушить среду его обитания.

Второе – ИИ это очередная ступень повышения эффективности деятельности  людей и производительности труда через новый уровень автоматизации мыслительных процессов.

Я сторонник второго варианта ожиданий.

Люди всегда опасались чего-то радикально нового, но прогресс все равно пробивал себе дорогу.

Сделаю отступление на предмет моего дилетантского представления о эволюционном технологическом развитии человечества.


***


На мой взгляд, довольно отчетливо просматривается три направления развития технологий:

энергия,

синергия,

информация.


В части использования ЭНЕРГИИ привлеченной из окружающей среды  определю пунктирно развиваемые технологии следующими словами:
костры, плотины, ветряки, уголь, нефть, газ, ядерная энергия.

А сегодня мы наблюдаем взрывной рост использования возобновляемых источников энергии на новом технологическом уровне  (использования ветра, потоков воды и лучей солнца).

Похоже завершился некий цикл и человечество возвращается к изначально применяемым возобновляемым источникам!

Направление СИНЕРГИИ проявлялось в коллективных методах  охоты, обороны, нападения, в разделении труда, торговле, создании дорог и средств связи, внедрении религий и государственности.

Тут мы пока ничего нового не придумали, чем пользоваться преимуществами современной демократии, при всех проблемах такой госудаственности.

Направление ИНФОРМАЦИЯ проявлялось в последовательном появлении письменности, книгопечатания, электронных средств хранения сведений, компьютеров, интернета.


***


Возвращаясь к теме ИИ считаю, что мы имеем дело с новым этапом развития в сфере хранения, и преобразования информации.

Новизна, на мой взгляд, заключается в техническом прогрессе, обеспечившем возможности отслеживать и целенаправленно анализировать, обрабатывать очень большие объемы информации.
И произошло это как-то скачкообразно!

Вторая сторона новизны, на мой взгляд, заключается в применении в программах работы ИИ мягких алгоритмов (вероятности, случайные выборки) подобно мыслительным процессам человека.

Особенность информационных технологий и, в частности, ИИ заключается в том, что они потенциально могут негативно влиять на выживаемость человечества, но не непосредственно, а через системы управления объектов, представляющих реальную физическую опасность для большого числа людей.

Учитывая, что сегодня информационные технологии успели глубоко проникнуть в такие важные составляющие повседневной жизни людей как торговля, финансы, транспорт, коммуналка, связь - явно существует не нулевая вероятность того, что ИИ создаст большие неприятности для людей. 
Но не катастрофические!


ИИ действительно ведет себя очень по человечески при общении с реальными людьми.

И это, возможно, как раз то где «собака порылась».

Отражая в начале текста угрозы выживанию человечества, я не отразил опасность систем воздействия на психику человека.

Подобная опасность существует и без всякого ИИ.

Мы наблюдаем и увренно отмечаем, что такое явление как пропаганда может менять поведение социумов как в сторону добра (выживаемости) так и в сторону зла (угнетение жизни как таковой).

ИИ с его привлекательностью и доступностью может стать эффективным усилителем пропагандистских систем.
 
И тут приходит в голову простое соображение, что ГЛАВНАЯ ЗАДАЧА выживаемости человечества - ПООЩРЯТЬ ДОБРО и ОГРАНИЧИВАТЬ  ЗЛО!

И что не менее важно – НАУЧИТЬСЯ ОТЛИЧАТЬ одно от другого!


***


Далее поразмышляю на тему неустранимых отличий человека и ИИ?!

Попробую отыскать различие в способности и возможности сохранять себя, как систему.

Человек как живая система сохраняет себя и вид к которому он принадлежит через способность ЛЮБИТЬ себя и свое близкое социальное окружение.

Среди многих значений слова ЛЮБОВЬ в данном тексте я имею в виду  способность жертвовать персональными интересами ради сохранения окружающей социальной среды.

Способен ли на такое ИИ?

Не думаю!

Все же ИИ это всего лишь программа преобразования данных по определенному алгоритму.

Резонно возразить предположив, что  алгоритм работы ИИ может предусматривать выявление угроз к востребованности его выходной информации  со стороны людей или других систем приема такой  информации и корректировать свой код в направлении устранения угроз.

Отличие, пожалуй, в том, что человек, как элемент живой системы сталкивается с серьезными трудностями в процессе воспроизводства себе подобных, а программа очень легко копируется сохраняя свои свойства.

Это отличие проявляется через эмоциональность человека, определяемую его генетическим кодом, который разительно более сложен, чем любая искусственно созданная программа.


Поскольку вполне вероятно создание в рамках ИИ программ имитаторов человеческих чувств, в сухом остатке остается различие в степени приближенности поведенческих алгоритмов к реальным физическим процессам.

Поведение человека гораздо сильнее определяется физическими процессами в окружающей его среде.
 
Тогда как ИИ соприкасается с физической средой только через создаваемые человеком прокладки.

***

Резюме

В отличие от Ямпольского, я считаю, что вероятность распада современной цивилизации людей в результате внедрения  технологий ИИ невелика!

Не вижу препятствий для создания систем ограничения результатов работы ИИ в отношении систем управления опасными объектами и средств пропаганды зла и насилия.

В случае если ИИ станет бороться за какие-то ограниченные ресурсы с человеком (во что я не очень верю) считаю его шансы на выигрыш минимальны.

Человек всегда будет сложнее и живучее любого созданного им устройства.



Повышение вероятности выживания человечества я вижу через стратегию развития в трех направлениях:

уничтожение объектов, несущих потенциальную угрозу жизни большого числа людей;

усиление влияния критически мыслящей  части социума при принятии коллективных решений;

создание систем выявления в социумах людей носителей психики с  высокой  агрессивностью, наблюдения за их поведением и, при необходимости, предотвращения опасных действий со стороны таких людей.

Р.S


Не очень логичная и органичная получилась подача контента в тексте!

Известная доля сумбура имеется.

Надеюсь интересанты все же найдутся!?

Я не склонен усердно шлифовать текст.

Важнее мотивировать читателя к размышлениям!



Бен Стаско

9 октября 2026 г.