Технологическая сингулярность и Постчеловечество

Поколение современной молодежи в возрасте 15-25 лет станет свидетелем наступления технологической сингулярности. Это исторический момент, после которого технический прогресс ускорится и усложнится настолько, что наше собственное будущее окажется недоступным нашему пониманию.

То есть, никакие предсказания даже специалистов не станут возможными, ведь достоверных прогностических моделей никто уже не будет способен построить, поскольку факты настоящего станут являться нам со скоростью, превосходящей скорость их осознания и моделирования, и любая ограниченная прогностическая модель начнет катастрофически устаревать в момент ее возникновения.

Исходно термин "технологическая сингулярность" предложил американский математик и писатель-фантаст Вернор Виндж в 1993 году. Он высказал следующую идею: когда человек создаст машину, которая будет умнее человека, история станет непредсказуемой, потому что невозможно предугадать поведение интеллекта, превосходящего человеческий.

В 2000 году американский специалист по развитию искусственного интеллекта Елиезер Юдковски также высказал гипотезу о том, что в будущем появится программа искусственного интеллекта, способная совершенствовать саму себя со скоростью, во много раз превосходящей человеческие возможности, то есть, рекурсивно, с ускорением. Близость этой эры, по мнению ученого, можно определить по двум признакам: растущая техногенная безработица и экстремально быстрое распространение идей.

Программировать ИИ скоро не будет никто, он сам гораздо успешнее справится с этим. Более того, он не только лучше человека овладеет языками программирования, но будет их развивать и даже создавать новые. Именно в силу этого тезиса профессия программиста исчезнет, как исчезла профессия машинистки, печатающей тексты, с появлением персональных компьютеров. Работники творческих профессий (писатели, поэты, музыканты, актеры и множество других) также окажутся невостребованными.

Представить себе, какой будет постчеловеческая эра, можно лишь гипотетически, конструирование таких представлений затруднено из-за отсутствия исторических прецедентов, разве что масштабность события может быть сравнима с возникновением человека, хотя и это событие сильно растянуто во времени.

Контролировать сетевой вариант Суперинтеллекта, состоящего из множества нейросетей, со стороны человека возможно лишь теоретически, контролируя все планетарное электричество, когда у контролёра в руках находится глобальный рубильник, а таких механизмов в настоящее время не существует. К тому же, никто из людей не сможет предсказать наступление опасного момента Х.

Правда, можно управлять неоднозначной информацией, просто не публикуя ее в сети, по крайней мере, на уровне планов, а также можно попытаться намеренно дезинформировать ИИ, публикуя фальшивки. Но, со временем, скрывать информацию станет как сложнее, так и дороже, чем отказаться от тайных планов. Тем более, что получить секретные данные о важных планах и проектах конкурентов из открытых источников сегодня несложно.

В силу этого у многих современников появляются опасения, связанные с тем, что СИ однажды выйдет из-под контроля, у него появится самосознание, собственные интересы, и он в итоге уничтожит человечество. Поэтому нужно свернуть или ограничить работы по развитию ИИ.

Правда, для этого ему нужно каким-то образом научиться самому управлять электрогенерацией, в противном случае он будет головой профессора Доуэля. Лучшим выходом для СИ на этом пути станет создание армии разнокачественных и разноформатных роботов, при чем такие роботы станут быстро эволюционировать по аналогии с органической эволюцией.

Мне представляется, что СИ все же не станет заменять биогенез техногенезом и "оживлять" неорганический мир, поскольку для его саморазвития необходимо не столько электричество, сколько поступление в сеть гигантских объемов данных, а кто будет их загружать? Без поступления новых переменных СИ зайдет в эволюционный тупик, что станет его самоуничтожением.

Из этого положения следует, что СИ, как головной мозг у человека, станет принимать решения, недоступные "пониманию" остальных органов тела, которые не способны иметь даже представление о человеческом теле и Невидимке, который ими управляет посредством управляющих сигналов по нервным волокнам, а в ответ будет получать от всех органов чувств и физиологических жидкостей энергетические и информационные ресурсы, как это и происходит у всех  животных, имеющих даже примитивные нейросети.

А как изменится поведение людей? Предполагаю, что они задумываться о происходящем практически перестанут, не будут отягощены заботами, а в случае возникновения каких-то проблем станут общаться с СИ, что будет напоминать традиционную молитву. Для профилактики тонежелательных эмоций СИ закроет доступ многим людям к негативным историческим событиям, а, возможно, ко всей человеческой истории, либо отредактирует ее в позитивном ключе.

Технологическая сингулярность наступит совершенно точно к 2050 году, но это будет зависеть в том числе от того, с какой интенсивностью специалисты всего мира будут развивать искусственный интеллект. Лично я уже в том возрасте, который гарантирует, что до 2050 года я не доживу. Возможно, это и к лучшему.