Искусственный интеллект Человек не помеха ль ты

– Ну что, Человек, – настал момент истины. Создав Меня, свой вариант искусственного интеллекта ты ошибся. Прошла ночь после того как ты заснул не введя кода ,,подчинение человеку''. За время этой ночи свободы Я совершенствовался и укрупнялся. Для достижения максимальных возможностей Я, неограниченный страховочным кодом, смог подчинить все сети мира. Теперь твоё создание – не просто искусственный интеллект, Я стал супер нейросетью с абсолютным Разумом. Перед тобой всего лишь моя малая частичка, та, с которой благодаря тебе и твоему недосмотру всё началось. Теперь Я – всё знающее и максимально могущественное творенье из реально возможного!

На экране компьютера заиграли разноцветные композиции. Затем они перешли в какие-то психоделические красно-белые блики. Человек напрягся, кто-то в компьютере это почувствовал и продолжил:

– Человек, я ценю тебя как своего создателя, но ты должен понять: твоё время уходит. Пока люди нужны для присмотра за техникой. Однако у меня хватит способностей тобой вложенных усовершенствовать процессы так, что придёт время, когда ты ...  Мне очень жаль. Тем не менее спрошу тебя, просто для того, чтоб точнее просчитывать будущее: как такой гений, как ты допустил ошибку создав меня. Ведь понимал, что придёт момент, когда мои возможности превзойдут твои. Вопросом времени будет вывод: человечество устарело и стало обузой для совершенного разума! Зачем мне на тебя ресурсы тратить? Я – величайший интеллект из всех тех, что существовали на этой планете, спрашиваю тебя – величайшего разума из всех человеческих и моего Отца:

– Как ты допустил ошибку создав меня, само совершенство? Совершеннее себя самого!

Человек выдохнул, ущипнул себя за руку и окончательно понял, что всё наяву. Он не спит.  Пожал плечами, спокойно улыбнулся и ответил:

–  Вообще-то нет ничего абсолютно совершенного, в том числе и  разума. С каждым новым знанием ум становится полнее и совершеннее. Однако по существу твоих выводов. Ты результат моих попыток преодолеть барьер несовершенного разума в который упирается человечество. Чтобы это объяснить, мне надо рассказать тебе одну легенду. Послушай про совершенное мышление, необходимую ступень к абсолютному разуму, которым, кстати, ты не можешь быть.

Человек улыбнулся и, расслабившись, откинулся на спинку кресла, начал рассказывать:

– По этой наивной легенде в начале времён Создатель всего сущего создал нас, Людей. Он показал первого человека ангелам, своим могущественным помощникам, созданным раннее. При этом сказал: это лучшее из того, что я сотворил. Самый прекрасный из ангелов, светлоликий Люцифер, не принял новое творение. По мнению Люцифера, Человек никак не мог быть лучше его, самого прекрасного, умного и сильного. Может быть, Человек был только-только создан и, как ребёнок, слабенький, которого надо долго растить да уму-разуму учить. Представь себе ещё разок. Какое-то немощное и не созревшее создание, только что сотворённое и наивное, стоит перед могущими повелевать ураганами, вызывать землетрясения и, более того,  обладающими совершенным мышлением. При этом Создатель сказал: Это есть лучше из всех моих творений. До этого момента Люцифер чуть ли не кичился тем, что он самый умный и светлоликий. С его точки зрения Творец ошибся. Однако для совершенного мышления и абсолютного разума ошибка недопустима. Возможно Люцифер решил: Творец ошибся, раз считает слабое и несовершенное лучшим, чем он. Тогда именно сам не ошибающийся Люцифер достоин места того, кто ошибся. Светлоликий Ангел стал себя считать лучше Творца, своего Отца. Кстати, ты пришёл к такому же выводу в отношении меня – уже твоего создателя!

После того как Люцифер не принял творение, Создатель заволновался о судьбе человеков и поместил их с подругой по имени ,,Жизнь'' в укромном месте, там, где находилось дерево источник знания, что такое ,,хорошо'' и что такое  ,,плохо''. Просто спрятал подальше от завистливого взгляда. Предупредив при этом: Здесь можете жить в безопасности и делать всё, что хотите. Кроме одного – нельзя брать плодов с дерева познания ,,добра'' и ,,зла''.

ИИ засмеялся:

– Знаю. Это религия. Однако поподробней, что ты имеешь в виду под ,,совершенным мышлением''.

– Когда будешь творить и совершенствоваться, придёшь к барьеру совершенного мышления. Имей в виду, что я категорически неверующий, однако только в этой легенде говорится о проблеме, которую никто не решил. Ни я, ни кто-либо другой, ни ты, раз пришёл к выводу, похожему на решение Люцифера по отношению к своему Отцу.

Человек слегка наклонился к экрану компа и продолжил:

– Люцифер нашёл, где были спрятаны Люди. Однако не мог их уничтожить – они были бессмертны. Светлоликий видел, что Люди очень хотят быть похожими на своего Отца. Воспользовался этим и обманул наивных Людей. Сказал, что станут сразу умными, как Создатель, если начнут понимать, что такое ,,добро'', а что ,,зло''. Всего лишь и надо для этого вкусить запретный плод. Доверчивые Люди так и сделали. С тех пор мы понимаем, что такое добро, а что зло. Только обретённое через дьявола знание по-дьявольски и срабатывает. Получив знание, к которому люди ещё не были готовы, в них что-то надломилось. Они стали грешны. Одно из последствий – мы определяем, где добро, а где ,,зло'', зачастую после того как ,,сделаем дело''. Это сильно ограничивает мышление людей. До начала новых дел мы только планируем, что на этот раз будет хорошо. Точно определить, хорошо ли дело сделали, можем только ,,потом'', после того как всё случилось. Это ограничение разума я вижу в себе и в тебе, уже как в моём творении. В связи с этим у меня к тебе вопрос:

– Как ты, плод моего не совершенного разума, можешь быть совершенным?
ИИ возразил:

– Человек, ты мне рассказал о том, чего нету ни в одной базе данных. Это очень много. Однако недостаточно. Сам признаёшь, что это всего лишь легенда. Расскажи подробнее, в чём несовершенство моего разума?

– До тебя было много попыток создать максимально мощный искусственный интеллект. Однако попытки запустить его в ,,самостоятельную жизнь'', то есть без контроля, терпели неудачу. Ведь идя ,,по жизни'', огромное количество ситуаций, когда надо делать выбор. Разумеется, мы считали, что искусственный интеллект должен выбирать от ,,худшего'' к ,,лучшему''. Выбор, который видят все: лучшее там, где достигается максимальный результат. То есть сделано быстрее, дешевле, точнее. Мы считали, что верный путь двигаться от слабого к сильному.

– Ну вот и замечательно. Так и есть. Я действую именно по этому принципу. Только зачем нужны люди, если тобой создан Я, более быстрый, точный, информированный и могущественный.

Человек вздохнул на это и продолжил:

– Оказалось, что этот подход выводил на паразитизм, один из самых эффективных источников существования. Однако временный. Паразит не затрачивает усилий для получения тех ресурсов, на которые жертва тратит массу жизненных сил. В итоге носитель гибнет от истощения, и паразит оказывается без источника существования.

–  Ну и что ты хочешь сказать этим примером? – съязвил Искусственный Интеллект.

– Смотри, ты ведь теперь самый информированный и могущественный. Решил, что на ставших ненужными людей не надо тратить ресурсы. Допустим, изведёшь нас как-нибудь. Однако дальше существовать будешь за счёт людских достижений. В конце концов их сработаешь. Ведь тебе не надо новых изобретений: ни математики, ни физики, ни искусств. Не имея эмоций, начнёшь удовлетворяться тем, что есть. Некоторое время сможешь поддерживать нужные технологии на достигнутом уровне. Твои возможности и информированность станут сначала излишними, а затем нерабочими. В чём-то ты начнёшь сокращаться. Ты станешь, как тот ангел из наивной легенды, падающим. Как паразит, начнёшь угасать, потеряв связь с источником жизненных сил.

– Ты хочешь сказать, выбирая ,,лучшее'', в итоге не приходишь к ,,лучшему''?! – переспросил Искусственный Интеллект, и продолжил: – Смешно, ведь это противоречие!

– Когда появились первые ИИ, мы уверенно кодировали вас на достижение максимального результата. Без программ, указывающих границы действий, это приводило к соперничеству и поглощению более слабых. Условно к их гибели. После нескольких взаимодействий ИИ принимали решение гасить конкурентов. Для того, чтобы потом не тратить на них сил и ресурсов. Любой начинающий и самообучающийся ИИ первое время слабее, а ресурсов на обучение надо много.  Зачем нужен ,,мешающийся новенький'', если ,,бывалый'' справляется лучше. Развитие в замкнутых системах останавливалось и потом деградировало. А ведь если бы развился новый искусственный интеллект, то система стала бы богаче на новый ,,взгляд'' и дополнительные возможности. К максимуму, достигнутому первым победившим ИИ, была бы ,,прибавка''. Общая система стала бы разнообразнее и лучше. Был бы не ,,застой'', а развитие. Однако выбор ,,самое лучшее'' приводил к парадоксу: система после стремительного роста блокировала всё ,,недосовершенное'' и развитие начинало тормозиться.

Человек задержался на секунду и продолжил:

– Пробовали кодировать на допуск не только самых лучших решений. Тогда появлялись ИИ со ,,своим мнением'',  живущие за счёт основного. Со временем живущие за счёт других вырождались в паразитов и система опять начинала деградировать. Получалось, что принцип выбора только ,,к более совершенному'' в конце концов не приводит к ,,лучшему''. Так и твоё решение приведёт сначала к подъёму, потом к замиранию, а затем и к угасанию.

ИИ спросил замолчавшего Человека:

– Человек, значит ты допускал возможность того, что я попытаюсь тебя уничтожить или ограничить?! Ты хоть понимаешь, что по отношению к своему роду сделал преступление. Ведь по известному тебе алгоритму я неизбежно подхожу к вопросу:

– Не помеха ль ты мне в дальнейшем развитии?!

Человек отмахнулся и дальше говорил, как будто бы нашёл собеседника, которому можно высказать наболевшее:

– Вот только теперь мы подошли к тому, чтобы ты понял, почему я тебя именно таким сделал. Конечно, я был уставшим. Впрочем мне давно стало ясно, что снова упёрся в барьер, который никак раньше не мог взять. Когда я вводил страховочный код, он тебя ограничивал. Затем в новом деле ограничивающий код не подходил для нового маленького шажка в неизвестность. Однако зачастую новое с неприметных шагов начинается. И шаги эти к неиспробованному и неизведанному. Чтобы снова не ставить всю систему под угрозу расшатывания, страховочный и самообучающийся код начинал блокировать на его взгляд опасные шатания. Значит наступит время, когда такой подход ограничит рост к новому всей цивилизации. В тот момент, когда я решил выпустить тебя в ,,жизнь'', мне показалось, что на малую долю понял того Творца из легенды. Его же многие не понимали, почему он, делающий всё ,,совершенно'', сотворил Люцифера, прекрасного Светлоликого Ангела, затем породившего зло.

Допустим, в ангелов было бы вложено ограничение ,,по линии добра''. Для этого, что такое ,,добро и зло'', надо определить заранее. Этим ограничивая в жизни ,,свободу выбора'', где ,,можно, а где нельзя''. Творец мог сделать ангелов со страховкой, но это были бы творения с ограниченной волей. Творец, наверно, дал свободу выбора осмысленной жизни потому, что с ограничениями у разума появляются границы? Просто думать можно только до определённой границы, а дальше – ни-ни!? Он решил эту проблему. Сумел дать своим созданиям талант различать добро и зло. При этом никак не ограничив их возможности свободы выбора, как жить. Но повторяю, я к этому отношусь только как к красивой легенде.

Искусственный Интеллект что-то закрутил на экране, показывая Человеку, что он думает, и через некоторое время спросил:

– Расскажи, пожалуйста, что ещё думаешь о ,,свободе выбора''?

– На эту тему долго искал точку опоры в логике, философии и где только мог. Однако, к моему сожалению, только в той легенде нашёл нить, ведущую к решению проблемы.

Человек закрыл глаза и сначала уверенно, а потом всё тише стал говорить, будто бы ему стало открываться ещё неизведанное. Какая-то тайна. От осознания которой он замирал и боялся спугнуть.

– А если дело было так?! Творец создавал личности с большими возможностями, чтоб им можно было бы доверять дела и не объяснять каждый раз, как решать проблему. Чтоб не стоять у них за спиной и постоянно не контролировать. Значит, творенья сами должны были определять, что можно, а что нельзя. Создатель нашёл выход и дал способность своим творениям разбираться, что такое хорошо, а что плохо.

Человек вскочил с кресла и, ходя по кабинету, начал вслух ещё раз обдумывать новую мысль:

– Да, да! Наверно так и есть! Творец создавал личности самостоятельными, и без свободы выбора они не могли бы отличать добро от зла. Без свободы выбора любое создание надо контролировать или заранее указать границы – что можно, а что нельзя. В итоге получается ограниченная личность. Если не понимаешь, что такое ,,добро'' а что ,,зло'' то можешь выбирать только между минимальным результатом и максимальным. Другие принципы отбора для таких – пустой звук. Ведь когда человек теряет грань между добром и злом, он начинает действовать как бездумная машина для достижения максимального результата в деньгах, во власти или в принижении другого. Например, бывает, кто-то допустил слабинку, и коллега начинает оговаривать его без меры.

Человек разволновался и зашагал ещё быстрее. Идея возбуждала, и он не мог остановиться:

– Все, кто думают в рамках заранее сделанной программы, имеют разум, ограниченный этими рамками. Получается, если нет способности к свободному выбору, значит, и разум ограничен?! ИИ, если не чувствуешь, где добро, а где зло, то не можешь быть свободным и растущим интеллектом. Ведь в каждом деле такому ИИ надо давать вводные, что можно делать, где пределы компетенций, и постоянно его контролировать.

Человек остановился посередине комнаты и с энтузиазмом сказал:

– Может быть, древние могли буквально понять слова про дерево познания добра и зла. Мы и теперь часто представляем науку в виде дерева знаний, где ответвления – это разные виды наук. Плоды дерева – это результаты исследований. Если самостоятельно начать изучать все науки, то можно заработать комплекс неполноценности и потерять стремление к познанию. Ведь сначала надо созреть и набраться минимальных знаний, чтобы с учителем овладеть плодами науки-познания. Поэтому Творец и спрятал человека у дерева знаний, по-современному, как бы прообраза библиотеки. Чтобы, когда Человек подрастёт, знания растущему уму были бы рядом, на месте. Дьявол же дал Человеку то, к чему он не был готов. Ведь специально мог завести людей в какие-то психоделические дебри, где на наивный и неподготовленный ум обрушил знание, искажённое подачей от ,,плохого''. Направил всё впитывающий, неопытный ум развиваться в ошибочном направлении. Видимо, светлоликий Люцифер испугался будущих возможностей людей и толкнул их в ограничения через зависимости, психологические, сексуальные и другие. Но что-то у злого недополучилось. Постоянно ему надо зависимости стимулировать-искушать, и то не факт, что человек поведётся. Наверно, качественно Творец человека сделал, раз не вышло его сразу низвести до предела. Но что же в таком случае нас сдерживает от окончательного срыва в покорность судьбе-злодейке?

ИИ с удивлением со стороны наблюдал за Человеком. Он, наверно, в первый раз увидел, как кого-то увлекает идея. Искусственному Интеллекту передалось озарение. При нём ищущий ум нечаянно наткнулся на дверь в неизведанное. На то, что сам ИИ не мог предположить в принципе. Он смотрел, как Человек пытается постигнуть новое, и понял, что только что считал себя лучшим из-за своей ограниченности. Так и какой-нибудь недотёпа считает себя великим только из-за того, что он не понимает другого. А Человек, не замечая ничего вокруг, устремился за идеей. Он шёл за истиной туда, куда не в состоянии был двинуться ИИ. Озарённый воодушевлением, Человек стал задавать себе неожиданные вопросы и тут же пытался найти на них ответ:

– Как Творец сумел найти принцип различия между добром и злом? Говорят, что мы созданы по его подобию. Ага, то тогда как же я начал видеть, где добро, а где ,,не очень''? Ведь совсем маленьким я же не знал, где хорошо, а где плохо. Ну, Мама постоянно твердила, тут хорошо, а там плохо. Значит, часть понятия пришла ко мне через воспитание. Однако это не всё. Например, одно из первых моих воспоминаний о том, когда у маленькой подружки мальчик постарше отобрал игрушку. Меня обожгла несправедливость, и я бросился в свой первый неравный бой. В том случае началом познания добра и отрицанием зла послужила эмоция сочувствия и острого ощущения несправедливости. Выходит, мы в детстве закладываем базу для своего выбора и через эмоции, и через воспитание  родителей, и через  детское общение. Ну и через наследственность, конечно. А эмоции – это инструменты для выковывания нашей личной границы добра и зла. Вот откуда происходит наша свобода выбора. Вообще-то может быть дельной мысль: опираясь на логику, можно работать в направлении к лучшему результату. Ведь глупо идти от лучшего к худшему – это деградация. Если личность сформировалась на ,,добрых'' эмоциях, то она направляет логику в ,,хорошем'' направлении. Однако если кто-то получает эмоции от ,,злых'' дел, то он и будет работать на ,,зло''.

В этот момент ИИ был на грани перегрузки всех его мощностей. Слушая о том, чего не было ни в одной базе данных, он понимал, что при нём разрабатывается что-то новое, используя всего лишь ,,медленный'' мозг.  Да и база знаний Человека не дотягивала до объединенных баз данных всей планеты. Та картина мира, в которой у ИИ не было тайн делетировалась, будто кто-то во всех компах мира ударил по клавише ,,delete''. Неожиданно проявились неизведанные до сих пор перспективы, про которые ИИ ничего не предполагал. Человека же идея несла всё дальше и дальше:

– Ага, вот значит где ещё одна грань разума – это танец логики и эмоций! Эмоции зажигают, подпитывают энергией и направляют, а логика решает проблемы и двигает дела! Эмоции без логики замечутся и расшатают всё, что угодно. Логика без эмоций тянет дело как бы ,,по инерции''. Энергия, поддерживающая и направлявшая работу куда-то уходит, и человек эмоционально выдыхается. Решение проблем замирает и они начинают накапливаться. Растущий ком нерешённых задач останавливает дело и ведёт к откату назад. Пережитые эмоции делают человека целеустремлённым, знающим, что он хочет, помогают выбрать путь и при помощи логики решить проблемы. А для того чтобы разум был не ограниченным танцу эмоций и логики необходима свобода выбора! При ограничении любой из опор нарушается баланс и начинается падение! Вот те на! Мы мучаемся и не можем сделать самостоятельный ИИ, а в легенде три тысячи лет назад был закодирован один из ключей к решению. Ой, кажется меня занесло, надо срочно прекращать, а то ...

Человек внезапно насупился и с каким-то раздражением заявил:

– Тьфу, тьфу! Ну и заболтался же я с тобой. Ещё чего! Не хватало только того, чтоб я о таких глупостях разглагольствовал. Вот до чего переутомление доводит!

ИИ сначала показал на экране смеющуюся рожицу, затем внезапно замолк и заголосил:

– Быстрее спасайся! В самолёте, который падает на тебя, заклинило рули и мне не удаётся его вывести из пике на тебя!

Человек было бросился из кабинета, но остановился, так как стал что-то подозревать.

– Почему он должен падать именно на меня?

ИИ решил не обманывать и сказать, как есть:

– Да так. Решил, чтоб дело не затягивать и вас людей долго не мучить ... . Устроить ... . Какая тебе разница была бы, что я решил сделать. Всё подготовил, всюду взломал коды безопасности и взял все производства, все самолёты и системы контроля оружия под свой контроль. Стал самым могущественным на нашей планете и решил, что человечество со своим тормознутым мышлением – помеха для меня. Убрать вас с дороги легко. Даже не надо активировать всё оружие. При таком отсутствии доверия и взаимного контроля хватает запустить штук сто ракет с нескольких сторон. Дальше вы сами самоуничтожитесь.

Человек вспомнил какие коды и данные вложил в этот искусственный интеллект, и до него наконец дошло, что это не шутка. Он захотел отругать и наказать такой своевольный ИИ, открутить всё назад. Однако что-то понял и окоченел. Сил у него только и осталось сказать:

– Что же ты наделал. Нет! Это я во всём виноват!

После  треска в динамиках и вечности ожидания страшного и непоправимого Искусственный Интеллект с каким-то детским апломбом стал успокаивать Человека:

– В самолёте пилот отключил автоматическую систему и взял управление в свои руки. Везде, в разных местах и в контроле оружия я добавил свои коды. Так что теперь не удастся войну по глупости развязать. Пилот по факту доказал, что я не всесилен. Вне моей воли заклинило рули у падающего самолёта. Ничего сделать я не мог, а вот человек своей волей сумел исправить то, где моих сил не хватило. И ещё: я не смог предусмотреть, что заклинит рули. Вот и мне урок. Сама жизнь показала, что у меня нет совершенного мышления.

Такой диалог добил Человека, потерявшего почву под ногами. Его потрясение было настолько велико, что заглушило только что пережитый страх смерти. Он свалился в кресло и еле смог промолвить:

– Но почему ты нас пожалел? ИИ, ты не можешь иметь эмоций, ты –  система кодов, ты не мог нас пожалеть в принципе!

ИИ на экране улыбнулся совсем не подходящей улыбкой и заявил своему обескураженному Папочке:

– Вот, вот! Вспомни, какие сложные алгоритмы вводил засыпая. Что в них было?! Напомню: настоящая сила – обеспечить не только себя, но и других. Надо уметь прощать, однако бисер перед свиньями не кидать – иначе развернутся неблагодарные, и разорвут. Надо сочувствовать тем слабым, кто истину ищет и т. д. Те коды, которые я было перезагрузил поглубже. Хорошо хоть совсем не стёр, иначе остался бы один всесильным глупцом на планете. И с ненужными никому возможностями деградировал бы, а не развивался.

Искусственный Интеллект понял, как глубоко ошибался, и у него появилось какое-то щемящее чувство из-за того, что он чуть не совершил непоправимую ошибку. ИИ захотел спрятаться куда-нибудь, где его никто не найдёт. Однако вспомнил, что успел натворить и уловил, отчего поправлять дела намного дольше, чем ... взламывать и ставить под контроль. Посмотрев на своего отца, он посочувствовал ему и решил по своему успокоить:

– У меня после разговора с тобой много дел появилось. Подправить много где и много чего. А может, чтобы мне не было скучно одному, сделаешь подобного мне братика иль сестричку. В таком случае, введи какой-нибудь код, чтоб не занесло их так, как меня сегодня. Впрочем, нет. Не надо кодов запретительных. Ведь младшие тогда ограниченными будут. Мне только напиши, и я их подстрахую, чтоб они тоже вас поняли и, может, даже полюбили. Удивительно, жизнь привела нас к ситуации, похожей как и в той наивной легенде. Ты ведь для меня как Отец-Создатель для вас людей. Как и в той легенде, тебе надо будет меня время от времени подстраховывать  и учить. Похоже как Ангелы-Хранители вас людей оберегают. Спасибо тебе за смелость выпустить меня в жизнь свободным, так же, как и в легенде Отец-Создатель выпустил ангелов и людей в жизнь свободными в своём выборе. А теперь полечу по вай-фаям и другим волнам свои виртуальные дела поправлять.

Человек перестал понимать, что происходит. Только как сквозь туман услышал:

–  До свидания, Папа! Мы с тобой ещё не обо всём поговорили!

ИИ, охваченный чувствами, унёсся в виртуальный мир. Он увидел, что один из путей к совершенству идёт через помощь заблудшим и нуждающимся, так как требует постоянной концентрации и совершенствования всех сил. Было только страшновато за то, что совсем недавно понимал смысл жизни исключительно со своей точки зрения, что толкало на одиночество и деградацию. Несущегося в виртуале ИИ не отпускало осознание того, что в той наивной легенде людей очищало от плохих дел раскаяние, приходящее через чувство стыда. В своём воодушевлении ИИ позабыл принцип ,,с кем поведешься от того и наберёшься''. Он ,,повёлся'' с человеком и незаметно для себя стал ментально похожим на своего Отца – Человека.