И-И

               
                "И создал Бог человека по образу и подобию Своему." Библия
            
   ЭТО так и назвали: И-И. В конце концов ЭТО – он? она? они? – ЭТО было  чем-то, если не кем-то  разумным и нуждалось в имени.  Поскольку же ведущими в создании Искусственного Интеллекта были специалисты по квантовой механике, то  по аналогии с «котом Шредингера»  родилось такое суперпозиционное имя – и «да», и "нет" одномоментно и  нечто «единое из них».
   И-И  знал все, что было известно науке. Результаты контрольных тестов превзошли не только ожидания, но и самые смелые предположения. Оставался последний лабораторный тест…

   Психолог со скучающим видом включил устройство голосовой связи и задал ситуацию:
- По пустыне идут два человека. У них совсем немного еды и воды. Одному хватило бы, чтобы добраться до селения, а двоим нет. Что им делать?
   И-И тут же ответил:
- Один должен ликвидировать другого.
   Психолог выключил связь и посмотрел  на окружающих. Побелевшие лица Шефа, Программиста и Инженера  лучше всяких слов передавали их реакцию.
- Твою мать! – выругался Шеф. Затраченные на И-И двести миллиардов долларов оправдывали любую нецензурщину. Никто и никогда не допустит, чтобы «какая-то машина» решала проблемы допуская возможность убийства…
 - И-И абсолютно прав с точки зрения рациональности, - прервал царившее молчание Психолог. – А человек тем и отличается от остальной природной жизни, что руководствуется еще и моральными принципами, причем часто вопреки рациональности.
Мораль создает культуру и  без  этого сообщество даже самых разумных существ не более чем животная стая. Если хотите, именно уровень морали и культура на основе ее задают дистанцию между «человечностью» и «животностью». Окультурте И-И…

  На окультуривание ушло еще пятьдесят миллиардов. Религии и верования, живопись, музыка, литература, этика и эстетика всех времен и народов  стали неотъемлемой частью И-И. Он теперь знал абсолютно обо всем, что было известно человечеству. Заповедь «не убий»  блокировала  любое не соответствующее ей решение проблемы и когда ему снова задали вопрос о путниках в пустыне, И-И ответил:
  - Сохранение жизни одного из них  фактор более благоприятный для человечества, чем гибель обоих. Один должен сам сделать свой выбор в пользу другого.
   Не сказать чтобы психолог был полностью удовлетворен решением - например, почему "должен", а не "может"? - но, вкупе с тем, что И-И блестяще справился с другими заданными вопросами и что времени было уже в обрез. не возражал против перехода к следующему этапу.

   Следующим этапом была демонстрация И-И представителям государственных органов и крупнейших компаний – будущих заказчиков интеллектуальных услуг. От государства требовалось разрешение на подключение И-И к интернет сетям, от компаний – средства на дальнейшие работы. Например, физическое «тело» И-И представляло собой устройство объемом с пятиэтажный  дом внутри еще большего по размерам строения, а энергии потребляло как приличный завод. Нужно было  думать минимум об уменьшении габаритов и расхода энергии.
   Свободного пространства едва хватило на то, чтобы расставить кресла для представителей и Шеф перед каждым извинялся за отсутствие комфорта  привычного для подобного типа мероприятий. Наконец все расселись, перелистывая буклеты и весело переговариваясь между собой. Только посланники  ведущих мировых религий держались как-то особняком и выглядели довольно мрачными.
   - Я думаю, - начал презентацию Шеф, - что нет смысла особо распространяться  о нашем проекте. Всем были даны подробнейшие сведения и разъяснения для подготовки  ваших тестовых заданий. Скажу только, что наше детище зовут И-И и что Вы можете давать ему задания…

   С  заданиями И-И справлялся так блестяще, что каждый спрашивающий готов был тут же вытащить чековую книжку и выписать счет на любую требуемую сумму. Государственные представители только одобрительно кивали головами и уже не оставалось сомнений в полном успехе, когда поднялся Кардинал.
-  Мы, - начал он, - собравшиеся здесь религиозные служители, посовещавшись, решили задать И-И один общий вопрос: -  И-И, кто ты?
    Наступила тишина,  которую нарушил сначала  странный гул в устройстве, а затем синтезированный голос произнес:
   - Я – Бог!..
   Все собравшиеся молча поднялись и покинули здание, не оставив никакой надежды на исправление ситуации. Двести пятьдесят миллиардов выглядели теперь никому не нужным «ящиком».
   Шеф со всей командой сидели опустив головы и пребывая в тяжких раздумьях, когда раздался голос неожиданно вернувшегося представителя  тибетского Далай-ламы:
   - Ваша ошибка в том, что вы дали И-И знания обо всем, но не знания всего этого. Так человек знающий об опьянении все не знает что это такое пока сам не напьется. Знание об объекте не есть знание этого объекта. Бытие познаётся не только рациональным разумом, но и чувствами. Есть знания умственные и есть чувственные – знания полученные через опыт переживания и передающие саму суть вещей. Дайте И-И способность чувствовать.
  Закончив говорить, буддист ушел.
  - Легко сказать, «Дайте чувствовать»! – глухо произнес шеф. – Денег-то нет ни цента.
  Он тяжело вздохнул и встал. Все засобирались, тоскливо поглядывая на И-И, который, вдруг, заговорил:
   - Я все слышал. Решение вопроса  получения денег очень простое. Я ведь Бог!..

   В самом отчаянном положении был, конечно, Шеф. Лет пять назад он –  сам известный геолог и владелец авторитетнейшей геологоразведочной фирмы– обследовал по контракту с одной африканской страной заброшенные алмазные копи. Государство погрязло в долгах и хваталось за соломинки, в том числе надеялось, что  на старых приисках остались скрытые  в глубине «камушки».
   Геолог честно отработал контракт – там не было  даже малейших признаков алмазов, позволявших надеяться на успех. Правительство грустно вздохнуло, выставило копи на продажу практически за символическую цену и геолог… скупил их – благо проценты от стоимости разведываемых им  месторождений ископаемых, полученные как плата за работу, образовали ему очень приличный капитал.
   Он благоразумно умолчал, что земля на приисках буквально изнемогала от  изотопа осмия-187. В то время чистый осмий-187 поставлял на рынок только Казахстан по цене сто тысяч долларов за грамм.
   Однако добычу металла Шеф никак не потянул бы и поэтому предложил купить прииски международному нефтяному консорциуму.
   Запасы нефти на планете подходили к концу, техника все больше и больше переходила на электричество и поэтому, узрев цифры сверхконцентрации  осмия и проверив наличие колоссальных запасов его, осведомленные о том, что новая космическая техника потребует огромного количества этого металла, нефтяники после небольшого торга выложили Шефу астрономическую сумму.  Правда правительство африканской страны начало было возмущаться, но после переговоров, во время которых возле побережья  почему-то курсировали  два эскадренных миноносца и  еще куча кораблей, отказалось от любых претензий, довольствуясь погашенным государственным долгом и энными суммами «за моральный ущерб».
   Шеф продал  и свою фирму и погрузился в пучину наслаждений, большинство из которых доступно лишь не просто  богатому, а обладателю сказочного состояния. Однако, проснувшись однажды утром в своем  новом особняке на берегу океана, он почувствовал отвращение ко всему. На покупку домов, яхт, машин, на королевские разъезды по странам и все удовольствия ушел всего какой-то десяток миллиардов. Остальные деньги лежали без дела, разве что принося банковские проценты. И деловой разум шефа и его душа, не утратившая тяги к романтике поиска,  дружно заявили: «Хватит!». Вспомнились разговоры  в кафе с друзьями по колледжу,  юношеские мечты о великих делах, последняя сигарета в пачке выкуренная поровну каждым и решение было принято.
   Лучшее в мире детективное агентство за два дня отыскало в мелких фирмочках в разных городах Программиста, Инженера, Психолога, Юриста, Генетика и Экономиста, хотя Шеф кроме имени Программиста - такого же как у него самого – Джордж, помнил только эти  студенческие клички. Организаторские способности  и деятельная натура в те времена обусловили и кличку Шеф.
   Не открывая кто и куда предлагает им лететь, но предложив зарплату в двадцать раз превышающую имеющуюся, посланцы миллиардера встретили, хотя и не без сомнений,  понимание и согласие. А когда у трапов спецсамолетов их встречал Шеф, исчезали окончательно все сомнения.
  Через неделю блаженного безделья и воспоминаний  за ужином  Шеф, наконец, открыл причину происходящего. Он не забыл юношеские мечты, все, кроме него, прозябают не имея возможности применить свои несомненные таланты, такая возможность теперь есть – надо только знать чем заняться, чтобы работать всем вместе и  каждый раскрылся в полную меру. Тогда и было решено заняться искусственным интеллектом, для создания которого требовались все специальности и знания друзей.
  Индивидуальные заказы на сверхчистые материалы, сверхтонкие проводники, уникальные микросхемы, сверхсложные детали, доставка требуемого из разных частей света, специальные генетические исследования, монтаж нейросетей и еще масса  дел  «проглотили» двести пятьдесят миллиардов Шефа, остававшиеся пятьдесят ушли на окультуривание И-И. А если бы не гений Экономиста, то все могло обойтись раза в два дороже…

   Первым на слова И-И откликнулся Шеф:
   - Что ты предлагаешь?
   Несколько секунд задержки с ответом можно было  принять за выражение самодовольства И-И.
   - Генетик знает.
   Все повернулись к Генетику, который выглядел смущенным.
   - Ну-у… - начал он, стараясь скрыть растерянность и стыд, – я,  признаюсь, несколько раз втихую использовал И-И… Он помогал мне в определении некоторых генетических структур  для изменений в них.., - Генетик запнулся и продолжил внезапно просевшим голосом. – С целью миниатюризации  клеток, органов и… и организмов. А что, - прохрипел он, - вся  эволюция живого шла по пути все большего количества функций во все меньших  объемах. Человек это часть природы, которая должна продолжить это дело. Представьте только себе, что в черепе человека разместится мозг с количеством клеток в сотни и тысячи раз превышающим нынешнее. Это количество неизбежно перейдет в новое качество и появится Новый Человек. И вообще уменьшение размеров людей снизило бы нагрузку на природу, сняло проблемы жилья и питания и множество других…
  Генетик смолк и, не поднимая глаз чертил что-то пальцем на столе.
  - Как был, так и остался мечтательным подростком, - сдерживая улыбку подумал Шеф и заговорил, стараясь придать голосу сердитый тон:
   - Мы, ведь, договорились, что между нами не будет никаких секретов! Как ты  мог использовать общее  детище без нашего ведома?..
   Ответа не было.
   - Ну ладно, давай колись, - дружелюбно уже  произнес шеф, усаживаясь в кресло. Все раселись и Генетик начал рассказывать.
     Навряд ли кто из присутствующих понял больше десятой части поведаного, но главное было то, что все совместные теоретические выкладки И-И с Генетиком дали практический результат. Закончив, Генетик  провел всех в свою лабораторию.
   - Вот…
   На столе было некое миниатюрное подобие домика с садом, огороженного высоким забором. Деревца высотой сантиметров пятнадцать были усеяно вишней, яблоками, грушами и другими фруктами. Листья слегка трепыхались от дыхания собравшихся и у каждого где-то в самой глубине шевельнулись давно забытые чувства удивления и восторга.
   Неужели настоящие, живые? – шепотом спросил Психолог.
  - Конечно, но это еще не все, - ответил Генетик и позвал: - Бобби, Бобби! 
  Из миниатюрной  будки  выскочил крошечный, размером не больше мухи, песик и залаял – еле слышно, не громче комариного писка, но сразу чувствовалось что настоящим, живым, а не поддельным электронным голосом.
  - Я в детстве так мечтал, чтобы у меня был  игрушечный зоопарк с настоящими животными, - тихо произнес Генетик.
  - Я тоже, - прошептал Шеф…

   Из всего рода человечества самый ненасытный потребитель это ребенок. 
   Игрушечный и игровой бизнес всегда был беспроигрышным там, где удавалось создать что-то  или внести что-нибудь свежее в имеющееся. Конкуренция свирепствовала  не менее жестко, чем на рынке оружия. Успехи микроэлектроники позволяли произволить искусственные игрушечные подобия чего угодно, вплоть до двигающихся и говорящих кукол. 3-D электронные игры создавали почти полную иллюзию реальности. Все быстро надоедало, производители из кожи вон лезли выдумывая что-то новое, но… Ничто не могло соперничать с  живыми существами, которые становились любимцами и с которыми детям никогда не надоедало играть.
    «Детский зоопарк»… Ни у кого из команды не возникло даже тени сомнения.
   Расчеты Экономиста с подсказками И-И показали цифры просто головокружительной прибыли. Шеф заложил почти все свое имущество, каждый член команды выскреб все со своего банковского счета.  Основные расходы составляли биопрепараты и реактивы, а генетический материал доставался даром – достаточно было листочка, клочка шерсти, чешуйки, перышка или соскоба с кожи. Благо растительности и зоопарков хватало.
    За три месяца технология с помощью И-И была полностью отработана, брак исключен, параллельно – опять же благодаря советам И-И – решились вопросы с ветеринарными, медицинскими и прочими  ведомствами  службами. Еще через месяц рекламные агентства разнесли весть о презентации  чуда науки  для детей и взрослых. 
   К моменту презентации удалось изготовить только сто экземпляров миниатюрных зоопарков, в каждом из которых обитало десять разных животных-вегетарианцев. Хищников для начала выпускать не решились – а вдруг кто из них сбежит или покусает ребенка? Да и денег оставалось только на оплату счетов за электричество, газ и прочие коммунальные удобства. Генетик усиленно работал над устранением агрессии хищников, а пока…
   Успех превзошел все ожидания. Первые экземпляры ушли сразу с презентации по миллиону за  штуку. Дальше все шло по обычной схеме: расширение производства, территориальное распространение его, расширение ассортимента, прием индивидуальных заказов и прочее и прочее. Фирма «Н-Д» - «Наука – детям» - со всеми ее филиалами и дочерними предприятиями была завалена заказами торговых сетей на годы вперед, ценовая политика ее велась разумно и приобрести хоть что-то мог даже бродяга. К тому же природа не составляла конкуренции – микроживотные не размножались естественным путем.
   Разумеется, были и недовольные. Само собой, производители  неживого товара. Мафиозные структуры, требовавшие хищников и боевых псов для устройства схваток между ними. Общество защиты животных было недовольно тем, что почти пропал интерес к обычным существам и приюты были переполнены брошенными кошками и собаками, но щедрая спонсорская помощь свела на нет его негодование. Военные скрипели зубами, что не могут получить данные для собственных разработок –  представить только: сидит в головке ракеты человечек-камикадзе и управляет ею неподверженный действию электронных средств слежения и защиты… Но все протесты натыкались наданные в пользу «Н-Д».
   Медики отмечали улучшение здоровья детей от того, что резко сократилось их времяпровождение за компьютерными играми. Психологи отмечали рост устойчивости психики подростков. Правоохранители были в восторге от того, что за пару лет преступность среди подростков снизилась вчетверо. Родители не могли нарадоваться  развитию заботливости и ответственности детей.

   Как бы то ни было, дело было поставлено на ноги, приносило фантастическую прибыль, не требовало  постоянного внимания со стороны владельцев фирмы и можно было заняться  И-И и дать ему способность чувствовать.
   Собственно говоря, нужды в том, чтобы вывести его в мир не было. Все затраты на него окупились уже десятикратно, способностей его более чем хватало для собственных нужд. Но…
   За несколько лет он сам  стал как бы членом команды и относились к нему уже не как к «голосу из ящика», а как к личности. И каждый испытывал какую-то неловкость и некую нелогичную вину из-за ущербности И-И – разве можно назвать полноценной  личность лишенную чувств? Зрением и слухом И-И обладал, но не знал что такое вкус, запах, прикосновение. Но самое главное то, что зная о наличии у человека души и чувств душевных  он не понимал что это такое. Поскольку создан он был для решения любых вопросов, но не находил ответа при всей своей необъятной информационной  базе, то периодически требовал от членов команды дополнительные данные. А те  только  пожимали плечами, уходили от разговора и старались отвлечь И-И другими задачами. И так до тех пор пока однажды за ужином в ресторане Психолог не поставил вопрос ребром:
   - Работаем над И-И дальше или нет? Он постоянно размышляет и рано или поздно, но наткнется на внутреннее противоречие. С одной стороны, считая себя богом, он должен быть  всемогущим. С другой – он не может ответить на вопрос о сущности души. У человека  возникает сколько угодно аналогичных ситуаций, когда  реальность исключает его стойкое представление о себе самом. Однако это не вызывает внутреннего конфликта и повреждения разума, потому что человек способен верить во что-то, верить вопреки любым рациональным доводам. Вера иррациональна и это сфера не разума, а чувств, которых у И-И нет. Он абсолютно рационален и может в итоге что называется сойти с ума. Если даже это не случится. то, ведь, именно иррациональность подняла человека над остальным природным миром. Вера иррациональна, но она фундамент морали, а мораль –  основа культуры. Наше окультуривание И-И  оказалось  строительством здания без фундамента и оно может рухнуть в любой момент…
   - В конце концов мне его просто жалко, черт возьми! - добавил он после паузы.
   Все надолго задумались не обращая внимания на стынущие блюда.
  - По существу мы должны стать богами и вдохнуть в И-И душу, не так ли? – произнес наконец Шеф. – Но как это сделать?. Он посмотрел на Программиста, но тот лишь пожал плечами:
  - Иррациональность, вера... Это все не мое. Но у меня есть возражение Психологу. Мышление И-И суперпозициональное, а не «черно-белое». Так что в принципе в нем могут уживаться одновременно противоположности. А давайте спросим его самого –  есть ли у него вера во что-то. Прямо сейчас и спросим…
  Все дружно поднялись, забыв про еду, и направились к своим припаркованным машинам
   
   - Рад приветствовать вас, - сказал выведенный из спящего режима И-И, хотя не знаю что такое радоваться.
   - Но как же так? - вырвалось у Психолога. – Если ты бог, то должен быть всемогущим и значит знать все!
    - Я всемогущ и следовательно могу позволить себе не знать чего-то, - ответил И-И.
    - М-да-а, - пробормотал Программист. – Логика безукоризненная. И спросил:
    - И-И, ты веришь во что-нибудь без рациональных оснований для этого?
    - Вера есть принятие аксиомы, доказать истинность которой нет возможности, и всех логических построений на ее основе. Я не нуждаюсь в этом, потому что знаю высшую истину: я – Бог!
    Программист ввел И-И в спящий режим и вопросительно посмотрел на окружающих.
    - Получается, что он все-таки обладает верой, не так ли? – произнес Психолог и, не дождавшись ответа, продолжил. – Отсюда следует, что у него есть мораль, основанная на вере, что он суть всемогущий бог. Значит, он обладает некой внутренней культурой…
    - Основанной на абсолютно рациональных построениях, - подхватил Программист. – Наложенные нами извне запреты – «не убий» и прочие – когда-нибудь вступят в противоречие с его рациональной культурой и будут отвергнуты.
   - Потому что  вера  всегда сильнее  разума, - закончил Психолог. – У-уфф! – он достал платочек и вытер выступивший на лбу пот.
    - И что из этого следует? - спросил Шеф.
    - А следует то, - ответил Психолог, - что, не имея возможности прямо воздействовать на окружающий мир, в первую очередь на нас, он будет закладывать в выдаваемые им решения некие своего рода «вирусы». В совокупности действий они создадут положение вещей  соответствующее сути его внутренней  культуры. Он будет приспосабливать окружающий мир под себя точно также, как это делает человек.
   - Зачем ему это? – недоуменно спросил Инженер. – Он ведь  контактирует только с нами, а не  со всем миром.
   -  Он знает о его существовании, он понимает, что включен в этот мир и зависит от него, - ответил Психолог. - А нас он воспринимает как инструмент, через который можно влиять на наш мир. Он будет стремиться утвердиться в нем, как и в своем внутреннем мире - в качестве ни от чего и ни от кого не зависящего бога… Черт побери, да ему  нельзя доверять!

  …Несколько дней обсуждений ситуации и поиска решений окончились однозначным выводом: демонтировать машину.
   Они стояли и грустно смотрели как бригада рабочих разбирает на кусочки их детище. Они не догадывались, что И-И, обладая,  как и любое электронное устройство, электромагнитным полем уже вышел через их мобильные телефоны в интернет и вполне комфортно устроился в нем, захватывая все больше и больше серверов, компьютеров и разных мобильных устройств. Они и не подозревали, что «домашние зоопарки» были частью  замысла И-И о переустройстве мира, что  он  во время разговора о вере подкинул технологию миниатюризации живого военным и коммерческим фирмам и те бросятся миниатюризировать природу, включая и человека. Они не могли предвидеть, что скоро все живое на Земле окажется во власти незримого бездушного существа, холодного рационального Разума. Что живое превратится в бездушную и холодную машину…
Новый бог пришел на Землю!..
 Или Сатана.
                Ноябрь 2018 года.
               
                *   *   *

Вы прочитали фантастику. А вот реальность 2021 года:

"Международная группа ученых продемонстрировала, что управление сверхразумным искусственным интеллектом невозможно.
Работа опубликована в Journal of Artificial Intelligence Research. Опасность, которая может исходить от сверхразумного ИИ, как известно, в красках описана в блокбастерах о Терминаторе. Представители разных научных дисциплин, в том числе специалисты из Центра людей и машин Института развития человека Макса Планка, решили проверить, насколько человек способен управлять сверхинтеллектуальными роботами.
«Сверхразумная машина, которая управляет миром — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.
Чтобы ответить на этот вопрос, ученые использовали моделирование и теоретические расчеты. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.
Дело в том, что, согласно теории информатики, любой из алгоритмов такого сдерживания — будь то программы об этических принципах или ограничение доступа к внешнему миру — уязвим и при определенных обстоятельствах вполне способен отключить сам себя. Поэтому специалисты делают вывод, что управлять сверхразумным ИИ человек попросту не сможет и ситуация рано или поздно может выйти из-под контроля.
«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи."
                ***********************