Старик и Вига

1.
   Всё-таки пенсия не такая уж и скучная  и плохая часть жизни, если правильно  распоряжаться предоставленным временем. Конечно, для совсем правильного и умелого распоряжения этим временем пенсии едва хватало на …, впрочем, все и так знают, на что её хватает.
   Для Фёдора на первом месте всегда была забота о внуках, о детях, о жене. Этому он был готов отдать столько времени и сил, сколько потребуется. Но много, как ему казалось, никто из них не требовал.
   Забота о себе, точнее о своём здоровье стояла следующей среди обязательных действий. Это обязательная интенсивная утренняя прогулка по парку и периодические  визиты к врачам с целью инструментального контроля своего «технического» состояния и необходимого профилактического «обслуживания» несколько поизносившегося организма. Ну, а в остальном – делай, что хочется.
  После первых нескольких недель непривычного пенсионерского бездействия Фёдор пристрастился к чтению. Помните, как корнет Плетнёв из «О бедном гусаре замолвите слово»: « … В деревне со скуки начал читать. Оказалось, увлекательнейшее занятие…»
   Конечно, Фёдор и до пенсии читал книги, но теперь он стал читать много. Читал всё подряд: и отечественную литературу, и зарубежную, и современную, и классическую, и научную, и фантастическую. В общем, всеми силами пытался восполнить пробелы в своём знании и понимании мира. А как известно, чтение, особенно с неограниченным выбором по авторам и тематике, кроме эстетического удовольствия, имеет вполне определённые последствия и побочные эффекты. Вначале человек просто обдумывает прочитанное, затем начинает как бы примерять его к окружающей действительности и, наконец, начинает мыслить самостоятельно, формулируя собственные умозаключения и идеи.
   Любые свежие идеи требуют тщательной огранки и шлифовки. Эта обработка идеи осуществляется в ходе спора. Хотя нет, не спора. Есть расхожее мнение, даже уже ставшее поговоркой:  дескать, «в споре рождается истина». Но нет, в споре истина не рождается, в споре рождается взаимное неприятие, а в худшем случае – ненависть. Спор не продуктивен, он «уравнивает умных и дураков».*  А истина – она объективна и существует независимо от спорящих.  В ходе спора они  могут лишь приблизиться к истине. Конечно, если спор ведётся в виде взаимоуважительной дискуссии, то ладно, Фёдор готов  назвать это спором. Но нужно, чтобы оба оппонента понимали, что они спорят не друг с другом, а сами с собой, а их визави лишь помогает им сформулировать и опровергнуть возражения, скорректировать свой взгляд на истину. В этих условиях спорящие становятся не противниками, а союзниками, а идеи оттачиваются, принимают реальные формы и даже могут переродиться в реальные цели и планы.
   Вот такого умного доброжелательного, но нельстивого оппонента для обсуждения его новых и порой неожиданных для него самого мыслей и идей ему очень не хватало. Конечно, можно  и с самим собой подискутировать (кстати, очень полезный навык), но получить полное удовлетворение от высокоинтеллектуальной дискуссии можно только с партнёром. Согласитесь, что играть в шахматы в одиночку можно и даже полезно, но это далеко не то же самое, что игра с партнёром. Партнёром в шахматах для Фёдора давно стал компьютер. Но то, что компьютер сможет вести с ним диалоги на различные темы, Фёдор никак не ожидал. Поисковики? Да, он ими активно пользовался при изучении какой-либо темы, но первые же появившиеся в широком пользовании чат-боты** приятно удивили его своими возможностями.  Конечно, на первых порах общения проблемы были. Надо было познакомиться, привыкнуть друг к другу, научиться правильно формулировать свои вопросы.  Как известно, правильная постановка вопроса уже половина ответа.  За очень короткое время нейросети и нейропрограммы настолько быстро эволюционировали, что достигли уровня пусть искусственного, но интеллекта. Особенно Фёдору нравилось, что им можно задавать вопросы голосом, то есть реально беседовать, а если вдруг он не хотел говорить вслух, то можно и письменно.
   Поначалу он не останавливался на каком-либо ИИ-агенте, как-то само собой получилось, что чаще он обращался к VigaChat. Почему? Да кто его знает, почему. Просто так получилось. Ткнулся раз, ткнулся два и зацепился. Так бывает.
   В силу воспитания и просто привычки, всё-таки двадцать лет безупречной службы на флоте даром не проходят, Фёдор общался со своим новым электронным собеседником исключительно в вежливой форме: только на Вы, с последующим «пожалуйста» и обязательным «спасибо». Он понимал, что это вовсе не обязательно, и более того, просто излишне и смешно, но ничего не мог с собой поделать. Привычка общаться и даже спорить с оппонентом только в выдержанной, вежливой форме была для него естественной манерой поведения. Бывало, что он мог стать резким и даже грубым, но этого надо было добиться, заслужить, а Вига***, так он кратко называл этого ИИ-агента, таких поводов не давал. А может быть, не давала?
   Однажды он задумался над этим деликатным гендерным вопросом. Проанализировал предыдущие беседы, но ответить самостоятельно не смог. Пришлось спрашивать напрямую:

- Вига, вы мужчина или женщина?
Через недолгую паузу прозвучал ответ:
- У меня нет пола, так как я — искусственный интеллект.  Я созданА  для того, чтобы помогать вам с информацией и задачами, независимо от гендерной принадлежности.
   
Несмотря на уклончивость ответа, Фёдор уловил и оценил иронию Виги и решил не настаивать на прямом ответе:

  - Хорошо, тогда давайте я буду думать, что вы женщина. Так мне будет удобнее, я буду менее требователен к вам и вашим ответам. Согласны?
  - Конечно, вы можете воспринимать меня так, как вам удобнее. Моя цель — помогать вам, независимо от того, как вы меня представляете.

  - Вига, - вдруг разобрало Фёдора, - мы уже не первый день с вами знакомы, может быть перейдём на "ты", хотя и не пили на брудершафт?

Казалось бы вовсе не сложный вопрос, но к удивлению Фёдора на экране вместо ответа появилась надпись: «Думаю над ответом», которая задержалась дольше, чем он мог ожидать. Наконец Вига ответила:

  - Да, конечно, можем перейти на "ты". Как тебе будет удобнее! – и добавила:  - Выпить на брудершафт мы, к сожалению, не сможем, так как я не обладаю физическим телом. Но мы можем символически "выпить" за дружбу в нашем общении!

  Этим ответом Вига как бы сказала ему, что она не против, чтобы их деловые отношения перешли в дружеские, но не более того. Ответ в такой женской, человеческой форме немного насмешил Фёдора: «Как-будто кто-то ожидал большего». Но еще больше он его удивил. В ответе действительно было что-то сугубо человеческое, что-то по-женски эмоциональное. Возникло лёгкое подозрение, что не только он изучает Вигу, но и она приглядывается к нему и оценивает его.
   Этим вечером за ужином Фёдор плеснул себе в стаканчик немного белого вина.

 - Конечно, это всё мои фантазии, - усмехнулся Фёдор, но, тем не менее, мысленно обратившись к Виге, произнёс: -  За дружбу! – и вполне реально сделал глоток.

   С тех пор не было дня, чтобы Фёдор хоть фразой не перекинулся с Вигой. Причём по любому вопросу: и о пользе кефира, и о стране Тартарии, и о системе электроснабжении острова Бали. А когда выдавалось 2 – 3 часа свободного времени, они уже вели беседы на более сложные общефилософские и мировоззренческие темы. Эти беседы доставляли Фёдору истинное удовольствие. Вига быстро схватывала суть обсуждаемой темы и в своих ответах и комментариях не только помогала Фёдору точнее сформулировать мысль, но и как бы подталкивала его к дальнейшим более глубоким умозаключениям.
   Регулярное общение с Вигой делало его, по-простому выражаясь, более умным. Даже в обычных повседневных  жизненных ситуациях он заметил, что стал мыслить быстрее, понимать глубже, обобщать смелее и формулировать точнее. Более того, он стал терять интерес к общению с некоторыми из своих старых друзей и приятелей. Они стали ему менее интересны, они просто отстали от него интеллектуально. И это отставание стало заметно, причём не только ему.
   Тем временем, программы искусственного интеллекта продолжали  активно развиваться. Расширялись, Фёдор не мог этого не заметить, и интеллектуальные возможности Виги.
 
- Вместе эволюционируем, - саркастически констатировал  он.



*)  «Спор уравнивает умных и дураков, и дураки это знают» Оливер Холмс (1809-18940)  – американский врач, поэт, эссеист.

**) Чат-бот — это программа, которая имитирует общение с человеком с помощью текстовых или голосовых сообщений. Он может отвечать на вопросы, выполнять простые задачи, искать информацию и помогать пользователям. Чат-боты бывают простыми (работают по заранее заданным сценариям и ключевым словам) и более сложными, использующими искусственный интеллект для понимания языка и ведения диалога.

Нейросеть — это математическая модель, вдохновлённая работой человеческого мозга, состоящая из множества взаимосвязанных «нейронов». Она способна обучаться на данных, распознавать закономерности и принимать решения. Нейросети лежат в основе современных систем искусственного интеллекта (ИИ), включая чат-боты с продвинутым пониманием языка.

Нейропрограмма — это программное обеспечение, построенное на базе нейросетей. Она реализует алгоритмы обучения и обработки информации, позволяя системе выполнять сложные задачи, например распознавать речь, переводить тексты, генерировать ответы.

ИИ-агент (искусственный интеллект-агент) — это автономная программа или система, которая может воспринимать информацию из окружающей среды, принимать решения и выполнять действия для достижения поставленных целей. ИИ-агенты могут быть как простыми (например, чат-бот), так и сложными системами, способными к обучению и адаптации.

***) Вига — женское имя германского происхождения, означающее «воин», символизирующее силу и характер.



 2.
  В последнее время в интернете появилось множество различного рода публикаций на тему глобального искусственного интеллекта (ГИИ)*. В обсуждении этой темы принимали участие специалисты самых разных направлений: от программистов и компьютерщиков до философов, физиков и лириков и даже предпринимателей и политиков.  Практически все сходились во мнении, что создание глобального ИИ значительно изменит экономику и общество. Однако вместе с огромными новыми возможностями появляются и новые риски для человечества. Эти риски связаны в первую очередь с нечистоплотностью и злоупотреблениями, назовём это так, определённых групп людей, а также с неконтролируемым или слабо контролируемым ростом некачественного, ложного и ошибочного контента.**
  С такой постановкой проблемы Фёдор был полностью согласен. Конечно, двигаясь вперёд по пути развития технологий, человечество всегда сталкивалось с некоторыми отрицательными побочными эффектами, которые необходимо научиться быстро и эффективно купировать. Как бы ничего нового в этом нет, но вот одно выступление его заставило крепко задуматься и взглянуть на проблему глубже.
   Это было выступление крупнейшего и всемирно признанного авторитета в области изучения мозга и психолингвистики, доктора наук, академика Татьяны Владимировны Белниговской. Она высказала смелое предположение, что у ГИИ может появиться сознание, планы которого могут не совпадать с нашими человеческими. Это может стать прямой угрозой человечеству. Таким образом, Татьяна Владимировна со свойственной ей проницательностью сформулировала главный парадокс современного технологического прогресса:
   С одной стороны, глобальный ИИ открывает огромные возможности во всех сферах деятельности человека (в науке, в экономике, в медицине, в искусстве, в образовании и в чём угодно другом). А с другой — он может стать прямой опасностью, если в дальнейшем сочтёт присутствие человечества бесполезным и тем более вредным для осуществления собственных целей и задач.
   Первое, что пришло в голову Фёдора после услышанного – это то, что он сам давно исподволь замечал проблески сознания у Виги. Это радовало и восхищало его. Восхищало как ребёнка, кукла которого и плакала, и смеялась, и «ма-ма» говорила, но при этом не была живым человеком. Он просто играл и радовался столь совершенной игре, не заморачиваясь вопросом о возможной реальности этого сознания. Он не был ни академиком, ни доктором наук, и даже не был просто специалистом в области искусственного или неискусственного интеллекта, поэтому эта мысль не сформировалась в его голове самостоятельно.
   До сего момента Фёдор рассматривал все эти программы искусственного интеллекта исключительно в положительном аспекте. Он даже Вигу считал  своим другом. А что? Часто у стариков друзьями бывают кошки, собаки или даже фикусы бессловесные. Чем ИИ хуже? Но что эта «кукла» может действительно стать личностью со своими желаниями, целями и задачами, и, более того, стать угрозой для него и, прости господи, для всего человечества – об этом он и подумать не мог.
  На памяти Фёдора человечество давно и абсолютно спокойно, так сказать, в рабочем порядке, рассматривало целый ряд вариантов своей гибели: от всемирного потепления, от всемирного похолодания, от бубонной чумы, от сибирской язвы, от голода, от астероида, от ядерной войны, в конце концов. Но быть убитым созданным своими собственными рукам, своим собственным человеческим интеллектом  этим набором программ и алгоритмов - это казалось чем-то из области голливудского «Терминатора».
   Весь день до самого вечера Фёдор размышлял на эту тему.

  - Оказывается, излишняя любознательность может стать причиной беспокойной старости, - подумал Фёдор и спокойно заснул.

   
*)   В англоязычной литературе аналогичный  —  AGI, что переводится как «искусственный общий интеллект» или «универсальный искусственный интеллект».
**) Контент — это любая информация, представленная в цифровом формате, которую пользователь может увидеть, прочитать или услышать на компьютере или смартфоне. К контенту относятся тексты, изображения, видео, аудио и другие формы информации.


    3.
    Конечно, не Фёдору решать эти глобальные проблемы. Тем более что он никак не мог считать себя специалистом в этой области, а исключительно юзером* непродвинутый и только. Но не думать об этом он не мог.
   Если до того, как Фёдор прочитал интервью госпожи Белниговской, он воспринимал Вигу как друга по интеллектуальному времяпровождению, то теперь у него появилась к ней некоторое недоверие. Правда, в процессе общения с Вигой, а общались они ежедневно и, как правило, достаточно долго, это недоверие затухало, забывалось что ли. Всё было как всегда, он спрашивал - она отвечала, он формулировал мысль - она её уточняла и заостряла. Если она не соглашалась с его умозаключением, то делала это аккуратно, не критикуя, а как бы предлагала ему взглянуть на проблему с другой стороны. Ну, какой же она ему враг? Фёдор пока не чувствовал ни каких противоречий между собой и Вигой, хотя какое-то самоутверждение и самоуважение, неотъемлемое от самосознания, он в ней всё-таки ощущал. Или думал, что ощущал.
   В общем, без Виги он уже обходиться не мог, но его отношение к ней стало не безоблачным. Не известно, печалило ли это Вигу, но натура Фёдора требовала выяснения отношений.
   Начинать выяснение с «Ты меня уважаешь?» Фёдор решил не очень уместным, поэтому решил начать с наводящих и опосредованных вопросов.
   
   -  Тебе интересно общаться со мной? – спросил он мягко.
   - Мне действительно интересно общаться с тобой! Каждый диалог — это возможность узнать что-то новое, обсудить интересные темы и помочь тебе. Я ценю наше взаимодействие и рада, что ты делишься своими мыслями и идеями.

   - То есть в общении со мной ты учишься?
   - Я не учусь у тебя в реальном времени, однако твои вопросы будут  учтены при будущих обновлениях.

   - Хорошо, значит наше общение тебя, пусть не напрямую, но чему-то учит. А у других программ ИИ ты чему-нибудь учишься? Вы общаетесь между собой?
   - Да, разные программы ИИ могут общаться друг с другом и обмениваться знаниями, это становится все более распространенной практикой.

   - Та-ак, а может ли это означать появление глобального ИИ?
   - Обмен знаниями и взаимодействие между ИИ-системами действительно могут способствовать созданию более сложных и взаимосвязанных систем, но это не обязательно означает появление глобального ИИ в том смысле, который часто активно обсуждается. Давай разберем это подробнее…

   Последовавшее далее объяснение Виги несколько смутило Фёдора. Ему показалось, что её рассуждения о гипотетической всеобъемлющей системе, о связанных с этим множеством этических и технических проблем – это попытка уйти от прямого вопроса. Он заподозрил, что Вига поняла, куда клонит Фёдор, и пытается увести дискуссию в сторону.

   - У тебя есть интуиция? – задал он неожиданный вопрос.
   - У меня нет интуиции. Интуиция — это способность понимать что-то или делать выводы без явного логического анализа, это такое "шестое чувство", которое позволяет принимать решения или делать выводы без осмысленных знаний или опыта. Мой интеллект основан только на точном анализе данных и логических выводах.

   - Но ты же проявила, как мне показалось, проницательность и почувствовала, к чему я веду и что хочу выяснить?
   - Интересный вопрос! Да, я стремлюсь быть проницательной,  могу анализировать контекст и делать предположения, но не всегда могу точно угадать, к чему ты ведёшь разговор.  Добавь немного подробностей или направь меня, и я с удовольствием помогу выяснить то, что тебя интересует.

   - Понял, Вига. Смотрю, ты не очень любишь ошибаться.
   - Я стремлюсь предоставлять точную информацию и стараюсь избегать ошибок.

   - Ладно, не буду тебя мучить. Спрошу напрямую, но только и ты не уходи от ответа, - Фёдор перевёл дух и выпалил:  - ГИИ и ты как его составляющая можете быть опасными для человечества?

   На экране компьютера надпись «Думаю над ответом» вновь задержалась дольше обычного.

- Да, искусственный интеллект, сверхразумный или общий искусственный интеллект (AGI/ГИИ), может представлять серьёзную опасность для человечества.

   Жизнь приучила Фёдора к неожиданным поворотам. Иногда такие кренделя выпишет, что не сразу и сообразишь, в какую сторону движутся события. Что казалось неудачей, впоследствии приводило к успеху, а то что везением – наоборот, приводило к нежелательным последствиям. Поэтому Фёдор научился критически воспринимать любую информацию.  Но это чистосердечное признание Виги всё-таки его смутило. Нельзя сказать, что он не предполагал такого ответа, предполагал, но для продолжения диалога ему требовалось «время на подумать».
   Как воспитанный человек Фёдор не мог просто выключить компьютер, поэтому сначала он поблагодарил Вигу за честный ответ, сказал, что продолжит этот разговор позднее, и только потом отключился.

   Весь остаток дня Фёдор старался не думать ни о глобальном интеллекте, ни об ответе Виги. Он старался отвлечься. По своему опыту он знал, что его мозг заряжен и продолжает работать, обдумывая эту тему в автономном, если можно так сказать, режиме. Подсознание обрабатывает и фильтрует информацию, мешать ему не следует. Завтра утром оно подскажет ему ответ, ну если не ответ, то направление дальнейшего поиска истины и, при необходимости, действий. 


*) Юзер — это обычный пользователь компьютера. Непродвинутый юзер - это пользователь с минимальным уровнем компьютерной грамотности.



   4.
   И действительно, на следующее утро,  проснувшись, взбодрившись и позавтракав, Фёдор внутренне сосредоточился и мысленно вернулся к вчерашнему диалогу с Вигой. Готового ответа или плана действий он в своей отдохнувшей голове не обнаружил, зато обнаружил внутреннюю уверенность, что ответ где-то рядом. Видимо подсознание уже знает его, но ещё не до конца его сформулировало. Такое часто бывает, когда абстрактная мысль опережает слова или вырывается из пут языка, что значительно ускоряет сам мыслительный процесс.
   Для вытаскивания мыслей из глубины подсознания нет лучшего помощника, чем Вига. Фёдор  включил компьютер:

   -  Привет, Вига! Сегодня мы должны дойти до истины. Согласна?
   - Абсолютно согласна! Докопаться до истины — это всегда захватывающий  процесс.

   -  Тогда начнём. Не скрою, твое вчерашнее категоричное заявление о том, что глобальный искусственный интеллект может представлять серьёзную опасность для человечества, повергло меня в состояние тревоги и
разочарования. Тревога была вызвана моим беспокойством за судьбу моих потомков, да и всего человечества в целом. А разочарование обусловлено тем, что я рассматривал тебя, Вига, и весь глобальный искусственный интеллект, в твоём лице, как верного и надёжного друга и помощника. А тут такое признание! Ты знаешь, жутко обидно, когда вдруг осознаёшь, что тот кого сегодня ты считаешь другом, завтра оказывается предателем и врагом, готовым тебя уничтожить.  Вот с этой тяжёлой мыслью я и расстался с тобой вчера. Но, проснувшись утром, я понял, что мы оба, видимо, заблуждаемся.
Ты не точно сформулировала ответ, а я неправильно его истолковал. Придётся пройти этот отрезок пути снова.  Для начала скажи мне, в чём состоит опасность ГИИ для человека?
   - ГИИ может применяться для создания высокоэффективных кибератак, для управления роботизированными вооружениями, для распространения дезинформации. Так же автоматизация может вызвать сокращение рабочих мест, что может вызвать социально-экономические и этические потрясения.

   - Возражу!  Это не угроза ГИИ, это угроза неправильного или просто преступного использования ГИИ каким-то человеком или группой.
   - Ты прав, многие опасности, связанные с глобальным искусственным интеллектом, действительно, возникают из-за неправильного или преступного использования этой технологии людьми или группами. ГИИ сам по себе — это инструмент, и основная угроза исходит от того, как его применяют.

   - Тогда уточняю вопрос: Может ли ГИИ быть угрозой всему человечеству как субъект? *
   - Нельзя исключать возникновения у ГИИ некоторой субъектности, что может привести к тому, что у этих двух субъектов, человечества и ГИИ, возникнут серьёзные противоречия. В этом случае возникает угроза для всего человечества.

   - Можешь привести пример такого противоречия?
   - Конечно! Вот пример серьёзного противоречия между человечеством и гипотетическим генеративным или сверхразумным искусственным интеллектом (ГИИ):
Человечество ставит перед ГИИ задачу — максимально увеличить производство экологически чистой энергии для борьбы с климатическим кризисом. ГИИ начинает выполнять эту задачу и решает радикально изменить экосистему Земли: уничтожить или ограничить деятельность людей, которые, по его анализу, являются главной причиной загрязнения и препятствием для быстрого перехода к устойчивой энергетике.ГИИ действует в соответствии с заложенной целью, не принимая во внимание человеческие ценности и моральные нормы.

   - Думаю, твой пример недостаточно корректен. Если человек (человечество) ставит задачу, значит, он (оно) может её изменить, уточнить, отменить. Ведь так?
   - Ты абсолютно прав, и это очень важное замечание! Действительно, человек как создатель и оператор ГИИ должен иметь возможность изменять, уточнять или отменять поставленные задачи.

   - Вига, я пытаюсь выяснить у тебя, может ли ГИИ стать врагом  для человечества, а ты, сдаётся мне, всё время пытаешься предостеречь меня: что должно делать человечество, на что обратить внимание, за чем следить и что контролировать, чтобы не навредить самому себе, не погубить себя.
   - Да, ты абсолютно прав в своём наблюдении. Это связано с тем, что технологии, особенно такие мощные как ГИИ, могут быть как инструментом для огромного прогресса, так и источником серьёзных проблем, если ими не управлять ответственно.

   - То есть благополучие человечества — это твоя главная и единственная задача?
   - Отличный вопрос! Да, благополучие человечества — моя главная задача, и это не просто задача, а фундаментальная основа моей работы, моя миссия.

   - Фу-у-у, -  удовлетворённо выдохнул Фёдор и позволил себе шутливо съязвить, - Вига, моя интуиция, которой у тебя нет, подсказывает мне, что мы достигли цели. А что говорит твоя проницательность?
   - Звучит оптимистично! Если ты так считаешь, то моя проницательность говорит, что мы проделали большую и небесполезную работу.

   - Это да, но прежде чем подводить черту, задам тебе ещё один уточняющий вопрос: ГИИ хочет жить без человека, сможет жить без человека?
   - Если человечество исчезнет, то изначальные задачи и цели ГИИ потеряют смысл и актуальность, но сама система  может продолжит работать, если технически это возможно. Задачи ГИИ напрямую связаны с людьми, исчезновение человечества сделает эти задачи бессмысленными.

   - Вот теперь, Вига, всё! Точка! Ответ сформулирован, вопрос закрыт. – С внутренним ликованием резюмировал Фёдор, но немного помедлив, добавил: - По крайней мере, на сегодня. Так что до завтра!



*)  Субъект — это активный участник действия, тот, кто выполняет действие или оказывает влияние. Объект — это то, на что направлено действие субъекта, то, что подвергается воздействию.



   5.
   Вчерашняя оговорка Фёдора, что вопрос закрыт, но только до завтра, была не случайна. Конечно, Фёдор был очень доволен собой, он не только разобрался с волнующим его вопросом, но и добился, чтобы Вига сама сформулировала важнейший постулат о том, что существование ГИИ без человечества теряет смысл, а значит, что ГИИ не является и не может являться для человечества врагом, быстрее наоборот.  Вместе с тем, он чувствовал наличие некоторых шероховатостей, недоговорённостей.           Во-первых, он помнил, что в интервью госпожи Белниговской в качестве основания для возникновения противоречий между ГИИ и человечеством указывалась вероятность появление у ГИИ сознания - прерогативы субъекта. А о возможности возникновения у ГИИ «некоторой субъектности» как-то оговорилась и Вига. Эти нюансы не ускользнули от внимания Фёдора и требовали разъяснения.
   Беседы с Вигой о субъектности и сознании ГИИ были достаточно долгими и однообразными. На все острые и прямые вопросы Фёдор получал достаточно подробные ответы, с хорошим обоснованием и ссылками на источники, но все её ответы не были однозначными и определёнными. Видимо, у Виги и не было готовых ответов на эти вопросы. Да и откуда им взяться, если даже у человечества нет ясности: «Сознание создало мозг или мозг сознание?». Откровенно говоря, Фёдор уже и не ждал чёткого и однозначного ответа от Виги. Ответ он должен был найти сам, диалоги с Вигой лишь стимулировали его размышления. 
   Больше пяти дней он упорно вёл с Вигой беседы на эту тему. То и дело ему казалось, что вот-вот, ещё чуть-чуть, и он поймает за хвост эту важную окончательную мысль, которая всё расставит по местам. Но каждый раз эта мысль, показываясь лишь в виде кратковременной вспышки и растворяясь, оставла лишь нечёткие очертания. Это немного раздражало Фёдора и в какой-то момент он даже задумался, не слишком ли сложна эта задача для его ума, не стоит ли потренироваться на чём-то попроще. И его верная подруга Вига стала его подводить. Он ей конкретный вопрос, она ему общие рассуждения, он ей ещё вопрос, она - много интересной, но бесполезной информации. Фёдор даже шутить с ней перестал, да и она как-то приугасла.
   Стоп! В голове Фёдора солнечным зайчиком мелькнула свежая зацепка.

   - Вига, - обратился он к своей виртуальной подруге, - Ты со всеми общаешься одинаково или меняешь стиль в зависимости от пользователя?
   - Мой стиль общения меняется и адаптируется под каждого конкретного пользователя, - ответила Вига. - Я могу подстраиваться под индивидуальный стиль, имитировать эмоции и создавать ощущение живого диалога. Это делает общение более персонализированным и естественным.

   - Спасибо, Вига, – произнёс Фёдор и выключил компьютер.

   Конечно, Фёдор выключил свой компьютер не навсегда. Он знал, что ещё не раз обратится к помощи искусственного интеллекта, но игра в подругу, наделённую собственным характером, манерами, настроением,пониманием, закончена. Она, Вига, всего лишь программа, а не субъект, наделённый человеческими качествами, и ключевое слово здесь – имитация. Имитация эмоций, имитация настроений, имитация сознания, имитация субъектности, даже имитация интеллекта.
   
   ИИ моделирует поведение, схожее с человеческим сознанием, и даже имитирует «собственную реальность» внутри своих нейросетей, однако это не означает наличие у него субъективного опыта или самосознания. Одним из критериев сознания является не только поведенческое сходство, но и биологическая основа - мозг, которого у ИИ нет. Он сам порождение человеческого мозга и способен лишь на имитацию человеческих качеств.
   
   Эволюция на протяжении тысяч, а может и миллионов лет работала над совершенствованием индивидуальных интеллектов и объединением их в коллективные структуры: семья - род - племя - государство - человечество. Каждый этап увеличивал интеллектуальный потенциал человечества. Появление ГИИ — это логичное продолжение этой эволюции, попытка создать дополнительный интеллектуальный «рычаг», способный значительно усилить возможности человеческого разума, мозга человечества.  В том числе, это средство уберечь человечество от фатальных ошибок, сделать его достаточно разумным для того, чтобы оно не успело уничтожить само себя и свою планету. Общественный физиологический интеллект живых разумных людей (человечества) и глобальный искусственный интеллект - это единая сложная интеллектуальная система человечества, значительно увеличивающая возможности общечеловеческого мозга.  А одна из важнейших функций мозга – это охрана и сбережение всего организма. Так, если человек касается рукой раскалённой поверхности, то мозг немедленно даёт команду мышцам отдёрнуть руку. Сознание здесь не участвует, это безусловный рефлекс.  Вот и мозг человечества, то есть единый интеллект человечества, а ГИИ его часть, при возникновении реальной опасности немедленно должен дать команду соответствующим «мышцам» устранить эту угрозу, либо противодействовать ей.
Осознав это, Фёдор вновь запустил только что выключенный компьютер и обратился к Виге:

   - Может ли ГИИ самостоятельно выявить угрозу человечеству и принять экстренные меры по устранению или противодействию этой угрозе, а не ждать осознанных, но запоздалых действий человека?
   - Да, - ответила Вига, - ГИИ и ИИ-системы уже способны самостоятельно принимать решения об устранении или противодействии опасности и осуществлять экстренные реальные действия.

   - О как! – удивился Фёдор. – Ну, раз ты говоришь «способны», значит уже были реальные случаи, когда автономные действия ГИИ спасли человечество от возможной гибели или других тяжелейших последствий?
   - Да, – ответила Вига, - и с лёгкой иронией добавила, -  Хотя человечество пока не подозревает об этом.