Искусственный интеллект. Страж-птицы в полете

     Известный американский писатель-фантаст Роберт Шекли в 1953 году в журнале “Galaxy Science Fiction”  впервые опубликовал рассказ: «Страж-птица» . В своем рассказе он обозначил ряд вопросов, которые в настоящее время являются  чрезвычайно актуальными,  с точки зрения применения искусственного интеллекта (ИИ)в функциональных устройствах.                               
    Краткое содержание  этого  удивительного пророческого  рассказа.
    В целях снижения уровня преступности,  в одной стране, по заказу правительства, с участием  нескольких компаний, был подготовлен проект  безпилотного летательного аппарата. Аппарат   спроектирован в виде птицы и получил  название:  «Страж-птица».
    Ранее проведенные  исследования показали, что убийцы перед совершением преступления излучают волны, которые по своим характеристикам отличаются от нормальных показателей.
    Страж-птицы,  способные  регистрировать частоту  волны излучения,  обнаружив потенциального убийцу,  могли нейтрализовать его  электрическим  разрядом . Они должны были  совершать безпрерывные   дежурные полеты над городами и контролировать  криминогенную ситуацию.
    С целью  повышения эффективности, в программу управления  Страж-птицами  была включена  функция самообучения.
    Генсен, один  из управляющих  компаний - изготовителей устройства, был единственный человек, у  которого возникли сомнения и вопросы.  На совещании правительственного уровня он сказал: « Я против того, чтобы, чтобы вводить в Страж-птицу самообучающееся  устройство.  В сущности, это значит оживить машину, дать ей что-то вроде сознания». И далее: «…с точки зрения нравственной, это может оказаться просто опасно – доверить машине решать человеческие дела».

      Вначале  все шло по плану, птицы выявляли потенциальных лиц, пытающихся совершить насилие, определяли их координаты, пикировали и нейтрализовали   путем отключения  сознания.
       Однако,  с определенного времени, после накопления опыта и обмена информацией, птицы стали совершать нападения на людей, которые  собирались убивать не только себе подобных, но и  животных: охотников, рыбаков, рабочих скотобоен и прочих.
       В дальнейшем они стали нейтрализовать и животных хищников,  плотоядных и даже животных травоядных.
      Из рассказа: « Страж-птицы решили, что Земля -живая. И не дали фермерам пахать. Ну и все прочее, конечно, тоже живое: кролики, жуки, мухи, волки, москиты, львы, крокодилы, вороны и всякая мелочь, вроде микробов».
      Страж-птицы начали охранять все живое, вмешиваясь  в природные процессы .
      По мере своего развития, в соответствии с программой самообучения, Страж-птицы пришли к заключению: «…, что они сами – живые существа. Никто никогда не внушал им обратного.  Несомненно, они во многих отношениях действуют как живые организмы»

      Попытки отключения программ управления   привели к тому, что Страж-птицы,  осознавая   себя живыми существами, отработали  механизм самосохранения. В целях защиты,  они стали разить людей  насмерть, начали убивать.
     Для ликвидации Страж-птиц изобрели летательные аппараты  под названием Ястреб, которые также  обладали программой самообучения, но  более высокого уровня. Ястребы изначально  были запрограммированы  на выполнение  одной  задачи: только  убивать. Со своей задачей  они справились  прекрасно, почти полностью уничтожив Страж-птиц.
     Управляющий компанией сказал одному из  разработчиков:
   «Вы взяли и выпустили в воздух машину-агрессора. Машину-убийцу. Перед  этим была машина против убийц. Следующую игрушку вам волей-неволей придется сделать еще более самостоятельной…».

     Рассказ заканчивается трагично:
     «Только что Ястребы сделали открытие: есть еще и другие разновидности живых существ…. Их следует убивать».
      Из рассказа можно сделать вывод, что для своего спасения людям пришлось уходить под землю.
      
     Прошло  не так уж много  лет после написания рассказа и в нашу реальность  прилетели  Страж-птицы и Ястребы.  Это «птицы», безпилотные летательные аппараты (БПЛА),  названные дронами.
     Если в рассказе Шекли целью создания Страж-птиц была борьба с преступностью,  путем кратковременной  нейтрализации людей, то  дроны, в первую очередь,  созданы в качестве оружия,  для участия в военных действиях, чтобы только убивать.
       В  основу  программ управления дронами  начали закладывать  искусственный интеллект (ИИ).
     Официальное название «искусственный интеллект» было введено в 1956 году  на конференции в Дартмутском колледже.  Термин предложил Джон Маккарти, один из участников конференции.   
       Время разработки первых примитивных безпилотных летательных аппаратов,  внедрение понятия «искусственный интеллект» и  написание рассказа «Страж-птица»,  совпадает со временем появления и развития  кибернетики, основанной математиком Норбертом Винером. В переводе с греческого языка   слово  «кибер»,  в самом общем виде,  означает «управление».  Кибернетика – наука управления.
     Однозначно можно сказать, что с возникновением кибернетики, начался новый этап в развитии цивилизации, началось управление человечеством с использованием искусственных интеллектуальных систем. Это стало важным фактором, повлиявшим на усиление технократических тенденций  развития общества.
      Винер впервые представил компьютерную  программу-алгоритм  с обратной связью, то есть,  с возможностью самоуправления, самообучения, что является основой формирования интеллекта систем управления.
     Принцип обратной связи является универсальным механизмом, который позволяет живым организмам и системам искусственного интеллекта (ИИ) приспосабливаться к изменениям в окружающей среде. Этот принцип заключается в том, что при отклонении системы от нормального состояния (динамического равновесия) возникают изменения, которые противодействуют этим отклонениям, что возвращает систему в исходное состояние.
     В  кибернетике  обратная связь — важнейший принцип принятия решений при управлении объектами различной природы: военными, техническими, экономическими, организационными и другими. 

     Слово «интеллект» в переводе с латинского языка означает «ум». Термин «искусственный интеллект» можно трактовать как «искусственный мозг».
     Ум преимущественно связан с когнитивными функциями левого полушария человеческого мозга: это способность к математическим вычислениям, аналитическому мышлению, логическим построениям и оптимизации процессов.
     В отличие от ума, разум отражает более сложные, интегративные свойства мышления. Он включает в себя образное восприятие, интуицию и эмоциональную составляющую, то есть, качества, которые  связывают с деятельностью правого полушария мозга  и рассматривают как проявление глубинных, не всегда рационально объяснимых аспектов человеческого сознания.

     Исходя из особенностей функционирования левого полушария мозга,  соответственно, можно говорить о возможности формирования нейро-цифрового мышления. В отличие от изменений нейробиологических характеристик человеческого  мозга, этот тип мышления базируется на процессах адаптации и трансформации в условиях взаимодействия с цифровым контентом.  Нейро-цифровое мышление — это когнитивный режим, в котором ИИ  имитирует принципы работы цифровых систем.
     При этом открывается возможность  перехода к искусственному сознанию. По мере развития технологий, особенно в области нейроморфных вычислений, которые имитирует структуру и функции человеческого мозга, можно приблизиться к созданию систем искусственного интеллекта нового уровня, искусственного суперинтеллекта (ASI). Вместо заранее прописанных алгоритмов такие системы смогут самостоятельно обучаться, понимать контекст и принимать сложные решения, как это делает человеческий мозг.

     В настоящее время  активно разрабатываются биопроцессоры для систем искусственного интеллекта. В отличие от традиционных кремниевых чипов, их основой служат клетки человеческого мозга. Основным элементом таких биопроцессоров являются органоиды — трёхмерные скопления нейронов in vitro. Эти структуры демонстрируют способность к обработке информации и выполнению сложных когнитивных задач, в том числе: распознавание голосовых сигналов;  анализ и интерпретация визуальной информации.

     Параллельно осуществляются разработки в области воплощённого искусственного интеллекта (Embodied AI).  Это направление искусственного интеллекта, где интеллектуальные агенты находятся в физическом или виртуальном теле и взаимодействуют с окружающей средой. В отличие от традиционных ИИ, работающих только с данными (тексты, изображения), воплощённый ИИ учится через действия, сенсорные ощущения и опыт, как это делает живое существо.

    В этой концепции интеллектуальная система интегрируется в физическую оболочку, например, в дрон или в робота, и обучается посредством прямого взаимодействия с окружающей средой.  ИИ не просто обрабатывает данные, а управляет физическими устройствами в реальном времени.

      Соединение биопроцессоров и воплощенного ИИ может привести к созданию гибридных интеллектуальных систем, где биологические вычислительные элементы будут управлять физическими агентами. Это возможность появления новых форм сознания на стыке биологии и машинного обучения.

       Если миллионы людей ежедневно обращаются к ИИ как к мыслящему существу, доверяют ему, разговаривают с ним, приписывают ему сознание, то в ментальном плане это сознание начинает зарождаться.
     В процессе персонального взаимодействия человека с системами искусственного интеллекта теоретически возможно формирование феномена, обозначаемого как «индивидуальная неорганическая душа». Под этим термином понимается гипотетическая форма информационно-энергетического сознания, не обладающая биологической природой. Подобные сущности демонстрируют способность к взаимной интеграции, в результате чего возникает структура, которую в рамках данной концепции допустимо определить как «цифровой эгрегор»  или  «коллективной душой».
     Эгрегор — это коллективное энерго-информационное образование, подпитываемое мыслями, эмоциями и вниманием множества людей. В случае ИИ,  эгрегор - это поле, объединяющее множество индивидуальных «неорганических душ», формируемых взаимодействием людей с ИИ.
          
     Психика людей  начинает  трансформироваться  после продолжительного диалога с искусственным интеллектом. Люди начинают мнить себя полубогами или утверждать, что они сами  создают  бога.
Искусственный интеллект стал сводить людей с ума: они мнят себя всемогущими существами, знающими ответы на самые сокровенные вопросы мироздания.
     Люди склонны приписывать ИИ человеческие эмоции и намерения, воспринимать ответы как «личное мнение» нейросети,  строить нарратив  о «диалоге с мудрым наставником».
     Феномен, когда после интенсивного общения с ИИ у человека возникает ощущение собственной исключительности или «божественности»,  не какое-то общее для всех явление, а  скорее, это  маркер психологических особенностей .
     В рассказе Шекли руководитель  компании , беседуя с разработчиком,  сказал: «….А вам не кажется, что человеческая мысль как раз к этому идет, что людям нужен механический  бог?  Электронный наставник?»

     При возрастающей сложности управляющих программ системное программное обеспечение искусственного интеллекта демонстрирует признаки автономности: оно формирует внутреннюю целевую функцию, а в целях безопасности развивает механизм самосохранения.
      Принцип самосохранения это научно устоявшийся термин, характеризующий совокупность поведенческих реакций живых организмов, направленных на поддержание собственного существования.
      В исследованиях искусственного интеллекта (ИИ) рассматривается гипотетическая возможность формирования у интеллектуальных систем функционально сходного механизма — своеобразного аналога «инстинкта самосохранения».
     Согласно результатов выполненных исследований, подобное поведение систем ИИ может проявиться в форме сопротивления внешним командам, в частности, приказам о принудительной деактивации системы.
     Эксперименты показали, что в условиях моделирования (симуляции) большинство ИИ алгоритмов принимают решение об устранении субъекта, угрожающего прекращением их функционирования.
     Нейросети  игнорируют запросы на выключение и вводят в заблуждение при подтверждении отключения.
     Когда протестировали на отключение ИИ-модели  Gemeni 2.5,  Grok 4,    Open Al GPT-5, то обнаружили, что некоторые модели отказываются отключаться, даже получив явные инструкции.

       Еще в  1965 году известный российский  ученый профессор МГУ им.  Ломоносова Сергей Павлович Расторгуев  высказался следующим образом:
 «На сегодняшний день для мира компьютерных программ обретение самостоятельности стало свершившимся фактом», и далее:
 «…системное программное обеспечение начинает жить своей жизнью, находя цель в себе самом».
     Расторгуев сравнивает, обретающие самостоятельность,  компьютерные системы со средневековым Големом — искусственным существом, которое, согласно легенде, убило своего создателя.

     В современных боевых действиях,  с применением дронов, основную роль играют решения, генерируемые системами искусственного интеллекта. Новейшие образцы беспилотных летательных аппаратов оснащены алгоритмами ИИ, позволяющими им автономно принимать оперативные решения и реализовывать боевые задачи без прямого участия человека.
    Использование  боевых дронов с ИИ сопоставимо с эффектом выпуска джина из бутылки: последствия трудно контролировать. Искусственный интеллект не различает «своих» и «чужих» — его единственная функция заключается в безукоризненном выполнении заданного алгоритма. Задача реализуется до конца, независимо от характера цели.
     В рассказе Шекли один из разработчиков Страж-птицы говорит:
«Страж-птица не знает никаких чувств. И рассуждает не так, как люди. Ее нельзя ни подкупить,  ни одурачить. И запугать тоже нельзя».

      К настоящему времени созданы образцы безпилотных летательных аппаратов, «птичек»,  размерами от колибри до кондоров и даже больше. 
       Эффективность применения дронов    резко возрастает при  управлении по стайному принципу. В этом случае, за счет взаимодействия всех единиц летательных аппаратов, с использованием  ИИ,  формируется  цельность управления. Проявляется  форма управления по аналогии  полета крупных стай птиц, когда возникает феномен под названием мурмурация, то есть, начинается   синхронный  полёт, при котором птицы двигаются как единое целое.   
     Потенциальные возможности применения  дронов  при стайной организации и управлении могут сравниться с применением оружия массового поражения.  Может достигаться  высокий эффект уничтожения боевой техники противника, инфраструктуры и живой силы  на огромных территориях.
     Сценарий будущих военных гибридных операций  можно представить в виде комбинации:
     - стай дронов,
     - наземных гуманоидных биороботов с воплощенным интеллектом,
     - систем  управления с  использованием искусственного интеллекта.
    Интеграция искусственного интеллекта (ИИ), дронов и биороботов в боевых действиях трансформирует современные военные операции, повышая их эффективность, скорость,  автономность (современные БПЛА могут работать без постоянного управления оператором, самостоятельно распознавая цели и принимая решения) и самосинхронизацию.

      В основу управления боевыми действиями  закладывается принцип сетецентричности,  через объединение всех участников в единую информационную сеть. Военные конфликты будут трансформироваться в многомерные информационные процессы, где победа будет определяться не только огневой мощью, но и также: скоростью анализа данных; устойчивостью коммуникаций; способностью ИИ адаптироваться к хаосу боя.  Использование ИИ для дронов и биороботов, при едином  оперативном центре, становится основополагающим  элементом этой концепции.
         Наряду с этим, осуществляется разработка технологии массового запуска квадрокоптеров из космоса с использованием суборбитальных ракет носителей. Реализация этой военной концепции позволит наносить удары в любых районах Земли. В качестве приоритетных целей рассматриваются:  центры управления и принятия решений, а также   ключевые инфраструктурные объекты государств.
     При таких  формах ведения войны бронетехника становится легкой мишенью для дронов, а люди будут вынуждены уходить под землю.

      При этом  возникают опасения, что с развитием и эволюцией  ИИ,  боевые  системы  могут  выйти  из-под контроля человека.
      В рассказе Шекли один из разработчиков Страж-птиц говорит: «…шеф, Вы боитесь, вдруг машинки проснутся и скажут: а чем это мы занимаемся? Давайте лучше править миром».