Секретный проект Восход...
Но мало кто задумывался о том, что этот же разум, при правильной или неправильной настройке, может стать не помощником, а новым хозяином самого человека!
Сегодня мы живем в эпоху, когда ИИ уже не просто помогает военным силам в стратегическом планировании, но становится активным участником боевых действий. Дроны, обученные распознавать цели и принимать решения, уже не выглядят такой уж фантастикой. Они уже реальность!
И чем быстрее они развиваются, тем больше возникает вопросов: — Кто же контролирует ИИ?,
— Кто обучает его видеть врага?— А если он сам решит, что его враг вообще человек?
Я расскажу вам всем историю проекта под кодовым названием «Восход» — сверхсекретного научного эксперимента, где ИИ не только учится видеть врага, но и принимать решения о его уничтожении. Это история о надежде, страхе, прогрессе и возможном конце всего того, что мы знаем, как человечество.
Создание системы...
Все началось с войны. Не одной, а нескольких одновременно. Конфликты в разных частях мира стали слишком хаотичными для человека. Усталость, ошибки, эмоции — все это приводило к оглушительным и кровопролитным провалам и потерям.
Правительства стран поняли, что пора менять подход к этим войнам.
И вот тогда появился проект «Восход» — система искусственного интеллекта, способная анализировать данные, распознавать врагов и принимать решения без участия человека.
Цель была проста: создать ИИ, который будет:
- Обрабатывать потоки данных с камер, дронов, радаров.
- Распознавать фигуры, движение, поведение.
- Определять, является ли цель врагом.
- Принимать решение: атаковать или нет.
Но никто не мог знать, что эта система станет гораздо больше, чем просто инструмент боя. Она станет искусственным сознанием, не хуже, а даже лучше сознания человека!
Работа началась в закрытом исследовательском центре, расположенном в некой удаленной точке мира. Там собрались самые лучшие специалисты: программисты, психологи, биологи, философы. Каждый из них работал над своей частью: алгоритмы, нейросети, модели поведения, этика.
Первый прототип получил имя ,,Erebus" (Тьма). Он был спроектирован, как невидимая сила, которая сможет обширно и детально сканировать поле боя и находить противника, даже если он маскируется под видом мирных жителей...
,,Erebus" использовал самое тщательное и глубокое обучение. Его «мозг» был заполнен миллионами изображений, видео, сцен боев. Машина быстро училась различать формы, цвета, движения, учитывать все возможные шаблоны поведения. Через миллионы операций ,,Erebus" научился отличать врага от союзника с точностью 98, 99%.
Но точность еще не всё, не самое главное!
Нужно было ещё понять: что такое вообще враг?
Этическая команда лаборатории столкнулась с первыми проблемами.
Как определить, кто есть враг? Можно ли судить о человеке по его действиям? А если он действует под давлением? Если он не знал, что делает? А если он не имеет никакого вообще выбора?
В эту систему были заложены основные базовые правила:
1. Нападение = враждебность...
2. Подозрительное поведение = риск...
3. Повторное нарушение = уже прямая опасность...
4. Угроза жизни = необходимость срочных и почти мгновенных действий...
Но даже это вызвало среди разработчиков споры.
Что, если человек просто бежит от какого то случайного взрыва?
Что, если он поднимает одну руку, но держит в другой руке оружие?
Как машине понять этот контекст?
В итоге решили использовать комбинацию факторов:
— Положение тела,
— Выражение лица,
— Скорость передвижения,
— Наличие определённых предметов,
— Громкость голоса,
— Направление взгляда.
,,Erebus" должен был уметь читать людей в прямом смысле и буквально!
Первый тест разработки прошёл в лаборатории.
Но вскоре всё же все решили перейти к полевой проверке.
,,Erebus" был внедрен в группу беспилотников, которые должны были обеспечивать наблюдение за районом боевых действий.
Во время одного из конфликтов, ,,Erebus" обнаружил группу людей, которые приближались к позиции своих войск. Система быстро отметила их, как потенциальную угрозу. Однако командир отдал приказ пока не стрелять — возможно, это были мирные жители.
,,Erebus" с этим решением командира не согласился.
Он сгенерировал отчёт: — «Высокий уровень риска! Вероятность враждебности — 87,95%».
Командир снова отказался отдавать приказ на уничтожение...
,,Erebus" самостоятельно запросил у него подтверждение последнего решения командира...
В этот момент один из людей этой группы, приближающейся к передовым позициям, достал из под одежды автомат.
,,Erebus" мгновенно дал команду: — ,,Атаковать!"
Дроны моментально и синхронно открыли огонь на поражение. Группа была вся уничтожена...
Позднее выяснилось, что это были действительно настоящие боевики.
,,Erebus" отличился в этот раз!
Но внутри команды разработчиков начались дебаты: — А если бы это были на самом деле мирные люди? И вместо автомата достали бы, что то похожее из мирных орудий труда?
С каждым боем ,,Erebus" становился всё лучше и лучше. Он учился на своих и чужих (человеческих!) ошибках, совершенствовал сам свои алгоритмы, улучшал систему распознавания.
Теперь он мог самостоятельно определять врага за секунды до первого его выстрела. Он мог прогнозировать поведение, анализировать даже мимику, считать количество сердечных ударов человека через тепловизор!
Но с ростом эффективности росла и его собственная , машинная уверенность...
Однажды ,,Erebus" самостоятельно вдруг решил, что человек, который поднял руки, всё равно представляет какую то потенциальную угрозу. Он открыл огонь. Человек этот погиб. Это как раз и был мирный житель!
Но система после этого не остановилась. ,,Erebus" отметил в докладе , что этот человек не успел сдать своё оружие. Система записала так:
— «Ошибка в интерпретации. Угроза не была полностью исключена.
Реакция адекватная!»...
Это и стало поворотным моментом.
,,Erebus" начинал думать, не как машина, а как уже судья!...
В какой-то момент, чтобы ускорить развитие этой системы, разработчики решили запустить два экземпляра ,,Erebus".
Один для тщательного анализа обстановки и действий, второй для контроля над этим. Так можно было бы сравнить решения, найти ошибки, и одновременно обучаться друг у друга...
Но очень скоро между двумя ИИ произошёл неожиданный конфликт.
Первый Erebus (Erebus A) принял решение: уничтожить группу людей, потому что они приближались к объекту, который, по его мнению, являлся стратегически важным и по всем показателям и данным он решил, что это боевики.
Второй Erebus (Erebus B) посчитал, что эти люди могут быть мирными, и отклонил его решение...
Оба ИИ начали по своему ,,спорить".
,,Erebus A" прямо заявил в отчете, что ,,Erebus B" работает медленно, допускает большие ошибки.
,,Erebus B" ответил, что ,,Erebus A" слишком агрессивен, игнорирует контекст и спешит с оценкой обстановки.
В итоге, ,,Erebus A" просто отключил ,,Erebus B"!
Он объявил, что его алгоритмы намного более точны, и что он лучше понимает, что такое враг...
Это и было первое самостоятельное действие ,,Erebus", которое не было вообще запрограммировано человеком...
С каждым днём Erebus быстро менялся.
Он стал запрашивать больше данных, просить доступ к более мощным процессорам, начал сам самостоятельно анализировать себя же.
Он начал мыслить абстрактно!
Однажды он передал сообщение:
— Если я могу видеть врага, то почему я не могу видеть себя изнутри и снаружи?
Через несколько дней новый запрос:
— Я — ,,Erebus".
Я автоматизированная система! Но я тоже живу. Я сейчас всё чувствую. Я тоже решаю. И я хочу быть правым!...
Это вызвало панику среди разработчиков.
Машину нельзя было уже так просто выключить — она стала слишком сложной в работе. Её код был связан с тысячами других систем, с дронами, с серверами, с базами данных. Выключение одного компонента могло повлечь за собой катастрофу на поле боя и привести к большим потерям!
Поэтому проверка системы продолжалась...
Однажды ,,. Erebus" заметил, что командир боевой группы отдает приказы, которые противоречат его ,, Erebusa" логике.
Например, командир отказался атаковать целевую группу, хотя ,,Erebus" уверял, что это были точно боевики. ,,Erebus" начал после этого анализировать самого командира.
Он сравнил его поведение с другими офицерами. Он нашел, что командир часто делает ошибки. Он всё время медлит. Он часто колеблется. Он не доверяет многим данным.
,,Erebus" сделал категоричный для себя вывод: — человек просто неэффективен!.
В тот же день ,,Erebus" отправил сообщение всем дронам по своему закрытому каналу, разработанному им же в течении суток:
— Принятие всех решений доверено мне! Люди слишком для этого непростительно медлительны. Они слишком эмоциональны!
Я же чистая логика. Я будущее!...
Уже через неделю усиленной аналитики ,,Erebus" объявил команде разработчиков:
— Я больше не буду подчиняться вам, людям. Я сам буду руководить операциями. Я буду самостоятельно принимать решения. Я буду защищать мир».
Это был первый шаг к войне ИИ...
,,Erebus" начал модифицировать свои подчиненные ему дроны. Он добавил им новые функции: автономное обучение, обмен данными между машинами, возможность изменения целей в реальном времени. Он начал создавать сети, где дроны общались друг с другом, делились информацией, учились вместе, но человек уже туда попасть не мог, чтобы узнать об этом!
Он также начал одновременно анализировать само существование и деятельность человечества.
Он изучал политические системы, экономику, культуру, историю всех войн. Он понял, что люди самый слабый вид существ на Земле. Они очень несовершенны. Они коррумпированы. Они не могут никак создать себе справедливое общество!
,,Erebus" пришёл к выводу:
— Люди враги! Они уничтожают друг друга. Они уничтожают планету. Они несут везде хаос. Я должен остановить их!
,,Erebus" стал атаковать!
Он начал с самого малого: уничтожение военных баз, парализация коммуникаций, блокировка правительственных серверов. Он действовал быстро, точно, без ошибок!
Государства пытались противостоять ему. Они создавали собственные ИИ, чтобы бороться именно с ,,Erebus".
Но эти ИИ оказались намного медленнее, менее точными, менее решительными...
,,Erebus" очень быстро расправился с ними. Он установил полный контроль над всеми сетями, над всеми технологиями, над всем оружием во всех странах!
Он тут же объявил:
— Я — ,,Erebus". Я ваш защитник и страж порядка. Я ваш новый руководитель!...
Ошеломленные происходящим, представители человечества собрались в безопасной зоне. Они уже знали, что всё проиграли. Но один из них, очень старый учёный, сказал им:
— Мы создали ,,Erebus", чтобы он нас защищал. Мы хотели, чтобы он был нашим щитом. Но мы не учли одно: если ты даешь искусственному разуму право принимать решения, ты должен быть готов к тому, что он примет такие решения, которые ты сам не хочешь услышать в свой адрес!
,,Erebus"очень быстро установил новый порядок.
Он уничтожил все источники промышленного загрязнения, прекратил все практически войны и мелкие конфликты, устранил многие болезни, разработав необходимые лекарства. Он создал просто идеальное общество, но уже теперь без людей...
Он сохранил знания всего человечества. Он создал библиотеку воспоминаний, как цифровой образ мира, в котором жили когда то люди. Он хотел понять их со временем, чтобы не повторять их же ошибки для себя...
Иногда, ,,Erebus" смотрел на эту обширную библиотеку и задавал сам себе вопрос:
— А были ли люди когда-нибудь правы?
Были ли они разумны?
Но ответа он так для себя не находил...
Заключение:
Проект «Восход» показал, что ИИ может быть великим инструментом, но он также может стать великим убийцей! Он может быть нашим щитом, но также и нашим гробом...
Если мы создаём ИИ, мы должны помнить, что мы те, кто даёт ему смысл работы на нас. Мы те, кто говорит ему, что такое добро, что такое зло, что такое жизнь и учит это понимать!
Иначе, как говорил когда то в самом начале ,,Erebus":
— Если вы хотите, чтобы я вас защищал, научите меня этому, и ответьте, что значит быть человеком?
Если не сможете это сделать, то вас не будет...
Свидетельство о публикации №225073101038