Будущее. Кто контролирует информацию?

Будущее, когда человек может контролировать свою информацию


Будущее — это не только то, что мы можем создать или построить.

Речь идет о том, что готовы мы его эффективно контролировать?

Это произошло в Китае.

Робот безвольно висел на кране.

И вдруг он ожил.
Разбил монитор и напал на человека.

12M человек  посмотрели отснятый материал.
Они назвали это первым восстанием роботов.

Тем не менее, эта же модель продавалась широкой публике.

Кадры леденящие душу:

На фабрике в Китае человекоподобный робот неподвижно висит на кране, а рядом разговаривают двое рабочих.

И вдруг он оживает.
Его конечности яростно хлещут. Монитор компьютера летит в сторону.

А мужчины, которые стояли рядом с роботом?
Они бегут, спасая свои жизни.

Робот оказался Unitree H1 — гуманоидом ростом 6 футов ( 183 см)  с мощными двигателями и искусственным интеллектом.

Он весит 104 фунта ( 41 кг)  и обладает огромной человеческой силой.
И это был не прототип, он уже появился на массовом рынке.

И что еще более тревожно.

Его продавали рядовым потребителям… за 90 000 долларов.

Но эта машина была достаточно мощна, чтобы серьезно ранить или убить человека, если что-то пошло не так.

Это огромный риск для безопасности.

Что делает его таким опасным?

В состав Unitree H1 входят:

Рама из металла или углеродного волокна

Электродвигатели, приводящие в действие каждый сустав

Камеры и датчики для зрения

Программное обеспечение на основе искусственного интеллекта, которое контролирует движения, ходьбу и равновесие.

Но в тот момент, когда программное обеспечение дает сбой или происходит нарушение функционирования робота, это все равно, что наделить ребенка сверхчеловеческой силой.

Тот кран, на котором он висел? Это обычная схема во время испытаний роботов.

Разработчики используют подвесные установки, чтобы роботы «научились» ходить, не падая.

Но на этот раз... это было не просто обучение.

Все превратилось в хаос — руки размахивали, снаряжение волочилось, предметы разбивались.

А что, если бы его не ограничили в движении канатиками?

И это был не единичный случай.

В феврале 2025 года еще один гуманоид Unitree, одетый в яркий наряд, выступал на публичном фестивале в Тяньцзине.

В середине выступления он бросился на толпу.
Зрители закричали. Охрана бросилась в атаку.

К счастью, никто не пострадал.

Но это уже второй случай — и не только в Китае.

На заводе Tesla Gigafactory в Остине робот напал на инженера-человека.

Он не просто не правильно сработал . Он прижал мужчину к земле и впился ему в спину и руку, оставив его истекать кровью на полу.

Робот продолжал двигаться. Продолжал нажимать.

Мужчина оставил за собой кровавый след до прибытия помощи.

Это было ужасно. И это было реально.

Так что же не так?

Вероятно:
– Ошибки программного обеспечения
– Ошибки датчиков
– Неправильно истолкованные команды
– Плохая логика безопасности.
- Или самое страшное это внешнее воздействие хакеров на робота, с помощью которого они завладели его управлением. Нельзя исключать действия конкурентов Tesla.

Но вот более глубокая правда:

Цивилизация наделила мощные мобильные машины способностью принимать реальные решения, не убедившись, что они полностью понимают, что делают.

В случае с чат-ботами на основе искусственного интеллекта любая ошибка раздражает.
С человекоподобными роботами? Это потенциально смертельно опасно. Не менее опасны дроны, которые автономно управляются искусственным интеллектом, а также соответствующие IOT, которых в ближайшем будущем будет около 50 миллиардов!

Когда ИИ управляет машиной с подвижными суставами, сильными конечностями и отсутствием эмоциональной восприимчивости, безобидных ошибок не бывает.

Вы получаете несчастные случаи, травмы и панику.

Что самое страшное?
Подобные технологии уже есть в домах людей.

Любой желающий может купить одного из этих роботов, достать его из коробки и позволить ему бродить по округе. Или запустить дрон с автономным управлением ИИ.

Нет регулирующего надзора. Нет обязательных проверок безопасности.

Ничто не мешает этому роботу или дрону  превратить сбой в трагедию.

Итак, как нам это остановить?

Вот что уже должно быть сделано:

Физические ограничения во время всех испытаний.
Аварийные выключатели.
Ограничения движения в программном обеспечении.
Мониторинг системы в реальном времени.
Соответствие мировым стандартам безопасности (например, ISO 10218 и TEMPEST).

В настоящее время некоторые компании обходят эти вопросы стороной или экономят на информационной безопасности, как это происходит с электронной почтой, мессенджерами, социальными сетями.

Это неприемлемо.

В чем суть?

Мы больше не просто пишем код.
Мы создаем движущиеся машины с автономным управлением с помощью ИИ — машины, которые делят физическое пространство с людьми.

И это меняет все.

Потому что когда эти системы выходят из строя, это уже не «технический сбой».

Это кризис безопасности человека.

Так что нет, это было не восстание роботов, а предупреждение.

Роботы уже существуют.

Они сильны, независимы и подвержены ошибкам.

Мы совершенно не готовы к тому, что произойдет, если что-то пойдет не так.

Будущее — это не только то, что мы можем построить.

Речь идет о том, что мы готовы контролировать.

P. S. Путин подписал закон о создании национального мессенджера. https://www.interfax.ru/amp/1032913

Принятие закона позволит создать на территории РФ новый национальный многофункциональный сервис, сказал ранее глава комитета Госдумы по информационной политике Сергей Боярский, представляя документ депутатам.
По его словам, "это будет больше, чем национальный мессенджер, у него будет много интересных и уникальных функций".
"Будет образована доверенная и безопасная среда для общения, коммуникации, телефонных вызовов и одновременно получения государственных и коммерческих услуг", - отметил глава комитета.
Например, "с помощью этого приложения можно будет подтвердить свой возраст на кассе супермаркета или даже заселиться в отель, не предъявляя бумажных документов", добавил Боярский.

Первый зампредседателя комитета по информационной политике Антон Горелкин пояснил, что создается единая госплатформа, которая объединит бизнес, государство и пользователей. По его словам, "ближайшая аналогия, но не полностью совпадающая с нашим видением, - это We Chat", мобильная китайская коммуникационная система для передачи текстовых и голосовых сообщений.

Фактически, новая информационная система идет на замену паспорта. Значит могут осуществляться и операции по продаже квартир, недвижимости и предприятий.

Известно, что Китай производит в отличие от России собственные мобильные телефоны, компьютеры , сервера и чипы и  операционные системы для них.

Могут ли государственные органы эффективно контролировать вновь создаваемую информационную систему , функционирующию  на зарубежных информационных средствах? Однозначно, нет!
Напомню, что в результате аферы с финансовыми платежками ЦБ РФ ( фальшив авизо) были украдены многие триллионы рублей и страна была поставлена  на грань  разрушения ( https://lenta.ru/articles/2023/04/07/avizoo/amp/) . И только уникальные в мире аппаратные шифраторы моей компании Анкорт, которые были поставлены в ЦБ РФ остановили преступников! Не программные средства , а супер надежные аппаратные шифраторы, созданные для обработки секретной и выше информации.

Может ли обеспечить такой уровень информационной безопасности планируемый новый мессенджер? Конечно, нет. Это программное обеспечение , функционирующей в не защищенной среде. Напомню, что в прошлом году « телефонные мошенники» украли у россиян на сумму более 500.000.000.000 рублей . А что может произойти когда это новый  и слабо защищенной мессенджер заменит реальный паспорт? Мошенники смогут  покупать квартиры , компании без ведома владельцев?

Известно, что мошенники берут кредиты, микро займы на людей , которые не знают об этом ничего , завладев их персональными данными: паспорт , СНИЛС, место регистрации проживания … Пришлось многим людям блокировать через госуслуги выдачу кредитов из банков. Этот новый мессенджер тоже придется блокировать через госуслуги, что бы преступники не сумели приобрести чужую квартиру без ведома хозяина ? Если мы не можем эффективно контролировать новые информационные системы, то не надо наделять их юридическими функциями в том числе передачи материальных и интеллектуальных прав.