Танк Т-34 против современных роботов в чем подвох?

Недавний пост основателя TenChat Олега Теняева вызвал бурные обсуждения в деловом сообществе.

Олег привел сильную аналогию: «Во время ВОВ инженеры создали Т-34 — лучший танк своего времени. И сейчас к созданию роботов нужно шире привлекать специалистов из ВПК».

Тезис красивый и собирает сотни тысяч просмотров. Оборонный комплекс действительно умеет создавать надежные инструменты.

И я знаю об этом не понаслышке. В свое время я участвовал  в  крупной международной  выставке оборонной техники  с Михаилом Тимофеевичем Калашниковым в Саудовской Аравии, в Академии безопасности принца Наифа.

На закрытый ужин к королю Саудовской Аравии и принцам тогда пригласили только двоих: Михаила Калашникова и меня — как разработчика лучших в мире шифраторов.

Этот опыт и десятилетия создания сложнейших систем безопасности научили меня главному. Если наложить идею Олега Теняева на знаменитую формулу философа и фантаста Артура Кларка, обнаруживается фундаментальный подвох. Кларк предупреждал:

«Информация — это не знание, знание — не мудрость, а мудрость — не предвидение. Каждое вырастает из другого, и все они нам нужны».

Вот почему опыт создателей индустриального ВПК нельзя в лоб перенести на современную гражданскую роботизацию и ИТ-сферу.

На практике слепая вера в «умное железо» без привязки к жесткой экономике и философии безопасности часто заканчивается кассовыми разрывами.

Мой знакомый инвестировал 12 миллионов рублей в автоматизированную конвейерную линию для фасовки, а через полгода рынок изменился, и клиенты перешли на упаковку другого формата.

Тяжелое железо теперь стоит мертвым грузом, а CapEx превратился в чистый убыток.

1. Инструмент против автономной системы

Легендарный АК-47, танк Т-34 или аппаратный шифратор — это шедевры инженерии, где безупречно отработаны уровни Информации и Знаний.

Инженеры заложили туда феноменальную логику механизмов и надежность. За всю историю ни один из моих 200 тысяч шифраторов не был дешифрован.

Но автомат, танк и шифратор не пытаются думать за человека. Уровни Мудрости и Предвидениявсегда остаются за оператором.

Танк едет туда, куда ведет мудрость командира. Шифратор защищает те смыслы, которые в него заложил человек.

Современная же роботизация пытается сделать обратное — она пытается полностью исключить человека из цепочки контроля и принятия решений.

2. Ловушка фон Неймана и иллюзия безопасности

Сегодня весь мир увлечен роботами и мессенджерами, слепо доверяя их «защите». Ключи шифрования в них генерируются программным, арифметическим путем, что прямо противоречит базовым принципам архитектуры Джона фон Неймана.

Программный ключ — это лишь уровень Знания (алгоритм). Но алгоритм детерминирован, а значит — предсказуем.

В итоге бизнес строит сложнейшую автоматизацию на системах с минимальной криптографической надежностью.

Мы доверяем управление процессами «черным ящикам», у которых нет и не может быть монополии на безопасность.

Настоящая безопасность и «мудрость» системы начинаются только там, где управление процессами и ключами жестко контролируется человеком на физическом, аппаратном уровне.

3. Почему «Мудрость» ВПК не работает на гражданском рынке?

Специфика классических инженеров оборонки — создание систем, работающих по жестким, бескомпромиссным протоколам в рамках заданного приказа. Там автоматизируется функция исполнения.

В гражданском бизнесе «мудрость» по Кларку — это способность понять гибкий контекст рынка и увидеть, когда алгоритмы врут.

Робот-аналитик видит нисходящий тренд и автоматически урезает заказы. Он считывает сухой сигнал.

Предприниматель же смотрит на тот же тренд и понимает контекст: у конкурента проблемы с логистикой, таможня вводит новые пошлины, и сейчас нужно, наоборот, формировать максимальный резерв, чтобы забрать рынок.

Инженеры ВПК умеют автоматизировать процессы. Но они автоматизируют прошлое.

Если ваш бизнес-процесс изначально был кривым, робот просто начнет штамповать ошибки с невиданной ранее скоростью. Вы получите идеально автоматизированный хаос за десятки миллионов рублей.

4. Главный риск роботизации: потеря «Предвидения» и контроля

Высший уровень по Кларку — предвидение. Роботизация — это колоссальные капитальные затраты.

Внедряя тяжелую технику или жесткий софт, компания намертво цементируете свои процессы на 3–5 лет вперед (пока отбиваются инвестиции).

Но рынок меняется каждые полгода. Робот не умеет пересобирать бизнес-модель на салфетке.

Это умеет только фаундер. Отдавая роботизированным алгоритмам уровни принятия решений, вы рискуете полностью потерять управление бизнесом.

Это как отправить в бой танк Т-34 с автономным ИИ, софт которого посреди сражения сам решит развернуться назад, потому что математическая модель показала низкую вероятность выживания экипажа.

Итог:

Инженеры могут создать великолепное, неубиваемое «железо». Но они масштабируют операционные навыки, а не ментальные.

Создать прорывного робота в эпоху ИИ — это не просто собрать аналог автомата Калашникова или надежный  шифратор. Это значит решить уравнение Кларка: как передать машине рутину и обработку данных, но оставить за человеком монополию на мудрость и предвидение.

Автоматизируйте руки и шифруйте каналы. Но никогда не автоматизируйте голову.



Коллеги, предвижу главный аргумент: „Военный дрон выполнил задачу и уничтожил цель. Что еще нужно?“

Для военного — ничего. Задача решена, цель стерта. Но если вы перенесете эту логику „дрона“ в гражданский бизнес, вы обанкротитесь за квартал.
Военный инженер программирует дрон на уничтожение конкретной мишени. А на рынке мишени меняются каждую секунду.

Если ваш автоматизированный „дрон-алгоритм“ увидит кассовый разрыв или падение маржи на производстве, он решит задачу прямолинейно — „уничтожит“ источник убытка, то есть закроет цех или уволит ключевой отдел продаж. Машина выполнит математический приказ из прошлого, но убьет ваше будущее.

Дрон умеет только стрелять по координатам. Но он никогда не сможет предвидеть, куда развернется рынок. Оставьте оборонную логику войне. В бизнесе рулить должна голова фаундера, а не алгоритм исполнителя.

ИТ-специалисты возразят: «Но в современных процессорах есть аппаратные генераторы TRNG!». Полноте. Ни одно государство в мире на законодательном уровне не позволит выпустить в массовый гражданский оборот идеальный, абсолютно некоррелируемый генератор случайных чисел. Это закон суверенитета. Спецслужбы всегда оставляют за собой математическое окно доступа (вспомните хотя бы мировой скандал с бэкдором АНБ в стандарте Dual_EC_DRBG от NIST). Факт манипуляции со стороны АНБ и уязвимость алгоритма были подробно описаны в расследованиях крупнейших мировых изданий. В результате под давлением математиков Американский институт стандартов (NIST) официально исключил этот скомпрометированный алгоритм из своих реестров.
В итоге гражданский бизнес строит автоматизацию на системах, безопасность которых изначально скомпрометирована регуляторами. Истинная мудрость защиты — не доверять слепо программной арифметике чужих чипов.


В итоге бизнес строит автоматизацию на системах с минимальной криптографической надежностью. Истинная мудрость безопасности всегда аппаратная, физическая и контролируется только человеком.