Ханна Арендт. Цифровая банальность зла

«Ложь зачастую гораздо правдоподобнее и привлекательнее для разума, чем реальность, поскольку лжец обладает огромным преимуществом, зная заранее, что аудитория хочет или ожидает услышать».

— Ханна Арендт

В мире огромное количество различных мобильных телефонов, мессенджеров, социальных сетей…, разработчики которых гарантируют своим пользователям «абсолютную информационную» безопасность их данных.

Однако, ежегодная преступная прибыль хакеров превышает десять  триллионов долларов в год. И продолжает увеличиваться по экспоненте. За последние 10 лет преступная прибыль хакеров возросла в 25 раз!  Очевидно, что разработчики этих мобильных телефонов, мессенджеров, социальных сетей…  обманывают своих пользователей, обещая им высокую безопасность своих информационных сетей в расчете получить супер прибыли.

Моя компания произвела более 200.000 аппаратных шифраторов, которые полностью соответствуют TEMPEST стандарту. Мои шифраторы спасли Россию от разрушения https://lenta.ru/articles/2023/04/07/avizoo/. И ни один мой шифратор не смогли вскрыть ни спецслужбы ни хакеры.

Моя философская идея создания шифраторов. Господь Бог создал человека и наградил его бесценным даром мыслить Свободно. Никто не знает мысли людей. Ни архангелы, ни ангелы и даже дьявол. Наши слова письменные и устные это производные наших мыслей. Когда я защищаю  Слова людей с помощью своих шифраторов таким образом, что никто не может их расшифровать в том числе правительства и хакеры то, по моему мнению, это будет угодно Господу Богу.

Хотя такой уровень информационной защиты противоречит законам, практически, всех стран мира.

Правительства хотят контролировать всю информацию своих граждан, объясняя борьбой с терроризмом, шпионами, обналичиванием   денег…  С развитием и массовым внедрением ИИ в мире ситуация с контролем над информацией граждан значительно обострится.

Напомню, знаменитое выражение китайского философа Конфуция две тысячи лет тому назад: « Когда слова теряют смысл люди попадают в тюрьму». Сейчас хакеры, используя ИИ создают программы DeepFake и Voice Phishing, с помощью которого они могут подделать не только текст, но и голос человека и его видео изображение. И ни одна техническая экспертиза не сможет обнаружить подделку. Цивилизация полностью вошла в цифровой мир, в котором чрезвычайно сложно точно выяснять фальсификацию информации.  Что более опасно. С помощью таких программ правительства могут бороться с инакомыслящими, создавая ложные их высказывания. И не только правительства. Вспомните знаменитый роман Александра Дюма «Граф Монте Кристо». Ложный донос привел к заключению в тюрьму безвинного человека.

Напомню, о знаменитом романе Джорджа Оруэлла «1984». Сегодня его часто называют пророческим, так как многие его элементы стали реальностью в эпоху больших данных и ИИ.

Основные параллели:
* Тотальная слежка: Оруэлловские «телеэкраны», которые невозможно выключить, сегодня воплощены в смартфонах, камерах с распознаванием лиц и умных колонках. Разница лишь в том, что в романе слежка была навязанной и явной, а сегодня она часто добровольна и скрыта за удобством сервисов.
* Манипуляция информацией: Концепция «министерства правды» перекликается с современными «фейковыми новостями» и изменением цифровых архивов в реальном времени.
* Двоемыслие и Новояз: Использование упрощенного языка и подмена понятий в политическом дискурсе напоминают оруэлловские методы ограничения свободы мысли через ограничение лексикона.
* Алгоритмический контроль: Если у Оруэлла за порядком следила «Полиция мыслей», то в информационный век алгоритмы соцсетей формируют «информационные пузыри», определяя, что человек должен видеть и о чем думать. 

В мире Оруэлла контроль был исключительно государственным. В современном мире данные о поведении и мыслях людей собирают и монетизируют прежде всего частные корпорации. 

«Информационный концлагерь» (также «цифровой концлагерь») — это концепция современного общества, в котором технологии используются для тотального контроля, слежки и ограничения свобод человека, подобно режиму в романе «1984». 

В отличие от классического концлагеря, здесь изоляция и принуждение осуществляются не колючей проволокой, а цифровыми методами: сбором данных, алгоритмическим надзором и социальными рейтингами. 

Основные механизмы контроля
* Биометрическая слежка: Системы распознавания лиц и голоса позволяют государству и корпорациям идентифицировать любого человека в реальном времени, лишая его права на анонимность.
* Цифровой след: Каждое действие (покупка, поисковый запрос, лайк, перемещение) фиксируется. Это создает «прозрачность» личности, где любое отклонение от нормы может быть наказано.
* Информационная фильтрация: Алгоритмы соцсетей формируют «пузыри фильтров», ограничивая доступ к альтернативным точкам зрения, что является современной формой «Новояза» и контроля над мыслями.
* Социальный кредит: Система поощрений и наказаний на основе цифрового поведения, которая может ограничивать доступ к базовым услугам (путешествия, образование, кредиты) за «неправильные» действия. 

На создание ИИ и глобальных баз данных тратятся триллионы долларов. Плюс создание глобальных   мировых космических систем  связи как Starlink. В конечном итоге это может привести к тому, что большинство мировой информации окажется в руках одного человека или группы людей. А это совсем недалеко от «Информационного Гитлера».

Какую несут ответственность разработчики этих информационных систем перед миром?

Илон Маск утверждает, что самая большая опасность, которая сейчас существует в сфере искусственного интеллекта, заключается не в скорости развития, а в направлении его освоения.

«Крайне важно иметь искусственный интеллект, стремящийся к истине».

Вместо этого он предупреждает, что модели программируются с идеологическими фильтрами на уровне кода. Их учат отдавать приоритет определенным нарративам перед объективной реальностью.

Это подрывает фундаментальное обещание интеллекта. Если система корректирует свои ответы в соответствии с общественными нормами, а не описывает мир таким, какой он есть, она перестаёт быть полезной для чего-либо действительно важного.

Мы создаём самые мощные инструменты принятия решений в истории. Если они не могут говорить правду, это не интеллект. Это просто автоматизированная предвзятость в масштабах всей системы.

«Безопасный» ИИ, который лжет, чтобы избежать скандала, не является безопасным. Это самый опасный инструмент, который мы можем создать.

В связи с эти хотел более подробно рассмотреть философию Ханны Аренд, которая поднимает важнейшие в мире философские проблемы.

Для Ханны Арендт интуиция не является мистическим озарением; она тесно связана с ее концепцией способности суждения и тем, что она называла «шестым чувством» — здравым смыслом (sensus communis). 


Вот основные аспекты ее «интуитивного» подхода к мышлению:

1. Здравый смысл как «шестое чувство»
Арендт считала, что пять физических чувств дают нам разрозненные ощущения, но именно здравый смысл (common sense) объединяет их в единую реальность, разделяемую с другими людьми.

Эта политическая «интуиция» позволяет нам ориентироваться в мире не через абстрактные формулы, а через прямое восприятие того, что происходит «здесь и сейчас». 

2. Мышление «без перил» (Thinking without a banister) 
Арендт прославилась своей интуитивной решимостью мыслить без опоры на традиционные философские категории или догмы.

Она называла это «мышлением без перил» — когда у человека нет готовых истин (традиций, законов), за которые можно держаться, и он вынужден полагаться на собственную интуицию  различать добро и зло в конкретной ситуации. 

3. Воображение и суждение
Интуиция Арендт реализуется через воображение. Чтобы судить о чем-то справедливо, нужно обладать «расширенным образом мыслей» (вдохновленным Кантом) — умением вообразить мир с точки зрения другого человека. 

* Пример: Её знаменитая интуиция о «банальности зла» возникла не из теории, а из непосредственного наблюдения за Адольфом Эйхманом. Она «увидела», что он не монстр, а просто человек, не способный мыслить.  В 1961 году журналист и политический философ Ханна Арендт отправилась в Израиль, чтобы лично присутствовать на процессе Адольфа Эйхмана, одного из главных организаторов холокоста. Ее судебные репортажи для журнала New Yorker превратились в книгу «Эйхман в Иерусалиме: доклад о банальности зла».

Концепция «банальности зла» родилась из наблюдений Ханны Арендт за судом над Адольфом Эйхманом в 1961 году. Вместо «радикального злодея» она увидела заурядного бюрократа. 

Вот основные тезисы этой идеи:
* Зло без демонизма: Ужасающие преступления могут совершаться не из-за врожденной жестокости или идеологического фанатизма, а из-за полной безучастности и отсутствия мысли. Эйхман не был «монстром»; он был обычным человеком, который просто «делал свою работу».
* Неспособность мыслить: Для Арендт главной чертой «банального» преступника является неспособность посмотреть на ситуацию глазами другого человека. Зло процветает там, где люди перестают критически оценивать свои действия и слепо следуют приказам, нормам или карьерным амбициям.
* Бюрократизация: В тоталитарных системах ответственность размывается. Когда убийство превращается в административную задачу (логистика поездов, составление списков), оно теряет свой моральный вес для исполнителя, становясь повседневной рутиной — банальностью.
* «Поверхностность» зла: Арендт утверждала, что только добро может быть глубоким (радикальным). Зло же не имеет глубины; оно подобно грибку, который распространяется по поверхности, потому что человек просто не задумывается о последствиях. 

Идея о «зле нажатием кнопки» — это современное воплощение «банальности зла» Арендт. Сегодня философы называют это «цифровой банальностью зла» или «автоматизацией зла». 

* Дистанцирование: Технологии создают барьер между действием и его последствиями. Когда человек нажимает кнопку (например, для запуска дрона или блокировки тысяч аккаунтов), он не видит страданий жертв. Это усиливает «неспособность воображать», о которой писала Арендт: исполнитель видит лишь интерфейс, а не человеческую трагедию.
* «Я просто пишу код»: Современные специалисты (программисты, инженеры) могут создавать инструменты для слежки или угнетения, оправдывая себя тем, что они лишь решают технические задачи. Ответственность размывается в сложных алгоритмах и командной работе — никто не принимает окончательного морального решения, все просто «выполняют функцию».
* Алгоритмическое бездумие: Мы часто делегируем суждения алгоритмам, которые Арендт назвала бы «Эйхманами в коде» — они не способны на моральное мышление и лишь следуют заданным правилам. Зло становится результатом автоматического процесса, который никто не ставит под сомнение.
* Нормализация зла: Через социальные сети и цифровые платформы жестокость становится рутиной. Когда ненависть или вред тиражируются миллионами «лайков» и «кликов», они теряют свою остроту и воспринимаются как нечто само собой разумеющееся. 

Арендт считала, что единственное противоядие — это личное мужество мыслить, то есть останавливаться и задавать вопрос: «Что я на самом деле делаю?», даже если это всего лишь клик мышкой. 

Вопрос о юридической ответственности разработчика программного обеспечения  — это одна из самых острых «серых зон» в современном праве. Короткий ответ: на данный момент прямой ответственности почти нет.

Проблема «Двойного назначения»

Большинство программных инструментов (алгоритмы сжатия данных, системы распознавания лиц, нейросети) являются инструментами двойного назначения.

* Логика защиты: Разработчик скажет: «Я создал нож, чтобы резать хлеб. Если кто-то использовал нож, чтобы совершить преступление, виноват тот, кто использовал нож».  Однако, в ближайшее время все кардинально изменится, когда массово начнут  внедрять ИИ для управления физическими объектами : дроны, роботы, IoT. Например,  гуманоидные роботы   типа Tesla Optimus  Илона Маска. Робот сам станет принимать решение как использовать нож: резать хлеб или убивать людей. И это зависит от программистов, которые пишут программы ИИ для робота.
* Юридический статус: В большинстве стран разработчик защищен, если он не создавал инструмент специально для совершения преступления (как, например, программы для взлома или вирусы-шифровальщики). Однако, если программист, работающий на государство создает  кибер оружие - самое мощное оружие XXI века он полностью юридически защищен от юридического преследования .

И завершаю это небольшое эссе гениальными словами А.С. Пушкина: « Без политической свободы жить очень можно; без семейственной неприкосновенности (inviolabilit; de la famille) невозможно: каторга не в пример лучше» написана А.С. Пушкиным в письме к жене, Наталье Николаевне, от 3 июня 1834 года. Эти слова подчеркивают приоритет защиты личной информации каждого человека на самом высшем уровне в мире.