Размышления. Миф об избыточности

Неформально, устойчивость Текста к искажениям, то есть его пригодность к восстановлению, называется избыточностью.


По рзелульаттам илссеовадний одонго анлигйсокго унвиертисета, не иеемт занчнеия, в кокам пряокде рсапожолены бкувы в солве. Галвоне, чотбы преавя и пслоендяя бквуы блыи на мсете.

Осатьлыне бкувы мгоут селдовтаь в плоонм бсепордяке, все рвано ткест чтаитсея без побрелм. Пичрионй эгото ялвятеся то, что мы не чиатем кдаужю бкуву по отдльенотси, а все солво цликеом.


Формальное же определение, которое можно найти в книжках, к сожалению, напрочь расходится и с тем, что сказано выше и со здравым смыслом.

Нередко бывает так, что ради математического формализма или сохранения энергетического баланса, в уравнения вводится некоторый параметр, виртуальная величина, математическая абстракция, такая как корень из минус единицы или нейтрино или центробежная сила, литературный персонаж, обретающий внезапно плоть, кровь и собственную жизнь - уже вне породивших его абстракций.

В Теории Информации таким виртуальным персонажем является "избыточность" сообщения, тщательно рассчитываемая по формулам, которые можно найти в каждом учебнике информатики.


Невжано в ккаом продяке иудт бкувы, а вжано в ккаом продяке иудт мсыли!


Поставим мысленный эксперимент по пересылке сообщения из пункта A в пункт B.

Пусть, например, Алиса пошлет Бобу поздравление ко Дню Святого Валентина.

Разумеется, поздравление написано на естественном языке с высокой избыточностью.

Из экономии, Алиса воспользовалась текстовым компрессором, ужавшим сообщение настолько, что "избыточностью" упакованного сообщения можно пренебречь.

Алиса отправляет сообщение Бобу по e-mail и тот, приняв его, использует тот же самый текстовый компрессор (разделяемая модель) для восстановления сообщения в оригинальном виде (на естественном языке).

Если у вас есть некоторый опыт общения по e-mail, то, вероятно, ничего в этом мысленном эксперименте не покажется вам необычным.

Между тем, случились две престранные вещи.

На передающей стороне - у Алисы.

Текст достаточного размера может быть сжат хорошим текстовым компрессором примерно вчетверо. "Избыточность" его, как мы ранее договорились, при этом исчезла. По каналу связи не было передано ничего, кроме служебной информации из заголовка электронного письма и лишенного избыточности текста.

Первый риторический вопрос:

Куда исчезла (подобно улыбке Чеширского Кота) избыточность сообщения на передающей стороне?

На приемной стороне - у Боба.

Используя (функционально) тот же самый текстовый компрессор, Боб распаковывает лишенное избыточности сообщение и восстанавливает оригинальный текст на естественном языке, тем самым, восстановив и его (немалую) "избыточность".

Второй риторический вопрос:

Откуда взялась у Боба избыточность - причем ровно в том количестве, в каком она ранее загадочно исчезла на передающей стороне - у Алисы?

Если отказаться от теорий Мирового Эфира, Дальнодействия и Передачи Мыслей на Расстояние, то единственным ответом может быть тот, что "избыточность" никуда не исчезала и ниоткуда не появлялась. Ее просто нет. "Избыточность" - это миф, "Мировой эфир" теории информации.