Информационный Завет. Основы. Футурологическое исследование

С первых строк статьи автор призвал очистить понятие информации от психологического содержания. Информация – физическая величина и точка.

Хартли указывал, что во время коммуникации каждый последующий выбор символа в цепочке делает сообщение более точным. Например, в предложении «Apples are red» первое слово исключает из нашего представления какие-либо другие фрукты («говорю о яблоках»), второе – заостряет внимание на свойствах данной категории фруктов («говорю о свойствах яблок»), третье – накладывает ограничение на мысль о других цветах и оттенках («говорю о красных яблоках»).

Таким образом, чтобы высказывание обрело смысл, который мы хотим передать, надо сделать три последовательных шага. Взять первое слово, затем – второе и потом – третье. Если использовать только одно слово или расставить все слова в неправильном порядке, смысл исказится. Алгоритм нарушать нельзя.

Это общее рассуждение. Можно ли к этой логике применить математику? Хартли посчитал, что можно. Количество информации (мера Хартли) – это число последовательных шагов, которое нужно предпринять, чтобы сообщение обрело нужный смысл:

I = log

N

(здесь I – количество информации, N – количество всех возможных комбинаций).

Под «всеми возможными комбинациями» в приведённом выше примере понимается сочетание слов apples,are, red в любом порядке и в любом долевом количестве. Т.е. сообщение может быть таким: red are apples. Или: apples apples apples. Число возможных комбинаций – 27. И только одно из них обладает тем смыслом, который мы хотим передать.

Напоминает творчество борелевских обезьян, не так ли?

Сыграем в игру. Она похожа на игру «да-нет» (вариант – «съедобное-несъедобное»), когда продвигаешься к ответу, отсекая лишние варианты.

У нас есть три слова (are, red, apples). Это заданная длина сообщения. Нам нужно найти фразу, имеющую смысл. Сделаем допущение: мы немного разбираемся в английском языке, и знаем, что сначала должно стоять подлежащее, затем – сказуемое, и замыкает фразу определение.

И ещё одно допущение: фразы с повторяющимися словами не отражают нужный нам смысл.

Итак,

1. убрать варианты, где слова повторяются. Таких 21. Остаётся 6;

2. убрать варианты, где первое слово не apples. Таких 4. Остаётся 2;

3. убрать вариант, где второе слово не are. Остаётся один вариант.

Сравним с результатом вычислений по формуле Хартли. I = logN = log27, т.е. округленно 4,8 единиц информации.