Количество информации по алфавитному подходу

Как пользоваться формулой

1. Определите количество символов K в сообщении.
2. Найдите информационный вес одного символа i.
3. Умножьте K на i.
4. Если нужно, переведите биты в байты, разделив на 8.

Историческая справка

Измерение информации в битах связано с развитием теории связи и вычислительной техники в XX веке. Клод Шеннон в 1948 году сформулировал математическую теорию связи, где информация измеряется через логарифмы числа возможных сообщений и вероятности событий.

Школьный алфавитный подход является упрощенной моделью этой идеи. Он рассматривает символы как элементы фиксированного алфавита и предполагает равную длину кода для каждого символа. Такая модель удобна для первых задач о памяти компьютера и двоичном кодировании.

С развитием компьютеров бит стал основной единицей представления данных, а байт — практической единицей хранения. Поэтому формула I=K·i соединяет теоретическую идею выбора из вариантов с прикладным расчетом объема текстовых данных.

Пример

Задача. Сообщение состоит из 120 символов, каждый символ кодируется 5 битами. Найти информационный объем сообщения. Дано: K=120, i=5 бит. По формуле I=K·i получаем I=120·5=600 бит. Переведем в байты: 600/8=75 байт. Ответ: 600 бит, или 75 байт. Проверка: каждый из 120 символов занимает одинаковые 5 бит, поэтому общий объем должен быть в 120 раз больше веса одного символа. Деление на 8 корректно, потому что 1 байт = 8 бит. Дополнительная проверка: если бы символов было вдвое меньше, 60, объем стал бы 300 бит. При неизменном весе символа объем прямо пропорционален длине сообщения.

Частая ошибка

Часто путают количество символов K и мощность алфавита N. В формуле I=K·i нужно число символов сообщения, а не число разных символов в алфавите. Вторая ошибка — забывать перевод битов в байты и делить или умножать на 8 в неверную сторону. Еще одна ловушка — применять алфавитный подход к кодировке переменной длины, где разные символы могут занимать разное число бит.