где Р0, P1 – вероятность достижения цели соответственно до и после получения информации.
В качестве единицы измерения (меры) количества информации, определяющей ее ценность, может быть принят 1 бит (при основании логарифма, равном 2), т. е. это такое количество полученной информации, при котором отношение вероятностей достижения цели равно 2.
Рассмотрим три случая, когда количество информации, определяющее ее ценность, равно нулю и когда она принимает положительное и отрицательное значение.
Количество информации равно нулю при Р0 = Р1, т.е. полученная информация не увеличивает и не уменьшает вероятность достижения цели.
Значение информации является положительной величиной при P1 > P0, т. е. полученная информация уменьшает исходную неопределенность и увеличивает вероятность достижения цели.
Значение информации является отрицательной величиной при P1 < P0, т. е. полученная информация увеличивает исходную неопределенность и уменьшает вероятность достижения цели. Такую информацию называют дезинформацией.
Дальнейшее развитие данного подхода базируется на статистической теории информации и теории решений. При этом кроме вероятностныхарактеристик достижения цели после получения информации вводятся функции потерь и оценка полезности информации производится в результате минимизации функции потерь. Максимальной ценностью обладает то количество информации, которое уменьшает потери до нуля при достижении поставленной цели [1].
Упражнения для самостоятельного выполнения
1. Преобразовать формулу (1.1) к виду (1.2) для частного случая, когда события равновероятны (pi = 1/N).
2. Доказать, что количество информации, которое мы получаем, достигает максимального значения, если события равновероятны.
3. По каналу связи передается пять сообщений, вероятность получения первого сообщения составляет 0,3; второго – 0,2; третьего – 0,14, а вероятности получения четвертого и пятого сообщений равны между собой. Какое количество информации мы получим после приема одного из сообщений?
4. Совершаются два события. При каких вероятностях этих событий мы получим минимальное и максимальное количество информации?
5. Какое количество информации несет в себе сообщение о том, что нужная вам компьютерная программа находится на одной из семи дискет?
6. С помощью компьютерного калькулятора заполнить пропуски числами:
а) 2 Кбайт = ___ байт = ___ бит;
б) ___ Гбайт = 2357 Мбайт = ___ Кбайт;
в) ___ Кбайт = ___ байт = 14567 бит;
г) 3 Гбайт = __ Мбайт = ___ Кбайт;
д) ___ Тбайт = 8 Гбайт = ___ Мбайт.
7. Используя программу Excel реализовать таблицы для автоматического расчета пропущенных значений, указанных в упражнении 6.
8. Определить информационную емкость буквы в русском и латинском алфавитах.
9. Сколько символов содержит сообщение, если его информационный объем составляет 1,25 Кбайта и мощность алфавита, с помощью которого записано сообщение, равна 32?
10. Опытный пользователь компьютера может вводить в минуту 110 знаков. Мощность алфавита, используемого в компьютере, равна 256. Какое количество информации в байтах может ввести пользователь в компьютер за 1 и 1,5 минуты?
11. Установить качественную зависимость между мощностью алфавита, сообщением, составленным из символов алфавита, и его информационным объемом.
12. Определить количество информации, определяющее ее ценность, если вероятность достижения цели до получения информации равна 0,5, а после получения информации – 0,3.
Глава 2
Кодирование информации с помощью систем счисления
2.1. Системы счисления
Для записи информации о количестве объектов материального мира используются числа, которые разделяются по определенным признакам. На рис. 2.1 представлена классификация чисел по групповому признаку, когда в каждую группу входят числа, обладающие определенными свойствами.
Рис. 2.1. Классификация чисел
Числа записываются с использованием особых знаковых систем, которые называются системами счисления, в них числа записываются по определенным правилам с помощью символов некоторого алфавита, называемых цифрами.