Вопросы и задания
1. Что такое неопределенность знания об исходе некоторого события?
Неопределенность знания — это количество возможных вариантов ответа на интересовавший вас вопрос. Еще можно сказать: возможных исходов события.
2. Как определяется единица измерения количества информации в рамках содержательного подхода?
В содержательном подходе количество информации, заключенное в сообщении, определяется объемом знаний, который это сообщение несет получающему его человеку. Вспомним, что с «человеческой» точки зрения информация — это знания, которые мы получаем из внешнего мира. Количество информации, заключенное в сообщении, должно быть тем больше, чем больше оно пополняет наши знания. В теории информации для бита дается следующее определение: Сообщение, уменьшающее неопределенность знания в два раза, несет 1 бит информации.
3. Придумайте несколько ситуаций, при которых сообщение несет 1 бит информации.
1. Монета после подбрасывания легла гербом вверх 2. Лампа не горит 3. Телевизор включен 4. Поезд пришел вовремя 5. Можно идти ужинать!
4. В каких случаях и по какой формуле можно вычислить количество информации, содержащейся в сообщении, используя содержательный подход?
По формуле N = 2', где N — количество возможных исходов события, I - количество информации в сообщении об данном исходе события
5. Сколько битов информации несет сообщение о том, что из колоды в 32 карты достали «даму пик»?
В нашем случае количество информации можно рассчитать по формуле: N = 2^i; где N – число возможных событий, i – количество информации в битах. Так как выбор одной карты из имеющихся 32 в калоде является равновероятным, то число возможных событий равно 32. N = 32, i = ? N = 2^i; 32 = 2^5; i = 5 бит; Ответ: 5 бит.
6. При угадывании методом половинного деления целого числа из диапазона от 1 до N был получен 1 байт информации. Чему равно N?
1 байт = 8 бит N = 2^8 = 256
7. Проводятся две лотереи: «4 из 32» и «5 из 64». Сообщение о результатах какой из лотерей несет больше информации?
Выпадения номеров в лотерее - события равновероятные. Значит один номер в "4 из 32" несёт в себе 5 бит информации, т.к. 2^5=32, а один номер в "5 из 64" - 6 бит, т.к. 2^6 = 64 В лотерее 4 из 32 четыре номера, каждый занимает 5 бит, значит сообщение содержит 4*5 = 20 бит. В лотерее 5 из 64 пять номеров, каждый занимает 6 бит, значит объем равен 5*6 = 30 бит. Сообщение о результате лотереи "5 из 64" больше сообщения "4 из 32" в полтора раза.
8. Используя формулу Хартли и электронные таблицы, определите количество информации в сообщениях о равновероятных событиях:
а) на шестигранном игральном кубике выпала цифра 3;
б) в следующем году ремонт в школе начнется в феврале;
в) я приобрел абонемент в бассейн на среду;
г) из 30 учеников класса дежурить в школьной столовой назначили Дениса Скворцова.
Формула Хартли: i = log2N A) Шанс выпадения одной из 6 граней на кубике равен 1/6 i = Iog2 6 = 3 бита Б) В году 12 месяцев, выбор одного уменьшает неопределенность в 12 раз i = Iog2 12 — 4 бита B) В неделе 7 дней, выбор одного дня уменьшает неопределенность в 7 раз i = Iog 27 = 3 бита Г) Выбор одного ученика из 30 снижает неопределенность в 30 раз i = Iog2 30 = 5 бит
9. Используя закон аддитивности количества информации, решите задачу о билете в кинотеатр со следующим дополнительным условием: в кинотеатре 4 зала. В билете указан номер зала, номер ряда и номер места. Какое количество информации заключено в билете?
Если N - количество рядов в каждом из залов, M - количество мест в каждом ряду, то количество информации в билете = log(2)4 + log(2)N + log(2)M=2+log(2)N+log(2)M