Задачи по предмету "Основы теории информации"

3.1 На вход приемника поступают сигналы А и В. Из-за помех сигнала А в трех случаях из 4-х воспринимается как сигнал А и как В. Определить количество информации о воспринятом сигнале, содержащееся в поступившем сигнале, если поступления сигналов А и В на вход приемника одинаково вероятны.

Ответ: 0,006 (бит)

3.2 По каналу связи передается 2 сигнала А1 и А2 с вероятностями Р(А1) = Р(А2) = 0.5. На выходе канала сигналы преобразуются в символы а1 и а2, причем из-за помех, которым одинаково подвержены сигналы А1 и А2, в передачу вносятся ошибки, так что в среднем один символ из 100 принимается неверно (а1 вместо а2 или а2 вместо а1). Определить среднее количество информации на символ, передаваемой по такому каналу. Сравните ее с количеством информации при отсутствии помех.

3.4 Имеется источник информации с производительность Н = 100 (бит/ед.вр.) и два канала связи, каждая из которых может передавать 70 двоичных знаков в единицу (0 или 1). Каждый двоичный знак заменяется противоположным с вероятностью 0,1. Требуется выяснить: достаточна ли пропускная способность этих каналов для передачи информации, поставляемой источником.

Ответ: Недостаточна, т.к. пропускная способность двух каналов равна 74,4 (бит/ед.вр.)

3.5 Алфавит источника = 0,1. Буквы равновероятны. Источник вырабатывает 100 букв в ед. времени. Канал связи передает 70 букв в ед. времени. С вероятностью 0,1 буквы искажается каналом. Сколько каналов нужно для передачи информации.

3.6. Передаются три сообщения, вероятности которых 0,8; 0,1 и 0,1. Корреляция между ними отсутствует. Определить избыточность источника сообщения.

Ответ: 42%