Условная энтропия и ее свойства.


 

Рассмотрим дискретный канал без памяти, на входе и выходе которого имеются ансамбли дискретных сообщений A и B соответственно. Задача заключается в том, чтобы определить количество информации, переданной по этому каналу. Иначе говоря, необходимо найти информацию, содержащуюся в принятом сообщении при передаче сообщения .

Пусть известны совместная вероятность реализаций и , а также – условная вероятность реализации , если на выходе канала появилось сообщение . По теореме умножения вероятностей:

 

; (2.1)

 

Введем понятие условной энтропии, которую определим как математическое ожидание, аналогичное тому, как это было сделано ранее для энтропии источника сообщений:

 

;   (2.2)

 

Условная энтропия обладает следующими свойствами:

1. , т.е. всегда положительна, что следует из её определения.

2. , где - энтропия источника сообщений на входе канала. При этом равенство имеет место в том случае, если при всех и , т.е. когда и взаимно независимы. Это означает, что с получением сообщения никакой информации о сообщении не поступает, следовательно, неопределенность не уменьшается. Данная ситуация может соответствовать полной потере информации при передаче из-за помех в канале связи.

Учитывая сказанное, условную энтропию ИДС обычно трактуют как количество информации, которое теряется из-за помех и не поступает получателю. Ясно, что полная потеря информации является крайним случаем и в реальных условиях практически не встречается. Величину называют также надежностью.

 

Выводы

1. Условная энтропия представляет собой количество информации, которое теряется из-за помех и не поступает получателю.

2. Условная энтропия всегда положительна (ее свойство).

 



Дата добавления: 2017-11-21; просмотров: 3556;


Поиск по сайту:

Воспользовавшись поиском можно найти нужную информацию на сайте.

Поделитесь с друзьями:

Считаете данную информацию полезной, тогда расскажите друзьям в соц. сетях.
Poznayka.org - Познайка.Орг - 2016-2024 год. Материал предоставляется для ознакомительных и учебных целей.
Генерация страницы за: 0.007 сек.