Количество информации, переданной по каналу

По каналу связи передается информация, выдаваемая источником сообщений. Ее количество определяется производительностью источника сообщений . Вследствие воздействия помех часть передаваемой информации «теряется» в канале, в результате чего количество информации, переданной по каналу, в общем случае меньше количества информации, передаваемого по каналу.

В теории информа­ции в качестве информацион­ной характеристики канала связи в целом используют среднее количество информации, переданное одним символом источника сообщений по каналу с помехами:

I(х,_,y) = H(х) – H(х|y),

где H(х) – энтропия источника со­общений;

H(х|y) – условная энтропия источника со­общений и канала связи.

Условная энтропия H(х|y) – это среднее количество информации, теряемое в канале при передаче одного символа сообщения.

Если известна скорость выдачи символов источником дискретных сообщений в единицу времени v_ис, то можно рассчитать количество информации, передаваемое по каналу в единицу времени:

= v_ис I(x, у) .

Величина называется скоростью передачи дискретной информации по каналу с помехами.