Пропускная способность непрерывного канала при наличии аддитивного шума

Рассмотрим следующую модель канала:

1. Канал способен пропускать колебания с частотами ниже F_m.

2. В канале действует помеха n(t), имеющая нормальный (гаусcовский) закон распределения с нулевым средним значением.

3. Помеха n(t) статистически не связана с полезным сигналом x(t).

4. Помеха аддитивна, т.е. сигнал y(t) на выходе канала описывается формулой y(t) = x(t) + n(t), где x(t) – сигнал на входе канала.

5. Мощность P_x полезного сигнала x(t) ограничена.

Ограниченность полосы пропускания канала приводит к ограниченности спектра выходного сигнала y(t). Поэтому согласно теореме Котельникова без потери информации сигналы x(t), y(t) и n(t) можно представить в виде ряда независимых отсчетов, взятых с шагом .

Как было доказано ранее количество информации I, приходящейся на один отсчет, равно: I = H(x) - H(x/y) = H(y) – H(y/x) .

Ранее нами было показано, что энтропия H(y) непрерывной случайной величины y находится по формуле:

.

Найдем H(y/x). Перейдем к дискретному представлению x и y с шагом и .

Найдем теперь дифференциальный закон f(y/x). Если x фиксирован, а y(t)=x(t)+n(t), то

f(y/x)=f(n-x).

График этой функции изображен на рис. 4.7.

Рис. 4.7. График функции f(y/x).

Поскольку Х фиксирован .

Произведем подстановки:

Подставив этот результат в формулу количества информации, получим:

.

Скорость передачи информации:

, где V_к=2F_m (по теореме Котельникова).

Для нахождения пропускной способности непрерывного канала связи с шумом следует максимизировать скорость передачи информации , варьируя параметрами передаваемого сигнала Х.

V_к – величина постоянная, связанная с параметром F_m канала.

I зависит от H(y).

Поcкольку x и n взаимно независимы, D_y = D_x + D_n, m_y = m_x + m_n = m_x, так как m_n = 0.

Ранее была выведена зависимость , из которой следует, что пропорциональна D_y.

Отсюда следует, что максимальна, когда максимальна дисперсия D_y.

Но, поскольку D_y = D_x + D_n, D_y – максимальна, когда максимальна D_х.

Согласно условию, мощность Р_х передаваемого сигнала Х ограничена сверху.

А, поскольку Р_х = D_x + m_x², максимальное значение дисперсии D_x достигается при нулевом математическом ожидании m_x=0. В это случае Р_x=D_x.

Значит P_y = D_y + m_y² = D_y, так как m_y = m_x + m_n, а m_x и m_n = 0.

Ранее было доказано, что при ограничении мощности сигнала сверху его энтропия принимает максимальное значение, если он распределен по нормальному закону. Значит y должен иметь нормальный закон распределения.

А какой в этом случае закон распределения должен иметь входной сигнал х?

Поскольку y = x + n, а y и n имеют нормальные законы распределения, x и n не зависимы, согласно теории вероятностей x тоже должен иметь нормальный закон распределения.

Следовательно:

Отсюда:

.

Поскольку m_x и m_n=0, D_x=P_x, D_n=P_n,

.

Отношение P_x/P_n мощностей сигнала и шума называется отношением сигнал-шум.

В результате пропускную способность непрерывного канала связи с шумом можно записать в виде: (4.6)

Таким образом, пропускная способность этого канала определяется максимальной частотой F_m пропускаемых через канал частот и отношением сигнал-шум. Пропускная способность этого типа канала тем выше, чем выше F_m и отношение сигнал-шум.

Формула (4.6) описывает наихудший в смысле величины пропускной способности случай. Если шум имеет негауссовский закон распределения или имеет коррелированные (зависимые) отсчеты, то пропускная способность канала возрастает.

Литература

1. Темников Ф. Е. и др. Теоретические основы информационной техники: Учеб. пособие для вузов. Ф. Е. Темников, В.А. Афонин, В.И. Дмитриев. – 2-е изд., перераб. и доп. –М.: Энергия, 1979. –512 с., ил.

2. Кузин Л. Т. Математические основы кибернетики. Том 1. Учеб. пособие. –М.: Энергия, 1973. –504 с.

3. Цымбал В.П. Теория информации и кодирования. −Киев: Вища школа; 1977. −288 с.

4. Кэтермоул К.В. Принципы импульсно-кодовой модуляции. −М.:Связь, 1974. −408 с.

5. Советов Б.Я. Теория ин формации. −Л.:Из-во ЛГУ, 1977. −184 с.

6. Яглом Л. М., Яглом И. М. Вероятность и информация. −М.:Наука, 1973. −512 с.

7. Шляпоберский В. И. Основы техники передачи дискретных сообщений. −М.: Связь, 1973. −480 с.

8. Липкин И. А. Основы статистической радиотехники, теории информации и кодирования. –М.:Советское радио. 1978. –240 с.

9. Галлагер Р. Теория информации и надежная связь. Пер с англ., под ред. М. С. Пинскера и Б. С. Цыбакова. –М.:Советское радио, 1974. −720 с.

10. Элементы теории передачи дискретной информации. Под ред. Л. П. Пуртова. −М.:Связь, 1972. −232 с.

Приложение 1. Таблица неприводимых полиномов

(По книге Темников Ф.Е. и др. Теоретические основы информационной техники. 3-е изд. –М.:Энергия, 1979. –512 с.)