Вычисление апостериорных вероятностей

При решении задач оптимального приема ответ получается на основе предварительных (априорных) сведений о принимаемом сигнала и надлежащей обработке его.

Если бы мы не располагали предварительными сведениями о сигнале (т.е. о его параметрах), то его нельзя было бы отличить от помехи. Наоборот, прием детерминированного сигнала не доставляет никакой информации; если все о нем известно, то его всегда можно полностью воспроизвести на приемном конце. Поэтому носителями полезной информации могут быть только неизвестные параметры сигнала.

По сравнению с априорными сведениями, знание наблюдателя об исследуемой ситуации в результате анализа принятого колебания увеличивается. Вновь сформированное знание называется
апостериорным.

Вспомним элементы теории вероятностей. Вероятность совместного события

Р(А×В) = Р(А)×Р(В/А) = Р(В)×Р(А/В).

Известны: Р(Н_k) и P(FA/H_k) ... P(B/H_n), Н₁, H_k, H_n – гипотезы и передаче сигналов, P_a(H_k) – априорная их вероятность.

Найти Р(А) – безусловную вероятность.

ΣР(Н_k) = 1

Формула полной вероятности:

,

т.к. Р(АH_k) = P(H_k)×P(A/H_k)

(5.1)

Если обратная задача: известно P(A) и P(A/H_k), то нужно найти, какая была H_k - это задача Байеса:

Р(АH_k) = P(H_k)×P(A/H_k) = P(A)×P(H_k/A)

отсюда

.

Р(А) из формулы полной вероятности

, (5.2)

здесь Р_а(H_k) – априорное (до опыта, до передачи сигнала) распределение вероятностей гипотез H_k;

Р(H_k/А) – апостериорная вероятность (после опыта, после приема сигнала), которую обозначим P_pst( ).

Пусть бинарный сигнал принимается на фоне аддитивной помехи в виде белого шума, т.е. стационарной помехи с энергетическим спектром постоянной интенсивности по всей оси частот y(t) = s(t) + n(t).

Для упрощения математических выкладок введем временно следующее ограничивающее условие: Принятая смесь y(t) перед последующей обработкой пропускается через фильтр нижних частот с прямоугольной АЧХ и ФЧХ ∆φ(ω) = 0. Обозначим полосу пропускания фильтра через ∆f_ф = 0 ... f_в.

Пусть по каналу связи передается один из возможных сигналов мновества {S₁, S₂, ..., S_L}. На приемном конце канала получена реализация y(t). В соответствии с теоремой Байеса вероятность того, что в принятой смеси находится сигнал S_k(t) равна

, (5.3)

где P_a(S_k) - априорная вероятность передачи сигнала S_k(t)$

W(y(t)/S_k(t)) - плотность вероятности получения принятой реализации смеси при условии, что был передан сигнал S_k(t) .

Т.к. знаменатель выражения (1.1) не зависит от конкретного значения k, то

, (5.4)

где А - постоянная, не зависящая от k величина.

Как будет показано ниже, для решения задачи различения символов небходимы не абсолютные значения апостериорных вероятностей, а соотношения между ними. Поэтому значение постоянной величины нас в дальнейшем интересовать не будет.

Таким образом, распределение апостериорных вероятностей передачи каждого из возможных сигналов (пауза в некоторых случаях также может рассматриваться как один из сигналов) при заданном распределении априорных вероятностей определяется только условными плотностями вероятностей W(y/S_k).

Пропущенная через фильтр низких частот смесь y(t), имеет ограниченный спектр, следовательно, функция W(y/S_k) в соответствии с теоремой Котельникова полностью определяется отсчетами, взятыми с интервалами ∆t = 1/2f_в. Отсюда следует, что плотность вероятности W(y/S_k) есть m-мерная условная плотность, где m - количество отсчетов, определяющих функцию:

W(y/S_k) = W(y₁, y₂, ..., y_m / S_k1, S_k2, ..., S_km) (5.5)

Рассматриваемая как функция k условная m-мерная плотность вероятности называется функцией правдоподобия. Обозначив ее через L(S_k), получаем:

P_pst(S_k/y) = A × P_a(S_k) × L(S_k) (5.6)

При заданном сигнале вероятности получения мгновенных значений смеси y₁, y₂, ..., y_m, равны соответственно вероятностям мгновенных значений шума в эти же моменты времени n₁, n₂, ..., n_m. Поэтому

L(S_k) = W(n₁, n₂, ..., n_m).

Белый шум, пропущенный через фильтр с ограниченной полосой, является гауссовым стационарным процессом с автокорреляционной функцией вида R(τ) = sinω_вτ/ω_вτ. Следовательно, отсчеты шума, взятые с интервалами ∆t = 1/2f_в между собой являются некоррелированными, а, значит, и независимыми. Поэтому, в соответствии с (5.5) L(S_k) равна произведению одномерных безусловных плотностей вероятности

. (5.7)

Т.к. дисперсия шума на входе фильтра σ²_ш = N₀∆f_ф = N₀/2∆t, то

.

При отсутствии в принятом колебании y(t) сигнала, т.е. при y_i = n_i функция правдоподобия принимает вид:

,

где - энергия принятого колебания.

Отношение функций правдоподобия

. (5.8)

Предположение о наличии прямоугольного фильтра на входе устройства обработки было введено нами для того, чтобы получить выражение (5.7), ибо при белом шуме σ²_ш = ∞ и выражение (5.7) не имеет смысла. Но уже в выражение (5.8) мощность шума не входит. Поскольку в дальнейшем мы будем пользоваться выражением (5.8), то предположение о наличии фильтра на входе теперь можно отбросить. При этом ∆f_ф = ∞ и выражение (5.8) преобразуется к следующему виду:

, (5.9)

где или для прямоугольного импульса E_k = A² τ_u – энергия
k-го сигнала

(5.10)

где Т - длительность реализации y(t).

Выражение (5.9) часто называют отношением правдоподобия, а q_k – функционалом правдоподобия (корреляционный интеграл).

Определив отношение правдоподобия для всех сигналов алфавита источника, можно получить в соответствии с (5.6) распределение их апостериорных вероятностей.

Литература:

[1] стр. 149-160. [2] стр. 169-173. [3] стр. 163-168.

Контрольные вопросы:

1. В чем смысл теории Байеса?

2. Что отражает функция правдоподобия?

3. Поясните состав выражения функционала правдоподобия.