Другие меры информации
Пример 25. Случайная величина имеет нормальное распределение с известным среднеквадратическим отклонением . Вычислить I(1:2), I(2:1), J(1,2) для следующих гипотез о математическом ожидании этой величины:
H1: m=m1,
H2: m=m2.
Решение. Запишем плотности вероятности случайной величины , соответствующие каждой из гипотез:
,
.
По формуле (4.43) [1] находим информацию для различения в пользу Н1 против Н2, содержащуюся в выборочном значении (в этой задаче удобнее использовать натуральные единицы информации):
По формуле (4.44) [1] находим среднюю информацию для различения в пользу Н1 против Н2
Далее учтем, что при гипотезе Н1 математическое ожидание , и получим окончательно
.
По формулам (4.45) и (4.46) [1] находим
.
Таким образом, средняя информация для различения гипотез Н1, и Н2 в данной задаче пропорциональна квадрату расстояния между математическими ожиданиями сигнала и обратно пропорциональна его дисперсии.
Пример 26. Случайная величина Y имеет экспоненциальное распределение
.
а) Найти максимально правдоподобную оценку математического ожидания m этой случайной величины.
б) Найти статистические характеристики (математическое ожидание и дисперсию) этой оценки.
д) Найти информацию Фишера и по неравенству Рао-Крамера проверить сделанное заключение об эффективности оценки.
Решение. Запишем уравнение правдоподобия
Отсюда , т.е. максимально правдоподобная оценка математического ожидания равна наблюдаемому выборочному значению .
Далее находим математическое ожидание оценки
.
Таким образом, оценка является несмещенной.
Дисперсию оценки вычисляем по
.
Информацию Фишера находим по формуле (4.48) [1]
Видим, что неравенство Рао-Крамера (4.49) [1] обращается в равенство, следовательно, оценка эффективна. Лучшей оценки, т.е. обладающей меньшей дисперсией при отсутствии систематической ошибки, не существует.
СПИСОК РЕКОМЕНДУЕМОЙ ЛИТЕРАТУРы
Основная
1. Акулиничев Ю.П. Теория электрической связи. Часть 1. – Томск, ТМЦДО. – 127 с.
2. Колесник В.Д., Полтырев Г.Ш. Курс теории информации. - М.: Наука, 1982. - 416 с.
3. Галлагер Р. Теория информации и надежная связь. - М.: Сов. радио, 1974.
4. Зюко А.Г, Кловский Д.Д., Коржик В.И., Назаров М.В. Теория электрической связи, под ред. Д.Д. Кловского. - М.: Радио и связь, 1997. - 432 с.
5. Зюко А.Г. и др. Теория передачи сигналов. - М.: Связь, 1980 (и последующие издания), 288 с.
6. Тарасенко Ф.П. Введение в курс теории информации. -Томск: ТГУ, 1963.
Дополнительная
7. Харкевич А..А. Борьба с помехами. - М.: Наука, 1965.
8. Хэмминг Р.В. Теория кодирования и теория информации. - М: Радио и связь, 1983. - 176 с.
9. Кульбак С. Теория информации и статистика. - М.: Наука, 1967.
10. Клюев Л.Л. Теория электрической связи.- Мн.: Дизайн ПРО, 1998.- 336 с.
11. Кловский Д.Д., Шилкин В.А. Теория электрической связи. Сб. задач и упражнений. Учебное пособие для втузов. - М.: Радио и связь, 1990. - 280 с.
12. Орлов В.А., Филиппов Л.И. Теория информации в упражнениях и задачах. Учебное пособие для втузов. М.: Высшая школа, 1976. - 136 с.
13. Цимбал В.П. Задачник по теории информации и кодированию. - Киев: Вища школа, 1976. – 276 с.
14. Лосев Ю.И., Плотников Н.Д. Основы теории передачи данных. Сборник задач. - Киев: Вища школа, 1977. - 160 с.
15. Акулиничев Ю.П., Дроздова В.И. Сборник задач по теории информации. - Томск: ТГУ, 1976. - 146 с.
Дата добавления: 2020-10-25; просмотров: 209;