Закон больших чисел

ЗБЧ устанавливает устойчивость средних значений: при большом количестве испытаний их средний результат перестаёт быть случайным и может быть предсказан с большой степенью точности.

ЗБЧ представляет ряд математических теорем, в каждой из которых для определённых условий устанавливается факт приближения средних характеристик большого числа испытаний к определённым постоянным. Теоремы ЗБЧ показывают связь между абстрактными теоремами теории вероятностей и опытом и дают возможность предсказать результаты опытов.

Мы уже говорили о теореме Я. Бернулли: при большом числе опытов относительная частота появления события сходится по вероятности к вероятности этого события. Рассмотрим некоторые более общие формы закона больших чисел.

Неравенство Чебышева.

Пусть дана СВ Х с математическим ожиданием М(Х) и дисперсией D(X). Как бы ни мало было постоянное положительное число ɛ, вероятность того, что величина Х отклонится от своего математического ожидания не менее чем на ɛ, ограничена сверху величиной : или

Теорема Чебышева

для среднего арифметического случайных величин.

Пусть даны независимые СВ , имеющие конечные математические ожидания и конечные дисперсии, ограниченные одной и той же постоянной с, то как бы ни мало было постоянное положительное число ɛ, с вероятностью, сколь угодно близкой к единице можно утверждать, что отклонение средней арифметической этих n величин от средней арифметической их математических ожиданий не превосходит по абсолютной величине заданного числа ɛ, если число n достаточно велико.

Говорят, что среднее арифметическое СВ сходится по вероятности к среднему арифметическому их математических ожиданий:

Следствие1.Если все независимы и одинаково распределены: , то для любого ɛ>0,

Среднее арифметическое случайных величин сходится по вероятности к их математическому ожиданию а.

Следствие 1 обосновывает «принцип среднего арифметического СВ», который часто используется на практике. Пусть произведено n независимых измерений некоторой величины , истинное значение а которой неизвестно. Согласно следствию 1, в качестве приближённого значения величины а можно взять среднее арифметическое результатов измерений: . Равенство тем точнее, чем больше n.

На описанных свойствах средней арифметической и относительной частоты основан широко применяющийся в лингво-статистике выборочный метод (по сравнительно небольшой случайной выборке текстов судят о целой разновидности языка). Сходимость средних арифметических частот, полученных по частичным выборкам, к математическим ожиданиям слов (или словосочетаний) при достаточном числе выборок позволяет рассматривать частотные словари в качестве моделей вероятностного распределения слов и словосочетаний в норме данного подъязыка или стиля.

Неравенство Чебышева справедливо для любых СВ, в частности для СВ Х = m, имеющих биномиальное распределение, где М(Х)=a=np и D(X)=npq. В этом случае оно имеет вид: .

Для СВ - относительной частоте события А в n независимых испытаниях, неравенство Чебышева имеет вид:

(здесь ).

Теорема Бернулли, о которой говорили в лекции №2, первая (1713 г) и наиболее простая форма закона больших чисел, является частным случаем теоремы Чебышева:

Теорема Бернулли теоретически обосновывает возможность приближённого вычисления вероятности события с помощью его относительной частоты.

Пример. Установлено, что вероятность появления существительного в румынских текстах по радиоэлектронике равна 0,34, а допустимое абсолютное отклонение относительной частоты от вероятности р равно 0,03. Определим тот наименьший объём исследуемого текста, при котором заданные условия выполнялись бы с вероятностью 0,9545.

Воспользуемся неравенством Чебышева для случайной величины X-«относительная частота появлений существительного в тексте»: где p=0,34; =0,03;

=0, 9545. Отсюда n=5473.

Ответ: Необходимый текст для выполнения заданных условий с вероятностью 0,9545 должен содержать не меньше, чем 5473 словоупотреблений.

Использование ЗБЧ связано с обследованием слишком больших текстовых выборок, объёмы которых превосходят реальные возможности лингво-статистического исследования.

Центральная предельная теорема ЦПТ решает проблему нахождения точности, надёжности оценки, доверительного интервала, используя при этом меньшее число испытаний, чем этого требует ЗБЧ, устанавливает условия, при которых закон распределения суммы большого числа случайных величин неограниченно приближается к нормальному.

ЦПТ Ляпунова

Пусть СВ независимы и одинаково распределены, , Тогда функция распределения центрированной и нормированной суммы этих СВ стремится при n→∞ к функции распределения стандартной нормальной СВ. Это означает, что приближённо распределена по нормальному закону: . Говорят, что при n→∞ СВ асимптотически нормальна.

(СВ называется центрированной и нормированной или стандартной, если М(Х)=0, D(X)=1)

Для того чтобы теорема Ляпунова выполнялась (утверждение о нормальном распределении для средних имело место) достаточно выполнение условий, смысл которых заключается в том, что

ни одна из СВ, образующих среднюю, не была в ней преобладающей. В противном случае распределение средней определяется законом распределения этих преобладающих СВ.

Например, служебные слова, многие грамматические формы, фонемы и буквы, поведение которых определяется суммой большого числа случайных воздействий без преобладания в них семантики текста, распределены по закону, близкому к нормальному. Ключевые (или доминантные) слова и словосочетаний текста (передают основные понятия, рассматривающиеся в данном сообщении) являются преобладающими, поэтому их распределение не является нормальным.