Законы больших чисел

Заметим, что если величины одинаково распределены, то их математические ожидания одинаковы (и равны, например,

), поэтому свойство (22) можно записать в виде (23).

ЗБЧ утверждает, что среднее арифметическое большого числа случайных слагаемых «стабилизируется» с ростом этого числа. Как бы сильно каждая случайная величина не отклонялась от своего среднего значения, при суммировании эти отклонения «взаимно гасятся», так что среднее арифметическое приближается к постоянной величине.

В дальнейшем мы увидим, что требование конечности второго момента (или дисперсии) связано исключительно со способом доказательства, и что утверждение останется верным, если требовать существования только первого момента.

Доказательство.

Обозначим через сумму первых случайных величин. Из линейности математического ожидания получим:

Пусть . Воспользуемся неравенством Чебышёва:

(24)

так как . Заметим, что дисперсия суммы превратилась в сумму дисперсий в силу попарной независимости слагаемых, из-за которой все ковариации в свойстве 14 обратились в нуль при . Сумма же дисперсий слагаемых равняется из-за их одинаковой распределённости.

QED

Замечание 24. Мы не только доказали сходимость, но и получили оценку для вероятности среднему арифметическому любого числа попарно независимых и одинаково распределённых величин отличаться от

более, чем на заданное

(25)

Легко видеть, что попарную независимость слагаемых в ЗБЧ Чебышёва можно заменить их попарной некоррелированностью, ничего не меняя в доказательстве. ЗБЧ может выполняться и для последовательности зависимых и разнораспределённых слагаемых. Предлагаю читателям, проследив за равенствами и неравенствами (24), получить доказательство следующего утверждения, предлагающего достаточные условия выполнения ЗБЧ для последовательности произвольных случайных величин.

Теорема 34 (ЗБЧ Маркова). Последовательность случайных величин

с конечными вторыми моментами удовлетворяет ЗБЧ при выполнении любого из следующих условий:

а): если , т.е. если при ;
б): если независимы и (т.е. если )
в): если независимы, одинаково распределены и имеют конечную дисперсию (ЗБЧ Чебышёва).

Теорема Маркова утверждает, что ЗБЧ выполнен, если дисперсия суммы

слагаемых растёт не слишком быстро с ростом

Сильная зависимость слагаемых приводит обычно к невыполнению ЗБЧ. Если, например, и , то , и свойство (23) не выполнено (убедиться!). В этом случае ; для одинаково распределённых слагаемых дисперсия суммы быстрее расти не может.

Следующее утверждение мы докажем чуть позже. Сравните его условия с условиями ЗБЧ Чебышёва.

Теорема 35 (ЗБЧ Хинчина⁽¹⁾). Для любой последовательности

независимых (в совокупности) и одинаково распределённых случайных величин с конечным первым моментом

имеет место сходимость:

Более того, в условиях теоремы 35 имеет место и сходимость п. н. последовательности

. Это утверждение называется усиленным законом больших чисел (УЗБЧ) Колмогорова, и его мы доказывать не будем.

Получим в качестве следствия из ЗБЧ Чебышёва закон больших чисел Я. Бернулли. В отличие от ЗБЧ Чебышёва, описывающего предельное поведение среднего арифметического случайных величин с произвольными распределениями, ЗБЧ Бернулли имеет дело лишь со схемой Бернулли.

Теорема 36 (ЗБЧ Бернулли). Пусть событие