Предельные теоремы. Характеристические функции

Предельные теоремы. Характеристические функции

1. Теорема Чебышева

Теория вероятностей изучает закономерности массовых случайных явлений. Если явление носит единичный характер, то теория вероятностей не может предсказать исход события.

Иное дело, когда явление – массовое. Закономерности проявляются именно при большом числе случайных событий, происходящих в однородных условиях.

При большом числе испытаний характеристики случайных событий и случайных величин практически мало изменяются, т.е. становятся неслучайными. Это обстоятельство позволяет использовать результаты наблюдений над случайными явлениями для предсказания результатов будущих испытаний.

В дальнейшем мы ознакомимся с двумя типами предельных теорем: законом больших чисел и центральной предельной теоремой. Закон больших чисел играет очень важную роль в практическом применении теории вероятностей к явлениям природы и техническим процессам, связанных с массовым производством.

Для доказательства этих теорем воспользуемся неравенством Чебышева.

Пусть m_x и D_x – математическое ожидание и дисперсия случайной величины Х.

Тогда неравенство Чебышева гласит: вероятность того, что отклонение случайной величины от ее математического ожидания будет по абсолютной величине не меньше любого положительного числа , ограничена величиной , т.е.

Доказательство. Пусть Х – непрерывная случайная величина с плотностью распределения вероятностей f(x). По определению

 (1)

Выделим на числовой оси интервал АВ, состоящий из точек

                                                                    А               В

                    х

Так как под интегралом в (1) находится неотрицательная величина, то, выбросив из интервала интегрирования отрезок АВ, мы значение интеграла не увеличим, т.е.

Так как теперь , то

Отсюда непосредственно и вытекает неравенство Чебышева.

Если Х – дискретная случайная величина, то доказательство неравенства Чебышева проводится по проделанной выше схеме с той лишь разницей, что вместо интеграла нужно записать сумму.

Так как

,

то неравенство Чебышева можно записать в другом виде

Если взять , то получим, что неравенство Чебышева дает оценку

,

что заведомо выполняется, т.к. вероятность  

С другой стороны, если взять , то

,

т.е. дает неплохую оценку. Таким образом, мы видим, что неравенство Чебышева полезно лишь относительно (относительно s_х) больших

Теорема Чебышева. При неограниченном увеличении числа независимых испытаний среднее арифметическое наблюдаемых значений случайной величины, имеющих конечную дисперсию, сходится по вероятности к ее математическому ожиданию.

Определение. Случайные величины  сходятся по вероятности к величине а, если для , начиная с которого выполняется неравенство  или, по другому, если для любого малого

Итак, нужно доказать, что для любого малого

Доказательство. Введем случайную величину

Найдем числовые характеристики случайной величины Y, пользуясь их свойствами:

Теперь применим неравенство Чебышева к случайной величине Y:

Так как по условию D_x ограничена, то

Прежде чем сформулировать центральную предельную теорему введем характеристические функции.

2. Характеристические функции

Характеристические функции являются одним из способов описания случайных величин, удобным при решении многих задач теории вероятностей.

Пусть имеется вещественная случайная величина Х. Введем комплексную случайную величину W по следующему закону:

где .

Характеристической функцией g(t) случайной величины Х называется математическое ожидание случайной величины W, т.е.

Зная закон распределения случайной величины Х, всегда можно найти ее характеристическую функцию g(t).

Для дискретной случайной величины Х с законом распределения

Таблица 1

характеристическая функция

Для непрерывной случайной величины с плотностью распределения вероятностей f(x) характеристическая функция

является преобразованием Фурье плотности распределения f(x). С помощью обратного преобразования Фурье можно найти плотность распределения

В качестве примера найдем характеристическую функцию нормированной гауссовсокой случайной величины. Случайная величина Х называется нормированной, если ее числовые характеристики m_x=0 и D_x=1. Плотность распределения вероятности нормированной гауссовской случайной величины имеет вид:

По определению имеем

 (2)

После преобразования

и замены в интеграле

z = x – jt

соотношение (2) принимает вид

но так как

то

Таким образом, характеристическая функция с точностью до постоянного множителя совпадает с плотностью распределения.

2.1Свойства характеристической функции

1. Характеристическая функция g(t) вещественна тогда и только тогда, когда f(x) – четная функция. Причем g(t) также четна. Это следует из свойств преобразования Фурье.

2. Если случайные величины Х и Y связаны соотношением

Y = aX,

где а – постоянный множитель, то

g_y(t) = g_x(at).

Доказательство.

3. Характеристическая функция суммы независимых случайных величин равна произведению характеристических функций.

Доказательство. Пусть Х₁, Х₂, ... , Х_n - независимые случайные величины с характеристическими функциями g_x1(t), g_x2(t), ... , g_xn(t).

Найдем характеристическую функцию

Имеем:

Так как случайные величины  независимы, то независимы и случайные величины , поэтому

Используя аппарат характеристических функций можно показать, что случайные величины Z = X + Y (Z – носит название композиции), где X, Y независимые случайные величины имеющие биноминальное распределение или распределение Пуассона, или нормальное распределение также подчиняются соответственно биноминальному распределению, закону Пуассона, нормальному закону.

3. Центральная предельная теорема

Теорема. Если случайные величины Х₁, Х₂, ... , Х_n взаимно независимы и имеют один и тот же закон распределения f(x) и

то при неограниченном увеличении n закон распределения суммы  неограниченно приближается к нормальному.

Она может быть сформулирована в более общем случае. Закон распределения вероятностей суммы независимых случайных величин одинакового порядка при неограниченном увеличении слагаемых вне зависимости законов распределения слагаемых стремится к нормальному закону с плотностью вероятностей

где

Доказательство использует аппарат характеристических функций, представляя  и разлагая функцию g_x(t) в ряд Макларена. Далее, делая нормировку случайной величины Y_n, т.е. замену  показывается, что

Пример. Складываются 24 независимых случайных величины, каждая из которых подчинена равномерному закону на интервале (0, 1).

 Написать приближенное выражение для плотности суммы этих случайных величин. Найти вероятность того, что сумма будет заключена в пределах от 6 до 8.

Решение. Пусть  где Х_i – равномерно распределенные случайные величины. Случайная величина Y удовлетворяет центральной предельной теореме, поэтому ее плотность распределения

Так как Х_i – равномерно распределены на интервале (0, 1), то

Следовательно,

Подставим полученные значения в формулу плотности вероятности случайной величины Y:

Значит