WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     | 1 |   ...   | 14 | 15 || 17 | 18 |

114 ГЛАВА 12. Центральная предельная теорема Теорема 37. Пусть n, причём функция распределения случайной величины непрерывна всюду, и пусть xn x0 [-, ] — числовая последовательность. Тогда F (xn) F(x0).

n В формулировке теоремы мы, краткости ради, использовали запись F(±), которую следует понимать так: F(-) = 0, F(+) = 1.

Доказательство. Если x0 R, то утверждение теоремы сразу следует p из свойства 21. Действительно, из xn x0 следует, что xn - x0. К тому же n. Тогда утверждение (2) свойства 21 позволяет заключить, что n - xn - x0. Функция распределения F-x (x) отличается от F(x) лишь сдвигом и тоже непрерывна всюду, поэтому имеет место сходимость функций распределения в любой точке. В частности, в точке x = 0 имеет место сходимость при n F (xn) = P(n-xn < 0) = F (0) F-x (0) = P(-x0 < 0) = F(x0).

n n-xn Пусть теперь x0 = -. Нужно доказать, что F (xn) F(-) = 0.

n По определению, xn - с ростом n, если для всякого M > 0 найдётся номер N такой, что для всех n N выполнено неравенство: xn -M.

В силу монотонности функций распределения, 0 F (xn) F (-M).

n n В точке -M, как и в любой иной точке, имеет место сходимость функций распределения F (-M) F(-M). Выбором M величина F(-M) может n быть сделана сколь угодно близкой к нулю. Тем самым верхний предел последовательности F (xn) оказывается зажат между нулём и сколь угодно n малой величиной, т. е. равняется нулю.

Случай x0 = + проверяется аналогично.

Несколько содержательных примеров слабой сходимости мы рассмотрим в следующей главе. Но основной источник слабо сходящихся последовательностей и необычайно мощное и универсальное средство для асимптотического анализа р а с п р е д е л е н и й с у м м независимых и одинаково распределённых случайных величин предоставляет нам центральная предельная теорема.

§ 3. Центральная предельная теорема Мы будем называть следующее утверждение «ЦПТ Ляпунова21», но сформулируем и докажем теорему Ляпунова только в частном случае — для последовательности независимых и одинаково распределённых случайных величин. Как и ранее, через Sn обозначена сумма первых n случайных величин в последовательности: Sn = 1 +... + n.

Александр Михайлович Ляпунов (6.06.1857 — 3.11.1918) ГЛАВА 12. Центральная предельная теорема Теорема 38 (Ц П Т Л я п у н о в а ). Пусть 1, 2,... — независимые и одинаково распределённые случайные величины с конечной и ненулевой дисперсией: 0 < D 1 <. Тогда имеет место слабая сходимость Sn - n E N0,n D последовательности центрированных и нормированных сумм случайных величин к стандартному нормальному распределению.

Пользуясь определением и свойствами слабой сходимости и заметив, что функция распределения a,2(x) любого нормального закона непрерывна всюду на R (почему), утверждение ЦПТ можно сформулировать любым из следующих способов:

Следствие 20. Пусть 1, 2,... — независимые и одинаково распределённые случайные величины с конечной и ненулевой дисперсией.

Тогда выполнены утверждения:

а) для любых вещественных x < y при n имеет место сходимость y Sn - n E 1 1 P x y 0,1(y) - 0,1(x) = e-t /2 dt;

n D x б) если — произвольная случайная величина со стандартным нормальным распределением, то Sn Sn - n E = n - E 1 = D 1 · N0,D 1.

n n Замечание 28. Еще раз напомним, что функция распределения стандартного нормального закона ищется либо по соответствующей таблице в справочнике, либо с помощью какого-либо программного обеспечения, но никак не путем нахождения первообразной.

Мы докажем ЦПТ и ЗБЧ в форме Хинчина несколькими главами позднее. Нам потребуется для этого познакомиться с мощным математическим инструментом, который в математике обычно называют «преобразованиями Фурье», а в теории вероятностей — «характеристическими функциями».

§ 4. Предельная теорема Муавра — Лапласа Получим в качестве следствия из ЦПТ предельную теорему Муавра22 — Лапласа23. Подобно ЗБЧ Бернулли, теорема Муавра — Лапласа имеет дело со схемой Бернулли.

Abraham de Moivre (26.05.1667 — 27.11.1754, France, England) Pierre-Simon Laplace (23.03.1749 — 5.03.1827, France) 116 ГЛАВА 12. Центральная предельная теорема Теорема 39 (п р е д е л ь н а я т е о р е м а М у а в р а — Л а п л а с а).

Пусть событие A может произойти в любом из n независимых испытаний с одной и той же вероятностью p и пусть n(A) — число осуществлений события A в n испытаниях. Тогда n(A) - np N0,1 при n, np(1 - p) т. е. для любых вещественных x < y имеет место сходимость y n(A) - np 1 P x y 0,1(y) - 0,1(x) = e-t /2 dt;

np(1 - p) x Доказательство. Величина n(A) есть сумма независимых, одинаково распределённых случайных величин, имеющих распределение Бернулли с параметром, равным вероятности успеха p: n(A) = 1 +... + n, где 1, если A произошло в i-м испытании;

i = Ii(A) = 0, если A не произошло в i-м испытании;

E 1 = p, D 1 = p(1 - p).

Осталось воспользоваться ЦПТ.

§ 5. Примеры использования ЦПТ Пример 63. Задача из примера 61. Монета подбрасывается 10 000 раз.

Оценим вероятность того, что частота выпадения герба отличается от половины на одну сотую или больше.

n Р е ш е н и е. Требуется найти P - 0,01, где n = 10 000, n n = 1 +... + n = Sn — число выпадений герба, а i — независимые случайные величины, имеющие одно и то же распределение Бернулли с параметром 1/2. Вычислим вероятность дополнительного события. Домножим обе части неравенства знаком вероятности на n = 100 и поделим на под корень из дисперсии D 1 = 1/2.

Sn n 1 n n P - < 0,01 = P - E 1 < 0,01 = n 2 D 1 n D Sn n Sn - nE = P - E 1 < 2 = P -2 < < D 1 n nD 0,1(2) - 0,1(-2) = 1 - 20,1(-2) = 1 - 2 · 0,0228 = 1 - 0,0456.

Искомая вероятность примерно равна 0,0456:

n 1 n P - 0,01 = 1 - P - < 0,01 0,0456.

n 2 n ГЛАВА 12. Центральная предельная теорема Центральной предельной теоремой пользуются для приближённого вычисления вероятностей, связанных с суммами большого числа независимых и одинаково распределённых величин. При этом распределение центрированной и нормированной суммы заменяют на стандартное нормальное распределение. Насколько велика ошибка при такой замене (погрешность приближения) Упражнение. Какие ещё предельные теоремы для схемы Бернулли вы знаете Что такое теорема Пуассона Найти её. Какова погрешность пуассоновского приближения Вычислить её. Объяснить, исходя из полученной величины, почему теорема Пуассона не применима в задаче из примера 63.

В примере 63 мы вычислили искомую вероятность тоже не точно, а приближённо — взгляните на равенство «» и спросите себя: насколько мы ошиблись Стоит ли доверять ответу «0,0456» Следующий результат позволяет оценить погрешность приближения в ЦПТ.

Теорема 40 (н е р а в е н с т в о Б е р р и — Э с с е е н а). В условиях ЦПТ для любого x R и для любого распределения Sn - n E 1 E |1 - E 1| P < x - 0,1(x) C · 3.

n D n D Замечание 29. Про постоянную C известно, что:

а) в общем случае C не превышает 0,7655, б) погрешность приближения наиболее велика, если слагаемые i имеют распределение Бернулли. Как показывают численные расчёты, даже в этом случае можно смело брать в качестве C число 0,4, особенно при малых n, когда и это значение постоянной даёт слишком грубую оценку.

Подробный обзор можно найти в монографии В.М.Золотарева «Современная теория суммирования независимых случайных величин», стр. 264–291.

П р о д о л ж е н и е п р и м е р а 63. Проверьте, что для с.в. 1 с распределением Бернулли E |1 - E 1|3 = |0 - p|3 P(1 = 0) + |1 - p|3 P(1 = 1) = pq(p2 + q2).

Поэтому разница между левой и правой частями приближённого равенства «» в примере 63 при n = 104 и p = q = 1/2 не превышает величины pq(p2 + q2) p2 + q2 C · 0,4 · = 0,004, 3 = C · n pq npq pq n так что искомая вероятность P - > 0,01 не больше, чем 0,0456 + n +0,004. Уместно сравнить этот ответ с оценкой, полученной с помощью ЗБЧ в примере 61.

118 ГЛАВА 12. Центральная предельная теорема Следующая проблема связана с распространённейшим среди студентов заблуждением, которое выглядит так: при n Sn P < E 1 P (E 1 < E 1) = 0, n но уже Sn P E 1 P (E 1 E 1) = 1.

n Пример 64. Пусть 1, 2,... — независимые и одинаково распределённые случайные величины с конечной и ненулевой дисперсией 2 = D 1, Sn = 1 + · · · + n — сумма первых n случайных величин. При каких c имеет или не имеет место сходимость Sn P < c P (E 1 < c) n Р е ш е н и е. Согласно ЗБЧ, последовательность Sn/n сходится по вероятности, а, следовательно, и слабо, к E 1.

Слабая сходимость означает, что последовательность функций распределения Fn(c) = P (Sn/n < c) сходится к функции распределения F(c) = = P (E 1 < c), если F(x) непрерывна в точке c (и ничего не означает, если F(x) разрывна в точке c). Но 0, c E 1;

F(c) = P (E 1 < c) = 1, c > E есть функция распределения вырожденного закона и непрерывна в любой точке c, кроме c = E 1.

Итак, первый вывод: сходимость P (Sn/n < c) P (E 1 < c) имеет место для любого c, кроме, возможно, c = E 1.

Убедимся, что для c = E 1 такой сходимости быть не может. Согласно ЦПТ, Sn n Sn P < E 1 = P - E 1 < 0 0,1(0) =, n n тогда как P (E 1 < E 1) = 0 = 1/2. Аналогично, кстати, ведёт се бя и вероятность P (Sn/n E 1). Она тоже стремится к 1/2, а не к P (E 1 E 1) = 1. Совершенно, кстати, понятно появление 1/2 в пределе. Согласно ЦПТ, разность Sn/n - E 1 становится при больших n всё более и более симметрично распределённой относительно нуля.

И изящное упражнение на ту же тему.

ГЛАВА 12. Центральная предельная теорема Упражнение. Доказать, что 0,999999n lim yn-1 e-y dy = 0;

n (n - 1)! n 1 lim yn-1 e-y dy = ;

n (n - 1)! 1,000001n lim yn-1 e-y dy = 1.

n (n - 1)! У к а з а н и е. Каждый из интегралов равен значению в некоторой точке функции распределения суммы независимых случайных величин с каким-то показательным распределением. Вспомнить, что такое гамма-распределение и «устойчивость относительно суммирования».

Пример 65. Пусть 1, 2,... — последовательность независимых и одинаково распределённых случайных величин с конечной дисперсией D 1 = 2 > 0. Докажем, что для любых вещественных чисел a < b lim P(a Sn b) = 0.

n Преобразуем событие под знаком вероятности:

a - nE 1 Sn - nE 1 b - nE P(a Sn b) = P.

n n n По ЦПТ последовательность (Sn - nE 1) / ( n) слабо сходится к стандартному нормальному распределению. Предельная функция распределения всюду непрерывна, и можно применять теорему 37.

a - nE 1 b - nE Если E 1 > 0, то xn = и yn = стремятся к n n с ростом n. Если E 1 < 0, то xn + и yn +. Если же E 1 = 0, то xn 0 и yn 0 при n. По теореме 37, Sn - nE P xn yn 0, 1 lim yn - 0, 1 lim xn = 0, n n n поскольку при любой величине E 1 значения 0, 1(x) в точках lim xn и lim yn совпадают (либо оба равны нулю, либо оба равны единице, либо 1/2).

Упражнение. Верно ли утверждение данного примера, если 2 = 0, т. е. если 1 имеет вырожденное в точке c распределение Рассмотрите отдельно случаи c = и c = 0.

Г Л А В А Характеристические функции Я напрямик спросил, какую пользу можно извлечь от изучения его работ о покере. «Примерно такую же, как от чтения персидской поэзии»,— ответил фон Нейман.

Д. Мак-Дональд, Игра называется бизнес В этой главе i = -1 — мнимая единица, t — вещественная переменная, eit = cos t + i sin t — формула Эйлера, E ( + i) = E + i E — способ вычисления математического ожидания комплекснозначной случайной величины + i, если математические ожидания её действительной () и мнимой () частей существуют.

Как всегда, модулем комплексного числа z = x + iy называется |z| = eit = x2 + y2, так что = 1.

Определение 54. Функция (t) = E eit вещественной переменной t называется х а р а к т е р и с т и ч е с к о й ф у н к ц и е й случайной величины.

§ 1. Примеры вычисления Пример 66. Пусть случайная величина имеет распределение Бернулли с параметром p. Её характеристическая функция равна (t) = E eit = eit·0 P( = 0) + eit·1 P( = 1) = 1 - p + peit.

Пример 67. Пусть случайная величина имеет биномиальное распределение с параметрами n и p. Её характеристическая функция равна n n k (t) = E eit = eit·k P( = k) = eit·k Cn pk (1 - p)n-k = k=0 k=n k n k = Cn peit (1 - p)n-k = 1 - p + peit.

k=Последнее равенство есть бином Ньютона.

ГЛАВА 13. Характеристические функции Пример 68. Пусть случайная величина имеет распределение Пуассона с параметром. Её характеристическая функция равна k (t) = E eit = eit·k P( = k) = eit·k e- = k! k=0 k= k eit it = e- = e-ee = exp{ eit - 1 }.

k! k=Пример 69. Пусть случайная величина имеет показательное распределение с параметром > 0. Её характеристическая функция равна (t) = E eit = eit·x f(x) dx = eitx e-x dx = e-x(-it) dx = 0 = -e-x(-it) =, - it 0 - it поскольку при x + модуль величины e-x(-it) = e-xeitx стремится e-x(-it) к нулю: = e-x 0.

Пример 70. Пусть случайная величина имеет гамма-распределение с параметрами и. Её характеристическая функция равна (t) = E eit = eit·x f(x) dx = eitx x-1 e-x dx = () 0 it = x-1 e-x(-it) dx = = 1 -.

() - it Интеграл мы вычислили с помощью гамма-функции: замена y = x( - it) даёт 1 () x-1 e-x(-it) dx = y-1 e-y dy =.

( - it) ( - it) 0 Пример 71. Пусть случайная величина имеет стандартное нормальное распределение. Её характеристическая функция равна 1 2 1 2 (t) = eitx e-x /2 dx = e-t /2 e-(x-it) /2 dx = 2 - 2 1 2 = e-t /2 e-(x-it) /2 d(x - it) = e-t /2.

122 ГЛАВА 13. Характеристические функции При интегрировании мы выделили полный квадрат в показателе экспоненты и вспомнили, чему равен интеграл по R от функции e-u /(а чему он равен).

Самое время остановиться и спросить: «Ну и что Зачем нам эти функции и какой от них прок» Приглашаю читателя познакомиться с замечательными свойствами характеристических функций.

§ 2. Свойства характеристических функций (Ф1). Характеристическая функция всегда существует:

E |(t)| = eit 1.

Доказательство. Воспользуемся свойством D 0, равносильным неравенству E E 2:

2 2 E |(t)|2 = cos(t) + iE sin(t) = E cos(t) + E sin(t) E cos2(t) + E sin2(t) = E cos2(t) + sin2(t) = E 1 = 1.

(Ф2). По характеристической функции однозначно восстанавливается распределение (функция распределения, плотность или таблица распределения). Т. е. если две случайные величины имеют одинаковые характеристические функции, то и распределения этих величин совпадают.

Формулы, с помощью которых по характеристической функции восстанавливается распределение, в анализе называют формулами «обратного преобразования Фурье». Например, если модуль характеристической функции интегрируем на всей прямой, то у случайной величины есть плотность распределения, и она находится по формуле f(x) = e-itx (t) dt.

Ни одна из формул обратного преобразования Фурье нам не понадобится.

Pages:     | 1 |   ...   | 14 | 15 || 17 | 18 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.