WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     | 1 |   ...   | 13 | 14 || 16 | 17 |   ...   | 18 |

В дальнейшем мы увидим, что требование конечности второго момента (или дисперсии) связано исключительно со способом доказательства, и что утверждение останется верным, если требовать существования только первого момента.

Доказательство. Обозначим через Sn = 1 +... + n сумму первых n случайных величин. Из линейности математического ожидания получим:

Sn E 1 +... + E n n E E = = = E 1.

n n n Пусть > 0. Воспользуемся неравенством Чебышёва (следствие 18) :

Sn D D Sn D 1 +... + D n n Sn Sn P - E = = = n n 2 n22 nn D 1 D = = 0 при n, (24) n22 nГЛАВА 11. Куда и как сходятся последовательности случайных величин так как D 1 <. Заметим, что дисперсия суммы превратилась в сумму дисперсий в силу попарной независимости слагаемых, из-за которой все ковариации cov(i, j) в свойстве 14 обратились в нуль при i = j. Сумма же дисперсий слагаемых равняется n D 1 из-за их одинаковой распределённости.

Замечание 25. Мы не только доказали сходимость, но и получили оценку для вероятности среднему арифметическому любого числа попарно независимых и одинаково распределённых величин отличаться от E 1 более чем на заданное :

1 +... + n D P - E 1. (25) n nЛегко видеть, что попарную независимость слагаемых в ЗБЧ Чебышёва можно заменить их попарной некоррелированностью, ничего не меняя в доказательстве. ЗБЧ может выполняться и для последовательности зависимых и разнораспределённых слагаемых. Предлагаю читателям, проследив за равенствами и неравенствами (24), получить доказательство следующего утверждения, предлагающего достаточные условия выполнения ЗБЧ для последовательности произвольных случайных величин.

Теорема 34 (З Б Ч М а р к о в а). Последовательность случайных величин 1, 2,... с конечными вторыми моментами удовлетворяет ЗБЧ при выполнении любого из следующих условий:

D Sn а) если D Sn = o(n2), т. е. если 0 при n ;

nб) если 1, 2,... независимы и D 1 +... + D n = o(n2), т. е. если D 1 +... + D n 0 при n ;

nв) если 1, 2,... независимы, одинаково распределены и имеют конечную дисперсию (ЗБЧ Чебышёва).

Теорема Маркова утверждает, что ЗБЧ выполнен, если дисперсия суммы n слагаемых растёт не слишком быстро с ростом n.

Сильная зависимость слагаемых приводит обычно к невыполнению ЗБЧ. Если, например, D 1 = 0 и n 1, то Sn = n1, и свойство (23) не выполнено (убедиться в этом!). В этом случае не выполнено и условие (а) теоремы Маркова: D Sn = D (n1) = cn2. Для одинаково распределённых слагаемых дисперсия суммы ещё быстрее расти уже не может.

Следующее утверждение мы докажем чуть позже. Сравните его условия с условиями ЗБЧ Чебышёва.

Теорема 35 (З Б Ч Х и н ч и н а20). Для любой последовательности 1, 2,... независимых (в совокупности) и одинаково распределённых случайных величин с конечным п е р в ы м моментом E |1| < 108 ГЛАВА 11. Куда и как сходятся последовательности случайных величин имеет место сходимость:

1 +... + n p - E 1.

n Более того, в условиях теоремы 35 имеет место и сходимость п. н. последовательности (1 +...+ n)/n к E 1. Это утверждение называется усиленным законом больших чисел (УЗБЧ) Колмогорова, и его мы доказывать не будем.

Получим в качестве следствия из ЗБЧ Чебышёва закон больших чисел Я. Бернулли. В отличие от ЗБЧ Чебышёва, описывающего предельное поведение среднего арифметического случайных величин с п р о и з в о л ь н ы м и распределениями, ЗБЧ Бернулли — утверждение только для схемы Бернулли.

Теорема 36 (З Б Ч Б е р н у л л и). Пусть событие A может произойти в любом из n независимых испытаний с одной и той же вероятностью p, и пусть n(A) — число осуществлений события A в n n(A) p испытаниях. Тогда - p. При этом для любого > n n(A) p(1 - p) P - p.

n nДоказательство. Заметим, что n(A) есть сумма независимых, одинаково распределённых случайных величин, имеющих распределение Бернулли с параметром p = P(A) (индикаторов того, что в соответствующем испытании произошло A): n(A) = 1 +... + n, где 1, если A произошло в i-м испытании;

i = Ii(A) = 0, если A не произошло в i-м испытании;

и E 1 = P(A) = p, D 1 = p(1-p). Осталось воспользоваться ЗБЧ в форме Чебышёва и неравенством (25).

§ 4. Примеры использования ЗБЧ Чебышёва Пример 61. Монета подбрасывается 10 000 раз. Оценим вероятность того, что частота выпадения герба отличается от 1/2 на 0,01 или более.

Пусть 1,..., n — независимые случайные величины, каждая из которых имеет распределение Бернулли с параметром p = 1/2 и равна единице, если при соответствующем подбрасывании выпал герб, и нулю иначе. Нуж n n но оценить P - 0,01, где n = 104, а n = i — число вы i=n падений герба. Поскольку D 1 = 1/2 · 1/2 = 1/4, искомая оценка сверху Александр Яковлевич Хинчин (19.07.1894 — 18.11.1959) ГЛАВА 11. Куда и как сходятся последовательности случайных величин выглядит так:

n 1 D 1 1 P - 0,01 = =.

n 2 4 · 104 · 10-4 n · 0,Итак, неравенство Чебышёва позволяет заключить, что в среднем не более чем в четверти случаев при 10 000 подбрасываниях монеты частота выпадения герба будет отличаться от 1/2 на одну сотую или больше. Мы увидим, насколько это грубая оценка, когда познакомимся с ц е н т р а л ь н о й п р е д е л ь н о й т е о р е м о й.

Пример 62. Пусть 1, 2,... — случайные величины, дисперсии которых ограничены одной и той же постоянной C, а ковариации любых двух i и j (i = j), не являющихся соседними в последовательности, равны нулю.

Удовлетворяет ли эта последовательность ЗБЧ Воспользуемся подходящим неравенством в (24) и свойством 14:

D Sn Sn Sn P - E ;

n n nn D (1 +... + n) = D i + 2 cov(i, j). (26) i=1 i

Оценим каждую из них, используя тот факт, что коэффициент корреляции по модулю не превосходит единицы:

cov(i, j) D i D j C C = C, n n- D Sn = D i + 2 cov(i, i+1) nC + 2(n - 1)C.

i=1 i=Получаем, что последовательность 1, 2,... удовлетворяет ЗБЧ, так как выполнено условие (а) теоремы Маркова: D Sn = o(n2).

Г Л А В А Центральная предельная теорема Из этой первой лекции по теории вероятностей я запомнил только полузнакомый термин «математическое ожидание». Незнакомец употреблял этот термин неоднократно, и каждый раз я представлял себе большое помещение, вроде зала ожидания, с кафельным полом, где сидят люди с портфелями и бюварами и, подбрасывая время от времени к потолку монетки и бутерброды, сосредоточенно чего-то ожидают. До сих пор я часто вижу это во сне. Но тут незнакомец оглушил меня звонким термином «предельная теорема Муавра — Лапласа» и сказал, что всё это к делу не относится.

Аркадий и Борис Стругацкие, Стажёры § 1. Как быстро среднее арифметическое сходится к математическому ожиданию Пусть, как в законе больших чисел Чебышёва, Sn = 1 +... + n — сумма n независимых и одинаково распределённых величин с конечной дисSn p персией. Тогда по ЗБЧ - E 1 с ростом n. Или, после приведения n к общему знаменателю, Sn - n E p - 0.

n Если при делении на n мы получили в пределе нуль (в смысле некоторой, всё равно какой, сходимости), резонно задать себе вопрос: а не слишком ли на большую величину мы поделили Нельзя ли поделить на что-нибудь, растущее к бесконечности медленнее, чем n, чтобы получить в пределе не нуль (и не бесконечность, само собой) Можно поставить этот вопрос по-другому. Вот последовательность, стремящаяся (как-то) к нулю. Можно ли её домножить на что-либо растущее, чтобы «погасить» это стремление к нулю Получив, тем самым, чтонибудь конечное и отличное от нуля в пределе ГЛАВА 12. Центральная предельная теорема Оказывается, что уже последовательность случайных величин - n E Sn - n E 1 Sn = n · n n не сходится к нулю. Распределение членов этой последовательности становится всё более похожим на нормальное распределение! Можно считать, что такая последовательность сходится к случайной величине, имеющей нормальное распределение, но сходится никак не по вероятности, а только в смысле сходимости распределений, или «слабой сходимости».

§ 2. Слабая сходимость Пусть задана последовательность случайных величин 1, 2,..., задано некоторое распределение F с функцией распределения F и пусть — произвольная случайная величина, имеющая распределение F.

Определение 53. Говорят, что последовательность случайных величин 1, 2,... сходится с л а б о или п о р а с п р е д е л е н и ю к случайной величине и пишут: n, если для любого x такого, что функция распределения F непрерывна в точке x, имеет место сходимость F (x) F(x) n при n.

Итак, слабая сходимость — это сходимость функций распределения во всех точках непрерывности предельной функции распределения.

Замечание 26. Необходимо заметить, что запись n удобна, но не всегда разумна: если «предельную» величину заменить на другую величину с тем же распределением, ничего не изменится: в том же смысле n. Поэтому слабая сходимость всё же не есть сходимость случайных величин, и ею нельзя оперировать как сходимостями п. н. и по вероятности, для которых предельная случайная величина единственна (с точностью до значений на множестве нулевой вероятности).

Поэтому в определении 53 часто говорят и пишут так: n слабо сходится к распределению F, т. е. n F, либо даже так: р а с п р е д е л е н и я n слабо сходятся к распределению F: Fn F.

Следующее свойство очевидно. Если нет — нужно вернуться к разделу и вспомнить, что такое функция распределения.

Свойство 19. Если n, и функция распределения F непрерывна в точках a и b, то P(n (a, b)) P( (a, b)). Наоборот, если во всех точках a и b непрерывности функции распределения F имеет место сходимость P(n (a, b)) P( (a, b)), то n.

Вместо открытого интервала (a, b) можно взять [a, b], (a, b] или [a, b).

Следующее свойство уточняет отношения между сходимостями.

p Свойство 20. 1. Если n -, то n.

p 2. Если n c = const, то n - c.

112 ГЛАВА 12. Центральная предельная теорема Итак, сходимость по вероятности влечёт слабую сходимость. Обратное утверждение в общем случае смысла не имеет (см. замечание 26). Однако из слабой сходимости к п о с т о я н н о й вытекает сходимость по вероятности.

Доказательство. Свойство (1) мы докажем чуть позже.

Докажем (2): слабая сходимость к постояннной влечёт сходимость по вероятности. Пусть n c, т. е.

0, x c;

F (x) Fc(x) = n 1, x > c при любом x, являющемся точкой непрерывности предельной функции Fc(x), т. е. при всех x = c.

Возьмём произвольное > 0 и докажем, что P(|n - c| < ) 1:

P(- < n - c < ) = P(c - < n < c + ) P(c - /2 n < c + ) = = F (c + ) - F (c - /2) Fc(c + ) - Fc(c - /2) = 1 - 0 = 1, n n поскольку в точках c+ и c-/2 функция Fc непрерывна, и, следовательно, имеет место сходимость последовательностей F (c + ) к Fc(c + ) = n и F (c - /2) к Fc(c - /2) = 0.

n Осталось заметить, что P(|n - c| < ) не бывает больше 1, так что по свойству предела зажатой последовательности P(|n - c| < ) 1.

Следующее свойство приводит пример операций, которые можно применять к слабо сходящимся последовательностям — домножать их на последовательности, сходящиеся по вероятности к постоянным величинам.

Замечание 27. Желание написать «если n и n, то n + n + » сразу проходит, стоит перевести это «свойство» на язык функций распределения и задуматься — что такое «функция распределения суммы + », когда вместо них можно брать любые другие и с теми же распределениями, как угодно зависимые.

Иное дело — когда одно из предельных распределений вырождено. Тогда функция распределения суммы или произведения определена однозначно.

p Свойство 21. 1. Если n - c = const и n, то n · n c.

p 2. Если n - c = const и n, то n + n c +.

Доказательство. Нелюбознательный читатель может пропустить это доказательство, вернувшись к нему при втором прочтении.

Заметим вначале, что если n, то cn c и c + n c + (доказать).

Поэтому достаточно доказать первое утверждение свойства 21 при c = 1, а второе утверждение — при c = 0.

Рассмотрим второе утверждение, оставив первое любознательному читателю.

p Пусть n - 0 и n. Докажем, что тогда n + n.

Пусть x0 — точка непрерывности функции распределения F(x). Требуется доказать, что имеет место сходимость Fn+n(x0) F(x0). Зафиксируем достаточно маленькое > 0 такое, что F(x) непрерывна в точках x0 ±.

ГЛАВА 12. Центральная предельная теорема Cобытия H1 = {|n| } и H2 = {|n| < } образуют полную группу, поэтому Fn+n(x0) = P(n + n < x0) = = P(n + n < x0, H1) + P(n + n < x0, H2) = P1 + P2.

Оценим P1 + P2 сверху и снизу. Для P1 имеем:

0 P1 = P(n + n < x0, H1) P(H1) = P(|n| ), и последняя вероятность может быть выбором n сделана сколь угодно малой.

Для P2, с одной стороны, P2 = P(n + n < x0, - < n < ) P(- + n < x0) = P(n < x0 + ).

Неравенство следует из простого соображения: если n > - и n + n < x0, то, тем более, - + n < x0.

С другой стороны, P2 = P(n + n < x0, - < n < ) P( + n < x0, - < n < ) P( + n < x0) - P(|n| ) = P(n < x0 - ) - P(|n| ).

Здесь первое неравенство объясняется включением { + n < x0, - < n < } {n + n < x0, - < n < }, которое получилось заменой в событии { + n < x0} числа на меньшую величину n, n <. Второе неравенство следует из свойств:

P(AB) P(B), поэтому P(AB) = P(A) - P(AB) P(A) - P(B).

Мы получили оценки снизу и сверху для P1 + P2, т. е. для Fn+n(x0):

P(n < x0 - ) - P(|n| ) Fn+n(x0) P(|n| ) + P(n < x0 + ), или Fn(x0 - ) - P(|n| ) Fn+n(x0) P(|n| ) + Fn(x0 + ).

Устремляя n к бесконечности, и вспоминая, что x0± — точки непрерывности функции распределения F, получим F(x0 - ) lim Fn+n(x0) lim Fn+n(x0) F(x0 + ). (27) У любой функции распределения не более чем счётное множество точек разрыва.

Поэтому можно выбрать такую уменьшающуюся до нуля последовательность, что в точках x0 ± функция распределения F будет непрерывной, и, следовательно, останутся верны неравенства (27). Переходя к пределу по такой последовательности 0 и помня, что x0 — точка непрерывности функции F, получим, что нижний и верхний пределы Fn+n(x0) при n совпадают и равны F(x0).

Доказательство у т в е р ж д е н и я (1) и з с в о й с т в а 20. В качестве простого следствия из только что доказанного второго утверждения свойp ства 21 покажем, что сходимость n - по вероятности влечёт слабую сходимость n.

Представим n в виде суммы n = (n -)+. Здесь последовательность n - по вероятности стремится к нулю, а «последовательность» слабо сходится к. Поэтому их сумма слабо сходится к.

Получим ещё одно следствие из свойства 21. Для удобства ссылок назовём следующее утверждение «теоремой о двойном пределе».

Pages:     | 1 |   ...   | 13 | 14 || 16 | 17 |   ...   | 18 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.