WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     | 1 |   ...   | 12 | 13 || 15 | 16 |   ...   | 18 |

В частности, при каждом новом мы имеем новую ч и с л о в у ю последовательность 1(), 2(), 3(),... Поэтому, во-первых, можно говорить о сходимости последовательности значений функций в данной точке, а также во всех остальных точках. В теории вероятностей можно не обращать внимание на неприятности, происходящие с нулевой вероятностью. Поэтому вместо сходимости «всюду» принято рассматривать сходимость «почти всюду», или «почти наверное».

Определение 49. Говорят, что последовательность {n} сходится п о ч т и н а в е р н о е к случайной величине при n, и пишут:

n п. н., если P { : n() () при n } = 1. Иначе говоря, если n() () при n для всех, кроме, возможно, A, где A — событие, имеющее нулевую вероятность.

100 ГЛАВА 11. Куда и как сходятся последовательности случайных величин Заметим сразу: определение сходимости «почти наверное» требует знания того, как устроены отображения n(). В задачах же теории вероятностей, как правило, известны не сами случайные величины, а лишь их р а с п р е д е л е н и я.

Можем ли мы, обладая только информацией о распределениях, говорить о какой-либо сходимости последовательности случайных величин {n} к случайной величине Можно, например, потребовать, чтобы вероятность тех элементарных исходов, для которых n() не попадает в «-окрестность» числа (), уменьшалась до нуля с ростом n. Такая сходимость в функциональном анализе называется сходимостью «по мере», а в теории вероятностей — сходимостью «по вероятности».

Определение 50. Говорят, что последовательность случайных величин {n} сходится п о в е р о я т н о с т и к случайной величине при p n, и пишут: n -, если для любого > P (|n - | ) 0 при n (или P (|n - | < ) 1 при n ).

Пример 60. Рассмотрим последовательность 1, 2,..., в которой все величины имеют р а з н ы е распределения: величина n принимает значения 0 и n7 с вероятностями P n = n7 = 1/n = 1 - P(n = 0). Докажем, что эта последовательность сходится по вероятности к нулю.

Зафиксируем произвольное > 0. Для всех n, начиная с некоторого n0 такого, что n7 >, верно равенство P(n ) = P(n = n7) = 1/ n.

Поэтому P |n - 0| = P n = P n = n7 = 0 при n.

n Итак, случайные величины n с ростом n могут принимать всё большие и большие значения, но со всё меньшей и меньшей вероятностью.

Например, последовательность {n} можно задать на вероятностном пространстве, F, P = [0, 1], B([0, 1]), так:

n() 3() 4() 5() n 2 3 4 1- 1 1 3 4 5 n ГЛАВА 11. Куда и как сходятся последовательности случайных величин А именно, положим n() = 0 для [0, 1 - 1/ n] и n() = nдля (1 - 1/ n, 1]. Заметим, что сходимость по вероятности имеет место совершенно независимо от того, как именно заданы случайные величины на, поскольку определяется лишь их распределениями.

Замечание 24. Иное дело — сходимость «почти наверное». Если, скажем, задать случайные величины как показано на графиках, то сходимость «почти наверное» будет иметь место. Действительно, для всякого [0, 1) найдётся такое n0, что [0, 1 - 1/n0], и поэтому для всех n n0 все n() равны нулю.

Можно попробовать задать случайные величины n на [0, 1] как-нибудь иначе, чтобы не было сходимости почти наверное. Для этого нужно заставить отрезок длины 1 / n, на котором n() = n7, «бегать» по отрезку [0, 1], чтобы любая точка [0, 1] попадала внутрь этого отрезка бесконечное число раз, и, тем самым, для любого существовала подпоследовательность nk ().

Однако заметим, что если вероятности P(n = n7) сходятся к нулю достаточно быстро (например, равны 1/n2 — чтобы ряд из них сходился), то сходимость п. н. к нулю всегда имеет место (см. теорему 2 § 1 гл. 6 на стр. 134 учебника А. А. Боровкова «Теория вероятностей»).

Сходимость по вероятности не обязательно сопровождается сходимоp стью математических ожиданий или моментов других порядков: из n - н е с л е д у е т, что E n E. Действительно, в примере 60 имеет место p сходимость n - = 0, но E n = n6 E = 0. При этом вообще последовательность E n неограниченно возрастает.

А если вместо значения n7 взять n (с той же вероятностью 1/ n), то получим E n = 1 E = 0. Но теперь хотя бы предел у последовательности математических ожиданий конечен.

Если же n принимает значения 0 и n с теми же вероятностями, что и в примере 60, то E n = 1/ n E = 0, но уже вторые моменты сходиться ко второму моменту не будут: E 2 = 1 E 2 = 0.

n Сходимость по вероятности обладает обычными свойствами пределов числовых последовательностей — например, такими:

p p Свойство 16. Если n - и n -, то:

p p 1. n + n - + ; 2. n · n - ·.

Доказательство. При первом прочтении его можно пропустить.

1. В доказательстве мы будем пользоваться свойством монотонности вероятности: если из события A следует событие B (A влечёт B), то вероятность A не превосходит вероятности B: если A B, то P(A) P(B).

Остановимся и ответим на следующие «глупые вопросы». Верно ли, что:

а) модуль суммы не превосходит суммы модулей б) если a > b и c > a, то c > b в) если a + b > 2, то хоть одно из чисел a, b больше единицы г) вероятность объединения событий не превосходит суммы их вероятностей д) вероятность пересечения событий не превосходит вероятности каждого 102 ГЛАВА 11. Куда и как сходятся последовательности случайных величин Если на все вопросы вы ответили «да», можно двигаться дальше. Если не на все — ваш контрпример ошибочен. Если вы вообще не поняли, о чём это, лучше вернуться к началу курса.

Докажем, что для сходимости по вероятности предел суммы равен сумме пределов. Зафиксируем > 0. Требуется доказать, что P(|n + n - - | ) 0 при n. Но (ср. с вопросами выше):

(а) |n + n - - | |n - | + |n - |, поэтому (б) (в) {|n+n--| } {|n-|+|n-| } {|n-| /2}{|n-| /2}.

Тогда по свойству монотонности вероятности (г) P(|n + n - - | ) P |n - | /2 или |n - | /(г) P(|n - | /2) + P(|n - | /2) p p при n в силу того, что n - и n -.

2. Для доказательства второго утверждения нам понадобится, кроме положительных ответов на «глупые вопросы» (а)–(д), следующее «хорошее свойство»: для любой случайной величины, согласно свойству (F2) функций распределения, вероятность P(|| M) стремится к нулю при M.

Представим |nn - | как |(n - )(n - ) + (n - ) + (n - )|. Затем получим из (а) и монотонности вероятности, что P(|nn - | ) P(|n - | |n - | /3) + P(|| |n - | /3) + + P(|| |n - | /3).

Подумайте, что делать с первым слагаемым в правой части, а мы пока рассмотрим второе слагаемое (третье ничем принципиально от второго не отличается). Обозначим через An = {|| |n - | /3} событие под знаком второй вероятности. Зафиксируем некоторое M > 0 и разобьем событие An по полной группе событий B = {|| M} и B = {|| < M}:

P(An) = P(AB) + P(AB) = P An, || M + P An, || < M.

Первую вероятность оцениваем в соответствии с вопросом (д), вторую — пользуясь тем, что из неравенств || |n - | /3 и || < M следует неравенство M |n - | /3. Получаем:

P(An) P(|| M) + P M|n - | = P(|| M) + P |n - |.

3 3M Осталось для любого фиксированного M > 0 устремить n к бесконечности, получив для верхнего предела оценку lim P(An) P(|| M), после чего мы можем n устремить к бесконечности M, пользуясь «хорошим свойством».

Сходимость по вероятности, так же как и любая другая сходимость, не портится под действием непрерывной функции.

ГЛАВА 11. Куда и как сходятся последовательности случайных величин Свойство 17.

p p 1. Если n - и g(x) — непрерывная функция, то g(n) - g().

p p 2. Если n - c и g(x) непрерывна в точке c, то g(n) - g(c).

Доказательство. Простое доказательство первого утверждения можно предложить в двух случаях, которыми мы и ограничимся: если = c = = const (и тогда достаточно, чтобы g была непрерывна в точке c) или если функция g равномерно непрерывна (а что это значит).

И в том, и в другом случае для любого > 0 найдётся такое > 0, что для любого, удовлетворяющего условию |n() - ()| <, выполняется неравенство |g(n()) - g(())| <.

Т. е. событие |n - | < влечёт событие |g(n()) - g(())| <.

Следовательно, вероятность первого не больше вероятности второго. Но, какое бы ни было > 0, вероятность первого события стремится к единице по определению сходимости по вероятности:

1 - P |n - | < P |g(n()) - g(())| < 1.

Следовательно, вероятность второго события также стремится к единице.

Предлагаю поразмышлять над тем, как доказывать первую часть свойства 17 в общем случае.

Сходимость «почти наверное» сильнее сходимости по вероятности.

p Свойство 18. Если n п. н., то n -.

Доказательство. При первом прочтении его можно пропустить. Ограничимся для простоты случаем, когда n() () д л я л ю б о г о.

Зафиксируем. По определению предела, n() () при n, если для всякого > 0 найдётся N = N(, ) 0 такое, что для всех n > N выполняется неравенство |n() - ()| <. Ничто не мешает нам дополнительно потребовать, чтобы |N () - ()| было не меньше, т. е. чтобы среди всех возможных N(, ) мы заранее выбрали наименьшее (примем N = 0, если |n() - ()| < при всех n 1).

Итак, событие A = {n > N(, )} влечёт событие B = {|n() - ()| < }.

Но тогда 1 P(B) P(A) = P N(, ) < n = FN(,)(n) 1 при n по свойству (F2) функций распределения. Тогда и P(B) = P |n() - ()| < стремится к единице. В силу произвольности выбора, это означает сходимость p n -.

Осталось только проверить, является ли A = {n > N(, )} событием, т. е. является ли при каждом функция N(, ) измеримым отображением из в N (случайной величиной). Для этого достаточно установить, что {N(, ) = n} — событие.

Имеем при n 1:

{N(, ) = n} = |n() - ()| |k() - ()| < F, k=n+104 ГЛАВА 11. Куда и как сходятся последовательности случайных величин поскольку |k() - ()| — случайная величина. При n = 0 первый сомножитель {|n()-()| } просто отсутствует. Итак, {N(, ) = n} F, что и требовалось доказать.

Чтобы доказывать сходимость по вероятности, требуется уметь вычислять P (|n - | ) при больших n. Но для этого нужно знать распределение n, что не всегда возможно. Скажем, n может быть суммой (или ещё хуже!) нескольких других случайных величин, распределения которых не устойчивы по суммированию, и вычислить распределение их суммы по формуле свертки или как-то ещё будет слишком сложно.

Если бы мы имели неравенства, позволяющие оценить P (|n - | ) сверху чем-либо, что мы умеем устремлять к нулю и что проще вычисляется, то сходимость по вероятности мы получили бы по свойству зажатой последовательности: 0 P(...)... 0. Итак, неравенства Чебышёва17.

§ 2. Неравенства Чебышёва Все неравенства в этом параграфе принято относить к одному классу «неравенств Чебышёва». Следующее неравенство часто называют собственно неравенством Чебышёва, хотя в такой форме оно появилось впервые, видимо, в работах Маркова18.

Теорема 32 (н е р а в е н с т в о М а р к о в а). Если E || <, то для любого x > E || P || x.

x Доказательство. Нам потребуется следующее понятие.

Определение 51. Назовём и н д и к а т о р о м события A случайную величину I(A), равную единице, если событие A произошло, и нулю, если A не произошло.

По определению, величина I(A) имеет распределение Бернулли с параметром p = P(I(A) = 1) = P(A), и её математическое ожидание равно вероятности успеха p = P(A). Индикаторы прямого и противоположного событий связаны равенством I(A) + I(A) = 1. Поэтому || = || · I(|| < x) + || · I(|| x) || · I(|| x) x · I(|| x).

Тогда E || E x · I(|| x) = x · P || x. (21) Осталось разделить обе части неравенства (21) на положительное x.

Следующее неравенство мы будем называть обобщённым неравенством Чебышёва.

Пафнутий Львович Чебышёв (16.05.1821 — 8.12.1894) Андрей Андреевич Марков (14.06.1856 — 20.07.1922) ГЛАВА 11. Куда и как сходятся последовательности случайных величин Следствие 17 (обобщённое неравенство Чебышёва). Пусть функция g не убывает и неотрицательна на R. Если E g() <, то для любого x R E g() P x.

g(x) Доказательство. Заметим, что P x P g() g(x), поскольку функция g не убывает. Оценим последнюю вероятность по неравенству Маркова, которое можно применять в силу неотрицательности g:

E g() P g() g(x).

g(x) Бьенеме19 и Чебышёв прямыми методами доказали неравенство, которое нам будет удобно получить как следствие неравенства Маркова.

Следствие 18 (неравенство Чебышёва — Бьенеме). Если D существует, то для любого x > D P | - E | x.

xДоказательство. Для x > 0 неравенство | - E | x равносильно неравенству ( - E )2 x2, поэтому - E E D P | - E | x = P ( - E )2 x2 =.

x2 xВ качестве следствия получим так называемое «правило трёх сигм», которое означает, что вероятность случайной величине отличаться от своего математического ожидания более чем на три корня из дисперсии, мала. Разумеется, для каждого распределения величина этой вероятности своя: для нормального распределения, например, 0,0027 — см. свойство 12. Мы получим верную для всех распределений с конечной дисперсией оценку сверху для вероятности случайной величине отличаться от своего математического ожидания более чем на три корня из дисперсии.

Следствие 19. Если E 2 <, то P | - E | 3 D.

Доказательство. Согласно следствию 18, D P | - E | 3 D.

2 = 3 D Упражнение. Найти P | - E | 3 D, если имеет а) равномерное распределение на каком-нибудь отрезке;

б) показательное распределение с каким-нибудь параметром;

в) распределение Бернулли с параметром 1/2.

Irenee-Jules Bienaym (28.08.1796 — 19.10.1878, Paris) 106 ГЛАВА 11. Куда и как сходятся последовательности случайных величин § 3. Законы больших чисел Определение 52. Говорят, что последовательность случайных величин 1, 2,... с конечными первыми моментами у д о в л е т в о р я е т з а к о н у б о л ь ш и х ч и с е л (ЗБЧ), если 1 +... + n E 1 +... + E n p - - 0 при n. (22) n n Законами больших чисел принято называть утверждения о том, при каких условиях последовательность случайных величин удовлетворяет закону больших чисел.

Выясним сначала, когда выполнен ЗБЧ для последовательности независимых и одинаково распределённых случайных величин.

Теорема 33 (З Б Ч Ч е б ы ш ё в а). Для л ю б о й последовательности 1, 2,... попарно независимых и одинаково распределённых случайных величин с конечным вторым моментом E 2 < имеет место сходимость:

1 +... + n p - E 1. (23) n Заметим, что если величины одинаково распределены, то их математические ожидания одинаковы (и равны, например, E 1), поэтому свойство (22) можно записать в виде (23).

ЗБЧ утверждает, что среднее арифметическое большого числа случайных слагаемых «стабилизируется» с ростом этого числа. Как бы сильно каждая случайная величина не отклонялась от своего среднего значения, при суммировании эти отклонения «взаимно гасятся», так что среднее арифметическое приближается к постоянной величине.

Pages:     | 1 |   ...   | 12 | 13 || 15 | 16 |   ...   | 18 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.