WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     | 1 |   ...   | 11 | 12 || 14 | 15 |   ...   | 18 |

n D (1 +... + n) = D i + cov(i, j) = i=1 i =j n = D i + 2 cov(i, j) = cov(i, j).

i=1 i

1. Если ковариация cov(, ) отлична от нуля, то величины и зависимы. Чтобы судить о наличии зависимости согласно любому из определений независимости, требуется знать совместное распределение пары и.

Но найти совместное распределение часто бывает сложнее, чем посчитать математическое ожидание произведения и. Если нам повезёт, и математическое ожидание произведения и не будет равняться произведению их математических ожиданий, мы скажем, что и зависимы, н е н а х о д я их совместного распределения. Это очень хорошо.

Пример 55. Покажем, что с помощью ковариации можно судить о зависимости даже тогда, когда для вычисления совместного распределения недостаточно данных. Пусть и — независимые случайные величины, и дисперсия отлична от нуля (что это значит). Покажем, что и + зависимы:

E ( + ) = E 2 + E E, E E ( + ) = (E )2 + E E, поэтому cov(, + ) = E 2 + E E - (E )2 + E E = D > 0. Следовательно, и + зависимы.

Упражнение. Доказать, что величины и + независимы, если D = 0.

2. Величина cov(, ) не является «безразмерной»: если — объем газа в сосуде, а — давление этого газа, то ковариация измеряется в м3 Па.

Иначе говоря, при умножении или на какое-нибудь число ковариация тоже умножается на это число. Но умножение на число не сказывается на «степени зависимости» величин (они от этого «более зависимыми» не становятся), так что большое значение ковариации не означает более сильной зависимости. Это очень плохо.

Нужно как-то нормировать ковариацию, получив из неё «безразмерную» величину, абсолютное значение которой:

а) не менялось бы при умножении случайных величин на число;

б) свидетельствовало бы о «силе зависимости» случайных величин.

ГЛАВА 10. Числовые характеристики зависимости Замечание 22. Говоря о «силе» зависимости между случайными величинами, мы имеем в виду следующее. Самая сильная зависимость — функциональная, а из функциональных — линейная зависимость, когда = a + b п. н. Бывают гораздо более слабые зависимости. Так, если по последовательности независимых случайных величин 1, 2,... построить величины = 1 +... + 24 + 25 и = 25 + + 26 +... + 90, то эти величины зависимы, но очень «слабо»: через единственное общее слагаемое 25. Сильно ли зависимы число гербов в первых 25 подбрасываниях монеты и число гербов в испытаниях с 25-го по 90-е Итак, следующая величина есть всего лишь ковариация, нормированная нужным образом.

§ 2. Коэффициент корреляции Определение 47. К о э ф ф и ц и е н т о м к о р р е л я ц и и (, ) случайных величин и, дисперсии которых существуют и отличны от нуля, называется ч и с л о cov(, ) (, ) =.

D D Замечание 23. Чтобы разглядеть «устройство» коэффициента корреляции, распишем по определению числитель и знаменатель:

E ( - E )( - E ) (, ) = 2 2.

E - E E - E Здесь математикам уместно провести аналогии с «косинусом угла» между двумя элементами - E и - E гильбертова пространства, образованного случайными величинами с нулевым математическим ожиданием и конечным вторым моментом, снабженного скалярным произведением cov(, ) и «нормой», равной корню из дисперсии, или корню из скалярного произведения cov(, ).

Пример 56. Рассмотрим продолжение примера 55, но пусть и будут не только независимыми, но и одинаково распределёнными случайными величинами, и их дисперсия отлична от нуля. Найдём коэффициент корреляции величин и + :

cov(, + ) D D =.

(, + ) = = = D D ( + ) D D + D D 2D Коэффициент корреляции величин и + равен косинусу угла 45, образованного «векторами» и +, когда « » и их «длина» одинакова.

Упражнение. Чтобы аналогия не заходила слишком далеко, и у читателя не возникло искушения любые случайные величины рисовать стрелочками на плоскости и вместо подсчёта математических ожиданий измерять углы, предлагаю убедиться, например, что коэффициент корреляции величин и 2 равен:

а) нулю, если имеет нормальное распределение с нулевым средним;

б) 2/ 5, если имеет показательное распределение с любым параметром.

94 ГЛАВА 10. Числовые характеристики зависимости § 3. Свойства коэффициента корреляции Предполагается, что коэффициент корреляции существует.

Теорема 31. Коэффициент корреляции обладает свойствами:

1) если и независимы, то (, ) = 0;

2) всегда |(, )| 1;

3) |(, )| = 1 тогда и только тогда, когда и п. н. линейно связаны, т. е. существуют числа a = 0 и b такие, что P( = a + b) = 1.

Доказательство.

1) Свойство (1) мы уже много раз (сколько) упоминали и один раз доказали. Более того, при рассмотрении свойств математического ожидания мы привели примеры 40 и 41 — два из многих возможных примеров того, что свойство (1) в обратную сторону неверно.

2) Обозначим через 2 и 2 дисперсии и соответственно, и рассмот рим неотрицательную (почему) дисперсию любой из двух случайных величин ± = ± :

0 D ± = D () + D (±) + 2cov(, ±) = = 22 + 22 ± 2cov(, ) = 222(1 ± (, )).

Мы получили два полезных соотношения:

D + D 1 + (, ) = 0, 1 - (, ) = 0. (20) 222 Из них сразу следует, что -1 (, ) 1.

3) В одну сторону утверждение проверяется непосредственно:

Упражнение. Воспользоваться свойствами математического ожидания и дис персии и доказать, что 1, a > 0;

(, a + b) = -1, a < 0.

Не забудьте, что a2 = |a|, а не просто a! Докажем вторую часть свойства (3): если |(, )| = 1, то существуют числа a = 0 и b такие, что P( = a + b) = 1.

Рассмотрим сначала случай (, ) = 1. Это возможно только если второе неравенство в формуле (20) превращается в равенство:

D 0 = 1 - (, ) =, т. е. D - = 0. Тогда, по свойству (D3), - = c п. н., где c — некоторое число. Иначе говоря, - = c п. н., или c = - = a + b п. н.

ГЛАВА 10. Числовые характеристики зависимости В случае (, ) = -1 нужно рассмотреть первое неравенство в формуле (20) и повторить рассуждения. Тем самым теорема 31 доказана.

Полезно знать следующие часто употребляемые термины.

Определение 48. Говорят, что и отрицательно коррелированы, если (, ) < 0, положительно коррелированы, если (, ) > 0, и некоррелированы, если (, ) = 0.

Смысл знака (, ) хорошо виден в случае (, ) = ±1. Тогда знак равен знаку a в равенстве = a + b п. н. Так, (, ) = 1 означает, что чем больше, тем больше и. Напротив, (, ) = -1 означает, что чем больше, тем меньше. Похожим образом можно трактовать знак коэффициента корреляции и в случае, когда |(, )| < 1, помня при этом, что зависимость между и теперь уже не линейная и, возможно, даже не функциональная.

Так, величины и + в примерах 55 и 56 положительно коррелированы, но их зависимость не функциональная.

Следующее свойство показывает, что модуль коэффициента корреляции не меняется при линейных преобразованиях случайных величин.

Свойство 15. Для любых случайных величин и с конечной и ненулевой дисперсией при любых постоянных a = 0 и b имеет место равенство:

1, a > 0;

(a + b, ) = sgn(a) · (, ), где sgn(a) = -1, a < 0.

Доказательство. Запишем (a +b, ), не забывая про свойства дисперсии:

cov(a + b, ) a cov(, ) a (a + b, ) = = = · (, ).

|a| D (a + b) D a2D D Осталось заметить, что знак a как раз и равен sgn(a) = a/|a|.

§ 4. Примеры Пример 57. Если и суть координаты точки, брошенной наудачу в треугольник D с вершинами (2, 0), (0, 0) и (0, 1), то их коэффициент корреляции (, ) отрицателен. Это можно объяснить так: чем больше, тем меньше у возможностей быть большой.

Предлагаю убедиться в этом, проверив справедливость следующих высказываний. Во-первых, x 1 -, 0 x 2;

2 - 2y, 0 y 1;

f(x) = f(y) = 0, иначе, 0, иначе ;

96 ГЛАВА 10. Числовые характеристики зависимости и вычисленные по этим плотностям средние (вычислить) равны соответственно E = 2/3 и E = 1/3.

Во-вторых, по определению многомерного равномерного распределения в области D, 1-x/ E ( ) = x · y · 1 dx dy = x y dy dx = (кажется).

D 0 Т. е. ковариация (а с ней и коэффициент корреляции) отрицательна.

Упражнение. А почему коэффициент корреляции в примере 57 существует Какие свойства случайных величин гарантируют конечность второго момента А из их ограниченности следует существование каких-нибудь моментов Пример 58. Найдём коэффициент корреляции между числом выпадений единицы и числом выпадений шестерки при n подбрасываниях правильной игральной кости.

Обозначим для i {1,..., 6} через i случайную величину, равную числу выпадений грани с i очками при n подбрасываниях кубика. Посчитаем cov(1, 6). Каждая из случайных величин i имеет биномиальное распределение с параметрами n и 1/6, поэтому E i = n/6, D i = 5n/36.

Далее заметим, что 1 +... + 6 = n. Из-за симметрии кубика математические ожидания E 12, E 13,..., E 16 одинаковы (но, надо думать, отличаются от E 11 = E 2 = D 1 + (E 1)2 = 5n/36 + n2/36).

Посчитаем E 1(1 + · · · + 6). С одной стороны, это равно E 1(1 +... + 6) = E 1 · n = n2/6, с другой стороны, E 1(1 +... + 6) = E 2 + 5E 16 = 5n/36 + n2/36 + 5E 16.

Отсюда 5E 16 = n2/6 - 5n/36 - n2/36, т. е. E 16 = (n2 - n)/36.

Следовательно, искомый коэффициент корреляции равен E 16 - E 1E 6 (n2 - n)/36 - n2/36 (1, 6) = = = -.

5n/36 D 1D Интересно, что полученный коэффициент корреляции не зависит от n.

Упражнение. Объяснить, почему коэффициент корреляции (1, 6) отрицателен. Найти коээфициенты корреляции (1, 2) и (1, 1).

Пример 59. Вычислим математическое ожидание и дисперсию гипергеометрического распределения. Мы не могли сделать это раньше, так как очень не хотели вычислять следующие суммы:

n-k n-k k k CKCN-K CKCN-K E = k, E 2 = k2, n n CN CN k k ГЛАВА 10. Числовые характеристики зависимости где, напомним (чтобы читатель окончательно отказался от мысли вычислить эти суммы напрямую), суммирование ведётся по целым k таким, что 0 k K и 0 n - k N - K.

Рассмотрим урну, содержащую K белых шаров и N - K не белых, и пусть из неё наудачу и без возвращения выбирают по одному n шаров. Свяжем случайную величину, равную числу белых шаров среди n выбранных, с результатами отдельных извлечений шаров.

Обозначим через i, где i = 1,..., n, «индикатор» того, что i-й по счёту вынутый шар оказался белым: i = 1, если при i-м извлечении появился белый шар, иначе i = 0. Тогда = 1 +... + n — число появившихся белых шаров, и математическое ожидание считается просто:

E = E (1 +... + n) = E 1 +... + E n.

Убедимся, что случайные величины 1,..., n имеют одно и то же распределение Бернулли Bp, где p = K /N.

Пронумеруем шары: белые — номерами от одного до K, остальные — номерами от K +1 до N. Элементарным исходом опыта является набор из n номеров шаров в схеме выбора n элементов из N без возвращения и с учётом порядка. Общее число исходов равно || = An по теореме 2.

N Вычислим вероятность события Ai = {i = 1}. Событие Ai включает в себя элементарные исходы (наборы), в которых на i-м месте стоит любой из номеров белых шаров, а остальные n - 1 место занимают любые из оставшихся N - 1 номеров. По теореме 1 о перемножении шансов число благоприятных событию Ai исходов есть произведение K и An-1. Здесь K N-есть число способов поставить на i-е место один из номеров белых шаров, An-1 — число способов после этого разместить на оставшихся n-1 местах N-остальные N - 1 номеров шаров. Но тогда K An-|Ai| K N-p = P(i = 1) = P(Ai) = = =, | | An N N что совершенно очевидно: вероятность двадцатому шару быть белым, если мы ничего не знаем про первые девятнадцать, точно такая же, как вероятность первому шару быть белым и равна отношению числа белых шаров к числу всех.

Вернёмся к математическому ожиданию:

nK E = E 1 +... + E n = nE 1 = np =.

N Вычислим дисперсию. До сих пор мы не интересовались совместным распределением 1,..., n: для вычисления математического ожидания их суммы нам было достаточно знания маргинальных распределений этих величин. Но дисперсия суммы уже не всегда равна сумме дисперсий. Зависи98 ГЛАВА 10. Числовые характеристики зависимости мость величин 1,..., n очевидна: если, скажем, случилось событие A1 = = {1 = 1}, то вероятность второму шару быть белым уже не равна K /N:

K-1 K P(2 = 1 | 1 = 1) = = = P(2 = 1).

N -1 N Поэтому при вычислении дисперсии будем пользоваться свойством 14. Вычислим ковариацию величин i и j, i = j. Для этого сначала посчитаем E (ij). Произведение ij снова имеет распределение Бернулли: ij = 1, если при i-м и j-м извлечениях появились белые шары. Вероятность этого события равна K(K-1)An-|Ai Aj| K(K-1) N-P(ij = 1) = P(Ai Aj) = = =.

| | An N(N -1) N Тогда K(K-1) K K K(N -K) cov(i, j) = E (ij) - E iE j = - = -.

N(N -1) N N N2(N-1) Подставляя одинаковые дисперсии D i = p(1 - p) и эти не зависящие от i и j ковариации в формулу дисперсии суммы, получим:

n D = D (1 +... + n) = D i + cov(i, j) = i=1 i =j = np(1 - p) + n(n - 1)cov(1, 2) = K K K(N -K) K K n-= n 1 - - n(n-1) = n 1 - 1 -.

N N N2(N -1) N N N -Заметим любопытнейшую вещь: если вынимать шары с в о з в р а щ е н и е м, то испытания станут независимыми испытаниями в схеме Бернулли, а ставшие независимыми величины i в сумме дадут число белых шаров, имеющее биномиальное распределение с параметрами n и p = K / N и точно такое же математическое ожидание np = nK / N, как и у числа белых шаров при выборе б е з в о з в р а щ е н и я.

Дисперсия же у числа белых шаров при выборе без возвращения меньше, чем при выборе с возвращением — за счёт отрицательной коррелированности слагаемых i и j при i = j.

Г Л А В А Куда и как сходятся последовательности случайных величин Откуда, наконец, вытекает то удивительное, по-видимому, следствие, что, если бы наблюдения над всеми событиями продолжать всю вечность, причём вероятность, наконец, перешла бы в полную достоверность, то было бы замечено, что в мире всё управляется точными отношениями и постоянным законом изменений, так что даже в вещах, в высшей степени случайных, мы принуждены были бы признать как бы некоторую необходимость и, скажу я, рок.

Якоб Бернулли, Искусство предположений (1713) § 1. Сходимости «почти наверное» и «по вероятности» Напомню, что случайная величина есть (измеримая) функция из некоторого непустого множества в множество действительных чисел. Последовательность случайных величин {n} есть, тем самым, послеn=довательность функций, определённых на одном и том же множестве.

Существуют разные виды сходимости последовательности ф у н к ц и й. Давать определение любой сходимости мы будем, опираясь на сходимость ч и с л о в ы х последовательностей, как на уже известное основное понятие.

Pages:     | 1 |   ...   | 11 | 12 || 14 | 15 |   ...   | 18 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.