WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     | 1 | 2 || 4 | 5 |   ...   | 10 |

«Оглавление Введение................................... 11 I Введение в социально-экономическую статистику 15 1. Основные понятия 17 1.1. Краткая историческая справка.. ...»

-- [ Страница 3 ] --

Количество параметров относительной частоты (также как и плотности отно сительной частоты и накопленной относительной частоты) I(J) | I(J) условного распределения признаков J по I(J) равно KJ = kj — числу всех возмож J ных сочетаний уровней признаков J. Таких условных распределений признаков J имеется KJ — для каждого возможного сочетания уровней факторов J. Так, при n = 2 в таблице сопряженности структура каждого столбца (результат деления элементов столбца на итоговый — сумму элементов) показывает относительные частоты условного распределения 1-го признака по уровням 2-го признака (если J =2). Количество параметров относительной частоты каждого такого условного 136 Глава 4. Введение в анализ связей распределения — k1, а число столбцов — условных распределений — k2. Анало гично — для строк таблицы сопряженности (если J =1).

Маргинальное распределение признаков J может быть получено из этой со вокупности условных распределений (для плотностей относительных частот):

fI(J) = fI(J) | I(J)I(J) (4.9) J или fI(J) = fI(J) | I(J)fI(J)I(J).

J Действительно, в соответствии с (4.5) fI(J) = fI(J)+I(J)I(J), J а, учитывая (4.7), fI(J)+I(J)I(J) = fI(J) | I(J)I(J).

J J Соотношение, аналогичное (4.9), выполняется и для самих относительных ча стот:

I(J) = I(J) | I(J)I(J) (4.10) J (оно получается умножением обеих частей соотношения (4.9) на I(J)), а вследза ним и для накопленных относительных частот:

FI(J) = FI(J) | I(J)I(J). (4.11) J Такая связь условных и маргинального распределений наглядно иллюстриру ется таблицей сопряженности (для относительных частот). Очевидно, что средне взвешенный, по весам итоговой строки, вектор структур столбцов этой матрицы алгебраически есть вектор структуры итогового столбца. Аналогично — для строк этой матрицы (для условных и маргинального распределений 2-го признака).

В непрерывном случае при n =2 соотношение (4.9) имеет вид:

f (x1) = f (x1 | x2) f (x2) dx2, f (x2) = f (x2 | x1) f (x1) dx1.

- 4.1. Совместные распределения частот количественных признаков Если итоговые грани n-мерного прямоугольного параллелепипеда параметров распределения (обобщения таблицы сопряженности), как отмечалось выше, дают все возможные маргинальные распределения, то ортогональные «срезы» этого параллелепипеда (как строки и столбцы таблицы сопряженности) представляют все возможные условные распределения.

Условные распределения, сопоставляющие в определенном смысле вариации признаков двух разных групп J и J, используются в анализе связей между этими двумя группами признаков. При этом чрезвычайно важно понимать следующее.

Речь в данном случае не идет об анализе причинно-следственных связей, хотя фор мально изучается поведение признаков J при условии, что признаки J принимают разные значения, т.е. признаки J выступают как бы «причиной», а признаки J — «следствием». Направление влияния в таком анализе не может быть определено.

Это — предмет более тонких и сложных методов анализа. Более того, содержа тельно признаки этих групп могут быть не связаны, но, если они одновременно зависят от каких-то других общих факторов, то в таком анализе связь между ними может проявиться. Такие связи в статистике называют ложными корреляция ми (или ложными регрессиями). Поэтому всегда желательно, чтобы формальному анализу зависимостей предшествовал содержательный, в котором были бы сфор мулированы теоретические гипотезы и построены теоретические модели. А ре зультаты формального анализа использовались бы для проверки этих гипотез. То есть из двух задач статистического анализа связей, сформулированных в преамбуле к этому разделу, предпочтительней постановка второй задачи.

Если признаки двух множеств J и J не зависят друг от друга, то очевид но, что условные распределения признаков J не должны меняться при изменении уровней признаков J. Верно и обратное: если условные распределения признаков J одинаковы для всех уровней I(J), то признаки двух множеств J и J не зависят друг от друга. Таким образом, необходимым и достаточным условием независи мости признаков двух множеств J и J является неизменность совместных рас пределений признаков J при вариации уровней признаков J. Это условие можно сформулировать и в симметричной форме: неизменность совместных распределе ний признаков J при вариации уровней признаков J.

Для таблицы сопряженности это условие означает, что структуры всех ее столб цов одинаковы. Одинаковы и структуры всех ее строк.

Итак, в случае независимости данных множеств признаков относительные ча стоты I(J) | I(J) не зависят от I(J) и их можно обозначить через I(J). Тогд а из соотношения (4.10) следует, что относительные частоты этого распределения совпадают с относительными частотами соответствующего маргинального распре деления: I(J) = I(J), т.к. I(J) =1, и соотношения (4.6) приобретают вид:

J I(J)I(J) = I(J)+I(J). (4.12) 138 Глава 4. Введение в анализ связей В случае двух признаков при использовании первого способа индексации:

i1i2 = i1i2.

Не сложно убедиться в том, что аналогичные соотношения в случае независи мости признаков выполняются и для f и F :

fI(J)fI(J) = fI(J)+I(J), (4.13) fi1fi2 = fi1i2, а в непрерывном случае: f(x1)f(x2) =f(x1, x2), FI(J)FI(J) = FI(J)+I(J). (4.14) Fi1Fi2 = Fi1i2, F (x1)F (x2) =F (x1, x2).

Любое из соотношений (4.12), (4.13), (4.14) является необходимым и достаточ ным условием независимости признаков J и J. Необходимость следует из самого вывода этих соотношений. Достаточность легко показать, например, для (4.12).

Так, если выполняется (4.12), то в соответствии с (4.4):

I(J)+I(J) I(J)I(J) I(J) | I(J) = = = I(J), I(J) I(J) т.е. условные распределения признаков J не зависят от уровней, которые занима ют признаки J, а это означает, что признаки J и J не зависят друг от друга.

Можно доказать, что из независимости признаков J и J следует взаимная независимость признаков любого подмножества J с признаками любого подмно жества J.

Пусть J = J1 + J2, тогда соотношение (4.12) можно переписать в форме:

I(J)I(J1)+I(J2) = I(J1)+I(J2)+I(J), и, просуммировав обе части этого выражения по J2 (т.е., в соответствии с введен ной операцией, — по всем уровням признаков J2), получить следующее:

J (4.4) (4.12) (4.4) I(J)I(J1) = I(J)I(J1)+I(J2) = I(J1)+I(J2)+I(J) = I(J1)+I(J), J2 J т.е. I(J)I(J1) = I(J1)+I(J), (4.15) что означает независимость признаков J и J1 в рамках маргинального распреде ления признаков J + J1.

Пусть теперь J = J1 + J2. После проведения аналогичных операций с (4.15) (в частности операции суммирования по J2) получается соотношение 4.1. Совместные распределения частот количественных признаков I(J1)I(J1) = I(J1)+I(J1), что означает независимость признаков J1 и J1 в рам ках маргинального распределения J1 + J1. Что и требовалось доказать, т.к. J и J1 — любые подмножества J и J.

Пока речь шла о независимости двух множеств признаков. Точно так же можно говорить и о независимости трех множеств.

Пусть G = J + J1 + J2, гд е J = J1 + J2. Необходимым и достаточным усло вием взаимной независимости этих трех множеств признаков является следующее равенство:

I(J)I(J1)I(J2) = I(J1)+I(J2)+I(J). (4.16) Это соотношение получается, если в левой части (4.12) вместо I(J) записать I(J1)I(J2), т.к. I(J1)I(J2) = I(J1)+I(J2) I(J) — известное условие незави симости двух множеств признаков в рамках маргинального распределения призна ков J.

Необходимым и достаточным условием взаимной независимости всех призна ков, входящих в множество J служит следующее соотношение:

I = ij(j). (4.17) J Это соотношение — результат завершения процесса дробления множеств при знаков, который начат переходом от (4.12) к (4.16).

Соотношения (4.12–4.14, 4.16–4.17) являются теоретическими. Оцененные по выборочной совокупности параметры совместных распределений, даже если со ответствующие множества признаков независимы друг от друга, не могут обеспе чить точное выполнение этих соотношений, поскольку они (параметры эмпириче ских распределений) являются случайными величинами. Критерий независимости строится как определенный показатель (статистика), характеризующий степень нарушения равенств в указанных соотношениях. Использование этого критерия осуществляется как проверка статистической гипотезы (нулевая гипотеза: призна ки данных групп не зависимы), логика которой описана в конце пункта 2.4. Данный критерий входит в группу критериев согласия и называется критерием Пирсона, или 2 (критерием хи-квадрат).

c Показатели (статистики) этого критерия — 2 («c» — calculated, «l»—ко l личество множеств признаков),— называемые иногда выборочными среднеквад ратическими сопряженностями признаков, рассчитываются на основе (4.12), (4.16), (4.17) следующим образом:

I(J)+I(J) - I(J)I(J) c 2 = N, I(J)I(J) J,J 140 Глава 4. Введение в анализ связей I(J1)+I(J2)+I(J) - I(J)I(J1)I(J2) c 2 = N, I(J)I(J1)I(J2) J1,J2,J I - ij(j) c J 2 = N.

n ij(j) G J Если признаки не зависимы, то соответствующая статистика критерия име ет известное распределение, называемое 2-распределением (см. Приложе ние A.3.2). Данное распределение имеет один параметр — число степеней сво боды df (degrees free), показывающее количество независимых случайных ве c личин, квадраты которых входят в сумму. Так, в статистику 2 входят квадраты K (KJKJ ) величин I(J)+I(J) - I(J)I(J), но не все они независимы, т.к. удовле творяют целому ряду линейных соотношений.

Действительно, например:

(I(J)+I(J) - I(J)I(J)) =0K, J J где 0K — матричный нуль, имеющий размерность KJ. То есть KJ величин J I(J)+IK (J) -IK(J)I(J) линейно выражаются через другие величины. Пусть мно жество этих величин обозначается I(J).

Аналогично, исходные величины I(J)+I(J) - I(J)I(J) можно суммировать по J и установить, что KJ величин IK(J)+I(J) - I(J)IK (J) линейно выража ются через остальные;

их множество можно обозначить I(J).

Эти два множества I(J) и I(J) имеют один общий элемент: IK(J)+IK (J) -IK(J)IK(J). Таким образом, количество степеней свободы df2 (при l =2) рав но K - KJ - KJ +1=(KJ - 1)(KJ - 1). Аналогично рассуждая, можно устано вить, что df3 =(KJ - 1)(KJ1 - 1)(KJ2 - 1), dfL = (kj - 1).

J Итак, чтобы ответить на вопрос, являются ли независимыми изучаемые множе c ства признаков, необходимо расчетное значение статистики 2 сравнить со зна l чением 95-процентного квантиля 2 -распределения (в п. 2.4 отмечалось, что dfl в статистике вполне приемлемым считается 95-процентный уровень доверия), ко торый обозначается 2 (это — односторонний квантиль, так как плотность dfl, 0. 2-распределения расположена в положительной области значений случайной ве личины и не симметрична). Значения этих квантилей находят в соответствующих статистических таблицах и называют теоретическими, или табличными. Если рас четное значение не превышает табличное (т.е. является достаточно малым), то ну левая гипотеза не отвергается и данные множества признаков считаются незави 4.2. Регрессионный анализ симыми. Если расчетное значение больше табличного, то множества признаков определяются как зависимые между собой с уровнем ошибки 5%.

Современные пакеты прикладных статистических программ избавляют от необ ходимости пользоваться статистическими таблицами, т.к. расчет статистики кри терия сопровождается оценкой уровня его значимости sl (significance level).

Для некоторых критериев этот показатель называется значением вероятности pv (probability value). Уровень значимости sl — это такое число, что c 2 = 2.

l dfl,1-sl То есть нулевая гипотеза отвергается с вероятностью ошибки 0.05, если sl < 0.05.

В случае 2-х признаков среднеквадратичная сопряженность имеет следующий вид (здесь и ниже используется 1-й способ обозначений):

c (i1i2 - i1i2) 2 = N, i1i i1,i а соответствующее ей 2-распределение имеет (k1 -1)(k2 -1) степеней свободы;

множество i1 образовано величинами i1k2 - i1k2, i1 =1,..., k1, множе ство i2 — величинами k1i2 -k1i2, i2 =1,..., k2, общим для них является элемент k1k2 - k1k2.

Далее в этой главе рассматривается в основном случай двух признаков.

4.2. Регрессионный анализ В качестве значений признаков xi1 и xi2 на полуинтервалах, как и преж де, принимаются середины этих полуинтервалов. Средние и дисперсии признаков рассчитываются по известным формулам:

x1 = xi1i1, x2 = xi2i2;

s2 = (xi1- )2 i1, s2 = (xi2 - x2)2 i2 или, более компактно, x 1 s2 = x2 i1, s2 = x2 i2.

1 i1 2 i Важной характеристикой совместного распределения двух признаков является ковариация — совместный центральный момент 2-го порядка:

m12 = xi1xi2i1i2.

Дисперсия — частный случай ковариации (ковариация признака с самим со бой), поэтому для обозначения дисперсии j-го признака часто используется mjj.

142 Глава 4. Введение в анализ связей В случае независимости признаков, когда i1i2 = i1i2, как несложно убе диться, ковариация равна нулю. Равенство ковариации нулю2 является необходи мым, но не достаточным условием независимости признаков, т.к. ковариация — характеристика только линейной связи. Если ковариация равна нулю, признаки линейно независимы, но какая-то другая форма зависимости между ними может существовать.

Мерой линейной зависимости является относительная ковариация, называемая коэффициентом корреляции:

m r12 =.

m11m Этот коэффициент по абсолютной величине не превышает единицу (этот факт доказывается ниже). Если его значение близко к нулю, то признаки линейно неза висимы, если близко к плюс единице — между признаками существует прямая линейная зависимость, если близко к минус единице — существует обратная ли нейная зависимость. В частности, легко убедиться в том, что если xi1 = ±a12xi (т.е. между признаками имеет место линейная зависимость), то r12 = ±1.

Значения ковариаций и коэффициентов корреляции симметричны: m12 = m21, r12 = r21.

В дальнейшем рассуждения проводятся так, как будто 1-й признак зависит от 2-го (хотя с тем же успехом можно было бы говорить о зависимости 2-го при знака от 1-го). В таком случае переменная x1 (значения 1-го признака) называется объясняемой, моделируемой, эндогенной, а переменная x2 (значения 2-го при знака) — объясняющей, факторной, экзогенной.

Наряду с общей средней 1-го признака x1 полезно рассчитать условные сред ние x1 | i2 3 — средние 1-го признака при условии, что 2-й признак зафиксирован на определенном уровне i2. При расчете таких средних усреднение значений при знака на полуинтервалах проводится по относительным частотам не маргинального (i1), а соответствующих условных распределений (i1 | i2):

x1 | i2 = xi1i1 | i2.

Усреднение этих величин по весам маргинального распределения 2-го признака дает общее среднее:

x1 = xi1i1 = xi1i1i2 = xi1i1 | i2i2 = x1 | i2i2.

i1 i2 i1 i2 i1 i Равенство или неравенство нулю понимается в статистическом смысле: не отвергается или от вергается соответствующая нулевая гипотеза.

В общем случае вектор условных средних признаков J обозначается xJ/I(J).

4.2. Регрессионный анализ В непрерывном случае эти формулы принимают вид:

E (x1|x2) = x1f (x1|x2) dx1, E (x1) = E (x1|x2) f (x2) dx2.

- (Об условных и маргинальных распределениях см. Приложение A.3.1.) Условные дисперсии признака рассчитываются следующим образом:

s2 = xi1 - x1 | i2 i1 | i2.

1 | i Отклонения фактических значений признака от условных средних ei1 | i2 = xi1 - x1 | i обладают, по определению, следующими свойствами:

а) их средние равны нулю:

ei1 | i2i1 | i2 =0, б) их дисперсии, совпадающие с условными дисперсиями признака, минималь ны (суммы их квадратов минимальны среди сумм квадратов отклонений от каких либо фиксированных значений признака — наличие этого свойства у дисперсий доказывалось в п. 2.4):

s2 = e2 i1 | i2 = s2 =min (xi1 - c)2 i1 | i2.

e1 | i2 i1 | i2 1 | i2 c Общая дисперсия связана с условными дисперсиями более сложно:

s2 = x2 i1 = x2 i1i2 = 1 i1 i i1 i = xi1 - x1 | i2 + x1 | i2 - x1 i1i2 = i1 i 2 = xi1 - x1 | i2 i1i2 +2 xi1 - x1 | i2 x1 | i2 - x1 i1i2 + i1 i2 i1 i + x1 | i2 - x1 i1i2 = i1 i 144 Глава 4. Введение в анализ связей i |i -- i1i = i2 xi1 - x1 | i2 + i i2 i ------------------ s e1 | i = ----------------- +2 i2 x1 | i2 - x1 xi1 - x1 | i2 i1 | i2 + i i ------------------------------------ = + x1 | i2 - x1 i1i2 = s2 + s2.

e1 q i2 i --- i Равенство нулю среднего слагаемого в этой сумме означает, что отклонения фактических значений 1-го признака от условных средних не коррелированы (ли нейно не связаны) с самими условными средними.

В терминах регрессионного анализа s2 — объясненная дисперсия, т.е. та дисперсия 1-го признака, которая q объясняется вариацией 2-го признака (в частности, когда признаки независимы и условные распределения 1-го признака одинаковы при всех уровнях 2-го призна ка, то условные средние не варьируют и объясненная дисперсия равна нулю);

s2 — остаточная дисперсия.

e Чем выше объясненная дисперсия по сравнению с остаточной, тем вероятнее, что 2-й признак влияет на 1-й. Количественную меру того, насколько объяснен ная дисперсия должна быть больше остаточной, чтобы это влияние можно было признать существенным (значимым), дает критерий Фишера, или F-критерий.

c Статистика этого критерия F рассчитывается следующим образом:

s2 k2 (k1 - 1) q c F =.

s2 (k2 - 1) e В случае если влияние 2-го признака на 1-й не существенно, эта величи на имеет F-распределение (см. Приложение A.3.2). Такое распределение имеет случайная величина, полученная отношением двух случайных величин, имеющих 2-распределение, деленных на количество своих степеней свободы:

2 df df Fdf1, df2 =.

2 df df Количество степеней свободы в числителе (df1) и знаменателе (df2) относится к параметрам F -распределения.

4.2. Регрессионный анализ Рассуждая аналогично тому, как это сделано в конце предыдущего пункта, мож но установить, что объясненная дисперсия (в числителе F -статистики) имеет k2- степеней свободы, а остаточная дисперсия (в знаменателе) — k2(k1 - 1) степеней свободы. Это объясняет указанный способ расчета данной статистики.

Чтобы проверить гипотезу о наличии влияния 2-го признака на 1-й, необходимо c сравнить расчетное значение статистики F с теоретическим — взятым из соот ветствующей статистической таблицы 95-процентным квантилем (односторонним) F -распределения с k2-1 и k2(k1-1) степенями свободы Fk2-1,k2(k1-1), 0.95. Если расчетное значение не превышает теоретическое, то нулевая гипотеза не отвер гается, и влияние считается не существенным. В противном случае (объясненная дисперсия достаточно велика по сравнению с остаточной) нулевая гипотеза от вергается и данное влияние принимается значимым. Современные статистические пакеты прикладных программ дают уровень значимости расчетной статистики, на зываемый в данном случае значением вероятности pv:

c F = Fk2-1, k2(k1-1), 1-pv.

Если pv < 0.05, то нулевая гипотеза отвергается с вероятностью ошибки 5%.

Линия, соединяющая точки xi2, x1 | i2 в пространстве значений признаков (абсцисса — 2-й признак, ордината — 1-й) называется линией регрессии, она по казывает зависимость 1-го признака от 2-го. Условные средние, образующие эту линию, являются расчетными (модельными) или объясненными этой зависимостью значениями 1-го признака. Объясненная дисперсия показывает вариацию значе ний 1-го признака, которые расположены на этой линии, остаточная дисперсия — вариацию фактических значений признака вокруг этой линии.

Линию регрессии можно провести непосредственно в таблице сопряженности.

Это линия, которая соединяет клетки с максимальными в столбцах плотностями относительных частот. Понятно, что о такой линии имеет смысл говорить, если име ются явные концентрации плотностей относительных частот в отдельных клетках таблицы сопряженности. Критерием наличия таких концентраций как раз и явля ется F -критерий.

В непрерывном случае уравнение x1 = E (x1|x2) называют уравнением регрессии x1 по x2, т.е. уравнением статистической зави симости 1-го признака от 2-го (о свойствах условного математического ожидания см. Приложение A.3.1). Это уравнение выражает статистическую зависимость, по скольку показывает наиболее вероятное значение, которое принимает 1-й признак при том или ином уровне 2-го признака. В случае если 2-й признак является един ственным существенно влияющим на 1-й признак, т.е. это уравнение выражает 146 Глава 4. Введение в анализ связей теоретическую, истинную зависимость, эти наиболее вероятные значения назы вают теоретическими, а отклонения от них фактических значений — случайными ошибками измерения. Для фактических значений x1 это уравнение записывают со стохастическим членом, т.е. со случайной ошибкой, остатками, отклонением фактических значений от теоретических:

x1 = E (x1|x2) +1.

Случайные ошибки по построению уравнения регрессии имеют нулевое ма тематическое ожидание и минимальную дисперсию при любом значении x2, они взаимно независимы со значениями x2. Эти факты обсуждались выше для эмпи рического распределения.

В рассмотренной схеме регрессионного анализа уравнение регрессии можно построить лишь теоретически. На практике получают линию регрессии, по виду которой можно лишь делать предположения о форме и, тем более, о параметрах зависимости.

В эконометрии обычно используется другая схема регрессионного анализа.

В этой схеме используют исходные значения признаков xi1, xi2, i =1,..., N без предварительной группировки и построения таблицы сопряженности, выдвигают гипотезу о форме зависимости f : x1 = f (x2, A), гд е A — параметры зависимо сти, и находят эти параметры так, чтобы была минимальной остаточная дисперсия s2 = (xi1 - f (xi2, A))2.

e N i Такой метод называется методом наименьших квадратов (МНК).

Ковариация и коэффициент корреляции непосредственно по данным выборки рассчитываются следующим образом:

1 mjj mjj = (xij - xj) xij - xj, rjj =, j, j =1, 2.

N mjjmj j Далее в этом пункте рассматривается случай линейной регрессии, т.е. случай, когда x1 = 12x2 + 1 + 1, (4.18) где 12, 1, 1 — истинные значения параметров регрессии и остатков.

Следует иметь в виду, что регрессия линейна, если форма зависимости при знаков линейна относительно оцениваемых параметров, а не самих признаков, 4.2. Регрессионный анализ и уравнения x1 = 12 x2 + 1 + 1, x1 = 12 + 1 + 1, x ln x1 = 12 ln x2 +ln1 +ln1 (x1 = x1211), и т.д. также относятся к линейной регрессии. Во всех этих случаях метод наи меньших квадратов применяется одинаковым образом. Поэтому можно считать, что в записи (4.18) x1 и x2 являются результатом какого-либо функционального преобразования исходных значений.

Оценки параметров регрессии и остатков обозначаются соответствующими буквами латинского алфавита, и уравнение регрессии, записанное по наблюде ниям i, имеет следующий вид:

xi1 = a12xi2 + b1 + ei1, i =1,..., N, (4.19) а в матричной форме:

X1 = X2a12 +1N b1 + e1, (4.20) где X1, X2 — вектор-столбцы наблюдений размерности N, соответственно, за 1-м и 2-м признаками, e1 — вектор-столбец остатков;

1N — вектор-столбец размерности N, состоящий из единиц.

Прежде чем переходить к оценке параметров регрессии (применению метода наименьших x квадратов), имеет смысл объяснить проис хождение термина «регрессия». Этот термин введен английским статистиком Ф. Гальтоном <45° в последней четверти XIX века при изучении зависимости роста сыновей от роста отцов.

Оказалось, что если по оси абсцисс распо ложить рост отцов (x2), а по оси ординат — x рост сыновей (x1), то точки, соответствую щие проведенным наблюдениям (облако то Рис. 4. чек наблюдений), расположатся вокруг неко торой прямой (рис. 4.1).

Это означает, что зависимость между ростом сыновей и отцов существует, и эта зависимость близка к линейной. Но угол наклона соответствующей прямой мень ше 45. Другими словами, имеет место «возврат» — регрессия — роста сыновей к некоторому среднему росту. Для этой зависимости и был предложен термин «ре грессия». Со временем он закрепился за любыми зависимостями статистического характера, т.е. такими, которые выполняются «по математическому ожиданию», с погрешностью.

148 Глава 4. Введение в анализ связей Остаточная дисперсия из (4.19) получает следующее выражение:

s2 = (xi1 - a12xi2 - b1)2, e N i или в матричной форме:

s2 = e e1, e1 N где e1 = X1 - X2a12 - 1N b1, — остатки регрессии, штрих — знак транспонирования. Величина e e1 называется суммой квадратов остатков.

Для минимизации этой дисперсии ее производные по искомым параметрам (сначала по b1, потом по a12) приравниваются к нулю.

s2 e = - (xi1 - a12xi2 - b1) =0, откуда:

b1 N ei1 =0, b1 = - a12x2. (4.21) x Это означает, что 1 =0, т.е. сумма остатков равна нулю, а также, что линия регрессии проходит через точку средних.

После подстановки полученной оценки свободного члена форма уравнения ре грессии и остаточной дисперсии упрощается:

xi1 = a12xi2 + ei1, i =1,..., N, (4.22) X1 = X2a12 + e1, — сокращенная запись уравнения регрессии, (4.23) s2 = ( - a12xi2)2. (4.24) xi e N Далее:

ei ------- s2 e = - xi2 ( - a12xi2) =0. (4.25) xi a12 N Отсюда следует, во-первых, то, что вектора e1 и X2 ортогональны, т.к. ковари ация между ними равна нулю ( xi2ei1 =0);

во-вторых — выражение для оценки углового коэффициента:

m a12 =. (4.26) m 4.2. Регрессионный анализ Матрица вторых производных остаточной дисперсии в найденной точке равна 1 x 2, x2 m где m0 — 2-й начальный (а не центральный, как m22) момент д ля x2. Тот же результат можно получить, если не переходить к сокращенной записи уравнения регрессии переддифференцированием остаточной дисперсии по a12.

Эта матрица положительно определена (ее определитель равен 2m22, то есть всегда неотрицателен), поэтому найденная точка является действительно точкой минимума остаточной дисперсии.

Таким образом, построен оператор МНК-оценивания (4.21, 4.26) и выявлены свойства МНК-остатков: они ортогональны факторной переменной x2, стоящей в правой части уравнения регрессии, и их среднее по наблюдениям равно нулю.

«Теоретические» значения моделируемой переменной x1, лежащие на линии оцененной регрессии:

xc = a12xi2 + b1, (4.27) i xc = a12xi2, i c где « » — calculated, часто называют расчетными, или объясненными. Это — математические ожидания моделируемой переменной.

Вторую часть оператора МНК-оценивания (4.26) можно получить, используя другую логику рассуждений, часто применяемую в регрессионном анализе.

Обе части уравнения регрессии, записанного в сокращенной матричной форме (4.23) умножаются слева на транспонированный вектор X2 ид елятсяна N :

1 1 X2X1 = X2X2a12 + X2e1.

N N N Второе слагаемое правой части полученного уравнения отбрасывается, так как в силу отмеченных свойств МНК-остатков оно равно нулю, и получается искомое выражение: m12 = m22a12.

Пользуясь этой логикой, оператор МНК-оценивания можно получить и в пол ном формате. Для этого используют запись регрессионного уравнения в форме без свободного члена (со скрытым свободным членом):

X1 = X2a12 + e1, (4.28) a где X2 — матрица [X2, 1N ] размерности N 2, 12 — вектор.

b 150 Глава 4. Введение в анализ связей Как и прежде, обе части этого уравнения умножаются слева на транспониро ванную матрицу X2 ид елятсяна N, второе слагаемое правой части отбрасывается по тем же причинам. Получается выражение для оператора МНК-оценивания:

- m12 = M22a12, т.е. a12 = M22 m12, (4.29) 1 где m12 = X2X1, M22 = X2X2.

N N Это выражение эквивалентно полученному выше. Действительно, учитывая, что Xj = Xj +1N xj, 1 Xj =0, j =1, 2, N X2X1 m12 + x1x m12 = =, N 1 X1 x N m --- X2X2 X21N m22 +2 x x M22 = =.

N 1 X2 1 1N x2 N N Тогда матричное уравнение (4.29) переписывается следующим образом:

m12 + = m22a12 +2a12 + x1x2 x2 x2b1, x1 = + b1.

x2a Из 2-го уравнения сразу следует (4.21), а после подстановки b12 в 1-е уравне ние оно преобразуется к (4.26). Что и требовалось доказать.

Таким образом, выражение (4.29) представляет собой компактную запись опе ратора МНК-оценивания.

Из проведенных рассуждений полезно, в частности, запомнить, что уравнение регрессии может быть представлено в трех формах: в исходной — (4.19, 4.20), сокращенной — (4.22, 4.23) и со скрытым свободным членом — (4.28). Третья форма имеет только матричное выражение.

Оцененное уравнение линейной регрессии «наследует» в определенном смысле свойства линии регрессии, введенной в начале этого пункта по данным совместного распределения двух признаков: минимальность остаточной дисперсии, равенство нулю средних остатков и ортогональность остатков к объясняющей переменной — в данном случае к значениям второго признака. (Последнее для регрессии, постро енной по данным совместного распределения, звучало как линейная независимость отклонений от условных средних и самих условных средних.) Отличие в том, что теперь линия регрессии является прямой, условными средними являются расчет ные значения моделируемой переменной, а условными дисперсиями — остаточная 4.2. Регрессионный анализ дисперсия, которая принимается при таком методе оценивания одинаковой для всех наблюдений.

Теперь рассматривается остаточная дисперсия (4.24) в точке минимума:

1 (4.26) m s2 = x2 - 2 + x2 a2 = m11 -. (4.30) xi1xi2a12 2 e1 i N m Поскольку остаточная дисперсия неотрицательна, m 12 m11, т.е. r12 1.

m Это доказывает ранее сделанное утверждение о том, что коэффициент корре ляции по абсолютной величине не превышает единицу.

Второе слагаемое (взятое с плюсом) правой части соотношения (4.30) является дисперсией расчетных значений моделируемой переменной (var — обозначение дисперсии):

1 1 (4.27) = var (xc) = (xc - xc)2 =0 (xc - x1)2 = 1 i1 1 i N N 1 (4.26) m = (a12xi2)2 = a2 m22 =. (4.31) N m Эту дисперсию, как и в регрессии, построенной по данным совместного рас пределения признаков, естественно назвать объясненной и обозначить s2. Тогд а q из (4.30) следует, что общая дисперсия моделируемого признака, как и прежде, распадается на две части — объясненную и остаточную дисперсии:

s2 = m11 = s2 + s2.

1 q1 e Доля объясненной дисперсии в общей называется коэффициентом детерми нации, который обозначается R2. Такое обозначение не случайно, поскольку этот коэффициент равен квадрату коэффициента корреляции:

s m q R2 = =.

s2 m11m Коэффициент детерминации является показателем точности аппроксимации фактических значений признаков линией регрессии: чем ближе он к единице, тем точнее аппроксимация. При прочих равных его значение будет расти с уменьшением числа наблюдений. Так, если наблюдений всего два, этот коэффициент всегда будет равен единице, т.к. через две точки можно провести единственную прямую. Поэтому 152 Глава 4. Введение в анализ связей данный коэффициент выражает скорее «алгебраическое» качество построенного уравнения регрессии.

Показатель статистической значимости оцененного уравнения дает статистика Фишера — как и для регрессии, построенной по данным совместного распреде ления признаков. В данном случае остаточная дисперсия имеет N - 2 степени свободы, а объясненная — одну степень свободы (доказательство этого факта да ется во II части книги):

s2 (N - 2) R2 (N - 2) q c F = =.

s2 (1 - R2) e Если переменные не зависят друг от друга, т.е. 12 =0 (нулевая гипотеза), то эта статистика имеет распределение Фишера с одной степенью свободы в чис лителе и N -2 степенями свободы в знаменателе. Логика использования этой ста тистики описана выше. Статистическая значимость (качество) полученного урав нения тем выше, чем ниже значение показателя pv для расчетного значения данной c статистики F.

Оценки параметров 12, 1 и остатков i1 можно получить иначе, из регрессии x2 по x1:

xi2 = a21xi1 + ei2, i =1,..., N.

В соответствии с (4.26) оценка углового коэффициента получается делением ковариации переменных, стоящих в левой и правой частях уравнения, на дисперсию факторной переменной, стоящей в правой части уравнения:

m a21 =.

m 1 Поскольку xi1 = xi2 - ei2, a21 a 1 m a12 (2) = =, (4.32) a21 m b1 (2) = x1 - a12 (2) x2, ei1 (2) = a12 (2) ei2, i =1,..., N.

Это — новые оценки параметров. Легко убедиться в том, что a12 (2) совпадает с a12 (а вслед за ним b1 (2) совпадает с b1 и ei1 (2) —с ei1) тогда и только тогда, когда коэффициент корреляции r12 равен единице, т.е. зависимость имеет функциональный характер и все остатки равны нулю.

При оценке параметров 12, 1 и остатков ei1 регрессия x1 по x2 иногда называется прямой, регрессия x1 по x2 — обратной.

4.2. Регрессионный анализ На рисунке 4.2 в плоскости (в про A r x странстве) переменных x1, x2 при C E менение прямой регрессии означает D минимизацию суммы квадратов рас B F стояний от точек облака наблюдений до линии регрессии, измеренных па x раллельно оси x1. При применении обратной регрессии эти расстояния измеряются параллельно оси x2.

lr — линия регрессии, OA — вектор-строка i-го на Рис. 4. блюдения xi =(x1, xi2), AB — расстояние до линии ре грессии, измеренное параллельно оси x1, равное величине ei1, AC — расстояние, измеренное параллельно оси x2, равное величине ei2, AD — расстояние, измеренное перпендикулярно линии регрессии, равное ei, OE — вектор-строка a параметров ортогональной регрессии.

Очевидно, что оценить параметры регрессии можно, измеряя расстояния до ли нии регрессии перпендикулярно самой этой линии (на рисунке — отрезок AD).

Такая регрессия называется ортогональной. В уравнении такой регрессии обе пе ременные остаются в левой части с коэффициентами, сумма квадратов которых должна равняться единице (длина вектора параметров регрессии должна равнять ся единице):

a1xi1 + a2xi2 = ei, i =1,..., N (4.33) a2 + a2 =1.

1 В матричной форме:

Xa = e, (4.34) a a =1, где X — матрица наблюдений за переменными, размерности N 2, a — вектор столбец параметров регрессии.

Само уравнение регрессии можно записать еще и так:

xia = ei, i =1,..., N. (4.35) Чтобы убедиться в том, что такая регрессия является ортогональной, достаточ но вспомнить из линейной алгебры, что скалярное произведение вектора на вектор 154 Глава 4. Введение в анализ связей единичной длины равно длине проекции этого вектора на единичный вектор. В ле вой части (4.35) как раз и фигурирует такое скалярное произведение. На рисунке вектором параметров a является OE, проекцией вектора наблюдений OA( xi) на этот вектор — отрезок OF, длина которого (xia) в точности равна расстоянию от точки облака наблюдений до линии регрессии, измеренному перпендикулярно этой линии (ei).

Следует иметь в виду, что и в «обычной» регрессии, в левой части которой остается одна переменная, коэффициент при этой переменной принимается рав ным единице, т.е. фактически используется аналогичное ортогональной регрессии требование: вектор параметров при переменных в левой части уравнения должен иметь единичную длину.

В противоположность ортогональной «обычные» регрессии называют просты ми. В отечественной литературе простой часто называют «обычную» регрессию с одной факторной переменной. А регрессию с несколькими факторными перемен ными называют множественной.

Теперь остаточную дисперсию в матричной форме можно записать следующим образом:

1 s2 = e e = a X Xa = a Ma, e N N m11 m где M = X X — матрица ковариации переменных, равная.

N m21 m Для минимизации остаточной дисперсии при ограничении на длину вектора параметров регрессии строится функция Лагранжа:

L (a, ) =a Ma - a a, где — множитель Лагранжа (оценка ограничения).

Далее находятся производные этой функции по параметрам регрессии, и эти производные приравниваются к нулю. Результат таких операций в матричной фор ме представляется следующим образом (поскольку M — симметричная матрица:

M = M):

(M - I) a =0. (4.36) Таким образом, множитель Лагранжа есть собственное число матрицы кова риации M, а вектор оценок параметров регрессии — соответствующий правый собственный вектор этой матрицы (см. Приложение A.1.2).

Матрица M является вещественной, симметричной и положительно полу определенной (см. Приложение A.1.2).

4.2. Регрессионный анализ Последнее справедливо, т.к. квадратичная форма µ Mµ при любом векторе µ неот рицательна. Действительно, эту квадратичную форму всегда можно представить как сумму квадратов компонент вектора = Xµ:

N µ Mµ = µ X Xµ = 0.

N Из линейной алгебры известно, что все собственные числа такой матрицы ве щественны и неотрицательны, следовательно неотрицательно.

После умножения обеих частей уравнения (4.36) слева на a из него следует, что a a= s2 = a Ma = a a =, e т.е. минимизации остаточной дисперсии соответствует поиск минимального соб ственного числа матрицы ковариации переменных M. Соответствующий этому собственному числу правый собственный вектор этой матрицы есть вектор оце нок параметров ортогональной регрессии a (см. Приложение A.1.2). Кроме того, в соответствии со свойствами матрицы M, сумма ее собственных чисел равна сумме ее диагональных элементов (следу матрицы), и, т.к. — меньшее из двух собственных чисел, то < (m11 + m12) (случай двух одинаковых собственных чисел не рассматривается, т.к. он имеет место, когда связь между переменными отсутствует, и m12 =0).

Оценка свободного члена b, как и прежде, получается из условия прохождения линии регрессии через точку средних: b = x, гд е x — вектор-строка средних значений переменных.

Расчетное значение xi дает вектор OD (см. рис. 4.2), который равен разности векторов OA и OF, т.е. (в матричной форме):

Xc = X - ea.

Теперь можно дать еще одну оценку параметров уравнения (4.18):

a a12 () =-, a b1 () = - a12 () x2, x ei1 () = ei.

a Полученная оценка углового коэффициента a12 () лежит между его оценками по прямой и обратной регрессиям. Действительно, из (4.36) следует, что a2 m12 m11 - a12 () =- = =.

a1 m22 - m 156 Глава 4. Введение в анализ связей 90° x x >90° x kx Рис. 4. Отсюда, в частности, следует, что величины m11 - и m22 - имеют один знак, и, т.к. < (m11 + m12), то обе эти величины положительны.

Поэтому, если m12 0, то m11 (4.32) (4.26) m = a12 (2) >a12 () >a12 =, m12 m аесли m12 0, то a12 (2)

Понятно, что эти 3 оценки совпадают тогда и только тогда, когда = s2 =0, e т.е. зависимость функциональна.

В действительности любое число, лежащее на отрезке с концами a12, a12 (2) (т.е. либо [a12, a12 (2)], если m12 0, либо [a12 (2), a12], если m12 0), может являться МНК-оценкой параметра 12, т.е. оценкой этого параметра является 1a12 + 2a12 (2) при любых 1 и 2, таких что 1 0, 2 0, 1 + 2 =1.

Каждая из этих оценок может быть получена, если расстояния от точек облака наблюдения до линии регрессии измерять подопределенным углом, что достигается с помощью предварительного преобразования в пространстве переменных.

Убедиться в этом можно, рассуждая следующим образом.

Пусть получена оценка углового коэффициента по ортогональной регрессии (рис. 4.3, слева). Теперь проводится преобразование в пространстве переменных: x умножается на некоторое число k >1, и снова дается оценка этого коэффициента по ортогональной регрессии (рис. 4.3, справа). После возвращения в исходное про странство получается новая оценка углового коэффициента, сопоставимая со старой (возвращение в исходное пространство осуществляется умножением оценки коэф фициента, полученной в преобразованном пространстве, на число k).

Этот рисунок не вполне корректен, т.к. переход в новое пространство переменных и возвращение в исходное пространство ведет к смещению линии регрессии. Однако 4.2. Регрессионный анализ смысл происходящего он поясняет достаточно наглядно: новая оценка получена так, как будто расстояния от точек облака наблюдений до линии регрессии измеряются под углом, не равным 90. Должно быть понятно, что в пределе, при k, расстояния до линии регрессии будут измеряться параллельно оси x1 и полученная оценка углового коэффициента совпадет с a12. Наоборот, в пределе при k 0 эта оценка совпадет с a12 (2).

Выбор оценок параметров регрессии на имеющемся множестве зависит от ха рактера распределения ошибок измерения переменных. Это — предмет изучения во II части книги. Пока можно предложить некоторые эмпирические критерии.

Например, следующий.

Общая совокупность (множество наблюдений) делится на две части: обуча ющую и контрольную. Оценка параметров производится по обучающей совокуп ности. На контрольной совокупности определяется сумма квадратов отклонений фактических значений переменных от расчетных. Выбирается та оценка, которая дает минимум этой суммы. В заключение выбранную оценку можно дать по всей совокупности.

Рассмотренный случай двух переменных легко обобщить на n переменных (без доказательств: они даются во II части книги). Основное уравнение регрессии запи сывается следующим образом: x1 = x-1-1 + 1 + 1, где x-1 =[x2,..., xn] — вектор-строка всех переменных кроме первой, вектор факторных переменных,.

.

-1 =.

1n — вектор-столбец параметров регрессии при факторных переменных, а в матрич ной форме: X1 = X-1a-1 + e1, гд е X-1 — матрица размерности N (n - 1) наблюдений за факторными переменными.

По аналогии с (4.21, 4.26):

a-1 = M-1m-1, (4.37) - b1 = - x-1a-1, x где M-1 = X X-1 — матрица ковариации факторных переменных между со N - бой, m-1 = X X1 — вектор-столбец ковариации факторных переменных с мо N - делируемой переменной, 158 Глава 4. Введение в анализ связей x-1 = 1 X-1 — вектор-строка средних значений факторных переменных.

N N Расчетные значения моделируемой переменной, т.е. ее математические ожида ния, есть c X1 = X-1a-1.

Как и в случае двух переменных объясненной дисперсией является дисперсия расчетных значений моделируемой переменной:

1 (4.37) (4.37) s2 = a X X-1a-1 = a M-1a-1 = a m-1 = m M-1m-1.

q1 -1 -1 -1 -1 -1 - N (4.38) Коэффициент множественной корреляции r1,-1 есть коэффициент корреляции между моделируемой переменной и ее расчетным значением (cov — обозначение ковариации):

1 (4.38) cov (xc, x1) = a X X1 = a m-1 = s2, 1 -1 -1 -1 q N s cov (xc, x1) sq q r1,-1 = = =, sq1s1 s var (xc) var (x1) Коэффициент детерминации, равный квадрату коэффициента множественной корреляции:

s q R2 =, s показывает долю объясненной дисперсии в общей.

Если связь отсутствует и -1 =0 (нулевая гипотеза), то расчетная статистика Фишера R2 (N - n) c F = (1 - R2)(n - 1) имеет F -распределение с n - 1 степенями свободы в числителе и N - n степе нями свободы в знаменателе — Fn-1,N-n. Логика использования этой статистики сохраняется прежней.

При использовании в общем случае записи уравнения регрессии в форме со скры тым свободным членом X1 = X-1-1 + e, 4.2. Регрессионный анализ a- где X-1 — матрица [X-1, 1N ] размерности N (n+1), -1 — вектор, b оператор МНК-оценивания записывается как -1 = M-1m-1, (4.39) - 1 где m-1 = X X1, M-1 = X X-1.

N - N - Достаточно простые алгебраические преобразования показывают, что этот опе ратор эквивалентен (4.37).

Полезной является еще одна геометрическая A иллюстрация регрессии — в пространстве наблю дений (см. рис. 4.4 и 4.5).

При n = 2 (n — количество переменных), OA — вектор x1, OB — вектор x2, OC — вектор проекции x1 на x2, равный расчетному O C B значению xc, CA — вектор остатков e1, так что:

x1 = a12x2 + e1. Косинус угла между OA и OB Рис. 4. равен коэффициенту корреляции.

При n =3, OA — вектор x1, OB — вектор x2, OC — вектор x3, OD — вектор проекции A x1 на плоскость, определяемую x2 и x3, равный расчетному значению xc, DA — вектор остатков F C e1, OE — вектор проекции xc на x2, равный a12x2, OF — вектор проекции xc на x3, равный O a13x3, так что x1 = a12x2 + a13x3 + e1. Косинус угла между OA и плоскостью, определенной x D E и x3, (т.е. межд у OA и OD) равен коэффициенту множественной корреляции.

B Кроме оценки a-1 можно получить оценки a-1 (j), j =2,..., n, последовательно переводя Рис. 4. в левую часть уравнения переменные xj, приме няя МНК и алгебраически возвращаясь к оценкам исходной формы уравнения.

Для представления ортогональной регрессии в общем случае подходят формулы (4.34, 4.36) и другие матричные выражения, приведенные выше при описании ортогональной регрессии. Необходимо только при определении векторов и матриц, входящих в эти выражения, заменить «2»на «n».

С помощью преобразований в пространстве переменных передиспользованием ортогональной регрессии и последующего возвращения в исходное пространство 160 Глава 4. Введение в анализ связей в качестве оценок a-1 можно получить любой вектор из множества (симплекса) n n 1a-1 + ja-1 (j), j 0, j =1,..., n, j =1.

j=2 j= Это — подмножество всех возможных МНК-оценок истинных параметров -1.

4.3. Дисперсионный анализ Дисперсионный анализ заключается в представлении (разложении) дисперсии изучаемых признаков по факторам и использовании F -критерия для сопоставле ния факторных «частей» общей дисперсии с целью определения степени влияния факторов на изучаемые признаки. Примеры использования дисперсионного ана лиза даны в предыдущем пункте при рассмотрении общей дисперсии моделируемой переменной как суммы объясненной и остаточной дисперсии.

Дисперсионный анализ может быть одномерным или многомерным. Впервом случае имеется только один изучаемый (моделируемый) признак, во втором случае их несколько. В данном курсе рассматривается только первый случай. Примене ние методов этого анализа основывается на определенной группировке исходной совокупности (см. п. 1.9). В качестве факторных выступают группирующие при знаки. То есть изучается влияние группирующих признаков на моделируемый. Если группирующий (факторный) признак один, то речь идет об однофакторном дис персионном анализе, если этих признаков несколько — о многофакторном ана лизе. Если в группировке для каждого сочетания уровней факторов имеется строго одно наблюдение (численность всех конечных групп в точности равна единице), говорят о дисперсионном анализе без повторений;

если конечные группы могут иметь любые численности — с повторениями. Многофакторный дисперсионный анализ может быть полным или частичным. В первом случае исследуется вли яние всех возможных сочетаний факторов (смысл этой фразы станет понятным ниже). Во втором случае принимаются во внимание лишь некоторые сочетания факторов.

В этом пункте рассматриваются две модели: однофакторный дисперсионный анализ с повторениями и полный многофакторный анализ без повторений.

Пусть исходная совокупность xi, i =1,..., N сгруппирована по одному фак тору, т.е. она разделена на k групп:

xill — значение изучаемого признака в il-м наблюдении (il =1,..., Nl) в l-й группе (l =1,..., k);

Nl = N.

4.3. Дисперсионный анализ Рассчитываются общая средняя и средние по группам:

k Nl k 1 x = xill = Nlxl, N N l=1 il=1 l= Nl xl = xill, Nl il= общая дисперсия, дисперсии по группам и межгрупповая дисперсия (s2):

q Nl k s2 = (xill - x)2, N l=1 il= Nl s2 = (xill - xl)2, l Nl il= k s2 = Nl ( - x)2.

xl q N l= Общую дисперсию можно разложить на групповые и межгрупповую дисперсии:

k Nl s2 = ((xill - xl) +(xl - x))2 = N l=1 il= k Nl k Nl k Nl 1 2 = (xill - xl)2 + (xill - xl)(xl - x) + ( - x)2 = xl N N N l=1 il=1 l=1 il=1 l=1 il= k Nl k Nl k 1 1 2 = Nl (xill - xl)2 + ( - x) (xill - xl) + Nl ( - x)2 = xl xl N Nl il=1 N N l=1 l=1 il=1 l= ------- = ----------------- = k = Nls2 + s2 = s2 + s2.

l q e q N l= Данное представление общей дисперсии изучаемого признака аналогично полу ченному в начале предыдущего пункта при рассмотрении регрессии, построенной по данным совместного эмпирического распределения признаков. В том случае «группами» выступали значения первого признака при тех или иных значениях второго признака. В данном случае (в терминах дисперсионного анализа) s2 — внутригрупповая дисперсия;

e s2 — межгрупповая дисперсия.

q 162 Глава 4. Введение в анализ связей Тот факт, что среднее слагаемое в вышеприведенном выражении равно нулю, означает линейную независимость внутригрупповой и межгрупповой дисперсий.

Чем выше межгрупповая дисперсия по сравнению с внутригрупповой, тем ве роятнее, что группирующий (факторный) признак влияет на изучаемый признак.

Степень возможного влияния оценивается с помощью F -статистики:

s2 (N - k) q c F =.

s2 (k - 1) e В случае если влияние отсутствует (нулевая гипотеза), эта статистика име ет распределение Fk-1,N-k (межгрупповая дисперсия имеет k - 1 степеней свободы, внутригрупповая — N - k), что объясняет указанный способ расчета F -статистики. Логика проверки нулевой гипотезы та же, что и в предыдущих слу чаях.

Рассмотрение модели однофакторного дисперсионного анализа с повторениями завершено.

Пусть теперь имеется группировка исходной совокупности xi, i = 1,..., N по n факторам;

j-й фактор может принимать kj уровней, j =1,..., n. Все численности конечных групп равны единице: NI =1, для любого I. Такая сово купность может быть получена по результатам проведения управляемого экспе римента. В экономических исследованиях она может быть образована в расчетах по математической модели изучаемой переменной: для каждого сочетания уровней факторов проводится один расчет по модели.

В этом случае n N = kj = kj, j=1 G где через G, как и в пункте 1.9, обозначено полное множество факторов J = {12... n}, xI — значение изучаемого признака при сочетании уровней фак торов I = {i1i2... in}.

Общаясред няяизучаемогопризнака:

b0 = = xI.

x N I N Каждый j-й фактор делит исходную совокупность на kj групп по эле kj ментов. Для каждого из уровней ij j-го фактора (для каждой из таких групп) рассчитывается среднее значение изучаемого признака:

kj xij(j) = xI, N I-ij(j) 4.3. Дисперсионный анализ где означает суммирование по всем наблюдениям, в которых j-й фактор I-ij(j) находится на уровне ij.

Если бы тот факт, что j-й фактор находится на уровне ij, не влиял на изучаемый признак, означало бы, что xij(j) = b0.

Потому bij(j) = xij(j) - b0 — коэффициент влияния на изучаемый признак то го, что j-й фактор находится на уровне ij. Это—главные эффекты, илиэффекты 1-го порядка.

Очевидно, что kj bij(j) = ij= и дисперсия, определенная влиянием j-го фактора, равна kj s2 = bij(j).

j kj ij= N Каждые два фактора j и j делят совокупность на Kjj = kjkj групп по Kjj элементов. Для каждой из таких групп рассчитывается среднее изучаемого приз нака:

Kjj xijij (jj ) = xI, N I-ijij (jj ) где означает суммирование по всем наблюдениям, в которых j-й фактор I-ijij (jj ) находится на уровне ij, а j -й фактор — на уровне ij.

Если бы тот факт, что одновременно j-й фактор находится на уровне ij, а j -й фактор — на уровне ij, не влиял на изучаемый признак, то это означало бы, что xjj = b0 + bij(j) + bij (j ).

ijij (jj ) Поэтому bijij (jj ) = xijij (jj ) - b0 + bij(j) + bij (j ) 164 Глава 4. Введение в анализ связей — коэффициент влияния на изучаемый признак того, что одновременно j-й фактор находится на уровне ij, а j -й фактор — на уровне ij. Этоэффекты взаимодей ствия (или сочетания) факторов j и j, парные эффекты, или эффекты 2-го порядка.

Легко убедиться в том, что kj kj bijij (jj = bijij (jj ) =0, ) ij=1 ij = и тогда s2 = bijij (jj ) jj Kjj ij,ij — дисперсия, определенная совместным влиянием факторов j и j.

Рассмотрим общий случай.

Факторы J = {j1j2... jn }, n n делят совокупность на KJ = kj групп J N по элементов (выделяют группы класса J порядка n ). Мультииндексом таких KJ групп является I (J) = i1i2... in j1j2... jn = ij1ij2... ijn ;

конкретно данный мультииндекс именует группу, в которой фактор j1 находится на уровне ij и т.д. По каждой такой группе рассчитывается среднее изучаемого признака:

KJ xI(J) = xI, N I-I(J) где — означает суммирование по всем наблюдениям, в которых фактор j I-I(J) находится на уровне ij1 ит.д.

Как и в двух предыдущих случаях:

bI(J) = xI(J) - b0 + bI(J) (4.40) JJ — эффекты взаимодействия (или сочетания) факторов J, эффекты порядка n.

Здесь — суммирование по всем подмножествам множества J без самого JJ множества J.

Суммирование этих коэффициентов по всем значениям любого индекса, входя щего в мультииндекс I(J) дает нуль.

s2 = b J KJ I(J) I(J) 4.3. Дисперсионный анализ — дисперсия, определенная совместным влиянием факторов J.

При определении эффектов наивысшего порядка J = G, xI(G) = xI, KG = N.

Из способа получения коэффициентов эффектов должно быть понятно, что G xI = b0 + bI(J).

J= Все факторные дисперсии взаимно независимы и общая дисперсия изучаемого признака в точности раскладывается по всем возможным сочетаниям факторов:

G s2 = s2. (4.41) J J= Данное выражение называют дисперсионным представлением, или тожде ством.

Этот факт доказывается в IV части книги.

Пока можно его только проверить, например, при n =2.

Используя 1-й способ обозначений (см. п. 4.1):

b0 = xi, k1k2 i1,i2 i 1 xi = xi i2, bi = xi - b0, s2 = b2, 1 1 1 1 k2 i2 k1 i1 i 1 xi = xi i2, bi = xi - b0, s2 = b2, 2 1 2 2 k1 i1 k2 i2 i bi i2 = xi i2 - b0 - bi - bi, s2 = b2.

1 1 1 2 k1k2 i1,i2 i1i Теперь, раскрывая скобки в выражении для s2 и учитывая, что xi i2 = xi i2 - b0, 12 1 получаем:

1 1 1 s2 = x2 + b2 + b2 - bi xi 12 1 k1k2 i1,i2 i1i2 k1 i1 i1 k2 i2 i2 k1k2 i1 i i --- =k2bi 2 - bi xi + bi bi = s2 - s2 - s2.

2 1 1 2 1 k1k2 i2 i1 i2 k1k2 i i ---- --- -- =k1bi2 =0 = ------------ = Т.е. s2 = s2 + s2 + s2, что и требовалось показать.

1 2 166 Глава 4. Введение в анализ связей В силу взаимной независимости эффектов оценки коэффициентов и дисперсий эффектов остаются одинаковыми в любой модели частичного анализа (в котором рассматривается лишь часть всех возможных сочетаний факторов) и совпадают с оценками полного анализа.

Дисперсия s2 имеет K-J степеней свободы:

J K-J = (kj - 1).

J Сумма этих величин по всем J от 1 до G равна N -1. В этом легко убедиться, если раскрыть скобки в следующем тождестве:

N = ((kj - 1) + 1).

G Процедура определения степени влияния факторов на изучаемый признак мо жет быть следующей.

На 1-м шаге выбирается сочетание факторов J1, оказывающих наибольшее влияние на изучаемый признак. Этими факторами будут такие, для которых мини мума достигает показатель pv статистики Фишера s2 N - KJ1 - J1 c F1 =.

s2 - s2 KJ J1 На 2-м шаге выбирается сочетание факторов J2, для которого минимума до стигает показатель pv статистики Фишера s2 + s2 N - KJ1 - KJ2 - J J2 - c 1 F2 =.

s2 - s2 - s2 KJ1 + KJ J1 J2 - И так далее. Процесс прекращается, как только показатель pv достигнет за данного уровня ошибки, например, 0.05. Пусть этим шагом будет t-й. Оставши еся сочетания факторов формируют остаточную дисперсию. Как правило, в таком процессе сначала выбираются главные эффекты, затем парные и т.д., так что оста точную дисперсию образуют эффекты высоких порядков.

Расчетные значения изучаемого признака определяются по следующей формуле:

t xc = b0 + bI(Jl).

I l= Этим завершается рассмотрение модели полного многофакторного дисперси онного анализа без повторений.

4.4. Анализ временных рядов Несколько слов можно сказать о многофакторном дисперсионном анализе с повто рениями.

Если все NI 1, можно попытаться свести этот случай к предыдущему.

Для каждой конечной группы рассчитываются среднее xI и дисперсия s2. Исполь I зуя приведенные выше формулы можно рассчитать коэффициенты и дисперсии всех эффектов, заменяя xI на xI. К сожалению, в общем случае эффекты перестают быть взаимно независимыми, и в представлении общей дисперсии (4.41) кроме дис персий эффектов различных сочетаний факторов появляются слагаемые с нижним индексом JJ. Возникает неопределенность результатов и зависимость их от того набора сочетаний факторов, которые включены в анализ. Поэтому разные модели частичного анализа дают разные результаты, отличные от полного анализа.

Имеется несколько частных случаев, в которых «хорошие» свойства оценок сохра няются. Один из них — случай, когда все численности конечных групп одинаковы.

Тогда дисперсионное тождество записывается следующим образом:

G IK s2 = s2 + s2, J I J=1 I=I -- s e причем последнее слагаемое — остаточная, или внутригрупповая дисперсия — име ет N - K-G - 1 степеней свободы.

4.4. Анализ временных рядов Временным или динамическим рядом называется совокупность наблюдений xi в последовательные моменты времени i =1,..., N (обычно для индексации вре менных рядов используется t, в этом пункте для целостности изложения материала сохранено i). Задача анализа временного ряда заключается в выделении и модели ровании 3-х его основных компонент:

xi = i + i + i, i =1,..., N, или в оценках:

xi = di + ci + ei, i =1,..., N, где i, di — тренд, долговременная тенденция, i, ci — цикл, циклическая составляющая, i, ei — случайная компонента, с целью последующего использования построенных моделей в прикладном эконо мическом анализе и прогнозировании.

168 Глава 4. Введение в анализ связей Для выявления долгосрочной тенденции используют различные методы.

Наиболее распространено использование полиномиального тренда. Такой тренд строится как регрессия xi на полином определенной степени относительно времени:

xi = a1i + a2i2 +... + b + ei, i =1,..., N.

Для выбора степени полинома можно использовать F -критерий: оценивают тренд как полином, последовательно увеличивая его степень до тех пор, пока уда ется отвергнуть нулевую гипотезу.

Трендможет быть экспоненциальным. Он строится как регрессия ln xi на по лином от времени, так что после оценки параметров регрессии его можно записать в следующем виде:

xi = ea1i+a2i +...+b+ei, i =1,..., N.

Иногда тренд строится как сплайн, т.е. как некоторая «гладкая» композиция разных функций от времени на разных подпериодах.

Пусть, например, на двух подпериодах [1,..., N1] и [N1 +1,..., N] тренд вы ражается разными квадратическими функциями от времени (в момент времени N происходит смена тенденции):

xi = a1i + a2i2 + b1 + ei1, i =1,..., N1, xi = a3i + a4i2 + b2 + ei2, i = N1 +1,..., N.

Для того чтобы общий тренд был «гладким» требуют совпадения самих значений и значений первых производных двух полиномов в точке «перелома» тенденции:

2 a1N1 + a2N1 + b1 = a3N1 + a4N1 + b2, a1 +2a2N1 = a3 +2a4N1.

Отсюда выражают, например, a3 и b2 через остальные параметры и подставляют полученные выражения в исходное уравнение регрессии. После несложных преоб разований уравнение приобретает следующий вид:

xi = a1i + a2i2 + b1 + ei1, i =1,..., N1, xi = a1i + a2 i2 - (i - N1)2 + b1 + a4 (i - N1)2 + ei2, i = N1 +1,..., N.

Параметры полученного уравнения оцениваются, и, тем самым, завершается по строение тренда как полиномиального сплайна.

4.4. Анализ временных рядов Для выявления долговременной тенденции применяют также различные прие мы сглаживания динамических рядов с помощью скользящего среднего.

Один из подходов к расчету скользящей средней заключается в следующем: в ка честве сглаженного значения xi, которое по аналогии с расчетным значением мож но обозначить через xc, принимается среднее значений xi-p,..., xi,..., xi+p, i где p — полупериод сглаживания. Сам процесс сглаживания заключается в по следовательном расчете (скольжении средней) xc,..., xc. При этом часто p+1 N-p теряются первые и последние p значений исходного временного ряда.

Для сглаживания могут использоваться различные средние. Так, например, при полиномиальном сглаживании средние рассчитываются следующим образом.

Пусть сглаживающим является полином q-й степени. Оценивается регрессия вида:

xi+l = a1l + a2l2 +... + aqlq + b + ei+l, l = -p,..., p, и в качестве сглаженного значения xc принимается b (расчетное значение при i l =0).

Так, при q =2 и p =2 уравнение регрессии принимает следующий вид (исключая i как текущий индекс):

x-2 -2 4 1 e- x-1 -1 1 1 a1 e-.

x0 = 0 0 1 a2 + e x1 e 1 1 1 b x2 2 4 1 e По аналогии с (4.29), можно записать:

- -2 4 1 x- a1 -2 -1 0 1 2 -1 1 1 -2 -1 0 1 2 x- = a2 4 1 0 1 4 0 0 1 4 1 0 1 4 x0 = b 1 1 1 1 1 1 1 1 1 1 1 1 1 x 2 4 1 x 170 Глава 4. Введение в анализ связей x- -14 -7 0 7 14 x- = -5 -10 -5 10 x0.

-6 24 34 24 -6 x x Таким образом, в данном случае веса скользящей средней принимаются равными [-3, 12, 17, 12, -3].

При полиномиальном сглаживании потеря первых и последних p наблюдений в сглаженном динамическом ряду не является неизбежной;

их можно взять как рас четные значения соответствующих наблюдений по первому и последнему полиному (в последовательности скольжения средней).

Так, в рассмотренном примере при p = q =2:

x x xc -2a1 +4a2 + b 1 31 9 -3 -5 = = x3, xc -a1 + a2 + b 9 13 12 6 - x x xN- xN- xc a1 + a2 + b 1 -5 6 12 13 N- = = xN-2.

xc 2a1 +4a2 + b 3 -5 -3 9 N xN- xN Как видно, все эти расчетные значения являются средними взвешенными величина ми с несимметричными весами.

Для выбора параметров сглаживания p и q можно воспользоваться F -критерием (применение этого критерия в данном случае носит эвристический 4.4. Анализ временных рядов характер). Для каждой проверяемой пары p и q рассчитывается сначала остаточ ная дисперсия:

N s2 = (xi - xc)2, e i N i= азатем F -статистика:

s2 - s2 (2p - q) c x e F =, s2q e где s2 — полная дисперсия ряда.

x Выбираются такие параметры сглаживания, при которых эта статистика (q сте пеней свободы в числителе и 2p - q степеней свободы в знаменателе) имеет наи меньший показатель pv.

Другой способ сглаживания называется экспоненциальным. Притакомспосо бе в качестве сглаженного (расчетного) значения принимается среднее всех преды дущих наблюдений с экспоненциально возрастающими весами:

xc =(1 - a) alxi-l, i+ l= где 0 < a < 1 — параметр экспоненциального сглаживания (xc является на i самом деле средней, т.к. al = ).

1 - a l= В такой форме процедура сглаживания неоперациональна, поскольку требует знания всей предыстории — до минус бесконечности. Но если из xc вычесть i+ axc, то весь «хвост» предыстории взаимно сократится:

i xc - axc =(1 - a)xi +(1- a) alxi-l - (1 - a) al+1xi-1-l.

i+1 i l=1 l= ------------- ---------- ----------------- = Отсюда получается правило экспоненциального сглаживания:

xc =(1 - a)xi + axc, i+1 i в соответствии с которым сглаженное значение в следующий момент времени по лучается как среднее фактического и сглаженного значений в текущий момент времени.

Для того чтобы сгладить временной ряд, используя это правило, необходимо задать не только a, но и xc. Эти два параметра выбираются так, чтобы миниму ма достигла остаточная дисперсия. Минимизация остаточной дисперсии в данном 172 Глава 4. Введение в анализ связей случае является достаточно сложной задачей, поскольку относительно a она (оста точная дисперсия) является полиномом степени 2(N - 1) (по xc — квадратичной функцией).

Пусть долговременная тенденция выявлена. На ее основе можно попытаться сразу дать прогноз моделируемой переменной (прогноз, по-видимому, будет точнее, если в нем учесть все компоненты временного ряда).

В случае тренда как аналитической функции от времени i, прогнозом является расчетное значение переменной в моменты времени N +1,, N +2,....

Процедура экспоненциального сглаживания дает прогноз на один момент вре мени вперед:

xc =(1 - a) xN + axc.

N+1 N Последующие значения «прогноза» не будут меняться, т.к. отсутствуют основания для определения ошибки eN+1 и т.д. и, соответственно, для наблюдения различий между xc и xN+1 ит.д.

N+ При полиномиальном сглаживании расчет xc проводится по последнему по N+ линому (в последовательности скольжения средней) и оказывается равным неко торой средней последних 2p +1 наблюдений во временном ряду.

В приведенном выше примере (p = q =2):

xN- xN-.

xc =(b +3a1 +9a2) = N+ 21 -21 -28 0 63 xN- xN- xN Определение циклической и случайной составляющей временного ряда дается во II части книги.

4.5. Упражнения и задачи Упражнение На основании информации о весе и росте студентов вашего курса:

1.1. Сгруппируйте студентов по росту и весу (юношей и девушек отдельно).

4.5. Упражнения и задачи 1.2. Дайте табличное и графическое изображение полученных совместных рас пределений частот, сделайте выводы о наличии связи между признаками.

1.3. С помощью критерия Пирсона проверьте нулевую гипотезу о независимости роста и веса студентов.

1.4. С помощью дисперсионного анализа установите, существенно ли влияние роста на их вес.

1.5. На основе построенной таблицы сопряженности рассчитайте средние и дис персии роста и веса, а также абсолютную и относительную ковариацию между ними.

1.6. На основе исходных данных, без предварительной группировки (для юношей и девушек отдельно):

• Оцените с помощью МНК параметры линейного регрессионного урав нения, предположив, что переменная «рост» объясняется переменной «вес». Дайте интерпретацию полученным коэффициентам уравнения регрессии.

• Повторите задание, предположив, что переменная «вес» объясняется переменной «рост».

• Оцените с помощью МНК параметры ортогональной регрессии.

• Изобразите диаграмму рассеяния признаков роста и веса и все три линии регрессии. Объясните почему, если поменять экзогенные и эндогенные переменные местами, получаются различные уравнения.

• Для регрессионной зависимости роста от фактора веса вычислите объ ясненную и остаточную дисперсию, рассчитайте коэффициент детер минации и с помощью статистики Фишера проверьте статистическую значимость полученного уравнения.

Упражнение Дана таблица (табл. 4.1, индекс Доу—Джонса средних курсов на акции ряда промышленных компаний).

2.1. Изобразить данные, представленные в таблице, графически.

2.2. Найти оценки параметров линейного тренда. Вычислить и изобразить графи чески остатки от оценки линейного тренда.

2.3. На основе данных таблицы 174 Глава 4. Введение в анализ связей Таблица 4. Год Индекс Год Индекс Год Индекс 1897 45.5 1903 55.5 1909 92. 1898 52.8 1904 55.1 1910 84. 1899 71.6 1905 80.3 1911 82. 1900 61.4 1906 93.9 1912 88. 1901 69.9 1907 74.9 1913 79. 1902 65.4 1908 75. • произвести сглаживание ряда с помощью процедуры, основывающейся на q =1 и p =3 (q — степень полинома, p — полупериодсглажива ния);

• произвести сглаживание ряда с помощью процедуры, основывающейся на q =2 и p =2.

2.4. Сравнить сглаженный ряд с трендом, подобранным в упражнении 2.2.

Задачи 1. Используя интенсивность цвета для обозначения степени концентрации эле ментов в группах, дайте графическое изображение совокупности, характери зующейся:

а) однородностью и прямой зависимостью признаков (x1, x2) ;

б) однородностью и обратной зависимостью признаков (x1, x2) ;

в) неоднородностью и прямой зависимостью признаков (x1, x2) ;

г) неоднородностью и обратной зависимостью признаков (x1, x2) ;

д) неоднородностью и отсутствием связи между признаками (x1, x2).

2. Пусть заданы значения (x1, x2). Объясните, какие приемы следует приме нять для оценки параметров следующих уравнений, используя обычный метод наименьших квадратов:

а) x1 = x;

б) x2 = ex1;

в) x1 = + ln(x2);

г) x1 = x2/( + x2);

д) x1 = + /( - x2).

4.5. Упражнения и задачи 3. Может ли матрица 2 3 4 а) б) 3 4 2 являться ковариационной матрицей переменных, для которых строятся урав нения регрессии? Ответ обосновать.

4. Наблюдения трех пар (x1, x2) дали следующие результаты:

x2 =41, x2 =14, xi1xi2 =23, xi1 =9, xi2 =6.

i1 i i i i i i Оценить уравнения прямой, обратной и ортогональной регрессии.

5. Построить уравнения прямой, обратной и ортогональной регрессии, если а) X1 =(1, 2, 3),X2 =(1, 0, 5) ;

б) X1 =(0, 2, 0, 2),X2 =(0, 0, 2, 2) ;

в) X1 =(0, 1, 1, 2),X2 =(1, 0, 2, 1).

Нарисовать на графике в пространстве переменных облако наблюдений и линии прямой, обратной и ортогональной регрессии. Вычислить объяснен ную, остаточную дисперсию и коэффициент детерминации для каждого из построенных уравнений регрессии.

6. Какая из двух оценок коэффициента зависимости баллов, полученных на экзамене, от количества пропущенных занятий больше другой: по прямой или по обратной регрессии.

7. В регрессии x1 = a12x2 +1N b1 + e1, фактор x1 равен (1, 3, 7, 1). Пара метры регрессии найдены по МНК. Могут ли остатки быть равными:

а) (1, -2, 2, 1) ;

б) (1, -2, 1, -1).

8. Для рядов наблюдений x1 и x2 известны средние значения, которые равны соответственно 10 и 5. Коэффициент детерминации в уравнениях регрессии x1 на x2 равен нулю. Найти значения параметров простой регрессии x по x2.

9. В регрессии x1 = a12x2 +14b1 + e1, гд е x2 =(5, 3, 7, 1), получены оценки a12 = 2, b1 = 1, а коэффициент детерминации оказался равным 100%.

Найти вектор фактических значений x1.

176 Глава 4. Введение в анализ связей 10. Изобразите на графике в пространстве двух переменных облако наблюдений и линию прямой регрессии, если коэффициент корреляции между перемен ными:

а) положительный;

б) равен единице;

в) отрицательный;

г) равен минус единице;

д) равен нулю.

11. Существенна ли связь между зарплатой и производительностью труда по вы борке из 12 наблюдений, если матрица ковариаций для этих показателей 9 имеет вид.

6 12. Оцените параметры ортогональной регрессии и рассчитайте остаточную дис персию и коэффициент детерминации для переменных, у которых матрица 9 ковариаций равна, а средние значения равны 3 и 4.

6 13. Имеются данные об объемах производства по четырем предприятиям двух отраслей, расположенным в двух регионах (млн. руб):

Отрасль 1 Регион 1 48 2 20 Рассчитать эффекты взаимодействия, факторную и общую дисперсии.

14. Имеются данные об инвестициях на предприятиях двух отраслей:

Инвестиции Предприятие (млн. руб.) 1 Отрасль 2 3 4 Отрасль 2 5 6 4.5. Упражнения и задачи Рассчитать групповую, межгрупповую и общую дисперсии.

15. Имеются данные об урожайности культуры (в ц/га) в зависимости от способа обработки земли и сорта семян:

Способы обработки земли (B) Сорт семян (A) 1 2 3 1 16 18 20 2 20 21 23 3 23 24 26 С помощью двухфакторного дисперсионного анализа оценить, зависит ли урожайность культуры от сорта семян (A) или от способа обработки земли.

16. Запишите систему нормальных уравнений оценивания параметров полино миального тренда первой, второй и третей степеней.

17. Перенесите систему отсчета времени в середину ряда, т.е. i =... -3;

-2;

-1;

0;

1;

2;

3..., и перепишите систему нормальных уравнений для поли номиального тренда первой, второй и третей степеней. Как изменится вид системы? Найдите оценку параметров многочленов в явном виде из получен ной системы уравнений.

18. По данным о выручке за 3 месяца: 11, 14, 15 — оцените параметры поли номиального тренда первой степени и сделайте прогноз выручки на четвертый месяц.

19. Имеются данные об ежедневных объемах производства (млн. руб.):

День 1 2 3 4 5 6 7 8 9 10 11 12 13 14 Объем 9 12 27 15 33 14 10 26 18 24 38 28 45 32 Проведите сглаживание временного ряда, используя различные приемы скользящего среднего:

а) используя полиномиальное сглаживание;

б) используя экспоненциальное сглаживание.

20. Оценена регрессия xi = + s sin(i) +c cos(i) +i для частоты /2.

При этом s =4 и c =3. Найти значения амплитуды, фазы и периода.

21. Что называется гармоническими частотами? Записать формулу с расшиф ровкой обозначений.

22. Что такое частота Найквиста? Записать одним числом или символом.

178 Глава 4. Введение в анализ связей 23. Строится регрессия с циклическими компонентами:

k xi = + (sj sin(ji) +cj cos(ji)) + i, i =1,..., 5, k =2.

j= Запишите матрицу ковариаций факторов для данной регрессии.

Рекомендуемая литература 1. Доугерти К. Введение в эконометрику. — М.: «Инфра-М», 1997. (Гл. 2).

2. Кендэл М. Временные ряды. — М.: «Финансы и статистика», 1981. (Гл. 3–5, 8).

3. Магнус Я.Р., Катышев П.К., Пересецкий А.А. Эконометрика — начальный курс. — М.: «Дело», 2000. (Гл. 2).

Часть II Эконометрия — I:

Регрессионный анализ Это пустая страница В этой части развиваются положения 4-й главы «Введение в анализ связей» I-й части книги. Предполагается, что читатель знаком с основными разделами тео рии вероятностей и математической статистики (функции распределения случай ных величин, оценивание и свойства оценок, проверка статистических гипотез), линейной алгебры (свойства матриц и квадратичных форм, собственные числа и вектора). Некоторые положения этих теорий в порядке напоминания приводятся в тексте.

В частности, в силу особой значимости здесь дается краткий обзор функций распре деления, используемых в классической эконометрии (см. также Приложение A.3.2).

Пусть — случайная величина, имеющая нормальное распределение с нулевым ма тематическим ожиданием и единичной дисперсией ( N(0, 1)). Функция плотности этого распределения прямо пропорциональна e- ;

95-процентный двусторонний квантиль 0.95 равен 1.96, 99-процентный квантиль — 2.57.

Пусть теперь имеется k таких взаимно независимых величин l N(0, 1), k l =1,..., k. Сумма их квадратов 2 является случайной величиной, имею l=1 l щей распределение 2 c k степенями свободы (обозначается 2 ). Математическое k ожидание этой величины равно k, а отношение 2/k при k стремится к 1, k т.е. в пределе 2 становится детерминированной величиной. 95-процентный (одно сторонний) квантиль 2 при k =1 равен 3.84 (квадрат 1.96), при k =5 — k,0. 11.1, при k =20 — 31.4, при k = 100 — 124.3 (видно, что отношение 2 /k k,0. приближается к 1).

Если две случайные величины и 2 независимы друг от друга, то случайная k величина tk = имеет распределение t-Стьюдента с k степенями свободы.

2/k k - k+ t2 k Ее функция распределения пропорциональна 1+ ;

в пределе при k k она становится нормально распределенной. 95-процентный двусторонний кван тиль tk, 0.95 при k = 1 равен 12.7, при k = 5 — 2.57, при k = 20 — 2.09, при k = 100 — 1.98, т.е. стремитсяк 0.95.

Если две случайные величины 2 и 2 не зависят друг от друга, то случайная k1 k 2 /k k величина Fk,k2 = имеет распределение F -Фишера с k1 и k2 степенями 2 /k k свободы (соответственно, в числителе и знаменателе). При k2 эта случайная величина стремится к 2 /k1, т.е. k1Fk, = 2. Очевидно также, что F1,k = t2.

k1 1 k1 2 k 95-процентный (односторонний) квантиль F1,k,0.95 при k2 = 1 равен 161, при k2 =5 — 6.61, при k2 =20 — 4.35, при k2 = 100 — 3.94 (квадраты соответ ствующих tk,0.95);

квантиль F2,k,0.95 при k2 =1 равен 200, при k2 =5 — 5.79, при k2 =20 — 3.49, при k2 = 100 — 3.09;

квантиль Fk,20,0.95 при k1 =3 равен 3.10, при k1 =4 — 2.87, при k1 =5 — 2.71, при k1 =6 — 2.60.

Глава Случайные ошибки Задачей регрессионного анализа является построение зависимости изучаемой случайной величины x от факторов z :

x = f(z, A) +, где A — параметры зависимости.

Если z — истинный набор факторов, полностью определяющий значение x, а f — истинная форма зависимости, то — случайные ошибки измерения x.

Однако в экономике весьма ограничены возможности построения таких истинных моделей, прежде всего потому, что факторов, влияющих на изучаемую величи ну, слишком много. В конкретных моделях в лучшем случае наборы z включают лишь несколько наиболее значимых факторов, и влияние остальных, неучтенных, факторов определяет. Поэтому называют просто случайными ошибками или остатками.

В любом случае считают, что — случайные величины с нулевым математиче ским ожиданием и, как правило, нормальным распределением. Последнее следует из центральной предельной теоремы теории вероятностей, поскольку по своему смыслу является результатом (суммой) действия многих мелких малозначимых по отдельности факторов случайного характера.

Действительно, в соответствии с этой теоремой, случайная величина, являющаяся суммой большого количества других случайных величин, которые могут иметь раз личные распределения, но взаимно независимы и не слишком различаются между собой, имеет асимптотически нормальное распределение, т.е. чем больше случайных величин, тем ближе распределение их суммы к нормальному.

5.1. Первичные измерения 5.1. Первичные измерения Пусть имеется N измерений xi, i =1,..., N, случайной величины x, т.е. N наблюдений за случайной величиной. Предполагается, что измерения проведены в неизменных условиях (факторы, влияющие на x, не меняют своих значений), и систематические ошибки измерений исключены. Тогда различия в результатах отдельных наблюдений (измерений) связаны только с наличием случайных ошибок измерения:

xi = + i, i =1,..., N, (5.1) где — истинное значение x, i — случайная ошибка в i-м наблюдении. Такой набор наблюдений называется выборкой.

Понятно, что это — идеальная модель, которая может иметь место в естествен нонаучных дисциплинах (в управляемом эксперименте). В экономике возможности измерения одной и той же величины в неизменных условиях практически отсут ствуют. Определенные аналогии с этой моделью возникают в случае, когда неко торая экономическая величина измеряется разными методами (например, ВВП — по производству или по использованию), и наблюдениями выступают результаты измерения, осуществленные этими разными методами. Однако эта аналогия до статочно отдаленная, хотя бы потому, что в модели N предполагается достаточно большим, а разных методов расчета экономической величины может быть в луч шем случае два-три. Тем не менее, эта модель полезна для понимания случайных ошибок.

Если X и — вектор-столбцы с компонентами, соответственно, xi и i, а 1N — N -мерный вектор-столбец, состоящий из единиц, то данную модель мож но записать в матричной форме:

X =1N +. (5.2) Предполагается, что ошибки по наблюдениям имеют нулевое математическое ожидание в каждом наблюдении: E (i) = 0, i = 1,..., N;

линейно не зависят друг от друга: cov (i, j) =0, i = j;

а их дисперсии по наблюдениям одинаковы:

var (i) =2, i =1,..., N или, в матричной форме: E ( ) =IN 2, гд е 2 — дисперсия случайных ошибок или остаточная дисперсия, IN — единичная матрица размерности N. Это—обычныегипотезы относительно случайных ошибок.

Требуется найти b и ei — оценки, соответственно, и i. Для этого исполь зуется метод наименьших квадратов (МНК), т.е. искомые оценки определяются N N так, чтобы (xi - b)2 = e2 = e e min!, гд е e вектор-столбец оценок ei.

i i=1 i= 184 Глава 5. Случайные ошибки В результате, N 1 b = = xi = 1 X, e = X - 1N b, x N N N i= de e d2e e т.к. = -2 (xi - b) =0. Кроме того, =2N> 0, следовательно, в дан db db ной точке достигается минимум, т.е. МНК-оценкой истинного значения измеряемой величины является, как и следовало ожидать, среднее арифметическое по наблю дениям, а среднее МНК-оценок остатков равно нулю:

= 1 (X - 1Nb) = - b =0.

x N N Оценка b относится к классу линейных, поскольку линейно зависит от наблюдений за случайной величиной.

Полученная оценка истинного значения является несмещенной (т.е. ее мате матическое ожидание равно истинному значению оцениваемого параметра), что можно легко показать.

Действительно:

1 (5.1) 1 b = xi = ( + i) = + i, (5.3) N N N — детер минировано 1 E(i)= E (b) = + E (i) =.

N Что и требовалось доказать.

Однако несмещенной оценкой является и любое наблюдение xi, т.к. из (5.1) следует, что E (xi) =.

Легко установить, что оценка b лучше, чем xi, т.к. имеет меньшую дисперсию (меньшую ошибку), то есть является эффективной. Более того, b — наилучшая в этом смысле оценка во множестве всех возможных линейных несмещенных оце нок. Ее дисперсия минимальна в классе линейных несмещенных оценок и опреде ляется следующим образом:

b = 2, (5.4) N т.е. она в N раз меньше, чем дисперсия xi, которая, как это следует из (5.1), равна 2.

5.1. Первичные измерения Действительно, множество всех линейных оценок по определению представляется следующим образом:

N b = dixi, i= где di — любые детерминированные числа.

Из требования несмещенности, E (b) =, следует, что di =1, т.к.

di — детер минировано E (b) =E dixi = di E (xi) = di.

- Таким образом, множество всех линейных несмещенных оценок описывается так:

N N b = dixi, di =1.

i=1 i= В этом множестве надо найти такую оценку (такие di), которая имеет наименьшую дисперсию, (5.1) b = dixi = di + dii, - = откуда b - = dii, и можно рассчитать дисперсию b :

var(b) =b = E (b - E(b)2 = E 2 = ( ) E(ii )= i = E dii = d2E(2) = 2 d2.

i i i Минимум d2 при ограничении di =1 достигается, если все di одинаковы i 1 2 иравны, т.е. если b = b. Отсюда, в частности, следует, что b = 2.

N N Что и требовалось доказать.

Такие оценки относятся к классу BLUE — Best Linear Unbiased Estimators.

Кроме того, оценка b состоятельна (стремится при N к истинному значению параметра), т.к. она несмещена и ее дисперсия, как это следует из (5.4), при N стремится к 0.

186 Глава 5. Случайные ошибки Чтобы завершить рассмотрение данного случая, осталось дать оценку остаточ ной дисперсии. Естественный «кандидат» на эту «роль» — дисперсия x :

1 1 s2 = (xi - b)2 = ei = e e, N N N — дает смещенную оценку. Для получения несмещенной оценки остаточной дис персии сумму квадратов остатков надо делить не на N, ана N - 1 :

2 = e e, (5.5) N - поскольку в векторе остатков e и, соответственно, в сумме квадратов остатков e e линейно независимых элементов только N - 1 (т.к. 1 e =0). Этот факт можно N доказать строго.

Если просуммировать по i соотношения (5.1) и поделить обе части полученного выражения на N, то окажется, что b = + i. Кроме того, известно, что N xi = + i = b + ei. Объединяя эти два факта можно получить следующее выраже ние:

ei = i - i, (5.6) N (т.е. оценки остатков равны центрированным значениям истинных случайных оши бок), и далее получить 2 1 1 e e = i - i = 2 - i + i = i N N N = 2 - i.

i N Наконец:

E 2 =2, E(ii )= ( ) i E (e e) =(N - 1) 2, т.е.

E e e = 2.

N - Что и требовалось доказать.

Теперь относительно случайных ошибок вводится дополнительное предполо жение: они взаимно независимы (а не только линейно независимы) и распре делены нормально: i NID 0, 2. NID расшифровывается как normally and 5.1. Первичные измерения independently distributed (нормально и независимо распределенные случайные величины). Тогда становится известной функция плотности вероятности i :

1 1 1 2 (xi-) 2 f (i) =(2)- -1e- 22 i =(2)- -1e-, и функция совместной плотности вероятности (произведение отдельных функ ций плотности, так как случайные ошибки по наблюдениям взаимно независи мы) (см. Приложение A.3.2):

N (xi-) f (1,..., N ) =(2)- -N e-.

Эта функция рассматривается как функция правдоподобия L (, ), значения которой показывают «вероятность» (правдоподобность) появления наблюдаемых xi, i = 1,..., N, при тех или иных значениях и. Имея такую функцию, можно воспользоваться для оценки параметров и методом максимального правдоподобия (ММП): в качестве оценок принять такие значения и, которые доставляют максимум функции правдоподобия (фактически предполагая, что, раз конкретные xi, i =1,..., N реально наблюдаются, то вероятность их появления должна быть максимальной).

Обычно ищется максимум не непосредственно функции правдоподобия, а ее логарифма (значения этой функции при конкретных xi и конечных положи тельны, и их можно логарифмировать;

эта операция, естественно, не меняет точки экстремума), что проще аналитически.

N ln L (, ) =- ln 2 - N ln - (xi - )2.

2 Ищутся производные этой функции по и, приравниваются нулю и опреде ляются искомые оценки:

ln L = (xi - ) =0 = = b, x ln L N 1 = - + e2 =0 2 = e2 = s2.

i 3 i N Это точка минимума, поскольку матрица 2-х производных N 1 - s 0 в ней отрицательно определена.

188 Глава 5. Случайные ошибки Таким образом, ММП-оценки и i совпадают с МНК-оценками, но ММП оценка 2 равна не 2, а s2, т.е. является смещенной. Тем не менее, эта оценка состоятельна, т.к. при N различия между 2 и s2 исчезают.

Известно, что метод максимального правдоподобия гарантирует оценкам со стоятельность и эффективность, т.е. они обладают минимально возможными дис персиями (вообще, а не только в классе линейных несмещенных, как оценки класса BLUE).

В рамках гипотезы о нормальности ошибок можно построить доверительный интервал для истинного значения параметра, т.е. интервал, в который это значение попадает с определенной вероятностью 1 -, гд е — уровень ошибки (аналоги чен величинам sl и pv, введенным во 2-й и 4-й главах I части книги;

в прикладных исследованиях уровень ошибки принимается обычно равным 0.05). Он называется (1 - )100-процентным (например, при =0.05 — 95-процентным) доверитель ным интервалом.

Следствием нормальности является нормальность b : b N,. По N этому (b - ) N N (0, 1), (5.7) и, по определению двустороннего квантиля (см. п. 2.3), (b - ) N 1-, где 1- — (1 - )100-процентный двусторонний квантиль нормального распре деления.

Откуда b ± 1- (5.8) N — искомый (1 - )100-процентный доверительный интервал.

К сожалению, на практике этой формулой доверительного интервала восполь зоваться невозможно, т.к. она предполагает знание остаточной дисперсии 2. Из вестна же только ее оценка 2.

Простая замена в (5.8) на будет приводить к систематическим ошибкам — к преуменьшению доверительного интервала, т.е. к преувеличению точности рас чета.

Чтобы получить правильную формулу расчета, необходимо провести дополни тельные рассуждения.

5.1. Первичные измерения Прежде всего, доказывается, что e e 2. (5.9) 2 N- Справедливость этого утверждения достаточно очевидна, поскольку, как было по казано выше, сумма квадратов e e имеет N - 1 степень свободы, но может быть доказана строго.

В матричной форме выражение (5.6) записывается следующим образом:

e = B, (5.10) где B = IN - 1N1.

N N Матрица B размерности N N :

а) вещественна и симметрична ( B = B), поэтому она имеет N вещественных корней, которые можно «собрать» в диагональной матрице, и N взаимно орто гональных вещественных собственных векторов, образующих по столбцам матрицу Y. Пусть проведена надлежащая нормировка и длины этих собственных векторов равны 1. Тогд а:

- Y Y = IN, Y = Y, BY = Y, B = Y Y ;

(5.11) б) вырождена и имеет ранг N - 1. Действительно, имеется один и только один (с точностью до нормировки) вектор = 0, который дает равенство B = 0. Все компоненты этого единственного вектора одинаковы, т.к., как было показано выше, B — центрированный. В частности, B1N =0. (5.12) Это и означает, что ранг B равен N - 1;

в) идемпотентна, т.е. B2 = B (см. Приложение A.3.2):

1 B2 = IN - 1N 1 IN - 1N1 = N N N N 1 1 = IN - 1N1 - 1N1 + 1N 1 1N 1 = B.

N N N N N N2 N - =N ----------------- = Далее, пусть 1 u = Y, uj = Yj, (5.13) где Yj — j-й собственный вектор матрицы B.

190 Глава 5. Случайные ошибки Очевидно, что E (uj) =0, дисперсии uj одинаковы и равны 1:

1 E( )=2IN (5.11) E u2 = E Yj Yj = Yj Yj = 1, j и uj взаимно независимы (при j = j ):

(5.11) аналогично E (ujuj ) = Yj Yj = 0.

Тогда e e (5.10) 1 1 (5.11) 1 (5.13) B =B, B2=B = B B = B = Y Y = u u. (5.14) 2 2 2 Собственные числа матрицы B, как и любой другой идемпотентной матрицы, равны либо 1, либо 0 ( — любое собственное число, — соответствующий собственный вектор):

B =, 0, 2 = = 1.

B = B2 = B = и, поскольку ранг матрицы B равен N - 1, среди ее собственных чисел имеется N - 1, равных 1, и одно, равное 0. Поэтому (5.14), в соответствии с определе нием случайной величины, имеющей распределение 2, дает требуемый результат (см. также Приложение A.3.2).

Случайные величины, определенные соотношениями (5.7, 5.9), некоррелиро ваны, а, следовательно, и взаимно независимы по свойствам многомерного нор мального распределения (см. Приложение A.3.2).

Действительно:

(5.3) b - = 1, N N E =2IN ( ) (5.10) 1 2 (5.12) cov(e, b) =E(e (b - ) ) = E(B 1N ) = B1N = 0.

N N Что и требовалось доказать.

Поэтому, в соответствии с определением случайной величины, имеющей t-распределение (см. также Приложение A.3.2):

(b - ) N e e /(N - 1) tN-1, 5.1. Первичные измерения и после элементарных преобразований (сокращения и замены (5.5)) получается следующий результат:

(b - ) N tN-1.

Откуда:

b ± tN-1,1-, (5.15) N где tN-1,1- — (1 - )100-процентный двусторонний квантиль tN-1-распреде ления.

Это — операциональная (допускающая расчет) форма доверительного интер вала для. Как видно, для ее получения в (5.8) надо заменить не только на, но и 1- на tN-1,1-. Т. к. tN-1,1- > 1-, использование (5.8) с простой заменой на действительно преуменьшает доверительный интервал (преувеличивает точность расчета). Но по мере роста N (объема информации), в соответствии со свойствами t-распределения, доверительный интервал сужается (растет точность расчета), и в пределе при N он совпадает с доверительным интервалом (5.8) (с простой заменой на ).

Важным является вопрос содержательной интерпретации доверительных ин тервалов.

Понятно, что в рамках подхода объективной вероятности непосредственно утверждения (5.8, 5.15) не могут считаться корректными. Величина — детерми нирована и не может с какой-либо вероятностью 0 < 1 - <1 принадлежать кон кретному интервалу. Она может либо принадлежать, либо не принадлежать этому интервалу, т.е. вероятность равна либо 1, либо 0. Потому в рамках этого подхода интерпретация может быть следующей: если процедуру построения доверитель ного интервала повторять многократно, то (1 - ) · 100 процентов полученных интервалов будут содержать истинное значение измеряемой величины.

Непосредственно утверждения (5.8, 5.15) справедливы в рамках подхода субъ ективной вероятности.

Рассмотренная модель (5.1) чрезвычайно идеализирует ситуацию: в экономике условия, в которых измеряются величины, постоянно меняются. Эти условия пред ставляются некоторым набором факторов zj, j =1,..., n, и модель «измерения» записывается следующим образом:

n xi = zijj + + i, i =1,..., N, j= где zij — наблюдения за значениями факторов, j, j =1,..., n, —оценива емые параметры.

192 Глава 5. Случайные ошибки Такая модель — это предмет регрессионного анализа. Рассмотренная же мо дель (5.1) является ее частным случаем: формально — при n =0, по существу — c при неизменных по наблюдениям значениях факторов zij = zj ( c — const), так c что оцениваемый в (5.1) параметр в действительности равен zjj +.

Прежде чем переходить к изучению этой более общей модели, будут рассмот рены проблемы «распространения» ошибок первичных измерений (в этой гла ве) и решены алгебраические вопросы оценки параметров регрессии (следующая глава).

5.2. Производные измерения Измеренные первично величины используются в различных расчетах (в произ водных измерениях), и результаты этих расчетов содержат ошибки, являющиеся следствием ошибок первичных измерений. В этом пункте изучается связь между ошибками первичных и производных измерений, или проблема «распространения» ошибок первичных измерений. Возможна и более общая трактовка проблемы: вли яние ошибок в исходной информации на результаты расчетов.

Пусть xj, j =1,..., n, — выборочные (фактические) значения (наблюдения, измерения) n различных случайных величин, j — их истинные значения, j — ошибки измерений. Если x,, — соответствующие n-компонентные вектор строки, то x = +. Предполагается, что E() =0 и ковариационная матрица ошибок E( ) равна.

Пусть величина y рассчитывается как f(x). Требуется найти дисперсию y ошибки y = y - f() измерения (расчета) этой величины.

Разложение функции f в рядТэйлора в фактической точке x по направлению - x ( = -), если в нем оставить только члены 1-го порядка, имеет вид: f() = = y - g (заменяя « » на « = ») или y = g, гд е g —град иент f в точке x f (вектор-столбец с компонентами gj = (x)).

xj Откуда E (y) =0 и E( )= y = E 2 = E g g = g g. (5.16) y Это — общая формула, частным случаем которой являются известные форму лы для дисперсии среднего, суммы, разности, произведения, частного от деления ид р.

.

Пусть n =2, = 5.2. Производные измерения, y = 1 + 2 ± 2.

2 2 а) если y = x1 ± x2, то: g = ± x2 2 2 y, y = x21 + x22 +2x1x2 или = + б) если y = x1x2, то: g = 2 y2 x x + +2.

x2 x1x, y = 1 1 + 2 - 2 или = + x2 x2 1 x1 x2 2 2 1 2 1 y 2 в) если y =, то: g = x2 x2 x4 x3 y2 x2 x 2 2 2 1 x x - 2.

x1x 2 y 1 Случаи (б) и (в) можно объединить: если y = x1x±1, то = + ± y2 x2 x2 x1x 1 y 1 Можно назвать y, 1, 2 абсолютными, а,, —относительнымиошибка y x1 x ми, и, как только что показано, сделать следующие утверждения.

Если ошибки аргументов не коррелированы ( =0), то квадрат абсолютной ошиб ки суммы или разности равен сумме квадратов абсолютных ошибок аргументов, а квадрат относительной ошибки произведения или частного от деления равен сумме квадратов относительных ошибок аргументов.

Если ошибки аргументов коррелированы положительно ( > 0), то ошибка сум мы или произведения возрастает (предполагается, что x1x2 > 0), а разности или частного от деления — сокращается. Влияние отрицательной корреляции ошибок аргументов противоположное.

Выражение (5.4), которое фактически дает формулу ошибки среднего, также явля ется частным случаем (5.16).

N Действительно, в данном случае y = xi, =2IN, ипоскольку N i= 1.

.

g =, то y = 2.

.

N N В случае, если ошибки величин xj не коррелированы друг с другом и имеют одинаковую дисперсию 2 ( =2In), то y = 2g g, (5.17) т.е. чем резче меняется значение функции в точке расчета, тем в большей сте пени ошибки исходной информации влияют на результат расчета. Возможны си туации, когда результат расчета практически полностью определяется ошибками «на входе».

194 Глава 5. Случайные ошибки В случае, если известны дисперсии ошибок j, а информация о их ковариациях отсутствует, можно воспользоваться формулой, дающей верхнюю оценку ошибки результата вычислений:

n y |jgj| =y, j= где j — среднеквадратическое отклонение j.

Пусть в данном случае — диагональная матрица {j}, тогд а =R, гд е R — jj корреляционная матрица ( rjj = ).

jj Тогда (5.16) преобразуется к виду:

y = g Rg.

Пусть далее |g| —вектор-столбец {|jgj|}, а W — диагональная матрица {±1} такая, что g = W |g|.

Тогда y = |g | WRW |g|. (5.18) По сравнению с R в матрице WRW лишь поменяли знаки некоторые недиаго нальные элементы, и поэтому все ее элементы, как и в матрице R, не превышают единицы:

WRW 1n1.

n Умножение обеих частей этого матричного неравенства справа на вектор-столбец |g| и слева на вектор строку |g | сохранит знак « », т.к. эти векторы, по опре делению, неотрицательны. Следовательно:

(5.18) |g | WRW |g| = y |g | 1n1 |g| = |jgj|.

n Что и требовалось доказать.

5.3. Упражнения и задачи Упражнение Дана модель xi = + i = 12 + i, i = 1,..., N. Используя нормальное распределение, в котором каждое значение ошибки i независимо, имеет среднее 0 и дисперсию 2, получите 100 выборок вектора размерности (N 1), k = = 1,..., 100, гд е N = 10 (в каждой выборке по 10 наблюдений). Прибавив к каждому элементу этой выборки число 12 получите 100 выборок вектора x.

5.3. Упражнения и задачи 1.1. Используйте 20 из 100 выборок, чтобы получить выборочную оценку bk для (bk = xik, k =1,..., 20).

i= 1.2. Вычислите среднее и дисперсию для 20 выборок оценок параметра 20 1 b = bk, s2 = (bk - b)2. Сравните эти средние значения с ис 20 20- k=1 k= тинными параметрами.

1.3. Для каждой из 20 выборк оцените дисперсию, используя формулу N 2 = (xi - b)2.

N - i= Пусть 2 — это оценка 2 в выборке k. Рассчитайте 2 исравните k 20k=1 k с истинным значением.

1.4. Объедините 20 выборок по 10 наблюдений каждая в 10 выборок по 20 на блюдений и повторите упражнение 1.1–1.3. Сделайте выводы о результатах увеличения объема выборки.

1.5. Повторите упражнение 1.1–1.3 для всех 100 ид ля 50 выборок и проанали зируйте разницу в результатах.

1.6. Постройте распределения частот для оценок, полученных в упражнении 1.5, сравните и прокомментируйте результаты.

1.7. Постройте 95 % доверительный интервал для параметра в каждой выбор ке, сначала предполагая, что 2 известно, а потом при условии, что истинное значение 2 неизвестно. Сравните результаты.

Задачи 1. При каких условиях средний за ряд лет темп инфляции будет несмещенной оценкой истинного значения темпа инфляции?

2. В каком случае средняя за ряд лет склонность населения к сбережению будет несмещенной оценкой истинного значения склонности к сбережению?

3. Пусть x1, x2,..., xN — независимые случайные величины, распределен ные нормально с математическим ожиданием и дисперсией 2.

N ixi i= Пусть b = — это оценка, N i i= 196 Глава 5. Случайные ошибки – покажите, что b — относится к классу несмещенных линейных оценок;

– рассчитайте дисперсию b;

– проверьте b на состоятельность;

N – сравните b с простой средней b = xi;

N i= 4. Случайная величина измерена три раза в неизменных условиях. Получены значения: 99, 100, 101. Дать оценку истинного значения этой величины и стандартную ошибку данной оценки.

5. Измерения веса студента Иванова на четырех весах дали следующие резуль таты: 80.5 кг, 80 кг, 78.5 кг, 81 кг. Дайте оценку веса с указанием ошибки измерения.

6. Пусть — величина ВВП в России в 1998 г. Несколько различных экспер тов рассчитали оценки ВВП xi. Какие условия для ошибок этих оценок xi должны выполнятся, чтобы среднее xi было несмещенной и эффективной оценкой ?

7. Проведено пять измерений некоторой величины. Результаты этих измерений следующие: 5.83, 5.87, 5.86, 5.82, 5.87. Как бы вы оценили истинное значе ние этой величины при доверительной вероятности 0.95 ? А при вероятности 0.99 ?

8. Предположим, что исследователь, упоминавшийся в задаче 7, полагает, что истинное стандартное отклонение измеряемой величины равно 0.02. Сколько независимых измерений он должен сделать, чтобы получить оценку значения величины, отличающуюся от истинного значения не более чем на 0.01:

а) при 95%-ном доверительном уровне?

б) при 99%-ном доверительном уровне?

9. Случайная величина измерена три раза в неизменных условиях. Получена оценка истинного значения этой величины 5.0 и стандартная ошибка этой оценки. Каким мог быть исходный ряд?

10. Пусть имеется 25 наблюдений за величиной x, и по этим данным построен 95%-ный доверительный интервал для x: [1.968;

4.032]. Найдите по этим данным среднее значение и дисперсию ряда.

11. Пусть xi — продолжительность жизни i-го человека ( i =1,..., N), x — средняя продолжительность жизни, элементы выборки случайны и незави симы. Ошибка измерения исходного показателя для всех i составляет 5%, 5.3. Упражнения и задачи какова ошибка x ? Вывести формулу x, рассчитать коэффициент вариации для x, если x1 =50, x2 =60, x3 =70.

12. Пусть объем экспорта равен 8 условных единиц, а импорта — 7 условных единиц. Показатели некоррелированы, их дисперсии одинаковы и равны условной единице. На каком уровне доверия можно утверждать, что сальдо экспорта-импорта положительно?

13. Средние рентабельности двух разных фирм равны соответственно 0.4 и 0.2, стандартные отклонения одинаковы и составляют 0.2. Действительно ли пер вая фирма рентабельнее и почему?

14. Наблюдаемое значение некоторой величины в предыдущий и данный мо мент времени одинаково и равно 10. Ошибки наблюдений не коррелированы и имеют одинаковую дисперсию. Какова относительная ошибка темпа роста?

15. Пусть величина ВНП в I и II квартале составляла соответственно 550 и млрд. долларов. Ошибки при расчетах ВНП в I и II квартале не коррели рованы и составляют 1%. Какова относительная ошибка темпа прироста ВНП во II квартале? К каким последствиям в расчетах темпов роста и темпов прироста приведут ошибки измерения ВНП, равные 5%?

16. Стандартная ошибка измерения показателя труда и показателя капитала составляет 1%, ошибки измерений не коррелированы. Найти относитель ную ошибку объема продукции, рассчитанного по производственной функции Кобба—Дугласа: Y = CKL.

17. Доля бюджетного дефицита в ВВП вычисляется по формуле (R - E)/Y, гд е R = 600 условных единиц — доходы бюджета, E = 500 условных единиц — расходы, Y = 1000 условных единиц — ВВП. Известно, что дисперсии R и E равна 100, дисперсия Y равна 25. Оценить сверху дисперсию доли дефицита.

Рекомендуемая литература 1. Венецкий И.Г., Венецкая В.И. Основные математико-статистические по нятия и формулы в экономическом анализе. — М.: «Статистика», 1979.

(Разд. 7).

2. Езекиэл М., Фокс К. Методы анализа корреляций и регрессий. — М.: «Ста тистика», 1966. (Гл. 2).

198 Глава 5. Случайные ошибки 3. Кейн Э. Экономическая статистика и эконометрия. — М.: «Статистика», 1977. Вып. 1. (Гл. 8, 9).

4. Моргенштерн О. О точности экономико-статистических наблюдений. — М.:

«Статистика», 1968. (Гл. 2, 6).

5. Тинтер Г. Введение в эконометрию. — М.: «Статистика», 1965. (Гл. 1).

6. Frees Edward W. Data Analysis Using Regression Models: The Business Per spective, Prentice Hall, 1996. (Ch. 2).

7. (*) Judge G.G., Hill R.C., Griffiths W.E., Luthepohl H., Lee T. Introduction to the Theory and Practice of Econometric. John Wiley & Sons, Inc., 1993.

(Ch. 3, 5).

8. William E.Griffiths, R. Carter Hill., George G. Judge Learning and Practicing econometrics, N 9 John Wiley & Sons, Inc., 1993. (Ch. 14).

Глава Алгебра линейной регрессии 6.1. Линейная регрессия В этой главе предполагается, что между переменными xj, j =1,..., n суще ствует линейная зависимость:

n xjj = +, (6.1) j= где j, j =1,..., n, (угловые коэффициенты и свободный член) — параметры (коэффициенты) регрессии (их истинные значения), — случайная ошибка;

или в векторной форме:

x = +, (6.2) где x и — соответственно вектор-строка переменных и вектор-столбец пара метров регрессии.

Как уже отмечалось в пункте 4.2, регрессия называется линейной, если ее уравнение линейно относительно параметров регрессии, а не переменных. Поэтому предполагается, что xj, j = 1,..., n, могут являться результатом каких-либо функциональных преобразований исходных значений переменных.

Для получения оценок aj, j = 1,..., n, b, e, соответственно, параметров регрессии j, j =1,..., n, и случайных ошибок используется N наблюде ний за переменными x, i =1,..., N, которые образуют матрицу наблюдений X 200 Глава 6. Алгебра линейной регрессии размерности N n (столбцы — переменные, строки — наблюдения). Уравнение регрессии по наблюдениям записывается следующим образом:

X =1N +, (6.3) где, как и прежде, 1N — вектор-столбец размерности N, состоящий из еди ниц, — вектор-столбец размерности N случайных ошибок по наблюдениям;

или в оценках:

Xa =1N b + e. (6.4) Собственно уравнение регрессии (без случайных ошибок) x = или xa = b определяет, соответственно, истинную или расчетную гиперплоскость (линию, плоскость,... ) регрессии.

Далее применяется методнаименьших квадратов: оценки параметров регрессии находятся так, чтобы минимального значения достигла остаточная дисперсия:

1 s2 = e e = a X - b1 (Xa - 1N b).

e N N N Из равенства нулю производной остаточной дисперсии по свободному члену b следует, что xa = b (6.5) и 1 e =0. (6.6) N Действительно, - 2(xa - b), s2 e = - 1 (Xa - 1Nb) = N b N - 1 e.

N N Вторая производная по b равна 2, т.е. в найденной точке достигается минимум.

Здесь и ниже используются следующие правила матричной записи результатов диф ференцирования линейных и квадратичных форм.

Пусть x, a —вектор-столбцы, — скаляр, а M — симметричная матрица. То гда:

dx x a x M x Mx = x, = a, = M, =2Mx.

d x x x (См. Приложение A.2.2.) 6.2. Простая регрессия Этот результат означает, что точка средних значений переменных лежит на расчетной гиперплоскости регрессии.

В результате подстановки выражения b из (6.5) через a в (6.4) получается другая форма записи уравнения регрессии:

Xa = e, (6.7) где X = X - 1N x — матрица центрированных значений наблюдений.

(6.3, 6.4) — исходная, (6.7) —сокращенная запись уравнения регрессии.

Минимизация остаточной дисперсии по a без дополнительных условий приве дет к тривиальному результату: a =0. Чтобы получать нетривиальные решения, на вектор параметров и их оценок a необходимо наложить некоторые огра ничения. В зависимости от формы этих ограничений возникает регрессия разного вида — простая или ортогональная.

6.2. Простая регрессия В случае, когда ограничения на вектор a () имеют вид aj =1 ( j =1), возникают простые регрессии. В таких регрессиях в левой части уравнения оста ется одна переменная (в данном случае j-я), а остальные переменные переносятся в правую часть, и уравнение в исходной форме приобретает вид (регрессия j-й переменной по остальным, j-я регрессия):

Xj = X-ja-j +1N bj + ej, (6.8) где Xj — вектор-столбец наблюдений за j-й переменной — объясняемой, X-j — матрица наблюдений размерности N (n - 1) за остальными перемен ными — объясняющими (композиция Xj и X-j образует матрицу X), a-j — вектор a без j-го элемента (равного 1), взятый с обратным знаком (компози ция 1 и -a-j образует вектор a), bj и ej — соответственно свободный член и вектор-столбец остатков в j-й регрессии. В сокращенной форме:

Xj = X-ja-j + ej. (6.9) В таких регрессиях ошибки eij — расстояния от гиперплоскости регрессии до точек облака наблюдения — измеряются параллельно оси xj.

Остаточная дисперсия приобретает следующую форму:

1 s2 = e ej = Xj - a X Xj - X-ja-j. (6.10) ej j -j -j N N 202 Глава 6. Алгебра линейной регрессии Из равенства нулю ее производных по параметрам a-j определяется, что a-j = M-1m-j, (6.11) -j где M-j = X X-j — матрица ковариации объясняющих переменных x-j N -j между собой, m-j = X Xj — вектор-столбец ковариации объясняющих пе N -j ременных с объясняемой переменной xj;

и cov (X-j, ej) = X ej =0. (6.12) -j N Действительно, s2 2 -2(m-j - M-ja-j), ej = - X Xj - X-ja-j = -j a-j N - 2 X ej.

-j N Кроме того, очевидно, что матрица вторых производных равна 2M-j, и она, как всякая ковариационная матрица, положительно полуопределена. Следовательно, в найденной точке достигается минимум остаточной дисперсии.

Справедливость утверждения о том, что любая матрица ковариации (теоретическая или ее оценка) положительно полуопределена, а если переменные линейно незави симы, то — положительно определена, можно доказать в общем случае.

Пусть x — случайный вектор-столбец с нулевым математическим ожиданием. Его теоретическая матрица ковариации по определению равна E (xx ). Пусть =0 — детерминированный вектор-столбец. Квадратичная форма E(xx ) = E( xx ) =E ( x)2 0, т.е. матрица положительно полуопределена. Если не существует такого =0, что x =0, т.е. переменные вектора x линейно не зависят друг от друга, то неравенство выполняется строго, и соответствующая матрица положительно определена.

Пусть X —матрица N наблюдений за переменными x. Оценкой матрицы ко 1 вариации этих переменных является X X. Квадратичная форма X X = N N = u u 0, гд е u = X, т.е. матрица положительно полуопределена. Если не N существует такого =0, что X =0, т.е. переменные x линейно не зависят друг от друга, то неравенство выполняется строго, и соответствующая матрица положи тельно определена.

Оператор МНК-оценивания образуется соотношениями (6.11) и (6.5), которые в данном случае записываются следующим образом:

bj = - x-ja-j (6.13) xj 6.2. Простая регрессия (соотношения МНК-оценивания (4.37), данные в пункте 4.2 без доказательства, являются частным случаем этого оператора).

Уравнения m-j = M-ja-j, (6.14) решение которых дает первую часть оператора МНК-оценивания (6.11), называ ется системой нормальных уравнений.

МНК-оценки остатков имеют нулевую среднюю (6.6) и не коррелированы (ор тогональны) с объясняющими переменными уравнения (6.12).

Систему нормальных уравнений можно вывести, используя иную логику. Если обе части уравнения регрессии (6.9) умножить слева на X и разделить на N, -j то получится условие m-j = M-ja-j + X ej, из которого получается искомая -j N система при требованиях j =0 и cov(X-j, ej) =0, следующих из полученных свойств МНК-оценок остатков.

Такая же логика используется в методе инструментальных переменных. Пусть имеется матрица Z размерности N (n - 1) наблюдений за некоторыми величи нами z, называемыми инструментальными переменными, относительно которых известно, что они линейно не зависят от j и коррелированы с переменными X-j.

Умножение обеих частей уравнения регрессии слева на Z и деление их на N да 1 1 ет условие Z Xj = Z X-ja-j + Z ej, из которого — после отбрасывания N N N второго члена правой части в силу сделанных предположений — следует система нормальных уравнений метода инструментальных переменных:

mz = Mz az, (6.15) -j -j -j где mz = cov (z, xj), Mz = cov (z, x-j).

-j -j Значения j-й (объясняемой) переменной, лежащие на гиперплоскости регрес сии, называются расчетными (по модели регрессии):

c Xj = X-ja-j +1N bj, (6.16) c Xj = X-ja-j. (6.17) Их дисперсия называется объясненной (дисперсия, объясненная регрессией) и может быть представлена в различных вариантах:

1 (6.11) c cXj (6.17) s2 = Xj = a M-ja-j = a m-j = m a-j = m M-1m-j.

qj -j -j -j -j -j N (6.18) 204 Глава 6. Алгебра линейной регрессии Если раскрыть скобки в выражении остаточной дисперсии (6.10) и прове сти преобразования в соответствии с (6.11, 6.18), то получается s2 = s2 - s2, ej j qj где s2 — дисперсия j-й (объясняемой) переменной, или j s2 = s2 + s2. (6.19) j qj ej Это — дисперсионное тождество, показывающее разложение общей диспер сии объясняемой переменной на две части — объясненную (регрессией) и оста точную.

Доля объясненной дисперсии в общей называется коэффициентом детерми нации:

s2 s qj ej Rj = =1 -, (6.20) s2 s j j который является показателем точности аппроксимации исходных значений объ ясняемой переменной гиперплоскостью регрессии (объясняющими переменными).

Он является квадратом коэффициента множественной корреляции между объ ясняемой и объясняющими переменными rj,-j, который, по определению, равен коэффициенту парной корреляции между исходными и расчетными значениями объясняемой переменной:

c cov xj, xc 1 XjXj (6.17) 1 XjX-ja-j j rj,-j = = = = sjsqj N sjsqj N sjsqj m a-j (6.18) s2 (6.20) -j qj = = = Rj.

sjsqj sjsqj Из (6.19) следует, что коэффициент корреляции по абсолютной величине не пре вышает единицы.

Эти утверждения, начиная с (6.16), обобщают положения, представленные в конце пункта 4.2.

Композиция 1 и -aj обозначается a(j) и является одной из оценок вектора. Всего таких оценок имеется n — по числу простых регрессий, в левой части уравнения которых по очереди остаются переменные xj, j =1,..., n. Эти вектор столбцы образуют матрицу A. По построению ее диагональные элементы равны единице ( ajj =1 вслед за aj (j) =1).

Все эти оценки в общем случае различны, т.е. одну из другой нельзя получить алгебраическим преобразованием соответствующих уравнений регрессии:

a (j) = a j, j = j. (6.21) aj (j ) 6.3. Ортогональная регрессия Это утверждение доказывалось в пункте 4.2 при n =2. В данном случае спра ведливо утверждение, что соотношение (6.21) может (при некоторых j, j ) вы полняться как равенство в том и только том случае, если среди переменных xj, j =1,..., n существуют линейно зависимые.

Достаточность этого утверждения очевидна. Действительно, пусть переменные неко торого подмножества J линейно зависимы, т.е. существует такой вектор, вкото ром j = 0 при j J и j = 0 при j J, и X = 0. Тогда для любого j J / / справедливо: a(j) =, причем aj (j) =0 при j J, и ej =0, т.е. некоторые j соотношения (6.21) выполняются как равенства.

Для доказательства необходимости утверждения предполагается, что существует такой =0, что A =0 (6.22) (т.е., в частности, некоторые соотношения из (6.21) выполняются как равенства).

Сначала следует обратить внимание на то, что вслед за (6.14) все компоненты век тора Ma(j) ( M — матрица ковариации всех переменных x: M = X X), кроме N j-й, равны нулю, а j-я компонента этого вектора в силу (6.18, 6.19) равна s2, т.е.

ej MA = Se, (6.23) где Se — диагональная матрица s2.

ej Теперь, после умножения обеих частей полученного матричного соотношения справа на вектор, определенный в (6.22), получается соотношение: 0 = Se, которое означает, что для всех j, таких, что j =0, s2 =0, т.е. переменные xj линейно ej зависят друг от друга.

Что и требовалось доказать.

Все возможные геометрические иллюстрации простых регрессий в простран стве наблюдений и переменных даны в пункте 4.2.

6.3. Ортогональная регрессия В случае, когда ограничения на вектор a (или ) состоят в требовании равен ства единице длины этого вектора a a =1 ( =1), (6.24) и все переменные остаются в левой части уравнения, получается ортогональная регрессия, в которой расстояния от точек облака наблюдений до гиперплоскости регрессии измеряются перпендикулярно этой гиперплоскости. Разъяснения этому факту давались в пункте 4.2.

206 Глава 6. Алгебра линейной регрессии Оценка параметров регрессии производится из условия минимизации остаточ ной дисперсии:

(6.7) s2 = a X Xa = a Ma min!, e N где M = X X — ковариационная матрица переменных регрессии, при условии N (6.24).

Из требования равенства нулю производной по a соответствующей функции Лагранжа следует, что (M - In) a =0, (6.25) где — множитель Лагранжа ограничения (6.24), причем = s2. (6.26) e Действительно, функция Лагранжа имеет вид:

L (a, ) =a Ma - a a, авектореепроизвод ных по a:

L =2 (Ma - a).

a Откуда получается соотношение (6.25). А если обе части этого соотношения умно жить слева на a и учесть (6.24), то получается (6.26).

Таким образом, применение МНК сводится к поиску минимального собствен ного числа ковариационной матрицы M и соответствующего ему собствен ного (правого) вектора a (см. также Приложение A.1.2). Благодаря свойствам данной матрицы (вещественность, симметричность и положительная полуопреде ленность), искомые величины существуют, они вещественны, а собственное чис ло неотрицательно (предполагается, что оно единственно). Пусть эти оценки по лучены.

В ортогональной регрессии все переменные x выступают объясняемыми, или моделируемыми, их расчетные значения определяются по формуле:

Xc = X - ea. (6.27) 6.3. Ортогональная регрессия Действительно: Xca = Xa - ea a =0, т.е. вектор-строки xc, соответствующие i - e наблюдениям, лежат на гиперплоскости регрессии и являются проекциями на нее вектор-строк фактических наблюдений xi (вектор a по построению ортогонален гиперплоскости регрессии, а eia —вектор нормали xc на xi), а аналогом коэф i n фициента детерминации выступает величина 1 -, гд е s2 = s2 — суммарная s2 j j= дисперсия переменных x, равная следу матрицы M.

Таким образом, к n оценкам вектора a простой регрессии добавляется оценка этого вектора ортогональной регрессии, и общее количество этих оценок стано вится равным n +1.

Задачу простой и ортогональной регрессии можно записать в единой, обобщен ной форме:

(M - W ) a =0, a Wa =1, min!, (6.28) где W — диагональная nn-матрица, на диагонали которой могут стоять 0 или 1.

В случае, если в матрице W имеется единственный ненулевой элемент wjj =1, то это — задача простой регрессии xj по x-j (действительно, это следу ет из соотношения (6.23));

если W является единичной матрицей, то это — задача ортогональной регрессии. Очевидно, что возможны и все промежуточные случаи, когда некоторое количество n1, 1

X1a1 = X2a2 + e1, a1 a1 =1.

Если J — множество переменных, оставленных в левой части уравнения, то в записи (6.28) такой регрессии wjj =1 для j J и wjj =0 для остальных j.

Оценка параметров регрессии производится следующим образом:

-1 - a2 = M22 M21a1, M11 - M12M22 M21 - In1 a1 = ( a1 находится как правый собственный вектор, соответствующий минимальному - собственному числу матрицы M11 - M12M22 M21), где M11 = X1 X1, N M12 = M21 = X1 X2, N M22 = X2 X N 208 Глава 6. Алгебра линейной регрессии — соответствующие ковариационные матрицы.

Таким образом, общее количество оценок регрессии — (2n - 1). В рамках любой из этих оценок в (6.28) является остаточной дисперсией.

Задача ортогональной регрессии легко обобщается на случай нескольких урав нений и альтернативного представления расчетных значений изучаемых перемен ных.

Матрица M, как уже отмечалось, имеет n вещественных неотрицательных собственных чисел, сумма которых равна s2, и n соответствующих им веществен ных взаимноортогональных собственных векторов, дающих ортонормированный базис в пространстве наблюдений (см. также Приложение A.1.2). Пусть собствен ные числа, упорядоченные по возрастанию, образуют диагональную матрицу, а соответствующие им собственные вектора (столбцы) — матрицу A. Тогд а A A = In, MA = A. (6.29) Собственные вектора, если их рассматривать по убыванию соответствующих им собственных чисел, есть главные компоненты облака наблюдений, которые по казывают направления наибольшей «вытянутости» (наибольшей дисперсии) этого облака. Количественную оценку степени этой «вытянутости» (дисперсии) дают соответствующие им собственные числа.

Пусть первые k собственных чисел «малы».

s2 — сумма этих собственных чисел;

E AE — часть матрицы A, соответствующая им (ее первые k стоблцов);

это — коэффициенты по k уравнениям регрессии или k младших главных компонент;

AQ — остальная часть матрицы A, это — n - k старших главных компонент или собственно главных компонент;

A =[AE, AQ];

xAE =0 — гиперплоскость ортогональной регрессии размерности n - k;

[E, Q] = X AE, AQ — координаты облака наблюдений в базисе главных компонент;

E — матрица размерности N k остатков по уравнениям регрессии;

Q — матрица размерности N (n - k), столбцы которой есть значения так называемых главных факторов.

Поскольку A = A-1, можно записать X = E AE + Q AQ. Откуд а получается два возможных представления расчетных значений переменных:

(2) (1) Xc = X - E AE = Q AQ. (6.30) (6.27) 6.3. Ортогональная регрессия Первое из них — по уравнениям ортогональной регрессии, второе (альтерна тивное) — по главным факторам (факторная модель).

s2 — аналог коэффициента детерминации, дающий оценку качества 1 - E s обеих этих моделей.

Факторная модель представляет n переменных через n - k факто- x A ров и, тем самым, «сжимает» ин r B формацию, содержащуюся в исход E ных переменных. В конкретном ис D G следовании, если k мало, то предпо F чтительнее использовать ортогональ ные регрессии, если k велико (со C x ответственно n - k мало), целе сообразно применить факторную мо дель. При этом надо иметь в ви ду следующее: главные факторы — расчетные величины, и содержатель Рис. 6. ная интерпретация их является, как правило, достаточно сложной зада чей.

Сделанные утверждения можно проиллюстрировать на примере n =2, предполагая, что 1 2, и упрощая обозначения (введенные выше матрицы являются в данном случае векторами):

a1 = AE — вектор параметров ортогональной регрессии, a2 = AQ — вектор первой (в данном случае — единственной) главной компоненты, e = E — остатки в уравнении ортогональной регрессии, q = Q — значения первого (в данном случае — единственного) главного фактора.

На рисунке: OA — вектор-строка i-го наблюдения xi = (x1, xi2), OD — вектор-строка расчетных значений xc, длина OC — xi1, длина OB — xi2, i OE — вектор-строка a, OG — вектор-строка a, длина OF — ei, длина 1 OD — qi.

Как видно из рисунка 6.1, квадрат длины вектора xi равен (из прямоугольных тре угольников OAC и OAD) x2 +2 = e2 + qi, и если сложить все эти уравнения по xi2 i i i иразд елитьна N, тополучится s2 + s2 = s2 + s2. Понятно, что s2 = 1, s2 = 2, 1 2 e q e q и это равенство означает, что следматрицы ковариации равен сумме ее собственных чисел. Кроме того, как видно из рисунка, s2 показывает дисперсию облака наблюде ний (суммарную дисперсию переменных регрессии) в направлении a1 наименьшей «вытянутости» облака, s2 — дисперсию облака наблюдений в направлении a2 его наибольшей «вытянутости».

210 Глава 6. Алгебра линейной регрессии Вектор OF есть eia, а вектор OD — qia, и рисунок наглядно иллюстрирует 1 выполнение соотношения (6.30):

xc = x - eia = qia.

i 1 Пусть теперь n = 3, и 1, 2, 3, a1, a2, a3 — собственные числа и вектора ковариационной матрицы переменных.

1) Если 1 2 3, то облако наблюдений не «растянуто» ни в одном из направ лений. Зависимости между переменными отсутствуют.

2) Если 1 2 3 и k = 1, то облако наблюдений имеет форму «блина».

Плоскость, в которой лежит этот «блин», является плоскостью ортогональной ре грессии, которую описывает уравнение xa1 =0, а собственно уравнением регрессии является Xa1 = e.

Эту же плоскость представляют вектора a2 и a3, являясь ее осями координат.

В этих осях координат можно выразить любую точку данной плоскости, в том числе все точки расчетных значений переменных (6.30):

a Xc =, 2 q1 q2 = q1a + q2a a где q1 = Xa2, q2 = Xa3 — вектора значений главных факторов или вектора координат расчетных значений переменных в осях a2, a3.

3) Если 1 2 3 и k =2, то облако наблюдений имеет форму «веретена».

Ось этого «веретена» является линией регрессии, образованной пересечением двух плоскостей xa1 = 0 и xa2 = 0. И уравнений ортогональной регрессии в данном случае два: Xa1 = e1 и Xa2 = e2.

Данную линию регрессии представляет вектор a3, и через него можно выразить все расчетные значения переменных:

Xc = qa, где q = Xa3 — вектор значений главного фактора.

6.4. Многообразие оценок регрессии Множество оценок регрессии не исчерпывается 2n - 1 отмеченными выше элементами. Перед тем как получать любую из этих оценок, можно провести пре образование в пространстве наблюдений или переменных.

Преобразование в пространстве наблюдений проводится с помощью матрицы D размерности N N, N N. Обе части исходного уравнения (6.3) умножа ются слева на эту матрицу:

DX = D1N + D, (6.31) 6.4. Многообразие оценок регрессии после чего проводится оценка параметров любым из указанных 2n - 1 способов.

Понятно, что полученные оценки будут новыми, если только D D = cIN, гд е c — любая константа.

В результате такого преобразования может перестать являться свободным членом, если только D1N = c1N ( c — любая константа). Но, главное, меняется распределение ошибок по наблюдениям. Именно с целью изменить это распре деление в нужную сторону (с помощью подбора матрицы D) и проводятся такие преобразования (см. гл. 8).

Преобразование в пространстве переменных осуществляется с помощью квадратной невырожденной матрицы C размерности n n: Y = XC —пре образованные значения переменных регрессии. И затем оцениваются параметры регрессии в новом пространстве: Yf =1N g + u.

Это преобразование можно проводить в пространстве центрированных пере менных, т.к. Y = XC.

1 Действительно: XC = IN - 1N 1 XC = IN - 1N1 Y = Y.

N N N N То есть исходное уравнение регрессии (6.7) после преобразования приобретает вид:

Yf = u. (6.32) Оценки f являются новыми, если после «возвращения» их в исходное про странство, которое производится умножением f слева на C, они не совпадут с оценками a, полученными в исходном пространстве, т.е. если a = Cf. Справед ливость этого утверждения становится очевидной после следующего алгебраически эквивалентного преобразования исходного уравнения (6.7):

XC C-1a = e. (6.33) - f Понятно, что МНК-оценка f совсем не обязательно совпадет с C-1a — и тогда это будет новая оценка.

После преобразования меняется распределение ошибок в переменных регрес сии. И именно для того, чтобы изменить это распределение в нужную сторону, осуществляются такие преобразования (см. гл. 8).

Результаты преобразований в пространстве переменных различны для простых и ортогональной регрессий.

В случае простой регрессии xj по x-j это преобразование не приводит к по лучению новых оценок, если j-я строка матрицы C является ортом, т.е. в объ ясняющие переменные правой части не «попадает» — после преобразования — объясняемая переменная.

212 Глава 6. Алгебра линейной регрессии 1 Действительно, пусть для определенности j =1 и C = (первая c-1 C- 1.

строка является ортом), C-1 = -C-1c-1 C- -1 - Уравнение (6.33) записывается следующим образом:

= e X1 + X-1c-1 X-1C- -C-1c-1 - C-1a- -------------------- -1 - ---------------- f или, после переноса переменных в правую часть:

X1 + X-1c-1 = X-1C-1 C-1c-1 + C-1a-1 +e1.

-1 - ---- ------------ --------- f- - Система нормальных уравнений для оценки f-1 имеет следующий вид:

1 C X X1 + X-1c-1 = C X X-1C-1 C-1c-1 + C-1a- -1 -1 -1 -1 -1 - N N ------------ ---- ---- --- --------- f- - -1 1 - или, раскрыв скобки:

C m-1 + C M-1c-1 = C M-1c-1 + C M-1a-1.

-1 -1 -1 - После взаимного сокращения одинаковых слагаемых в полученном матричном урав нении(2-говлевойчастии1-говправой) иумноженияобеихчастейслевана C - - получается система нормальных уравнений для оценки a-1: m-1 = M-1a-1.

Это означает, что f-1 после «возвращения» в исходное пространство совпадает с a-1, т.е. проведенное преобразование в пространстве переменных новых оценок регрессии не дает.

Верно и обратное утверждение: если j-я строка матрицы C не является ортом, то a и f совпадают с точностью до обратного преобразования только тогда, когда связь функциональна и e =0.

6.4. Многообразие оценок регрессии 1 c - Пусть теперь C = (т.е. первая строка не является ортом), 0 In- 1 -c -. Тогда уравнение (6.33) приобретает следующую форму:

C-1 = 0 In- - X1 X-1 + X1c 1+c a- - = e1, (6.34) ------- - -a- --------- f или X1 1+c a-1 = Y-1a-1 + e1, - и a-1 X1 = Y-1 + e1.

1+c a-1 1+c a- -1 - Таким образом, условием совпадения a и f с точностью до обратного преобразо вания является следующее:

a- f-1 =. (6.35) 1+c a- - Система нормальных уравнений для оценки f-1 имеет вид:

1 Y X1 = Y Y-1f-1, -1 - N N или, учтя зависимость Y от X из (6.34) и раскрыв скобки:

m-1 + c-1m11 = M-1 + m-1c + c-1m + m11c-1c f-1.

-1 -1 - Это равенство с учетом (6.35) и (6.11) принимает вид:

(m-1 + c-1m11) 1+c M-1m-1 = -1 - = M-1 + m-1c + c-1m + m11c-1c M-1m-1.

-1 -1 -1 - Раскрыв скобки и приведя подобные, можно получить следующее выражение:

c-1m11 = c-1m M-1m-1, -1 - 214 Глава 6. Алгебра линейной регрессии которое выполняется как равенство, только если m11 = m M-1m-1, -1 - т.е. если (в соответствии с (6.18)) m11 = s2.

q Таким образом, a и f совпадают с точностью до обратного преобразования только тогда, когда полная дисперсия равна объясненной, т. е. связь функциональна и e =0.

Что и требовалось доказать.

Итак, преобразования в пространстве переменных в простых регрессиях лишь в особых случаях приводят к получению новых оценок, обычно меняются толь ко шкалы измерения. Некоторые из этих шкал находят применение в прикладном анализе. Такой пример дает стандартизированная шкала, которая возникает, ес ли C = S-1, гд е S — диагональная матрица среднеквадратических отклонений переменных.

Оценки параметров регрессии после преобразования оказываются измерен ными в единицах среднеквадратических отклонений переменных от своих средних, и они становятся сопоставимыми межд у собой и с параметрами д ругих регрес сий.

В этом случае система нормальных уравнений формируется коэффициентами корреляции, а не ковариации, и f-j = R-1r-j, гд е R-j — матрица коэффици -j ентов корреляции объясняющих переменных между собой, r-j — вектор столбец коэффициентов корреляции объясняющих переменных с объясняемой перемен ной.

Действительно (предполагается, что j = 1), соотношения (6.33) при указанной матрице C имеют следующую форму:

s X1 s1 X-1S- - = e1. (6.36) -- ---- -S-1a- 1 - Для того чтобы вектор параметров приобрел необходимую для простой регрессии форму, его над о разд елить на s1. Тогд а и e делится на s1 (т.е. на s1 делятся обе части уравнения (6.36)). После переноса объясняющих переменных в правую часть получается следующее уравнение регрессии:

1 Y1 = Y-1f-1 + e1, где f-1 = S-1a-1.

Pages:     | 1 | 2 || 4 | 5 |   ...   | 10 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.