WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     | 1 |   ...   | 71 | 72 || 74 | 75 |   ...   | 82 |

T - Подставляя это выражение в L-(, ), получим концентрированную функцию правдоподобия:

- T -T -s() Lc () = 2 e-.

T - Максимизация Lc () по эквивалентна минимизации суммы квадратов T T s() = (xt - xt-1)2 = t2. Таким образом, задача сводится к обычному t=2 t=МНК. Минимум этого выражения по равен просто T xtxt-t= =.

T - xt t=Получили условную МНК-оценку. Несложно обобщить этот метод на случай AR(p) при p >1.

646 Глава 22. Эффективные оценки параметров модели ARMA Мы знаем, что в качестве оценки можно использовать выборочную автокорреляцию r1. Но так как условная МНК-оценка несколько иная, в вырожденных случаях можно получить значения || > 1. Это можно обойти, учитывая информацию о x1. Для этого воспользуемся тем, что частное распределение x1 является нормальным со средним 0 и дисперсией x1 =.

1 - Можно воспользоваться здесь взвешенным МНК. Сумма квадратов остатков после преобразования в пространстве наблюдений равна T h() = 1 - 2 x2 + (xt - xt-1)2.

t=Получим точную МНК-оценку =argmin h().

(1-2 )x - - Плотность частного распределения x1 равна f (x1) = 2 e.

1-- - T h() Отсюда f (x1,..., xT ) = 1 - 2 2 2 2 e2. Будем рассматривать эту плотность как функцию правдоподобия, обозначая через L(, ).

Точную ММП-оценку находим из условия L(, ) max.

, 2 h(). Концентрируя функцию правдоподобия по, Оценкой будет T получим:

- T h () T Lc() = 1 - 2 2 2 e- max! T Это эквивалентно решению задачи - 1 - 2 T h () min! h() Отсюда найдем ММП-оценку и =.

T - Множитель 1 - 2 T обеспечивает существование минимума в допустимом интервале -1 < < 1, хотя теперь для нахождения минимума требуются итерационные процедуры. Для таких процедур оценка r1 может послужить хорошим начальным приближением.

Величина 1 - 2 не зависит от T, и с ростом T множитель (1 - 2)- T стремится к единице. Поэтому этот множитель существенен при малых объемах выборок и || близких к 1. При больших T и || не очень близких к 1 без него можно 22.2. Оценка параметров модели MA(1) обойтись, соглашаясь с незначительными потерями точности оценки, но сильно сокращая объем вычислений. Этим обстоятельством объясняется использование МНК-оценок.

22.2. Оценка параметров модели MA(1) Продемонстрировать общий метод оценивания модели MA(p) можно, рассматривая простейший случай модели MA(1): xt = t - t-1.

Отталкиваясь от наблюдений x1, x2,..., xT, воспользуемся методом максимального правдоподобия (ММП). Для этого необходимо вычислить для модели функцию плотности распределения вероятности. Это легче всего сделать, перейдя от последовательности xt к последовательности t.

x1 = 1 - 0 1 = x1 + 0, x2 = 2 - 1 x2 = 2 - x1 - 20 2 = x2 + x1 + и так далее.

Получаем систему:

1 1 0 0 · · · 0 x 2 2 1 0 · · · 0 x = 0 + 3 3 2 1 · · · 0 x3.

.......

.

........

.

.......

T T T -1 T -2 T -3 · · · 1 xT Это система уравнений относительно. В векторной форме = 0 + Qx, (22.1) где мы обозначили 1 0 0 · · · 2 1 0 · · · = и Q = 3 2 1 · · · 0.

.....

.

......

.

.....

T T -1 T -2 T -3 · · · 648 Глава 22. Эффективные оценки параметров модели ARMA Будем полагать, что t — последовательность независимых случайных величин, имеющих одинаковое нормальное распределение со средним 0 и дисперсией.

Плотность распределения вероятности записывается в виде T - T +2 t t=f(0,..., T ) =f(0, x1,..., xT ) =(2)- e. (22.2) Метод максимального правдоподобия заключается в нахождении такого значения, при котором достигается максимум (22.2), или, что эквивалентно, достигает минимума сумма квадратов T S (|0) = 2 = 2 + = 1+ 2 +2x Q 0 + x Q Qx. (22.3) t 0 t=Необходимо рассмотреть теперь проблему определения величины 0. Первый подход — положить 0 = 0. Тогда требуется минимизировать x Q QX min! Эта нелинейная задача решается разными вычислительными методами. Полученные таким путем решения называется условным МНК-решением, а = =arg min x Q QX — условной МНК-оценкой.

При втором подходе величина 0 вместе с входит в число подлежащих минимизации свободных параметров. Так как величина 0 входит в выражение для t линейно, то можно частично облегчить оптимизационную процедуру, поставив вместо 0 значение 0, минимизирующее функцию s при данном.

То есть на первом шаге решаем задачу S(|0) min! S(|0) x Q =2(1 + )0 +2x Q =0 0 =.

1+ Далее, подставим 0 = в S(|0) (22.3) и решим задачу:

0() S (|0 ()) min! x Q 2(x Q ) S (|0 ()) = 1+ + x Q Qx - = 1+ 1+ (x Q )= x Q Qx - min! 0, 1+ Полученное при таком подходе значение, минимизирующее функцию S(), x Q называют точной МНК-оценкой для и 0 = -.

1+ 22.2. Оценка параметров модели MA(1) Небольшой дополнительный анализ приводит к точным ММП-оценкам.

Обозначим 1+ = K. Функцию правдоподобия можно представить в виде f (0,..., T ) =f (0, x1,..., xT ) = - 2 K - T 0)2 2 2 - (0- - S() 2 e = e K- 2 2 2, K (x Q )где S () =x Q Qx -.

1+ Видим, что первая часть этой записи — это функция плотности распределе ния 0 N( ), т.е первая часть представляет собой условное распреде0, K ление f (0|x1,..., xT ) неизвестного значения 0 при известных наблюдениях x1, x2,..., xT.

Вторая часть записи — это частная функция плотности распределения вероятности наблюдений x1, x2,..., xT, т.е. f (x1,..., xT ). Действительно, x = 0c + D, гд е - 1 0 · · ·.

.

..

.

0 - 1.

c =, D =.

..

..

....

..

.. 0 0 · · · - Ковариационная матрица ряда x равна =E(xx ) =E (0c + D)(0c + D) = = E 2cc + E D D = (cc + DD ).

Обратная к ней:

-1 = (cc + DD )-1 = -1 -1 -1 -1 -= DD - DD c 1+c DD c c DD.

Заметим, что D-1 = Q, (D D)-1 = Q Q и -D-1c = -Qc =. Тогд а 1 Q Q -1 = Q Q -.

1+ 650 Глава 22. Эффективные оценки параметров модели ARMA Определитель ковариационной матрицы :

-1 2T 2T || = cc + DD = 1+c DD c DD = -1 2T 2T = 1+c DD c = 1+, где мы воспользовались тем, что |D| =1 и |DD | = |D||D | =1.

По формуле плотности многомерного нормального распределения T 2 2 f (x1,..., xT ) =(2)- ||- e- x -1x = - T 1 Q Q - - x Q Q- x 2 1+ = 22 2 1+ e.

- T 1 - S() e Поэтому f (x1,..., xT ) =K- 2 2 2.

Итак, необходимо решить задачу:

f (0,..., T ) =f (0, x1,..., xT ) = = f (0|x1,..., xT ) · f (x1,..., xT ) max! 0, От 0 зависит только первая часть = а задача приобретает вид 0, - T 1 - S() e f (x1,..., xT ) max! K- 22 2 2 max!, 2 S(). Концентрируем функцию правНетрудно получить оценку по : = T доподобия:

- T 1 S () T fc (x1,..., xT ) =K- 2 e- max! T Собираем в данной функции вместе все, что зависит от, и получаем T T 1 T T. max! K S () min! 2e T K S () Значение, минимизирующее функцию K1/T S(), называют точной ММПоценкой.

Заметим, что функция K зависит лишь от, не зависит от наблюдений, и с ростом T величина K1/T стремится к единице. Поэтому этот множитель существенен лишь при малых объемах выборок и в этом случае не представляет труда для вычислений, а при умеренно больших T без него можно обойтись, соглашаясь с незначительным смещением оценки, но сильно сокращая объем вычислений, особенно в случае MA(q). Этим обстоятельством объясняется использование точных МНК-оценок.

22.3. Оценки параметров модели ARMA(P, Q) 22.3. Оценки параметров модели ARMA(p, q) Рассмотрим модели ARMA(p, q) ряда {xt}:

xt - 1xt-1 -· · · -pxt-p = t - 1t-1 -· · · -qt-q.

Будем полагать, что t — последовательность независимых случайных величин, имеющих одинаковое нормальное распределение со средним 0 и дисперсией.

Через автоковариационную функцию стационарного ARMA-процесса i = E[xtxt-i] можно выразить ковариационную матрицу x =(x1,..., xT ) 0 1 · · · T - 1 0 · · · T - =.

...

.

....

.

...

T -1 T -2 · · · Она является симметричной тёплицевой матрицей и обозначается как [0,..., T -1].

Так как x NT (0, ), то логарифмическая функция правдоподобия процесса равна T 1 2 ln L(,, ) =- ln(2 ) - ln || - x -1x. (22.4) 2 2 Через ri обозначаем автоковариацию, нормированную на дисперсию ошибок, i 0 T - т.е. ri =, а через R обозначаем матрицу,...,. В терминах 2 2 нормированной R логарифмическая функция правдоподобия (22.4) записывается следующим образом:

T 1 2 ln L(,, ) =- ln(2) - ln |R| - x R-1x max! 2 2 Воспользовавшись условиями первого порядка ln L(,, ) =0, получим оценку как функцию от и :

x R-1x 2 = (, ) =.

T 652 Глава 22. Эффективные оценки параметров модели ARMA Поставив оценку в логарифмическую функцию правдоподобия, получим концентрированную функцию правдоподобия T T 1 T x R-1x ln Lc(, ) =- ln(2) - - ln |R| - ln max! 2 2 2 2 T Точные оценки параметров ARMA для процесса xt можно найти, максимизируя функцию ln Lc(, ), что делается с помощью численных методов.

22.4. Упражнения и задачи Упражнение Сгенерируйте ряд длиной 200 наблюдений по модели MA(1) с параметром 1 =0.5 и нормально распределенной неавтокоррелированной ошибкой с единичной дисперсией. По этому ряду оцените модель MA(1) методом моментов (приравнивая теоретические и выборочные автокорреляции), условным методом наименьших квадратов и точным методом максимального правдоподобия. Сравните все эти оценки с истинным значением.

Упражнение Сгенерируйте ряд длиной 200 наблюдений по модели AR(1) с параметром 1 =0.5 и нормально распределенной неавтокоррелированной ошибкой с единичной дисперсией. По этому ряду оцените модель AR(1) методом моментов (приравнивая теоретические и выборочные автокорреляции), условным методом наименьших квадратов и точным методом максимального правдоподобия. Сравните все эти оценки с истинным значением.

Упражнение Сгенерируйте ряд длиной 200 наблюдений по модели ARMA(1, 1) с параметрами 1 =0.5 и 1 = 0.5 и нормально распределенной неавтокоррелированной ошибкой с единичной дисперсией. По этому ряду оцените модель ARMA(1, 1) методом моментов (приравнивая теоретические и выборочные автокорреляции), условным методом наименьших квадратов и точным методом максимального правдоподобия. Сравните все эти оценки с истинными значениями.

Задачи 1. Какие предположения должны выполняться, чтобы можно было оценить модель MA(1) с помощью метода максимального правдоподобия 22.4. Упражнения и задачи 2. Сформулируйте кратко отличие между условной и точной оценкой МНК для модели MA(1) и связь между ними (с пояснением обозначений).

3. Как можно найти оценку параметра для модели AR(1), исходя из предположения, что первое наблюдение не является случайной величиной Как называется такая оценка 4. Запишите функцию правдоподобия для модели авторегрессии первого порядка, выделив множитель, который является причиной отличия точной ММПоценки от условной оценки. Плотности распределения какой величины соответствует этот множитель 5. Запишите функцию правдоподобия для модели скользящего среднего первого порядка.

Рекомендуемая литература 1. Бокс Дж., Дженкинс Г. Анализ временных рядов. Прогноз и управление.

(Вып. 1, 2). — М.: «Мир», 1972.

2. Песаран М., Слейтер Л. Динамическая регрессия: теория и алгоритмы. — М: «Финансы и статистика», 1984. (Гл. 2–4).

3. Engle Robert F. Autoregressive Conditional Heteroskedasticity with Estimates of the Variance of U.K. Inflation // Econometrica, 50, 1982, 987–1008.

4. Hamilton James D. Time Series Analysis. — Princeton University Press, 1994.

(Ch. 5).

5. Judge G.G., Griffiths W.E., Hill R.C., Luthepohl H., Lee T. Theory and Practice of Econometrics. — New York: John Wiley & Sons, 1985. (Ch. 8).

6. (*) Справочник по прикладной статистике: В 2-х т. Т. 2. / Под ред.

Э. Ллойда, У. Ледермана. — М.: «Финансы и статистика», 1990. (Гл. 18).

Глава Векторные авторегрессии 23.1. Векторная авторегрессия:

формулировка и идентификация Модели векторной авторегрессии (VAR) представляют собой удобный инструмент для одновременного моделирования нескольких рядов. Векторная авторегрессия — это такая модель, в которой несколько зависимых переменных, и зависят они от собственных лагов и от лагов других переменных. Если в обычной авторегрессии коэффициенты являются скалярами, то здесь следует рассматривать уже матрицы коэффициентов.

В отличие от модели регрессии, в VAR-модели нет нужды делить переменные на изучаемые переменные и независимые факторы. Любая экономическая переменная модели VAR по умолчанию включается в состав изучаемых величин (хотя есть возможность часть переменных рассматривать как внешние к модели, экзогенные).

Отметим, что естественным расширением модели VAR является модель VARMA, включающая ошибку в виде скользящего среднего. Однако модель VARMA не получила очень широкого распространения из-за сложности оценивания. Авторегрессию легче оценивать, так как выполнено предположение об отсутствии автокорреляции ошибок. В то же время, члены скользящего среднего приходится оценивать методом максимального правдоподобия. Так как каждый обратимый процесс скользящего среднего может быть представлен в виде AR(), чистые авторегрессии могут приближать векторные процессы скользящего среднего, если 23.1. Векторная авторегрессия: формулировка и идентификация добавить достаточное число лагов. Предполагается, что при этом ошибка не будет автокоррелированной, что позволяет с приемлемой точностью моделировать временные ряды, описываемые моделью VARMA, при помощи авторегрессии достаточно высокого порядка.

Пусть xt — вектор-строка k изучаемых переменных, zt — вектор-строка независимых факторов (в него может входить константа, тренд, сезонные переменные и т.п.).

Как и традиционные системы одновременных уравнений, модели векторной авторегрессии имеют две формы записи: структурную и приведенную. Структурная векторная авторегрессия (SVAR) p-го порядка — это модель следующего вида:

p xt = xt-jj + ztA + t, где (0)ll =0.

j=Здесь j — матрица k k коэффициентов авторегрессии для j-го лага xt, A — матрица коэффициентов при независимых факторах. Коэффициенты, относящиеся к отдельному уравнению, стоят по столбцам этих матриц. Относительно матрицы j предполагается, что ее диагональные элементы1 равны нулю, (0)ll =0, l =1,..., k. Это означает, что отдельная переменная xlt не влияет сама на себя в тот же момент времени.

При этом предполагается, что ковариационная матрица одновременных ошибок диагональна:

2 var(t) =diag(1,..., k) =. (23.1) Некоторые из коэффициентов здесь известны, поэтому такая модель называется структурной.

Обозначим B = I - 0, Bll =1.

Pages:     | 1 |   ...   | 71 | 72 || 74 | 75 |   ...   | 82 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.