WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     || 2 | 3 |
Сибирский математический журнал Март апрель, 2001. Том 42, № 2 УДК 519.237.5 АСИМПТОТИЧЕСКИ НОРМАЛЬНОЕ ОЦЕНИВАНИЕ МНОГОМЕРНОГО ПАРАМЕТРА В ЗАДАЧЕ ДРОБНО–ЛИНЕЙНОЙ РЕГРЕССИИ Ю. Ю. Линке, А. И. Cаханенко Аннотация: Рассматривается задача оценивания неизвестного многомерного параметра для некоторой задачи так называемой дробно-линейной регрессии. Предлагается новый метод, позволяющий достаточно просто находить явные асимптотически нормальные оценки неизвестного параметра без использования метода наименьших квадратов. Библиогр. 5.

§ 1. Постановка задачи Пусть в результате серии из N испытаний, N, наблюдается последовательность случайных величин Z1,..., ZN, относительно которых предполагается, что они представимы в виде i() Zi = gi() + i + i, i = 1,..., N, (1.1) i() где m m i() a0i + ajij, i() 1 + bjij (1.2) j=1 j=1 линейные функции, зависящие от неизвестного m-мерного параметра с координатами 1,..., m, причем числа bji 0, a0i, aji, i = 1,..., N, j = 1,..., m, (1.3) предполагаются известными. Cлучайные величины i, i = 1,..., N, в (1.1) это ненаблюдаемые погрешности измерений. Ниже мы будем налагать ряд ограничений на предельное поведение распределений линейных комбинаций этих случайных величин.

В настоящей работе рассматривается задача оценивания неизвестного вектора с координатами j > 0, j = 1,..., m, по значениям случайных величин Z1,..., ZN. Авторы предлагают некоторый метод, позволяющий достаточно просто получать асимптотически нормальные оценки неизвестных параметров для модели дробно-линейной регрессии (1.1)–(1.3). В отличие от метода наименьших квадратов, который традиционно применяют при решении такого рода задач нелинейной регрессии, при реализации предлагаемого метода не нужно Работа выполнена при финансовой поддержке Российского фонда фундаментальных исследований (код проекта 99–01–00561) и INTAS (код проекта 98–1625).

© 2001 Линке Ю. Ю., Cаханенко А. И.

Асимптотически нормальное оценивание использовать итерационные процедуры, порождающие, в свою очередь, проблемы выбора начального приближения, сходимости процесса и др., а также требующие использования вычислительной техники из-за большого числа итераций.

Основная цель данной работы описать в общем виде предлагаемый метод построения оценок и схему изучения этих оценок, а также продемонстрировать применение ряда идей, которые могут быть использованы при изучении получаемых оценок. Полное математически строгое обоснование этого метода для простейшего одномерного случая задачи дробно-линейной регрессии изложено в [1]. В следующей работе авторов будет подробно изучен случай двух неизвестных параметров, включающий уравнение Михаэлиса Ментен, играющее важную роль в биохимии.

В основе предлагаемого метода лежит замеченная авторами аналогия между задачей дробно-линейной регрессии (1.1) и классической задачей линейной регрессии (см. (2.2) и (2.3)). Поэтому имеется определенная аналогия между стандартным методом получения оценок параметров в классической задаче линейной регрессии (см., например, [2]) и предлагаемым в (2.5) способом получения оценок в более сложной задаче дробно-линейной регрессии (1.1). И там и здесь предлагается искать оценки параметров как решения систем линейных уравнений, в которых число уравнений совпадает с числом неизвестных параметров. В обоих случаях при получении этих оценок не нужно использовать трудоемкие итерационные процедуры для приближенного поиска оценок.

О структуре работы. В § 2 мы в общем случае опишем предлагаемый способ построения оценок в рассматриваемой задаче, а в § 3 приведем условия для состоятельности и асимптотической нормальности построенных оценок. В § опишем еще более широкий класс оценок и найдем условия для их асимптотической нормальности. В § 5 получим необходимые условия для оптимальности введенных оценок и тем самым укажем возможный путь для нахождения таких оценок. В § 6, 7 мы рассмотрим несколько важных частных случаев. Ряд рекомендаций по практическому применению предлагаемых оценок можно найти в § 6–8.

Об обозначениях. Запись A = Amn означает, что A матрица, состоящая из m строк и n столбцов. Элемент на пересечении p-й строки и q-го столбца этой матрицы будем обозначать через (A)pq. Далее, символ обозначает транспонирование вектора либо матрицы. Если t вектор с координатами t1,..., tN, то t вектор-столбец, а t = (t1,..., tN ) вектор-строка. Символы I = Inn и 0 = 0nn обозначают единичную и нулевую матрицы соответствующей размерности, а через diag{h1,..., hN } будем обозначать диагональную матрицу размерности N N с элементами h1,..., hN на главной диагонали. В случае симметричных неотрицательно определенных матриц B через B1/2 обозначим единственную симметричную неотрицательно определенную матрицу, удовлетворяющую равенству (B1/2)2 = B = B1/2B1/2.

Всюду далее предполагается, что все пределы берутся при N. Если A случайная матрица или вектор (элементы которых могут зависеть от N), то p под сходимостью A A0 условимся понимать покоординатную сходимость по вероятности элементов этих матрицы или вектора (при N ). Сходимость A = m(0, I) 374 Ю. Ю. Линке, А. И. Cаханенко в этом случае означает, что распределение вектора A может зависеть от N и слабо сходится (при N ) к m-мерному стандартному нормальному распределению m(0, I).

Будем говорить, что некоторая m-мерная статистика является асимптотически нормальной оценкой m-мерного параметра с асимптотической ко вариационной матрицей KK, если распределение вектора K-1( - ) слабо сходится к m-мерному стандартному нормальному распределению m(0, I).

§ 2. Построение оценок неизвестного параметра 2.1. Прежде всего приведем уравнение (1.1) к виду, более удобному для нахождения оценок. С этой целью сначала домножим обе части уравнения (1.1) на знаменатель i() из (1.2). В результате получим m m Zi + bjiZij = a0i + ajij + i()i. (2.1) j=1 j=Введем обозначения Xji = aji - bjiZi, Yi = Zi - a0i, i = i()i. (2.2) Подставив в (2.1) обозначения из (2.2), перепишем уравнение (1.1) в следующем эквивалентном виде:

m Yi = Xjij + i, i = 1,..., N. (2.3) j=2.2. Нетрудно заметить, что вид уравнений (2.3) аналогичен виду уравнений в классической задаче линейной регрессии (см., например [2]). В силу этой аналогии естественно попытаться найти оценки для неизвестных параметров 1,..., m точно так же, как это делается в задаче линейной регрессии. Домножим равенства (2.3) на некоторые константы cki, где k = 1,..., m, i = 1,..., N.

Тогда, просуммировав по i, получаем N N m N ckiYi - ckiXjij = ckii. (2.4) i=1 i=1 j=1 i=Мы вправе предполагать, что правая часть в тождестве (2.4), являющаяся взвешенной суммой погрешностей измерений, мала по сравнению с остальными слагаемыми, поэтому в (2.4) естественно отбросить правую часть, подставив в полученное тождество вместо неизвестного параметра оценку. Поэтому на первом шаге требуемые оценки 1,..., m всегда будем находить как решения следующей системы линейных уравнений:

N m N ckiXjij = ckiYi, k = 1,..., m, (2.5) i=1 j=1 i=при соответствующих специально подобранных постоянных {cki}. Ниже, в § 6, можно найти рекомендации по выбору этих постоянных.

Отметим, что главное и очень серьезное отличие уравнений (2.3) от аналогичных уравнений линейной регрессии состоит в том, что {Xji} в (2.3) Асимптотически нормальное оценивание это не постоянные, а случайные величины специального вида (см. (2.2)). Ука занное обстоятельство делает задачу исследования свойств оценок 1,..., m значительно более трудоемкой, чем в случае линейной регрессии.

2.3. При исследовании свойств построенных оценок нам будет удобнее перейти к матричным обозначениям. Введем в рассмотрение матрицы C = CmN и X = XmN c элементами (C)ki = cki, (X)ji = Xji = aji - bjiZi и векторы Y = (Y1,..., YN ), = (1,..., N ), = (1,..., N ), = (1,..., m), = (1,..., m).

В этих обозначениях уравнения (2.3) и (2.5) можно записать в следующем, более компактном виде:

Y = X +, CX = CY. (2.6) В частности, из (2.6) вытекает равенство CX ( - ) = C. (2.7) Определим теперь матрицы = ()mN и = mN, полагая ()ji = ji() = aji - bjigi(), ()ji = ji = bjii.

В этом случае X = - (2.8) и (2.7) можно переписать так:

(C - C )( - ) = C. (2.9) Равенства (2.7) и (2.9) будут полезны в следующем параграфе при изучении поведения разности -, которая определяет интересующую нас точность оценивания.

§ 3. Состоятельность и асимптотическая нормальность 3.1. Всюду далее считаем элементы матрицы C выбранными так, что матрица C = (C() )mm невырожденная. Домножая обе части уравнения (2.9) на (C )-1, перепишем (2.9) в виде (I - G )( - ) = G при G = (C )-1C. (3.1) Используя представление (3.1), нетрудно угадать вид приведенной ниже теоремы 1.

Теорема 1. Пусть выполнены условия p (C )-1C 0, (3.2) p (C )-1C 0. (3.3) Тогда оценка состоятельна.

Замечание 1. Ясно, что N G 2 = G G = (G G)ili()l()il.

i,l=376 Ю. Ю. Линке, А. И. Cаханенко Таким образом, если Ei < при всех i = 1, 2,..., то для выполнения условия (3.3) достаточно, чтобы имела место сходимость N p E G 2 = (G G)ili()l()Eil 0.

i,l=Аналогичным образом в этом случае нетрудно выписать условие, достаточное для сходимости (3.2):

m m N E(G )2 = (G G)ilbkibklEil 0.

jk j,k=1 k=1 i,l=3.2. Предположим теперь, что случайный вектор C является асимптотически нормальным в том смысле, что найдется случайная или неслучайная невырожденная матрица U такая, что UC = m(0, I). (3.4) В этом случае из (2.7) вытекает равенство UCX A-1A( - ) = UC (3.5) для любой невырожденной матрицы A. Отсюда нетрудно угадать вид приведенной ниже теоремы 2.

Теорема 2. Пусть выполнено условиe (3.4) и p UCX A-1 I (3.6) при некоторой невырожденной случайной или неслучайной матрице A. Тогда A( - ) = m(0, I). (3.7) Следствие 1. Пусть выполнено условие (3.4) и p UC A-1 I, (3.8) p UC A-1 0. (3.9) Тогда справедливо утверждение (3.7) теоремы 2.

Следствие 2. Пусть утверждение (3.7) теоремы 2 справедливо для некоторой неслучайной матрицы A. Тогда (A A)1/2( - ) = m(0, I).

Замечание 2. В приведенных выше утверждениях естественно положить A = UC. В этом случае условие (3.8) следствия 1 будет выполнено автоматически. Именно так мы будем поступать ниже, в следствии 5 и теореме 6.

В теореме 2 проще всего взять A = UCX, поскольку в этом случае условие (3.6) проверяется элементарно (см. также замечание 13).

Замечание 3. Отметим, что оценка может удовлетворять предположениям теоремы 2, но не быть состоятельной. Соответствующий пример построен в [1, замечание 6].

В § 7 для случая независимых наблюдений будут приведены простые достаточные условия, гарантирующие выполнение всех указанных выше условий.

3.3. Перейдем к доказательствам сформулированных утверждений. Нам потребуется Асимптотически нормальное оценивание Лемма 1. Пусть m-мерный случайный вектор N удовлетворяет условию N = m(0, I), (3.10) а случайная m m-матрица JN и m-мерный случайный вектор N таковы, что p p JN I, N 0.

Тогда JN (N + N ) = m(0, I) и J-1(N + N ) = m(0, I).

N Это утверждение нетрудно извлечь из приема Крамера Уолда, поэтому мы опускаем его вывод.

Доказательство теоремы 1. Перепишем (3.1) в виде - = (I - G )-1G, p где G 0 в силу (3.2). Требуемое утверждение вытекает теперь из (3.3) и леммы 1 при JN = I - G.

Доказательство теоремы 2. Из представления (3.5) находим, что A( - ) = (UCX A-1)-1UC.

Утверждения теоремы нетрудно теперь получить из условий (3.4), (3.6) и леммы 1 при JN = UCX A-1.

Доказательство следствия 1. Заметим, что в силу (2.8) UCXA-1 = UC A-1 - UC A-1. (3.11) Из этого представления и условий (3.8) и (3.9) немедленно следует предположение (3.6) теоремы 2.

3.4. Прежде чем перейти к доказательству следствия 2, приведем одно полезное утверждение, которое будем использовать и в дальнейшем.

Лемма 2. Пусть выполнено условие (3.10), а QN некоторая ортогональная матрица, т. е. QN Q = I. Тогда N QN N = m(0, I).

Доказательство. Используя обобщение теоремы о равномерной сходимости характеристических функций на случай многомерных случайных величин (см. [3, п. 13.3]), заключаем, что N K < sup |Eei,t - e- t /2| 0.

t K В силу ортогональности матрицы QN имеем t = QN t, а потому N N N N sup |Eei Q N,t - e- t /2| = sup |Eei,Q t - e- Q t 2/2| 0.

t K Q t K N Полученная сходимость характеристических функций приводит к требуемому утверждению леммы 2.

Доказательство следствия 2. Положим A0 = (A A)1/2. Тогда (A0A-1)(A0A-1) = A0A-1A-1 A0 = A0(A A)-1A0 = I.

Значит, QN = A0A-1 ортогональная матрица. Таким образом, из теоремы и леммы 2 немедленно вытекает требуемое утверждение:

(AA )1/2( - ) = QN A( - ) = m(0, I).

378 Ю. Ю. Линке, А. И. Cаханенко § 4. Улучшение оценок 4.1. Пусть на первом этапе оценивания для параметра построена некоторая оценка как решение системы уравнений (2.5). В этом случае на втором этапе мы можем ввести в рассмотрение оценки 1,..., N как решения системы уравнений N m N ki()Xjij = ki()Yi, k = 1,..., m, (4.1) i=1 j=1 i=где ki() некоторые специально подобранные функции, зависящие только от неизвестного параметра. Практические рекомендации по выбору функций ki() будут приведены в § 6.

Отметим, что система уравнений (4.1) отличается от системы (2.5) лишь заменой чисел cki статистиками ki(). Подчеркнем, что использование статистик ki() в дополнение к числам cki существенно расширяет класс оценок.

Тем самым при удачном выборе функций ki() появляется возможность вместо оценок k использовать улучшенные оценки k. В частности, в § 5, 6 будет показано, что при достаточно широких условиях можно так выбрать функции ki, чтобы ковариационная матрица улучшенной оценки была минимальной.

4.2. Приступим теперь к изучению введенных оценок. По аналогии с (2.6) удобно переписать уравнения (4.1) в следующем эквивалентном матричном виде:

()X = ()Y, (4.2) где () = ()mN при (())ki = ki(). В частности, из (2.6) и (4.2) вытекает, что справедлив следующий аналог представления (2.7):

()X ( - ) = (). (4.3) 4.3. Предположим теперь, что случайный вектор () является асимптотически нормальным в том смысле, что найдется случайная или неслучайная невырожденная матрица U такая, что U() = m(0, I). (4.4) В этом случае справедливы следующие аналоги утверждений предыдущего параграфа.

Теорема 3. Пусть выполнено условие (4.4), а также p 0,N U(() - ()) 0, (4.5) p U()X A-1 I (4.6) при некоторой случайной или неслучайной невырожденной матрице A. Тогда A( - ) = m(0, I). (4.7) Следствие 3. Пусть выполнены условия (4.4), (4.5), а также p U() A-1 I, (4.8) p 1,N U() A-1 0, (4.9) p 2,N U(() - ()) A-1 0, (4.10) p 3,N U(() - ()) A-1 0. (4.11) Тогда справедливо утверждение (4.7) теоремы 3.

Pages:     || 2 | 3 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.