WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!


На правах рукописи

ВОРОНЦОВ КОНСТАНТИН ВЯЧЕСЛАВОВИЧ

КОМБИНАТОРНАЯ ТЕОРИЯ НАДЁЖНОСТИ ОБУЧЕНИЯ ПО ПРЕЦЕДЕНТАМ

05.13.17 теоретические основы информатики

Автореферат диссертации на соискание ученой степени доктора физико-математических наук

Москва, 2010

Работа выполнена в Учреждении Российской академии наук Вычислительный центр им. А. А. Дородницына РАН

Научный консультант: доктор физико-математических наук, чл.-корр. РАН Константин Владимирович Рудаков

Официальные оппоненты: доктор физико-математических наук, академик РАН, Виктор Леонидович Матросов доктор физико-математических наук, профессор, Алексей Иванович Чуличков доктор физико-математических наук, профессор, Владислав Викторович Сергеев

Ведущая организация: Московский физико-технический институт (государственный университет)

Защита диссертации состоится 2010 г. в на заседании диссертационного совета Д 002.017.02 в Учреждении Российской академии наук Вычислительный центр им. А. А. Дородницына РАН по адресу: 119333, г. Москва, ул. Вавилова, д. 40.

С диссертацией можно ознакомиться в библиотеке ВЦ РАН.

Автореферат разослан 2010 г.

Учёный секретарь диссертационного совета Д 002.017.02, д.ф.-м.н., профессор В. В. Рязанов

Общая характеристика работы

Диссертационная работа посвящена проблемам обобщающей способности в задачах обучения по прецедентам. Предлагается комбинаторный подход, позволяющий получать точные оценки вероятности переобучения, учитывающие эффекты расслоения и связности в семействах алгоритмов.



Актуальность темы. Вопрос о качестве восстановления зависимостей по эмпирическим данным является фундаментальной проблемой теории статистического обучения (statistical learning theory, SLT).

Основным объектом исследования в SLT является задача обучения по прецедентам: задана обучающая выборка пар объект–ответ ; требуется восстановить функциональную зависимость ответов от объектов, т. е. построить алгоритм, способный выдавать адекватный ответ для произвольного объекта. К этому классу задач относятся задачи распознавания образов, классификации, восстановления регрессии, прогнозирования.

Основной задачей SLT является получение оценок вероятности ошибки построенного алгоритма на объектах, не входивших в обучающую выборку. Эта задача нетривиальна, поскольку частота ошибок на обучающей выборке, как правило, является смещённой (сильно заниженной) оценкой вероятности ошибки.

Это явление называют переобучением. Способность алгоритмов восстанавливать неизвестную зависимость по конечной выборке данных называют обобщающей способностью.

Возникновение SLT связывают с появлением статистической теории Вапника–Червоненкиса (далее VC-теории) в начале 70-х годов. Основным результатом VC-теории являются верхние оценки вероятности ошибки, зависящие от длины обучающей выборки и сложности семейства функций, из которого выбирается искомый алгоритм. Согласно VC-теории, для получения надёжных алгоритмов необходимо ограничивать сложность семейства. Естественной мерой сложности конечного семейства является его мощность. Однако на практике гораздо чаще используются бесконечные семейства. Чтобы свести этот случай к конечному, вводится бинарная функция потерь. Тогда лишь конечное число алгоритмов оказываются попарно различимыми на выборке конечной длины. Зависимость этого числа от длины выборки называется функцией роста семейства. В худшем случае она растёт экспоненциально, но если её рост ограничен сверху полиномом фиксированной степени, то оценки являются состоятельными частота ошибок на обучающей выборке стремится к вероятности ошибки с ростом длины выборки.

Основной проблемой VC-теории является сильная завышенность оценок вероятности ошибки. Попытка их практического применения приводит либо к требованию явно избыточного наращивания обучающей выборки, либо к переупрощению семейства алгоритмов. Наиболее интересные случаи малых выборок и сложных семейств находятся за границами применимости VC-теории. В частности, сложные алгоритмические композиции на практике могут обеспечивать высокое качество классификации, даже когда VC-оценка вероятности ошибки равна единице. Примерами таких конструкций являются корректные линейные и алгебраические композиции алгоритмов вычисления оценок (Ю. И. Журавлёв, 1977). Нетривиальные оценки вероятности ошибки для таких композиций были получены В. Л. Матросовым в серии работ (1980–1985). Тем самым было показано, что применение сложных композиций не противоречит VC-теории. Однако эти оценки также были сильно завышены, поскольку опирались на VC-теорию. Намного позже широкое распространение получили методы обучения линейных композиций бустинг (И. Фройнд, Р. Шапир, 1995) и бэггинг (Л. Брейман, 1995). Их статистические обоснования удалось получить П. Бартлетту и др. (1998). Было показано, что верхние оценки вероятности ошибки не зависят от числа базовых алгоритмов в композиции, а только от сложности семейства базовых алгоритмов. Эти оценки опираются на усовершенствованный вариант VC-теории, но также не являются численно точными.

Основной причиной завышенности VC-оценок является их чрезмерная общность. Они справедливы для любой выборки, любой восстанавливаемой зависимости и любого метода обучения, включая худшие случаи, никогда не встречающиеся на практике. Очевидно также, что одна скалярная характеристика сложности семейства, не зависящая от решаемой задачи, не несёт достаточно информации о таком сложном оптимизационном процессе, как обучение по прецедентам. Дальнейшее развитие SLT шло по пути повышения точности оценок путём учёта индивидуальных особенностей задач и методов обучения.

Большое разнообразие исследований в SLT за последние 40 лет связано с неоднозначностью ответов на вопросы: какие именно характеристики задачи, семейства алгоритмов и метода обучения наиболее существенны, и в то же время достаточно удобны для практического оценивания и управления качеством алгоритма в процессе его обучения. В идеале хотелось бы предсказывать вероятность ошибки примерно с той же точностью, с которой закон больших чисел предсказывает частоту выпадения орла при подбрасывании монеты. Однако проблема получения точных оценок обобщающей способности оказалась гораздо более сложной, и до сих пор не имеет окончательного решения.

Современные оценки основаны, главным образом, на теории эмпирических процессов и неравенствах концентрации вероятностной меры. Несмотря на развитость этих математических техник, они обладают рядом существенных недостатков. В процессе вывода верхних оценок трудно оценить количественно, на каких именно шагах происходит основная потеря точности.

Не менее трудно устранить одновременно все причины завышенности (автору такие работы неизвестны). Наиболее точные оценки основаны на байесовском подходе, требующем задания субъективной априорной информации, что не всегда оправдано.

Для устранения этих недостатков в данной работе предлагается слабая вероятностная аксиоматика и комбинаторный подход, позволяющий получать точные (не завышенные, не асимптотические) оценки вероятности переобучения.

Цель работы создание нового математического аппарата для получения точных оценок вероятности переобучения.

Научная новизна. До сих пор вопрос о получении точных оценок в SLT даже не ставился. Задача считалась безнадёжной, и обычно речь шла лишь о не сильно завышенных оценках (tight bounds). Для получения точных оценок приходится отказываться от стандартного инструментария SLT завышенных неравенств Маркова, Хёфдинга, Чернова, МакДиармида, Буля, и др. Комбинаторный подход потребовал радикального пересмотра всей теории, начиная с аксиоматики. Впервые предложена методика эмпирического измерения факторов завышенности VC-оценок и локального эффективного коэффициента разнообразия. Предложены новые оценки обобщающей способности на основе порождающих и запрещающих множеств объектов, профилей расслоения, связности, компактности, монотонности.

Методы исследования. Вместо завышенных функционалов равномерного отклонения, введённых в VC-теории и применяемых в SLT до сих пор, вводится более точный функционал вероятности переобучения, зависящий от задачи и метода обучения, и основанный на принципе полного скользящего контроля.

Обычно под скользящим контролем понимают среднюю частоту ошибок на контрольных данных, вычисленную по небольшому (например, случайному) подмножеству разбиений выборки на обучение и контроль. При полном скользящем контроле берётся множество всех разбиений, что практически исключает возможность непосредственного точного вычисления таких функционалов. С другой стороны, для функционала вероятности переобучения справедливы те же верхние VC-оценки, что и для функционала равномерного отклонения, а предлагаемые в работе комбинаторные методы позволяют получать также и точные оценки.

Теория надёжности эмпирических предсказаний опирается не на колмогоровскую теоретико-мерную аксиоматику, а на слабую вероятностную аксиоматику, основанную на единственном вероятностном допущении, что все разбиения конечной генеральной выборки на обучающую и контрольную части равновероятны. Этого допущения оказывается достаточно, чтобы получить аналог закона больших чисел, установить сходимость эмпирических распределений и воспроизвести основные результаты VC-теории. Кроме того, в слабой аксиоматике естественным образом строятся непараметрические статистические критерии и доверительные интервалы.

Применяемые в данной работе методы относятся скорее к области дискретной математики, в первую очередь комбинаторики, чем к математической статистике и теории вероятностей.

В то же время, все комбинаторные результаты имеют прозрачный вероятностный смысл.

Хотя работа является теоретической, ход исследования в значительной степени определялся по результатам экспериментов на реальных и модельных задачах классификации.

Результаты, выносимые на защиту

.

1. Слабая вероятностная аксиоматика, основанная на предположении о равной вероятности всех разбиений выборки.

2. VC-оценки вероятности переобучения, учитывающие степень некорректности метода обучения.

3. Методика эмпирического измерения факторов завышенности VC-оценок вероятности переобучения.

4. Блочный метод вычисления вероятности переобучения.

5. Метод получения точных оценок вероятности переобучения, основанный на порождающих и запрещающих множествах.

6. Рекуррентный алгоритм вычисления точных, верхних и нижних оценок вероятности переобучения.

7. Точные оценки вероятности переобучения для модельных семейств алгоритмов: слоя и интервала булева куба, монотонных и унимодальных цепочек, единичной окрестности.

8. Верхние оценки вероятности переобучения через профиль расслоения и связности семейства алгоритмов.

9. Точные оценки полного скользящего контроля для метода ближайшего соседа через профиль компактности выборки.

10. Верхние оценки полного скользящего контроля для монотонных алгоритмов через профиль монотонности выборки.

Теоретическая значимость. В настоящее время в теории обобщающей способности наметилась стагнация. Ценой сильного усложнения математического аппарата удаётся добиться лишь незначительного повышения точности оценок. Интерес научного сообщества к проблематике оценок обобщающей способности заметно снизился в последние годы. Тем временем остаются открытыми фундаментальные проблемы как преодолеть завышенность оценок, и как их использовать на практике для управления процессом обучения. Сложившаяся ситуация не раз повторялась в истории науки: очевидно, что для дальнейшего развития теории требуются радикально новые идеи и подходы. Данная работа является попыткой выхода из тупика.

Практическая значимость. Большинство оценок, полученных в данной работе, пока не нашли непосредственного практического применения, за исключением результатов главы 5. Точные оценки в большинстве случаев требуют адаптации к прикладной задаче. Ожидается, что одним из первых применений станет разработка новых методов поиска логических закономерностей и построения логических алгоритмов классификации.

Апробация работы. Результаты работы неоднократно докладывались на научных семинарах ВЦ РАН и на конференциях:

всероссийская конференция Математические методы распознавания образов ММРО-7, 1995 г. [1];

международная конференция Интеллектуализация обработки информации ИОИ-4, 2002 г. [4];

всероссийская конференция Математические методы распознавания образов ММРО-11, 2003 г. [5];

международная конференция Интеллектуализация обработки информации ИОИ-5, 2004 г. [10];

всероссийская конференция Математические методы распознавания образов ММРО-12, 2005 г. [11];

международная конференция Интеллектуализация обработки информации ИОИ-6, 2006 г. [12, 13];

всероссийская конференция Математические методы распознавания образов ММРО-13, 2007 г. [14–19];

7-й открытый немецко-российский семинар Распознавание образов и понимание изображений, Эттлинген, Германия, 20–25 августа 2007 г. [22];

ломоносовские чтения, МГУ, 17 апреля, 2008 г.;

международная конференция Интеллектуализация обработки информации ИОИ-7, 2008 г. [20];

международная конференция Распознавание образов и анализ изображений: новые информационные технологии РОАИ-9, Нижний Новгород, 2008 г. [21];

международная конференция Современные проблемы математики, механики и их приложений, Москва, 30 марта– 2 апреля 2009 г.;

семинар Знания и онтологии ELSEWHERE 2009, ассоциированный с 17-й международной конференцией по понятийным структурам ICCS-17, Москва, Высшая школа экономики, 21–26 июля 2009 г. [25];

всероссийская конференция Математические методы распознавания образов ММРО-14, 2009 г. [26–28].

Материалы данной диссертационной работы легли в основу спецкурса Теория надёжности обучения по прецедентам, читаемого студентам старших курсов на факультете Вычислительной математики и кибернетики Московского государственного университета им. М. В. Ломоносова.

Публикации по теме диссертации в изданиях из списка ВАК:

[2, 3, 6–8, 22–24]. Другие публикации по теме диссертации: [1, 4, 5, 9–21, 26–28].

Структура и объём работы. Работа состоит из оглавления, введения, пяти глав, списка обозначений, списка иллюстраций (33 пункта), списка таблиц (6 пунктов), списка литературы (200 пунктов) и предметного указателя.

Общий объём работы 255 стр.

Краткое содержание работы по главам В автореферате сохранена нумерация основных утверждений (аксиом, гипотез, определений, лемм, теорем и их следствий), принятая в тексте работы. Нумерация формул сквозная.

Глава 1. Слабая вероятностная аксиоматика Рассмотрим фундаментальную задачу теории вероятностей, тесно связанную с законом больших чисел: оценить вероятность большого отклонения частоты (S, X) события S на конечной выборке X от вероятности P (S) данного события:





P = P |(S, X) - P (S)| > . (1) Если вероятностная мера P неизвестна, то для вычисления вероятности события P (S) необходимо провести бесконечное число наблюдений, что на практике невозможно. В результате оказывается, что вероятность P не может быть измерена в экс перименте как частота события X : |(S, X) - P (S)| > , поскольку само наступление этого события не может быть точно идентифицировано. Данная проблема не возникает, если вместо вероятности P (S) оценивать частоту (S, X) события S на произвольной случайной выборке X:

Q = P |(S, X) - (S, X)| > . (2) Если предполагать, что выборки X и X независимы, то для определения вероятности Q не нужно ни бесконечного числа испытаний, ни введения вероятностной меры на исходном пространстве событий. Вероятность Q может быть легко измерена в эксперименте или вычислена комбинаторными методами как доля разбиений объединённой выборки X X на две подвыборки, при которых имеет место большое отклонение частот.

Слабая вероятностная аксиоматика запрещает использование инфинитарных вероятностей и событий, которые не могут быть идентифицированы в эксперименте. Понятие вероятности вводится без использования теории меры и без предельного перехода к выборкам бесконечной длины.

§1.1. Пусть X = {x1,..., xL} фиксированное множество попарно различных объектов, называемое генеральной выборкой. Обозначим через SL группу перестановок L элементов. Всевозможные перестановки элементов генеральной выборки будем обозначать через X, SL.

Аксиома 1.1. Все L! перестановок генеральной выборки X, SL, имеют одинаковые шансы реализоваться.

Пусть задан предикат : XL {0, 1}. Если (X) = 1, то будем говорить, что событие произошло на перестановке X.

Вероятность события определяется как доля перестановок выборки, на которых оно произошло:

P (X) = (X). (3) L! SL Пусть предикат является функцией двух выборок: X X длины и её дополнения X = X\X длины k = L - , причём значение предиката (X) = (X, X) не зависит от порядка эле ментов в подвыборках X и X. Тогда вероятность определяется как доля разбиений выборки X:

P (X, X) = (X, X), CL X[X] где [X] = X X: |X| = .

Слабая аксиоматика основана на единственном вероятностном предположении, что объекты выборки появляются в случайном порядке. Оно соответствует стандартному предположению о независимости наблюдений в выборке. Столь слабого предположения оказывается достаточно, чтобы установить сходимость частот (аналог закона больших чисел), сходимость эмпирических распределений (критерий Колмогорова-Смирнова), получить многие ранговые и перестановочные критерии. Далее с позиций слабой аксиоматики рассматриваются задачи эмпирического предсказания и статистического обучения.

§1.1.1. Задача эмпирического предсказания состоит в том, чтобы, получив выборку X, предсказать некоторые свойства пока ещё неизвестных новых данных X и заранее оценить точность предсказания. Рассмотрим эксперимент, в котором реа лизуется одно из CL равновероятных разбиений генеральной выборки X = X X. После реализации разбиения наблюдателю сообщается подвыборка X. Не зная скрытой подвыбор ки X, требуется предсказать значение t = T (X, X) заданной функции T : Xk X R, существенно зависящее от скры той подвыборки X. Для этого строится предсказывающая функ ция T : X R, значение которой на наблюдаемой подвыбор ке t = T (X) приближало бы неизвестное значение t = T (X, X).

Требуется оценить надёжность предсказаний, указав невозрастающую оценочную функцию () такую, что P d T (X), T (X, X) > (), (4) где d: R R R заданная функция, характеризующая вели чину отклонения d(t, t) предсказанного значения t от неизвестного истинного значения t. Параметр называется точностью, а величина (1 - ()) надёжностью предсказания. Если в (4) достигается равенство, то () называется точной оценкой.

Выбирая множество R, функции T, T и d, можно получать многие классические задачи теории вероятностей, математической статистики, статистического обучения.

§1.1.2. §1.1.3. §1.1.4. Рассматриваются некоторые базовые приёмы обращения с оценками надёжности эмпирических предсказаний в слабой аксиоматике, а также связь задач эмпирического предсказания и статистической проверки гипотез.

§1.1.5. Рассматривается связь слабой аксиоматики с сильной (колмогоровской) аксиоматикой. Обсуждаются преимущества, недостатки и границы применимости слабой аксиоматики.

§1.2. Пусть S X некоторое множество объектов; будем называть его событием. Введём функции числа элементов и частоты события S на произвольной конечной выборке U X:

n(U) = |S U|, (U) = n(U)/|U|.

Задача оценивания частоты события состоит в том, чтобы предсказать частоту на скрытой выборке X по частоте на наблюдаемой выборке X и оценить надёжность предсказания:

P (X) - (X) (); (5) Лемма 1.1. Если n(X) = m, то число элементов события S в наблюдаемой подвыборке n(X) подчиняются гипергеометрическому распределению:

-s s CmCL-m P n(X) = s = h,m (s) =, (6) L CL где s принимает значения от s0= max{0, m-k} до s1= min{, m}.

Теорема 1.2. Если n(X) = m, то для любого [0, 1) ,m P (X) = HL (m - k) ; (7) ,m P (X) - (X) = HL L(m - k), (8) z ,m где HL (z) = h,m (s) функция гипергеометрического L s=sраспределения.

При пропорциональном увеличении L, и m относительная ширина гипергеометрического пика уменьшается. Поэтому в пределе при L, , m возможно сколь угодно точно пред сказывать частоту события S в скрытой выборке (X) по его частоте на наблюдаемой выборке (X). Равенство (8) даёт точную оценку скорости сходимости частот (справедлива также аналогичная двусторонняя оценка). Классический закон больших чисел утверждает сходимость частоты события к её вероятности. В слабой аксиоматике понятие вероятности события S не определено, поэтому (8) можно интерпретировать как аналог закона больших чисел в слабой аксиоматике.

§1.3. Рассматривается задача оценивания функции распределения, тесно связанная с двухвыборочным критерием Колмогорова-Смирнова. Выводятся точные формулы для распределения величины равномерного отклонения эмпирических функций распределения на двух выборках. Это распределение описывается усечённым треугольником Паскаля. В рамках слабой аксиоматики критерий Смирнова, обычно формулируемый для случайных величин с непрерывным распределением, легко обобщается и на случай дискретных величин.

§1.4. Демонстрируется возможность получения стандартных статистических критериев и доверительных оценок в рамках слабой аксиоматики. При этом сначала выводятся точные комбинаторные формулы и результат формулируется в терминах конечных выборок. Затем, при необходимости, применяется предельный переход L . Его можно понимать как способ получения приближёной формулы, не подразумевающий существования выборок сколь угодно большой длины.

§1.5. Задача оценивания вероятности переобучения является основной в данной работе. Задано множество A, элементы которого называются алгоритмами. Существует бинарная функция I : A X {0, 1}, называемая индикатором ошибки. Если I(a, x) = 1, то алгоритм a допускает ошибку на объекте x, если же I(a, x) = 0, то a даёт верный ответ на x. Определяются функции числа ошибок n(a, U) = I(a, x) и частоты ошибок xU (a, U) = n(a, U)/|U| алгоритма a на выборке U X.

L Бинарный вектор-столбец = I(a, xi) называется векa i=тором ошибок алгоритма a. Совокупность всех попарно различных векторов ошибок, порождаемых алгоритмами a A, образует матрицу ошибок размера LD. Строки этой матрицы соответствуют объектам, столбцы алгоритмам.

Далее предполагается, что A это конечное множество алгоритмов с попарно различными векторами ошибок.

Методом обучения называется отображение µ: 2X A, которое произвольной обучающей выборке X X ставит в соответствие некоторый алгоритм a = µX из A.

Метод µ называется методом минимизации эмпирического риска, если для любого X X µX A(X) = Arg min n(a, X) = aA = a A: n(a, X) n(a, X), a A. (9) Переобученностью метода µ относительно пары выборок X и X называется отклонение частоты ошибок алгоритма a = µX на скрытой контрольной выборке X от частоты его ошибок на наблюдаемой обучающей выборке X:

µ(X, X) = (µX, X) - (µX, X).

Если µ(X, X) при некотором достаточно малом (0, 1), то говорят, что метод µ переобучен относительно X, X.

Итак, основная задача заключает в том, чтобы оценить вероятность переобучения:

Q Q(µ, X) = P µ(X, X) . (10) §1.5.3. Вводятся некоторые важные в VC-теории понятия.

A = a A множество векторов ошибок, порождаеa:

мых заданным множеством алгоритмов A.

(A, X) = |A| коэффициент разнообразия множества алгоритмов A на выборке X. В задачах классификации на два класса коэффициент разнообразия равен числу различных дихотомий (способов разделить выборку X на два класса), реализуемых всевозможными алгоритмами из A.

A A (µ, X) = µX : X [X] множество алгоритмов, L L индуцируемых методом обучения µ на всевозможных обучающих подвыборках X.

(µ, X) = A (µ, X), X локальный коэффициент L L L разнообразия метода µ на выборке X.

A(L) = max (A, X) глобальный коэффициент разнообраX зия или функция роста множества алгоритмов A. Максимум берётся по всевозможным выборкам X X длины L из некоторого (как правило, бесконечного) множества допустимых объектов X. Функция роста является мерой сложности множества алгоритмов A. В отличие от локального коэффициента разнообразия, она не зависит ни от задачи, ни от метода обучения µ.

Am = a A: n(a, X) = m подмножество алгоритмов, называемое m-м слоем множества A. Будем также говорить, что множество A расслаивается по уровням ошибок.

m m(µ, X) = (A )m, X) локальный коэффициент L разнообразия m-го слоя множества A (µ, X). Совокупность веL личин (m)L будем называть профилем расслоения.

m=§1.5.4. VC-теория переносится в слабую аксиоматику.

Теорема 1.11. Для любых µ, X и [0, 1] L ,m Q mHL L(m - k) m=k ,m max HL L(m - k). (11) L m=1,...,L Оценка (11) имеет следующую интерпретацию. Вероятность переобучения не превышает вероятности большого отклонения ,m частот для наихудшего алгоритма (максимум HL достигается при m L/2), умноженной на число алгоритмов.

Оценивая локальный коэффициент разнообразия глобальным (µ, X) A(L) и заменяя функцию гипергеометричеL ского распределения экспоненциальной верхней оценкой, получаем ещё одну известную классическую VC-оценку:

Следствие 1.11.2. Для любых µ, X, [0, 1) при = k Q A(2) · e- . (12) §1.5.5. В VC-теории отдельно рассматривается детерминистская постановка задачи, когда n(µX, X) = 0 на любой обучающей выборке X. Однако в общей постановке задачи не делается никаких предположений о величине n(µX, X). В данной работе предлагается исследовать и промежуточные ситуации.

Степенью некорректности метода обучения µ на выборке X называется максимальная частота ошибок на обучении (µ, X) = max (µX, X).

X[X] Теорема 1.12. Для любых µ, X с ограниченной некорректностью (µ, X) и любого [0, 1] справедлива оценка ,m Q max HL min (m - k), . (13) L L m : k m k+ Следствие 1.12.1. Если метод µ корректный на генеральной выборке X, то есть (µ, X) = 0, то для любых µ, X и [0, 1] k k+ CL-k CL-m k Q m A(L) A(L). (14) CL CL L m=k Следствие 1.12.2. Если = k и метод µ корректный на генеральной выборке X, то для любых µ, X и [0, 1] Q A(2) 2-. (15) §1.5.6. Основной недостаток VC-оценок в том, что они чрезвычайно завышены настолько, что их применение практически теряет смысл. Для наглядности в работе приводятся результаты численного расчёта требуемой длины обучающей выборки как функции от ёмкости h, точности и уровня значимости (надёжности) Q. Расчётные значения на порядки превосходят характерные длины выборок в практических задачах.

В детерминистском случае требуемая длина обучения заметно меньше, но также сильно завышена. Учёт априорной информации о степени некорректности уточняет VC-оценки, но не решает проблему завышенности.

§1.5.7. Причины завышенности видны из доказательства теоремы 1.11, в котором сделаны три оценки сверху, а при выводе следствия 1.12.1 ещё две. Те же причины остаются и в теореме 1.12. Всего имеется 5 факторов завышенности.

1. Принцип равномерной сходимости приводит к завышенности, когда множество A расслаивается по уровням ошибок.

L 2. Неравенство Буля приводит к сильной завышенности, когда среди векторов ошибок имеется много похожих.

3. Пренебрежение профилем расслоения является малозначимым фактором.

4. Пренебрежение эффектом локализации приводит к сильной завышенности, когда локальное подмножество A (µ, X) L много меньше всего семейства A.

5. Экспоненциальная оценка гипергеометрического распределения представляет результат в удобной форме, но в компьютерных вычислениях её использование едва ли оправдано.

Глава 2. Теория статистического обучения В данной главе представлен обзор оценок обобщающей способности, начиная с VC-теории, и заканчивая работами последних лет. Особое внимание уделяется оценкам, показывающим, что обобщающая способность может не ухудшаться с ростом сложности семейства, а также оценкам, учитывающим эффекты расслоения и сходства в семействах алгоритмов. Современные подходы существенно улучшают VC-оценки, но всё ещё не дают точных оценок. Более того, применение сложных математических методов затрудняет понимание причин завышенности и постановку экспериментов по измерению факторов завышенности. Поэтому в следующей главе за основу берутся классические VC-оценки, для которых методика эмпирического измерения завышенности разрабатывается сравнительно легко.

Глава 3. Эмпирический анализ факторов завышенности VC-оценок Описывается методика экспериментального количественного измерения факторов завышенности VC-оценок. В рамках классической VC-теории такие измерения практически невозможны, поскольку в функционале равномерной сходимости P = P sup(P (a) - (a, X)) aA вероятности P (a) неизвестны, а супремум берётся по чрезвычайно широкому множеству A. Хотя теоретически вероятность любого события можно оценить по конечному числу наблюдений, в данном случае вероятность P не удаётся оценить как частоту события, поскольку само наступление этого события трудно идентифицировать.

В слабой аксиоматике оценки вероятности переобучения Q = P (µX, X) - (µX, X) , получаются аналогично классическим VC-оценкам. При этом Q легко измеряется по небольшому подмножеству разбиений (X, X), в частности, методом Монте-Карло.

С методологической точки зрения интересно отметить, что именно стремление выделить и измерить факторы завышенности VC-оценок и привело к отказу от принципа равномерной сходимости и введению слабой вероятностной аксиоматики.

§3.1. Зная эмпирическую оценку Q, можно сказать, какое значение должна была бы иметь функция роста , чтобы VCоценка Q () не была завышенной и обращалась в точное равенство. Здесь () вероятность большого отклонения частот в двух выборках для отдельного алгоритма. Гипотетическое точное значение функции роста = Q/() предлагается называть эффективным локальным коэффициентом разнообразия (ЭЛКР). Возможна ещё одна интерпретация ЭЛКР он показывает, во сколько раз снижается надёжность предсказания качества обучения по сравнению с предсказанием частоты ошибок отдельного алгоритма, которое даёт закон больших чисел.

§3.2. Эксперименты с логическими алгоритмами классификации на реальных задачах из репозитория UCI показали, что среди всех факторов завышенности наиболее существенными являются два это игнорирование свойств расслоения и связности семейства алгоритмов. Каждый из этих двух факторов завышает оценку Q в 103–105 раз. На практике ЭЛКР принимает значения порядка 100–102, тогда как функция роста обычно имеет порядок 105–1010 и выше.

Расслоение является следствием универсальности применяемых на практике семейств. Как правило, лишь ничтожная доля алгоритмов в семействе подходит для решения фиксированной задачи, но именно эти алгоритмы имеют наибольшие шансы быть полученными в результате обучения. Распределение вероятностей на множестве алгоритмов оказывается существенно неравномерным, однако этот факт никак не учитывается классическими VC-оценками.

Связность является следствием непрерывности применяемых на практике семейств. Как правило, для любого алгоритма в семействе существует большое число похожих на него алгоритмов. В частности, связные семейства порождаются методами классификации с непрерывной по параметрам разделяющей поверхностью: линейные классификаторы, машины опорных векторов с непрерывными ядрами, нейронные сети с непрерывными функциями активации, решающие деревья с пороговыми условиями ветвления, и многие другие. Чем больше в семействе схожих алгоритмов, тем сильнее завышено неравенство Буля, используемое при выводе VC-оценки. Классические VC-оценки ориентированы на худший случай, когда все алгоритмы существенно различны, но этот случай практически никогда не реализуется в приложениях.

§3.3. Следующая серия экспериментов на модельных данных подтверждает необходимость совместного учёта эффектов расслоения и связности. Рассматривается простейшее семейство с расслоением и связностью монотонная цепочка алгоритмов.

Строятся его естественные аналоги, не обладающие либо свойством расслоения, либо свойством связности. В обоих случаях вероятность переобучения оказывается значительной уже при нескольких десятках алгоритмов в семействе. Отсюда следуют два важных вывода. Во-первых, все реальные семейства с необходимостью расслоены и связны (а если и не связны, то обладают какой-либо иной структурой сходства алгоритмов).

Во-вторых, только при совместном учёте обоих свойств возможно получение точных оценок вероятности переобучения.

§3.3.1. Третий эксперимент на модельном семействе, состоящем только из двух алгоритмов, показывает, что даже в этом простейшем случае появляется переобучение, а эффекты расслоения и сходства снижают вероятность переобучения.

Поскольку матрицы ошибок модельных семейств обладают вполне определённой структурой, для них возможно получать точные формулы вероятности переобучения, используя чисто комбинаторные методы. На этом этапе исследования точные формулы были получены для нескольких искусственных семейств простой структуры. Затем эти оценки были обобщены и обнаружен общий механизм их вывода, основанный на порождающих и разрушающих множествах объектов.

Глава 4.

Точные оценки вероятности переобучения В данной главе выводятся точные оценки вероятности переобучения, основанные на предположении, что для каждого алгоритма a A возможно в явном виде выписать условия, при которых a является результатом обучения, µX = a.

§4.1.1. Обозначим через A(X) = Arg min n(a, X) множество aA алгоритмов с минимальным числом ошибок на обучении X.

Определение 4.1. Метод µ называется минимизацией эмпирического риска (МЭР), если µX A(X) при всех X X.

Если множество A(X) содержит более одного элемента, то в методе µ возникает проблема неоднозначности выбора алгоритма. Рассмотрим два крайних случая.

Определение 4.2. Минимизация эмпирического риска µ на зывается оптимистичной, если µX = arg min n(a, X).

aA(X) Определение 4.3. Минимизация эмпирического риска µ на зывается пессимистичной, если µX = arg max n(a, X).

aA(X) Оба варианта на практике не реализуемы, так как контроль ная выборка X скрыта на этапе обучения. Теоретически они интересны тем, что дают точные нижние и верхние оценки вероятности переобучения. Большинство получаемых в работе оценок основаны на пессимистичной МЭР.

§4.1.2. Вводится предположение, что получение каждого из алгоритмов в результате обучения связано с наличием или отсутствием некоторых объектов в обучающей выборке.

Гипотеза 4.1. Множество A, выборка X и метод µ таковы, что для каждого a A можно указать пару непересекающихся подмножеств Xa X и Xa X, удовлетворяющую условию µX=a = Xa X Xa X, X [X]. (16) Множество Xa называется порождающим, множество Xa запрещающим алгоритм a. Остальные объекты X\Xa\Xa называются нейтральными для алгоритма a, их наличие или отсутствие в обучающей выборке не влияет на результат обучения.

Для произвольного a A введём обозначения:

La = |X\Xa\Xa|; ma = n(a, X\Xa\Xa);

a = |X\Xa|; sa() = n(a, X) - k - n(a, Xa).

L Лемма 4.2. Если гипотеза 4.1 справедлива, то a P (a) = P µX=a = CL /CL.

a Теорема 4.3. Если гипотеза 4.1 справедлива, то вероятность переобучения вычисляется по формуле a,ma Q = P (a)HL (sa()).

a aA Гипотеза 4.1 накладывает настолько сильные ограничения на X, A и µ, что теорему 4.3 удаётся применять лишь в специальных случаях. Рассмотрим её естественное обобщение.

Гипотеза 4.2. Множество A, выборка X и метод µ таковы, что для каждого a A можно указать конечное множество индексов Va, и для каждого индекса v Va можно указать порож дающее множество Xav X, запрещающее множество Xav X и коэффициент cav R, удовлетворяющие условиям , µX=a = cav Xav X Xav X X [X]. (17) vVa Гипотеза 4.1 является частным случаем гипотезы 4.2, когда все множества Va одноэлементные и cav = 1.

Теорема 4.4. Гипотеза 4.2 верна всегда: для любых X, A и µ существуют множества Va, Xav, Xav, при которых имеет место (17), причём cav = 1 для всех a A, v Va.

Теорема 4.4 является типичной теоремой существования. Использованный при её доказательстве способ построения индексных множеств Va требует явного перебора всех разбиений выборки, что приводит к вычислительно неэффективным оценкам Q. В общем случае представление (17) не единственно.

Отдельной проблемой является поиск представлений с мини мальными по мощности множествами Va, Xav, Xav.

Введём для каждого a A и каждого v Va обозначения:

Lav = |X\Xav\Xav|; mav = n(a, X\Xav\Xav);

av = |X\Xav|; sav() = n(a, X) - k - n(a, Xav).

L Лемма 4.5. Если гипотеза 4.2 верна, то для всех a A P (a) = P µX=a = cavPav; (18) vVa av Pav = P Xav X Xav X = CL /CL. (19) av Теорема 4.6. Если гипотеза 4.2 справедлива, то вероятность переобучения вычисляется по формуле av,mav Q = cavPavHL (sav()). (20) av aA vVa Формула (20) сильно упрощается, если в семействе A содержится корректный алгоритм a0, не допускающий ошибок на генеральной выборке X.

Теорема 4.7. Пусть гипотеза 4.2 справедлива, метод µ минимизирует эмпирический риск, множество A содержит алгоритм a0 такой, что n(a0, X) = 0. Тогда Q = n(a, X) k P (a). (21) aA §4.1.3. Получены также оценки, не требующие задания порождающих и запрещающих множеств. Они основаны на разбиении генеральной выборки на блоки, имеют довольно громоздкий вид и эффективны только для семейств малой мощности.

В частности, с помощью блочного метода легко выводится оценка вероятности переобучения для пары алгоритмов.

§4.2. Рассматриваются модельные семейства алгоритмов, для которых получаются точные оценки вероятности переобучения. Модельные семейства задаются непосредственно бинарной матрицей ошибок, а не какими-либо реальными данными и методами обучения. Они отличаются определённой регулярностью или симметрией, которой реальные семейства, как правило, не обладают. Модельные семейства хорошо иллюстрируют эффекты расслоения и связности. Кроме того, рассмотрение большого числа разнообразных частных случаев ведёт к постепенному обобщению модельных семейств и получению оценок, неплохо аппроксимирующих реальные семейства. Такой путь развития комбинаторной теории переобучения представляется наиболее реалистичным.

§4.2.1. Рассматривается множество из двух алгоритмов A = = {a1, a2}. Пусть в выборке X имеется m11 объектов, на которых оба алгоритма допускают ошибку; m10 и m01 объектов, на которых, соответственно только a1 или только a2 допускает ошибку.

Теорема 4.9. Пусть µ пессимистичная минимизация эмпирического риска, A = {a1, a2}. Тогда при любом [0, 1) m11 m10 m01 s11 s10 s-s11-s10-s Cm Cm Cm CL-m 11 10 01 11-m10-mQ = CL s11= s10=0 s01= s10 < s01 s11 + s10 (m11 + m10 - k) + L + s10 s01 s11 + s01 (m11 + m01 - k). (22) L m §4.2.2. Рассматривается множество A, состоящее из всех CL алгоритмов с попарно различными векторами ошибок и ровно m ошибками на полной выборке X. Поскольку все возможные векторы ошибок образуют булев куб размерности L, то векторы ошибок множества A это m-й слой булева куба.

Теорема 4.10. Пусть µ произвольный метод минимизации эмпирического риска, A m-й слой булева куба. Тогда Q = = k m - для любого [0, 1].

Хотя оценка вырождена и принимает только два значения, 0 или 1, из неё следуют два важных вывода. Во-первых, алгоритмы нижних слоёв m < k не вносят вклад в переобучение.

Во-вторых, никакой слой выше m = k не должен целиком содержаться в семействе алгоритмов.

§4.2.3. Рассматривается множество A, образующее интервал ранга m в L-мерном булевом кубе. Объекты делятся на три категории: m0 внутренних объектов, на которых ни один из алгоритмов не допускает ошибок; m1 шумовых объектов, на которых все алгоритмы допускают ошибки; и m пограничных объектов, на которых реализуются все 2m вариантов допустить ошибки. Интервал булева куба обладает свойствами расслоения и связности и может рассматриваться как модель реального семейства размерности m.

Теорема 4.11. Пусть µ пессимистичная МЭР, A интервал булева куба. Тогда для любого [0, 1] m m1 s s-s-s CmCm CL-m-m 1 1 Q = s1 + s (m1 + m - k).

L L CL s=0 s1=В работе получена также точная оценка Q для интервала булева куба при рандомизированной МЭР.

§4.2.4. Рассматривается множество A, образованное t нижними слоями интервала ранга m в L-мерном булевом кубе. Это семейство интересно тем, что оно позволяет исследовать влияние эффекта расслоения на вероятность переобучения, построив зависимость Q от числа нижних слоёв t.

Теорема 4.13. Пусть µ пессимистичная МЭР, A нижние t слоёв интервала булева куба. Тогда для любого [0, 1] m m1 s s-s-s CmCm CL-m-m 1 Q = s1 L(m1+min{t, m-s}-k).

CL s=0 s1=Для множества t нижних слоёв интервала булева куба также получена точная оценка Q при рандомизированной МЭР.

§4.2.5. Рассматривается монотонная цепочка алгоритмов, которую можно интерпретировать как простейшую модель однопараметрического связного семейства алгоритмов.

Определим расстояние Хэмминга между алгоритмами:

L I(a, xi) - I(a, xi), a, a A.

(a, a) = i=Множество алгоритмов A = {a0, a1,..., aD} называется цепочкой алгоритмов, если (ad-1, ad) = 1 для всех d = 1,..., D.

Цепочка алгоритмов A = {a0, a1,..., aD} называется монотонной, если n(ad, X) = m + d при некотором m 0.

Алгоритм a0 называется лучшим в цепочке.

Теорема 4.16. Пусть A = {a0, a1,..., aD} монотонная цепочка; L m + D. Тогда в случае D k k - CL-d--1,m Q = PdHL-d-1 (sd()) ; Pd =, d = 0,..., k;

CL d=в случае D < k D- -1,m ,m Q = PdHL-d-1 (sd()) + PDHL-D (sD()) ;

d=- CL-d-1 CL-D Pd =, d = 0,..., D - 1; PD =, CL CL где Pd = P µX=ad, sd() = (m + d - k).

L §4.2.6. Унимодальная цепочка алгоритмов является более реалистичной моделью однопараметрического связного семейства, по сравнению с монотонной цепочкой.

Множество алгоритмов A = {a0, a1,..., aD, a,..., a } назы1 D вается унимодальной цепочкой, если левая ветвь a0, a1,..., aD и правая ветвь a0, a,..., a являются монотонными цепочка1 D ми с общим лучшим алгоритмом a0.

В работе получены точные оценки вероятности переобучения для унимодальной цепочки.

§4.2.7. Единичная окрестность лучшего алгоритма является экстремальным частным случаем, когда алгоритмы максимально близки друг к другу, и классические оценки, основанные на неравенстве Буля, наиболее завышены.

Множество алгоритмов A = {a0, a1,..., aD} называется единичной окрестностью алгоритма a0, если все векторы ошибок ad попарно различны, n(ad, X) = n(a0, X) + 1 и (a0, ad) = 1 для всех d = 1,..., D. Алгоритм a0 называется лучшим в окрестности или центром окрестности.

В работе получены точные оценки вероятности переобучения для единичной окрестности.

§4.2.8. Краткий обзор точных и верхних оценок вероятности переобучения, полученных другими авторами в рамках предлагаемого в данной работе комбинаторного подхода.

§4.3. Пусть в A есть корректный на X алгоритм и µ пессимистичный метод МЭР. Задача вычисления Q сводится к тому, чтобы найти информацию I(a) = Xav, Xav, cav vV для кажa дого алгоритма a A, где Va индексное множество, Xav множество порождающих объектов, Xav множество запрещающих объектов, cav R.

Обозначим через µd метод обучения µ, выбирающий алгоритмы только из подмножества Ad = {a0,..., ad}. Рассмотрим переход от метода µd-1 к методу µd при добавлении в Ad-1 алгоритма ad. Допустим, что для всех алгоритмов at, t < d, информация I(at) относительно метода µd-1 уже известна. Поставим задачу: вычислить информацию I(ad) и скорректировать информацию I(at), t < d, относительно метода µd. Необходимость коррекции вызвана тем, что алгоритм ad может отбирать некоторые разбиения у каждого из предыдущих алгоритмов at.

Лемма 4.19. Метод µd выбирает алгоритм ad тогда и только тогда, когда все объекты, на которых ad допускает ошибку, попадают в контрольную выборку:

µdX=ad = Xd X, Xd = xi X: I(ad, xi) = 1.

Лемма 4.20. Корректировка информации I(at), t < d при добавлении алгоритма ad сводится к проверке для каждого v Vt такого, что Xtv Xd = , трёх условий:

1) если Xd \ Xtv = {xi} одноэлементное множество, то xi присоединяется к Xtv;

2) если |Xd \ Xtv| > 1, то множество индексов Vt пополняется элементом w, полагая ctw = -ctv, Xtw = Xtv, Xtw = Xtv Xd;

3) если |Xd \ Xtv| = 0, то из множества индексов Vt удаляется индекс v, а из I(at) удаляется вся тройка Xtv, Xtv, ctv.

Леммы 4.19, 4.20 и теорема 4.7 позволяют рекуррентно вычислять вероятность переобучения Q. На каждом d-м шаге, d = 0,..., D, добавляется алгоритм ad, вычисляется информация I(ad); затем для каждого t = 0,..., d - 1 корректируется информация I(at) и вероятности Ptv. На основе скорректированной информации обновляется текущая оценка Q. По окончании последнего D-го шага текущая оценка Q совпадает с точным значением вероятности переобучения. Процедура вычисления точной оценки Q описана с помощью псевдокода, облегчающего программную реализацию.

Вычисления могут оказаться неэффективными по времени, если условие 2) леммы 4.20 будет выполняться слишком часто.

Каждое его выполнение приводит к добавлению ещё одного слагаемого в сумму (20), причём к новым слагаемым в свою очередь может применяться условие 2), в результате объём вычислений может расти экспоненциально по D. В работе доказывается, что если в описанной вычислительной процедуре в определённые моменты пропускать проверку условия 2), то можно получать верхние или нижние оценки вероятности переобучения, существенно сокращая объём вычислений. Таким образом, время вычислений удаётся обменивать на точность оценки.

Доказывается, что если проверка условия 2) пропускается всегда, то значение Q, вычисляемое такой максимально упрощённой процедурой, будет верхней оценкой вероятности переобучения. В следующей теореме эта оценка выписывается в явном виде через профиль расслоения и связности множества A.

Связностью q(a) алгоритма a A назовём число алгоритмов в следующем слое, допускающих ошибки на тех же объектах, что и a: q(a) = # a An(a,X)+1 : I(a, x) I(a, x), x X.

Определение 4.12. Профилем расслоения и связности мно q=0,L жества A называется матрица mq m=0,L, где mq число алгоритмов в m-м слое со связностью q.

Теорема 4.22. Пусть векторы ошибок всех алгоритмов множества A попарно различны, в A есть корректный на X алгоритм. Тогда справедлива верхняя оценка L L -q CL-m-q Q mq . (23) CL q=m=k Согласно оценке (23) наибольший вклад в вероятность переобучения вносят алгоритмы с малым числом ошибок, начиная с m = k. По мере увеличения m комбинаторный множи-q тель CL-m-q/CL убывает экспоненциально. Увеличение связности q улучшает оценку. Есть основания полагать, что среднее значение связности q определяется размерностью пространства.

В общем случае при увеличении размерности пространства возникают два противонаправленных эффекта: с одной стороны, увеличивается число алгоритмов в каждом слое, что приводит к росту Q; с другой стороны, увеличивается связность q, что приводит к уменьшению Q. Второй эффект совершенно не учитывается в классической VC-теории.

Предварительные эксперименты с линейными классификаторами и методом ближайших соседей показали, что профиль расслоения и связности mq с высокой точностью является сепарабельным: mq mq, где m коэффициент разнообразия m-го слоя, q доля алгоритмов m-го слоя, имеющих связность q. Вектор (m)m=0,L предлагается называть профилем расслоения, а вектор (q)q=0,L профилем связности множества алгоритмов A. В этих терминах немного ослабленная оценка (23) принимает следующий вид:

q k L CL-m Q m q. (24) CL q=0 L - m m=k VC-оценка поправка на связность Первая часть (24) совпадает с VC-оценкой (14). Вторая часть представляет собой поправку на связность, экспоненциально убывающую с ростом q, что и делает данную оценку существенно более точной, чем классические VC-оценки (11), (14).

Если профиль mq представлен в виде разложения mq, то вычисления Q занимают O(L) операций, что вполне приемлемо для практического применения.

Глава 5. Комбинаторные оценки полного скользящего контроля §5.1. Функционал полного скользящего контроля (CCV) определяется как средняя частота ошибок на контроле по всевозможным разбиениям генеральной выборки:

CCV(µ, X) = (µX, X).

CL (X,X) В терминах слабой аксиоматики CCV есть математическое ожидание частоты ошибок на контроле, CCV = E(µX, X).

Недостаток CCV в том, что он ничего не говорит о возмож ном разбросе (дисперсии) частоты ошибок (µX, X). Поэтому его нельзя использовать для получения верхних оценок.

§5.2. Рассматриваются задачи классификации с множеством классов Y. Индикатор ошибки имеет вид I(a, x) = y(x) = a(x), где y : X Y восстанавливаемая зависимость, a: X Y алгоритм классификации. Решение задач классификации часто основано на гипотезе компактности эмпирическом предположении, что классы образуют локализованные компактные подмножества объектов, и схожие объекты, как правило, лежат в одном классе. Простейшим методом обучения, построенным на его основе, является метод ближайших соседей.

§5.2.1. Пусть на множестве X определена функция расстояния (x, x). Метод ближайшего соседа это метод обучения µ, который запоминает обучающую выборку X X и строит алгоритм a = µX, работающий следующим образом:

a(x; X) = y arg min (x, x) для всех x X.

xX Для каждого объекта xi, i = 1,..., L выборки X расположим остальные L - 1 объектов в порядке возрастания расстояния до xi, пронумеровав их двойными индексами: xi = xi0, xi1, xi2,..., xi,L-1. Таким образом, 0 = (xi, xi0) (xi, xi1) · · · (xi, xi,L-1).

Обозначим через rm(xi) ошибку, возникающую при замене правильного ответа y(xi) ответом на m-ом соседе объекта xi:

rm(xi) = y(xi) = y(xim) ; i = 1,..., L; m = 1,..., L - 1.

Определение 5.1. Профилем компактности выборки X называется доля объектов выборки, для которых правильный ответ не совпадает с правильным ответом на m-ом соседе:

L K(m, X) = rm(xi); m = 1,..., L - 1.

L i=Профиль компактности является формальным выражением гипотезы компактности. Чем проще задача, тем чаще близкие объекты лежат в одном классе, тем сильнее прижимается к нулю начальный участок профиля. И наоборот, в трудных задачах, где ближайшие объекты практически не несут информации о классе, профиль вырождается в константу, близкую к 0.5.

§5.2.2. Существует связь профиля компактности с качеством классификации методом ближайшего соседа.

Теорема 5.2. Для метода ближайшего соседа µ и любой X k - CL-1-m CCV(µ, X) = K(m, X). (25) CL-m=- Комбинаторный множитель m = CL-1-m/CL-1 убывает с ростом m быстрее геометрической прогрессии. Для обеспечения малого значения функционала CCV достаточно потребовать, чтобы профиль K(m) принимал малые значения при малых m.

§5.2.3. В методе ближайшего соседа имеет смысл запоминать не всю обучающую выборку, а только подмножество наиболее типичных объектов эталонов. Отбор эталонов обычно преследует несколько целей: сокращение объёма хранимых данных, повышение скорости классификации, повышение качества классификации за счёт удаления шумовых объектов.

Предлагается итерационный процесс минимизации CCV путём последовательного отсева неэталонных объектов. Эксперименты на модельных данных показывают, что в этом процессе сначала удаляются все шумовые выбросы, при этом функционал CCV убывает. Затем удаляются неинформативные внутренние объекты классов, при этом функционал либо не изменяется, либо увеличивается на ничтожно малую величину.

Когда функционал начинает заметно возрастать, процесс удаления объектов останавливается, и все оставшиеся объекты принимаются за эталоны. Эксперименты показывают, что данный метод вообще не переобучается. Важным для приложений побочным результатом является разделение всех объектов на три категории: эталонные, неинформативные и шумовые.

§5.3. Рассматриваются задачи классификации, в которых множество X частично упорядочено, Y = {0, 1}, индикатор ошибки имеет вид I(a, x) = [y(x) = a(x)], и имеется априор ная информация о монотонности или почти-монотонности целевой зависимости y(x). Ограничения монотонности могут возникать в различных контекстах. Во-первых, они могут быть результатом формализации экспертных знаний вида чем больше значение признака f(x) тем больше значение y(x). Во-вторых, они возникают в алгоритмических композициях с нелинейной корректирующей операцией, которые являются естественным обобщением линейных выпуклых композиций (взвешенного голосования) алгоритмов классификации.

Допустим, что метод обучения µ выбирает алгоритмы из множества A всех монотонных отображений F : X Y.

Степенью немонотонности выборки X называется наименьшая частота ошибок, допускаемых на ней монотонными алгоритмами: (X) = min (a, X).

aA Выборка X называется монотонной, если из xi xj следует y(xi) y(xj) для всех i, j = 1,..., L. Выборка монотонна тогда и только тогда, когда (X) = 0.

Верхним и нижним клином объекта xi X называются, соответственно, множества W0(xi) = {x X: xi < x и y(x) = 0} ;

W1(xi) = {x X: x < xi и y(x) = 1}.

Введём сокращённое обозначение Wi = Wy(x )(xi).

i Мощность клина wi = |Wi| характеризует глубину погружения объекта xi в тот класс, которому он принадлежит. Чем меньше wi, тем ближе объект к границе класса. Объекты, не имеющие своего клина (wi = 0) будем называть граничными.

Определение 5.5. Профилем монотонности выборки X называется функция M(m, X), выражающая долю объектов выборки c клином мощности m:

L M(m, X) = [wi = m]; m = 0,..., L - 1.

L i=Теорема 5.4. Если метод µ минимизирует эмпирический риск в классе всех монотонных функций и степень немонотонности выборки X равна , то min{L,,m} L+k--s s CmCL-1-m CCV(µ, X) M(m, X). (26) CL-m=s=max{0,m-k+1} Оценка (26) монотонно не убывает по , достигая наименьшего значения при = 0, когда выборка монотонна и метод µ является корректным на генеральной выборке X:

k- CL-1-m CCV(µ, X) M(m, X). (27) CL-m=Оценка (26), в отличие от завышенных сложностных оценок, никогда не превышает 1. Наибольшее значение 1 достигается при wi = 0, i = 1,..., L. Это тот случай, когда оба класса состоят из попарно несравнимых объектов, и вся выборка распадается на две антицепи. Наименьшее значение достигается, когда выборка монотонна и линейно упорядочена. Тогда CCV 2/.

Комбинаторный множитель в (26) убывает с ростом m быстрее геометрической прогрессии. Чтобы обеспечить малое значение функционала CCV, достаточно потребовать, чтобы функция M(m, X) принимала малые значения при малых m. При больших m её рост компенсируется комбинаторным множителем. Таким образом, качество монотонного классификатора тем выше, чем меньше объектов имеют клинья небольшой мощности. Для этого отношение порядка на множестве объектов X должно быть близко к линейному вблизи границы классов.

Интересно отметить структурное сходство оценок (25) и (27), полученных для таких различных, на первый взгляд, априорных ограничений, как компактность и монотонность.

Публикации по теме диссертации [1] Воронцов К. В. Качество восстановления зависимостей по эмпирическим данным // Математические методы распознавания образов: 7-ая Всерос. конф. Тезисы докл. Пущино, 1995.

С. 24–26.

[2] Рудаков К. В., Воронцов К. В. О методах оптимизации и монотонной коррекции в алгебраическом подходе к проблеме распознавания // Доклады РАН. 1999. Т. 367, № 3.

С. 314–317.

[3] Воронцов К. В. Оптимизационные методы линейной и монотонной коррекции в алгебраическом подходе к проблеме распознавания // ЖВМ и МФ. 2000. Т. 40, № 1. С. 166–176.

[4] Воронцов К. В. Оценка качества монотонного решающего правила вне обучающей выборки // Интеллектуализация обработки информации: Тез. докл. Симферополь, 2002. С. 24–26.

[5] Воронцов К. В. О комбинаторном подходе к оценке качества обучения алгоритмов // Математические методы распознавания образов: 11-ая Всерос. конф. Тезисы докл. Пущино, 2003.

С. 47–49.

[6] Воронцов К. В. Комбинаторный подход к оценке качества обучаемых алгоритмов // Математические вопросы кибернетики / Под ред. О. Б. Лупанов. М.: Физматлит, 2004.

Т. 13. С. 5–36.

[7] Воронцов К. В. Комбинаторные обоснования обучаемых алгоритмов // ЖВМиМФ. 2004. Т. 44, № 11. С. 2099–2112.

[8] Воронцов К. В. Комбинаторные оценки качества обучения по прецедентам // Доклады РАН. 2004. Т. 394, № 2.

С. 175–178.

[9] Воронцов К. В. Обзор современных исследований по проблеме качества обучения алгоритмов // Таврический вестник информатики и математики. 2004. № 1. С. 5–24.

[10] Воронцов К. В. Комбинаторный подход к повышению качества логических классификаторов // Интеллектуализация обработки информации: Тезисы докл. Симферополь, 2004. С. 44.

[11] Кочедыков Д. А., Ивахненко А. А., Воронцов К. В. Система кредитного скоринга на основе логических алгоритмов классификации // Докл. всеросс. конф. Математические методы распознавания образов-12. М.: МАКС Пресс, 2005. С. 349–353.

[12] Воронцов К. В., Ивахненко А. А. Эмпирические оценки локальной функции роста в задачах поиска логических закономерностей // Искусственный Интеллект. 2006. С. 281–284.

[13] Воронцов К. В., Колосков А. О. Профили компактности и выделение опорных объектов в метрических алгоритмах классификации // Искусственный Интеллект. 2006. С. 30–33.

[14] Воронцов К. В. Слабая вероятностная аксиоматика и надёжность эмпирических предсказаний // Докл. всеросс. конф. Математические методы распознавания образов-13. М.: МАКС Пресс, 2007. С. 21–25.

[15] Ивахненко А. А., Воронцов К. В. Верхние оценки переобученности и профили разнообразия логических закономерностей // Докл. всеросс. конф. Математические методы распознавания образов-13. М.: МАКС Пресс, 2007. С. 33–37.

[16] Кочедыков Д. А., Ивахненко А. А., Воронцов К. В. Применение логических алгоритмов классификации в задачах кредитного скоринга и управления риском кредитного портфеля банка // Докл. всеросс. конф. Математические методы распознавания образов-13. М.: МАКС Пресс, 2007. С. 484–488.

[17] Венжега А. В., Ументаев С. А., Орлов А. А., Воронцов К. В.

Проблема переобучения при отборе признаков в линейной регрессии с фиксированными коэффициентами // Докл. всеросс. конф. Математические методы распознавания образов13. М.: МАКС Пресс, 2007. С. 90–93.

[18] Ульянов Ф. М., Воронцов К. В. Проблема переобучения функций близости при построении алгоритмов вычисления оценок // Докл. всеросс. конф. Математические методы распознавания образов-13. М.: МАКС Пресс, 2007. С. 105–108.

[19] Воронцов К. В., Инякин А. С., Лисица А. В. Система эмпирического измерения качества алгоритмов классификации // Докл. всеросс. конф. Математические методы распознавания образов-13. М.: МАКС Пресс, 2007. С. 577–580.

[20] Цюрмасто П. А., Воронцов К. В. Анализ сходства алгоритмов классификации в оценках обобщающей способности // Интеллектуализация обработки информации (ИОИ-2008): Тез. докл. Симферополь: КНЦ НАН Украины, 2008. С. 232–234.

[21] Vorontsov K. V. On the influence of similarity of classifiers on the probability of overfitting // Pattern Recognition and Image Analysis: new information technologies (PRIA-9). Vol. 2.

Nizhni Novgorod, Russian Federation, 2008. Pp. 303–306.

[22] Vorontsov K. V. Combinatorial probability and the tightness of generalization bounds // Pattern Recognition and Image Analysis. 2008. Vol. 18, no. 2. Pp. 243–259.

[23] Vorontsov K. V. Splitting and similarity phenomena in the sets of classifiers and their effect on the probability of overfitting // Pattern Recognition and Image Analysis. 2009. Vol. 19, no. 3. Pp. 412–420.

[24] Воронцов К. В. Точные оценки вероятности переобучения // Доклады РАН. 2009. Т. 429, № 1. С. 15–18.

[25] Воронцов К. В. Методы машинного обучения, основанные на индукции правил // Труды семинара Знания и онтологии ELSEWHERE 2009, ассоциированного с 17-й международной конференцией по понятийным структурам ICCS-17, Москва, 21–26 июля. Высшая школа экономики, 2009. С. 57–71.

[26] Воронцов К. В. Комбинаторный подход к проблеме переобучения // Докл. всеросс. конф. Математические методы распознавания образов-14. М.: МАКС Пресс, 2009. С. 18–21.

[27] Иванов М. Н., Воронцов К. В. Отбор эталонов, основанный на минимизации функционала полного скользящего контроля // Докл. всеросс. конф. Математические методы распознавания образов-14. М.: МАКС Пресс, 2009. С. 119–122.

[28] Воронцов К. В., Ивахненко А. А., Инякин А. С., Лисица А. В., Минаев П. Ю. Полигон распределённая система для эмпирического анализа задач и алгоритмов классификации // Докл.

всеросс. конф. Математические методы распознавания образов14. М.: МАКС Пресс, 2009. С. 503–506.






© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.