WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     | 1 | 2 ||


На втором этапе сеть начинает настройку на шум. Поскольку в реальных данных всегда содержится некоторый шум, сеть начинает настраиваться на этот шум, пытаясь минимизировать суммарную ошибку. Т. к. шум является уникальным на разных выборках, после такого обучения сеть показывает плохие результаты на неизвестной (не участвовавшей в обучении) выборке. Возникает т. н. “проблема переучивания”.

Решение этой проблемы состоит в своевременной остановке процесса обучения. Обучение должно остановиться в момент перехода с первого этапа на второй.

Для определения момента остановки применяется алгоритм перекрёстной проверки. Основная идея алгоритма состоит в разделении всей обучающей выборки на множество обучения, которое используется для настройки параметров сети и множество проверки, с помощью которого выбирается момент остановки обучения.

На каждом шаге обучения из множества N входных векторов произвольным образом выбирается k-й вектор (k=random(N)), который не участвует в процессе обучения, а играет роль “оценщика” качества работы сети. После того, как данный шаг обучения завершен, измеряется величина ошибки на k-ом векторе e и сравнивается с предыдущим значением ошибки k-ого вектора error[k] (каждому i-му вектору из N соответствует ошибка error, измеренная ранее для [i]i=k, или заведомо большая ошибка, в случае когда такое измерение ещё не успело произойти). Обучение останавливается в случае, когда e>error[k] с раз подряд. Параметр с определяется опытным путем.

Pages:     | 1 | 2 ||



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.