WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     | 1 || 3 |

При анализе СЭ-явлений особую актуальность представляет исследование ситуаций, характеризующихся большим количеством различных свойств, каждое из которых является существенным для характеристики данного явления. В такого рода ситуациях часто требуется сконцентрировать информацию, выражая большое число исходных косвенных признаков через меньшее число более емких внутренних характеристик явления. Более того, часто аналитик сталкивается с ситуациями, когда ему приходится сравнивать между собой или упорядочивать ряд сложных систем по некоторому не поддающемуся непосредственному измерению одному признаку. Речь может идти, в частности, о сравнении регионов по уровню или качеству жизни, предприятий отрасли – по эффективности их деятельности и т. д. При этом общее представление о степени проявления анализируемого латентного, не поддающегося непосредственному измерению свойства складывается как результат определенного суммирования целого ряда частных поддающихся измерению характеристик, от которых зависит в конечном счете это свойство. Таким образом, встает задача конструирования интегрального показателя (ИП). Принимая во внимание определение понятия Data Mining, задачу построения интегральных показателей можно отнести к задачам интеллектуального анализа данных.

Проведенный обзор систем, ориентированных на интеллектуальный анализ данных, показал, что в них отсутствуют алгоритмы конструирования ИП. Это связано, в первую очередь, с тем, что изначально системы Data Mining разрабатывались для решения бизнесзадач, поэтому в них отсутствуют некоторые инструменты анализа, специфичные для СЭ-исследований.

Существует несколько подходов к построению ИП. Один из них заключается в замене исходного набора показателей рангами (местами), которые занимают объекты, с последующим усреднением этих рангов. Недостатками рангового подхода являются лишь упорядочивание объектов и, как следствие, невозможность определения степени неравенства между объектами. Другой подход заключается в предварительном сведении показателей к одной размерности с последующим взвешенным суммированием. К недостаткам данного подхода можно отнести трудности с подбором весовых коэффициентов, а также то, что среди множества показателей, скорее всего, имеются коррелирующие между собой, которые будут вносить «лишний» вклад в ИП. Другие подходы основаны на сокращении пространства признаков путем экспертного отбора наиболее существенных признаков либо на основе анализа матрицы парных корреляций – в этом случае устраняются максимально коррелирующие между собой признаки.

Главным недостатком таких подходов является возможность существенного искажения содержательного смысла СЭ-модели из-за исключения из нее потенциально важных показателей.

Справиться с отмеченными недостатками позволяет следующий двухэтапный метод построения ИП. На первом этапе происходит сокращение размерности исходного пространства признаков. Для этих целей используется метод главных компонент (один из методов факторного анализа). Получаемый в результате применения этого метода сокращенный набор признаков (факторов) обладает тем важным свойством, что признаки внутри него независимы. На втором этапе сокращенный набор независимых признаков предлагается объединять в ИП, используя экспертно-статистический подход. Математический аппарат предлагаемого метода построения ИП следующий.

Пусть имеется n исходных признаков, описывающих некоторую СЭ-систему. Будем рассматривать эти признаки как случайные величины и запишем их в виде вектора Z = (Z1, Z2, …, Zn)T, где Zi – центрированная случайная величина, соответствующая i-му признаку.

Вычислим для вектора Z ковариационную матрицу = M[Z ZT]. Будучи симметричной и неотрицательно определенной, она имеет n вещественных неотрицательных собственных чисел 1, 2, …, n.

Предположим, что 1 > 2 > … > n.

Обозначим 1 0 L 0 2 L.

= L L O L 0 0 L n Пусть vj = (v1j, v2j, …, vnj)T – нормированные собственные векторы матрицы, соответствующие собственным числам j.

Введем матрицу V = (v1, v2, …, vn). Так как vj = j vj, то, p = j, j vTv = vTv = j p j j p 0, p j и VT V =.

Введем вектор F = VT Z. Его ковариационная матрица равна M[F FT] = M[VT Z ZT V] = VT M[Z ZT] V = VT V =.

Следовательно, компоненты вектора F = (F1, F2, …, Fn)T не коррелированы, и их можно рассматривать в качестве искомых независимых факторов. Для их вычисления используется формула n Fj = Zi, при этом дисперсия факторов равна D[Fj] = j.

i=1vij Для построения единого ИП берутся первые n' < n главных компонент с максимальными значениями, которыми исчерпывается не менее 55–70 % дисперсии исходных случайных величин. Поскольку главные компоненты независимы, для их объединения в ИП n' предлагается использовать линейную свертку: I = ci Fij, где j i=ci = (ei + di)/2 – весовые коэффициенты факторов; ei – экспертные оценки значимости факторов; di – оценки, вычисленные автоматически на основе анализа значений факторов. В качестве di предлагается использовать среднеквадратические отклонения факторов: di = D[Fi ] = i.

В случае если имеются достаточно надежные экспертные оценки важности факторов, то вместо обобщенных весов ci можно использовать только веса, полученные на основе экспертных оценок ei. Наоборот, если получение экспертных оценок затруднено, то для оценки важности факторов можно использовать только веса, отражающие разброс значений факторов di.

Таким образом, впервые предлагается новый алгоритм Data Mining – алгоритм конструирования ИП, схема которого приведена на рис. 1. Построение ИП как метод Data Mining имеет следующие преимущества: единый подход к проведению интеллектуального анализа данных наравне с другими методами Data Mining; интеграция в общий процесс KDD; оперативность построения ИП и др.

Рис. 1. Схема алгоритма построения интегрального показателя В третьей главе рассматривается автоматизированная система мониторинга СЭ-сферы региона (АСМ), а также предлагается методика проведения мониторинга с использованием данной системы.

Структура АСМ, представленная на рис. 2, проектировалась, исходя из задач, встающих перед пользователем, исследующим данные с использованием технологий KDD.

Подсистема интеллектуального анализа информации Microsoft SQL Server Сеть (клиентская часть) Analysis Services Многомерная (OLAP + Data Mining) база данных Выборка данных Интеллектуальный анализ данных Подсистема формиРеляционная рования МБД база данных Визуализация результатов Отображение данных на XML-файл Подсистема ввода географической карте описания и редактирования структуры данных Генерирование рекомендаций Подсистема очистки и Подсистема форформатирования мирования струкданных туры МБД Базы дан- Табличные ных данные Рис. 2. Структура автоматизированной системы мониторинга Система реализована в виде клиент-серверного приложения, позволяющего клиентам подключаться к серверу по протоколу TCP/IP.

В качестве сервера используется компонент Microsoft SQL Server 2005 Analysis Services. Основным преимуществом компонента Analysis Services является то, что он включает в себя две основные и дополняющие друг друга функциональные части – OLAP и Data Mining, которые являются основой для создания аналитических приложений, следующих технологиям KDD.

В соответствии с этапами процесса KDD была разработана методика проведения мониторинга СЭ-сферы региона. На первом этапе осуществляется анализ доступных источников информации и определяется совокупность данных (возможно, разрозненных или слабо структурированных), на основании которых будет проводиться мониторинг.

Затем осуществляется проектирование структуры многомерной базы данных (МБД) в соответствии с имеющимися источниками данных и целями мониторинга. Для этого предназначена подсистема формирования структуры МБД, позволяющая визуально создавать требуемую структуру многомерного куба. Результатом работы данной подсистемы является XML-файл, в котором хранится описание структуры МБД.

Учитывая специфику предметной области, целесообразно использовать МБД с тремя измерениями: «объекты», «признаки», «время».

При этом все измерения должны иметь иерархическую структуру, обусловленную иерархическим представлением СЭ-информации в тематическом плане, а также в пространственной и временной организации. Представление информации в виде такого куба позволяет аналитику исследовать различные аспекты СЭ-сферы региона: изменение значений признаков, описывающих один объект, во времени;

пространственные различия (различия множества объектов по набору признаков); изменение одного признака во времени и в пространстве (на множестве объектов и на множестве интервалов времени).

Следующим идет этап очистки данных. Необходимость этого этапа определяется тем, что лишь немногие источники данных обеспечивают удовлетворительный контроль информации. Данный этап особо актуален при использовании средств сканирования и распознавания изображений, которые применяются при вводе информации, имеющейся в печатном виде. В связи с этим была разработана подсистема очистки и форматирования данных, реализованная в виде приложения, взаимодействующего с Microsoft Excel, и предназначенная для устранения различных опечаток и неточностей в табличных данных.

Следующим этапом является занесение информации в хранилище данных. Для этого были разработаны подсистема ввода и редактирования данных, а также подсистема формирования МБД. Первая предназначена для занесения данных из различных источников в единую реляционную базу данных. Эта подсистема позволяет также редактировать данные, в частности, устранять дублирование объектов, имеющих разные названия. Данные можно как импортировать из уже существующих баз данных, так и заносить из таблиц Excel. Во втором случае в рассматриваемой подсистеме нужно выбрать два измерения, соответствующих строкам и столбцам заносимой таблицы (среза данных), а остальные измерения зафиксировать, придав им конкретные значения. Подсистема формирования МБД взаимодействует с Analysis Services и создает на сервере в соответствии с разработанной структурой МБД и на основе данных из реляционной базы данных многомерный куб.

Далее следует этап интеллектуального анализа данных. Данный этап можно разбить на три подэтапа:

• применение методов Data Mining;

• визуализация результатов Data Mining, в том числе отображение пространственных данных на электронных географических картах;

• интерпретация полученных результатов и генерирование рекомендаций для лица, принимающего решения.

Для выполнения этих действий предназначена подсистема интеллектуального анализа информации (клиентская часть), реализованная в виде приложения, работающего на платформе.NET и взаимодействующего с сервером Analysis Services посредством объектов ADOMD.NET и языка SQL с расширениями DMX (Data Mining eXtensions). Выборка нужного для анализа среза многомерного куба данных осуществляется с использованием компонента Microsoft Excel «сводная таблица». Сервер Analysis Services предоставляет клиентской части следующие алгоритмы Data Mining: деревья решений (decision trees), кластеризацию, простой байесовский алгоритм (naive bayes), ассоциативные правила, кластеризацию последовательностей (sequence clustering), алгоритм временных рядов, нейронные сети, линейную регрессию, логистическую регрессию, а также алгоритмы сторонних разработчиков (third-party plug-in algorithms).

Анализ региональных СЭ-данных рекомендуется начинать с алгоритма кластеризации, алгоритма ассоциативных правил или байесовского алгоритма. Если аналитик не уверен, какие показатели выбрать в качестве входных, рекомендуется выбрать все – большинство алгоритмов Data Mining автоматически отберет наиболее информативные переменные в плане их влияния на целевую переменную.

На основе результатов интеллектуального анализа данных клиентская подсистема генерирует рекомендации для лица, принимающего решения. Рекомендации строятся следующим образом: пользователь выбирает целевую переменную, задает ее целевое значение (минимум, максимум, среднее значение, конкретное значение или диапазон), и, основываясь на результатах алгоритмов Data Mining (кластеризации, байесовского алгоритма, ассоциативных правил), подсистема определяет значения, которые должны принимать остальные переменные, чтобы удовлетворить заданным условиям для целевой переменной. Например, при построении рекомендаций на основе кластерного анализа осуществляется поиск кластера, в котором значение целевого показателя наиболее близко к заданному значению. Затем анализируются значения других показателей, вошедших в данный кластер, и они выводятся в рекомендации в порядке убывания важности, которая определяется разбросом значений показателей среди кластеров.

Помимо генерирования рекомендаций, подсистема интеллектуального анализа информации позволяет строить интегральные показатели, а также отображать входные и выходные данные на электронных географических картах.

В четвертой главе рассматриваются вопросы, посвященные практическим аспектам применения разработанной системы. Приводятся результаты анализа показателей СЭ-развития регионов РФ, а также данных образовательной статистики по Пензенской и Тамбовской областям с использованием методов Data Mining. В частности, исследуются на практике такие методы интеллектуального анализа, как кластеризация, деревья решений, ассоциативные правила, байесовский алгоритм, нейронные сети и др.

С помощью алгоритма кластеризации проведено автоматическое разбиение вузов РФ по показателям формы 3-НК «Сведения о государственном и муниципальном высшем учебном заведении». Алгоритм выделил три кластера и определил, какие значения показателей характерны для каждого кластера. Значения некоторых показателей представлены в табл. 1, где жирным шрифтом отмечены максимальные значения, курсивом – минимальные.

Pages:     | 1 || 3 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.