WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!


САНКТ-ПЕТЕРБУРГСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ

На правах рукописи

ТУЛУПЬЕВ Александр Львович АЛГЕБРАИЧЕСКИЕ БАЙЕСОВСКИЕ СЕТИ:

ЛОГИКО-ВЕРОЯТНОСТНАЯ ГРАФИЧЕСКАЯ МОДЕЛЬ БАЗ ФРАГМЕНТОВ ЗНАНИЙ С НЕОПРЕДЕЛЕННОСТЬЮ 05.13.17 Теоретические основы информатики А В Т О Р Е Ф Е Р А Т диссертации на соискание ученой степени доктора физико-математических наук

Санкт-Петербург 2009

Работа выполнена в лаборатории прикладной информатики Учреждения Российской академии наук Санкт-Петербургский институт информатики и автоматизации РАН.

Официальные оппоненты: доктор физико-математических наук, профессор БАРАНОВ Сергей Николаевич (ЗАО Моторола ЗАО ), доктор физико-математических наук, профессор ХОВАНОВ Николай Васильевич (Санкт-Петербургский государственный университет), доктор физико-математических наук, профессор ЯЗЕНИН Александр Васильевич (Тверской государственный университет) Ведущая организация Учреждение Российской академии наук Институт системного анализа РАН

Защита состоится 2009 г. в часов на заседании совета Д 212.232.51 по защите докторских и кандидатских диссертаций при Санкт-Петербургском государственном университете по адресу: 198504, Санкт-Петербург, Старый Петергоф, Университетский пр., 28, математико-механический факультет.

С диссертацией можно ознакомиться в Научной библиотеке им. М. Горького Санкт-Петербургского государственного университета по адресу:

199034, Санкт-Петербург, Университетская наб., 7/9.

Автореферат разослан 2009 г.

Ученый секретарь диссертационного совета Даугавет И.К.

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы. Подводя итоги одного из этапов многолетнего изучения моделей знаний с неопределенностью, В.И. Городецкий в 1993 г. ввел в область исследований искусственного интеллекта (ИИ) алгебраические байесовские сети (АБС) как новую парадигму экспертных систем [1].

Источником особого научного интереса к указанным моделям послужил анализ проблем, существенно замедляющих прогресс в области масштабных промышленных внедрений экспертных систем. Были выявлены, в частности, два вида дефицита: дефицит математических моделей для представления знаний с неопределенностью (uncertain knowledge representation bottleneck) и просто дефицит знаний (knowledge bottleneck) [10, 20]. Интенсивно развивающиеся в рамках ИИ теории вероятностных графических моделей (ВГМ) вносят существенный вклад в поиск и разработку путей преодоления дефицита двух указанных видов, а также ряда смежных проблем.

Теории ВГМ [1, 3, 6–11, 14, 15] предлагают как новые модели для представления систем знаний с неопределенностью, т.е. позволяют смягчить влияние дефицита первого вида, так и новые подходы к алгоритмизации машинного обучения (machine learning, синоним автоматическое обучение) таких моделей на основе накопления и обработки разнородных исходных данных, сведений или знаний с неопределенностью (в частности, отличающихся неполнотой, неточностью или имеющих нечисловой характер). Машинное обучение позволяет обойти ряд препятствий, создаваемых дефицитом второго вида. Помимо этого, в теориях ВГМ с помощью методов математики и информатики исследуются предложенные модели данных и знаний с неопределенностью, принципы создания и функционирования программных средств, позволяющих представить эти модели в памяти компьютера, а также автоматизировать процессы их формирования, хранения, обработки и обучения.

К ВГМ, нацеленным в первую очередь на решение очерченных и ряда смежных проблем, в рамках искусственного интеллекта можно причислить байесовские сети доверия (их ввел J. Pearl) [3, 7, 10, 11, 15, 18–20], в некоторой степени марковские сети (были импортированы из статистической физики, где классическим примером их применения является модель Изинга в изучении магнетизма) [8,19], а также алгебраические байесовские сети (введены В. И. Городецким) [1]). Следует отметить, что в теории байесовских сетей доверия (БСД) остаются открытыми вопросы, связанные с обработкой направленных циклов и интервальных оценок вероятностей; кроме того, вероятностный вывод не может осуществляться непосредственно в БСД с многосвязной структурой такую сеть требуется предварительно преобразовать в дерево сочленений.

Теория алгебраических байесовских сетей занимает свое место среди теорий ВГМ и решает общие с ними задачи, а сами алгебраические байесовские сети имеют ряд отличительных особенностей и в первую очередь могут быть охарактеризованы как логико-вероятностные графические модели (ЛВГМ) баз фрагментов знаний (БФЗ) с неопределенностью [17, 18, 20, 26].

Термин вероятностные графические модели является переводом англоязычного probabilistic graphical models. Нельзя не признать, что в русском языке термин графическая модель воспринимается, скорее, как визуальная модель, например как чертеж, схема или эскиз. В силу этого подчеркнем, что в настоящем диссертационном исследовании термин графические модели обозначает математические модели, основу которых составляют графы.

– 3 – Ключевой принцип, лежащий в основе ВГМ, хорошо известен это принцип декомпозиции. Он применяется к совокупности знаний о предметной области.

Считается, что эксперт может достаточно детально охарактеризовать связи между двумя–тремя–четырьмя утверждениями о предметной области [15] в какомто смысле получается фрагмент знаний (ФЗ). Таких фрагментов знаний много, они образуют БФЗ. Однако фрагменты знаний и их базы нельзя напрямую заложить в интеллектуальную информационную систему или комплекс программ.

Сначала требуется рассмотреть математические модели ФЗ и БФЗ, разработать соответствующие структуры данных и снабдить их алгоритмами обработки. Получающиеся модели должны обладать некоторой регулярностью структуры, общностью принципов построения своих элементов, чтобы можно было использовать одни и те же алгоритмы вывода как на локальном уровне (т.е. на уровне фрагментов знаний), так и на глобальном (т.е. на уровне всей базы).

С математической точки зрения возникающие объекты могут быть рассмотрены как система случайных элементов, которая, как правило, организована в виде графа со специфическими свойствами или решетки (отсюда графическая модель). Случайные элементы в системе могут быть связаны друг с другом, оказывать влияние на означивания других случайных элементов; однако связи между ее компонентами предполагаются достаточно редкими, немногочисленными, разреженными (sparse) [3, 7, 15].

Декомпозиция системы знаний дает преимущества и на психологическом (экспертном или пользовательском) уровне, поскольку получающаяся математическая модель структурирована и обозрима, и на технологическом, поскольку уменьшаются необходимые для хранения модели объемы памяти и вычислительная сложность алгоритмов ее обработки как на локальном, так и на глобальном уровне.

Структурированность и обозримость ВГМ также видятся ее преимуществами при представлении сложных связей, выявленных классическим статистическим анализом или интеллектуальным анализом данных (data mining) [10, 11, 20].

Особый интерес с точки зрения моделирования процесса размышлений (reasoning) [6,9,14] специалиста-эксперта представляет логико-вероятностный подход, в котором моделью утверждения являются пропозициональные формулы (заданные над определенным алфавитом), что традиционно для формальной логики, а степень уверенности в истинности (или стохастическая неопределенность истинности) этих пропозициональных формул и сила связей между ними характеризуются с помощью оценок вероятностей: как скалярных (точечных), так и интервальных.

В своем современном виде логико-вероятностный подход был достаточно последовательным образом внесен в область исследований искусственного интеллекта Н. Нильссоном [12] и развит Фейгиным, Хальперном и Меггидо [4,5]. Приоритет Н. Нильссона, как он сам отмечает [13], был неоднократно оспорен. Анализируя позиции сторон спора о приоритетах, нельзя упускать из виду того, что еще в 1854 г. Дж. Буль [2] пытался применить вероятность как меру истинности (или как степень доверия к истинности) пропозициональных формул. Он сформулировал ряд проблем, которыми занимаются исследователи в области вероятностной логики и неопределенности в искусственном интеллекте по сей день.

Хотя логико-вероятностный подход имеет длительную историю, остается актуальным решение комплекса проблем, нацеленных на его применение в интеллектуальных информационных системах: сначала требуется разработать в рамках указанного подхода математические модели (допускающие интервальные оценки вероятности истинности) БФЗ с неопределенностью с тем, чтобы по ним, в свою очередь, можно было бы построить структуры данных для представления накопленных знаний; затем автоматизировать ряд операций логико-вероятностного вы– 4 – вода: проверка и поддержание непротиворечивости ФЗ и БФЗ, априорный вывод во фрагменте знаний, апостериорный вывод (распространение влияние свидетельства) в ФЗ и БФЗ; наконец, исследовать сформированные модели и структуры данных, а также обосновать корректность и изучить некоторые свойства как разработанных методов формирования непротиворечивых ФЗ и БФЗ, вывода априорных и апостериорных оценок в них, так и получаемых с помощью указанных методов результатов.

Объект исследования алгебраические байесовские сети, представляющие собой, с одной стороны, набор идеалов конъюнктов со скалярными или интервальными оценками вероятности истинности, причем указанный набор идеалов структурирован как граф смежности, а с другой стороны, логико-вероятностную графическую модель баз фрагментов знаний со стохастической (вероятностной) неопределенностью.

Цель исследования на основе логико-вероятностного подхода к представлению неопределенности в интеллектуальных системах, предложенного Н. Нильссоном, развить теорию алгебраических байесовских сетей как математических моделей знаний с вероятностной неопределенностью, допускающих декомпозицию на фрагменты ограниченного размера, для формирования научных основ современных информационных технологий, позволяющих решить проблему автоматизации логико-вероятностного вывода в указанных сетях. Для достижения указанной цели необходимо решить следующие основные задачи:

1) формализовать с использованием логико-вероятностного подхода в рамках теории АБС математические модели фрагмента знаний, базы фрагментов знаний и свидетельства, а также выявить вероятностную семантику этих объектов посредством анализа взаимосвязи входящих в них оценок вероятностей конъюнктов и дискретной плотности вероятности на соответствующем конечном вероятностном пространстве;

2) сформировать систему понятий, характеризующих состояние непротиворечивости фрагмента знаний и АБС; раскрыть отношения этих состояний; разработать методы их проверки и поддержания как в локальном, так и в глобальном случае (для интернальной и глобальной степеней непротиворечивости АБС), а также проанализировать влияние операций построения линейной комбинации и линейной оболочки на указанные состояния непротиворечивости;

3) формализовать локальный априорный вывод, проанализировать его взаимосвязь с поддержанием непротиворечивости, разработать метод локального априорного вывода в случае формулы, представленной в виде совершенной дизъюнктивной нормальной формы (СДНФ), и метод анализа чувствительности его результата к допустимым вариациям исходных данных в случае скалярных оценок;

4) формализовать апостериорный вывод; разработать метод реализации его локального варианта в случае детерминированного свидетельства и обобщить полученный результат для двух других видов свидетельств; исследовать чувствительность ненормированного результата локального апостериорного вывода по детерминированному свидетельству в случае скалярных оценок; исследовать результаты локального апостериорного вывода с точки зрения их непротиворечивости при непротиворечивых исходных объектах; разработать метод распространения влияния стохастического свидетельства в ациклической АБС со скалярными оценками на основе передачи виртуальных свидетельств; выявить предположения о вероятностной семантике такой АБС, на которые опирается указанный метод, оценить сложность алгоритмов, его реализующих;

5) разработать метод преобразования ациклической байесовской сети доверия со случайными бинарными элементами в узлах в ациклическую алгебраическую байесовскую сеть; выявить отношение их вероятностных семантик;

– 5 – 6) проанализировать вероятностную семантику цикла смежности фрагментов знаний в АБС, разработать методы его преобразования в цепь смежности и проверки его непротиворечивости; с помощью полученных результатов выявить вероятностную семантику направленного цикла в теории БСД (БСД-цикла) и разработать для такого цикла метод проверки его непротиворечивости;

7) формализовать две альтернативные математические модели фрагментов знаний (на основе идеала дизъюнктов и набора квантов), разработать метод проверки и поддержания их непротиворечивости;

8) спроектировать и реализовать комплекс программ для проведения вычислительных экспериментов с исследованными в диссертации операциями логико-вероятностного вывода в АБС и их фрагментах, а также разработать структуру реляционной базы данных, ориентированную на хранение АБС, фрагментов знаний, свидетельств и результатов логико-вероятностного вывода.

Выбор вероятностной семантики исследуемых в диссертационной работе объектов теории АБС, определений и методов выполнения операций логико-вероятностного вывода, получения оценок чувствительности ограничивается дополнительным требованием, выражающимся в том, чтобы все возникающие в процессе логико-вероятностного вывода экстремальные задачи допускали свед к решеение нию задачи (или серии задач) линейного программирования.

Методы исследования. В обзорно-аналитической и теоретической частях исследования используются объекты и методы алгебры (линейной алгебры, теории частично упорядоченных множеств, булевой алгебры), теории вероятностей и вероятностной логики, теории графов, экстремальных задач (задачи линейного и гиперболического программирования), комбинаторики, мягких вычислений (преимущественно различные меры истинности), а также элементы теории марковских цепей и метода Монте-Карло. В программно-технологической части исследования используются теория реляционных баз данных, принципы структурного и объектно-ориентированного программирования (как в разработке структур данных, так и в реализации кода), а также ряд технологий, связанных с языком реализации (Java), средой разработки (NetBeans), СУБД (JavaDB). Само диссертационное исследование по своему объекту и методам, использованным для решения ряда задач по построению моделей и обработке знаний с вероятностной неопределенностью, относится к разделу искусственного интеллекта, изучающему и развивающему средства представления знаний.

Научная новизна. В диссертации формализована и исследована новая логиковероятностная графическая модель баз фрагментов знаний с неопределенностью алгебраические байесовские сети, чья глобальная структура задается в виде графа смежности (или его подвидов: дерева смежности, цепи смежности, цикла смежности), в узлах которого расположены идеалы конъюнктов со скалярными или интервальными оценками вероятности истинности, что отличает указанную модель от других вероятностных графических моделей (в частности, от байесовских сетей доверия и марковских сетей) и позволяет с ее помощью представлять, агрегировать и обрабатывать знания с неопределенностью посредством ряда операций логико-вероятностного вывода: поддержания и проверки непротиворечивости, априорного вывода, апостериорного вывода, причем в последнем допускается использование как детерминированных свидетельств, так и стохастических и неточных свидетельств, компоненты которых могут быть зависимыми.

Осуществлен вывод матрично-векторных уравнений, связывающих оценки вероятностей элементов идеала конъюнктов с дискретной плотностью вероятности соответствующего конечного вероятностного пространства, что позволило, в свою очередь, разработать и описать на матрично-векторном языке методы проверки и поддержания непротиворечивости фрагмента знаний АБС, априорного и – 6 – апостериорного выводов в нем и исследовать чувствительность результатов двух последних, а также обобщить указанный метод проверки и поддержания непротиворечивости на фрагменты знаний с альтернативной структурой.

Разработаны методы глобального логико-вероятностного вывода в АБС, позволяющие проверять и поддерживать интернальную и глобальную степени непротиворечивости АБС (причем указаны условия, при которых интернальная степень непротиворечивости обеспечивает глобальную степень непротиворечивости), а также позволяющие распространить влияние стохастического свидетельства, поступившего во фрагмент знаний ациклической алгебраической байесовской сети со скалярными оценками, на другие входящие в нее ФЗ; получены оценки вычислительной сложности соответствующих алгоритмов.

Обнаружено и формально обосновано свойство сохранения состояния непротиворечивости фрагментов знаний и степеней непротиворечивости алгебраических байесовских сетей по отношению к операциям линейной комбинации и линейной оболочки. Кроме того, доказано, что линейная оболочка будет единственным минимальным (по вхождению оценок-интервалов) результатом операции накрывающей непротиворечивости, примененной к совокупности непротиворечивых фрагментов знаний (или отвечающих требованиям заданной степени непротиворечивости алгебраических байесовских сетей) одинаковой структуры.

Выявлена вероятностная семантика и предложен метод преобразования направленного цикла байесовской сети доверия в цикл смежности и цепь смежности фрагментов знаний АБС, что, в свою очередь, позволило разработать метод проверки непротиворечивости исходного цикла; получены оценки вычислительной сложности соответствующих алгоритмов. Разработан метод преобразования ациклической байесовской сети доверия с бинарными случайной элементами в узлах в ациклическую алгебраическую байесовскую сеть.

На языке Java и с использованием java-технологий спроектирован и реализован комплекс программ, позволяющий выполнять исследованные в диссертации операции логико-вероятностного вывода с АБС, их фрагментами и свидетельствами с целью проведения вычислительных экспериментов; кроме того, на основе реляционной СУБД JavaDB реализована база данных, ориентированная на хранение указанных объектов и результатов логико-вероятностного вывода.

Все основные научные результаты, полученные в процессе диссертационного исследования и выносимые на защиту, являются новыми.

Диссертационное исследование выполнялось согласно планам СПИИРАН по научному направлению Теоретические основы построения информационных технологий для интеллектуальных систем автоматизации научных исследований, управления, производства и других сфер деятельности.

Апробация.Результаты диссертационного исследования докладывались и обсуждались на следующих научных мероприятиях:

1) Международная конференция Знания–Диалог–Решение-95, Ялта, 1995; 2) IV Санкт-Петербургская международная конференция Региональная информатика-95, Санкт-Петербург, 1995; 3) Всероссийская научно-техническая конференция Электроника и информатика, Москва, 1995; 4) Международная конференция Эволюция инфосферы-95, Москва, 1995; 5) Шестая национальная конференция по искусственному интеллекту с международным участием КИИ’98, Пущино, 1998; 6) VII Санкт-Петербургская международная конференция Региональная информатика-2000 (РИ-2000), Санкт-Петербург, 2000; 7) Международный научно-практический семинар Интегрированные модели и мягкие вычисления в искусственном интеллекте, Коломна, 2001; 8) Всероссийская научно-практическая конференция Информатика и информационные технологии в образовании, Санкт-Петербург, 2001; 9) XI Межгосударственная школасеминар Синтез и сложность управляющих систем, Москва, 2001; 10) Международный банковский конгресс и Международная научно-практическая конференция, СанктПетербург, 2001; 11) Международная научная школа Моделирование и анализ безопас– 7 – ности и риска в сложных системах, Санкт-Петербург, 2002; 12) Всероссийская научнопрактическая конференция Информатика и информационные технологии в образовании, Санкт-Петербург, 2002; 13) Научная сессия МИФИ-2002, Москва, 2002; 14) VIII Санкт-Петербургская международная конференция Региональная информатика2002, Санкт-Петербург, 2002; 15) IX Санкт-Петербургская международная конференция Региональная информатика-2004, Санкт-Петербург, 2004; 16) Научная сессия МИФИ-2005, Москва, 2005; 17) III Международный научно-практический семинар Интегрированные модели и мягкие вычисления в искусственном интеллекте, Пущино, 2005; 18) Mexican International Conference on Artificial Intelligence, Mexico, 2005; 19) Конференция Мягкие вычисления и измерения, Санкт-Петербург, 2005; 20) Всероссийская научная конференция по нечетким системам и мягким вычислениям, Тверь, 2006; 21) Научная сессия МИФИ-2006, Москва, 2006; 22) X Санкт-Петербургская международная конференция Региональная информатика – 2006, Санкт-Петербург, 2006;

23) Научная конференция МИФИ-2007, Москва, 2007; 24) Международная конференция по мягким вычислениям и измерениям – 2007; Санкт-Петербург, 2007; 25) IV Международная научно-практическая конференция Интегрированные модели и мягкие вычисления в искусственном интеллекте, Коломна, 2007; 26) V Санкт-Петербургская межрегиональная конференция Информационная безопасность регионов России, СанктПетербург, 2007; 27) Научная сессия МИФИ-2008, Москва, 2008; 28) Научная конференция Информационные технологии и системы-2008, Геленджик, 29 сентября – октября, 2008 г.; 29) Вторая Всероссийская научной конференции с международным участием Нечеткие системы и мягкие вычисления (НСМВ-2008), г. Ульяновск, 27– 29 октября 2008 г.; 30) XI Санкт-Петербургская международная конференция Региональная информатика – 2008, Санкт-Петербург, 2008; 31) Научная сессия МИФИ-2009, Москва, 2009; 32) Научно-практическая конференция студентов, аспирантов, молодых ученых и специалистов Интегрированные модели, мягкие вычисления, вероятностные системы и комплексы программ в искусственном интеллекте (ИММВИИ-2009), Коломна, 26–27 мая 2009 г.; 33) V Международная научно-практическая конференция Интегрированные модели и мягкие вычисления в искусственном интеллекте, Коломна, 28–30 мая 2009 г.; 34) Международная конференция по мягким вычислениям и измерениям SCM-2009, Санкт-Петербург, 25–27 июня 2009 г.; 35) Санкт-Петербургский городской научный семинар Информатика и компьютерные технологии (многократно в 1996–2001 и 2004–2009 гг.).

Достоверность полученных в диссертационном исследовании результатов обоснована корректностью применения методов соответствующих математических дисциплин. Дополнительным аргументом в пользу достоверности результатов диссертационного исследования является работоспособность комплекса программ, реализующего операции логико-вероятностного вывода в алгебраических байесовских сетях и их фрагментах.

Теоретическая и практическая значимость исследования.

Реализация результатов работы. Диссертация носит преимущественно теоретический характер. Модели и методы, разработанные в ней, позволят спроектировать и реализовать средства представления знаний со стохастической (вероятностной) неопределенностью в интеллектуальных системах и комплексах программ. При этом реализация таких комплексов облегчается тем, что они могут использовать уже существующие программные технологии и библиотеки программ (в частности, библиотеки для решения задач линейного программирования). В процессе исследования для проведения численных экспериментов был разработан комплекс программ, позволяющий представить и обработать объекты, а также выполнить операции логико-вероятностного вывода, описанные в диссертации.

(Компоненты комплекса зарегистрированы; копии регистрационных документов помещены в приложение к диссертации.) Второй составляющей теоретической и практической значимости является возможность исследовать на непротиворечивость и обработать структуры, недопустимые в рамках теории байесовских сетей доверия, но возникающие на практике (направленные циклы). С теоретической точки зрения важен результат о невозможности построения исчисления байесовских сетей доверия, одновременно – 8 – допускающего обработку направленных циклов и сохраняющего традиционную вероятностную семантику байесовских сетей доверия (единственность глобального распределения и согласованность с ним тензоров условных вероятностей в узлах сети).

Третьей составляющей практической значимости полученных теоретических результатов является возможность их применения в альтернативном способе расчетов надежности фрагментов структурно-сложных систем или для оценки надежности таких фрагментов в случае интервальных исходных данных и в случае недоопределенных, но реально существующих или потенциально возможных зависимостей между выходами из строя элементов, ранее полагавшихся независимыми. (Имеется акт о внедрении от ОАО СПИК СЗМА; копия акта помещена в приложение к диссертации.) Четвертой составляющей практической значимости является возможность применения теории алгебраических байесовских сетей и разработанного комплекса программ в решении задач поддержки принятия решений, в частности для представления и обработки неточной, неполной, нечисловой информации о соотношении вероятностей истинности утверждений, на основе которых принимаются решения, и для комбинирования или агрегирования такой информации из источников, степени доверия к которым могут различаться или быть неизвестными.

Наконец, важной составляющей практической значимости является использование теории алгебраических байесовских сетей в преподавании дисциплин, посвященных научным основам современных информационных технологий и подходам к разработке интеллектуальных систем, в вузах, где осуществляется подготовка студентов и аспирантов соответствующих специальностей. (Имеются акты об использовании в учебном процессе от СПбГУ и от СПбГУ ИТМО; копии актов помещены в приложение к диссертации.) Дополнительным свидетельством реализации результатов диссертационного исследования, а также аргументом в пользу его научной значимости и актуальности служит поддержка, полученная соискателем в форме стипендий и грантов.

Исследования по теме диссертации были дважды поддержаны Государственной стипендией для талантливых молодых ученых (1998–2000, 2000–2002), четырежды грантом Фонда содействия отечественной науке по программе Молодые кандидаты и доктора наук. Выдающиеся учёные РАН (2004, 2005, 2006, 2007), грантом РФФИ (09-01-00861-а Методология построения интеллектуальных систем поддержки принятия решений на основе баз фрагментов знаний с вероятностной неопределенностью ) и, наконец, госконтрактом 02.442.11.72от 28.02.2006 на выполнение НИР Направленные циклы в байесовских сетях доверия: вероятностная семантика и алгоритмы логико-вероятностного вывода для программных комплексов с байесовской интеллектуальной компонентой в рамках ФЦНТП Исследования и разработки по приоритетным направлениям развития науки и техники на 2002–2006 годы.

Издание монографии [18] соискателя Байесовские сети: логико-вероятностный подход (СПб.: Наука, 2006; в соавт. с С. И. Николенко и А. В. Сироткиным) было поддержано грантом РФФИ № 06-01-14108-д, а в 2007 г. ее авторский коллектив стал лауреатом конкурса на лучшую научную книгу 2006 года (Фонд развития отечественного образования, г. Сочи).

Публикации. По теме диссертации опубликовано 88 научных работ, из них 5 монографий (3 единоличные и 2 в соавторстве), прошедших научное рецензирование, 10 статей в изданиях из Перечня ведущих рецензируемых научных журналов и изданий, 64 научные статьи и доклада на конференциях, 9 зарегистрированных программ для ЭВМ. Сверх указанного по теме диссертации было – 9 – опубликовано 2 учебных пособия, также прошедших научное рецензирование, и ряд тезисов научных докладов.

Личный вклад А.Л. Тулупьева в публикациях с соавторами характеризуется следующим образом.

В совместных публикациях с В.И. Городецким, в том числе в [21], А.Л. Тулупьеву принадлежит анализ свойств обсуждаемых в статьях объектов (преимущественно алгебраических байесовских сетей, их фрагментов, а также непротиворечивости этих объектов), а В.И. Городецкому содержательная постановка задач, примеры и указание возможных приложений обсуждаемых формализмов и объектов для решения задач искусственного интеллекта в области инженерии знаний.

В монографиях [18, 20] А.Л. Тулупьеву принадлежат все результаты, характеризующие вероятностную семантику алгебраических байесовских сетей и их фрагментов, уравнения и методы локального и глобального логико-вероятностного вывода в алгебраических байесовских сетях, результаты о линейной комбинации и линейной оболочке алгебраических байесовских сетей и их фрагментов знаний, формализация операции накрывающей непротиворечивости, результаты о накрывающей непротиворечивости в части, относящейся к совокупности непротиворечивых объектов, анализ вероятностной семантики циклов в алгебраических байесовских сетях и байесовских сетях доверия, методы преобразований и обработки этих циклов, определения и анализ свойств степеней непротиворечивости АБС, алгоритмы проверки и поддержания интернальной и глобальной степени непротиворечивости этих сетей, результат о невозможности обработать направленный цикл в байесовской сети с традиционной вероятностной семантикой, обобщения алгебраических байесовских сетей на другие формализмы, позволяющие приписывать пропозициональным формулам оценки истинности, подход к анализу чувствительности локальных априорного и апостериорного выводов (в том числе посредством исследования соответствующих матрично-векторных уравнений), формализация задач, проектирование программ и реализация структур данных в них, определение различных видов свидетельств, анализ их вероятностной семантики, алгоритмы их обработки и распространения в АБС, анализ и алгоритм преобразования ациклической байесовской сети доверия в алгебраическую байесовскую сеть, исследование взаимосвязи априорного вывода и поддержания непротиворечивости, определение, анализ вероятностной семантики расширенного фрагмента знаний и фрагментов знаний с альтернативной структурой, матрично-векторные уравнения и алгоритмы проверки и поддержания их непротиворечивости и априорного вывода в таких фрагментах знаний, а также диссертантом предложены уравнения и алгоритмы для локального машинного обучения алгебраических байесовских сетей, алгоритм восстановления вторичной структуры алгебраической байесовской сети по ее первичной структуре. На основе полученных А.Л. Тулупьевым результатов А.В. Сироткин выявил структуру матрицы, участвующей в матрично-векторном уравнении локального апостериорного вывода, привел теоретические оценки устойчивости поддержания непротиворечивости, реализовал часть программного кода, привел дискриминантпример, разделяющий интернальную и экстернальную степени непротиворечивости алгебраических байесовских сетей, разработал алгоритм построения алгебраической байесовской сети, являющейся семантически эквивалентным образом байесовской сети доверия с допустимыми (ненаправленными) циклами, разработал алгоритм поддержания экстернальной непротиворечивости ациклической алгебраической байесовской сети, уточнил формализацию объемлющей непротиворечивости и исследовал ее в случае противоречивых исходных данных. С.И. Николенко сосредоточился на работе с байесовскими сетями доверия в аспектах, не входящих в объект диссертационных исследований А.Л. Тулупьева и А.В. Сироткина. Такое же соотношение тематики результатов и вкладов (в их релевантной каждой конкретной работе части) сохранялось во всех совместных публикациях c А.В. Сироткиным и С.И. Николенко, в частности, в [23–26], а также в совместных работах с другими соавторами. Более подробная характеристика личного вклада А.Л. Тулупьева содержится в тексте диссертации.

Структура и объем работы. Диссертация состоит из введения, 7 глав, заключения, перечня сокращений, библиографии, списка таблиц, иллюстраций и примеров, а также предметного указателя и приложений. Общий объем работы составляет 670 страниц. Библиография содержит более 450 наименований. В приложения вынесены часть примеров, копии регистрационных документов и актов о внедрении (использовании), а также иной материал, являющийся справочным, иллюстративным или дополняющим основной.

– 10 – КРАТКОЕ СОДЕРЖАНИЕ ДИССЕРТАЦИИ В автореферате воспроизводяся лишь ключевые объекты (определения, обозначения, теоремы, предложения, формулы и проч.), их нумерация самостоятельная и может не совпадать с таковой в диссертации.

Во введении дается общая характеристика работы: обосновывается актуальность темы диссертации; указывается объект, а также формулируются цель и основные задачи исследования; приводятся его методы; характеризуются научная новизна полученных результатов, их апробация, теоретическая и практическая значимость исследования; сообщаются сведения о реализации результатов работы, основных публикациях, структуре и объеме диссертации.

Глава 1 Модели знаний и системы с неопределенностью в ИИ посвящена обзору и анализу широкого контекста исследований, связанных с представлением знаний с неопределенностью в интеллектуальных системах. Сначала рассматриваются классические экспертные системы (MYCIN, PROSPECTOR, INFERNO), затем различные меры неопределенности истинности (степени доверия к истинности) утверждений (вероятностная мера истинности, нечеткие меры истинности, меры доверия и правдоподобия, меры необходимости и возможности), исчисление инциденций, и, наконец, формируется система аргументов в пользу необходимости обработки не только скалярных (точечных), но и интервальных оценок степеней доверия. Среди степеней доверия преимущество отдается вероятностной мере истинности. Приводятся примеры различных математических моделей баз фрагментов знаний с неопределенностью, среди них байесовские и марковские сети.

Результаты предпринятого анализа обосновывают цель, задачи и выбор основного объекта исследования алгебраических байесовских сетей, которые обладают как общими преимуществами вероятностных графических моделей для представления знаний с неопределенностью, допускающих декомпозицию, так и рядом отличительных особенностей: 1) АБС основываются на логико-вероятностном подходе, позволяющем сочетать преимущества формальной логики для представления знаний в виде системы пропозициональных формул и теории вероятности для характеристики неопределенности их истинности; 2) в них четко различаются три основные набора операций (проверка и поддержание непротиворечивости, априорный вывод, апостериорный вывод) логико-вероятностного вывода; 3) АБС позволяют моделировать свидетельство с зависимыми компонентами; 4) в них можно использовать как скалярные, так и интервальные оценки вероятности истинности. Кроме того, сведения, накопленные в байесовской сети доверия (БСД), можно представить в АБС, а также с помощью АБС объяснить [19,20,30], почему до сих пор не разработано БСД-исчисление, позволяющее обрабатывать байесовские сети доверия с направленными циклами [7, 15].

Глава 2 Байесовские сети доверия вводит указанные сети как ациклический направленный граф с тензорами условных вероятностей в узлах (рис. 1).

За счет требования d-разделимости (определение в главе приводится) байесовской сети доверия с корректной структурой сопоставляется единственное совместное (глобальное) распределение вероятностей, определенное на всех возможных означиваниях совокупности всех ее узлов, согласованное с условными и совместными (локальными) распределениями вероятностей в указанных узлах.

В БСД связь глобального распределения с локальными выражается в виде цепного правила:

p x = p(x|pa(x)), (1) xA xA – 11 – многосвязная цепь полидерево дерево структура Допустимые структуры БСД (без направленных циклов) x0 x0 x1 x0 x1 xy y y _ _ _ _ _ _ p(y|x0) p(y|x0) p(y|x0x1) p(y|x0x1) p(y|x0x1x2) p(y|x0x1x2) p(y|x0x1x2) p(y|x0x1x2) Недопустимые _ _ _ _ _ _ _ _ _ _ _ _ _ _ p(y|x0) p(y|x0) p(y|x0x1) p(y|x0x1) p(y|x0x1x2) p(y|x0x1x2) p(y|x0x1x2) p(y|x0x1x2) структуры БСД _ _ _ _ _ _ _ _ _ _ _ p(y|x0x1) p(y|x0x1) p(y|x0x1x2) p(y|x0x1x2) p(y|x0x1x2) p(y|x0x1x2) p(y) (с направленными _ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _ y p(y|x0x1) p(y|x0x1) p(y|x0x1x2) p(y|x0x1x2) p(y|x0x1x2) p(y|x0x1x2) p(y) циклами) Условные и маргинальные вероятности в узлах БСД Рис. 1. Байесовские сети доверия.

в котором A атомарные пропозициональные формулы (атомы), стоящие в узлах БСД, литерал x {x, x}, pa(x) множество родителей x, а pa(x) конъюнкция литералов, построенных над атомами из pa(x). Означивания литералов в левой и правой части формулы должны совпадать.

Описаны алгоритмы двух видов логико-вероятностного вывода в БСД: первичной пропагации (назначения априорной вероятности узлам сети исходя из имеющихся сведений о тензорах условных вероятностей) и пропагации свидетельства (распространение влияния свидетельства, поступившего в один или несколько узлов, на оценки вероятностей в других узлах). Указывается, что для обработки БСД с допустимыми (ненаправленными) циклами (БСД с многосвязной структурой) требуется ее преобразование в дерево сочленений. Процесс такого преобразования описан, приводятся формулировки теорем, характеризующих этот процесс.

Отмечается, что хотя БСД изучены заметно более широко, в них не допускаются интервальные оценки вероятностей и до сих пор не предложено подходов к обработке направленного цикла [7, 15].

Глава 3 АБС логико-вероятностная графическая модель содержит ряд релевантных объекту исследований определений и фактов из базовых теорий, а также формирует базовую систему определений объектов теории АБС, сопровождая ее необходимыми комментариями, связанными с вероятностной семантикой рассмотренных логико-вероятностных моделей фрагментов знаний, свидетельств и баз фрагментов знаний.

В главе приведены определения литерала x {x, x}, образованного над атомом (атомарной пропозициональной формулой, пропозициональной переменной) x, случайного бинарного элемента x (СБЭ), связанного с литералом, случайной ^ ^ бинарной последовательности X (СБП), связанной с конъюнкцией литералов. Введены также сокращенные записи для цепочки конъюнкций атомов, например X, и для цепочки конъюнкций литералов, например X.

На языке случайных бинарных последовательностей сформулированы понятия независимости, условной независимости, композиции распределений СБП и приведено доказательство теоремы о композиции распределений случайных бинарных последовательностей. Рассмотрение указанных вопросов существенно для – 12 – теории алгебраических байесовских сетей, поскольку вероятностная семантика как указанных сетей, так и их фрагментов это распределение или семейство распределений случайной бинарной последовательности, образованной над атомами сети или фрагмента соответственно.

Введено определение вероятностного пространства (с упрощенной структурой по Н. Нильссону) над пропозициональными формулами, составленными над заданным алфавитом атомов.

Сформулированы определения ряда особых видов пропозициональных формул.

Определение 3.1. Квант x0x1... xn-1 цепочка конъюнкций всех атомов над заданным алфавитом {x0, x1,..., xn-1}, причем атом входит либо сам, либо с отрицанием.

Определение 3.2. Набор квантов над алфавитом атомов A обозначим Q = Q(A) = {x0x1... xn-1}.

Рассмотрим набор всех квантов Q как множество элементарных событий. Зададим на нем дискретную плотность вероятности p : Q - [0; 1], отвечающую следующим требованиям:

(q Q) p(q) 0; (2) p(q) = 1. (3) qQ Введем вероятность p : 2Q - [0; 1], распространив традиционным образом плотность вероятности [18, 20]: (S Q) p(S) = p(q), и получим вероятqS ностное пространство Q, 2Q, p. Определим вероятностную меру на множестве F следующим образом:

(f F) p(f) = p(S(f)), (4) где S(f) множество квантов, входящих в совершенную дизъюнктивную нормальную форму пропозициональной формулы f: f q.

qS(f)) Взяв за основу такое распространение вероятности на множество пропозициональных формул, мы получим новое вероятностное пространство: Q, F, p. Эта упрощенная структура вероятностного пространства по Н. Нильссону задает вероятность над всеми пропозициями, построенными над множеством атомарных формул из алфавита A.

Определение 3.3. Конъюнкт это цепочка конъюнкций атомов из заданного алфавита.

Определение 3.4. Дизъюнкт это цепочка дизъюнкций атомов из заданного алфавита.

Теорема 3.1. Пусть U = XZY, V = XZ, W = ZY, даны распределения вероятностей p1(V) над {V} и p2(W) над {W}, причем выполнены следующие условия:

Set [X] Set [Y] = , Set [X] Set [Z] = , Set [Y] Set [Z] = и Z p1(Z) = p2(Z).

Тогда 0, если p1(Z) = 0, p(U) = p(XZY) = p1(XZ)p2(ZY) (5) , если p1(Z) = 0, p1(Z) является композицией распределений вероятностей p1(V) и p2(W).

– 13 – Здесь под композицией понимается распределение, которое маргинализуется к исходным.

Математическая модель фрагмента знаний формализована как идеал конъюнктов со скалярными или интервальными оценками истинности (рис. 2). Альтернативные модели фрагментов знаний (фрагменты знаний с альтернативной струкутрой) определены над идеалом дизъюнктов и набором квантов, а также определен расширенный фрагмент знаний. Введена индексация квантов в наборе, конъюнктов и дизъюнктов в соответствующих идеалах. За счет порядка, индуцированного индексацией, скалярные оценки вероятностей квантов, конъюнктов и дизъюнктов представлены в виде векторов Q(n), P(n) и D(n), а интервальные в виде пар векторов, содержащих верхние и нижние границы оценок:

Q-,(n) и Q+,(n), P-,(n) и P+,(n), D-,(n) и D+,(n). n указывает на число атомов в алфавите, над которыми построены указанные множества пропозициональных формул; этот показатель опускают, если позволяет контекст.

Определение 3.5. Фрагмент знаний (ФЗ) со скалярными оценками это пара вида C, p, где C это идеал конъюнктов, а p функция из C в интервал [0; 1]. Фрагмент знания мы будем обозначать C.

Определение 3.6. Фрагмент знаний с интервальными оценками это структура вида C, p, где C идеал конъюнктов, а p функция из C в множество интервалов вида {[a; b] : a, b [0; 1], a b}.

Слова математическая модель опускаются; в диссертации под фрагментом знаний понимается, как правило, его вышеописанная математическая (более точно логико-вероятностная) модель.

Определены три вида свидетельств (с указанием особенностей их обработки):

детерминированное, стохастическое и неточное; два последних вида имеют общее название недетерминированное свидетельство. Указанные три вида свидетельств представляются с помощью непротиворечивых фрагментов знаний с бинарными, скалярными и интервальными оценками соответственно. Особенность недетерминированных свидетельств состоит, помимо прочего, в том, что они могут иметь зависимые компоненты.

Введены понятия графа смежности и его подвидов: дерева смежности, цепи смежности, цикла смежности. Представлены методы построения графа смежности по набору его вершин с заданными весами.

Определение 3.7. Граф смежности это ненаправленный граф, в котором:

1) между каждой парой узлов, веса которых содержат общие элементы, существует путь; 2) в веса каждого из узлов пути, указанного в предыдущем пункте, входят все элементы, общие для начального и конечного узлов; 3) вес одного узла графа не входит полностью в вес никакого другого узла.

Определение 3.8. Определим алгебраическую байесовскую сеть N как набор N фрагментов знаний: N = {Ci}i=n = { Ci, pi }i=n, или в случае скалярных оцеi=1 i=нок N = {Ci}i=n = { Ci, pi }i=n.

i=1 i=Определение 3.9. Носителем N = supp (N) алгебраической байесовской сети N будет объединение идеалов конъюнктов, лежащих в основе фрагментов знаний, i=n вошедших в сеть: N = Ci.

i=Определение 3.10. Вторичная структура алгебраической байесовской сети это граф смежности, узлы которого находятся во взаимнооднозначном соответствии с фрагментами знаний, вошедших в первичную структуру сети, при– 14 – x1x2x3xxx1x2 p() p() p(x1) p() p(x1) p(x2) p(x1) p(x1x2) p(x2) x1x2x x1 xp(x1x2) x1x2x4 x1x3x4 x2x3x p(x3) p(x1x3) p(x2x3) p(x1x2x3) p(x4) x1x3 x1x4 x2x3 x2x4 x3xp(x1x4) x1x2xp(x2x4) p(x1x2x4) p(x3x4) p(x1x3x4) x1x2 x1x3 x2x3 p() x1 x2 x3 xp(x1) p(x2x3x4) p(x2) p(x1x2x3x4) p(x1x2) p(x3) x1 x2 x3 p(x1x3) p(x2x3) p(x1x2x3) Фрагменты знаний АБС x1 x2 x3 x4 x5 x Циклы (как вариант графа смежности) x1 x2 x4 x5 x x1 x2 x3 x Цепи смежности Граф смежности Дерево смежности с циклом Рис. 2. Фрагменты знаний и алгебраические байесовские сети с различной структурой.

– 15 – чем весом узла является идеал конъюнктов (без пустого элемента), являющийся носителем соответствующего фрагмента знаний (рис. 2).

В диссертации рассматриваются алгебраические байесовские сети только с заданной связной вторичной структурой. Если АБС распадается на несколько компонент связности, то эти компоненты считаются независимыми и обрабатываются по отдельности. Алгебраическая байесовская сеть, вторичная структура которой представлена в виде дерева смежности, называется ациклической (ААБС).

В отношении конечной совокупности фрагментов знаний и конечной совокупности алгебраических байесовских сетей одинаковой структуры определены операции линейной комбинации и линейной оболочки.

Вероятностной семантикой фрагмента знаний со скалярными оценками вероятностей считается распределение вероятностей, члены которого удовлетворяют указанным оценкам, если такое распределение существует. Вероятностной семантикой фрагмента знаний с непротиворечивыми интервальными оценками является семейство распределений вероятностей, члены которого удовлетворяют указанным оценкам. Если оценки на фрагменте знаний противоречивы (несовместны), то считается, что такой ФЗ задает пустое семейство распределений.

Вероятностной семантикой алгебраической байесовской сети является семейство распределений вероятностей, определенных над квантами, построенными над всеми атомами, вошедшими в сеть, причем каждое распределение удовлетворяет оценкам, которые заданы в сети. Такое семейство может оказаться пустым, если набор исходных оценок окажется противоречивым (несовместным). В ациклических АБС со скалярными оценками, предъявляя особым образом сформулированное требование условной независимости, из семейства распределений удается выделить одно распределение вероятностей.

Глава 4 Локальный логико-вероятностный вывод содержит обоснование матрично-векторных уравнений, связывающих оценки вероятностей элементов фрагментов знаний с дискретной плотностью вероятности на соответствующем конечном вероятностном пространстве и таким образом формализующих вероятностную семантику указанных фрагментов; описание и методы решения задач различных видов локального логико-вероятностного вывода: проверки и поддержания непротиворечивости ФЗ (в том числе альтернативной структуры), априорного вывода в ФЗ, апостериорного вывода в ФЗ при поступлении детерминированного, стохастического и неточного свидетельств; различные характеристики результатов локального логико-вероятностного вывода, а также заключение о том, что непротиворечивость ФЗ сохраняется относительно операций линейной комбинации и линейной оболочки; наконец, обоснование единственности минимального (по включению интервалов оценок) результата локальной операции накрывающей непротиворечивости при непротиворечивых исходных данных. Кроме того, в главе приводится ряд примеров, иллюстрирующих основные понятия и операции. Заметим, что поддержание непротиворечивости и априорный вывод в силу сходства используемых принципов объединяются под общим названием синтез согласованных оценок истинности.

Определение 4.11. Пусть из алфавита атомов выбрано подмножество S, над которым построен идеал конъюнктов C = C(S), над которым, в свою очередь, построен фрагмент знаний со скалярными оценками вероятностей C = C, p. Кроме того, определено соответствующее множество квантов Q = Q(S). Фрагмент знаний C (со скалярными оценками p ) непротиворечив тогда и только тогда, когда существует такая дискретная плотность вероятности на квантах Q: p : Q - [0; 1], которая удовлетворяет требованиям, вытекающим из аксиоматики вероятностей, и индуцирует вероятность p на – 16 – пропозициональных формулах F(S), сужение которой на конъюнкты совпадает с p : (f C) p (f) = p(f).

Определен предикат Consistent [C], который истинен тогда и только тогда, когда его аргумент-ФЗ со скалярными оценками C непротиворечив. Аргумент предиката допускает альтернативные записи, раскрывающие обозначение C.

Определение 4.12. Пусть из алфавита атомов выбрано подмножество S, над которым построен идеал конъюнктов C = C(S), над которым, в свою очередь, построен фрагмент знаний с интервальными оценками вероятностей C = C, p. Фрагмент знаний C (с интервальными оценками p ) непротиворечив тогда и только тогда, когда выполнено следующее условие:

f C p (f) p { | : C - [0; 1]} :

(p (f) = ) & & (g C : p (g) p (g)) & & Consistent C, p.

Определен также предикат Consistent [C] для случая интервальных оценок.

Определение 4.13. ФЗ C, p с интервальными оценками p является согласуемым, если существует такой непротиворечивый набор скалярных оценок p, что f C p (f) p (f).

Определен ряд матриц и векторов (вектор-столбцов):

1 0 0 1 1 -1 1 E1 =, 1 =, I1 =, J1 =, 0 1 1 0 0 1 0 0 0 1 0 1 O1 =, 11 =, 01 =, 01 =, 01 =, · 0 0 1 0 0 а также их степени Кронекера (прямые степени):

Im = I[m], Jm = J[m],, Em = E[m], m = [m], Om = O[m];

1 1 1 1 [m] 1m = 1[m], 0m = 0[m], 0m = 01, 0m = 0[m].

1 1 · · Исследованы свойства матриц Im и Jm; в частности, показано, что они являются взаимнообратными.

Теорема 4.2.

ImP(m) = Q(m) (6) JmQ(m) = P(m) (7) Пояснение. Линейные матрично-вектрные уравнения (6) и (7) выражают вероятности квантов Q(m) через вероятности конъюнктов P(m) и наоборот.

Предложение 4.1. Требования аксиоматики вероятностной логики (2–3) к значениям дискретной плотности вероятностей на квантах в матрично-векторном виде выразятся как Q(m) 0m, (8) Q(m)1m = 1. (9) – 17 – Рис. 3. Матрицы I3 и I4.

Здесь вертикальная штриховка означает плюс один, горизонтальная минус один, а незаштрихованные области считаются заполненными нулями.

Теорема 4.3. Для того чтобы фрагмент знаний C = C, P(m) со скалярными оценками вероятностей был непротиворечивым, необходимо и достаточно, чтобы выполнялось векторное неравенство ImP(m) 0m. (10) Для задачи проверки непротиворечивости фрагмента знаний алгебраической байесовской сети, построенного над идеалом конъюнктов со скалярными оценками, теорема 4.3 обеспечила метод решения: вектор оценок достаточно подставить в векторное неравенство (10) и проверить справедливость последнего. Примеры структуры матриц Im приведены на рис. 3.

Теорема 4.4. Линейная комбинация конечного числа обладающих одинаковой структурой непротиворечивых фрагментов знаний со скалярными оценками непротиворечива.

Определение 4.14. E(m) множество линейных ограничений, состоящее из линейных неравенств, задаваемых условием неотрицательности (10).

Определение 4.15. D(m) множество линейных ограничений на основе сведений из предметной области, состоящее из двойных линейных неравенств над вероятностями элементов идеала и представимое в векторном виде как P-,(m) P(m) P+,(m), где P-,(m) вектор, составленный из констант (исходных) нижних границ вероятностей соответствующих конъюнктов, а P+,(m) такой же вектор, но содержащий верхние границы. Компоненты обоих векторов с нулевым индексом всегда равны единице.

Роль переменных в указанных системах ограничений E(m) и D(m) играют компоненты вектора P(m); кроме того R(m) = D(m) E(m). Заметим, что для удобства показатель (m) можно опускать.

Определение 4.16. Векторы уточненных нижних и верхних оценок вероятностей обозначаются P-,(m) и P+,(m) соответственно.

Если опустить показатель (m), задачи линейного программирования в векторных обозначениях запишутся таким образом:

P- = { P}, P+ = { P}, (11) R R – 18 – где поиск минимума и максимума осуществляется почленно и независимо.

Теорема 4.5. Фрагмент знаний C = C, P-, P+ является согласуемым тогда и только тогда, когда имеет решение хотя бы одна задача линейного программирования из (11).

Замечание 4.1. Если хотя бы одна задача линейного программирования из (11) имеет решение, то все остальные задачи из (11) будут иметь решение.

Замечание 4.2. Если хотя бы одна задача линейного программирования из (11) не имеет решения, то все остальные задачи из (11) не имеют решения.

Теорема 4.6. Если задачи линейного программирования из (11) имеют решения, то фрагмент знаний C = C, P-, P+ с [возможно] уточненными интервальными оценками непротиворечив, а оценки представляют собой замкнутые промежутки.

Следствие 4.1. При повторной попытке уточнить оценки с помощью решения серии задач линейного программирования в непротиворечивом фрагменте знаний из теоремы 4.6 имеющиеся оценки не уточнятся (не сузятся).

Приведена схема одного из возможных алгоритмов, реализующих предложенный выше метод проверки и поддержания непротиворечивости фрагмента знаний.

Теорема 4.7. Линейная комбинация конечного числа обладающих одинаковой структурой непротиворечивых фрагментов знаний с интервальными оценками непротиворечива.

Теорема 4.8. Линейная оболочка конечного числа обладающих одинаковой структурой непротиворечивых фрагментов знаний с интервальными оценками непротиворечива.

Определение 4.17. Пусть задан упорядоченный набор из n фрагментов знаний одинаковой структуры (т.е. построенных над одинаковым идеалом конъюнктов C) с интервальными оценками (Ci = C, pi )i=n-1. Тогда семейство C построi=енных над тем же идеалом конъюнктов непротиворечивых фрагментов знаний вида C = C, p с интервальными оценками является результатом операции накрывающей непротиворечивости фрагментов знаний из исходного набора C = ConsistentEnclosure (Ci)i=n-1, если (f C) (i : 0 i (n - 1)) pi(f) i=p(f).

Теорема 4.9. Пусть задан упорядоченный набор из n непротиворечивых фрагментов знаний одинаковой структуры (т.е. построенных над одинаковым идеалом конъюнктов C) с интервальными оценками (Ci = C, pi )i=n-1. Тогда наиi=меньшим по включению элементом семейства непротиворечивых фрагментов знаний, сформированным в результате операции накрывающей непротиворечивости фрагментов знаний из исходного набора, является линейная оболочка i=n- Ci последнего.

i=В диссертации доказаны аналогичные теоремы относительно непротиворечивых фрагментов знаний альтернативной структуры и операций линейной комбинации, линейной оболочки и накрывающей непротиворечивости. Методы проверки и поддержания непротиворечивости основываются на следующих матричновекторных уравнениях и неравенствах. Для фрагмента знаний Cd = C, D задание скалярных оценок считается непротиворечивым, если ID 0. Для фрагмента · – 19 – знаний Cq = Q, Q задание скалярных оценок считается непротиворечивым, если Q 0 и Q1 = 1.

Заметим, что вероятность любой пропозициональной формулы f из F(A) выражается как сумма вероятностей некоторых квантов из Q(A). Вероятности же квантов линейно выражаются через вероятности конъюнктов. Следовательно, вероятность f линейно выражается через вероятности конъюнктов:

(f F(A)) ! L(m) : p(f) = L(m)P(m), (12) где L(m) вектор вещественных констант, совпадающий по размерности с P(m).

Если требуется оценить вероятность формулы f, опираясь на оценки вероятностей элементов идеала конъюнктов, то пополнив множество R(m) уравнением p(f) = L(m)P(m) и решив ЗЛП по минимизации и максимизации переменной p(f), мы получим искомую оценку. Если же требуется учесть наше знание об интервальной оценке величины p(f), то подобным же образом множество R(m) пополняется ограничением (12) и ограничением, исходящим из предметной области: p-(f) p(f) p(f)+.

Определение 4.18. Локальный априорный вывод заключается в том, чтобы по известным оценкам вероятности истинности заданных во фрагменте знаний пропозициональных формул построить оценку вероятности истинности пропозициональной формулы, не вошедшей в число заданных.

Пояснение. Локальный априорный вывод можно трактовать более широко:

пропозициональная формула может входить во фрагмент знаний, но оценка вероятности ее истинности неизвестна (т.е. представлена интервалом [0; 1]). Поиск оценки вероятности истинности такой пропозициональной формулы тоже можно включить в состав задачи локального априорного вывода.

Рассмотрено построение (или уточнение) оценок ФЗ на основе оценок произвольного набора пропозиций над заданным алфавитом, которое происходит аналогично процессу поддержания непротиворечивости, только к набору ограничений D и E добавляются ограничения вида p- LfP p+, где p- и p+ нижняя f f f f и верхняя оценки вероятности формулы f. В общем случае к оценкам фрагмента знаний могут быть добавлены произвольные оценки (в виде равенств или нестрогих неравенств) линейных форм, построенных над вероятностями элементов ФЗ.

В этой ситуации мы говорим о расширенном фрагменте знаний. Заметим, что вероятности пропозиционалдьных формул, построенных над теми же атомами, что и элементы ФЗ, представимы в виде указанных выше линейных форм.

Таким образом, численные (т.н. количественные) ограничения на вероятности элементов ФЗ или расширенного ФЗ могут либо отсутствовать и заменяться т.н. качественными оценками (т.е. линейными равенствами и нестрогими неравенствами с участием линейных форм над вероятностями элементов ФЗ), либо дополняться последними. После процесса поддержания непротиворечивости в таком расширенном ФЗ либо его элементы получат уточненные количественные оценки, либо обнаружится противоречивость исходных данных.

^ Выбраны метрики r(P, P) = |pi - pi| и d(p, p) = |p - p|. Процесс ^ ^ ^ 0i(2n-1) оценивания чувствительности результата локального априорного вывода в случае скалярных исходных данных сводится к решению набора ЗЛП:

= {p - p, p - p}, (P) = {p - p, p - p}.

^ ^ ^ ^ ^ ^ IP 0,IP 0, IP 0, IP 0, ^ ^ r(P,P) , r(P,P) , P=P ^ ^ p=LP,p=LP p=LP,p=LP ^ ^ – 20 – 2n-Теорема 4.10. Справедливо неравенство d(p, p) |li|, где li коэффи^ i=циенты в разложении вероятности p пропозициональной формулы на вероят^ ности конъюнктов, а радиус вариации: r(P, P) .

Указанное неравенство характеризует верхнюю оценку чувствительности априорного вывода в случае скалярных исходных данных.

В качестве развернутого примера в тексте диссертации синтез согласованных оценок истинности применен в задачах локального машинного обучения алгебраических байесовских сетей [20].

Первой задачей апостериорного вывода является оценка вероятности или ожидаемой вероятности появления свидетельства над заданным ФЗ C или заданной БФЗ NKPB: p( |C) и соответственно p( |NKPB).

Второй задачей апостериорного вывода является оценка апостериорной вероятности или ожидаемой апостериорной вероятности конъюнктов ZY, входящих в ФЗ или БФЗ, но не имеющих общих атомов с поступившим свидетельством:

pa(ZY| ).

В главе отдельно рассмотрена ситуация, когда поступает свидетельство, имеющее нулевую вероятность реализации над ФЗ. Оценки апостериорных вероятностей соответствующих элементов в этом случае приравниваются [0; 1].

Детерминированное свидетельство задается конъюнкцией над частью атомов из ФЗ, причем в эту конъюнкцию входит либо сам атом, либо его отрицание.

Детерминированное свидетельство в общем случае обозначается X, причем подразумевается, что X принимает конкретное означивание, соответствующее свидетельству. Используя индексацию, такое свидетельство можно представить как ci, cj, где ci и cj конъюнкты, состоящие из атомов получивших положительные и отрицательные означивания соответственно. Для краткости также используется обозначение i, j, где i и j индексы соответствующих конъюнктов.

Стохастическое свидетельство задается в виде непротиворечивого ФЗ со скалярными оценками над частью атомов из исходного ФЗ и в общем случае обозначается p[a](X), где p[a] задает апостериорное распределение вероятностей в свидетельстве.

Неточное свидетельство задается в виде непротиворечивого ФЗ со скалярными оценками над частью атомов из исходного ФЗ и в общем случае обозначается p[a](X) [X], где задает семейство апостериорных распределений ве[a] [a] роятностей в свидетельстве.

После рассмотрения постановки задач локального апостериорного вывода в случае различных сочетаний исходных данных сделан вывод, что ключевым методом выступает метод обработки детерминированного свидетельства, а методы обработки стохастического и неточного свидетельств осуществляются на его основе. Например, в случае скалярных оценок в ФЗ решением второй задачи апостериорного вывода при стохастическом свидетельстве является pa(ZY| p[a](X) ) = pa(ZY| X )p[a](X).

^ X Для удобной при вычислениях и анализе результатов формализации методов локального апостериорного вывода осуществлен переход к постановке возникающих задач на матрично-векторном языке.

0 0 1 0 1 Пусть H+ = ; H- = ; H =.

0 1 0 0 0 – 21 – i,j i,j i,j Определим H i,j = Hm-1 Hm-2 ... H0, где H+, если xk входит в ci;

i,j Hk = H-, если xk входит в cj;

H, иначе;

i,j T = JH i,j I.

Тогда вероятность детерминированного свидетельства над фрагментом знаний со скалярными оценками C = C, P вычисляется как i,j p( ci, cj |C) = (T P)[0]. (13) На основе формулы (13) можно построить вектор L i,j, соответствующий пер i,j вой строке матрицы T такой, что p( ci, cj |C) = L i,j P. (14) Теорема 4.11. Если p( ci, cj |C) = 0, то формула (15) дает решение второй за дачи апостерионого вывода в случае детерминированного свидетельства и скалярных оценок в ФЗ C = C, P :

i;j 1 T P i;j P i,j = T P =. (15) i;j i;j (T P)[0] (T P)[0] Теорема 4.12. Решением второй задачи локального апостериорного вывода в случае детерминированного свидетельства и интервальных оценок истинности во фрагменте знаний является решение серии задач линейного прораммирования по поиску:

i;j i;j P i,j,- = {T D} и P i,j,+ = {T D} (16) при условиях: {P- D} {D P+} {ID 0} {L i,j D = 1} { 0}.

i;j Минимумы и максимумы от P i,j = T D берутся почленно и независимо.

Теорема 4.13. В обозначениях теоремы 4.12 фрагмент знаний c апостериорными оценками вероятностей C, P i,j,-, P i,j,+ непротиворечив, если задачи линейного программирования (16) имеют решение.

Следствие 4.1. Из справедливости теоремы 4.13 следует, что результаты локального апостериорного вывода по стохастическому и неточному свидетельству также будут непротиворечивыми, если исходные данные были непротиворечивы и соответствующие ЗЛП имели решение.

Методы обработки стохастического и нечеткого свидетельства также формализованы с помощью матрично-векторного языка.

Решена задача по анализу чувствительности в отношении ненормированного результата апостериорного вывода в случае скалярных априорных оценок и детерминированного свидетельства. Обозначим соответствующие объекты как pa (c), ^ ^a pa (c), P и Pa. Тогда целевые функции будут выглядеть как i,j i,j ^ ^ ^ Da Pa, Pa = ||T (Pa - Pa )|| ||T || · ||(Pa - Pa )||, i,j i,j ^ ^ da pa (c), pa (c) = ||T (Pa - Pa )|| ||T || · ||(Pa - Pa )||.

^ c c При надлежащем подборе метрик Da и da (как и в априорном выводе) полученные формулы позволяют использовать задачи линейного программирования в оценке чувствительности ненормированного результата апостериорного вывода.

– 22 – Глава 5 Логико-вероятностный вывод в ациклической АБС содержит описание методов решения двух задач, в которых требуется 1) проверить и поддержать непротиворечивость сети, т.е. убедиться, что ее вероятностная семантика непуста (исходные оценки совместны) и, по возможности, уточнить эти оценки;

2) распространить влияние свидетельства, поступившего в один из фрагментов знаний ациклической АБС. Кроме того, предложен метод преобразования ациклической байесовской сети доверия со случайными бинарными элементами в узлах в ациклическую АБС с сохранением вероятностной семантики.

Определение 5.19. АБС считается локально непротиворечивой, если каждый отдельно взятый фрагмент знаний в сети непротиворечив:

(C N) Consistent [C].

Определение 5.20. АБС считается экстернально непротиворечивой, если каждый фрагмент знаний в сети непротиворечив (C N) Consistent [C], а также оценки истинности любого конъюнкта, входящего одновременно в два фрагмента знаний или более, совпадают:

(C N) (C N) (f C C ) p (f) = p (f).

Определение 5.21. АБС считается интернально непротиворечивой, если каждый фрагмент знаний в сети непротиворечив, а также для любого конъюнкта из АБС для любого скалярного значения из интервала оценки его истинности можно выбрать согласованные (т.е. совпадающие на одинаковых формулах) скалярные значения во всех фрагментах знаний так, что все получившиеся ФЗ со скалярными оценками будут непротиворечивы:

(f N) ( p(f)) (p : N - [0; 1]) p (f) = & (C N) Consistent C, p |C.

Определение 5.22. АБС считается глобально непротиворечивой, если ее с имеющимися оценками можно погрузить в непротиворечивый объемлющий фрагмент знаний C и при этом оценки pN(f) на конъюнктах из АБС не изменятся:

(C = C, pC )Consistent [C] & N C & (f N) pC(f) = pN(f).

Вероятностной семантикой алгебраической байесовской сети является семейство распределений вероятностей, определенных над квантами, построенными над всеми атомами, вошедшими в сеть, причем каждое распределение удовлетворяет оценкам, которые заданы в сети. Такое семейство может оказаться пустым.

В ациклических АБС, предъявляя особым образом сформулированное требование условной независимости, из семейства распределений удается выделить одно распределение вероятностей.

Каждая последующая степень непротиворечивости не слабее предыдущей. Основной смысл введения различных степеней непротиворечивости заключается в том, что вычислительная сложность их проверки увеличивается от первой к последней. Метод поддержания глобальной непротиворечивости АБС полностью соответствует методу поддержания непротиворечивости объемлющего ФЗ; разработан метод поддержания интернальной непротиворечивости АБС.

В главе получен ряд дополнительных результатов относительно операции композиции распределений случайных бинарных последовательностей, который создает основу как для анализа отношений между степенями непротиворечивости, так и для анализа особенностей глобального апостериорного вывода.

– 23 – Теорема 5.14. Пусть АБС является ациклической, тогда из ее интернальной непротиворечивости следует ее глобальная непротиворечивость.

Теорема 5.15. 1) Алгебраическая байесовская сеть, непротиворечивая глобально, является непротиворечивой интернально; 2) алгебраическая байесовская сеть, непротиворечивая интернально, является непротиворечивой экстернально; 3) алгебраическая байесовская сеть, непротиворечивая экстернально, является непротиворечивой локально.

Движение в обратную сторону по цепи степеней непротиворечивости в общем случае невозможно, как это было показано с помощью контрпримеров: в общем случае 1) из локальной непротиворечивости АБС не следует ее экстернальная непротиворечивость, 2) из экстернальной интернальная, 3) а из интернальной глобальная.

Теорема 5.16. Экстернально непротиворечивая АБС со скалярными оценками является интернально непротиворечивой.

Теорема 5.17. Экстернально непротиворечивая ациклическая АБС со скалярными оценками является интернально непротиворечивой, а значит, и глобально непротиворечивой.

Теорема 5.18. Экстернально непротиворечивая ациклическая АБС, фрагменты знаний которой попарно имеют не более одного общего атома, является интернально непротиворечивой, а значит, и глобально непротиворечивой.

Теорема 5.19. Пусть дан конечный набор алгебраических байесовских сетей одинаковой структуры и одинаковой степени непротиворечивости. Линейная комбинация этого набора будет непротиворечива в той же степени.

Теорема 5.20. Пусть дан конечный набор алгебраических байесовских сетей одинаковой структуры и одинаковой степени непротиворечивости. Линейная оболочка этого набора будет непротиворечива в той же степени.

Теорема 5.21. Пусть задан упорядоченный набор (Ni)i=n-1 из n алгебраичеi=ских байесовских сетей одинаковой структуры (то есть, построенных над одинаковым носителем N) с интервальными оценками pi(f) для элементов сети Ni, 0 i (n - 1), и одинаковой степени непротиворечивости. Тогда наименьшим по включению элементом семейства непротиворечивых алгебраических байесовских сетей, сформированным в результате операции накрывающей непротиворечивости указанной степени алгебраических байесовских сеi=n-тей из исходного набора, является линейная оболочка Ni последнего.

i=Теорема 5.22. Алгоритм поддержания глобальной непротиворечивости АБС завершает работу и имеет на выходе один из двух результатов: непротиворечивые оценки вероятностей элементов данной АБС или сообщение о противоречивости исходных оценок вероятностей элементов данной АБС.

Теорема 5.23. Алгоритм поддержания интернальной непротиворечивости АБС завершает работу и имеет на выходе один из двух результатов: непротиворечивые оценки вероятностей элементов данной АБС или сообщение о противоречивости исходных оценок вероятностей элементов данной АБС.

Теорема 5.24. Оценки вероятностей элементов АБС, полученные в результате применения алгоритма поддержания глобальной непротиворечивости, являются непустыми замкнутыми промежутками.

– 24 – Теорема 5.25. Оценки вероятностей элементов АБС, полученные в результате применения алгоритма поддержания интернальной непротиворечивости, являются непустыми замкнутыми промежутками.

Вычислительная сложность алгоритмов, реализующих предложенные методы проверки интернальной и глобальной непротиворечивости, характеризуется указанием числа переменных и ограничений в задачах линейного программирования, требующих решения, а также собственно числом таких задач. При построении указанных оценок следует учитывать, что по предположению, лежащему в основе теории алгебраических байесовских сетей, фрагменты знаний имеют ограниченный размер. Они могут быть построены над 2–3–4 атомами. (Чуть более обще число атомов, над которыми построен ФЗ, ограничено и является небольшим.) Предложение 5.2. Пусть АБС построена над алфавитом из n атомов и состоит из k фрагментов знаний, каждый из которых построен не более, чем над r атомами. Тогда для проверки глобальной непротиворечивости такой АБС потребуется решить задачу линейного программирования с 2n - 1 переменными, 2n ограничениями, вытекающими из требований аксиоматики вероятностной логики, и не более, чем 2k(2r - 1) ограничениями из предметной области.

Для поддержания глобальной непротиворечивости такой АБС потребуется решить не более, чем 2k(2r - 1) задач линейного программирования с указанным множеством ограничений.

Предложение 5.3. Пусть АБС построена над алфавитом из n атомов и состоит из k фрагментов знаний, каждый из которых построен не более, чем над r атомами. Тогда для проверки интернальной непротиворечивости такой АБС потребуется решить задачу линейного программирования с не более, чем O(k) = k(2r - 1) переменными, O(k) = k(2r) ограничениями, вытекающими из требований аксиоматики вероятностной логики, и не более, чем 2k(2r -1) ограничениями из предметной области. Для поддержания интернальной непротиворечивости такой АБС потребуется решить не более, чем 2k(2r - 1) задач линейного программирования с указанным множеством ограничений.

Пояснение. Именно этот факт показывает важность понятия (состояния) интернальной непротиворечивости в случае ациклических алгебраических байесовских сетей: вместо экспоненциальных по числу переменных и ограничений задач линейного программирования достаточно решить задачи линейного программирования, число переменных и ограничений в которых линейно зависит от числа ФЗ.

Пусть в узел дерева смежности (т.е. во фрагмент знаний) поступило свидетельство. Наша задача состоит в том, чтобы распространить его влияние на каждый ФЗ, входящий в АБС, представленную в виде дерева смежности. Метод решения задачи основан на ее сведении к уже известным операциям над более простыми объектами.

Между узлом, в который поступило свидетельство, и любым другим узлом существует путь (без самопересечений!), поскольку мы рассматриваем только связные графы. Этот путь единственный. Требуется распространить свидетельство вдоль этого пути. Сведем далее задачу к распространению свидетельства из некоторого выбранного узла в соседний.

Напомним, что любое свидетельство можно представить в виде фрагмента знаний. Пусть свидетельство поступило в первый узел. Это вызовет перерасчет вероятностей всех элементов фрагмента знаний, стоящего в этом узле, причем на элементах, общих со свидетельством, сформируются апостериорные оценки вероятностей, совпадающие с теми, которые были в свидетельстве [18].

– 25 – ~ ~ ~ ~ )> Рис. 4. Распространение влияния стохастического свидетельства в случае скалярных оценок вероятностей.

Рассмотрим пересечение первого и второго фрагментов знаний. Оно строится над идеалом конъюнктов и может быть рассмотрено как фрагмент знаний, который является подфрагментом двух исходных. Обработаем этот подфрагмент знаний с новыми (апостериорными) оценками вероятностей как виртуальное свидетельство, исходящее из первого фрагмента знаний и поступающее во второй таким образом влияние исходного свидетельства распространится через промежуточное виртуальное свидетельство на второй фрагмент знаний.

Пусть задана глобально непротиворечивая ациклическая АБС, то есть, представимая в виде дерева смежности. Оценки вероятностей элементов в АБС скалярные. Пусть также в один из фрагментов знаний на вход поступает стохастическое свидетельство. Метод распространения свидетельства от фрагмента знаний к фрагменту знаний проиллюстрирован на рис. 4.

Расчеты ведутся по формулам, основанным на уравнении (15).

Теорема 5.26. Пусть задана непротиворечивая ациклическая алгебраическая байесовская сеть N со скалярными оценками вероятностей истинности своих элементов и объемлющий ее фрагмент знаний C. На ФЗ C распределение вероятностей получено последовательным применением операции композиции к распределениям вероятностей над фрагментами знаний из АБС N. Тогда распространение влияния стохастического свидетельства, поступающего в один из фрагментов знаний исходной АБС, даст одинаковые результаты как через распространение виртуальных свидетельств в сети N, так и при распространении влияния стохастического свидетельства в ФЗ C.

Предложение 5.4. Метод распространения виртуальных свидетельств для обработки стохастического свидетельства, поступившего в ациклическую алгебраическую байесовскую сеть со скалярными оценками, потребует O(k) операций сложения, умножения и деления, где k число фрагментов знаний в сети.

Метод погружения АБС в объемлющий ФЗ для обработки стохастического свидетельства, поступившего в ациклическую алгебраическую байесовскую сеть, потребует O( (d)) операций сложения, умножения и деления, где d число атомов в сети.

Теорема 5.27. Любая ациклическая байесовская сеть доверия с бинарными случайными элементами в узлах может быть преобразована в ациклическую АБС, фрагменты знаний которой имеют в пересечении не более одного атома.

В диссертации описан метод такого преобразования. Этот метод непосредственно обобщается на ациклические БСД, в узлах которых стоят попарно непересекающиеся СБП.

Глава 6 Циклы в байесовских сетях посвящена методам преобразования и обработки цикла смежности фрагментов знаний в АБС (цикла фрагментов знаний АБС, цикла ФЗ АБС) и направленного БСД-цикла (БСД-цикла).

– 26 – Определение 6.23. Цикл смежности фрагментов знаний (ЦФЗ) АБС это алгебраическая байесовская сеть со вторичной структурой, представленной в виде графа смежности, являющегося циклом.

Алгоритмы логико-вероятностного вывода, разработанные для ациклических алгебраических байесовских сетей, не применимы непосредственно к циклам фрагментов знаний, которые допустимы в АБС в общем случае. Погружение такого цикла в объемлющий фрагмент знаний формально открывает возможность для применения известных схем алгоритмов локального вывода, но имеет экспоненциальную сложность с точки зрения используемого объема данных: возникающие задачи линейного программирования будут иметь экспоненциально растущее число переменных и ограничений относительно роста числа атомарных пропозиций, входящих в исходный цикл.

Предложен метод преобразования на основе погружения пар фрагментов знаний в объемлющие [фрагменты знаний] цикла смежности фрагментов знаний АБС в цепь смежности фрагментов знаний АБС за счет построения новых фрагментов знаний над специальным образом сформированными парами исходных фрагментов знаний и, особо, либо над еще одним исходным фрагментом знаний, либо над тройкой исходных. Указанное преобразование можно выполнить разными способами.

Теорема 6.28. Для того чтобы цикл фрагментов знаний в АБС был глобально непротиворечив, необходимо и достаточно, чтобы цепь смежности фрагментов знаний, полученная из указанного цикла за счет преобразования на основе погружения пар фрагментов знаний в объемлющие, была глобально непротиворечива.

Теорема 6.29. Для того чтобы цикл фрагментов знаний в АБС был глобально непротиворечив, необходимо и достаточно, чтобы цепь смежности фрагментов знаний, полученная из указанного цикла за счет преобразования на основе погружения пар фрагментов знаний в объемлющие, была интернально непротиворечива.

Предложение 6.5. В задаче линейного программирования, решаемой для проверки непротиворечивости цикла смежности фрагментов знаний АБС, число ограничений, исходящих из аксиоматики вероятностной логики, и число переменных в задаче линейного программирования имеют порядок не выше, чем O(n) в случае преобразования цикла в цепь смежности, а при погружении цикла в объемлющий фрагмент знаний указанные числа растут экспоненциально с ростом n, где n число атомов в алфавите, над которым построен цикл.

Для частных случаев циклов предложены уточненные оценки.

Теорема 6.30. Пусть в цикле фрагментов знаний алгебраической байесовской сети C0, C1,..., Ck-1, (C0) присутствуют два одинаковых сепаратора, то есть A(ij) = A(i j ) = A. Тогда хотя бы в одном из двух путей, состоящих из фрагментов знаний, оказавшихся между этими двумя сепараторами, все сепараторы и все фрагменты знаний построены над множествами атомов, содержащих A. Более того, такие сепараторы и фрагменты знаний содержат в качестве подыдеала идеал вида A.

По определению индексы i и j, а также i и j ссылаются на пары смежных фрагментов знаний соответственно.

На основе теоремы 6.30 предложен метод, позволяющий сократить цикл за счет выделения из него цепи смежности фрагментов знаний.

– 27 – Определение 6.24. Направленный БСД-цикл это направленный граф, являющийся направленным циклом, в котором каждому узлу приписан случайный бинарный элемент, вероятность конкретного означивания которого с помощью тензора условных вероятностей, также приписанного указанному узлу, определяется означиванием случайного бинарного элемента в узле-родителе.

Для обработки направленного БСД-цикла предложен метод формирования его образа в виде цикла фрагментов знаний АБС, эквивалентного с точки зрения вероятностной семантики исходному БСД-циклу; этот образ затем преобразуется в цепь смежности ФЗ АБС. Конечный результат преобразований можно обработать известными для ациклических АБС алгоритмами логико-вероятностного вывода.

Указанный метод основывается на переходе от тензоров условных вероятностей, приписанных узлам направленного БСД-цикла, вида p(xi|xj) к набору маргинальных вероятностей атомов p(xi), стоящих в узлах цикла, и конъюнкций пар атомов p(xjxi) из смежных узлов цикла. Определено: x0 = xk, где k число атомов в цикле, и индекс j непосредственно предшествует индексу j.

Пусть неизвестная p(x0) = . Последовательно используя формулу полной вероятности, получим p(xi) = pi(); тогда определяется из уравнения = pk(). (17) Теорема 6.31. В предположении, что a0 = 1, b0 = 0, существует набор таких ai и bi R, где 0 i k, что справедлив ряд соотношений вида pi() = ai+bi.

Величины ai и bi вычисляются рекуррентно. Таким образом, уравнение (17) линейное; на основе его решения определяются вероятности p(xi) и p(xjxi). Произведен анализ множества решений уравнения (17).

p(xi|xj) p(xi|xj) Пусть 0 =, Wj =.

1 - p(xi|xj) p(xi|xj) Введенные матрицы и векторы являются стохастическими (вероятностными).

Матрица W = Wk-1Wk-2... W1W0 также является стохастической.

Теорема 6.32. Матрично-векторное уравнение (18) 0 = W0 (18) эквивалентно уравнению (17) с учетом введенных обозначений.

Из (18), в частности, следует, что 0 должен являться собственным вектором произведения матриц W, причем ему должно соответствовать собственное число = 1, которому, в свою очередь, соответствует единственный стохастический вектор, исключая случай W = E.

Теорема 6.33. Матрично-векторное уравнение (18) имеет либо одно, либо бесконечно много стохастических векторов-решений.

Следствие 6.1. Уравнение (17) имеет либо одно, либо бесконечно много решений [0; 1].

Теорема 6.34. Матрично-векторное уравнение (18) имеет бесконечно много стохастических векторов-решений, а уравнение (17) бесконечно много решений [0; 1] тогда и только тогда, когда исходные условные вероятности в исходном БСД-цикле не принимают никакие другие значения, кроме 0 или 1, а число узлов с тензорами условных вероятностей, отвечающих условию p(xi|xj) = p(xi|xj) = 0, четно.

Замечание 6.1. На этапе перехода от набора условных вероятностей из исходного БСД-цикла к набору маргинальных вероятностей для соответствующего – 28 – ему цикла ФЗ АБС противоречие (несовместность) исходных данных не выявится. Процесс перехода завершится либо формированием набора маргинальных вероятностей, либо формированием непустого семейства таких наборов.

Предложено несколько методов преобразования БСД-цикла в цикл смежности ФЗ. Ключевой метод состоит из двух основных фаз. На первой фазе распространяются сообщения, которые позволяют сформировать уравнение ak + bk = .

Следующий шаг это анализ получившегося уравнения и поиск его решения, если оно единственное. Если такое решение найдено, то выполняется вторая фаза: в цикле от узла к узлу передаются и вычисляются маргинальные вероятности p(xi-1) и p(xi-1xi). Объем требующихся вычислений линеен по числу сообщений и по числу операций сложения, вычитания и умножения. Деление используется только один раз между первой и второй фазой.

В главе также рассматриваются особые случаи (БСД-цикл-петля, БСД-цикл над двумя узлами), БСД-цикл с многозначными элементами, обобщение цепного правила, лежащего в основе одного из определений байесовских сетей доверия, которое бы позволило сопоставить семейство распределений вероятностей байесовской сети доверия с направленным циклом. Это открывает возможность преобразования такой БСД в алгебраическую байесовскую сеть, которая будет обладать той же же самой вероятностной семантикой. Приведены примеры непротиворечивых и противоречивых БСД-циклов. Наконец, в иллюстративных целях метод обработки направленного БСД-цикла применен в решении задачи по оценке вероятности альтернатив при исходных данных, заданных в виде цикла стохастических предпочтений.

Глава 7 Комплекс программ содержит описание комплекса программ, автоматизирующего операции логико-вероятностного вывода в АБС и их ФЗ, реализованного с помощью среды разработки NetBeans на языке Java c использованием ряда java-технологий и внешних библиотек. Выбор языка, технологий и среды разработки был обусловлен их удобством, наличием в свободном доступе и особенностями представления и обработки данных, облегчающих, в свою очередь, представление и обработку объектов теории алгебраических байесовских сетей в компонентах комплекса.

В комплексе реализовано четыре основных блока функциональности.

Первый блок (AlgBN Modeler) обеспечивает представление алгебраических байесовских сетей и фрагментов знаний, а также альтернативных моделей фрагментов знаний в коде программ. Кроме того, он обеспечивает ряд операций по чтению–записи данных в соответствующие объекты, содержит ряд утилит, включая генераторы элементов матриц, использующихся в логико-вероятностном выводе, индексаторы конъюнктов, дизъюнктов и квантов, классы-коллекторы, позволяющие строить линейную комбинацию и линейную оболочку фрагментов знаний, классы, представляющие алфавиты, и др. Наконец, к этому блоку примыкают пакеты, отвечающие за представление вторичной структуры АБС в графическом пользовательском интерфейсе, и реляционная база данных, предназначенная для хранения алгебраических байесовских сетей, свидетельств, сессий, задающих конкретные операции логико-вероятностного вывода вместе с их объектами, и результатов выполнение этих операций, ассоциированных с указанными сессиями. Представление АБС и свидетельств в базе данных универсализовано для хранения различных их подвидов в одинаковых структурах.

Второй блок (AlgBN Inferrer) предназначен для выполнения синтеза согласованных оценок истинности в алгебраических байесовских сетях и их фрагментах, т.е. для проверки и поддержания непротиворечивости фрагмента знаний (в том числе фрагмента знаний с альтернативной структурой), локального априорного вывода, проверки и поддержания интернальной и глобальной степени непроти– 29 – воречивости АБС. Второй блок оперирует объектами, построенными с помощью первого блока, и используется в апостериорном выводе.

Третий блок (AlgBN Propagator) реализует операции апостериорного вывода, а именно локальный апостериорный вывод с различным сочетанием видов априорных оценок и свидетельств, а также глобальный апостериорный вывод на основе распространения виртуальных свидетельств при поступлении стохастического свидетельства в ациклическую алгебраическую байесовскую сеть со скалярными оценками. Третий блок использует объекты и методы из в первых двух.

Четвертый блок (BBN Feedback Cycle OOJLib) позволяет преобразовать направленный БСД-цикл в набор оценок вероятностей атомов и конъюнкций пар атомов, расположенных в смежных узлах указанного цикла. Полученный набор оценок предназначен для формирования фрагмента знаний или цепи смежности фрагментов знаний, которые представляются и обрабатываются в программном коде с помощью функциональности, обеспеченной первыми тремя блоками.

Наконец, в главе приводятся примеры использования в программном коде объектов и методов из указанных блоков.

В заключении приводятся основные научные результаты диссертационного исследования, выносимые на защиту:

1) развита теория алгебраических байесовских сетей как логико-вероятностной графической модели баз фрагментов знаний с неопределенностью, позволяющая использовать указанные сети как средство представления и обработки таких знаний;

2) выведены матрично-векторные уравнения, устанавливающие связь между вероятностями элементов фрагмента знаний алгебраической байесовской сети и дискретной плотностью вероятности в соответствующем конечном вероятностном пространстве; разработан основанный на указанных уравнениях метод проверки и поддержания непротиворечивости ФЗ АБС, а также метод априорного вывода в таком фрагменте знаний;

3) построена и проанализирована иерархия степеней непротиворечивости алгебраической байесовской сети (локальная, экстернальная, интернальная, глобальная степени непротиворечивости), выявлена система связей между указанными степенями непротиворечивости, разработаны методы проверки и поддержания соответствия АБС требованиям интернальной и глобальной степеней непротиворечивости, оценена сложность алгоритмов, реализующих эти методы;

4) доказано, что непротиворечивость ФЗ и степень непротиворечивости АБС сохраняется относительно операций построения линейной комбинации и линейной оболочки; формально установлены существование и единственность минимального (по включению интервальных оценок вероятностей) результата операции накрывающей непротиворечивости в случае непротиворечивых исходных данных;

5) разработаны метод локального апостериорного вывода для детерминированного свидетельства в случае скалярных оценок вероятности истинности и метод оценки чувствительности ненормированных результатов этого вида вывода к допустимой вариации оценок истинности на основе использования соответствующих матрично-векторных уравнений и неравенств; обобщен метод локального апостериорного вывода на случаи других сочетаний видов свидетельства и оценок; доказана непротиворечивость результатов локального апостериорного вывода в случае непротиворечивых исходных данных;

6) разработан основанный на использовании виртуальных свидетельств метод распространения влияния стохастического свидетельства, поступившего во фрагмент знаний ациклической алгебраической байесовской сети со скалярными оценками истинности, на другие фрагменты знаний; дана оценка сложности – 30 – алгоритмов, участвующих в реализации метода, и выявлена лежащая в основе указанного метода особенность вероятностной семантики АБС (справедливость гипотезы условной независимости); разработан метод преобразования ациклической байесовской сети доверия (со случайными бинарными элементами в узлах) в ациклическую байесовскую сеть с сохранением вероятностной семантики;

7) разработаны методы проверки и поддержания непротиворечивости фрагментов знаний с альтернативной структурой (ФЗ на основе идеала дизъюнктов, набора пропозиций-квантов, расширенный ФЗ);

8) разработан метод преобразования цикла фрагментов знаний АБС в цепь смежности фрагментов знаний и проверки непротиворечивости указанных объектов; оценена вычислительная сложность преобразования и проверки непротиворечивости для циклов с фрагментами знаний, пересекающимися только попарно; разработаны методы преобразования (с сохранением вероятностной семантики) направленного цикла байесовской сети доверия во фрагмент знаний АБС, в цикл смежности фрагментов знаний АБС и цепь смежности; разработан основывающийся на указанных преобразованиях метод проверки непротиворечивости направленного цикла байесовской сети доверия; построены контрпримеры, служащие доказательством того, что не существует БСД-исчисления, которое бы позволило, с одной стороны, сохранить традиционную вероятностную семантику байесовской сети доверия, а с другой допустить наличие направленного цикла в такой сети;

9) спроектирован и реализован с использованием среды NetBeans комплекс java-программ, поддерживающий представление алгебраических байесовских сетей и их фрагментов, а также выполнение описанных в диссертации операций логико-вероятностного вывода для проведения вычислительных экспериментов;

кроме того, разработана структура реляционной базы данных, позволяющая хранить указанные объекты и результаты логико-вероятностного вывода; разработанная структура базы данных реализована в JavaDB.

Список литературы 1. Городецкий В. И. Алгебраические байесовские сети новая парадигма экспертных систем // Юбилейный сборник трудов институтов Отделения информатики, вычислительной техники и автоматизации РАН. Т. 2. М.: РАН, 1993. С. 120–141.

2. Bool G. An Investigation of the Laws of Thought, on Which Are Founded the Mathematical Theories of Logic and Probabilities. Cambridge: Macmillan / London: Walton & Maberly, 1854. (Reprinted in 1951, Dover Publications, New York.) 424 p.

3. Cowell R. G., Dawid A. Ph., Lauritzen S. L., Spiegelhalter D. J. Probabilistic Networks and Expert Systems. Berlin: Springer, 2003. 321 p.

4. Fagin R., Halpern J. Y., Megiddo N. A Logic for Reasoning about Probabilities. Report RJ 6190 (60900) 4/12/88. pp. 1–41.

5. Fagin R., Halpern J. Y. Uncertainty, Belief, and Probability–2 // Proc. of the IEEE Symposium on Logic and Computer Science. 1991. Vol. 7. P. 160–173.

6. Halpern J. Y. Reasoning about uncertainty. Cambridge: The MIT Press, 2003. 483 p.

7. Jensen F. V. Bayesian Networks and Decision Graphs. NY.: Springer, 2001. 268 p.

8. Kindermann R., Snell J. L. Markov Random Fields and Their Applications. Providence, RI: Amer. Math. Soc., 1980. 142 p.

9. Kyburg H. E., Teng C. M. Uncertain inference. Cambridge: Cambridge University Press, 2001. 298 p.

10. Korb K. B., Nicholson A. E. Bayesian Artificial Intelligence. NY.: Chapman and Hall/CRC, 2004. 364 p.

11. Neapolitan R. E. Learning Bayesian Networks. Pearson Prentice Hall, 2003. 674 p.

12. Nilsson N. J. Probabilistic Logic // Artificial Intelligence. 1986. Vol. 47. Amsterdam:

Elsevier Science Publishers B.V., 1986. P. 71–87.

13. Nilsson N. J. Probabilistic Logic Revisited // Artificial Intelligence. 1993. Vol. 59.

Amsterdam: Elsevier Science Publishers B.V., 1993. P. 31–36.

14. Parsons S. Qualitative methods for reasoning under uncertainty. Cambridge, MS: The MIT Press, 2001. 506 p.

– 31 – 15. Perl J. Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference.

NY etc.: Morgan Kaufmann Publ., 1994. P. 552.

ОСНОВНЫЕ ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ Монографии, прошедшие научное рецензирование 16. Тулупьев А. Л. Алгебраические байесовские сети: теоретические основы и непротиворечивость. СПб.: СПИИРАН, 1995. 76 с.

17. Тулупьев А. Л. Алгебраические байесовские сети: логико-вероятностный подход к моделированию баз знаний с неопределенностью. СПб.: СПИИРАН, 2000. 282 с.

18. Тулупьев А. Л., Николенко С. И., Сироткин А. В. Байесовские сети: логиковероятностный подход. СПб.: Наука, 2006. 607 с.

19. Тулупьев А. Л. Байесовские сети: логико-вероятностный вывод в циклах. СПб.:

Изд-во С.-Петерб. ун-та, 2008. 140 с.

20. Тулупьев А. Л., Сироткин А. В., Николенко С. И. Байесовские сети доверия: логиковероятностный вывод в ациклических направленных графах. СПб.: Изд-во С.Петерб. ун-та, 2009. 400 с.

Статьи в изданиях, входивших на момент публикации в Перечень ведущих рецензируемых научных журналов и изданий, рекомендованных ВАК 21. Городецкий В. И., Тулупьев А. Л. Формирование непротиворечивых баз знаний с неопределенностью // Известия РАН. Сер. Теория и системы управления. 1997.

№ 5. С. 33–42.

22. Тулупьев А. Л. Генерация множества ограничений на распределение оценок вероятности над идеалом цепочек конъюнкций // Вестник молодых ученых. 2004. № 4.

Сер. Прикладная математика и механика. 2004. № 1. С. 35–43.

23. Тулупьев А. Л., Николенко С. И., Сироткин А. В. Синтез согласованных оценок истинности утверждений в интеллектуальных информационных системах //Известия высших учебных заведений: Приборостроение. 2006. № 7. С. 20–26.

24. Тулупьев А. Л., Николенко С. И., Никитин Д. А., Сироткин А. В. Синтез апостериорных оценок истинности суждений в интегрированных базах знаний: детерминированный вариант // Известия высших учебных заведений: Приборостроение.

2006. № 11. С. 35–39.

25. Тулупьев А. Л., Николенко С. И., Сироткин А. В. Синтез апостериорных оценок истинности суждений в интегрированных базах знаний: стохастический вариант // Известия высших учебных заведений: Приборостроение. 2006. № 11. С. 39–44.

26. Тулупьев А. Л., Сироткин А. В. Алгебраические байесовские сети: принцип декомпозиции и логико-вероятностный вывод в условиях неопределенности // Информационно-измерительные и управляющие системы. 2008. № 10, т. 6. С. 85–87.

27. Тулупьев А. Л. Преобразование ациклических байесовских сетей доверия в алгебраические байесовские сети // Известия высших учебных заведений: Приборостроение. 2009. № 3. С. 21–23.

28. Тулупьев А. Л. Алгебраические байесовские сети: система операций локального логико-вероятностного вывода // Информационно-измерительные и управляющие системы. 2009. № 4. С. 41–44.

29. Тулупьев А. Л. Непротиворечивость оценок вероятностей в идеалах конъюнктов и дизъюнктов // Вестник СПбГУ. Сер. 10. 2009. Вып. 2. С. 121–131.

30. Тулупьев А. Л. Согласованность данных и оценка вероятности альтернатив в цикле стохастических предпочтений // Известия высших учебных заведений: Приборостроение. 2009. № 7. С. 3–7.

По теме диссертации с 1995 г. опубликованы в других изданиях 64 научные статьи и доклада, прошли государственную регистрацию во ВНТИЦ и одновременно отраслевую регистрацию в ОФАП Госкоорцентра 6 программ для ЭВМ, еще 3 программы для ЭВМ прошли регистрацию в Роспатенте с получением Свидетельств об официальной регистрации программы для ЭВМ.

Копии регистрационных документов помещены в приложение к диссертации.







© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.