WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     || 2 |
-- [ Страница 1 ] --

НЕЙРО-СЕТЕВЫЕ ТЕХНОЛОГИИ Кризис сметает слабых. Сильные же не только выживают, но и увеличивают доход ность бизнеса, быстрее других осваивая новые средства и возможности. Дально видные и предприимчивые

сегодня получи ли реальный шанс потеснить вчерашних лидеров, используя новейшие технологии в бизнесе.

Для тех, кто хочет преуспеть в бизнесе и стать лидером на рынке!

Учебный курс "Применение нейронно-сетевых алгоритмов на базе системы MATLAB в экономическом и финансовом прогнозировании".

В программе курса - теория нейронных сетей, прогнозирование финан совых потоков, оценка индексов курсов акций, оценка кредитного риска, нейронные сети для блестящей игры на торговом рынке.

Информация о ближайших курсах - http://www.matlab.ru/lection/ Консультационный Центр MATLAB www.matlab.ru (095)232-00-23 info@matlab.ru А.Б.Барский НЕЙРОННЫЕ СЕТИ:

распознавание, управление, принятие решений Москва "Финансы и статистика" 2004 УДК 004.89.032.2 ББК 32. Б Серия «Прикладные информационные технологии» Основана в 1997 г.

Главный редактор серии доктор технических наук, профессор С. В. Черемных РЕЦЕНЗЕНТ:

Н. Г. Ярушкина, доктор технических наук, профессор, заведующая кафедрой «Информационные системы» Ульяновского государственного технического университета Барский А. Б.

Б26 Нейронные сети: распознавание, управление, принятие решений. — М.: Финансы и статистика, 2004. — 176 с: ил. — (Прикладные информационные технологии).

ISBN 5-279-02757-Х Рассматривается применение нейросетевых технологий при построении информационных и управляющих систем в науке, экономике, финансах и ис кусстве. Исследуются вопросы разработки нейросетей «под задачу», представ ления исходной и обработки выходной информации. Предлагаются простые методы обучения в статическом и динамическом режимах. Обсуждаются осо бенности систем принятия решений, самообучающихся управляющих сис тем, систем логического вывода, банковского мониторинга, безопасности, за щиты информации, политического и социального прогноза, бизнеса развле чений и туризма.

Для студентов технических и экономических вузов, аспирантов, инжене ров и исследователей в области современных информационных технологий.

УДК 064.89.032. ББК 32. ISBN 5-279-02757-Х © Барский А. Б., К ЧИТАТЕЛЮ Книга А.Б. Барского посвящена важнейшему направлению искусственного интеллекта — нейронным сетям. Построение ней ронной сети — это попытка создания искусственной нервной сис темы, в состав которой входит и человеческий мозг. Сами нейро ны — это десятки миллиардов элементарных объектов, которые за нас с вами «думают», и исследователю в этой области необходимо понять, каким образом происходит этот процесс «думания», как человеческий мозг обучается обрабатывать информацию, и делать соответствующие выводы. Смысл существования нейронной се ти, как подчеркивает автор, заключается в обучении и адаптации.

Автор акцентирует наше внимание на принципах ассоциатив ного мышления, так свойственного человеку в его деятельности.

Именно ассоциативное мышление лежит в основе распознава ния, движения, управления, принятия решений. Это в значитель но большей степени приближает нас к проблемам искусственного интеллекта, в то же время логически подводя к моделям управле ния в экономике, бизнесе, финансах, производстве и т.д.

Назовем лишь некоторые из широко известных областей, где эффективно работают так называемые нейросетевые технологии, которые не имеют «солидного», как говорят математики, обосно вания. Это страховая деятельность банков;

прогнозирование банкротств, денежных потоков, налоговых поступлений;

оценка кредитного риска, эффективности биржевой деятельности;

предсказание результатов займов и многое другое.

Ключевым инструментом здесь являются искусственные ней ронные сети, реализуемые на основе специализированных паке тов программ. Разве это не парадокс — всеобъемлющей теории нет, а пакет программ уже есть! Например, пакет прикладных программ Excel Neural Package, использующий в качестве функ ций активизации гиперболический тангенс, а в качестве алгорит ма обучения — алгоритм Rprop.

Кроме того, нейронные сети применяются для грамотного сравнения финансово-экономических программных систем.

Обычно это делается на базе экспертных оценок, но такой подход необъективен. Нужна хотя бы и неполная, но формализация. Она возможна, например, на основе Самоорганизующихся Карт Ко хонена (СОК) с использованием программного пакета Viscovery SOMine. Возможна потому, что здесь в полной мере могут быть задействованы такие уникальные свойства искусственных ней ронных сетей, как способность к обучению, выявлению скрытых закономерностей, накоплению опыта.

Оригинальный подход автора обеспечивает доходчивость из ложения проблем искусственного интеллекта и перспективу его практического воплощения. Этот подход основан на принципах построения электронных схем вычислительных устройств, отоб ражающих такие основы математической логики, как булевы функции. Конечно, при этом имелось в виду по большей части программное обеспечение ЭВМ, нежели ее аппаратура.

Перспектива построения систем искусственного интеллекта во многом основана именно на математической логике. Обобщение понятия булевых функций с большей степенью адекватности при водит к воссозданию принципов мозга — к построению схем ассо циативного мышления. Для этого необходимо перейти от опери рования над булевыми переменными к операциям над действи тельными, отражающими оценку или достоверность исходных данных. А это тотчас же потребует замены "конъюнкторов" и "дизъюнкторов" на универсальный логический элемент — нейрон, выполняющий простую пороговую передаточную функцию. • Автор является специалистом в области организации и пла нирования параллельных вычислительных процессов. Это и обусловило его подход к изучению нейронных сетей, а также к их воспроизведению на нейрокомпьютере как параллельных вычис лительных устройств и систем, имитирующих ассоциативное мышление. Это же обусловило схемотехнический подход к пост роению и обучению нейронных сетей.

Книга написана с юмором, живым, образным языком. Она бу дет интересна широкому кругу читателей и как учебное пособие, и как научно-популярное издание, и как практическое руководство.

С.В. Черемных, доктор технических наук, профессор, заведующий кафедрой математики и информационных технологий ' Московской академии предпринимательства при Правительстве г. Москвы ПРЕДИСЛОВИЕ По нейронным сетям накоплен огромный материал, способ ный привести в растерянность неискушенного читателя, пытаю щегося понять, что такое нейросети. С этой проблемой столкнул ся автор данной книги при чтении курса лекций по нейроинфор матике студентам технического вуза, обладающим традицион ным объемом математических знаний, и несформированным формально-логическим мышлением. Помогла схемотехническая направленность их знаний в области конструирования электрон ных схем и программирования. Устранение излишней «матема тизированности» проблемы и смещение ее на уровень прагмати ческий, оперирующий лишь с простыми логическими элемента ми, — одна из основных целей настоящей книги.

Как же добиться доступности изложения? Один путь уже ука зан: использование простых принципов схемотехники. Другой путь — в применении методов распараллеливания обработки ин формации, присущих такой универсальной нейронной сети, ка кой является мозг. Однако параллельные вычислительные про цессы «обладают» теорией, несложными методами расчета и ор ганизации, известными специалистам. Представляется логич ным приложение простейших методов и концепции распаралле ливания к такой же параллельной системе, как нейросеть.

Подобный подход оказался плодотворным и, в частности, привел к простым и уже знакомым аудитории алгоритмам обуче ния нейросети, позволяющим полностью устранить взаимное влияние эталонов, по которым производится обучение.

И наконец, основной способ достижения доступности изло жения состоит в строгом следовании идеям искусственного ин теллекта, воспроизводящим работу мозга. Именно в этом случае нейросети обеспечивают простое и естественное решение тех проблем, о которых заявлено в названии книги.

Мозг умеет все, и, что очень важно, логика его работы весьма проста. Она использует связи «если - то», «посылка - следствие».

Более того, это основные отношения, складывающиеся на этапе обучения в незримые таблицы. В свою очередь, основной вопрос:

«На что более всего похож предъявляемый образ и что из этого следует?», в то же время является основной функцией обучения нейросети, воспроизводящей работу мозга и ассоциативное мышление. И мы уже видим, как с помощью такого принципа ре шаются представленные здесь задачи.

Защищая принципы искусственного интеллекта и нейросете вые технологии, спросим читателя, много ли он считает, т.е. опе рирует с числами, в своей обыденной жизни? Как находит угол поворота-рулевого колеса, чтобы удержать автомобиль на дороге?

Как выбирает значения массы параметров, чтобы попасть мячом в баскетбольную корзину? Как вообще он передвигается по доро ге, не спотыкаясь о бугорки и обходя лужицы?

Интерполируя по тем самым незримым таблицам, реализо ванным и развиваемым в нейронной сети нашего мозга, мы мо жем безбедно прожить жизнь, не ставя перед собой тяжелых творческих задач. И только взаимодействие таких таблиц, содер жащихся в них отношений (в совокупности с образной памятью), позволяет строить логические цепочки, называемые умозаклю чениями.

Книга содержит девять разделов. В разд. 1 обсуждаются проб лемы построения и применения нейронных сетей. В разд. 2 стро ится обученная нейросеть на основе «схемотехнического» подхо да. В разд. 3 приводятся пример и формальный алгоритм обуче ния нейронной сети методом трассировки. В разд. 4 исследуется проблема динамического, постепенного обучения нейросети в процессе ее эксплуатации. В разд. 5 рассматривается построение нейронных сетей с обратными связями. Разд. 6 посвящен постро ению самообучающихся систем управления. В разд. 7 представле на нейросетевая реализация АЛГОЛ-программы. В разд. 8 аппа рат «карт Кохонена», реализуется на универсальной нейросети, позволяющей значительно увеличить число рассматриваемых факторов. Разд. 9 посвящен перспективе применения нейросете вых технологий в сфере обеспечения безопасности, в системах защиты информации, при управлении следованием поездов и др.

Книга рассчитана на любознательных, предприимчивых компьютерщиков и программистов, желающих найти область приложения своим интересам для личных успехов в Computer Art Studio в науке, экономике и бизнесе, а также в индустрии развле чений и зрелищ.

ВВЕДЕНИЕ В моменты принятия сложных решений человек старается «заглянуть в себя» и постичь, каким образом он справляется с трудными и порой не решаемыми формальной логикой задачами.

Естественное беспокойство и жажда познания обуревают его на ряду со смутным сознанием того, что математический, алгорит мический подход к построению сложных кибернетических сис тем искусственно абсолютизирован. Все должно быть к месту, все должно быть взвешено, И обращаясь к себе, он раз за разом про водит мозговую атаку на то таинственное, созданное природой — на собственный мозг...

Итак, мы вступаем в самую сокровенную область искусствен ного интеллекта.

Мы смелы и безапелляционны. Долго и систематически на саждаемая духовная нищета заставила нас позабыть о превалиру ющем духовном начале в человеке. Все больше людей понимают, что мозг — лишь инструмент духа, души. И как любой инстру мент, он производится, тупится и приходит в негодность — уми рает. Бессмертной остается душа — продукт тонкого мира, мира сверхвысоких частот и, по мнению некоторых философов, нас тойчиво проявляющейся психической энергии.

А раз мозг — инструмент, его надо тренировать, заполнять, со вершенствовать. В природе царит принцип целесообразности, полезности в борьбе за главную установку — установку на разви тие. Нужное существует и утверждается, ненужное отмирает, как отмирают неиспользованные, «лишние» нейроны, порождая склеротическую ткань и разъедающую интоксикацию. И челове ка ленивого, праздного, недеятельного охватывает преждевре менное старческое слабоумие. «Душа обязана трудиться», — ска зал поэт Н. Заболоцкий. Эту истину мы открываем вновь, с дру гой, неожиданной стороны...

Мы принимаем сказанное и успокаиваемся. Не вторгаемся мы в то, что для нас сейчас непостижимо, что пока нам не дано.

Но кто знает? И на всякий случай мы вооружаемся иронией, пре одолевая «сопротивление материала». Ирония позволяет и ска зать, и не сказать, предположить, но тотчас, прикрываясь шут кой, трусливо отступить. Только иронией можно защитить себя от мистических страхов, возникающих на трудном пути позна ния.

Внимание ученых к логическому моделированию процессов головного мозга [1—6] обусловили следующие причины:

• высокая скорость выполнения сложных логических конструкций — предикатов с высоким параллелизмом действий;

• простота алгоритмов логических действий мозга, основан ная не на численном манипулировании, а на принципах ассоци ативного мышления;

• возможность решения трудно формализуемых задач, в кото рых совместно используются данные логически несовместимой природы, противоречивые, неполные, «зашумленные», некоррек тные;

• устойчивость работы, совместимая с расширением, транс формированием и совершенствованием знаний;

• надежность, обеспечиваемая наличием многих путей логи ческого вывода и способностью восстановления утраченных дан ных;

• возможность построения самообучающихся и самонастраи вающихся систем;

• прекрасная сочетаемость с традиционными «вычислитель ными» алгоритмами обработки информации, позволяющая стро ить сложные системы управления, - с максимальной надеж ностью, адаптивностью и с минимумом расходуемых ресурсов;

• отсутствие требований к «традиционно» развиваемым вы числительным средствам. Единственный стимулируемый прин цип — параллелизм. Для реализации параллельной системы — нейросети — необходима параллельная вычислительная система.

Ведь для выявления параллелизма, в частности, мы и обращаем ся к модели мозга! Наряду с разработкой параллельных вычисли тельных устройств — нейрокомпьютеров — стимул к развитию по лучают сети ЭВМ для реализации в них «больших» нейросетей.

Особый интерес ученых и разработчиков сложных управляю щих систем к нейросетевым технологиям, как и к другим техно логиям искусственного интеллекта, возник в начале 1980-х годов (известный «японский вызов» [7]), когда остро встала проблема сверхвысокой производительности вычислительных средств.

Приняв этот вызов, многие исследователи обратили внима ние на принцип самообучения. Следует отметить краткое, но полное рассмотрение этой проблемы В.В. Игнатущенко [8].

Благотворное влияние на развитие нейросетевых технологий оказало создание методов параллельной обработки информации [9].

Необходимо выразить признательность замечательному хи рургу, философу и кибернетику Н.М. Амосову [10], вместе с уче никами систематизировавшему подход к созданию средств искус ственного интеллекта (ИИ). Этот подход заключается в следую щем.

В основе стратегий ИИ лежит понятие парадигмы — взгляда (концептуального представления) на суть проблемы или задачи и принцип ее решения. Рассматривают две парадигмы искусствен ного интеллекта.

1. Парадигма эксперта предполагает следующие объекты, а также этапы разработки и функционирования системы ИИ:

• формализация знаний — преобразование экспертом проб лемного знания в форму, предписанную выбранной моделью представления знаний;

• формирование базы знаний (БЗ) - вложение формализо ванных знаний в программную систему;

• дедукция — решение задачи логического вывода на основе БЗ.

Эта парадигма лежит в основе применения экспертных сис тем, систем логического вывода, в том числе на языке логическо го программирования ПРОЛОГ. Считается, что системы на осно ве этой парадигмы более изучены.

2. Парадигма ученика, включающая следующие положения и последовательность действий:

• обработка наблюдений, изучение опыта частных примеров — формирование базы данных (БД) системы ИИ;

• индуктивное обучение — превращение БД в БЗ на основе обобщения знаний, накопленных в БД, и обоснование процеду ры извлечения знаний из БЗ. Это означает, что на основе данных делается вывод об общности той зависимости между объектами, которую мы наблюдаем. Основное внимание здесь уделяется изу чению аппроксимирующих, вероятностных и логических меха низмов получения общих выводов из частных утверждений. За тем мы можем обосновать, например, достаточность процедуры обобщенной интерполяции (экстраполяции), или процедуры ас социативного поиска, с помощью которой будем удовлетворять запросы к БЗ;

• дедукция — по обоснованной или предполагаемой процеду ре мы выбираем информацию из БЗ по запросу (например, опти мальную стратегию управления по вектору, характеризующему сложившуюся ситуацию).

Исследования в рамках этой парадигмы и ее разработка про ведены пока слабо, хотя они лежат в основе построения самообу чающихся систем управления (ниже будет приведен замечатель ный пример самообучающейся системы управления — правила стрельбы в артиллерии).

Чем база знаний, общий и обязательный элемент системы ИИ, отличается от базы данных? Возможностью логического вы вода!

Теперь обратимся к «естественному» интеллекту. Природа не создала ничего лучшего, чем человеческий мозг. Значит, мозг яв ляется и носителем базы знаний, и средством логического выво да на ее основе независимо от того, по какой парадигме мы орга низовали свое мышление, т. е. каким способом заполняем базу знаний, — учимся!

Д.А. Поспелов в замечательной, единственной в своем роде, работе [11] освещает высшие сферы искусственного интеллекта — логику мышления. Цель данной книги — хотя бы частично препа рировать нейросеть как средство мышления, тем самым привле кая внимание к низшему, начальному звену всей цепи методов искусственного интеллекта.

Отбросив мистику, мы признаем, что мозг представляет собой нейронную сеть, нейросеть, - нейроны, соединенные между со бой, со многими входами и единственным выходом каждый.

Нейрон реализует достаточно простую передаточную функцию, позволяющую преобразовать возбуждения на входах, с учетом ве сов входов, в значение возбуждения на выходе нейрона. Функци онально законченный фрагмент мозга имеет входной слой ней ронов — рецепторов, возбуждаемых извне, и выходной слой, ней роны которого возбуждаются в зависимости от конфигурации и величины возбуждения нейронов входного слоя. Предполагает ся, что нейросеть, имитирующая работу мозга, обрабатывает не сами данные, а их достоверность, или, в общепринятом смысле, вес, оценку этих данных. Для большинства непрерывных или дискретных данных их задание сводится к указанию вероятности диапазонов, которым принадлежат их значения. Для большого класса дискретных данных — элементов множеств — целесообраз но жесткое закрепление нейронов входного слоя.

Распределение величин возбуждения нейронов выходного слоя, а чаще всего нейрон, обладающий максимальной величи ной возбуждения, позволяют установить соответствие между комбинацией и величинами возбуждений на входном слое (изоб ражение на сетчатке глаза) и получаемым ответом (что это). Та ким образом, эта зависимость и определяет возможность логи ческого вывода вида «если — то». Управление, формирование данной зависимости осуществляются весами синапсических свя зей нейронов, которые влияют на направления распространения возбуждения нейронов в сети, приводящие на этапе обучения к «нужным» нейронам выходного слоя, т.е. служат связыванию и запоминанию отношений «посылка — следствие». Связь подструктур нейросети позволяет получать «длинные» логичес кие цепочки на основе подобных отношений.

Отсюда следует, что сеть работает в двух режимах: в режиме обучения и в режиме распознавания (рабочем режиме).

В режиме обучения производится формирование логических цепочек.

В режиме распознавания нейросеть по предъявляемому образу с высокой достоверностью определяет, к какому типу он относит ся, какие действия следует предпринять и т.д.

Считается, что в человеческом мозге до 100 млрд нейронов.

Но сейчас нас не интересует, как устроен нейрон, в котором нас читывают до 240 химических реакций. Нас интересует, как рабо тает нейрон на логическом уровне, как выполняет он логические функции. Реализация лишь этих функций должна стать основой и средством искусственного интеллекта. Воплощая эти логичес кие функции, мы готовы нарушить основные законы физики, например закон сохранения энергии. Ведь мы рассчитываем не на физическое моделирование, а на доступное, универсальное — компьютерное.

Итак, мы сосредоточиваем внимание на «прямом» использо вании нейросетей в задачах искусственного интеллекта. Однако их применение распространяется на решение и других задач. Для этого строят нейросетевые модели со структурой, ориентирован ной на данную задачу, используют специальную систему связей нейроподобных элементов, определенный вид передаточной функции (часто используют так называемые сигмоидные связи, основанные на участии экспоненты при формировании переда точной функции), специально подобранные и динамически уточняемые веса. При этом используют свойства сходимости ве личин возбуждения нейронов, самооптимизации. При подаче входного вектора возбуждений через определенное число тактов работы нейросети значения возбуждения нейронов выходного слоя (в некоторых моделях все нейроны входного слоя являются нейронами выходного слоя и других нет) сходятся к неким вели чинам. Они могут указывать, например, на то, какой эталон в большей степени похож на «зашумленный», недостоверный входной образ, или на то, как найти решение некоторой задачи.

Например, известная сеть Хопфилда [12], хоть и с ограничения ми, может решать задачу коммивояжера - задачу экспоненциаль ной сложности. Сеть Хемминга [5] успешно реализует ассоциа тивную память. Сети Кохонена (карты Кохонена) [3] эффектив но используют принцип кластеризации и широко применяются в экономике, финансах, бизнесе и т.д. Эффективно применяются нейросети для аппроксимации функций многих переменных в виде рекурсивного разложения в базисе передаточной функции.

В указанном выше применении нейросети выступают в роли спецпроцессоров для «быстрого» решения частных задач или клас сов задач. Это можно сравнить с применением аналоговых ЭВМ для решения систем дифференциальных уравнений, где програм мирование заключается в формировании электрической цепи из элементов заданного набора в соответствии с системой уравне ний, а установившийся процесс позволяет на выходе снимать значения функций — решений.

Когда хотят подчеркнуть такие «вычислительные» примене ния нейросетей, то говорят о нейроподобных задачах, и это не должно отвлекать нас от действий в рамках ИИ, направленных на решение трудно формализуемых задач, на простоту и универсаль ность, свойственные мозгу.

основы НЕЙРОСЕТЕВЫХ ТЕХНОЛОГИЙ 1.1 Модель мозга Нейросеть содержит узлы — аналоги нервных клеток — нейро нов (нейроподобных элементов, НПЭ) и их соединения — синапси ческие связи (рис.1.1).

Ряс. 1.1. Нейрон Модель нейрона во взаимодействии с другими нейронами нейросети представлена на рис. 1.2.

Здесь — энергетические доли импульсов выработанных другими нейронами и поступивших на дендриты нейрона веса дендритов;

- пороги. В свою очередь, выработанный им пульс также распространяется по дендритам нейронов, с кото рыми связан нейрон с помощью ветвящегося аксона. В соответ ствии с законом распределения энергии величина про порционально значениям весов дендритов «принимающих» ней ронов. (В практических моделях такое распределение энергии обычно не реализуют.) Рис. 1.2. Модель нейрона Каждый нейрон управляем или извне, или по принципу само управления с помощью обратных связей. Можно регулировать значения весов синапсических связей и значения порогов Та кое регулирование, реализованное в разных моделях, и определя ет возможность обучения и самообучения сети. Оно задает пути прохождения возбуждений через сеть, простейшим образом фор мируя связи «посылка — следствие».

Изображенный на рис. 1.3 фрагмент нейросети позволяет представить следующее:

Рис. 1.3. Фрагмент нейросети • функции f бывают различны, но просты по объему вычис лений. В простейшем случае f совпадает с линейной формой — указанным аргументом, т. е. по всем дендритам с учетом их весов (см. рис. 1.3) производится суммирование и сравнение с порогом:

• величина превышения порога является величиной возбуж дения нейрона или определяет значение величины возбуждения.

Например, в некоторых моделях величина возбуждения всегда равна единице, отсутствие возбуждения соответствует нулю. В других моделях допускают и отрицательную величину возбужде ния. Значение возбуждения передается через ветвящийся аксон в соответствии со связями нейрона;

• в общем случае по дендритам может передаваться как воз буждающее, так и тормозящее воздействие. Первое может соот ветствовать положительному значению веса синапсической свя зи, второе — отрицательному. Аналогичный эффект достигается при передаче отрицательных значений возбуждения нейронов;

• в сети распознают входной (рецепторный) слой, воспринима ющий внешние возбуждения (на который, например, подается видеоизображение), и выходной спой, определяющий решение за дачи. Работа сети тактируется для имитации прохождения по ней возбуждения и управления им;

• сеть работает в двух режимах: режиме обучения и режиме рас познавания (рабочем режиме).

Установим случайным образом начальные значения весов дендритов всей сети. Пусть нейросеть предназначена для распоз навания рукописного текста. Тогда входной слой функционирует аналогично сетчатке глаза, которая воспринимает изображение.

Его подача на входной слой возбуждает в некоторой конфигура ции множество нейронов — рецепторов. Предположим, на вход ной слой подан и поддерживается некоторый эталон, например буква А. Спустя определенное время максимально возбудится не который нейрон выходного слоя (прохождение возбуждения от мечено на рис. 1.3 черным цветом). Закрепим этот нейрон за бук вой А, т.е. его возбужденное состояние будем воспринимать как ответ: «Это буква А». Снова введем букву А, но с естественными искажениями, обусловленными почерком, дрожанием руки и т.д.

Возможно максимально возбудится тот же нейрон, а возможно — другой. Мы же хотим «научить» систему, заставить ее ответить, что это - тоже буква А, т.е. добиться максимального возбуждения то го же нейрона выходного слоя.

Тогда необходимо изменить веса и, возможно, пороги в сети на пути прохождения возбуждения так, чтобы заставить возбу диться нужный нейрон. Такая настройка сети является основ ным, наиболее важным элементом ее обучением. Применяемые для этого алгоритмы называют алгоритмами обучения.

Одним из наиболее часто применяемых алгоритмов обучения является алгоритм обратного распространения ошибки. В нем воспроизводится подход, используемый в динамическом прог раммировании и основанный на обратном и прямом проходах.

Здесь мы предлагаем новый, более простой алгоритм "трассиров ки", основанный на прямом проходе при прокладывании путей;

возбуждения от эталонов к нейронам выходного слоя.

Предъявляя множество эталонов и регулируя параметры, про изводим обучение сети данному образу. Математические пробле мы несовместимости управления параметрами для разных этало нов в данном случае не рассматриваются: в природе такой про цесс проходит успешно, достаточно устойчиво при разумном от личии эталонов. Ясно, например, что заставлять один и тот же нейрон выходного слоя возбуждаться и на строчную, и на про писную букву А вряд ли разумно. В лучшем случае он определит, что это вообще буква, а не знак пунктуации.

Обучение заканчивается тогда, когда вероятность «узнава ния» достигнет требуемого значения, т.е. необходимость коррек тировки параметров по предъявляемым эталонам возникает все реже. Теперь можно работать в режиме распознавания. Предъяв ляем сети различные буквы. Можно быть уверенным, что, если мы предъявим случайно искаженную и даже зашумленную букву А (конечно, в допустимых пределах), сеть ее с большой вероят ностью распознает, т. е. максимально возбудится соответствую щий нейрон выходного слоя.

Можно существенно облегчить обучение, предъявляя эталон «в полном смысле», т.е., например, показывая букву, регламенти рованную букварем. Тогда на вероятность распознавания этой буквы будет влиять предусмотренная степень отклонения от дан ного эталона, обусловленная почерком. Далее необходимо при держиваться именно такого способа обучения.

Расширим функцию входного слоя, связав его не с изображе нием, а в общем случае с некоторыми характеристиками исход ной ситуации (входного вектора), по которой необходимо прини мать решение — формировать выходной вектор. Тогда сеть обуча ется по эталонным ситуациям, решение которых известно, а за тем в рабочем режиме выдает решение во всем диапазоне ситуа ций и при этом автоматически определяет, на какую «знакомую» ситуацию более всего похожа введенная и, следовательно, какое решение надо принять.

Такая обработка входной информации при возможном ис пользовании в сфере развлечений показана на рис. 1.4.

Рис. 1.4. Моделирование реакции на изображение Отметим, что нейронная сеть выдает заключение в виде отве та на вопрос: «На какую ситуацию похожа данная и, следователь но, какое должно быть принято решение?» Это еще раз подтвер ждает, что нейросеть имитирует ассоциативное мышление.

Устойчивость 1. и помехозащищенность В рассмотренном в разд. 1.1 примере относительно жесткого закрепления нейронов выходного слоя между образами принцип ассоциативности или ответ на вопрос: «На что более всего это по хоже?», пока не просматривается. Как же он появляется?

Представим себе выходной слой нейросети (рис. 1.5). Рас сматривая прохождение возбуждения, например, при подаче то го же изображения буквы А, считаем, что в возбужденное состоя ние придет не один нейрон, строго соответствующий (по нашему желанию) этой букве, — в его окрестности возбудятся и другие нейроны. Причем возбуждение будет угасать по мере удаления.

Нам же необходимо, чтобы максимальной величиной возбужде ния в этой окрестности обладал именно отмеченный нейрон. Бо лее того, желательно, чтобы эта величина возбуждения была су щественно выше величин возбуждения других нейронов. Это обеспечит однозначность при последующем использовании по лученного вывода в построении «длинных» логических цепочек для принятия решения. Такая локализация возбуждения позво ляет с большой определенностью ответить на вопрос: «На что бо лее всего похож предъявляемый образ, несмотря на случайные от личия его от эталона и помехи?» Отметим существующую в природе (реализованную в мозге) непрерывность перерастания свойства похожести одних образов в другие. Следование этому принципу при принудительном зак реплении нейронов выходного слоя способствует построению адекватных моделей. Говоря точнее, подавая первый раз букву А при случайном начальном выборе весов, не следует указывать системе, какой нейрон выходного слоя должен возбудиться. Луч ше подать достаточно «правильный» эталон и посмотреть, какой нейрон возбудится. Этот нейрон и будет впредь соответствовать нашей букве. Возбуждения именно этого нейрона необходимо добиваться при предъявлении других эталонов.

Рис. 1.5. Возбуждение выходного слоя:

а — область возбуждения букв;

б — область возбуждения цифр;

в — область возбуждения специальны* знаков Далее при построении алгоритма обучения предположим, что первоначально сеть «пуста», т.е. все веса синапсических связей равны нулю. Путь возбуждения (связь «посылка — следствие») прокладывается («трассируется») с помощью присваивания не которым весам положительного значения.

Способы максимизации и локализации уровня возбуждения основаны на нахождении экстремума функции возбуждения, построенной в области выходного слоя. Здесь не обойтись без об мена тормозящими воздействиями между нейронами выходного слоя. Суть идеи в следующем. Все нейроны выходного слоя име ют синапсические связи, такие, что каждый нейрон связан с бли жайшими нейронами тормозящими связями, по модулю пропор циональными величине собственного возбуждения. В результате взаимодействия двух нейронов (один из алгоритмов такого взаи модействия будет рассмотрен ниже) более «сильный» сохранит положительный (хотя и меньший) потенциал, сообщив более «слабому» тормозящее воздействие. Такое пошаговое «голосова ние» на фоне приходящего подтверждения от эталона и выделит сильнейшего.

Итак, мы видим, что обучение сети неразрывно связано с ло кализацией возбуждения на выходном слое.

2* Ввод и «разглядывание» 1. эталонов и образов Устройства ввода информации — эталонов, входных векторов, исходных ситуаций — имеют для нейросети определяющее значе ние. С их помощью формируются и поддерживаются возбужде ния входного слоя. Однако связь модели живого организма с внешней средой сложнее. Это настоящий конгломерат ряда част ных технических и алгоритмических проблем, к которой отно сится успешно решаемая проблема видеоввода. Но ввести в компьютер «картинку» — это лишь поддела. «Картинку» надо об работать в целом и по частям, чтобы получить полную и досто верную информацию. В результате имеем аналог нашего воспри ятия действительности.

Существуют три способа обзора представляемого изображе ния:

• сканирование сектора обзора, разбитого на элементарные сегменты;

• сканирование сектора обзора со «своим окном просмотра»;

• спонтанный обзор, обусловленный вниманием к цветовому или скоростному всплеску, быстрому увеличению размера (угро жающему приближению) объекта, указанию извне (целеуказа нию) и т.д.

Третий способ также основан на сканировании сектора обзора, однако со значительно меньшими энергетическими затратами.

При первом и втором способах анализ сложнее, так как тре бует согласования виденного по сегментам, что, в свою очередь, приводит к включению высших уровней логического вывода (ин теллекта).

Применив третий способ, можно добиться избирательности, чрезвычайности реакции, например, на резкие движения, на бег, на появление яркой расцветки в одежде и т.д., что может с успе хом использоваться в игровых системах.

Все способы реализуются легче, если речь идет о единствен ном объекте единовременного распознавания - букве, хозяине квартиры, подписи и т.д. В случае, если существует множество объектов, например туристская группа, любующаяся «умным» монстром, необходим не только детальный, но и совместный анализ этим монстром всех (многих) ее составляющих.

Впрочем, говоря о туристах, можно вести речь о конечной, ус редненной реакции монстра на всю группу. Производя обзор, уп равляющая им нейросеть постепенно согласно критериям обуче ния «хорошо — плохо» воспринимает настроение как последова тельное проявление радости и огорчения и приходит к некоторо му окончательному состоянию, обусловленному количествен ным эквивалентом того и другого. Для разных групп туристов или экскурсантов это состояние будет разным: либо источником ве селья и шутливого «поощрения» той группы, которая привела объект в радость, либо источником «осуждения» группы, вверг нувшей его в печаль.

Итак, на каждом такте обзора формируется сегмент, содер жимое которого необходимо распознать. Чаще всего целесооб разно допущение о том, что в элементарном сегменте (или в «ок не просмотра») при дискретном сканировании находится не бо лее чем один значимый объект. Пусть это — максимальная об ласть текста, вмещающая единственную букву, написанную с до пустимой долей небрежности. Как разглядеть эту букву? По-ви димому, следует разместить ее на входном слое так, чтобы она максимально соответствовала тому размещению эталонов, с по мощью которых производилось обучение. Тогда распознавание пойдет корректно (рис. 1.6). Такой процесс «разглядывания» предполагает:

• поиск возможности совмещения условного центра элемента изображения и центра экрана — входного рецепторного слоя сети (фокусировку);

• поиск варианта масштабирования элемента изображения (приближение — удаление);

• поиск угла наклона и др.

В результате таких пробных действий может вдруг начаться процесс распознавания, пусть и ошибочного.

Указанный процесс выделения и размещения в попытке инициировать распознавание сравним с концентрацией внима ния и с фокусировкой: ведь зрение в каждый момент времени сконцентрировано на элементе изображения посредством фоку сировки на нем глаз в процессе обзора и разглядывания всего изображения.

Рис. 1.6. Распознавание буквы:

а — наклон головы влево;

б — наклон головы вправо;

в — близко;

г - далеко;

д - угадал 1.4 Пространство признаков Рассмотрим подробнее процесс восприятия, например, строчной буквы а рецепторами — входным слоем нейросети.

Конфигурация возбужденных рецепторов, порождая прохожде ние возбуждения через внутренние слои нейросети (образуя путь возбуждения), задавала возбуждение (не затухшее по пути) одно го из нейронов выходного слоя, определяющего: "Это буква а".

Устойчивость подобной схемы по отношению к множеству конфигураций возбуждений рецепторов, соответствующих одной только букве а, вряд ли высока. Такое непосредственное распознавание осуществляется далеко не всегда, ибо наше обра зование базируется на признаках и определениях (правилах вывода).

Как характеризуется строчная буква а? Это кружок, к которо му справа примыкает палочка с хвостиком вправо. А прописная буква "А"? Две палочки с перекладинкой. Но ведь буква Н тоже соответствует этому определению. Тогда следует добавить: про писная "А" — это две палочки, соединенные вверху. (Кстати, сое динение вверху может быть из-за небрежности лишь обозначено.

Тогда о намеке на него можно судить по наклону палочек. Даль нейшая небрежность приведет к неразличимости букв А и Я.) Значит, существует ряд признаков, лежащих в основе опреде лений. Ясно, что такой способ распознавания гораздо устойчивее к искажениям и особенностям почерка, однозначен и надежен.

Ведь при изображении буквы А возможны не только небрежность в верхнем соединении палочек, но и различный наклон буквы, длина боковых палочек, место расположения перекладины, ее наклон, и т.д. Искажение приведет к сомнениям лишь при сход стве с цифрой 4, с телеграфным столбом или с греческой буквой Л. Но даже в этом случае окончательный вывод может быть сде лан на основе контекста, т.е. по использованию дополнительных признаков.

Значит, в нашем случае необходимо ввести такие признаки, как наличие кружка, палочек, хвостиков, их взаимного располо жения, т.е. построить пространство признаков, преобразовать в это пространство входные изображения, и тогда получим более определенное и устойчивое к искажениям заключение.

Перевод входного изображения в пространство признаков значительно расширяет возможности обзора — масштабирова ния, размещения, поиска угла наклона, т.е. позволяет с более вы сокой достоверностью производить распознавание.

Например, изображение танка может в разных ракурсах накладываться на входной слой рецепторов и запоминаться: «и это — танк», «и это — тоже танк» и т.д. Но если ввести опреде ление «танк — это массивный корпус на гусеничном ходу, а сверху — башня с дулом пушки и все такое зелененькое», то в любом случае при распознавании будут приняты меры предос торожности.

1.5 Кора Понятно, что примитивная оптимизация целевой функции, принимающей только два значения: «хорошо» и «плохо», может быть использована лишь на начальной стадии изучения и приме нения принципов нейросети. В частности, на таких принципах строится модель собачки Павлова, демонстрирующая условный рефлекс при предъявлении этикетки «Pedigree».

Цепочки логических выводов человека содержат не одно, а много звеньев. Сделанные выводы вновь входят в конфигура цию изображений (входных векторов) для новых выводов, действий и т.д.

Буква нужна, чтобы распознать слово;

слово — чтобы распознать предложение, уяснить его смысл, предпринять адек ватные действия и т.д. Возникает вопрос о целесообразной структуре сети, где выводы, собираясь в различные конфигура ции, как бы множась, вновь участвуют в формировании новых выводов. Здесь можно предположить как прямые, так и обрат ные связи, когда попутно сделанные выводы уточняют умозак лючение.

При какой же концентрации выводов совмещаются понятия входного и выходного слоев? Видимо, целесообразно существо вание универсального слоя — коры, со связями между отдельны ми нейронами и целыми областями, где сформировавшиеся вы воды используются для получения других выводов.

Локализация максимального 1. возбуждения на выходном слое Проанализировав сказанное выше, попытаемся собрать не которую универсальную модель нейросети с входным и выход ным слоями. Картина возбуждений выходного слоя при подаче изображения на входной слой после аппроксимации в непрерыв ную область определения из дискретной будет представлять со бой непрерывную функцию, максимум которой определяет необ ходимое заключение. Однако на этапе обучения, а также в рабо чем режиме с удовлетворительной достаточно малой вероят ностью по ряду предъявляемых эталонов этот максимум не сов падает с нужным ответом. Следовательно, путь распространения возбуждений внутри сети необходимо скорректировать измене нием синапсических весов задействованных нейронов.

Как было упомянуто выше, предварительная локализация максимума величины сигнала производится в результате взаимо действия нейронов в области или некоторой окрестности выход ного слоя или коры. Области возбуждений «закрепляются» за ти пами объектов — за буквами, цифрами, продуктами питания и т.д.

В развитой сети с актуальным понятием коры нейроны отдель ных ее областей через нейроны внутренних слоев вновь порожда ют пути прохождения возбуждений в другие области коры и т.д.

Пытаясь проанализировать и воспроизвести универсальную нейросеть, видим, что отдельный нейрон может взаимодейство вать с огромным числом нейронов (нейрон имеет до 10 тыс. денд ритов), но это взаимодействие носит локальный характер. А имен но, несмотря на случайность связей, вероятность связи с «близ ким» нейроном значительно выше вероятности связи с нейроном «далеким». Об этом свидетельствуют исследования длины денд ритов и аксонов: длина дендрита достигает миллиметра, а длина аксона — сотни миллиметров. При этом применяется, по-види мому, усредненная характеристика, вряд ли отражающая нейро ны только головного мозга.

Такой принцип локальности, пронизывающий всю структуру сети, в сочетании с принципом иерархии — возможностью пост роения новых выводов на основе сделанных, позволяет реализо вать связи «каждый с каждым». Никакой вывод не остается не доступным и неиспользованным при построении сложных умо заключений.

Принцип локальности обеспечивает минимизацию входной информации, существенное влияние лишь значимых признаков на заключение, контролируемое и диагностируемое пофункцио нальное разбиение областей нейросети, определение и выделе ние той области нейросети, в синапсические веса которой необ ходимо внести поправки в процессе обучения.

Данный принцип не отвергает существования маловероятных связей «каждого с каждым». Эта вероятность может быть высо кой вследствие аномалий генетического характера. Например, некий уникум способен «видеть» кожей: нейроны, воспринима ющие кожные ощущения, сильно связаны с нейронами выходно го слоя, «отвечающими» за зрение. При слабых связях распрост ранение возбуждения от кожных рецепторов в сторону «зритель ных» нейронов гаснет. В данном же случае оно становится ре зультативным, поскольку в целом все нейроны устроены одина ково.

Большое число связей способствует высокой надежности мозга. Ведь ежедневная гибель огромного числа нейронов, под хлестнутая алкоголем и наркотиками, а также травмы компенси руются другими путями прохождения возбуждений, иногда даже связанными с Необходимостью переобучения. Впрочем, огра ниченный ресурс возможного не спасает в конце концов от дег радации.

Рассмотрим теперь более подробно процесс локализации мак симальной величины возбуждения на выходном слое, заключаю щейся в выделении того нейрона некоторой малой области, вели чина возбуждения которого максимальна. Он основан на подав лении тех сигналов, которые не соответствуют нейрону с макси мальным возбуждением т.е. концентрация сигнала и выделение нейрона с максимальной величиной возбуждения достигаются с помощью подавляющих связей «соседних» нейронов выходного слоя.

Пусть нейронам выходного слоя, условно расположенного на плоскости (х,у), соответствует непрерывная функция возбужде ния Р(х,у) (рис. 1.7), обусловленная прохождением сигналов воз буждений в сети на основе предъявленного эталона. Будем счи тать, что эта функция имеет один или более максимум. Пусть — значение величины возбуждения нейрона с координатами (i,j).

Каждый нейрон (i,j), действуя в своей окрестности, рассыла ет соседним нейронам, на их дендриты с отрицательными, не обязательно регулируемыми весами первоначальную величину возбуждения полученную из сети.

Представим взаимодействие соседних нейронов, например, и с разными значениями величин возбуждения. Пусть > Тогда в течение очередного периода тактовой частоты на входе нейрона у) появится подавляющий сигнал а на Рис.1.7. Локализация возбуждения нейронов выходного слоя входе нейрона (i, j+1), имеющего меньшее значение величины возбуждения, — больший подавляющий сигнал Ру.

При предъявлении на входном слое эталона, т.е. при сущест вовании в некоторый период времени характера и величины воз буждений, обусловливающих возбуждение выходного слоя, меж ду нейронами (i,j) и (i,j+1) происходит перераспределение вели чины возбуждения. А именно значение несомненно, умень шится, но в еще большей степени уменьшится значение В следующем такте «сильный» нейрон еще более «ослабит» «сла бый» нейрон, который, в свою очередь, сможет еще в меньшей степени «ослабить» более «сильный» нейрон и т.д. Так, при доста точно долгом показе эталона «слабый» нейрон может «слабеть» до тех пор, пока взвешенная сумма подаваемых ему сигналов не станет меньше его порога.

Рассматривая этот процесс в рамках взаимодействия всех нейронов области выходного слоя, можно сделать вывод о посте пенной концентрации высокого уровня возбуждения, присущего одному или нескольким нейронам и определяющего один или несколько локальных максимумов.

При таком взаимодействии нейронов области возбуждения выходного слоя происходит усиление сигнала наиболее возбуж денного нейрона. Полное подавление сигнала возможно только на границе этой области. Если где-то внутри области возбужде ние некоторого нейрона окажется подавленным полностью (сиг нал не преодолевает порога), то в следующем такте этот нейрон не сможет подавить сигнал того нейрона, который прежде имел более слабый сигнал возбуждения. Тогда возможно появление в указанной области возбуждения нового локального максимума.

Таким образом, веса отрицательных связей должны способство вать максимизации возбуждения того нейрона, который перво начально продемонстрировал максимальное возбуждение при за тухании возбуждения нейронов в сторону периферии.

Но всегда ли следует на выходном слое локализовать величи ну возбуждения?

По-видимому, такое усиление возбуждения используется для того, чтобы единственный нейрон выходного слоя преодолел не который порог, будучи ответственным за сделанный вывод или решение.

Локализация и максимизация возбуждения на выходном слое особенно важны тогда, когда действительно необходима высокая степень определенности, например в том случае, если получае мый вывод (решение) немедленно участвует в цепочке последую щих выводов.

В конце концов все обусловлено назначением сети решаемой задачей. Можно представить себе аттракцион — реакцию фантас тического чудовища на изображение, как это показано на рис.

1.4. По виду изображения инициируются те или иные программы — радости, гнева, поднятия лап, виляния хвостом и т.д. Возбужде ние определенных нейронов выходного слоя связывается с запус ком соответствующих программ, где основным параметром явля ется величина возбуждения. Программы не исключают друг дру га и могут запускаться в одном такте. При этом предпочтителен запуск только тех программ, значение параметра которых превы шает некоторый порог.

В большинстве частных случаев, когда нейросеть обучается с помощью «учителя», т.е. на основе действий извне при ее наст ройке, присутствует элемент принудительного закрепления ней ронов выходного слоя за выводами. В процессе последующего обучения преимущественно с помощью весов синапсических связей добиваются адекватной реакции сети.

Отметим в заключение, что научный аспект проблемы разви тия и внедрения нейросетевых технологий базируется на фило софско-математическом представлении задач ИИ, выражаю щемся в формализации процесса мышления.

В работе [11] Д. А. Поспелов, в частности, исследует теорию Аристотеля - силлогистику и предлагает принципы ее моделиро вания. Тем самым указывается важность формализации механиз ма мышления. Этим механизмом уже давно, со времен Лейбница и до появления булевой алгебры (вплоть до наших дней), являет ся математическая логика, отображенная во многих работах вы дающихся математиков.

Математическая логика, ее важный раздел «Алгебра высказы ваний», действительно соединили принципы мышления и их ав томатизированное воплощение.

Однако для реализации мышления природа не создала ниче го лучшего, чем человеческий мозг. Он является гигантской ней росетью, фиксирующей причинно-следственные связи, создаю щей базу знаний и владеющей процедурами логического вывода.

Таким образом, нейронные сети реально являются основой формализации средств мышления. Поэтому справедливо считать, что исследование нейронных сетей опирается на достижения ма тематической логики.

ПОСТРОЕНИЕ СОВРЕМЕННОЙ НЕЙРОСЕТЕВОЙ ТЕХНОЛОГИИ Построение примитивной 2. нейросети Говоря о вещах несогласуемых, мы вспоминаем поговорку:

«В огороде бузина, а в Киеве дядька». Как же связать объекты, между собой не совместимые, вызывающие усмешку, но, несом ненно, влияющие на раздумья о смысле жизни?

Здесь мы сталкиваемся с действительно трудно формализуе мой задачей, требующей мобилизации нашего ассоциативного мышления.

Существует мнение о том, что нейросеть формируется «под задачу». Однако в природе есть идеальная, универсальная, «уни фицированная» нейросеть — наш мозг. И каждый из нас не испы тывает серьезных технических трудностей, если становится не коммерсантом, а, скажем, блестящим специалистом по реликто вым захоронениям мезозойского периода. Более того, если чело век талантлив, то он талантлив во всем.

В книге Э. Мулдашева «От кого мы произошли?» в главе «Почему мы смотрим друг другу в глаза?» автор говорит об изве стных ему 22 параметрах, отражающихся на глазной области ли ца и динамически описывающих морально-психологическое состояние собеседника — партнера. Однако обсчитать на компь ютере удалось лишь два. Автор удивлен той колоссальной ско ростью, с которой ведет описанную обработку человеческий мозг: «Воистину велик Бог, создавший такое компьютерное со вершенство мозга!» Мы уже не удивляемся высокой скорости работы мозга. Изве стно, что это — процесс распараллеливания обрабатываемой ин формации, и без параллельных вычислительных средств зани маться моделированием работы мозга, т.е. «больших» нейросе тей, — бессмысленно.

Именно особенности параллельной обработки информации наряду с возможным отсутствием формальных расчетов (только на основе ассоциативного мышления) привлекли к себе внима ние проектировщиков суперЭВМ в период так называемого японского вызова, в начале 1980-х годов.

Нейросетевые технологии основаны на моделировании дея тельности мозга, а по классическому утверждению Р. Шеннона [14], «моделирование есть искусство». И как каждое искусство, модель нейросети базируется на примерах, опыте и общих реко мендациях.

Рассмотрим пример, навеянный временем перестройки.

Вася и Петя — друзья. Обозначим А — множество друзей:

А = {А1, А2} = {Вася, Петя}.

Вася и Петя создали «крышу», под которой успешно трудится ряд палаток:

заботливо опекаемые хозяйками, соответственно Оксаной и Рок саной, Мариной и Региной, а также Аполлинарией. Палатки ре ализуют продукцию фирм:

Фирма Красный киллер производит винно-водочную продук цию отличного качества. Фирма Пират специализируется на ау дио- и видеопродукции и других культурных ценностях, а фирма Ночная бабочка — на французской косметике из мосластых мос ковских дворняг.

Ситуацию контролирует дядя Рамзай из налогового ведом ства, который имеет свой маленький частный бизнес. С каждой сложившейся ситуацией, определяемой тем, кто из друзей какие палатки посетил и чья продукция находилась на реализации, дя дя Рамзай связывает свою долю прибыли, основанную, мягко го воря, на шантаже. Дядя Рамзай имеет свой штат осведомителей:

пару бомжей - жертв предыдущей амнистии, и пару-тройку голо пузых апологетов трудного детства, которые с некоторой долей достоверности доставляют ему информацию.

Дядя Рамзай — прогрессивный бизнесмен, и оценки прибыли производит с помощью математического аппарата, обратившись за помощью к нам. А информации дяде Рамзаю приходится обра батывать много. Он, прямо скажем, работает в условиях неопре деленности и усиленных помех. Судите сами. Оксана делит лю бовь между Васей и Петей. Роксана — пока нет. Марина и Регина, жалея, подкармливают юных следопытов. Аполлинария заполу чила покровителя в местной мэрии и разъезжает в длиннющем "линкольне". Тщетно пытаясь разрушить узы бескорыстной дружбы, фирма Пират подкупила Васю, снизив нагрузку вымога тельства на свою продукцию. Петя, кажется, пошел на наруше ние «закона» и вторгается в область, контролируемую конкурен тами. Все такие обстоятельства прямо или косвенно влияют на долю прибыли дяди Рамзая.

А мы, принимая заказ на очень трудно формализуемую зада чу, хотим уяснить, что нужно дяде Рамзаю, и устанавливаем:

• он хочет, задавая исходные данные на основе неполной или недостоверной информации своих агентов, все-таки распознать с наибольшей определенностью, что это за ситуация и на какую прибыль можно рассчитывать;

• он хочет, задавая исходную ситуацию с некоторой достовер ностью, установить среднюю величину прибыли;

• он хочет сделать вывод о частоте появления различных ситу аций, чтобы перераспределить таксу за молчание о шалостях Васи и Пети.

Итак, абстрагируемся.

Пусть по стечению обстоятельств, которые мы будем назы вать событиями, принимаются решения R1, R2, R3, R4, R5.

События выражаются записями, например, вида {A1, B2, С3} Это означает, что Вася (А1) отправился в палат или ку Марины {СУ), торгующей в этот раз продукцией фирмы Пират (B2) Решения образуют конечное множество. Каждое решение но сит сугубо личностный характер и определяет тактику дальней шего поведения, надежду на существенное приобретение, турпо ездку и т.д.

Одно решение соответствует некоторой, в общем случае не единственной, комбинации событий. Для изображения таких комбинаций воспользуемся записями, например, вида Это означает, что Вася отправился в палатку то ли к Регине, то ли к Аполлинарии, торгующей продукцией то ли фирмы Пират, то ли фирмы Ночная бабочка. Однако эта же за пись означает, что все составляющие ее конъюнкции и другие приводят к одному и тому же решению.

Проанализировав и перебрав все возможные ситуации, с уче том одинакового принимаемого решения получим систему логи ческих высказываний — предикатов как основу формализации задачи при построении нейросети:

(2.1) Тогда, например, первое логическое высказывание означает:

«Если Вася отправился в одну из пяти палаток, и все они торгу ют сегодня продукцией фирмы Красный киллер, то следует при нять решение R1 (например, заказать туристическую путевку)».

Второе логическое высказывание означает: «Если Вася посе тил одну из палаток С1, С2 или С3, торгующих сегодня продукци ей фирм B2 и (или) B3, то следует принять решение R2» и т.д.

2.2 Возбуждение входного слоя Определим теперь возбуждение входного слоя, учитывая то, что по нейросетевым технологиям решаются сложные, чаще все го трудно формализуемые задачи. Исходная информация этих за дач может быть настолько несовместима по смыслу, типам дан ных и единицам измерения, что приведение ее к некоторому ко личественному воплощению — величине возбуждения нейронов входного слоя — представляет серьезную проблему.

Например, как объединить величину превышаемой водите лем скорости, тип автомобиля иностранного производства со вчерашним неудачным выступлением любимой автоинспекто ром футбольной команды при нахождении величины штрафа?

Ведь каждый из перечисленных факторов должен определить не которые общие, приведенные значения возбуждения.

Такое приведение также зависит от задачи. Поскольку ней роны — нечто стандартное для данной задачи или класса задач, то каждая характеристика нейрона — величина возбуждения, ве са его синапсических связей, порог, передаточная функция — должны быть одинаковы или принадлежать общему (по каждой характеристике) для всех нейронов диапазону возможных зна чений.

Дадим рекомендации, основанные на «событийном» принципе.

В нашем новом примере о превышении скорости разобьем скорость на диапазоны штрафования, например [90,100), [100 — ПО), [ПО - 120), [120 - 200]. За каждым диапазоном скорости закрепим нейрон входного слоя — рецептор. Определим его сред нее значение возбуждения, равное 1. Пусть отклонение к грани цам диапазона скорости пропорционально уменьшает эту вели чину возбуждения, увеличивая величину возбуждения рецептора «соседнего» диапазона. Другой вариант задания исходных дан ных основан на решении вопроса принадлежности скорости не которому диапазону. Тогда величина возбуждения превратится в булеву переменную, фиксируя событие. Но более универсальный подход основан на связывании величины возбуждения рецептора с достоверностью — вероятностью того, что величина скорости принадлежит одному или нескольким диапазонам. Такой подход мы и намерены воплотить в дальнейшем.

А именно хотя бы интуитивно (ведь интуиция основана на опыте), определим достоверность того, что интересующая нас ве личина принадлежит данному диапазону. С какой достовер ностью она принадлежит второму диапазону? А третьему? Мож но даже уйти от понятия достоверности как вероятностной кате гории. Все ли мы знакомы с понятием полноты множества собы тий? Ведь часто слышим: «Даю голову на отсечение, что это так, хотя и допускаю, что все наоборот...». Главное, чтобы исходные оценки информации были относительными, отражающими принцип «больше — меньше». Это расширит популярность ней ротехнологий, исключит необходимость специальных знаний.

Ведь какие-то начальные возбуждения рецепторов при их отно сительном различии распространятся по нейросети, определяя предпочтительность принимаемого решения.

Тогда на этапе обучения нейросети получим возможность формирования аналога некой таблицы, в соответствии с кото рой будет действовать инспектор. (Однако здесь пока не рас сматривается процесс обучения нейросети — формирование этой таблицы, а только принцип формирования данных для входа в нее.) Выделим нейроны, «отвечающие» за типы автомобилей: оте чественного производства, «мерседес», «вольво», джип «чероки» и т.д. Величину возбуждения этих нейронов будем полагать рав ной 1 (на этапе обучения) или равной достоверности события (в рабочем режиме). Аналогично выделим рецепторы, «отвечаю щие» за другие возможные события: степень интеллигентности водителя (так же по диапазонам изменения), выигрыш или про игрыш любимой команды и т.д.

Следовательно, на входном слое будут формироваться приве денные значения возбуждения.

В рабочем режиме мы, таким образом, получили возможность использования неопределенной, недостоверной информации.

Например, инспектор не смог из-за высокой скорости отличить «ниву» от джипа «чероки». Тогда он решает ввести значение 0,5 в графу «нива» (величина возбуждения рецептора, «отвечающего» за «ниву» станет равной 0,5) и 0,5 — в графу джип «чероки» (такой же станет величина возбуждения соответствующего рецептора).

Однако, подумав, он на всякий случай вводит величину 0,2 в гра фу ВАЗ-2104, что также во власти его сомнений. Так же инспек тор поступает и с другими характеристиками сложившейся ситу ации в поисках наиболее достоверного решения по принципу на ибольшей похожести.

«Схемотехнический» подход 2.3 к построению нейросети «под задачу» Реализуем подход, используемый при построении схем уст ройств ЭВМ и другой электронной техники. Выделим функцио нально полную для данного применения систему булевых функ ций — дизъюнкцию и конъюнкцию Отрицание нам не понадобится, мы пока не рассматриваем тормозящие связи.

Нарушив принятые обозначения, построим (рис. 2.1) схему, реализующую алгоритм счета значения выражения (2.1). Предпо 3* лагаем подавать на вход значения булевых переменных, обозна чающих события.

Рис. 2.1. «Схемотехническое» решение Такая электронная схема могла бы нам верно служить, способ ствуя быстрому определению необходимой реакции на сложив шуюся ситуацию, если мы предусмотрели все возможные ситуа ции, знаем, какое решение соответствует каждой из них, и всегда обладаем полной и точной информацией о происходящих собы тиях. Но ведь не зря мы обращаем внимание на те помехи и неоп ределенность, в условиях которых приходится жить и работать.

Мы должны оперировать только достоверностями либо другими оценками событий, пытаясь определить, какой ситуации более всего соответствуют сложившиеся обстоятельства.

Значит, мы должны из точного, детерминированного пред ставления перейти в область ассоциативного, неточного, приб лизительного мышления! Но степень (частота) угадывания долж на быть достаточно высока.

Именно здесь помогает нейросеть.

Прежде всего надо перейти от типа булевых переменных к ти пу действительных, введя в обращение не непреложность собы тий, а лишь вероятности или другие весовые оценки их наступле ния (электронной технике это не свойственно.) Затем необходи мо реализовать аналоги булевых функций над этим новым типом данных, т.е. заставить нейроны с помощью весов, порогов и са мой передаточной функции выполнять дизъюнкции и конъюнк ции с учетом вариации и неопределенности данных. При этом абсолютно достоверные данные, несомненно, приведут к извест ным решениям, а по неточным данным можно определить лишь вес каждого из возможных решений. Тогда по максимальному ве су определим, на что более всего похожа данная неопределенная ситуация.

Выберем передаточную функцию произвольного (/-го) ней рона с числом т входов — дендритов:

Здесь как всегда, величина возбуждения (другого нейро на), поступающего на j-й вход.

Тогда нейрон-конъюнктор может быть реализован с помощью существенно высокого порога (рис. 2.2), где значение обуслов лено некой поправкой, достаточной, чтобы для преодоления по рога сигналы возбуждения поступали обязательно по всем входам.

При обучении предполагается, что входные сигналы - булевы переменные, принимающие значения 0, 1. Положим выберем Тогда для преодоления порога на всех входах должны быть 1;

недостаток хотя бы одной 1 приведет к тому, что взвешенная сумма будет более чем на меньше указанной сум мы весов.

Рис. 2.2. Нейрон-конъюнктор При переходе к действительным переменным, когда вместо событий рассматриваются, например, лишь предполагаемые ве роятности их наступления, экспериментальный выбор значения 8 может обусловить ту границу, когда считаться с возможностью данной комбинации событий нецелесообразно.

Нейрон-дизъюнктор реализуется, наоборот, при низком значе нии порога, но при высоких значениях весов. Порог выбирается так, чтобы уже при возбуждении на одном входе возникал сигнал возбуждения на выходе. При этом сигнал на выходе не превыша ет «1» (рис. 2.3).

Рис. 2.3. Нейрон-дизъюнкгор Понятно, что при полной определенности в режиме обуче ния возбуждение поступает по единственному входу (нейрон ре ализует функцию «ИСКЛЮЧАЮЩЕЕ ИЛИ»). В условиях неоп ределенности предполагается, что нейрон имитирует выполне ние функции ИЛИ, допуская возбуждение более чем на одном входе.

Итак, поменяем тип данных и заменим нейронами все эле менты на схеме рис. 2.1. Получим нейросеть (рис. 2.4), где нейро ны-конъюнкторы заштрихованы.

Теперь позволим дяде Рамзаю поучиться, поэксперименти ровать, задавая различные достоверности событий — возмож ных или невозможных. Например, зададим «правильную» и аб солютно достоверную ситуацию B3=1,A1=1,C4=1 (Вася отп равился к Регине, торгующей ямайским ромом). Легко просле дить, что в первом такте возбудятся нейроны 1 и 6, реализующие дизъюнкцию. Величина их возбуждения равна 1. В следующем такте возбуждение нейронов 1, 6 и A1 приведет к возбуждению (с величиной, равной 1) нейронов 7 и 9, а в следующем такте сигналы возбуждения нейронов 6 и 7 поступят на вход нейрона конъюнктора ВыхЗ. Никакой другой нейрон выходного слоя не возбудится.

Рассмотрим другую ситуацию, неопределенную и недосто верную.

Пусть то ли Вася, то ли Петя — «разведчик» не установил точ но — направился то ли к Оксане, то ли к Аполлинарии, торгую щим в этот день то ли тройным одеколоном, то ли золотым дис ком группы «Та-ра-рам».

Дядя Рамзай по выданной нами инструкции решает исполь зовать интуитивные оценки веса, или, на нашем языке, оценить достоверность каждой компоненты возникшей ситуации. Пос кольку прогулки как Васи, так и Пети одинаково достоверны, то дядя Рамзай полагает величину возбуждения нейронов А1 и А2, равной 0,5 = =0,5). После долгих раз думий он по наитию полагает = 0,8, = 0,8, = 0,7, 0,8.

Напоминаем еще раз, что требовать полноты множества со бытий и непременного выполнения нормировочного условия не обязательно. Достоверность может выбираться по наитию, на уровне чувств. Именно эти качества неопределенности, субъек тивности, наличия жизненного опыта и интуиции присущи меха низмам ассоциативного мышления.

Сдавая нейросеть «в эксплуатацию», мы установили веса всех конъюнкторов равными 0,5, а дизъюнкторов, — равными 1. По роги конъюнкторов определяются значением = 0,4. Пороги дизъюнкторов имеют нулевое значение.

Рис. 2.4. Нейросеть с конъюнкторами (выделены) и дизъюнкторами Важность данного примера требует повторения рисунка ней росети (рис. 2.5) с проставленными возле нейронов значениями сигналов возбуждения.

В итоге ситуация скорее всего имеет решение R5 и уж никак не R4. Однако ситуация, соответствующая решению R1, требует внимания и т.д.

Пусть при вполне определенной ситуации (все достоверности принимают значение «1») каждое решение Ri приносит прибыль. В таком случае средняя величина ожидаемой прибыли для нашей неопределенной ситуации рассчитывается так:

Рис. 2.5. Нейросеть с рассчитанными значениями возбуждений Конечно, полученное решение столь же неопределенно, как и карточный расклад, что предвещает трогательную встречу в казенном доме, поэтому мы погружаемся в дальнейший по иск.

Построение нейросети 2. «под задачу» Мы построили нейросеть с экзотическими (с точки зрения психотерапевта) конъюнкторами и дизъюнкторами.

Предположим теперь (см. рис 2.4, 2.5), что все нейроны оди наковы, реализуют одну передаточную функцию, а веса и пороги реализуют равные и общие возможности.

Введем ту же, но без ограничения по величине возбуждения передаточную функцию При = 0,8, А = 0,2 сформирована сеть, представленная на рис. 2.6.

Подадим на вход, например, ситуацию {А1, В2, С3}, требую щую решения R1. Величины возбуждений нейронов показаны на рис. 2.6.

На основе расчетов по полученной сети составим табл. 2.1, отображающую правильную (!) работу сети при получении различ ных решений. При этом связи, предыстория которых определена дизъюнкторами, требуют проверки не более чем одного «предста вителя»: в рассмотренном примере получаем тот же результат, ес ли вместо C3 положим C1 или C2.

Таблица 2. Примеры расчета принимаемых решений Требуемое Ситуация решение {A1,B1,C3} R1 1,144 0,76 0,28 0,024 0, {A1,B2,C2} R2 0,504 1,144 0,664 0,024 0, {A1,B3,C3} R2 0,504 1,144 0,664 0,504 0, {A1,B2,C4} RЗ 0,504 0,664 1,144 0,024 0, RЗ 0,504 0,664 0,504 0, {A1,B3,C5} 1, {A2,B3,C1} R4 0,024 0,504 0,024 1,144 0, Продолжение Рис. 2.6. Нейросеть с «универсальными» нейронами Анализируя первые восемь строк таблицы, соответствующие достоверным ситуациям, видим, что по крайней мере максимум возбуждения определяется устойчиво верно.

Рассмотрим ту же неопределенную ситуацию. Она отражена в последней строке таблицы. Близка ли эта ситуация более всего ситуации, когда Петя направился к Аполлинарии, и надо прини мать решение R5 ? Ситуация с Васей, устремившимся туда же, да ет примерно тот же ответ.

Отметим, что по убыванию величин возбуждения нейронов выходного слоя вновь полученный результат полностью совпада ет с полученным по «схемотехнической» сети (см. рис. 2.5), так что и величина средней прибыли, по-видимому, будет близка найденной ранее.

Однако не проще было бы применять способ построения ней росети, близкий к табличному? Что если каждую ситуацию не посредственно «замкнуть» на соответствующее решение, избежав сложной путаницы промежуточных слоев нейронов и не рассчи тывая множества вариантов для нахождения максимального воз буждения и распределения возбуждения на выходном слое?

Очень часто на практике так и поступают. Отсюда широкое распространение так называемых однослойных сетей. Построим такую сеть и для нашего примера (рис. 2.7).

Возьмем ту же передаточную функцию с теми же параметра ми и рассчитаем те же примеры, отображенные в табл. 2.1. Соста вим для них табл. 2.2.

Таблица 2. Примеры расчета решений по однослойной нейросети Продолжение Рис. 2.7. Однослойная нейросеть Данная нейросеть также оказывает предпочтение решению R5, хотя порядок убывания величин возбуждения выходного слоя отличен от ранее полученного. Предпочтительность решений R и R3 меняется местами.

Очевидно, что масштабирование порогов позволяет управлять величинами возбуждений, и при желании можно добиться анало гичных результатов расчетов по этим двум сетям. Но надо ли?

Формализация нейросети 2. Тактирование работы сети, столь характерное для каждой уп равляющей системы, отслеживающей ее состояние в дискретные моменты времени, определяет потактовое продвижение по ней волны возбуждений от входного слоя к выходному. Волна за вол ной возбуждения имитируют систолическую схему вычислений — параллельный конвейер обработки отдельных кадров, соответ ствующих конфигурации возбуждений входного слоя в одном такте.

На практике широко исследуются многослойные сети типа персептрон, где отсутствуют обратные связи и возможны связи между нейронами только смежных слоев. В данном разделе мы также не рассматриваем обратные связи, но снимаем ограниче ние на «слоистость» нейросети, что обеспечивает более общий подход. Именно такая нейросеть, допускающая связи «через слой», была построена в приведенном выше примере. Для таких сетей значительно упрощаются следующие построения.

Нейронную сеть можно изучать статически, исследуя ее структуру, и динамически, анализируя прохождение возбуждений.

Статические исследования нейросети показывают, что она представляет собой ориентированный граф G без контуров. Вер шины его соответствуют нейронам, дуги — синапсическим свя зям. Целесообразно такой, высший, уровень представления отде лить от более глубокого описания каждого нейрона и связей меж ду ними, отображающего динамику проходящих процессов, т.е.

расчет значения возбуждения нейронов в зависимости от весов синапсических связей и порогов.

Граф малопригоден для формальных исследований и компью терных алгоритмов. Удобнее пользоваться матричным отображе нием нейросети. Данным способом представления можно отоб разить как структуру, конфигурацию, топологию графа, так и численные значения характеристик его синапсических связей.

Составим матрицу следования S (рис.2.8), число строк (и столбцов) которой равно числу нейронов сети, включая нейро ны входного и выходного слоя. Каждая строка (и столбец с тем же номером) соответствует одному нейрону. Для удобства установле ния порядка следования нейронов диагональные элементы мат рицы отмечены черным.

Элемент этой матрицы - суть непустой объект, содержа щий вес синапсической i, если такая связь существу ет. В то же время элементы матрицы S следует интерпретировать как булевы переменные, равные 1 в случае ненулевого значения указанного веса. Это разрешает выполнение логических опера ций над строками и столбцами матрицы S, рассматривая ее как аналогичную матрицу следования, используемую при описании частично упорядоченных множеств работ в параллельном прог раммировании [9].

Матрицу S можно изучать в статическом режиме, исследуя и корректируя возможные пути прохождения возбуждений. По этой же матрице в динамическом режиме (моделирования) можно ис следовать действительные пути прохождения возбуждений. Такое исследование связано с потактовым расчетом величин возбужде ния нейронов.

Нулевые строки (входы) матрицы S соответствуют нейронам входного слоя - рецепторам, нулевые столбцы (выходы) - ней ронам выходного слоя.

Нейроны образуют статические цепочки длины т, если существуют синапсические связи (впредь будем опускать слово «синапсические») вида Составляя все статические цепочки по графу G, можно выделить одну или более цепочек максимальной длины. Такие цепочки назовем критичес кими. (В традиционных многослойных моделях длина критичес кой цепочки совпадает.с числом слоев сети.) Пусть по статической цепочке i k мы обнаружили отсут ствие непосредственной связи i т.е. элемент матрицы S, сто ящий на пересечении строки и j-го столбца, равен 0. Однако очевидно опосредствованное влияние возбуждения нейрона i на величину возбуждения нейрона k, что указывает на наличие транзитивной связи i к. Нахождение транзитивных связей поз воляет выявлять все нейроны, потенциально возбуждающие оп ределенный нейрон выходного слоя.

Рис. 2.8. Матрица следования для однослойной нейросети Алгоритм дополнения матрицы S транзитивными связями весьма прост.

Для всех i = 1, 2,..., N:

Формируем новое значение строки i логическим сложением этой строки со строками, соответствующими не пустым элементам в ней. «Новые* непустые элементы заменяем на непустые элементы, обозначающие транзитивные связи.

В нашем примере матрица S, дополненная транзитивными связями (непустые клеточки), представлена на рис. 2.8.

Зафиксируем некоторое подмножество R нейронов входного слоя и единственный нейрон г выходного. Построим множество цепочек, ведущих из выделенного подмножества нейронов вход ного слоя в данный нейрон выходного слоя. Выделенное таким образом множество цепочек назовем статическим путем возбуж дения данного нейрона выходного слоя по множеству нейронов вход ного слоя. Обозначим его R г.

Представим алгоритм формирования статического пути воз буждения 1. Вычеркиваем из матрицы следования S строки и столбцы, соответствующие нейронам, не принадлежащим R.

2. Вычеркиваем из матрицы следования S все строки и столб цы, отображающие нейроны выходного слоя, кроме нейрона r.

3. Вычеркиваем из матрицы следования S строки и столбцы, отображающие нулевые позиции строки нейрона r.

4. Вычеркиваем из матрицы следования S строки и столбцы, отображающие нейроны внутренних слоев нейросети, в том слу чае, если в результате предыдущего вычеркивания эти строки оказались нулевыми.

5. Выполняем п. 4, пока не прекратится образование нулевых строк.

На рис. 2.9 матрицей S [B1, A1, C1 отображено мно жество цепочек, ведущих из нейронов нейрон Вых1, т.е. статический путь возбуждения [51, А\, С1] Вых1.

Теперь рассмотрим фактор возбуждения и проанализируем возможные динамические пути прохождения возбуждений.

Динамической цепочкой возбуждений длины т будем называть статическую цепочку, составленную из нейронов, первые т-\ которых обладают отличной от нуля величиной воз буждения.

4-489 Рис. 2.9. Матрица следования для статического пути возбуждения Динамическая цепочка возбуждений является вырожденной, если ее последний элемент обладает нулевой величиной возбуж дения. Вырожденная динамическая цепочка возбуждений харак теризует затухание сигнала.

Предъявим сети некоторый образ или эталон (не будет боль шой ошибки, если и здесь, при предъявлении, мы будем пользо ваться словом «образ», ибо все есть образ чего-то), приводящий к возбуждению нейроны входного слоя в некоторой конфигура ции. Эти нейроны образуют множество R. В результате возбужде ния сети оказался возбужденным некоторый нейрон г выходного слоя. Сформировался, таким образом, динамический путь воз буждения R очевидно, его образуют нейроны, входящие в состав статического пути возбуждения так как некоторые нейроны могут остаться невозбужденными.

В общем случае не все нейроны, составляющие статический путь возбуждения, «работают» на возбуждение нейрона выходно го слоя, поскольку возможны вырожденные динамические це почки возбуждения, обусловленные значениями порогов переда точной функции.

Модель механизма 2. запоминания Главный механизм запоминания, реализованный в природе, можно представить так. Импульс возбуждения, проходя через си напс, «нагревает» и уменьшает его сопротивление, увеличивая синапсический вес. В следующих тактах при последующих предъявлениях эталона импульс возбуждения увереннее одолева ет путь возбуждения, с большей определенностью указывая соот ветствующий образ (как говорится: «Сложилась связь»), а ис пользуемые при этом синапсы, «подогреваясь», сохраняют, и, возможно, увеличивают вес.

Здесь работает известное правило Хебба [4, 5] : синапсический вес связи двух возбужденных нейронов увеличивается.

Таким способом даже достигается эффект локализации и максимизации возбуждения на выходном слое, дублирующий, а возможно, исключающий необходимость взаимодействия сосед них нейронов.

По-видимому, синапсы обладают свойством «остывания» со временем, если нет подтверждения их использования. Такое предположение адекватно свойству нашей памяти: ненужная, не подтверждаемая и не используемая периодически информация стирается («Связи рвутся!»). Стирается до такой степени, что приходится учиться заново.

Отметим и важную роль воображения: эталоны на входном слое поддерживаются достаточно долго, возобновляются или мо делируются. Видимо, здесь большое значение имеет эпифиз, «третий глаз» — орган воображения и медитации, память и гене ратор видений.

При создании искусственных механизмов обучения нейросе ти возникают вопросы:

• увеличивать ли веса всем нейронам, образующим статичес кий путь возбуждения, для запоминания эталона?

• увеличивать ли веса только вдоль некоторых (опорных) це почек статического пути возбуждения?

• увеличивать ли веса только нейронов, образующх динами ческий путь возбуждений, ведь выше предполагалось, что лишь само возбуждение увеличивает вес связи? Зачем возбуждать до полнительные нейроны, если и этих достаточно?

Очевидно, третий аспект в большей степени соответствует самообучению, самонастройке. Вмешательство в наш мозг на этом уровне исключено. Однако система искусственного интеллекта в более выгодном положении. Ведь она находится под нашим неу сыпным контролем, реализуя обучение «с учителем», и допускает любое вторжение, корректирующее вынужденные недостатки ес тественного интеллекта. Поэтому, рассматривая пример (и пыта ясь накопить хоть какой-то опыт), мы будем увеличивать веса си напсических связей нейронов, составляющих выделенные цепоч 4* ки статического пути возбуждения от эталона к образу. Назовем такой метод методом опорных путей, который выработан в про цессе проведения многочисленных экспериментов. В частности, увеличение синапсических весов большого числа нейронов при водило к неудачам, связанным с корреляцией динамических це почек возбуждения для разных эталонов и с быстрым насыщени ем нейросети (недостаток некоторых известных алгоритмов обу чения). В процессе обучения многим эталонам рано или поздно все веса сети оказывались повышенными, и она прекращала что либо различать. Начиналась путаница согласно выражению «Ум за разум заходит» Что же касается величины изменения синапсических весов, то вряд ли необходимо относительно каждого нейрона решать сис темы дифференциальных уравнений в частных производных.

(Речь идет о методе обратного распространения ошибки, подробно изложенном в [5].) Природа больше рассчитывает на авось, «на глазок» и другие мудрые и практические приблизительные ори ентиры, мало привлекательные теоретически. В данном случае нас более обнадеживает «прилив крови» в нужном направлении, стимулируемый информационным раздражителем или легким подзатыльником. Введем некую переменную выверяемую практически (а то и просто единицу), уменьшаемую или увеличи ваемую при необходимости.

Таким образом, нам удалось перейти от схемотехники к ней ротехнологии, от точного, определенного, к приблизительному, неопределенному. Действительно, не могла эволюция, основан ная на принципе «делай все, что можно», методом «проб и оши бок» привести к производству точных электронных схем, упря танных в черепную коробку. Да и нет в природе точной, абсолют но достоверной информации. Но общие логические принципы и зависимости должны быть воплощены и в той, и в другой техно логии.

Применение типовых 2. нейросетей Справедливо желание построения универсальных моделей нейросетей в составе программного обеспечения компьютера, снабженных механизмами приспособления под задачу пользова теля. Е1це более справедливо желание построить набор аппарат ных средств — нейросетей (нейрокомпьютеров, НК), сопряжен ных с компьютером и, по выбору пользователя, участвующих в решении сложных задач. Такие аппаратно реализованные нейро сети, как приставки или внешние устройства компьютера, нап ример, определяют специальное направление использования ПЛИС - интегральных схем с программируемой логикой.

Однослойная нейросеть. Для наглядности воспользуемся как матричным, удобным алгоритмически, так и графическим пред ставлением нейросети.

Однослойная нейросеть, составленная по принципу «каждый с каждым», представлена на рис. 2.10. Пусть используется пред ложенная выше передаточная функция Значения предстоит подобрать, а значения положим рав ными нулю.

Закрепим 10 нейронов входного слоя за исходными данными, 5 выходов — за решениями. Этим мы выделим интересующую нас подсеть, которой соответствует матрица следования на рис. 2.11.

Здесь отображен ее окончательный вид, так как сначала все веса связей принимаются равными нулю.

Для того чтобы сформировать решение R\ на нейроне Вых\, надо значительно увеличить веса связей этого нейрона с нейро нами В1, А1, С1, С2, С3, С4, С5, т.е. построить статический путь возбуждения [B1, А1, С1, С2, С3, C4, C5] Вых1, и вдоль него по некоторой дисциплине увеличить веса связей.

В данном случае результат очевиден, поэтому обратим внима ние на общий подход.

Установим веса связей между нейронами В1, А1, С1, С2, С3, C4, C5, с одной стороны, и нейроном Вых1 — с другой, равными единице, оставив нулевыми веса связей этого нейрона с другими нейронами входного слоя. Таким образом, полностью исключа ется влияние других нейронов входного слоя на данный выход ной нейрон. Конкретная задача может потребовать корректиров ки, учета взаимного влияния всех входных ситуаций в результате тщательного экспериментального исследования задачи.

Рис. 2.10. Однослойная нейросеть после обучения Здесь вновь прослеживается преимущество нейросети, спо собной элементарно учитывать наблюдаемые или интуитивно предполагаемые поправки, требующие огромных исследований и расчетов.

Поступив так же со всеми выделенными нейронами выходно го слоя, получим окончательный вид матрицы следования (см.

рис. 2.11). Построенная нейросеть полностью соответствует спе циальной сети «под задачу», представленной на рис. 2.7.

Так какую же сеть предложить дяде Рамзаю? Ведь надо и по доходчивее, и попрактичнее, но и так, чтобы не казалось уж слишком просто.

Нейросеть произвольной структуры. Предположим, мы распо лагаем некоторым банком «красиво» изображенных графических Рис. 2.11. Матрица следования для однослойной нейросети схем, которые можно положить в основу структуры нейросети.

Понравившуюся структуру интерпретируем как нейросеть, до полнив ее передаточной функцией и обучив решению задачи, поставленной дядей Рамзаем.

Пусть выбранная нейросеть имеет 12 входов (более чем доста точно), 5 выходов и реализует ту же передаточную функцию с на чальными значениями весов = 0 и порога h = 0.

Однако сеть обладает специфической топологией, затрудня ющей ее обучение. Сеть многослойная, что исключает связи «че рез слой», присутствующие, например, в сети на рис. 2.6, как ре зультат построения нейросети «под задачу».

Применим метод опорных путей, или трассировки, расширя ющий использованный выше «схемотехнический» подход. Его можно изобразить схемой рис. 2.1 рис. 2.4 рис. 2.6 рис. 2.8.

Суть метода - в трассировке соединений, в назначении высо ких весов некоторых связей, превращающих нейросеть в закон ченное функциональное устройство. При такой трассировке обу чение производится на эталонах в полном смысле этого слова на вполне определенных (достоверных) ситуациях, например на от сутствии события (0) или на его наступлении (1). После обучения сеть должна выдавать наиболее близкое решение при недостовер ной информации, т.е. согласно вероятности наступления того или иного события. Хотя, как показано на примерах, можно вый ти и за рамки теории вероятности, не требуя полноты множества событий и условия нормировки, но взвешивая события на осно ве каких-то других принципов.

Итак, для успешной, наглядной и легко рассчитываемой трассировки решим вопрос кардинально: какие веса полагать равными нулю, а какие — единице? Все прочие возможности, например min = 0,1, введение порога h = 0,5 и т.д., будут спо собствовать более плавной работе сети, непрерывности перехода из состояния в состояние.

Применив принципы комбинаторики и эвристики, выполним трассировку нейросети (рис. 2.12). На рисунке наглядно показано, какая нейросеть была предоставлена, насколько она «неповорот лива», скажем, по сравнению с однослойной «каждый с каждым».

Рис. 2.12. Нейросеть после обучения Далее рассмотрим формальный алгоритм трассировки. Одна ко чтобы настроиться на его понимание, необходимо проанали зировать свои действия и сделать следующие выводы.

1. Мы исследовали слой за слоем, постоянно помня о цели — пять комбинаций ситуаций, каждая из которых должна возбудить один из нейронов выходного слоя. Причем решения за этими нейронами пока жестко не закреплены.

2. В каждом слое мы собирали частную комбинацию - терм, который можно использовать в последующем, — из доступных термов предыдущего слоя.

3. Термы, которые пока не используются при конструирова нии из-за их взаимной удаленности, мы запоминали без измене ния на анализируемом слое, пытаясь «подтянуть» их в направле нии возможного дальнейшего объединения.

4. Мы старались не «тянуть» термы «поперек» сети. В против ном случае возникла бы проблема — как избежать пересечений и искажения уже сформированных термов. Все это заставило нас долго не закреплять нейроны выходного слоя за решениями, что в конце концов привело к нарушению естественного порядка следования решений.

Для автоматизации трассировки необходимо матричное представление, только и доступное компьютеру.

Матрица следования, отражающая трассировку нейросети, получается на основе рис. 2.12, если отметить элементы, соответ ствующие «тонким» линиям, нулевыми весами, а элементы, со ответствующие «жирным» линиям, — весами, равными единице.

На рис. 2.13 отражен динамический путь возбуждения, при водящий к решению R1. Он строится по алгоритму, изложенному в подразд. 2.5. В данном случае динамические пути возбуждения совпадают со статическими. В общем случае из статического пу ти возбуждения необходимо исключить нейроны, которым соот ветствуют нулевые строки матрицы следования.

Аналогично получают динамические пути возбуждения, при водящие к другим решениям.

Поставим теперь задачу дальнейших исследований: как пост роить все необходимые пути возбуждения так, чтобы они, воз можно, пересекались, но только для формирования общих тер мов? А способна ли выбранная нами «готовая» нейросеть вообще справиться с поставленной задачей или предпочтительнее прин цип «нейросеть под задачу»?

Рис. 2.13. Матрица, отображающая статический путь возбуждения Энергетика нейросети 2. Пытаясь проанализировать, как энергия возбужденого ней рона воздействует на связанные с ним нейроны, мы вновь и вновь приходим к выводу, что она распределяется обратно про порционально сопротивлениям синапсов «принимающих» ней ронов.

Однако наша попытка последовать принципу распределения энергии, кроме существенного усложнения расчетов, привела к следующему.

После частичного обучения нейросети изменение весов для последующего обучения (при демонстрации других эталонов) приводит к перераспределению энергии, к ее оттоку от уже сфор мировавшихся динамических путей возбуждения. С точки зрения определенного нейрона выходного слоя «рассеянная» энергия устремляется по «чужим» путям возбуждения, и тогда приходится с помощью порогов компенсировать возбуждение нужного пути, поддерживая необходимый уровень энергии.

Здесь лучше всего и проявляется известная традиция постро ения нейронных сетей, когда возбуждение с выхода нейрона в не изменном виде поступает на каждый вход других нейронов, не распределяясь между ними.

Ориентируясь на программную реализацию нейросети, не станем отступать от традиционных принципов, используя не «физический» подход, а информационный.

Для того чтобы сделать конкретный вывод, рассчитаем вари ант той же «готовой» сети (см. рис. 2.12) с распределением энер гии, увеличив веса связей, которые не приняли участие в трасси ровке, т.е. веса, первоначально не равные нулю. Положим их рав ными 0,5.

Рассмотрим эталон {A1,B2,C3}, требующий решения R2. По кажем, как рассчитывать сеть, предоставив возможность читате лю установить правильность ее работы:

Рекомендации 2. Испытывая различные структуры нейросети и пытаясь про извести обучение рассматриваемой задаче, мы, в частности, много усилий затратили на одну нейросеть. Выяснилось, что имеет место пересечение путей возбуждения несовместимых ситуаций, требующих максимальных возбуждений разных ней ронов выходного слоя. Нам так и не удалось разнести эти пути возбуждений. Коррекция весов одного пути немедленно вызы вала коррекцию возбуждения другого. Кроме того, при «случай ной» топологии сети величины возбуждения нейронов входного слоя оказывали различное влияние на возбуждение нейронов выходного.

В результате предпочтительнее оказалась регулярная структу ра сети, принудительное навязывание структуры и контроль вза имодействия ее элементов.

Другой важный вывод касается порочности излишней «эко номии» при формировании нейросети.

Почему мы эвристически решали столь трудную комбинатор ную задачу согласно рекомендациям, без всякого конструктивно го алгоритма?

Наверное, из-за отсутствия должной избыточности. Умыш ленно создавая головоломку, мы теснились на маленькой сети с ограниченными связями. Таковы ли условия в живой природе, где складывающиеся связи помимо запоминания удовлетворяют требованиям устойчивости, надежности, дублирования — резер вирования и хд.? Здесь уж либо жалеть и экономить, рискуя ока заться перед неразрешимостью задачи вообще, либо щедро и са мым простым способом, по возможности независимо, проклады вать цепочки возбуждений от каждого нейрона входного слоя к каждому «заинтересованному» нейрону выходного слоя. Нет, яс ность мышления основана на достаточности и даже избыточнос ти мыслительной субстанции.

Снимем некоторые ограничения и рассмотрим другую типо вую нейросеть. На рис. 2.14 тем же методом трассировки опорных путей показано возможное решение задачи. Здесь входной и пер вый внутренний слои сети связаны почти по принципу «каждый с каждым», что и позволило сформировать основные конструкции — термы, на основе комбинаций которых затем продолжается создание нужных путей возбуждения.

Все построения ведутся на основе рекурсивного подхода: сна чала мы имеем термы самого низкого уровня — на входном слое, на их базе получаем конструктивные единицы первого уровня, их комбинируем в термы более высокого уровня и т.д. Конечно, это Рис. 2.14. Двухслойная нейросеть после обучения самое конструктивное решение (мышление). Ведь термы могут формироваться в коре для многократного и многоцелевого ис пользования, так сказать, впрок.

Но возможен и другой, более «щедрый» путь: «тянуть» цепоч ки «сильных» возбуждений от нейронов входного слоя к нейро нам выходного слоя, избегая пересечений.

Пропагандируемая нами случайно-регулярная структура свя зей не должна зависеть от «слоистости» сети: связи «через слой» значительно упрощают пути возбуждения нейронов.

Вместе с тем «схемотехнический» подход и последующая за мена булевых функций л и v одной передаточной функцией при водят к интересной гипотезе.

Оптимальное число слоев нейросети или максимальная длина статической цепочки (если принцип «слоистости» не актуален) совпадает с максимальной длиной логической цепочки в аналогичной электронной схеме, реализующей систему булевых функций зависи мости выходных сигналов — аналогов возбуждения нейронов выход ного слоя от входных сигналов — аналогов возбуждения рецепторов.

Сказанное позволяет ставить задачу минимизации длины статической цепочки при формировании нейросети для макси мального упрощения ее структуры. Этим определяется широкая возможность применения однослойных сетей в том случае, ког да задача сводится к обработке простых таблиц с однозначным соответствием принимаемых решений совокупности исходных ситуаций.

Однако дело в том, что любая булева функция представима дизъюнктивной нормальной формой, т.е. дизъюнкцией извест ных специалисту в области математической логики и схемотех ники конъюнкций. Значит, соответствующая электронная схема состоит из логических цепочек, длина которых равна двум. При построении таких схем условно выделяют два уровня: на первом уровне формируются конъюнкции на основе комбинаций буле вых переменных и их отрицаний, а на втором уровне — их дизъюнк ция.

Таким образом, при использовании «схемотехнического» подхода для построении обученных нейросетей в самом общем случае мы можем довольствоваться не более чем двухслойными нейросетями.

Действительно, в нашем примере каждое событие, требующее определенного решения, интерпретируется как конъюнкция эле ментарных событий (например, и в более доходчивой форме соответствует логической операции И. Комбинация собы тий, приводящих к одному решению, соответствует объединению дизъюнкции событий (например, к решению R1 приводит дизъ юнкция событий AIABIACI v v v v v что соответствует логической опера ции ИЛИ.

Электронная схема на основе логических высказываний, приведенных выше, которую легко себе представить, отличает ся от изображенной на рис. 2.1. В ней все длины логических це почек равны двум. Следовательно, при замене логических эле ментов нейронами, выполняющими пороговую передаточную функцию (при замене булевых переменных действительными), получаем статические цепочки нейросети также с длинами, рав ными двум.

Значит, принципиально возможно априорное ограничение:

«для построения схемы обученной нейросети для заданного при менения изображаем два слоя (не считая рецепторного) нейро нов, причем один из них выходной. Далее, только лишь выбором конфигурации связей, возможно, через слой, достигаем требуе мой функциональной ориентации нейросети».

Неужели достаточно иметь дело с одно- и двухслойными ней росетями? Над этой проблемой советуем читателю подумать са мостоятельно, обратив внимание на переход от схемы на рис. 2.1, преобразующей булевы переменные, к идентичной структуре нейронной сети на рис. 2.6, обрабатывающей действительные пе ременные.

Нейросетевые технологии 2. и нейрокомпьютеры Итак, располагая знаниями о данных на входе управляющей системы и реакциях на каждую ситуацию, получаем таблицу. В одном столбце, так называемом запросном поле, — вектор-ситуа ция, в другом, ответном поле, — принимаемое решение. Такая идея ситуационного управления высказана Д.А. Поспеловым [15, 16] еще в 1970-х годах.

Для ее воплощения можно использовать технологии построе ния ассоциативной памяти, столь широко используемой в совре менных вычислительных системах. Если между ситуациями ввес ти операции отношения, то можно построить операции вида «найти ближайшую величину слева (справа)», «найти ближайшие включающие границы» и т.д. Идея ассоциативной ЭВМ давно ре ализована, например, в STARAN [17] в 1977 г.

На основе вышесказанного строится самообучающаяся сис тема, в режиме обучения дополняющая базу знаний (ту самую таблицу в ассоциативной памяти) с помощью моделирования си туаций и принимаемых решений, и выдающая решение в рабо чем режиме согласно таблице на основе интерполяции.

Однако необходимость выхода на большие размерности огра ничивает возможность построения «большой» ассоциативной памяти по существующей технологии. Ведь такая память даже при реализации единственной операции основана на одновре менном сравнении входного вектора с запросными частями всех ее регистров и с выдачей содержимого ответного поля в случае совпадения.

Получается, что мозг не может непосредственно хранить таб лицы, а моделирует их с помощью нейросетевых механизмов. Ис ходные предложения, например, Кохонена [13] по применению нейросетей касались именно ассоциативной памяти.

Очевидно, такая реализация не очень удобна, поэтому следу ет определять области разумного применения каждого средства решения задач искусственного интеллекта.

Рассмотрим, где используется принцип нейросети без расче та, анализа баз знаний и т.д. По-видимому, там, где получена пер вичная информация для органов чувств. На этом же уровне про водим первичную классификацию и принимаем оперативное ре шение: убежать от стремительно приближающегося автомобиля, надеть противогаз и т.д.

Значит, в нашей жизнедеятельности существует такая ниша, где решение должно быть сверхоперативным, скорее рефлектор ным, не допускающим анализа, чему и способствует высокий па раллелизм сети. Именно высокий параллелизм наряду с исклю чением сложных расчетов обусловил взрыв интереса [7] к систе мам искусственного интеллекта в начале 1980-х годов, когда ост ро встала задача разработки вычислительных средств сверхвысо кой производительности.

Здесь мы вновь затронули вопрос актуальности аппаратной реализации нейросети или нейрокомпьютеров [1, 2], так как программная модель на непараллельном компьютере лишена свойства высокого параллелизма мозга и ограничивает выход на «большие» нейросети.

Указанный параллелизм выражается в том, что одновременно обрабатывается большое число цепочек нейронов. При этом каж дый нейрон обрабатывается хотя и по одному алгоритму, но по разным его ветвям: один в конце концов возбудится, другой нет;

связи нейрона индивидуальны и изменяются неидентично свя зям других нейронов и т.д.

Тогда при разработке параллельного вычислительного уст ройства - нейрокомпьютера, способного имитировать работу нейросети высокой производительности, следует учесть нижепе речисленное:

• необходимо распределять нейроны (точнее, нейроподобные элементы или соответствующие им программные процедуры) между процессорами НК, синхронизируя обработку нейронов в соответствии с матрицей следования, т.е. реализовать способ рас параллеливания по информации;

• одинаковые для всех процессоров программы одновремен но обрабатываемых нейронов в общем случае должны выпол няться по разным ветвям.

При программной реализации нейросети перечисленные тре бования соответствуют SPMD-технологии («одна программа — много потоков данных») [18 — 20], привлекательность которой обоснована для многих приложений параллельного решения за дач высокой сложности.

Привлекательна реализация «большой» нейросети на основе сетевых технологий.

При аппаратной реализации НК (или его аппаратной поддерж ке) также необходимо учесть требование: один нейроподобный элемент должен делить время между имитацией многих нейронов.

Жесткая аппаратная имитация нейросети, соответствующая связи «один нейроподобный элемент — один нейрон», неэффективна, так как ограничивает возможную размерность моделируемой сети.

При применении сетевых технологий в рамках построения бо лее сложных управляющих систем целесообразно использовать НК как сопроцессор под управлением мощного и универсального компьютера — монитора [21], что обусловлено разнообразными функциями «учителя» по формированию, заданию и регулировке параметров, по обучению и дальнейшему применению результа тов. В рамках сегодняшних компьютерных технологий НК дол жен дополнять персональный компьютер (рабочую станцию) как его внешнее устройство и встраиваться в существующие ОС.

Итак, известны языки логического вывода, экспертные сис темы, самообучающиеся системы управления, а в природе пер вично воплощены лишь нейросети.

Почему же средства искусственного интеллекта, опирающие ся далеко не только на одни нейросети, не были первоначально заданы Природой, а явились плодом человеческого гения?

- 5 Да просто мозг — конструктивно целесообразен, развиваем, универсален и самодостаточен. С его помощью еще не то можно построить!

Приведем пример колеса: какова должна быть длина нерва, чувствующего обод колеса? Весьма велика. Значит, колесо долж но быть отделено от живого существа. И потому человек как су щество разумное колесо может сделать сам.

Обобщением «схемотехнического» подхода является подход к построению нейросетей с позиций алгебры высказываний. Логи ческое описание системы управления или принятия решений, в терминах алгебры высказываний, — «один в один», в результате формирования логической схемы ложится в основу нейронной сети. Остается заменить булевы переменные действительными (достоверная или другие оценки), а операции конъюнкции и дизъюнкции — единой операцией, осуществляемой передаточ ной функцией нейрона. Конечно, такая замена не столь безбо лезненна. Необходимы несложные преобразования логического описания, а также настройка порогов и весов связей, чтобы избе жать неоднозначности выдаваемых решений.

Кроме того, читатель не должен считать, что каждая нейро сеть сводится к однослойной. Значит, предложенный далее алго ритм трассировки нуждается в обобщении, направленном на структуризацию обучаемой нейросети.

ТРАССИРОВКА НЕЙРОСЕТИ Подход: опыт - предпосылки 3. обобщения Объединим множество эталонов, требующих возбуждения одного нейрона выходного слоя, понятием обобщенный эталон.

Например, эталоны А1АВ1ЛС5 образуют один обобщенный эталон ведущий к R1. Тогда для обобщенного эта лона введем понятие обобщенной операции &, объединяющей все посылки, ведущие к одному выводу, А\ & В\ & С1 & С2 & Выберем нейросеть, отражающую все особенности, необхо димые для построения алгоритма трассировки, и возьмем тот же пример, который выглядит теперь следующим образом:

Задавая обобщенный эталон на входе, например, из тех, что приведены выше, необходимо наиболее рациональным образом построить пересекающиеся пути возбуждений, ведущие от каж дого возбужденного входного нейрона к соответствующему нейрону выходного слоя. Пути должны быть максимально объ единены, совмещены согласно стратегии слияния и общего вы хода.

Ори этом разрабатывается эвристический алгоритм, с мини мальным использованием ресурсов сети — ее нейронов и связей, а также с минимальным развитием, если связей недостаточно.

Пусть выбрана нейросеть (рис. 3.1), где первоначально задан ные связи обозначены тонкими стрелками. Строим соответству 5* ющую матрицу следования S и в ней транзитивные связи (рис.

3.2). Проверяем, все ли нейроны выходного слоя достижимы из любого нейрона входного слоя? Если нет, считаем, что сеть сос тавлена некорректно.

Рис. 3.1. Нейросеть, подлежащая обучению Из нейрона В\ не исходит ни одной статической цепочки, за канчивающейся нейроном Вых5, в связи с тем, что в строке, соот ветствующей нейрону Вых5, нет даже транзитивной связи в столбце, соответствующем нейрону В\. Это относится и к нейро ну В3.

Введем непосредственные синапсические связи В1 Вых5 и В3 Вых5, что отмечено на рис. 3.1 жирной стрелкой, а на рис.

3.2 — весами элемента матрицы.

Рис. 3.2. Матрица следования с транзитивными связями Сформируем (см. подразд. 2.5) статический путь возбуждения [В1,А1, С1, СЗ, С4, С5] Вых\ и отобразим матрицей А\, С\, С2, СЗ, С4, С5 Вых\\ (рис. 3.3, а). Имитируя проклады ваемые пути возбуждений, первоначально присваиваем нейро нам входного слоя, отображенным нулевыми строками этой мат рицы, признак «возбужден».

Найдем входы матрицы (пустые строки), обладающие приз наком «возбужден». Выделим в одну совокупность соответствую щие им столбцы (в данном случае 1 — 7) и найдем в ней строку, со держащую максимальное число нулей (строка, соответствующая нейрону 6). Заменяем в этой строке (в выделенной совокупности г Возб.

в Рис. 3.3. Матрица следования при обучении первому эталону:

а — общий вид;

б — первый шаг преобразования матрицы следования;

в — после исключения нейронов В1,А1, и 6;

г — после исключения «невозбужденных» входов столбцов) нули единицами, т.е. максимально увеличиваем соответ ствующие веса. Присвоим нейрону 6 признак «возбужден», а так же значение = 5, характеризующее то количество нейронов, «возбуждение» которых интегрируется на входе нейрона. При пов торном использовании этого нейрона менять веса связей на его входе нельзя. Изменение весов отображаем в матрице S.

Исключим из матрицы строки и столбцы, соответствую щие нейронам С1, С2, С3, С4, С5. Новая матрица имеет вид, представленный на рис. 3.3, б.

Вновь выделим столбцы, соответствующие «возбужденным» входам матрицы, т. е. нейронам В\, А\, 6. Находим строку в выде ленной совокупности столбцов с максимальным числом нулей.

Строка соответствует нейрону 11. Заменяем в этой строке нули единицами, т. е. максимально увеличиваем веса. Присваиваем нейрону 11 признак «возбужден» и значение — 3. Отражаем изменение весов в матрице S.

Исключим из матрицы строки и столбцы, соответствую щие нейронам В\, А\, 6. Матрица принимает вид, изображенный на рис. 3.3, в. Исключаем из матрицы все входы, соответствую щие нейронам 1, 2, 3, 4, 5, не обладающие признаком «возбуж ден», так как строящийся нами путь возбуждения их уже мино вал. Исключение этих нейронов породит новые нейроны 9 и 10, подлежащие исключению по той же причине.

Последовательное исключение сверху вниз динамически учи тывает появление таких нейронов и гарантирует полное исклю чение за один проход. Матрица примет вид, представленный на рис. 3.3, г.

Теперь в первом столбце имеется единственная строка с ну лем, соответствующая нейрону Вых\. Изменим нуль на единицу, окончательно получим возможный динамический путь возбуж дения по заданному эталону. Изменения отразим в матрице S.

Не будем приводить новый вид матрицы следования S, а на изображении самой сети (рис. 3.4) выделим построенную трассу (опорный или динамический путь возбуждения по предполагае мому эталону).

В результате имеем сеть, обученную реакции на эталон одной комбинации событий.

Рис. 3.4. Нейросеть, обученная первому эталону Составим обобщенный эталон ситуации {А\, В2, 53, С\, С2, СЗ}, требующий решения R2. Свяжем это решение с нейроном Вых2.

По сети, представленной на рис. 3.4, или по матрице (см.

рис. 3.2), построим с учетом частичного обучения матрицу стати ческого пути возбуждения [В2, В3, А1, C1, С2, СЗ Вых2] (рис. 3.5).

Рис. 3.5. Матрица следования для обучения второму эталону На нейроне 6 ранее суммировалось возбуждение пяти нейро нов: С1,С2, СЗ, С4, С5. Таким образом, и соответствующая строка матрицы S содержит пять единиц = 5, а соответствующая стро ка матрицы содержит всего три единицы. Значит, этот нейрон не может использоваться для трассировки необходимого пути возбуждения, так как комбинация С1&С2&С3&С4&С5 здесь не требуется. То же относится и к нейрону 11.

Исключим из данной матрицы строки и столбцы, соответ ствующие нейронам 6 и 11. Матрица примет вид, приведенный на рис. 3.6.

Объединим столбцы множества входов матрицы, обладаю щих признаком «возбужден», в данном случае первые шесть столбцов. Найдем в них первую строку, содержащую максималь ное число нулей. Это строка, соответствующая нейрону 4.

Рис. 3.6. Шаг преобразования матрицы следования Изменим в ней все нули на единицы, положим = 4. Присвоим нейрону 4 признак «возбужден», отразим внесенные изменения весов в матрице S.

Исключим из матрицы строки и столбцы, соответствую щие нейронам B2, А1,С1,C2, определившим возбуждение нейро на 4.

Вновь объединим столбцы множества входов, обладающих признаком «возбужден», соответствующие нейронам ВЗ, С3, 4. В совокупности столбцов выберем первую строку, содержащую максимальное число нулей, — строку, соответствующую нейрону 1.

Заменим нуль на единицу, положим =1, нейрону 1 присвоим признак «возбужден».

Исключим из матрицы строку и столбец, соответствующие нейрону ВЗ, передавшему энергию возбуждения нейрону 1, а так же исключим строки и столбцы, соответствующие образовав шимся входам — «не возбужденным» нейронам 2 и 3.

В столбцах, соответствующих нейронам — входам с призна ком «возбужден», найдем строку с наибольшим числом нулей.

Такая строка соответствует нейрону 10. Заменим нули на едини цы, присвоим нейрону признак «возбужден», полагаем = 2.

В матрице исключим строки и столбцы, соответствующие нейронам 1 и 4, передавшим возбуждение нейрону 10.

Нейрон 9, не обладающий признаком «возбужден», образует вход матрицы. Исключим соответствующие ему строку и столбец.

Выделим столбцы, соответствующие нейронам С3 и 10, и в них находим строку с максимальным числом нулей. Такая строка соответствует нейрону 5. Заменяем в ней нуль единицей, полага ем =1 и присваиваем нейрону признак «возбужден». Отразим изменение веса в матрице S.

Исключим из матрицы строку и столбец, соответствую щие нейрону СЪ, передавшему возбуждение нейрону 5. Далее исключим строку и столбец, соответствующие нейрону 7, как порождающему вход матрицы, который не имеет признака «воз бужден».

В совокупности выделенных столбцов, соответствующих нейронам 5 и 10, строка, соответствующая нейрону 12, имеет единственный нуль. Заменим его на единицу, присвоим нейрону 12 признак «возбужден», положим = 1. Отразим внесенное изменение веса в матрице S. Исключим из матрицы строку и столбец, соответствующие нейрону 5. И наконец, на последнем шаге, заменив нули в строке, соответствующей нейрону Вых2, единицами, окончательно получим искомый путь возбуждения (рис. 3.7).

Обучим сеть ситуации, требующей решения R3. Пусть этому решению соответствует нейрон ВыхЗ. Матрица ВЗ, А1, С4, С5 ВыхЗ] представлена на рис. 3.8, а. Исключим из матрицы те нейроны, для которых значение т превышает количество еди ниц в соответствующей строке, т. е. — нейроны 4, 5, 6, 11, кото рые в данном пути возбуждения не используются. Вновь исклю чим из матрицы те нейроны, для которых в результате преды дущего исключения значение т превышает количество единиц в соответствующей строке. Таким образом действуем до исчерпа ния этой возможности. В результате будут исключены из рас смотрения (вследствие исключения нейронов 4 и 5) нейроны 10 и 12. Окончательный вид матрицы изображен на рис. 3.8, б.

Присвоим всем нейронам, образующим входы матрицы, признак «возбужден». Выделим и объединим столбцы, соответ ствующие входам матрицы Однако вследствие ранее выполненных построений — в ре зультате частичного обучения — появляются новые особенности.

Поэтому расширим последующие действия.

В выделенных столбцах найдем строку, содержащую макси мальное число единиц. Строка представляет тот нейрон, кото Рис. 3.7. Нейросеть после обучения двум эталонам рый приобрел энергию возбуждения одного или нескольких нейронов, образующих входы матрицы. Эти нейроны могут быть исключены из рассмотрения. Так, нейрон 1 возбужден единственным нейроном, принадлежащим текущему множест ву входов матрицы, — нейроном В3, который может быть иск лючен из рассмотрения. Матрица принимает вид, представ ленный на рис. 3.8, в. Подтверждаем у нейрона 1 признак «воз бужден» и превращаем его во вход матрицы, уничтожив веса в его строке.

Вновь найдем множество входов матрицы и выделим соответ ствующие столбцы. Отыщем строку, содержащую единицы в этих и только этих столбцах. Таковых больше нет. Тогда найдем стро Рис. З.8. Шаги преобразования матрицы следования для обучения третьему эталону:

а — общий вид;

б — матрица следования после исключения неиспользованных нейронов.

Рис. 3.8. Продолжение в — после исключения нейрона B3;

г — после возбуждения нейрона ку, содержащую максимальное число нулей. Первая такая строка соответствует нейрону 2. Заменим нули единицами, положим = 2, исключим нейроны B2 и A1 из рассмотрения, присвоим ней рону 2 признак «возбужден». Отразим сделанные изменения ве сов в матрице S.

Исключим входы, не обладающие признаком «возбужден», — нейроны 3 и 5.

Выделим столбцы, соответствующие входам. В них нет строк, содержащих единицы. Тогда найдем строку, содержащую макси мальное число нулей. Такая строка соответствует нейрону 7. За меним нули (в выделенной совокупности столбцов) на единицы, положим = 2, присвоим нейрону 7 признак «возбужден», отра зим изменение весов з матрице S. Исключим нейроны С4 и С5 из рассмотрения. Сформировался «невозбужденный» вход, соответ ствующий нейрону 8. Исключим to рассмотрения и этот нейрон (рис. 3.8, г).

Выделим столбцы, соответствующие «возбужденным» входам и не находим строк, содержащих единицы. Тогда найдем первую строку с максимальным числом нулей. Это строка, соответствую щая нейрону 13. Заменим нуль на единицу, нейрону 13 присвоим признак «возбужден», полагаем = 1. Исключим нейрон 7 из рассмотрения.

Выделим столбцы, соответствующие множеству «возбужден ных» входов. В них нет строки с единицами, но единственная строка с максимальным числом нулей соответствует нейрону ВыхЗ. Заменим нуль на единицу. Однако статус этого нейрона особый, и значение т, как и признак «возбужден», ему не прис ваивается.

Исключим нейрон 13 из рассмотрения.

Выделим множество столбцов, соответствующих «возбужден ным» входам, т. е. нейронам 1 и 2. Ищем в этих столбцах строку с единицами, затем с максимальным числом нулей, но таковых нет. Следовательно, необходимо ввести дополнительные связи.

Для этого в каждом столбце найдем первую сверху транзитивную связь и заменим ее на единицу. Тогда данная сеть дополнится ди намическими цепочками возбуждения 1 ВыхЗ и 2 ВыхЗ.

Построение трассы решения R3 закончено, и сеть имеет вид, представленный на рис. 3.9.

Рис. 3.9. Нейросеть после обучения третьему эталону Приступим к обучению следующему обобщенному эталону — решению А2 & В3 & С1 & С2 & С3 & С4 & С5 RA. Матрица сле дования [В3, А2, С1, C2, С3, C4, C5 Вых4] представлена на рис. 3.10, а.

Исключим из рассмотрения те нейроны, для которых количе ство единиц в строках меньше т. Такими нейронами являются и 11. Матрица примет вид, представленный на рис. 3.10, б.

Рис. 3.10. Матрица следования для обучения четвертому эталону:

а - общий вид;

б - после исключения нейронов 4 и 11;

в - после возбуждения нейрона 6;

г — после исключения неиспользуемых нейронов;

д — после возбуждения нейронов 3 и 14;

е - после исключения нейрона Присвоим всем нейронам-входам признак «возбужден». Вы делим столбцы, соответствующие входам, это первые семь столбцов. Найдем строку с максимальным числом единиц в этих столбцах при отсутствии единиц в других. Строка соответ ствует нейрону 6. Теперь нейрон 6 представляет нейроны С\, С2, С3, С4, С5, передавшие ему энергию возбуждения. Присвоим ему признак «возбужден», исключим из рассмотрения перечис ленные нейроны, матрица примет вид, представленный на рис. 3.10, в.

Для «невозбужденных» нейронов исключим в матрице строки (и столбцы), число единиц в которых меньше т. Они со ответствуют нейронам 5 и 7. Повторим этот щаг до полного иск лючения таких нейронов - исключаются нейроны 12 и 13. Мат рица примет вид, представленный на рис. 3.10, г.

Исключим из рассмотрения множество «невозбужденных» входов. К таковым относится нейрон 8. Выделим множество столбцов, соответствующих входам матрицы. В их совокупности найдем первую строку с максимальным числом нулей (единиц нет во всей матрице). Такую строку образует нейрон 3. Нули в ней соответствуют нейронам ВЪ и А2. Исключим эти нейроны из рассмотрения, положим = 2, присвоим нейрону 3 признак «возбужден».

Вновь выделим множество столбцов, соответствующих вхо дам матрицы, и так как в их совокупности нет строк, содержащих единицы, найдем строку с максимальным количеством нулей, соответствующую нейрону 14. Заменим в ней нуль на единицу, положим = 1, присвоим нейрону 14 признак «возбужден».

Исключим нейрон 6 из матрицы, и она примет вид, представлен ный на рис. 3.10, д.

Выделим множество столбцов, соответствующих входам мат рицы, и так как в их совокупности нет строк, содержащих едини цы, найдем строку с максимальным количеством нулей. Эта строка соответствует нейрону Вых4. Заменим в ней нуль на еди ницу. Поскольку это нейрон выходного слоя, не станем присваи вать ему признак «возбужден» и значение т. Исключим нейрон 14 из рассмотрения. Вид матрицы представлен на рис. 3.10, е.

В этой матрице множество «возбужденных» входов представ лено единственным нейроном 3. Однако в соответствующем ему столбце нет ни единичных, ни нулевых элементов. Введем в сеть дополнительную связь, найдя в этом столбце первую сверху тран зитивную связь и положив ее вес равным единице. Эта связь по рождает динамический путь возбуждения 3 Вых4. Все измене ния отразим в матрице S.

Построение трассы решения R4 закончено. На рис. 3.11 приве ден вид нейросети, полученной после данного этапа трассировки.

Теперь приступим к трассировке последнего пути возбужде ния А2 & В1 & В2 & С1 & С2 & СЗ & С4 & С5 R5. Решению R соответствует нейрон выходного слоя Вых5.

На основе текущей матрицы S построим матрицу B2, А2, С1, С2, СЗ, С4, С5 Вых5] путем исключения «ненужных» строк и столбцов с сохранением транзитивных связей. Исключим из рассмотрения нейрон 4, для которого количество единиц в строке меньше = 4. Получившаяся матрица представлена на рис. 3.12, а.

Рис. 3.11. Нейросеть после обучения четырем эталонам Присвоим всем входам признак «возбужден». Выделим столб цы, соответствующие «возбужденным» входам. В совокупности этих столбцов найдем строку, содержащую максимальное число единиц в этих и только этих столбцах. В данном случае такая строка соответствует нейрону 6. Присвоим ему признак «возбуж ден» и исключим из рассмотрения нейроны С1,..., С5.

Далее исключим из рассмотрения нейроны 5 и 7, так как в со ответствующих строках отсутствуют единицы при отличных от нуля значениях т, после чего придется исключить по той же при чине нейроны 12 и 13. Получившаяся матрица представлена на рис. 3.12, б.

Исключим из рассмотрения «невозбужденный» вход, соответ ствующий нейрону 8. Выделим столбцы, соответствующие «воз 6* Ряс. 3.12. Матрица следования для обучения пятому эталону:

а — общий вид;

б — после возбуждения нейрона 6 и исключения неиспользованных нейронов;

в - после возбуждения нейрона 14;

г — после исключения нейронов В\ и бужденным» входам, и в их совокупности найдем строку, содер жащую наибольшее число единиц при отсутствии единиц в'дру гих столбцах. Строка соответствует нейрону 14. Исключим из рассмотрения нейрон 6, как передавший свое возбуждение ней рону 14, присвоим нейрону 14 признак «возбужден». Матрица примет вид, представленный на рис. 3.12, в.

Выделим столбцы входов, соответствующие «возбужденным» нейронам, и в их совокупности найдем строку, соответствующую нейрону выходного слоя Вых5, содержащую максимальное число нулей (строк с единицами больше нет). Заменим нули на едини цы. Исключим нейроны В1 и 14 из рассмотрения. Отразим вве денные изменения в матрице S. На рис. 3.12, г приведена полу ченная матрица Выделим множество столбцов — входов матрицы. В этих столбцах не находим строк, содержащих единицы, а также строк, содержащих нули. Тогда в каждый столбец занесем единицы на места транзитивных связей, т. е. введем связи В2 Вых5 и Вых5, а веса этих связей положим равными единице.

Трассировка нейросети закончена. Окончательный ее вид представлен на рис. 3.13, где единичные веса соответствуют жир ным стрелкам.

Рис. 3.13. Нейросеть после обучения всем эталонам Алгоритм трассировки 3. нейросети В результате решения задачи найден алгоритм трассировки нейросети. Рассмотрим его по шагам.

Шаг 1. Дополняем матрицу следования S транзитивными свя зями по алгоритму, представленному в подразд. 2.4.

Шаг 2. Строки, соответствующие нейронам выходного слоя, не должны иметь пустых элементов в позициях, соответствую щих нейронам входного слоя. Пустой элемент указывает на отсут ствие пути возбуждения от нейрона входного слоя. В таком слу чае будем считать нейросеть построенной некорректно и нуждающейся во внесении дополнительных связей, например, непосредственно от нейрона входного слоя к нейрону выход ного.

Шаг 3. Организуем перебор всех эталонов обобщенных ситу аций (обобщенных эталонов), закрепив нейроны выходного слоя Bыxi (i = 1,..., m) за соответствующими решениями. Для каждого обобщенного эталона выполняем шаги 4—15. Если все обобщен ные эталоны обработаны, выполнение алгоритма заканчиваем.

Шаг 4. Для обобщенного эталона i (i = 1, 2,..., т) строим мат рицу следования..., где..., нейроны входного слоя — рецепторы, возбуждающиеся при пода че обобщенного эталона, т.е. характеризующие ситуацию. Вели чина возбуждения равна единице.

Шаг 5. В матрице последовательно, сверху вниз, вычерки ваем строки (и соответствующие столбцы), число единичных элементов в которых меньше указанного ранее при строке m.

Примечание. Отличные от нуля значения счетчиков т форми руются не ранее чем после обучения первому эталону. Поскольку в процессе вычеркивания возможно порождение новых строк с числом единиц, меньше т, а матрица S треугольная, то следует производить это вычеркивание за один проход построчно сверху вниз. В противном случае не избежать повторного, а возможно, и многократного анализа появления новых строк, подлежащих вы черкиванию.

Шаг 6. Присваиваем признак «возбужден» всем нейронам входного слоя матрицы Шаг 7. Проверяем количество строк матрицы При нали чии более одной строки выполняем следующий шаг, в противном случае — шаг 3.

Шаг 8. Исключаем строки (и соответствующие им столбцы) матрицы являющиеся ее входами и отображающие нейроны входного слоя, не обладающие признаком «возбужден».

Шаг 9. Исключаем из матрицы строки (и столбцы), кото рые содержат количество единичных элементов меньше параметра т, указанного при строке.

Примечание. Такое действие, уже предусмотренное шагом 5, необходимо производить после каждого вычеркивания строк и столбцов.

. Шаг 10. Выделяем множество строк матрицы с признаком "возбужден" и множество соответствующих им столбцов.

Шаг 11. В совокупности выделенных столбцов находим пер вую строку, содержащую максимальное число единиц и не содер жащую единиц в других столбцах, т. е. число единиц в найденной строке и выделенных столбцах не должно быть меньше т. Соот ветствующий этой строке нейрон может быть использован пов торно. Если таковой строки найти не удается, выполняем шаг 13.

Шаг 12. Исключаем из рассмотрения нейроны (вычеркиваем строки и столбцы), которым соответствуют единицы в найденной строке. Присваиваем нейрону, соответствующему выделенной строке, признак «возбужден». Уничтожаем в этой строке все нули и символы транзитивных связей, если они имеются. Строка пре образуется во вход матрицы Далее выполняем шаг 7.

Шаг 13. В совокупности выделенных столбцов находим пер вую строку, содержащую максимальное число нулевых элемен тов. Если такой строки нет, выполняем шаг 15.

Шаг 14. Меняем значения возбуждения соответствующих связей, т.е. заменяем нули единицами. Присваиваем нейрону, со ответствующему выделенной строке, значение т, равное количе ству единиц в строке, и признак «возбужден». Вычеркиванием строк и столбцов исключаем из рассмотрения нейроны, передав шие энергию возбуждения найденному.

Примечание. Значения весов связей одного нейрона могут кор ректироваться лишь однажды. При обучении другим эталонам нейрон может использоваться повторно, если в обучении участву ют все нейроны, передающие ему возбуждение с весом, равным единице. При этом достаточно учитывать лишь число единиц в строке. В процессе такого обучения эталоны друг другу не мешают.

Внесенные изменения весов учитываем в матрице S. Выпол няем шаг 7.

Шаг 15. В каждом выделенном столбце находим первый свер ху непустой элемент, соответствующий транзитивной связи. Вво дим в нейросеть дополнительную связь, присваивая найденному элементу единичное значение. Исключаем из рассмотрения (вы черкиваем строки и столбцы) нейроны, соответствующие обрабо танным столбцам. Отражаем внесенные изменения в матрице S.

Примечание. Указанная транзитивная связь (см. выше) потре буется на последней стадии обучения обобщенному эталону и может обнаружиться лишь в строке, соответствующей нейрону выходного слоя, поэтому формировать значение m уже излишне.

Выполняем шаг 7.

Построенный алгоритм трассировки, несомненно, эвристи ческий, т.е. дающий приблизительное, удовлетворительное ре шение. Точный алгоритм трассировки, минимизирующий число использованных нейронов и дополнительных связей, требует совместного анализа всех эталонов и решений, выделения и соз дания термов, участвующих в получении решений.

Так, в нашем примере удачно сложился терм в результате свя зи [C1, C2, С3, С4, С5 6]. Он использовался при получении трех решений по эталонным ситуациям — R1, R4, R5. По-видимому, целесообразны термы в результате объединения С\, С2, СЪ, а так же С4 и С5, В1 и B2 и др.

Предлагаем читателю самостоятельно провести трассировку сети, представленной на рис. 2.14, по предложенному алгоритму.

Приведение нейросети 3. после трассировки Рассмотрим простейшую передаточную функцию (3.1) Задавая конкретные эталоны в исследованном выше приме ре, будем наблюдать за изменением величины возбуждения соот ветствующего нейрона выходного слоя. Мы видим, что каждый эталон приводит к одинаковой величине возбуждения нейрона выходного слоя.

Однако, например, при распознавании знаков алфавита ве личины возбуждения нейронов выходного слоя в ответ на предъ явление различных эталонов могут быть различными. Так, эталон латинской / «засветит» на входном слое (на сетчатке) меньшее число нейронов, чем, скажем, буква Q. При рассмотренной пере даточной функции величины возбуждения на выходе будут суще ственно разными.

Возникает вопрос: не приводит ли некоторое незначительное изменение (зашумление) ситуации А, логично требующее реше ния к ситуации В, т.е. к принятию решения Разная величина возбуждения нейронов выходного слоя ука зывает на возникновение нежелательной приоритетности ситуа ций или эталонов. Очевидно, это возбуждение следует как-то вы ровнять по эталонным ситуациям, привести к одной или доста точно близкой величине.

Введем постоянную величину U, например, как максималь ное значение возбуждения некоторого нейрона выходного слоя или среднюю оценку, не превышающую такой максимум. Введем для каждого нейрона выходного слоя коэффициент приведения:

Значение находим не по обобщенному эталону, а по каждой конкретной эталонной ситуации, входящей в состав обобщенно го эталона. Например, ситуация {А1, В1, образует реальный эталон в составе обобщенного эталона {А1, В1, С1, С2, С3, С4, С5}.

По нему (другие ситуации аналогичны) находим величину воз буждения нейрона Вых\:

В дальнейшем в режиме распознавания будем использовать произведение каждого значения возбуждения нейрона выходно го слоя на его коэффициент приведения. Таким образом, мы пос тавим все эталонные ситуации на входе в равное положение.

Pages:     || 2 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.