WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     | 1 ||

«НЕЙРО-СЕТЕВЫЕ ТЕХНОЛОГИИ Кризис сметает слабых. Сильные же не только выживают, но и увеличивают доход ность бизнеса, быстрее других осваивая новые средства и возможности. Дально видные и предприимчивые ...»

-- [ Страница 2 ] --

Трассировка двухслойной 3. нейросети В подразд. 2.9 указывалось, что любой предикат алгебры ло гики может быть записан в виде дизъюнктивной нормальной формы как дизъюнкция конъюнкций значений предиката и утве рждений, принимающих значения ИСТИНА — ЛОЖЬ, а также их отрицаний. Поэтому будем считать, что каждый предикат сис темы, на основе которого строится нейронная сеть для принятия решений, представляет собой дизъюнкцию конъюнкций собы тий, приводящих к общему решению. Например, система преди катов (2.1) в записи на Алголе имеет вид:

(3.2) Тогда трассировка нейросети заданной структуры по каждо му предикату производится в два этапа. На первом этапе форми руются термы — конъюнкции событий, за которыми закрепля ются нейроны. Эти нейроны «собирают» возбуждение нейронов входного слоя. На втором этапе исключаются из рассмотрения нейроны входного слоя, на основе которых сформированы тер мы. Входным слоем нейронов становятся нейроны входного слоя сети, соответствующие событиям, не вошедшим в состав термов, а также нейроны, реализующие термы. Формируется связь этих нейронов с нейроном выходного слоя, закрепленным за решением.

Как ранее говорилось, для выполнения такой трассировки достаточно взять двухслойную сеть. Однако в такой сети перво Рис. 3.14. Двухслойная нейросеть после обучения (показана трассировка одного решения) начально может быть недостаточно заданных связей, поэтому це лесообразно дополнить сеть необходимыми связями. Ведь из ска занного выше следует, что могут понадобиться связи «через слой», т.е. возможен отход от традиционной «слоистости» сети.

На рис. 3.14 показана трассировка двухслойной сети, реализу ющей систему предикатов (3.2). Связи между слоями первона чально заданы по принципу «каждый с каждым». Выделены свя зи с весами, равными единице.

В дополнение к сказанному отметим следующее.

Если ситуация, приводящая к некоторому решению, погло щается обобщенным эталоном, приводящим к другому решению, то нейросеть не сводится к однослойной и дает неоднозначный ответ (см. подразд. 2.9). При этом правильное логическое описа ние системы принятия решений состоит из описания логических функций, каждая из которых представляет собой скобочную за пись с единственным вхождением переменных. Трассировка должна производиться в соответствии с вложенностью скобок.

Таким образом, необходимо обобщение предлагаемого здесь алгоритма трассировки.

СТРАТЕГИИ ОБУЧЕНИЯ 4 И САМООБУЧЕНИЯ 4.1 Динамизм обучения На самом деле обучение не бывает внезапным, как мы это представили выше, рассматривая сразу обобщенные эталоны.

Можно учить по «чистым» эталонам, объединив их в обоб щенные, но реально используются «частные» эталоны, приводя щие к одному решению. Например, последовательно применяют эталоны В1&А1&С2, В1&A1&С1 и т.д. и получают решение R1.

Можно предъявлять вперемежку разные эталоны, формируя од новременно разные решения.

Например, дядя Рамзай не мог ранее предвидеть некоторых комбинаций событий, предварительно имея ошибочное сужде ние о распределении работ своих клиентов. Ему даже пришлось употребить свои связи для того, чтобы осуществить вожделенную мечту: включить в орбиту своих действий восхитительную высо коприбыльную продукцию фирмы Ночная бабочка}.

Во всех случаях на этапе обучения целесообразно определять события А, В, С с максимальной достоверностью, равной едини це, рассчитывая тем самым реакцию нейросети на вполне опре деленные ситуации. Ведь даже малая вероятность события, при водящая в рабочем режиме к малой величине возбуждения ней рона входного слоя, указывает на то, что событие возможно и, следовательно, нуждается в рассмотрении и выработке решения.

Технология трассировки — «прокладывания» опорных путей в се ти также предполагает максимальную достоверность событий.

Сеть, очевидно, должна эволюционировать - пополняться и развиваться. Лишь на этой основе можно в дальнейшем ставить вопрос не только об обучении с учителем, но и о самообучении.

, Таким образом, мы не сразу предъявляем сети, например, весь обобщенный эталон А1&В1&С1&С2&СЗ&С4&С5, приводя щий к решению R1, а последовательно используем частные эта лоны как единичные значения соответствующих булевых пере менных или целых. Возможно, мы не все эталоны даже можем перебрать практически. Например, спустя год после успешной деятельности компании, Петя впервые направился к Марине, торгующей тибетским бальзамом. Анализ этой ситуации потре бовал трассировки решения А2&ВЗ&СЗ R4.

Конечно, проще всего по вновь появившимся частным этало нам сформировать новые обобщенные эталоны и, отвергнув все ранее проведенное обучение (положив все веса связей в нейросе ти равными нулю), вновь произвести обучение по всему множе ству обобщенных эталонов, включая уточненные. Однако это противоречит динамике совокупного процесса обучения и рас познавания, непрерывному участию сети в системе управления, увеличению трудоемкости обучения. Обучение должно быть столь же оперативным и динамичным, как и распознавание.

Другой путь учета новых эталонов заключается в "обнулении" или минимизации лишь тех весов связей, которые обусловлены предыдущим значением обобщенного эталона, приводящего к тому же решению. В результате использованные ранее нейроны выводятся в ресурс. Затем трассировка выполняется заново по уточненному обобщенному эталону, что гораздо короче, если не учитывать временных затрат на ликвидацию следов присутствия устаревшего обобщенного эталона.

Рассмотрим проблему динамического включения новых част ных эталонов в состав обобщенного на фоне уже произведенного частичного обучения нейросети.

Пусть предъявление эталонов А1&B1&C2 и А1&В1&С4 (обоб щенный эталон А1&В1&С2&С4), требующих решения R1, а так же предъявление обобщенных эталонов А1&В2&С1&С2&СЗ;

А1&В2&С4&С5, A2&B3&C1&C2&C3&C4&C5, А2&В1&С1&С2&СЗ &С4&С5, требующих соответственно решений R2, КЗ, R4, R5, привели к трассировке нейросети, представленной на рис. 4.1.

Здесь выделенные связи обладают максимальным значением ве са (единичным). Нейросеть получена с помощью алгоритма трас сировки, изложенного выше. Матрица следования S, соответ ствующая получившейся сети, показана на рис. 4.2.

Указанную нейросеть весьма утяжеляют дополнительные свя зи. Обучение всем обобщенным эталонам сразу (см. разд. 3) вы являет термы, использующиеся при получении различных реше ний. Здесь же термы не складывались, нейроны почти не исполь зовались повторно. Это и привело к формированию большого числа дополнительных связей.

Рис. 4.1. Частично обученная нейронная сеть Пусть в процессе эксплуатации обученной сети выяснилось, что ситуации (эталоны) А1&В1&С1 и А1&В1&СЗ в дополнение к ранее предусмотренным не только возможны, но требуют того же решения R1. Это означает, что обобщенный эталон А1&В1&С2&С4 следует расширить до эталона А1&В1&С1&С2& С5&С4, требующего решения R1, т. е. необходимо построить путь возбуждения (трассу) В\, А\, С\, С2, С3, C4 Вых1. Причем при построении нельзя изменять уже ранее построенный путь В\, А\, C2,С4 Вых1. Значит, надо проложить трассу, дополнив сеть пу тем возбуждения C1, СЗ Вых1, при этом максимально объеди няя, пересекая, сливая его с уже построенным ранее путем воз буждения, ведущим к Вых\.

Рис. 4.2. Матрица следования для частично обученной нейронной сети Нельзя, однако, допускать слияния, влияния строящейся трассы на пути возбуждения, ведущие к другим нейронам выход ного слоя, что происходит при повторном использовании нейро нов. Ведь слияние двух путей возбуждения заключается в увели чении весов синапсических связей некоторых нейронов. Таким образом, некоторые нейроны могут получать сигналы возбужде ния большего, чем прежде, числа нейронов. А если эти нейроны использовались для получения других решений?

В дополнение к алгоритму трассировки заметим следующее.

Целесообразно при повторном использовании нейронов в про цессе последовательного анализа обобщенных эталонов просле дить за тем, участвует ли данный нейрон лишь в одном пути воз буждения к единственному нейрону выходного слоя и к какому именно или к более чем одному нейрону выходного слоя. Этого вполне достаточно.

Для нового обобщенного эталона на основе матрицы S пост роим матрицу A1, C1, C2, СЗ, С4 Вых1] (рис. 4.3, а). В со ответствии с правилом построения в ней представлены лишь те нейроны, для которых число единиц в строке равно соответству ющему значению т. Для каждой строки, содержащей единичные элементы, указано использование нейрона для получения како го-либо единственного решения (признак Вых1) или не един ственного (признак отсутствует).

Исключим из построенной матрицы строки и столбцы, соот ветствующие нейронам, участвующим в путях возбуждения, не ведущих к Вых\ (рис. 4.3, б).

В столбце, соответствующем нейрону С1, и в строке, не явля ющейся входом, находим первый сверху нулевой элемент. Пола гаем его равным единице и отражаем введенное изменение в мат рице S. Если нулевого элемента в столбце не нашлось, находим первый «пустой» или отмеченный транзитивной связью элемент и полагаем его равным единице. В результате получаем дополни тельную связь С1 2 с единичным весом, отраженную в матрице S. То же проделываем с нейроном СЗ, введя дополнительную связь с единичным весом СЗ 2 (рис. 4.3, в).

Отметим, что наше решение основано на эвристике, и место появления новых возбужденных связей может быть оспорено.

Например, могли быть построены связи 2, СЗ 9, или Вых1, СЗ 9, или 9, СЗ Вых1, и т.д.

Рис. 4.3. Матрица следования для обучения уточненному эталону:

а — общий вид;

б — после исключения лишних нейронов;

в - после введения дополнительных связей Предлагаем читателю самостоятельно получить уточненную сеть, дополнив рис. 4.1.

Не задавайте глупых 4. вопросов!

Мы учим сеть по обобщенным эталонам, несомненно, опира ясь на здравомыслие пользователя. Так, применяя обобщенный эталон А1&В2&ВЗ&С1&С2&СЗ, мы предполагаем возникновение логичных вопросов типа «Какое решение принять, если Вася отправился в павильон "Роксана", куда накануне завезена боль шая партия косметики из Китая?» При А1 = ВЗ = С2 = 1 (на са мом деле истинное происхождение косметики известно) задаем ясный вопрос и получаем столь же ясный ответ: «Принимай ре шение (или значение твоей прибыли) R2!» Но что, если при сложившихся связях сформулировать воп рос: ВЗ=С1=С2=СЗ=1 ? Максимального и равного возбужде ния на выходе достигнет даже не один нейрон! Судить ли по не однозначности ответа о том, что на входе произошло «объедине ние» вопросов? (Каков вопрос, таков ответ?) А всегда ли получа ется неоднозначный ответ?

Положим А2 =В1 = В2 = 1. Максимального возбуждения дос тигнет нейрон Вых5. Но предусматривалось ли решение R5 в от вет на такую ситуацию? Хотя завоз продукции фирм Красный кил лер и Пират в палатки С\, С2 и СЗ накануне визита Пети вполне возможен.

Несомненно, для правильного ответа надо правильно ставить вопрос. Корректность использования нейросети обусловлена те ми задачами и правилами, которые лежат в основе ее разработки.

Если мы предположили, что события А, В, С обязательно должны участвовать в формировании вопросов, то при появлении других вопросов сеть необходимо дополнительно обучить.

Например, вопрос «Фирма ВЗ направила свою продукцию в палатки С\, С2 и СЗ. Что делать?» требует тщательной проработки нового ответа R6 на свободном нейроне Вых6 выходного слоя и трассировки пути возбуждения ВЗ, С1, С2, СЗ Вых6.

Однако возможности неоднозначного ответа (получения оди наковой величины возбуждения нейронов выходного слоя) таким образом не избежать. Придется анализировать всю картину воз буждения нейронов выходного слоя и выдавать все ответы типа:

«Продукция фирмы ВЗ поступила в палатки С1, С2, СЗ»;

"Это впоследствии скорее всего приведет к решениям В2 и R4".

7* Нетрудно видеть, что такая ситуация приводит к необходимости надстройки сети вторым логическим уровнем, где выходной слой нейронов первого уровня становится (возможно, в совокупности со своим входным слоем) входным слоем второго уровня. Так мо гут быть продолжены логические цепочки наших умозаключений.

Познание нового - основа 4. самообучения Мы научили сеть множеству эталонов — вплоть до сформиро ванных в обобщенные. Теперь, подавая на вход даже искаженные образы, можно ответить на вопрос «На какой эталон в большей мере он похож?» С помощью максимально возбужденного нейро на выходного слоя ответ будет найден. Рассмотрим далее более внимательно пороги.

Что если установить ограничение на величину возбуждения нейронов выходного слоя? А именно если величина максималь ного возбуждения меньше порога Н, следует считать, что сеть не знает, что за образ подан на ее вход, и вправе рассматривать его как новый эталон для обучения. Тогда необходимо найти свобод ный нейрон выходного слоя и по вышеприведенному алгоритму произвести трассировку.

Так проводится запоминание эталона. Для последующего ис пользования новых знаний трудно обойтись без внешнего воз действия, без учителя, ибо неизбежен вопрос «Что это, и что из этого следует?» Ведь длителен путь эволюции, основанный на са мообучении, без поддержки извне. Таким образом, решение, принимаемое при предъявлении нового эталона, выбирается на основе расчетов, моделирования, опыта, цели, экспертных оце нок и т.д.

Представим себе возможный диалог между нейрокомпьюте ром (НК) и учителем (У):

НК (Величина возбуждения ни одного нейрона выходного слоя не преодолела порог): Это что-то новенькое! Повтори вопрос, может, величины возбуждения на входе малы?

У: Повторяю вопрос.

ИК (Результат тот же): Все же это что-то новенькое. Приво дит ли это к одному из известных решений или решение новое?

У (Варианты):

1. Это должно привести к решению RS.

2. Это новое решение R6.

НК (Соответствующие варианты):

1. Произвожу трассировку по уточненному обобщенному эта лону для решения R5.

2. Рассматриваю твой вопрос как новый обобщенный эталон.

Провожу трассировку к выходному нейрону Вых6, соответствую щему решению R6.

Здесь идет самообучение системы «учитель — нейрокомпью тер». Полное или близкое к нему самостоятельное обучение ней рокомпьютера возможно тогда, когда сеть многоуровневая, т. е.

одни выводы являются посылками для других. При этом сеть должна быть знакома хотя бы с понятиями «хорошо» и «плохо», т. е. учитывать критериальную функцию, необходимую для моде лирования. Это высшие сферы обучения (самообучения), кото рые мы здесь не рассматриваем.

Любая достаточно развитая нейросетевая система должна быть многоуровневой, допускающей цепочки выводов. Иначе трудно представить себе такие диалоговые системы, с помощью которых производится постепенное уточнение при успешном продвижении к истине.

Например, диалог в процессе медицинской диагностики фор мируется, несомненно, на основе отработанной стратегии «доп роса». Предполагается, что вопросы структурированы и даже соблюдают порядок следования, отображенный графически, так что одни вопросы исключают другие.

В то же время принцип нейросети применим и тогда, когда вопросы нелогичны, несовместимы. Возбуждения всех нейронов выходного слоя не превысят порога, и НК вступит в диалог с пользователем (П), подобный предыдущему. Если же ответ на ло гичный вопрос не был предусмотрен экспертами (учителем), то этот недостаток устраним трассировкой нового решения. Правда, новым решением — реакцией на вопрос может быть ответ: «Не за давай глупых вопросов!» В общем случае диалог пользователя с нейрокомпьютером может выглядеть следующим образом:

НК (Первый вопрос после входа): Что у Вас болит?

П: Голова, живот, палец.

НК (После ввода и обработки сигналов — величин возбуждения нейронов входного слоя, соответствующих понятиям «голова», "живот", «левый указательный палец», максимально возбуждается нейрон промежуточного выходного слоя, инициирующий следующий вопрос): Молились ли Вы на сон грядущий?

Л: Да.

НК: Мыли ли Вы руки, ложась спать?

П (Варианты):

1. Я мою только ноги.

2. Нет.

НК (Варианты):

1. Не задавайте глупых вопросов!

2. (На правах рекламы) Не волнуйтесь, но Вы страдаете мани ей величия. Вам срочно необходимо обратиться в Пенсионный фонд Российской Федерации!

НЕЙРОННЫЕ СЕТИ С ОБРАТНЫМИ СВЯЗЯМИ К вопросу о происхождении 5. человека В рассказе "Пиъмо к ученому соседу» А.П. Чехов от лица своего героя пишет: «...если бы человек, властитель мира, умней шее из дыхательных существ, происходил от глупой и невежест венной обезьяны, то у него был бы хвост и дикий голос. Если бы мы происходили от обезьян, то нас теперь водили бы по городам Цыганы на показ и мы платили бы деньги за показ друг друга, танцуя по приказу Цыгана или сидя за решеткой в зверинце...

Разве мы любили бы и не презирали бы женщину, если бы от нее хоть немножко пахло бы обезьяной, которую мы каждый вторник видим у Предводителя Дворянства?» Попробуем построить проект, эскиз, набросок фрагмента нейросети, отражающей глубину умозаключений чеховского ге роя и наше горячее желание поправить и дополнить его (рис. 5.1).

Посылка «человек произошел от обезьяны» обязательно должна привести к абсурдному выводу «у человека есть хвост».

Диким голосом современного студента не удивить. Обучение — трассировку, приводящую к образованию динамических путей возбуждения, при которой могут быть использованы многие ней роны, обозначим пунктиром. Тогда должна существовать отрица тельная обратная связь, ведущая к нейрону входного слоя, «ответ ственному» за указанный тезис. Значит, этот нейрон должен по лучать возбуждение нейрона выходного слоя с помощью дендри та с отрицательным синапсическим весом. Отрицательная связь помечена на рисунке знаком "—".

Ранее мы отличали нейроны-рецепторы входного слоя от других нейронов. Рецепторы возбуждались только извне. Теперь мы видим, что это такие же нейроны, как и все другие, просто не Рис. 5.1. Нейросеть для решения вопроса о происхождении человека которые их дендриты получают возбуждение извне, а некоторые — от других нейронов сети.

Однако сделанный вывод усиливает важность посылки «чело век произошел не от обезьяны». Величина возбуждения этой по сылки справедливо должна быть увеличена, что достигается по ложительной обратной связью. То же самое относится к не менее одиозному выводу «его водит Цыган на показ».

Но одновременно действует и третий довод: «То, что дурно пахнет, недостойно любви!» Дурной запах давит, угнетает позывы любви и способствует сомнению о происхождении человека. Мы видим действенную роль отрицательной обратной связи «запах — любовь», преодолеваемую лишь с помощью крайне важной про дукции фирм Ночная бабочка и Красный киллер.

Как же вводить 5. обратные связи?

Рассмотрим непрерывную, динамически контролируемую работу уже обученной сети в реальном времени.

Пусть дядя Рамзай своими собственными глазами видел Ва сю, беседующего с Оксаной близ ее палатки. И было это не более пяти минут назад. Ясно, что по крайней мере еще минут на двад цать Васю следует исключить из процесса оценки достоверности последующих ситуаций. Желательно этот процесс автоматизиро вать. Это значит, что на входном слое должна быть учтена инфор мация: «Вася уже у Оксаны, следовательно, дальнейшее рассмот рение комбинаций с их участием нецелесообразно». И если вдруг появившийся Вовочка, выпрашивая пряник, сообщает, что толь ко что видел Васю у Аполлинарии, то дядя Рамзай, корректируя текущую информацию, должен игнорировать или учесть незна чительно (в случае неверия собственным глазам) заявление Во вочки.

Желательно, чтобы достоверность подобной информации (про Васю и Оксану) автоматически снижалась либо, наоборот, достоверность информации о ситуациях без их участия увеличи валась.

Напоминаем, что не стоит гоняться за достоверностью, тре буя принадлежности ее величины диапазону [0, 1], а использо вать более общее понятие веса информации. Очевидно, вес следу ет рассматривать как функцию времени. Ведь логично, что с те чением времени вероятность участия Васи и Оксаны в последую щих ситуациях должна восстанавливаться.

Что необходимо для работы сети подобным образом?

1. Надо с большей определенностью дифференцировать ситу ации на выходном слое. Например, если в решениях R1 и R2 за мешаны не только Вася и Оксана, но и другие участники, то это затрудняет принятие конкретного решения только по Васе и только по Оксане. Необходимо корректировать принимаемое ре шение по вхождению комбинации А1 &C1 в предикат, определя ющий это решение, и не связывать, не объединять эту комбина цию, например, с комбинацией А\ & С1, входящей в тот же пре дикат. Следует расширить множество {Ri} принимаемых реше ний, повторяя при необходимости одно и то же решение для раз ных эталонных комбинаций.

2. Необходимо ввести обратную связь, влияющую на решения относительно Васи (А1) и Оксаны (С1), в части достоверности или веса информации, т. е. на величины возбуждения нейронов А\ и С1, даже вопреки попыткам искусственно задать высокие значения этих величин.

Приведем конкретные рекомендации.

1. Детализация, дифференциация эталонных ситуаций, по которым принимается не только прямое решение Ri, но и обратное, корректирующее характер использования исходных данных.

2. Установление отрицательной обратной связи, ведущей от каждого нейрона выходного слоя, отвечающего за решение с участием Васи, к нейрону А1 входного слоя.

3. Установление отрицательной обратной связи, ведущей от каждого нейрона, отвечающего за решение по Оксане, к нейрону С1 входного слоя.

4. Установление положительной обратной связи от нейронов выходного слоя, отвечающих за решения по Васе, к нейрону А2, что увеличивает достоверность участия Пети в дальнейших ис следованиях дяди Рамзая.

5. Установление положительной обратной связи от нейронов выходного слоя, отвечающих за решения по Оксане, к нейронам С2,..., С5.

Строго следуя данной рекомендации, строим более подроб ную систему предикатов, которая воплощается нейросетью:

Заметно резкое возрастание числа нейронов выходного слоя.

Рис. 5.2. Нейросеть с обратными связями Что ж, нас теперь интересуют не просто выводы, но и то, каким путем каждый из них получен.

Это еще раз свидетельствует о том, что не всегда целесообраз но использовать обобщенные эталоны, объединяя ситуации, ве дущие к одинаковому выводу. Весьма часто, особенно при введе нии обратных связей, необходимо различать ситуации. Это отра жает принцип мозга, где царит избыточность, обеспечивающая обилие путей и вариантов, развиваемость, резервирование, ус тойчивость и надежность.

На рис. 5.2 представлен фрагмент начала построения возмож ной нейросети, которую мы вправе считать окончательным ре зультатом своих исследований и готовы предъявить Заказчику. Во избежание путаницы положительные обратные связи не указаны.

Следует обратить внимание на то, что, вводя обратные связи, мы ограничились только проблемой повышения достоверности исходных данных на основе текущего состояния событий.

Модуль веса обратной связи в нашем случае должен быть убывающей функцией времени. Пользуясь допустимыми услов ностью и приблизительностью, преследуя цель скорее качествен ную, нежели количественную, можно довольно просто рассчи тать величину отрицательной обратной связи. Например, если считать, что на один визит Вася расходует не менее 25 мин., то вес одного из дендритов нейрона А1 (аналогично другим нейронам входного слоя) определяем по формуле — экспериментально подобранный демпфирующий коэффициент, где возможно, зависящий от величины подаваемого возбуждения при вводе информации для корректной компенсации обратной связи;

— текущий момент поступления новой информации, требующей ис пользования нейросети;

— последний момент времени вовлечения соответствующего объекта в действие (хранится в составе информации о данном объекте — А1,А2,С1 и др.);

— ожидаемое время повторного допустимого «использования» особы в деле.

При этом используется приведенная ранее передаточная функ ция (3.1) для нахождения величины возбуждения /-го нейрона.

НЕЙРОСЕТЕВЫЕ САМООБУЧАЮЩИЕСЯ СИСТЕМЫ УПРАВЛЕНИЯ Самообучение на основе 6. ситуационного управления Известной основой аппаратной поддержки самообучающей ся системы управления является ассоциативная вычислительная система (ВС).

Главное отличие ассоциативной ВС от обычной системы пос ледовательной обработки информации состоит в использовании ассоциативной памяти или подобного устройства, а не памяти с адресуемыми ячейками.

Ассоциативная память (АЛ) допускает обращение к данным на основе их признака или ключевого слова: имени, набора харак теристик, задания диапазона и т.д.

Распространенный вид АП — таблица с двумя столбцами:

"запросное поле — ответное поле". Строка таблицы занимает ре гистр памяти. Запросные поля обрабатываются по ключевому слову, производится поиск на основе сравнений и выдается ре зультат из одного (или более) ответного поля. При помощи мас кирования выделяются только те поля ключевого слова, которые используются в процессе поиска для сравнения.

Типичными операциями сравнения ассоциативной памяти являются следующие: «равно - не равно», «ближайшее меньше чем — ближайшее больше чем», «не больше чем — не меньше чем», «максимальная величина — минимальная величина», «меж ду границами — вне границ», «следующая величина больше — следующая величина меньше» и др., т.е. все это — операции отно шения и определения принадлежности.

Поскольку ассоциативные ВС характеризуются только актив ным использованием АП в вычислениях, то в целом они облада ют обычными свойствами, производят сложные преобразования данных и принадлежат типу ОКМД (STARAN, РЕРЕ) или МКМД [9]. Для параллельного обращения с целью ускорения по иска АП разбита на модули (в STARAN 32 модуля).

Когда в 1980 г. был провозглашен так называемый японский вызов относительно построения ВС сверхвысокой производи тельности, то в одном из важнейших пунктов предусматривалась необходимость самого широкого использования принципов са мообучающихся систем — систем, способных накапливать опыт и выдавать результат решения задачи без расчетов — на основе ас социации и интерполяции (экстраполяции). Это значит, что при менение ассоциативных ВС неотделимо от проблемы искус ственного интеллекта.

Покажем, что ничего существенно нового в практику челове ческого мышления ассоциативные машины не вносят, это всего лишь привычный способ использования интерполяционных таб лиц, например таблицы логарифмов.

Пусть мы пользуемся значениями функции у =f(x). Можно запрограммировать ее вычисление на персональном компьютере, и, при необходимости задавая значение х, запускать программу, получая значение у.

Предположим, та же функция довольно сложна, а ее вычисле ние — важный элемент алгоритма управления в реальном време ни. В таком случае зададим эту функцию таблично, а для ускоре ния выборки включим в ВС ассоциативную память. Предусмот рим операции, позволяющие производить простейшую интерпо ляцию, а именно для данного значения х найти наибольшее и наименьшее > х. Выбрать для них и Тогда вместо вычисления точного значения f(x) процессор производит линей ную интерполяцию с заданной точностью:

, В жизни очень часто приходится решать трудно формализуе мые задачи, подобно предложенной дядей Рамзаем. Но в резуль тате обучения и приобретения опыта складывающиеся в дальней шем ситуации оцениваются на «похожесть» и принимается ре шение.

Как, например, определить, на сколько повернуть рулевое колесо, чтобы остаться на дороге? Ведь первый раз мы въезжали в бордюр! Видимо, в нашем сознании постепенно сложилась и зафиксировалась некая таблица.

Пожалуй, наиболее полно и с точки зрения практики реше ние задачи самообучения представлено в артиллерии, точнее, в правилах стрельбы.

После занятия огневой позиции подготовка установок для ве дения огня занимает много времени. На рассчитанных установ ках по каждой цели производится пристрелка, когда цель захва тывается в широкую вилку, затем по наблюдениям вилка «поло винится» до тех пор, пока на середине узкой вилки не переходят на поражение. После стрельбы следует замечательная команда «Стой, записать...», по которой наводчик на щите орудия пишет номер цели и пристрелянные по ней установки. Такая работа проделывается и по фиктивным целям — реперам. Постепенно на данной местности запоминаются пристрелянные установки по многим целям и реперам. Тогда подготовка данных по вновь по являющимся целям резко упрощается, так как сводится к пере носу огня от ближайшей цели или репера, т.е. к внесению попра вок по дальности и направлению. Доказано, что при этом доста точно сразу назначить захват цели в узкую вилку, что сокращает время пристрелки. Правила стрельбы существуют века, однако вряд ли кто-то осознавал, что речь идет о реализации самообуча ющейся системы, аналога которой не существует.

Для трудно формализуемых задач управления или для увеличения производительности вычислительных средств известно так называ емое ситуационное управление, предложенное Д.А. Поспеловым [16]. Оно заключается в том, что для каждого значения вектора, ха рактеризующего сложившуюся ситуацию, известно значение век тора, описывающего то решение, которое следует принять. Если все ситуации отразить невозможно, необходимо задать правило ин терполяции (аналог интерполяции, обобщенной интерполяции).

Пусть исходная ситуация характеризуется вектором X —...,..., По значению X, т.е. по его компонентам, принимается ре шение Y, также представляющее собой вектор Y= {y1,..., yп}.

Компоненты векторов X и Y могут быть целыми и веществен ными числами, а также булевыми. Изначально они даже могут иметь нечисловую природу: «темнее — светлее», «правее — левее», «ласковее — суровее» и т.д. Проблема численной оценки качест венных или эмоциональных категорий здесь не рассматривается.

Предположим, для любых двух значений и а также Y1 и определено отношение (или наоборот), (или наоборот).

Структура ассоциативной памяти (АП) и общий вид ее обра ботки показаны на рис. 6.1.

Рис. 6.1. Пример использования ассоциативной памяти Пусть для входной ситуации X необходимо найти решение Y. В АП находятся два вектора и минимально отличающиеся по всем координатам от вектора X. Для этих векторов известны век торы решения и соответственно. Однако если для компонен ты выполняется условие то желательно вы полнение условия = т. Это обусловлено преимуществом интерполяции по сравнению с экстраполяцией.

Таким образом, определяется «вилка», которой принадлежит вход ная ситуация. Тогда, опираясь на известные граничные решения, необходимо получить промежуточное решение для данной ситуа ции, что достигается методом той же обобщенной интерполяции:

Где (аналогично — расстояния между векторами и а также Рис. 6.2. Схема самообучения с ассоциативной памятью и моделью Если точность Y достаточна, принципиально возможно до полнение АП новой строкой "X— Y", т.е. информацией о новом опыте.

Впрочем, динамика развития и уточнения АП, как базы зна ний, представляется иной. Далеко не всегда целесообразно разви вать базу знаний только тогда, когда принято ошибочное реше ние. «Учение на ошибках» может привести к трагедии (или к сры ву процесса управления), особенно на этапе обучения системы.

Поэтому обучение системы целесообразно проводить на дос таточно точной модели, максимально использующей точные вы числения компонент решения. Модель используется не только на специально предусмотренном этапе обучения системы, но и вне реального цикла управления, т.е. когда система работает в режи ме дежурства, параллельно с функциональным контролем. Схема алгоритма работы системы представлена на рис. 6.2.

Нейросетевое воплощение 6. Мы уже построили нейросеть для важной задачи принятия решений и вручили ее заказчику — дяде Рамзаю.

Теперь еще раз тщательно проследим за применением прин ципа динамического совмещения обучения системы управления с получением решений и установим в схеме на рис. 6.2 целесооб разность, место и способ использования нейронной сети как ос новного реального средства искусственного интеллекта. Прежде всего заметим, что основным естественным и целесообразным местом применения нейросети здесь является база знаний, ранее реализованная с помощью ассоциативной памяти (см. рис. 6.1).

Надо только позаботиться о том, чтобы там находились не чис ленные значения информации, а ее вес или достоверность, т. е. не сама информация должна обрабатываться нейросетью, а ее логи ческий эквивалент. Ведь принцип искусственного интеллекта направлен на параллельную обработку логических высказыва ний, а вовсе не на числовую обработку информации, как это де лается при решении «нейроподобных» задач с использованием нейросети в роли спецпроцессора.

Пусть нейросеть в качестве базы знаний имеет вид, представ ленный на рис. 6.3.

Нейроны-рецепторы закреплены за значениями элементов входного вектора. Значит, в режиме обучения установилось соот ветствие между величиной возбуждения р-го нейрона входного слоя и достоверностью того, что т. Здесь (см. под разд. 2.2) могут фигурировать не точные значения параметров, а некоторые диапазоны их изменения.

Рис. 6.3. Управляющая система с нейросетью Как указано выше, при обучении положим эту достоверность равной единице, а в процессе распознавания она может быть ка кой угодно, даже не удовлетворяющей свойству полноты собы тий.

После обучения с помощью различных эталонов методом трассировки можно добиться соответствия вида {Входы 8* наполнив тем самым базу знаний. Каждое решение Rq при этом тоже указывает на определенное значение вектора - результата компоненты которого — суть управляющие воздействия сис темы, т.е. нейроны фактически закрепляются за ситуациями, относительно которых известны векторы характеристик или зна чений параметров принимаемых решений, т. е. векторы значений управляющих воздействий.

Для нахождения этих значений в зависимости от исходных данных применяется моделирование наряду с экспериментом или с экспертными оценками. Таким образом, модель, экспери мент или эксперт играют роль учителя.

Первоначально обученная таким образом нейросеть использу ется в рабочем режиме распознавания и в режиме совместной ра боты с моделью. Конечно, справедливо считать, что нейросеть обучена недостаточно, и подобно «пристрелке реперов» любой удобный случай используется для того, чтобы с помощью модели испытать и в случае необходимости дополнить знания нейросети.

Для этого модель случайно или целенаправленно — по обос нованному плану, генерирует некоторую ситуацию, характеризу ющуюся значением компонент входного вектора X. По каждой компоненте определяется вес или достоверность того, что ее зна чение совпадает с подмножеством значений представленных входным слоем нейросети или с диапазонами значений.

Например, известна реакция сети на значения х = 2, х = 5, х = 6, а модель сгенерировала значение х = 5,7. Это может озна чать необходимость (реализуется некоторая процедура) форми рования значений возбуждения = 0, = 0.3, = 0,7.

Здесь индексы указывают нейроны входного слоя, соответствую щие данному значению параметра. Такая процедура выполняется по всем компонентам, отображенным входным слоем.

Пусть возбуждения входного слоя привели к преодолению порога возбуждения нейронов выходного слоя R5 = a), R7 = b), R12 = с). При этом нейрону R5 соответствует вектор управляющих воздействий = нейро ну R7 - вектор =..., нейрону R12 — вектор = Тогда предполагаемый ответ нейросети:

Подставляем данное решение в модель и устанавливаем, удовлетворяет ли нас точность. Если удовлетворяет, делаем поло жительный вывод об обученности нейросети и продолжаем ис пытание по другим исходным данным. Если нет, сеть необходимо «доучить», продемонстрировав высокий уровень обратной связи.

Для этого придется ввести в действие новые рецепторы в со ответствии с теми значениями исходных данных или их диапазо нами, которые ранее не были представлены. Например, придет ся ввести рецептора соответствии со значением х = 5,7.

Далее, выделим нейрон выходного слоя в соответствии с пра вильным решением, полученным в результате моделирования.

Затем выполним трассировку для того, чтобы появление нового эталона с единичной достоверностью исходных данных приводи ло к максимальному возбуждению выделенного нейрона выход ного слоя, ответственного за получение правильного решения.

Таким образом, сеть может обучаться до тех, пор, пока не прекратятся сбои, что маловероятно. Следовательно, в таком ре жиме она должна работать в течение всего жизненного цикла, ре ализуя известную пословицу «Век живи — век учись».

Здесь наглядно представлена замечательная возможность нейросети: табличная аппроксимация функции многих переменных, дополненная процедурой интерполяции (экстраполяции) для на хождения произвольного значения вектора-аргумента и прибли женного значения векторной функции. При этом входной вектор возбуждений рецепторов преобразуется в максимальное или ус редненное значение, возбуждения нейронов выходного слоя, ука зывающее на соответствующее значение вектора-функции.

Практически столь простым способом мы построили аппрокси мацию векторной функции от векторного аргумента!

Такая аппроксимация выполняется и в более явном виде, ибо каждая решения Y = может быть найдена отдельно в результате предварительной трассировки (рис. 6.4).

Следовательно, сеть строится и обучается так, чтобы заданное значение X = приводило к максимальному (или усред ненному) значению возбуждения нейрона выходного слоя, ука зывающего на соответствующее значение к максимальному (или усредненному) значению возбуждения другого нейрона вы Рис. 6.4. Раздельное нахождение управляющих параметров с помощью нейросети ходного слоя, указывающего на значение и т.д. В результате выходной слой разбивается на области, каждая из которых зак реплена за своим i =1,..., п. Тогда полученное пре образование можно условно записать X Следует обратить внимание не только на высокую производи тельность такого рода самообучающихся систем в рабочем режи ме, но и на их адаптивность, развитие, живучесть и т.д.

ЛОГИЧЕСКОЕ ПРОГРАММИРОВАНИЕ НЕЙРОСЕТИ 7.1 ПРОЛОГ-программа Следуя различными путями дедуктивного и индуктивного мышления, осуществляя различные парадигмы обучения, чело век стремился автоматизировать логику мышления. Продуктом этой деятельности явились такие языки логического вывода, как ЛИСП и ПРОЛОГ Более того, ПРОЛОГ следует считать венцом усилий по автоматизации логического вывода, эффективно опи сывающего, в частности, экспертные системы.

Язык представляет базу знаний как совокупность фактов и правил вывода;

процедурная структура позволяет включать конструкции любых других алгоритмических языков, т.е. ПРО ЛОГ является логической надстройкой, объединяющей лишь операции вывода. Формулируется цель логического вывода, и ес ли она не противоречива, выявляются факты, ее породившие.

Рассмотрим упрощенную задачу в виде ПРОЛОГ-программы, содержащую характерные элементы проблемы достижения слож ной цели на основе фрагмента базы знаний, содержащего факты и правила.

Факты — клозы (отдельные предикаты-высказывания приня то называть клозами), которые не содержат правых частей, прави ла — клозы, которые содержат правые части;

одноименные фак ты и правила объединяются в процедуры. Пусть база знаний име ет следующий вид.

Процедура "мужчина":

мужчина (иван) мужнина (василий) мужчина (петр) мужчина (федор) мужчина (юрий) Процедура «женщина»:

женщина (марья) женщина (ирина) женщина (ольга) женщина (елена) Процедура "родитель":

родитель (марья, иван) (читать: «Марья — родитель Ивана») родитель (иван, елена) родитель (марья, василий) родитель (федор, марья) родитель (петр, ирина) родитель (петр, иван) родитель ( федор, юрий) Процедура «мать*:

женщина (X), родитель (X, Y) Процедура «отец*:

отец (X, Y): мужчина(Х), родитель (X, Y) Процедура "брат":

брат (X,Y): мужчина (X), родитель (Р, X), родитель (Р, Y), XOY Процедура «сестра»:

сестра (X, Y): женщина (X), родитель (Р, X), родитель (Р, Y), Процедура «дядя»:

дядя (X, Y): брат (X, Р), родитель (Р, Y) Пусть задана некоторая сложная, т.е. опирающаяся не на факт, а требующая вывода, цель (запись цели образует фрейм), с которой мы обратились к этой БЗ, например дядя (X, Y), тогда решение (вывод) заключается в нахождении всех пар пере менных (имен объектов) и Y, для которых справедливо утверж дение «Х является дядей Y».

Используем прием трансформации цели, заключающийся в ре курсивном переборе различных вариантов подстановки вместо предикатов, составляющих сложную цель, правых частей клозов соответствующих процедур. В результате производится фиксация варианта связывания переменных и унификация, при которой отбрасываются несовместимые варианты, т.е. противоречащие фактам и правилам. Варианты связывания всех переменных, прошедшие все этапы унификации, являются решением.

Изложим последовательность действий.

Находим первый (и единственный) предикат цели дядя (X, Y).

Заменяем найденный предикат правой частью процедуры с этим именем, записанной в БЗ. Получим трансформированную цель — фрейм:

брат (X, Р), родитель (Р, Y).

С первым предикатом этого фрейма действуем аналогично, получаем фрейм:

мужчина (X), родитель (Q, X), родитель (Q, Р), Х<>Р, родитель (Р, Y).

При этом во избежание коллизии, развивая фрейм цели, вво дим новые переменные, отличные от тех, которые уже были ис пользованы в записях БЗ.

Вновь входим в процедуру с именем первого предиката цели и начинаем первый уровень ветвления, используя первый клоз процедуры — факт мужчина (иван). С его помощью производим первое связывание переменных, т.е. подстановку конкретного значения. Предикат цели, породивший это связывание, из транс формируемой цели исключается, т.е. заменяется своей «пустой» правой частью:

родитель (Q, иван), родитель (Q, Р), иван <>Р, родитель (P,Y).

Обращаемся к процедуре "родитель", начиная второй уровень ветвления. Первый клоз этой процедуры родитель (марья, иван) определяет дальнейшее связывание переменных:

родитель (марья, Р), иван <> Р, родитель (Р, Y).

Вновь входим в процедуру "родитель" (третий уровень ветвле ния), находим клоз родитель (марья, иван). Трансформируем цель, получаем новый фрейм:

иван <> иван, родитель (иван, Y).

Возникает противоречие, т.е. унификация не проходит.

Ищем на данном шаге ветвления другой вариант связывания, находим следующий клоз:

родитель (марья, василий).

Трансформируем цель:

.иван <> василий, родитель (василий, Y) (василий, Y).

Вновь входим в процедуру "родитель", но не находим клоза, в котором василий указан как чей-либо родитель, т.е. вновь унифи кация не проходит.

Реализуем стратегию поиска с ветвлением и возвращением назад — backtraking. На втором уровне ветвления исследуем клоз, в котором иван указан как сын: родитель (петр, иван). Цель трансформируется в следующий фрейм:

родитель (петр, Р), иван <> Р, родитель (Р, Y).

Вновь (на третьем уровне ветвления) обращаемся к процеду ре "родитель" и выбираем первый клоз, в котором петр указан как отец —родитель (петр, ирина).

Цель трансформируется:

иван <> ирина, родитель (ирина, (ирина, Y).

Входим в процедуру "родитель", но в ней нет клоза, в котором ирина указана как родитель. Унификация не проходит.

Возвращаемся на второй уровень ветвления и не находим больше клозов, где иван указан как сын. Далее на первом уровне ветвления в процедуре «мужчина» выбираем для дальнейшего ис пытания следующий клоз мужнина (василий).

Цель принимает вид (фрейм):

родитель (Q, василий), родитель (Q, Р), василий <>Р, родитель (Р, Y).

На втором уровне ветвления находим единственный клоз, в котором василий указан как сын. Цель трансформируется в соот ветствии с новым связыванием переменных, обусловленным найденным клозом родитель (марья, василий):

родитель (марья, Р), василий <>Р, родитель (Р;

Y).

На третьем уровне ветвления находим первый среди клозов, где марья указана как родитель: родитель (марья, иван). Связыва ем тем самым переменные, цель трансформируется:

василий иван, родитель (иван, родитель (иван, Y).

В процедуре «родитель» находим клоз, в котором иван указан как родитель, —родитель (иван, елена). Цель выродилась, значит:

дядя (X, Y) = дядя (василий, елена) одно из решений задачи.

Продолжив перебор так, словно на данном шаге унификация не прошла, найдем остальные решения: дядя (юрий, иван), дядя (юрий, василий).

В основе распараллеливания решения этой задачи лежит спо соб размножения вариантов на основе трансформации цели. Способ обеспечивает отсутствие backtracing'a (ветвление есть, а возврата нет), простоту процедуры вывода, возможность неограниченного использования ИЛИ-параллелизма (одновременной независи мой обработки многих вариантов связывания переменных), кон вейерную реализацию И-параллелизма (распараллеливания об работки одного варианта связывания переменных на конвейере, так как каждый раз обрабатывается лишь первый предикат каж дого фрейма).

Однако представляется, что нейросетевая технология, осно ванная на естественном параллелизме, может оказаться эффек тивнее.

Нейросеть для задачи 7. логического вывода Рассмотрим предварительно один аспект обучения нейросети методом трассировки.

Обобщив подход, изложенный в разд. 2, на логику передаточ ных функций, мы заявили, что нашли способ построения уже обученных нейросетей.

Впоследствии (разд. 3 и 4) при отсутствии некоторых связей в типовых сетях обосновано их принудительное введение в случае целесообразности.

Таким образом, несовершенство нейросети не стало для нас преградой. А если предположить, как при «схемотехническом» подходе, что первоначально в сети вообще никаких связей нет, ее матрица следования пуста, а нам предстоит создать эту сеть пол ностью? Логично, что в ней будут присутствовать только те свя зи, которые обеспечивают ее обучение, т. е. мы сразу можем стро ить обученную нейросеть, синапсические связи в которой имеют единичный (максимальный) вес.

Последуем этим путем и, рассчитав все возможные выводы, составим (рис. 7.1) нейросеть, соответствующую фрагменту бес предельной базы знаний о жителях далекого таежного села.

Для того чтобы максимально сохранить информацию о ие рархии выводов, переменные — значения возбуждения рецепто ров будем вводить только на первый уровень логического анали за в качестве параметров процедур-фактов. Ведь как ни формали зуй, а окончательных рекомендаций по формированию нейросе ти не получить, так как это формирование — моделирование, а моделирование — искусство. Впрочем, каждый раз это ярко демон стрирует выбор передаточной функции. Здесь мы рекомендуем использовать передаточную функцию:

Порог h подбирается экспериментально, в данном случае це лесообразно положить h = 0,4.

Мы видим, что сеть отображает только факты, а где же прави ла? Они использованы и забыты? И да, и нет. Вот тут-то и прояв ляется вторая парадигма обучения — парадигма ученика. Ибо правила вывода оказались использованными при обучении и скрыты. Только путь индуктивного мышления способен их вос становить, т.е. восстановить закономерность по сформирован ным связям.

Как же тогда работать с этой сетью? Представим себе два ре жима работы: для фискального органа - налоговой инспекции, требующей общей картины социального состояния, и для ин формационно-аналитической службы безопасности, интересую щейся гражданами индивидуально, по выбору и привлечению.

Кора:

Мужчина Иван Мужчина Василий Иван Мужчина Петр Мужчина Федор Мужчина Юрий Женщина Марья Женщина Ирина Женщина Ольга Женщина Елена Марья-родитель Ивана Иван - родитель Елены Марья - родитель Василия Федор - родитель Марьи Петр - родитель Ирины Петр - родитель Ивана Федор - родитель Юрия Марья - мать Ивана Марья - мать Василия Иван - отец Елены Петр - отец Ирины Петр - отец Ивана Федор - отец Юрия Иван - брат Василия Василий - брат Ивана Елена Иван - брат Ирины Юрий - брат Марьи Ирина - сестра Ивана Василий - дядя Елены Юрий - дядя Ивана Юрий - дядя Василия Рис. 7.1. База знаний антрополога-исследователя Мужчина Иван Мужчина Василий Иван Мужчина Петр Мужчина Федор Мужчина Юрий Женщина Марья Женщина Ирина Женщина Ольга Женщина Елена Марья - родитель Ивана Иван - родитель Елены Марья - родитель Василия Федор - родитель Марьи Петр - родитель Ирины Петр - родитель Ивана Федор - родитель Юрия Марья - мать Ивана Марья - мать Василия Иван - отец Елены Петр - отец Ирины Петр - отец Ивана Федор - отец Юрия Иван - брат Василия Василий - брат Ивана Елена Иван - брат Ирины Юрий - брат Марьи Ирина - сестра Ивана Василий - дядя Елены Юрий - дядя Ивана Юрий - дядя Василия Рис. 7.2. База знаний участкового уполномоченного А именно если максимально возбудить все нейроны-рецепто ры, то можно извлечь полную информацию о клиентах: кто из них мужчина, кто — женщина, в каком родстве они состоят.

В то же время при возбуждении на входе нейронов-рецепто ров, соответствующих Ивану и Василию, получим информацию о том, что они, несомненно, мужчины. Но подозрительно высокого возбуждения достигнут нейроны, отвечающие за факт, что Марья — мать Ивана и она же — мать Василия. Подозрительно возбудятся и нейроны, отвечающие за факты Иван — брат Василия и Василий — брат Ивана, Юрий — дядя Ивана и др. Тогда возбудим нейрон-ре цептор, соответствующий Марье, и посмотрим на реакцию сети.

Сеть высоким возбуждением своих нейронов нам сообщает: "Да, действительно, Марья — мать Ивана и Василия".

Заметим, чтр можно подавать на вход сети и не единичные значеня возбуждений. Например, установив, что в деле участво вал не то Иван, не то Василий (уж очень они похожи!), мы зададим соответствующие значения возбуждений равными 0,5 и устано вим высокую величину возбуждения нейрона, соответствующего дяде и того, и другого — Юрию. И тогда логично возложить На не го ответственность за поведение племянников.

Таким образом, составляя нейросеть, мы руководствовались желанием сохранить причинно-следственные логические связи, обусловленные правилами. Этим обусловливается возможность использования метода индуктивного мышления для установле ния, например, изначальных фактов, достаточных для вывода:

Юрий — дядя Ивана. Мы даже назвали эту нейросеть базой зна ний антрополога-исследователя. Таким образом, имитируется организация коры, где все выводы равноправны и служат как формированию внутризадачных, промежуточных выводов, так и для решения некоторой внешней глобальной задачи, сверхзада чи. Равноправность и внешнее использование, в том числе для логической надстройки сети, для получения новых знаний по но вым вводимым фактам и правилам, требует специального форми рования величин возбуждения нейронов, что и отражено в пред лагаемой передаточной функции.

С другой стороны, зачем нам знать и делать вывод о том, что Юрий — дядя Ивана, потому что он — брат Марьи! Мы можем эти фак ты задать независимо, предварительно вычислив на языке ПРОЛОГ Тогда получим фрагмент базы знаний участкового уполномо ченного (рис. 7.2), что в самой простой форме отражает анкети рование, не подлежащее глубокому исследованию.

НЕЙРОСЕТИ И УПРАВЛЕНИЕ 8 ФИНАНСАМИ Табличный метод основа искусственного 8. интеллекта В общем-то, принципы мозговой деятельности известны и активно используются. Мы применяем незримые таблицы в на шей памяти, принудительно и вольно заполняемые за партой, за рулем, с министерским портфелем и без него, крутя головой на шумной улице, за книгой, у станка и у мольберта. Мы учимся, учимся всю жизнь: и школьник, проводящий бессонные ночи за букварем, и умудренный опытом профессор. Ибо с теми же таб лицами мы связываем не только принятие решений, но и двига емся, ходим, играем в мяч.

Если противопоставить ассоциативному мышлению матема тические вычисления, то каков же их вес в жизни человека? Как шло развитие человека, когда он вообще, не умел считать? Поль зуясь ассоциативным мышлением, умея интерполировать и экстраполировать, человек накапливал опыт. (Кстати, вспомним тезис Д. Менделеева: «Наука начинается тогда, когда начинают считать».) Можно спросить читателя: «Сколько раз сегодня Вы считали?» Вы водили автомобиль, играли в теннис, торопились на автобус, планируя свои действия. Представляете, сколько бы Вам пришлось высчитывать (да еще где взять алгоритм?), для то го чтобы поднять ногу на тротуар, минуя бордюр? Нет, мы ниче го не вычисляем ежеминутно, и это, пожалуй, основное в нашей интеллектуальной жизни, даже в науке и бизнесе. Механизмы ощущений, интуиции, автоматизма, которые мы, не в силах объ яснить, адресуем подкорковому мышлению, на деле являются нормальными механизмами ассоциативного мышления с по мощью таблиц базы знаний.

И главное, мы делаем это быстро! Как же нам не задуматься, пытаясь постичь и воспроизвести?

Наука и техника обладают колоссальным опытом построения сложных систем только лишь на основе алгоритмических, мате матических методов расчета, исключая какие бы то ни было ме тоды искусственного интеллекта. Алгоритмы вывода и наведения ракет-перехватчиков, расчет и выдача команд целеуказания и уп равления на борт по измеренным отклонениям впечатляют по объему вычислений, по частоте обновления данных и в конечном итоге по требованиям к производительности вычислительных средств. И мы все яснее понимаем, что моделирование процессов мозговой деятельности, воспроизводящих методы ассоциативно го мышления, открывает самые широкие возможности, прису щие живым организмам. Это и высокий универсализм, и высокое быстродействие.

Природа реализует самые простые принципы, утверждая, что «гениальное просто». Сложное обусловлено количеством и струк турированием простого. Механизмы логического вывода, реали зованные мозгом человека, основаны на простых логических эле ментах типа «если — то», «посылка — следствие», приемлемых да же для простейших. Огромное количество таких элементов в столь же простом взаимодействии, соединяясь и выстраиваясь в логические цепочки, воспроизводя иерархию и рекурсию, образу ют сложные выводы, тотчас же обращенные для новых выводов.

Но, пожалуй, основное достоинство мозга — способность па раллельного выполнения сложных логических предикатов и пос ледовательного вычисления длинных логических цепочек. Такие действия достигаются, во-первых, при одновременной обработке всех сигналов, поступивших на рецепторы, и, во-вторых, при ре ализации каждым нейроном передаточной функции для посту пивших сигналов. Передаточная функция является суррогатом логических функций булевых переменных для обработки действительных переменных.

Важно подчеркнуть, что информация перерабатывается в нейросети не непосредственно, а опосредствовано — на уровне оценок, на уровне ее воздействия на величину возбуждения ре цепторов или нейронов входного слоя подструктур.

А как же наше формальное мышление, вторая сигнальная система по Павлову, а как конструирование алгоритмов и правил вычислений? Полагаем, что это — все более и более высокие уровни того же логического мышления, наслоение нейронной сети и продолжение логических цепочек, попутно приводящих к развитию образной памяти, продукт роста в процессе Развития.

Мы полагаем это вполне материально воплощенным и потому реализуемым искусственно, подвластным моделированию и воспроизведению.

Сформулируем теперь достаточный, сегодняшний принцип построения нейросети, как элемента ИИ:

1. Следует признать, что основа имитации нейроструктуры мозга — это метод табличной интерполяции.

2. Таблицы заполняются или по известным алгоритмам вы числений, или экспериментально, или экспертами.

3. Нейросеть обеспечивает высокую скорость обработки таб лиц за счет возможности лавинообразного распараллеливания.

4. Кроме того, нейросеть допускает вход в таблицу с неточны ми и неполными данными, обеспечивая приблизительный ответ по принципу максимальной или средней похожести.

5. Задача нейросетевой имитации мозга заключается в преоб разовании не самой исходной информации, а оценок этой инфор мации, в подмене информации величинами возбуждения рецеп торов, искусно распределенных между видами, типами, парамет рами, диапазонами их изменения или отдельными значениями.

6. Нейроны выходного слоя каждой подструктуры своим воз буждением указывают на соответствующие решения. В то же вре мя эти сигналы возбуждения на правах исходной опосредованной информации могут использоваться в следующем звене логичес кой цепочки без внешнего вмешательства в рабочем режиме.

Мониторинг банковской 8. системы В [23] приводится пример блистательного применения само организующихся карт Кохонена (SOM — Self-Organizing Map) [24] для исследования банковской системы России в 1999 — 2000 гг.

В основе мониторинга лежит рейтинговая оценка на основе авто матического выполнения одной процедуры: по многомерному вектору параметров банков1 на экране компьютера высвечивает 1) Обращается внимание на то, что нейросетевые технологии позволяют строить наглядные функции многих переменных, как бы преобразуя много мерное пространство в одно-, двух- или трехмерное.

ся результат кластеризации — отнесение банка к различным кате гориям преуспевания. Для каждого отдельно взятого исследова ния различных факторов необходимо строить свои SOM. Прог ноз возможен лишь на основе анализа временного ряда оценок SOM. Новые SOM необходимы и для продления цепочки выво дов, с подключением данных извне, например политического ха рактера.

Такой подход, несомненно, эффективен и результативен. Но представляется, что по сравнению с потенциалом мозговых ней роструктур он сдерживает размах и смелость мысли, не позволя ет «тянуть» длинные цепочки «посылка - следствие», совмещать анализ с прогнозом, оперативно учитывать складывающуюся си туацию и вводить в рассмотрение новые факторы и опыт экспер тов. Следует согласиться с тем, что мозгу все это подвластно, и мы вновь обращаемся к его структурам, предлагая проект програм мных средств системы мониторинга.

Структура нейросети и способы обучения. Логические функ ции, лежащие в основе мониторинга, преимущественно основа ны на конъюнкции логических значений переменных, отобража ющих диапазоны изменения параметров или показателей банков.

В общем виде такая логическая функция имеет вид:

значение i-го показателя банка принадлежит диапазону {указатель значения рейтинга} В [23] представлены следующие показатели:

• собственный капитал;

• сальдированные активы;

• ликвидные активы;

• обязательства до востребования;

• вклады населения;

• коэффициент ликвидности;

• бюджетные средства.

Можно расширить систему показателей:

• объем инвестиций в эпоху бурно развивающейся экономики;

• объем прибыли;

• прошлый рейтинг и значение миграции;

• отчисления в фонд поддержки науки и образования;

• налоговые отчисления;

• отчисления в пенсионный фонд;

• отчисления в благотворительный и культурный фонд;

• участие в программах ЮНЕСКО и т.д.

Такой простой вид логической функции при переходе в об ласть действительных переменных говорит о достаточности од нослойной нейросети (рис. 8.1), содержащей входной слой ре цепторов и выходной слой, на котором формируются результаты мониторинга.

Рис. 8.1. Структура нейросети для банковского мониторинга При построении входного слоя необходимо учитывать не только текущие показатели, но и динамику изменения рейтинга за прошлые периоды времени. Выходной слой должен отражать не только рейтинг, но и экспертные рекомендации, а также дру гие решения и выводы.

Целесообразен простейший вид обучения — построение базы знаний, который соответствует концепции создания нейросети «под задачу»: непосредственное введение связей оператором-ис следователем «вручную» — от рецепторов к нейронам выходного слоя в соответствии с причинно-следственными связями. Тем са мым сеть создается уже обученной.

Тогда передаточная функция тоже будет простейшей и осно ванной на суммировании величин возбуждения на входе нейро на, умноженных на вес связи:

Задание веса связей га по сравнению с грубым заданием всех весов, равных единице, целесообразнее в связи с возможным же ланием оператора или эксперта в разной степени учитывать вли яние различных показателей.

Порог h отсекает заведомо неприемлемые выводы, упрощая дальнейшую обработку (например, нахождение среднего). Коэф фициент приведения обусловлен следующими соображениями.

Максимальное значение V может достигать п. Для того чтобы значение рейтинга находилось в некотором приемлемом диапа зоне, например в [0, 1], значения возбуждения надо преобразо вать, положив Принятые выше допущения позволяют оперативно вводить изменения и уточнения оператором — экспертом — пользовате лем, развивать сеть, вводя новые факторы и учитывая опыт. Для этого оператору достаточно, щелкнув мышью, выделить рецеп тор, а затем нейрон выходного слоя и связь установлена! Оста лось только приблизительно назначить вес введенной связи из диапазона (0,1].

Здесь следует сделать Очень Важное Замечание (ОВЗ), каса тельно всего материала книги и предназначенное очень внима тельному читателю.

Ранее, рассматривая обучение, мы четко классифицировали исходные эталонные ситуации, принимая достоверность каждого компонента, равной единице. Проводя затем трассировку и прокладывая динамические пути возбуждения, мы также полага ли веса связей, равными единице (или некоторому максимально му постоянному значению). Но ведь учитель сразу может полу чить дополнительную степень свободы, принимая во внимание факторы в той степени и с теми весами, которые он задаст! Сде лаем допущение, что разные факторы в разной степени влияют на результат, и такое влияние заложим на этапе обучения прину дительно.

Например, известно, что накануне войны население в огром ном количестве закупает мыло, спички и соль. Значит, наблюдая за этим фактором, можно прогнозировать скорое начало войны.

Создавая нейросеть для анализа исторических или социальных событий, следует выделить один или несколько рецепторов, воз буждение которых соответствует разному уровню закупок мыла, соли и спичек одновременно. Возбуждение этих рецепторов должно передаваться, влиять (наряду с другими факторами) на степень возбуждения нейрона выходного слоя, соответствующе го заявлению «Скоро война!».

Тем не менее интенсивная закупка мыла, спичек и соли не обходимое, но не такое уж достаточное условие наступления войны. Оно может свидетельствовать, например, о бурном воз рождении туризма в район Главного хребта Кавказа. В словах «не такое уж» заключается смысл нечеткой логики [5], позволя ющей учитывать не непреложность события, не булеву пере менную «да — нет», а некоторое промежуточное, неопределен ное, взвешенное состояние типа "влияет, но не так уж, прямо, что обязательно...". Поэтому связи (все или некоторые), исхо дящие из данного (данных) рецептора, положим равными неко торой предполагаемой величине, меньшей единицы и коррек тируемой впоследствии, которая отражает влияние возбужде ния рецептора на вывод.

Таким образом, одновременная закупка мыла, соли и спичек учитывается дважды: уровень закупки будет отображен в степени возбуждения соответствующих рецепторов, а характер влияния закупки на вывод «Скоро война!» - с помощью весов синапси ческих связей.

Согласитесь, что при построении одноуровневых сетей та кой подход напрашивается сам собой и реализуется предельно просто.

Структура экрана рецепторов. Экран рецепторов показан на рис. 8.2. Основную часть его составляет «окно прокрутки», в ко тором можно просматривать и задавать состояние рецепторно го слоя, несомненно, не способного поместиться на статичес ком экране.

Рис. 8.2. Экран рецепторов В «окне прокрутки» указаны показатели и их оценочные зна чения в диапазоне [0, 1] для соответствующих рецепторов. Это вероятностные значения, основанные на достоверности, интуи ции, экспертных оценках. Оценки предполагают охват несколь ких рецепторов. Например, оценка того, что собственный капи тал составляет не то 24, не то 34, не то 42 тыс. у. е., но скорее все таки 24, может привести к приблизительной оценке задаваемых величин возбуждения 0.6,0.2 и 0.2 рецепторов, соответствующих диапазонам (20 - 25], (30 - 35], (40 - 45].

На экране отображены статически задаваемые показатели, такие, как рейтинг в результате прошлых измерений, выбороч ные ранее найденные показатели, а также показатели политичес кой, социальной и экономической конъюнктуры. (Их обилие и развитие могут все-таки потребовать прокрутки.) Следует также отобразить управление прокруткой и меню ос новных действий:

• переход на экран выходного слоя;

• статистическая обработка результатов (предполагает пере ход к выходному экрану);

• введение новой связи;

• введение нового рецептора;

• введение нового нейрона выходного слоя (предполагает пе реключение экранов);

• введение нового показателя и т.д.

Структура экрана выходного слоя. Экран выходного слоя (рис.

8.3) отображает систему концентрических (вложенных) прямо угольников или других плоских фигур, отражающих распростра нение рейтинга по убыванию. В центре экрана яркими точками отмечены самые преуспевающие банки или предполагаемые иде альные образы. Каждому элементу экрана жестко соответствует нейрон выходного слоя. В результате мониторинга может макси мально возбудиться нейрон, соответствующий эталону, однако скорее всего высветится точка экрана, не совпадающая ни с каким эталоном, являющаяся промежуточной или усредненной.

Несомненно, следует предусмотреть меню для операции ус редненной оценки рейтинга, демонстрации категории преуспе вания, выдачи сигналов предупреждения, текстов заключений, рекомендуемых стратегий развития, сохранения данных для дальнейшего развития и т.д.

Обучение нейросети. Для обучения нейросети на основе экс пертных оценок следует задать диапазоны допустимых парамет ров, позволяющие считать банк идеально преуспевающим, име ющим максимальный рейтинг. Фиксируя несколько точек, коор динаты которых (множества значений параметров) удовлетворя ют допустимым значениям рейтинга для известных или предпо лагаемых (с учетом возможных вариантов) банков, можно полу чить несколько идеальных представителей. Соответствующие им нейроны, т.е. элементы экрана выходного слоя, выделяют произ вольно, рассредоточивая по области экрана. Желательно, чтобы эталоны с большим рейтингом располагались ближе к центру.

Ряс. 8.3. Экран выходного слоя Далее переходят к подобному же заполнению охватывающего прямоугольника, на основе следующей рейтинговой категории и т.д. до банков-аутсайдеров.

Для проведения подобной работы экспертами предваритель но формируется таблица (табл. 8.1).

Нейронам, отображающим банки, на экране соответствуют величины их возбуждения — рейтинги.

Методика мониторинга. Обученная система, которая поступа ет в распоряжение пользователя после высококвалифицирован ной экспертизы экономистов и политиков, готова к использова нию в рамках CASE — Computer Aided Software Engineering.

Таблица 8. Экспертные оценки для обучения нейросети При этом пользователь реализует свое право на дополнитель ное обучение, уточнение (например, весов связей, для усиления или ослабления влияния некоторых показателей на основе собственного опыта), введение дополнительных показателей для эксперимента на свой риск и т.д.

Предположим, пользователь исследует ситуацию, сложившу юся вокруг банка "Инвест-Туда-и-Обратно". Естественно, он не располагает сколько-нибудь удовлетворительной информацией о целесообразности собственных вложений и поэтому приступает к скрупулезному сбору данных, в результате чего получает приб лизительные, вероятные, разноречивые характеристики для мо делирования.

С помощью экрана рецепторов пользователь задает значения их возбуждения исходя из вполне достоверных данных, но иног да учитывая варианты «или — или» (частично возбуждая разные рецепторы), иногда по наитию, иногда просто пропуская показа тели. Такие показатели, как рейтинг в прошлом и миграция, по ка неизвестны, но полученный результат предполагается исполь зовать в дальнейшем.

После ввода данных на экране выходного слоя яркая точка вблизи области аутсайдеров красноречиво свидетельствует о за щите гражданского права ненасильственного выбора решения о целесообразности вложения праведно накопленного капитала.

Координаты этой точки на экране определяются по извест ной формуле нахождения среднего по координатам высветив шихся нейронов тех банков, которым близок контролируемый банк, и по величинам их возбуждения. Но по этим же формулам на основе рейтингов высветившихся банков находится рейтинг исследуемого банка!

Пользователь может принять решение о дополнении базы знаний и, следовательно, нейросети информацией о новом бан ке, что целесообразно, если совет экспертов подверг существен ной критике получившийся результат и указывает тем самым на ошибку нейросети. Достаточно только воспользоваться опцией «Дополнить», в результате выполнения которой инициируется диалог компьютера с пользователем:

- Вы хотите изменить рейтинг? — Да.

- Новое значение рейтинга? —...

- Сохранить!

Тогда нейрон выходного слоя с найденными координатами ставится в соответствие новому банку. Формируются его связи с теми рецепторами, которым было сообщено возбуждение при вводе информации о банке. Вес каждой связи полагается равным введенной пользователем величине возбуждения соответствую щего нейрона-рецептора. Теперь база знаний дополнена таким же образом, как список пристрелянных установок артиллерий ской батареи после поражения очередной цели.

Однако значительное принудительное изменение рейтинга может потребовать перемещения высветившейся точки в область банков с соответствующим уровнем рейтинга, т.е. необходимо за данным банком закрепить другой нейрон выходного слоя, в дру гой области экрана. Это также устанавливается в результате диа лога компьютера с пользователем.

Корректировка и развитие. Выше мы уже упоминали о необхо димости и возможности постоянного уточнения и развития ней росети. Можно изменять представление о «продвинутости» бан ка-эталона (реального или идеального) и дополнять базу знаний, т.е. данную нейросеть. Можно корректировать веса связей как меры влияния отдельных показателей на выходной результат.

Можно вводить новые показатели с их весами, рассматривать но вые решения и устанавливать степень влияния на них тех же или новых показателей. Можно приспособить нейросеть для реше ния смежных задач с учетом влияния отдельных показателей на миграцию банков (переход с одного рейтингового уровня на дру гой) и т.д.

Наконец, можно, приобретя данный программный продукт с дружественным интерфейсом и прекрасным сервисом, с разви тым набором функций преобразования нейросети, переделать ее для совершенно другой задачи, например для увлекательной иг ры в железнодорожную рулетку, на которой мы намерены остано виться ниже.

В заключение отметим, что в экономике и бизнесе, а также в управлении сложными объектами преобладают системы приня тия решений, где каждая ситуация образуется на основе неизмен ного числа факторов. Каждый фактор представлен вариантом или значением из исчерпывающего множества, т.е. каждая ситу ация представляется конъюнкцией, в которой обязательно участ вуют высказывания относительно всех факторов, по которым формируется нейросеть. Тогда все конъюнкции (ситуации) име ют одинаковое число высказываний. Если в этом случае две от личные друг от друга ситуации приводят к разным решениям, со ответствующая нейросеть является совершенной. Привлекатель ность таких нейросетей заключается в их сводимости к однослой ным. Если провести «размножение» решений (см. подразд. 5.2), то получим совершенную нейросеть (без обратных связей).

К построению совершенной нейросети можно свести задачу настоящего раздела, подразд. 6.2, а также, например, задачу оценки странового риска и др.

ПРИМЕРЫ ПРИМЕНЕНИЯ НЕЙРОСЕТЕВЫХ ТЕХНОЛОГИЙ Проектирование 9. игровой системы Построение обученной нейросети. Рассмотрим увлекательную детскую игру «железнодорожная рулетка», основанную на изве стной задаче о встрече. Помните: «Из пунктов А и В двигаются навстречу друг другу..»?

Начальник станции Кукуевка (ведущий) и начальник станции Пырловка одновременно выпускают навстречу друг другу два па ровоза (рис. 9.1) со скоростью либо 60, либо 80 км/ч. Длина пере гона составляет 4 км. Проблема заключается в том, что пути пе регона то сходятся в один на протяжении одного километра, то расходятся. И тогда в зависимости от точки встречи со станции Кукуевка надо выслать на соответствующий километр либо ли нейного с приветственным флажком, либо линейного с подсти лочной соломкой. Ситуация усложняется помехами при передаче данных, в связи с чем достоверность сообщения о скорости паро возов меньше единицы. Кроме того, необходимо учесть ожидае мые денежные затраты на единовременную добавку к пенсии ли нейных.

Начальник станции Кукуевка хочет добиться определенности по принципу «если — то», а в случае недостоверных данных — «на что это похоже, и что делать?».

Ясно, что без элементов искусственного интеллекта не обой тись. Необходимо что-то похожее на табличный метод, но с авто матической интерполяцией, что-то связанное с ассоциативным мышлением...

Представим себе все варианты будущего поведения нашей системы принятия решений для ее обучения. Графическая структу рa логического функционирования создаваемой системы приве дена на рис. 9.2.

Рис. 9.1. Схема игры Рис. 9.2. Система принятия решений 1. Скорость кукуевского паровоза — 60 км/ч (событие AY).

Скорость пырловского паровоза — 60 км/ч (событие В\). Однов ременное выполнение этих событий обозначим А1&B1. Тогда точка встречи находится как раз посредине перегона, что скорее всего требует помощи линейного с соломкой. Но возможен и дру гой исход за счет неточного определения скоростей. Тогда на вся кий случай потребуется линейный с флажком. Решение, соглас но которому оба линейных отправляются на границу второго и третьего километров, обозначим R1. С ним связаны расходы на единовременное пособие Ml.

2. Скорость кукуевского паровоза — 60 км/ч (событие АХ), скорость пырловского — 80 км/ч (событие B2). Выполняется ус ловие АХ&В2. Тогда точка встречи находится на втором километ ре пути, и, следовательно, требуется решение R2: «Отправить ли нейного с флажком на второй километр!» В активе указанного линейного появляется сумма М2 условных единиц.

3. Скорость кукуевского паровоза - 80 км/ч (событие А2), скорость пырловского — 60 км/ч (событие В\). Выполняется ус ловие А2&В1. Тогда точка встречи находится на третьем километ ре пути, что требует сочувственного вмешательства линейного с соломкой (решение R3), с оплатой труда в М3 условных единиц.

4. Скорость кукуевского и пырловского паровозов — 80 км/ч (событие А2&В2), что ввиду высокой скорости перемещения ли нейных требует решения R4 с затратами М4.

А теперь оживим эту структуру, заставим ее действовать так же, как, по-видимому, на логическом уровне действуют структу ры нашего мозга.

Представим себе, что на месте каждого овала (далее - кру жочка, см. рис. 9.2) действует нейроподобный элемент или прос то нейрон. Нейроны-рецепторы приходят в возбужденное состо яние (подобно сетчатке глаза) в соответствии с той ситуацией, которая задана на входе системы. Рассмотрим, например, ситуа цию А1&В2. Положим величины возбуждения нейронов А1 и B равными единице и запишем 1. При этом величины возбуждения нейронов А2 и В\ остались равными нулю.

Подчеркнем тот факт, что возбуждение нейронов-рецепторов осуществляется в результате ввода информации.

Для «принимающих» возбуждение нейронов (направление распространения сигналов возбуждения указано стрелками) в ре зультате выполнения передаточной функции формируется величи на возбуждения V. Пусть в нашем случае эта функция имеет вид где i - индекс нейрона, передающего свое возбуждение, h — порог.

Следует учесть, что функция заменяет отрицательную ве личину нулем, т.е.

Положим А = 1 и рассчитаем величины возбуждения нейро нов выходного слоя R\ — R4 для ситуации А\& В2:

Таким образом, при точном знании ситуации получаем пре дусмотренное решение. Проверим, что наша сеть так же правиль но работает и по остальным эталонам, по которым мы ее обучили, наметив направления распространения возбуждений от каждой исходной посылки к следствию.

Теперь поэкспериментируем.

Задавая события по принципу «да — нет», «1—0», мы предпо лагали булевский тип исходных данных. А что если обобщить тип исходных данных, допустив рассмотрение значений, интерпре тируемых как достоверность? Или каких-то других взаимных оценок, используемых людьми, не сведущими в теории вероят ности и не знакомыми с понятием «полное множество событий»?

Например, в результате искажения информации начальник станции Кукуевка пребывает в раздумье: скорость пырловского паровоза равна не то 60 км/ч, не то 80 км/ч, но скорее всего 60 км/ч. Он по наитию набирает: А1 = 1, В1 = 0,7, В2 = 0,4. На ка кую ситуацию это похоже и какое решение принять? Считаем:

Мы видим, что максимальной величины возбуждения достиг нейрон R1, определивший главное решение. Но мы вправе учесть и решение R2 с меньшим приоритетом, дав линейному с флаж ком дополнительные указания. По известной формуле математи ческого ожидания оценим, на сколько облегчится карман на чальника станции Кукуевка:

Таким образом, сформирована уже обученная нейросеть.

А что если объединить решения R1 и R4, отличающиеся толь ко скоростью передвижения линейных? Следуя рассмотренному выше принципу, мы получили бы сеть на рис. 9.3.

Рие. 9.3. Однослойная нейросеть, непригодная для обучения Легко видеть, что максимальное возбуждение, соответствую щее решению /И, достигается всегда, когда задана ситуация, тре бующая максимального возбуждения только лишь нейронов R или R3. Сеть дает побочный эффект, что требует корректировки решения. Она заключается в том, что если максимально и одина ково возбудились два нейрона выходного слоя и один из них R1, то верное решение соответствует второму. Если максимально возбудился только нейрон R1, то он представляет правильное ре шение.

В данном случае происходит коллизия при замене операций конъюнкции л и дизъюнкции v одной операцией &. Ведь логи ческий предикат возбуждения решения R1 имеет вид Благодаря этому справедлива гипотеза о минимальной длине статической цепочки в разд. 2.9.

Тогда легко провести коррекцию, построив обученную сеть так, как показано на рис. 9.4, введя так называемые скрытые ней роны 1 и 2.

Рис.9.4. Обученная нейросеть Выбор нейросети, обучение, трассировка. Мы построили ней росеть, пользуясь приемами, известными специалистам-схемо техникам, разрабатывающим устройства компьютера. Мы соеди нили элементы связями — «проволочками», произведя трасси ровку для правильного распространения сигнала в соответствии с желаемой функцией. Как неоднократно указывалось выше, все это относится к уже обученной сети. Причем из рассмотрения полностью исключен тот параметр, настройка которого позволя ет обучить сеть, в частности, проложить нужные "проводочки" и перекусить ненужные.

Нейрон в данном случае только выполняет передаточную функцию, один из видов которой и был рассмотрен. Более пол ная модель нейрона заключается в следующем. Нейрон имеет несколько входов — дендритов, каждый из которых обладает ве сом синапсической связи. В результате выполнения передаточной функции возбуждение нейрона через ветвящийся аксон переда ется дендритам других, связанных с ним нейронов. Дендрит воспринимает сигнал, пропорциональный своему весу. Таким образом и формируется сеть, в которой различаются входной и выходной слои. Передаточная же функция с учетом синапси ческих весов для нашего простейшего случая (при компьютер ном моделировании чаще всего другого и не требуется) имеет вид где - величины возбуждения тех нейронов, аксоны которых связаны с дендритами данного;

- индекс использованного дендрита;

— вес синапсической связи.

В результате весь смысл построения и обучения нейросети заключается в том, что синапсические веса регулируются, обус ловливая пути прохождения возбуждений в сети.

В частности, представив некоторую абстрактную сеть и пост роив на ее основе сеть для игры в рулетку, положим некоторые ве са связей, равными единице (наличие "проводочков"), а некото рые (или все оставшиеся) — равными нулю (отсутствие «прово дочков»). Но ведь допустимы и некоторые промежуточные значе ния весов, хотя для практических целей наш подход оправдан.

Подойдем к построению нейросети для игры в железнодо рожную рулетку иначе. Ранее сеть создавалась по известным ус ловиям игры, теперь пусть нам задана нейросеть, а мы обучим ее для игры в рулетку.

Изобразим некоторый ориентированный ациклический граф (рис.9.5) и придадим ему смысл нейросети, поставив в соответ ствие его вершинам — нейронам (кроме предполагаемых рецеп торов) все ту же передаточную функцию. Вот только как заста вить сеть так реагировать на очевидные эталоны, чтобы макси мального возбуждения достигали нейроны выходного слоя, соот ветствующие решениям? Для этого необходимо, полагая перво начально все веса нулевыми (или минимальными), увеличить не которые из них до максимального значения или до единицы.

Проще всего именно так и действовать: сначала все веса нулевые ("проводочки" есть, но их сопротивление чрезвычайно высоко), затем выбранные нами веса положим равными единице. Выше сказанное равносильно тому, что какие-то "проводочки" оставле ны, а какие-то перекушены. Описанное действие по обучению нейросети мы называем трассировкой.

Продемонстрируем алгоритм трассировки, введя упрощения по сравнению с рассмотренным в разд. 3.

10* " Рис. 9.5. Нейросеть, предложенная для обучения Компьютерная обработка нейросети значительно облегчает ся, если сеть представлена матрицей следования S (рис. 9.6, а), где наличие связи обозначается ее весом.

1. Произведем трассировку возбуждений нейронов [А\, Исключим из матрицы S строки и столбцы, соответствующие не интересующим нас нейронам входного и выходного слоев.

Матрица примет вид представленный на рис. 9.6, б. Промоде лируем прохождение возбуждения следующим образом.

Присвоим нейронам, соответствующим нулевым строкам — входам матрицы признак «возбужден». Выделим столбцы, со ответствующие этим же входам. В совокупности этих столбцов найдем первую строку, содержащую максимальное число нулей.

Эта строка соответствует нейрону 1. Заменяем нули единицами (увеличиваем веса), введенные изменения отражаем в матрице S.

К матрице S присоединяем столбец (чтобы не отягощать при мер, мы этого не сделали, но учитываем его наличие в последу ющих построениях), в каждой позиции которого указывается число введенных единиц в строке. В данном случае на пересече нии столбца и строки, соответствующей нейрону 1, записываем = 2. Таким образом обеспечивается возможность повторного использования нейронов при получении других решений. Иск лючаем из матрицы строки и столбцы тех нейронов, возбуж дение которых использовано. Нейрону 1 присваиваем признак «возбужден». Матрица принимает вид, приведенный на рис.

9.6, в.

Рис. 9.6. Матрица следования для игры:

а — общий вид;

б - для трассировки первого решения;

в — первый шаг преобразования;

г — второй шаг преобразования;

д - для трассировки второго решения;

е - первый шаг преобразования матрицы следования для обучения второму эталону;

ж — второй шаг преобразования матрицы следования для обучения второму эталону;

з — для трассировки четвертого решения Исключаем из матрицы строки и столбцы, соответствую щие входам без признака «возбужден». Эти строки соответствуют нейронам 2 и 3. Вид полученной матрицы представлен на рис.

9.6, г.

Повторяем описанные выше действия, что приводит к замене единицей единственного нуля.

Не приводя промежуточного рисунка, отметим, что мы подт вердили высоким (единичным) весом связи А1 1, В1 1, R1.

2. Произведем трассировку [А1, R2.

Сформируем матрицу исключив из рассмотрения нейроны А2, В\, R\, R3, R4 (рис. 9.6, д).

Строка, соответствующая нейрону 1, содержит одну единицу, при том, что Исключаем из рассмотрения и этот нейрон, как негодный для повторного использования. Вид матрицы приведен на рис. 9.6, е.

Присваиваем строкам — входам матрицы признак «возбуж ден». В совокупности соответствующих им столбцов находим строку, содержащую максимальное число нулей. Такая строка со ответствует нейрону 2. Заменяем в ней нули единицами, что от мечаем в матрице S. Полагаем = 2. Присваиваем нейрону признак «возбужден», а нейроны А1 и В2 исключаем из рассмот рения. Среди оставшихся строк исключаем «пустую», соответ ствующую нейрону 3 и не обладающую признаком «возбужден».

Исключаем и соответствующий столбец. Матрица показана на рис. 9.6, ж.

Повторение описанных действий приводит к замене оставше гося нуля единицей.

Таким образом, в результате трассировки на данном шаге сло жились связи с единичными весами А1 2, В2 2, 2 R2.

3. Повторив алгоритм построений, легко найдем связи с еди ничными весами А2 3, В1 3, 3 R3 в результате трассировки [А2, 4. Трассировка последнего пути возбуждения [А2, В2] R обладает некоторыми особенностями, обусловленными отсут ствием связей «через слой», которые видны на рис. 9.4.

Сформируем матрицу в которой не отражены те нейроны, в строках которых число единиц меньше соответствующего зна чения т (рис. 9.6, з). Но ведь в ней вообще нет никаких связей!

Придется их ввести, да еще с единичными весами согласно условию задачи. Очевидно, что больше трех эталонов эта сеть воспринять не способна. Таким образом, мы вводим дополни тельные связи с единичными весами А1 R4, B2 R4.

Обученная сеть, где выделены связи с единичными весами, окончательно представлена на рис. 9.7. Лишние "проводочки" можно перекусить.

Рис. 9.7. Полностью обученная нейросеть Вычислим с помощью нашей передаточной функции величи ны возбуждения нейронов для ситуации А1&B2: = О, = 1, - 0, - О, = 0, = 0. Ни один нейрон выходно го слоя не возбудился! То же для ситуаций А1&В1 и А2&В1. Для случая А2&В2 имеем: = 0, = 0, 0, = 0, - 0, = 0, — 1. Таким образом, построенная нейросеть распознает един ственную ситуацию.

Отметим, что в процессе распространения по сети возбужде ние «гаснет», не доходя до выходного слоя. Значит, следует уменьшить пороги, но тогда величины возбуждений нейронов выходного слоя становятся различными для разных ситуаций, ибо различна длина путей возбуждения. Это затрудняет коррект ное участие нейронов в тех случаях, когда данный выходной слой является входным для следующего логического уровня сети. Сле довательно, наша передаточная функция не годится для выбран ной структуры нейросети.

Приведем еще одну передаточную функцию, определяющую величину V возбуждения нейрона:

Рассчитайте и убедитесь, что, например, для А = 1 сеть пра вильно распознает все эталонные ситуации, обеспечивая равную величину возбуждения нейронов выходного слоя. Так, в ситуации А1&В1 получаем следующие величины возбуждения нейронов:

= = = = 0. Аналогично для си туаций А1&В2 и А2&В1. Для ситуации А2&В2 находим: = = Сеть правильно реагирует на недостоверные ситуации и поз воляет находить среднее.

А главное в том, что игра имеет массу перспектив развития.

Что если скорость паровозов — величина переменная и случай ная, так же, как и чередование и длина однопутных участков, и решение следует принимать и корректировать в динамике, в за висимости от длины пройденного пути и значения скорости? Что если один машинист агрессивен, а другой желает уклониться от столкновения? И т.д.

Служба безопасности 9. Охрана покоя семьи, противодействие взломщикам-грабите лям актуальная задача нашего бурного времени. Мы справедливо предполагаем развитие рынка средств автоматического распоз навания «свой — чужой» по мере объявленного роста благососто яния народных масс, находящего все большее число покупате лей. Как же устроено такое средство охраны — предупреждения (рис. 9.8)?

Основой логической деятельности устройства, конечно же, является нейросеть.

Представим себе многоуровневую нейросеть, первый логи ческий уровень которой подбирает «словесный портрет» на осно ве признаков изображения, поступившего на его экран. В резуль тате анализа, возможно, с двух точек — анфас и в профиль, уста новлено:

Рис. 9.8. Система распознавания «свой - чужой» • волосы черные, шевелюра пышная, на 5 баллов;

• лоб высокий, залысины, поперечные морщины;

• брови густые, вразлет, сросшиеся на переносице, № 8;

• нос орлиный, № 4 и т.д.

Конечно, баллы и номера не выставляются, они означают только, какой нейрон промежуточного выходного слоя возбудит ся максимально. Да и это нам знать ни к чему. Просто произой дет распределение возбуждений между нейронами промежуточ ного выходного слоя той части нейросети, что обучена распозна ванию признаков. Возбуждение этих нейронов как нейронов входного слоя второй части нейросети, т.е. второго логического уровня, должно в результате обучения привести к существенному отличию «папы» от «слесаря дяди Юры», приходившего днем проверить исправный кран. Иными словами, привести к иденти- ' фикации кто это: «свой» или «чужой»? Можно предусмотреть и особые приметы: чрезмерно красный нос, подозрительные крас ные пятна на лице и др. При формировании голосового ответа (задействован третий логический уровень) учитывается и эта до полнительная информация.

9.3 Парк фантасмагорий Представим себе парк развлечений, в который заходит наша группа под руководством гида и, желая отдохнуть, устремляется в тенисто-прохладный уголок с причудливым ландшафтом. И вдруг из-за трепещущих кустов выползают монстры — крокоди лы, вздымаются головы ящеров. Лохматый неандерталец ладит каменное орудие, подымается на свои курьи ножки избушка. Ги гантской головой оживает скала, покрытая нежными незабудка ми, деревья и кусты качают ветками. Наше замешательство и па ника вызывают ответную реакцию: окружающие смеются, сер дятся, радуются, угрожают.

Рассмотрим возможный принцип действия отдельного объ екта (рис. 9.9), который контролирует сектор обзора. Электрон но-оптическое «зрение» может быть расположено не обязатель но в глазах, а упрятано в любой другой части тела, например на груди.

Рис. 9.9. Обзор экрана Весь сектор обзора разбит на элементарные сегменты, обра зованные телесными углами в 1 — 2°. Первоначально должна быть предусмотрена реакция только на преобладающий в сегменте цвет. Например, красный цвет должен запускать комплекс прог рамм ярости и повторный обзор строки для усиления ярости при последующем раздражении.

Желтый цвет может вызывать кокетство и эротическое воз буждение, зеленый — умиротворение, коричневый — ритмичный шаг и покачивание головой, голубой — благостное умиление с возведенными к небу глазами и т.д.

Обзор сегментов совершается по строкам, с частотой, согла сующейся со скоростью обработки компьютером. Последняя, в свою очередь, обусловлена прохождением входного сигнала через нейросеть и различной степенью возбуждения нейронов выход ного слоя, запуском программ движения на базе этих нейронов с параметрами, определяемыми величинами возбуждения и инер ционностью такой сложной системы.

Итак, из каких элементарных движений складывается пове дение объекта? Расширение — сужение глаз, открывание — зак рывание рта, улыбка, покачивание головой, поднятие — опуска ние рук, угрожающий шаг (если вес позволяет), вертикальное — горизонтальное помахивание хвостом, призывное движение таза и др.

Как упоминалось ранее, в одном такте могут запускаться нес колько программ, инициирующих движения с текущего состоя ния. В результате имитируется суммарная реакция на ситуацию в секторе обзора и ее изменение, обеспечивается непредсказуе мость, неожиданность и восторг публики. А если представить се бе, что такой реакцией наделены деревья, скалы, вода и ветры, то какой фантасмагорический получится фейерверк!..

Компьютерный человечек 9. КОМПИ Известно, какое значение компьютерным играм придает са мый богатый человек планеты Б. Гейтс. Вволю наигравшись в хо лодную войну, мы тоже можем себе позволить подумать о радос ти и развлечениях, а также о бизнесе!..

Пора объединить все разнообразие направлений творческого применения компьютера как средства, инструмента и объекта ис кусства. Сказанное может быть материализовано виртуальной структурой под названием Computer Art Studio и отражать направ ления: трехмерная и плоская анимация, графика и живопись;

ту ристические объекты и исторические реконструкции;

нейро компьютерные игры и анимация;

литературный и музыкальный дизайн;

фантастика и др.

Вот так благодаря логической цепочке «интеллект модели рование искусство» нейросетевые технологии должны занять подобающее им место в рядах Великого Искусства...

Представим себе школьника, который не успев протереть зас панные глаза, включает компьютер. На экране появляется милая, мордашка КОМПИ, популярного (нам пока неизвестного) героя (рис. 9.10). Наш школьник не очень твердо, но вполне узнаваемо, рисует ананас. КОМПИ приходит в восторг. Все мимические мышцы компьютерной мордашки приходят в движение.

Рис. 9.10. Компьютерная игра КОМПИ Тогда подросток стирает рисунок, и КОМПИ приходит в сос тояние недоуменного ожидания. И вот после некоторых размыш лений художник изображает... велосипед.

«Что это такое?» — спрашивает КОМПИ.

«Это — велосипед, на нем катаются», — следует ответ.

Дальнейшая пауза свидетельствует о том, что происходит обу чение нейросети. Ситуация, отразившаяся на нейронах входного слоя, образующих экран для рисования, передается нейрону вы ходного слоя (или коры). Этот нейрон будет теперь соответство вать «эталону» — велосипеду. Нейрон, в свою очередь, должен оп ределить возбуждение нейрона, ведающего действием «кататься».

Запускаются программы, имитирующие движения КОМПИ, и он неуклюже, конечно же, неправильно и смешно, как его учили, например, обращаться с осликом, подминает под себя копию введенного изображения - велосипед.

Возникает потребность расширения (в условиях производя щей компании) возможностей игры дополнением специальных программ имитации красивого велосипеда (распознанного по корявому эталону) и всех действий КОМПИ при езде на нем.

Средствами трехмерной трафики, например 3D Studio MAX, производя деформаций сокращающихся мышц, можно имитиро вать действия и мимику. Состав же программных процедур, включаемых в каждом такте управления для такой деформации, и их параметры определяются возбуждением нейронов выходного слоя сети при распознавании заданной ситуации — рисунка на экране. Еще не установлено точно, может ли это MАХ, однако ясно, что результат достигается средствами двумерной и трехмер ной компьютерной графики, на основе управления деформацией объектов. Не исключено, что здесь потребуется разработка новых систем компьютерной графики, основанных на «мышечной» де формации.

Например, создав объект в плоской или трехмерной памяти, мы можем, дважды щелкнув мышью, задать точку начала и точку конца мышцы, зафиксировав ее в списке в качестве нового неви димого объекта. Сокращение и растягивание мышцы сопровож дается вычислением адресов такой пересылки информации, при которой, видимо, отображается улыбка и другие движения.

Таким образом можно осуществлять программируемую ани мацию. Ряд программ различных действий, их запуск в зависи мости от решений нейросети формируют комплекс интересных игр и даже сценических постановок.

• Итак, развитие игры, выпуск новых модификаций, расши ряющих возможности, может в конце концов привести к весьма сложному и многообразному взаимодействию юноши, влюб ленного в компьютер, и компьютерного человечка, живущего в нем.

Сетевые технологий, т.е. совместное использование многих компьютеров, обеспечивают широкие перспективы развития по добных игр. И это не только весело. Это серьезный и важный принцип управления, который может быть использован во мно гих производственных и зрелищных приложениях.

Графический диспетчер 9. движения поездов Составление расписания — оптимизационная задача (опти мизируются известные технико-экономические показатели) зна чительной трудоемкости, поэтому до сих пор диспетчер факти чески работает вручную, хотя существуют некоторые эвристичес кие алгоритмы.

Традиционно расписание движения поездов через перегон, контролируемый одним диспетчером, составляется графически, в виде схемы с подразумеваемой системой координат: горизон тально — время, вертикально — расстояние от одного конечного пункта до другого с указанием промежуточных расстояний. Тогда график движения каждого поезда будет представлен в виде нак лонной линии с переменным углом наклона, с учетом остановок.

Общий угол наклона линии соответствует направлению движе ния поезда. Несколько поездов, следующих через перегон, по рождают сложную «картинку» их обслуживания согласно прио ритетам, возможного схождения путей в один, длины поезда (с учетом длины путей станций), необходимой скорости следова ния, запретом остановок.

Диспетчер должен умело управлять поездами так, чтобы за время ожиданий одних поездов на пунктах перегона провести другие, выдержав приоритет: скорый, пассажирский, сквозной, сборный и т.д., по возможности избежав столкновений и остано вок вне пунктов следования.

На рис. 9.11 показан график движения поездов на однопут ном перегоне. Здесь кривая 1 соответствует скорому поезду, кри Существенное Существенное возбуждение возбуждение нейрона первого нейрона второго расписания расписания Расписание результат Рис. 9.11. Синтез расписания движения поездов вые 2 и 3 — двум сквозным поездам, следующим в одном направ лении из пункта А. Кривая 4 соответствует сборному поезду, сле дующему, как и поезд, в противоположном направлении из пункта В.

Можно представить себе мастерство, интуицию и опыт дис петчера, действительно демонстрирующего искусство!

Мы имеем дело с трудно формализуемой задачей и с необхо димостью расширения интеллектуальных возможностей диспет чера. Конструируя нейросеть, необходимо выделить основные события, составляющие исходную ситуацию с четким ответом «да — нет», «1-0».

Как автоматизировать решение задачи для каждого конкрет ного перегона на основе богатого опыта диспетчера-эксперта?

Прежде всего надо определить понятие «ситуация», выделив и систематизировав все показатели и характеристики: макси мальное количество поездов, следующих через перегон в разных направлениях, и допустимые интервалы следования, типы поез дов, различные сочетания этих типов, установленные скорости движения и допустимые отклонения, разрешенные остановки, длину состава (при известной длине резервных путей на пунктах перегона). Необходимо разработать способ отображения ситуа ции на входном слое нейросети.

Далее следует выделить эталонные ситуации и сопоставить им картинки, аналогично приведенным на рис. 9.11, т.е. каждой картинке-эталону нужно поставить в соответствие нейрон вы ходного слоя сети и проложить трассу - опорный путь возбужде ния от эталона к соответствующему нейрону.

Нейросеть позволит нам перейти от статики экспертной сис темы (фактически таблицы) к динамике, позволяющей по любой случайной ситуации получать ответ на вопрос: «какая картинка в большей степени соответствует этой ситуации?».

Однако таким образом нельзя исключить аварии, т.е. на этом анализ ситуации не заканчивается. Мы не использовали всю ин формацию нейросети.

Во-первых, сравнение величины возбуждения нейрона вы ходного слоя (пусть и максимальной) по предъявленной ситуа ции с величиной возбуждения этого нейрона по эталону может свидетельствовать о достоверности полученного ответа. Если разница лежит в пределах экспериментально установленной точ ности, то ответ найден. Если же точность недостаточна, то мож но построить (автоматически, конечно) приоритетный ряд, вы делив нейроны выходного слоя с близкими (ближайшими) вели чинами возбуждения. Эти величины возбуждения нейронов об разуют веса, которые необходимо учесть при использовании кар тинок, соответствующих этим нейронам.

Во-вторых, должна быть решена проблема формирования ус редненной картинки по нескольким картинкам с их весами, где основные элементы сместятся в некоторое промежуточное поло жение. Только тщательное экспериментальное исследование даст ответ на вопрос о возможности и конкретной практической при менимости такого решения проблемы.

Например, в исследуемом отрезке времени (см. рис. 9.11) по езд появляется на контролируемом перегоне. Возникают следую щие вопросы:

1. Сколько поездов на обслуживании:

n = 1?

n =2?

n=n ?

max 2. Каков момент появления поезда:

i = 1?

i = 2?

t=tmax?

3. Каково направление движения:

от пункта A ?

от пункта B ?

4. Каков тип поезда:

скорый?

товарный? и т.д.

И так по всем поездам в планируемом отрезке времени. Таким образом, в зависимости от обстановки, которая ожидается на пе риод планирования, составляется сложная усредненная картинка — график движения.

Однако мы говорим об ассоциативном мышлении, реализуе мом нейросетью, о возможности нейросети интерполировать принимаемое решение. Что означает ее ответ: «На 60 из 100 это «картинка» А, но на 30 из 100 «картинка» В, а на 8 из 100 «картин ка» С»? Непонятно, но наводит на мысль о возможности автома тического выполнения операций над «картинками». Однако по лучение «усредненной картинки» должно быть строго обоснова но непрерывностью основных параметров, отсутствием скачков.

Например, кажущаяся непринципиальной разница в один вагон может привести к тому, что на станции Пырловка поезд не впи шется в длину запасного пути.

где «+» — условная операция наложения «картинок», а операция «х» исполь зует вес данной «картинки» и определяет долю ее участия в форми ровании "картинки"-результата.

Графически это может означать направление смещения, рас тяжения и сжатия, в общем, деформации основных общих эле ментов «картинок» А, В, С для получения результата.

Кстати, на основе такой операции преобразования "карти нок" получают среднестатистические образы населения стран и регионов, производят этническое прогнозирование и т.д.

В любом случае работа нейросетевого диспетчера должна соп ровождаться работой анимационной модели, наглядно имитиру ющей движение поездов по сформированному графику и эффект но, в деталях воспроизводящей возможную катастрофу. Модель, в свою очередь, может служить средством обучения нейросети. А потому всегда должно быть предусмотрено, что окончательное принятие решения — за человеком.

9. Печать рукописи Ясно, что восстановить рукописный текст способно только ас социативное мышление, поэтому автоматизация воспроизведе ния написанного является актуальной задачей. В основе распоз навания по признакам лежит все та же методика чистописания1.

В разд. 1 рассматривалось «признаковое» определение букв: а — кружочек с палочкой справа, заканчивающейся хвостиком вправо, б— кружочек с хвостиком сверху, ц — палочка с хвостиком вправо, к нему примыкает палочка, а к ней справа внизу стран ный специфический крючок и т.д.

Представим себе сканирование текста через «окно просмот ра» (рис. 9.12) на входном слое нейросети. Рецепторы связаны с Применялось в России с 1740 по 1965 гг.

Нейрон, отвечающий за букву «б» Нейрон, отвечающий за «кружок» Рис. 9.12. Распознавание буквы по признакам нейронами промежуточного выходного слоя, закрепленными за признаками. Соединение выполнено так, чтобы «захватить» бук ву, т.е. предусмотреть случайные, обусловленные почерком отк лонения буквы от эталона и выявить ее отдельные признаки.

Комбинации выявленных признаков, в виде сигналов возбужде ния нейронов промежуточного выходного слоя, рассматриваемо го в качестве входного слоя второго логического уровня, на вы ходном слое нейросети определяют распознаваемую букву.

Возможно, что при появлении очередной буквы, письма пона добится процедура разглядывания: увеличение — уменьшение, наклон влево — вправо, до тех пор, пока при некоторой фиксации образа не начнется распознавание. Поэтому в дополнение к по пытке «захвата» изображение располагается в «окне просмотра» так, что его центр тяжести совмещается с центром окна. Далее изображение растягивается или сжимается, приобретает наклон влево или вправо так, чтобы получить максимальное соответ ствие по размеру и углу наклона с эталонами, подававшимися в процессе обучения. Впрочем, вышеуказанные манипуляции мо гут осуществляться динамически на основе проб в процессе рас познавания буквы.

Для выявления всех признаков и их относительного положе ния «окно просмотра» необходимо разбить на сектора, определя ющие понятия слева, справа, вверху, внизу, внизу справа и т.д.

Определенную трудность представляют пропуски и пробелы.

Например, как отличить букву с от буквы о? Ведь может возбу диться «полный кружок» последней, только с меньшим значени ем величины возбуждения.

Необходимо наряду с позитивным изображением элементов букв анализировать их негативное изображение, тогда пустота в соответствии с эталоном будет возбуждать рецепторы, обретет активность. Наличие пустоты так же определяется посредством возбуждения нейронов, как и видимые линии.

Очевидно, что для понимания текста одного лишь распозна вания букв недостаточно. Необходимо произвести распознава ние слов, включив в работу контекст. Только таким комплексным методом восстанавливается смысл написанного, и это сулит не ограниченные возможности развития и совершенствования ней росетевой технологии прочтения.

Защита информации 9. Мы знаем, насколько важна сегодня информация. Защита информации от несанкционированного доступа — идет ли речь о перевозке грузов или о финансовых коммерческих системах — первоочередная задача, актуальность которой все возрастает с развитием сетевых компьютерных и телекоммуникационных тех. нологий. Высокие затраты на ее решение окупаются с лихвой.

Однако разнообразятся и средства «взломщика»: сегодня ему нет нужды ломать систему — он просто врывается в офис, и под дулом автомата Калашникова вы становитесь покорным испол нителем его желаний.

Впрочем, моральное состояние клиента выдает его чуткому серверу (рис. 9.13), на расстоянии выполняющему заявки в режи ме «клиент — сервер». Наряду со сложной системой паролей, ог раничения функций и доступа вашего терминала, успешно прео доленных насильником, предпринимателем и террористом, суще ствует нечто непреодолимое, воплощенное в средствах идентифи кации пользователя и аутентификации. Это ваш образ, который характеризуется «почерком», психологическими особенностями, общей стратегией работы, т.е. индивидуальными чертами, протес тированными системой защиты. Она хранит ваш образ и перио дически сверяет с ним характер работы вашего терминала.

Рис. 9.13. Схема защиты информации Сигнал тревоги может возникнуть не только при смене поль зователя, но и в случае, когда его моральное состояние порожда ет серьезные отклонения от запечатленного образа. При этом мо гут использоваться и тайные специфические сигналы, но ряд ос новных характеристик обязателен. Это частота ввода символов с клавиатуры, продолжительность пауз между словами, частота ис пользования клавиши "delete" и некоторых других и т.д. Возмож но периодическое случайное анкетирование на основе един ственного вопроса, требующее ответа «да — нет» и способствую щее утверждению сложившегося образа.

Возникает вопрос: а причем здесь нейросеть? Ведь все эти проверки можно делать традиционными способами. Дело в том, что нейросеть — это средство параллельного выполнения сложных логических предикатов. Параллельного — значит, быстрого! А современный сервер — многопроцессорная вычислительная сис тема, успешно выполняет роль нейрокомпьютера. Кроме того, при ассоциативном мышлении по принципу «на что это похоже» используются (конечно, в каких-то пределах) неполные и неточ ные данные, заставляющие по крайней мере встревожиться и послать администратора или даже охрану с проверкой.

Сивилла-прорицательница 9. В век всеобщей информатизации мы склонны ассоциативно прогнозировать: что будет с нами завтра, каковы общие тенден ции и что предпринять?

Формализация обработки огромных потоков оперативной информации, в основном в средствах массовой информации, все более привлекает специалистов по прогнозу. В то же время здесь открываются огромные возможности для шарлатанов, и кажется удивительным, как остаются незамеченными несбывшиеся предсказания «авторитетных», не сходящих с телеэкрана, ясно видящих.

Поставить прогноз на научную базу — вот задача современных честных ревнителей перспективы.

Основой прогнозирования являются состав и частота появле ния слов и выражений, характеризующих политический этап или целый исторический период. Далее следует анализ историческо го опыта, определяющий, к чему это приводило в прошлом, и к чему может привести впредь. Комбинации и частота следования слов (рис. 9.14) образовывали критическую массу для неотврати мой цепной реакции социальных катаклизмов...

Итак, появление каждого «судьбоносного» слова добавляет определенное настроение нейросети. Результирующее настрое Рис. 9.14. Прогнозирование ние определяется распределением возбуждений нейронов выход ного слоя — его максимумом, значением среднего, предпочти тельным рядом. Частота их появления меняется во времени, обя зательно предопределяя знаменательные события: развал Совет ского Союза, путч, вехи экономического краха, социальные и ре гиональные беспорядки...

... Наша задача — не только формально, скажем, по частоте использования тех или иных слов и выражений, но и на основе ассоциативного восприятия воспроизвести динамику социально экономического, политического и морально-психологического движения общества.

В таком случае практический аппарат прогноза реализуется нейросетью, с помощью которой запоминаются отклонения вида "если —то", фиксирующие степень влияния часто употребляемых. слов и выражений на прогноз социального, политического и эко номического развития общества. Например, «безусловная победа, одной политической партии» — «увеличение веса тенденции то талитаризма», «арест «олигарха» — «рост объема вывоза капита ла», «эмиссия ценных бумаг компании» — «опасность банкрот ства». Указанные отношения не однозначны, так как эмиссия ценных бумаг может, наоборот, свидетельствовать об успешной деятельности предприятия и экономики в целом.

Очевидно, что указанная задача прогнозирования относится к классу трудно формализуемых. Это говорит об универсально сти нейросетевых технологий, применимости средств искусст венного интеллекта там, где неприменим никакой математичес кий метод расчета.

ЗАКЛЮЧЕНИЕ Все чаще появляются научные работы, посвященных нейро сетевым моделям, которые порождают все больше интересных, эффективных технологий для решения задач управления, плани рования, распознавания образов и принятия решений. В этом разнообразии мы выделили лишь то направление, которое не посредственно связано с принципами человеческого интеллекта, с ассоциативным мышлением. Фактически это — построение таблиц, фиксирующих опыт и реализующих принцип «если — то», «посылка — следствие». Важным достоинством этих таблиц является то, что они позволяют наглядно воспроизводить функ ции многих переменных, не совместимых по типам и по физи ческой природе. Эти функции не имеют формального математи ческого описания и потому отображают трудно формализуемые задачи. Автоматическая интерполяция опыта является неотъем лемым свойством нейронной сети. Она позволяет делать вывод «на что больше всего это похоже и что следует предпринять», а также производить необходимое усреднение.

Важнейшее значение нейронные сети приобретают при пост роении систем управления и принятия решений. Технологии, ос нованные на применении «вычислительных» алгоритмов, приво дят к тупиковой ситуации, когда традиционно развиваемая эле ментно-конструкторская база не обеспечивает требуемой произ водительности компьютеров. Нейросетевые технологии, исполь зующие нетрудоемкий принцип ассоциативного мышления и высокий параллелизм, порождают прорыв в достижении необхо димой реальной производительности вычислительных средств.

Конечно, статистические исследования накопленного опыта, моделирование и обработка нужны для обучения или построения обученной нейрости. Однако эти исследования проводятся вне рабочего режима, могут быть совместимы с ним, а также допус кать корректирование, модификацию и развитие нейросети в процессе и эксплуатации.

Благодаря логическому методу построения математический аппарат нейронных сетей прост и доходчив, разработка нейросе ти не дорога, она не требует специальных знаний пользователя. В то же время нейросеть легко допускает включение в рассмотре ние новых факторов, изменение решений и т.д.

Воспроизведение принципов работы мозга позволяет созда вать действительно универсальные, помехозащищенные, адап тивные, несложные и развиваемые информационные технологии в экономике, в бизнесе, в управлении сложными системами, в том числе и социальными, в искусстве, туризме и т.д.

Однако мы осознаем, что Природа действует в соответствии с законами своего развития. Для того чтобы реализовать прими тивную логическую передаточную функцию, в нейроне происхо дит до 240 химических реакций. Создавая интеллект искусствен ный на принципиальном, логическом уровне, бессмысленно сле по и многотрудно воспроизводить существующие в природе ме тоды, хотя такое моделирование может быть полезно для биоло гии и медицины. На пути логического создания разума мы не связаны с проблемами энергетики и надежности. Искусственная нейросеть не требует кровоснабжения и не подвергается огню на поражение. И потому мы смело идем по пути абстракции, субли мации и условной имитации, пользуясь богатыми возможностя ми современного компьютера и логического мышления.

Мы убеждены в необходимости создания студий Computer Art Studio, клубов по интересам и артелей, объединяющих все слои населения, всех возрастов и профессий, для реализации принци пов искусственного интеллекта: это и искусство, и наука, и биз нес.

ЛИТЕРАТУРА Использованная литература* 1. Галушкин А.И. Сфера применения нейрокомпьютеров рас ширяется. Приложение к журналу «Информационные техноло гии». - 2001. - № 10.

2. Галушкин А.И. Теория нейронных сетей. Сер. «Нейрокомпь ютеры и их применение». Кн. 1. - М.: ИПРЖР, 2000.

3. Сигеру О., Марзуки X., Рубин Ю. Нейроуправление и его приложения / Под ред. А.И. Галушкина. Сер. «Нейрокомпьютеры и их применение». Кн. 2. - М.: ИПРЖР, 2000.

4. Комашинский В.И., Смирнов ДА. Введение в нейроинфор мационные технологии. — СПб.: Тема, 1999.

5. Круглое В.В., Борисов В.В. Искусственные нейронные сети.

Теория и практика. — М.: Горячая линия — Телеком, 2001.

6. Уоссерман Ф. Нейрокомпьютерная техника. — М.: Мир, 1992.

7. ЭВМ пятого поколения. Концепции, проблемы, перспек тивы. — М.: Финансы и статистика, 1984.

8. Игнатущенко В.В. Организация структур управляющих многопроцессорных вычислительных систем. — М.: Энергоатом издат, 1984.

9. Барский А.Б. Параллельные процессы в вычислительных системах: Планирование и организация. — М.: Радио и связь, 1990.

10. Нейрокомпьютеры и интеллектуальные роботы / Н.М. Амо сов, Т.Н. Байдык, А.Д. Гольцов и др. — Киев: Наукова думка, 1991.

11. Поспелов ДА. Моделирование рассуждений: Опыт анализа мыслительных актов. - М.: Радио и связь, 1989.

12. Hopfield J., Tank D. Neurel computation of decision in opti mization problems. Biol. Cybernet., 1985, vol. 52.

nd 13. Kohonen T. Self-Organizing Maps. Springer-Verlag, 2 ed., 1997.

14. Шеннон P. Имитационное моделирование систем. Искус ство и наука. — М.: Мир, 1978.

* Источники расположены по мере упоминания их в тексте.

15. Поспелов Д.А. Большие системы. Ситуационное управле ние. - М.: Знание, 1975.

16. Поспелов Д.А. Ситуационное управление. Теория и прак тика. - М.: Наука, 1986.

17. Головкин Б.А. Параллельные вычислительные системы. — М.: Наука, 1980.

18. Барский А.Б., Шилов В.В. SPMD-архитектура и параллель ная обработка структур данных. — Приложение к журналу «Ин формационные технологии». — 1999. — № 6.

19. Барский А.Б., Шилов В.В. SPMD-архитектура и параллель ный логический вывод. — Приложение к журналу «Информаци онные технологии». - 1999. - № 12.

20. Барский А. Б. Параллельные технологии решения оптими зационных задач. — Приложение к журналу «Информационные технологии». - 2001. - № 2.

21. Барский А.Б. Обучение нейросети методом трассировки.

Труды VIII Всеросс. конф. «Нейрокомпьютеры и их примене ние», 2002.

22. Фролов Ю.В. Интеллектуальные системы и управленчес кие решения. - М.: МГПУ, 2000.

23. Фролов Ю.В., Пастухов Е.С. Мониторинг изменений в банковском сообществе России с применением самоорганизую щихся карт Кохонена // Банковские технологии. — 2000. — № 11.

24. Deboeck G., Kohonen T. Visual Exploration in Finance with Self-Organizing Maps. Springer-Verlag, 1998.

Дополнительная литература Нейронные сети: История развития теории / Под ред. А.И. Га лушкина, Я.З. Цыпкина. Науч. сер. «Нейрокомпьютеры и их при менение». Кн. 5. - М: ИПРЖР, 2001.

Головко ВЛ. Нейронные сети: обучение, организация и при менение / Под ред. А.И. Галушкина. Науч. сер. «Нейрокомпьюте ры и их применение». Кн. 4. - М.: ИПРЖР, 2001.

Галушкин А.И. Нейрокомпьютеры. Науч. сер. «Нейрокомпью теры и их применение». Кн. 3. - М.: ИПРЖР, 2000.

ГорбаньА.Н. Обучение нейронных сетей. — М.: СП «ParaGraf», 1990.

Терехов В.А., Ефимов Д.В., Тюкин И.Ю. и др. Нейросетевые системы управления. - СПб.: СПбГУ, 1999.

Искусственный интеллект. Кн.1 / Под ред. Э.В. Попова;

Кн. 2 / Под ред. Д.А. Поспелова. — М.: Радио и связь, 1990.

Барский А.Б. Нейронные сети и искусственный интеллект. — Приложение к журналу «Информационные технологии». — 2003.

- №1.

Труды VIII Всеросс. конф. «Нейрокомпьютеры и их примене ние». Тезисы докладов. — М.: Век книги, 2002.

Аляутдинов М.А., Балухто А.Н., Галушкин АИ. и др. Разработка и ис следование нейросетевых методов и алгоритмов обработки аэрокосми ческих изображений.

Гаврилей Ю.К., Самарин АИ, Шевченко МА. и др. Нейросетевые подходы к реализации алгоритмов активного зрения.

Ланкин Ю.П., Кофман Г.Б. Моделирование формообразования дре весных стволов с помощью нейронных сетей.

Томашевич Н.С. Нейросетевые алгоритмы выделения признаков и распознавания объектов на 2D изображениях, инвариантные к аффин ным преобразованиям.

Тумоян Е.П. Цифровая обработка изображений в задаче идентифи кации возбудителей туберкулеза.

ЕлкинД.В. Применение нейронных сетей для решения задачи марш рутизации в вычислительных сетях с пакетной обработкой данных.

Васильев В.И., Жернаков СВ. Контроль и диагностика силовых уста новок летательных аппаратов на базе нейронных сетей.

Друзяка И.С., Ковалевский С.В. Моделирование функционально двигательных характеристик спортсмена с применением нейросетевых технологий.

Павловский В.Е., Серов А.Ю. Нейросетевая система счисления пути и определения ориентации шагающего робота.

Галуев ГА., Габриелян БА. Нейросетевая система биометрической аутентификации личности для разграничения доступа к персональным компьютерам.

Харламов А.А., Кушнир ДА., Самаев Е.С. Использование нейросете вых технологий в задаче распознавания речи.

Кулик С.Д. Программы для решения задач криминалистики.

Орловский С.Н., Баскакова Т.Ф., Комиссаров СВ. и др. Использова ние нейросетей для оптимальных технологий тушения лесных пожаров.

Шевелев О.Г., Тютерев В.В. Нейронные сети в задаче определения авторства текста.

Воловикова Е.М., Ковалевский СВ. Персонал-технологии и нейросети.

Зозуля Ю.И. Интеллектуальные нейросистемы: модели и методы ре шения типовых задач автоматизации технологических процессов.

Т.Н., Кузнецов А.В. подход в задачах иден тификации медицинских сигналов.

Федяев О.И., СМ., С.А. Нейросетевое прогнози рование динамики развития черепно-мозгового травматизма.

А.Н., др. Опыт разработки новой технологии камеральных проверок, отбора налогоплательщиков для вы ездных проверок и оценки сумм ожидаемых доначислений на основе нейросетевых информационных моделей.

Жучков АА. Применение нейрорешений для снижения объемов фи нансирования и рисков инвестиций в модернизацию систем управления предприятиями.

Т.Б. Прогнозирование тенденций финансовых рынков с помощью нейронных сетей.

Иванов Анализ роста курса акций с применением нейронных сетей.

Захарченко Щука А.А. Оптический нейрокомпьютер. Отечест венный приоритет и перспективы развития.

Ц.Г., В.Г., Сафонов Построение больших нейросетей на одном ПЛИС.

Горлов В.Н. К вопросу о механизме реализации ассоциативной памя ти на принципах многослойных нейронных сетей.

Лащев Д.В. Синтез алгоритмов обучения нейронных сетей.

Шумков ЕЛ. Новый принцип построения самообуча емых нейросетей.

Бутенко Галушкин А.И. Пантюхин Д.В. Нейросетевые методы решения систем линейных алгебраических уравнений.

Лоскутов А.И. Синтез оптимальных программ испытания бортовой аппаратуры космических аппаратов с решением транспортной задачи на основе динамической нейронной сети Хопфилда.

Владимирский Б.М. Что вычисляет мозг? нейробиологическим ос нованиям нейрокомпыотинга.) Ланкин Ю.П. Адаптивные модели: Стихионика, нейроинформатика, поисковая оптимизация.

Савельев В. Концептуальные системы нейробиологии и нейро компыотинга.

Pages:     | 1 ||



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.