WWW.DISSERS.RU

БЕСПЛАТНАЯ ЭЛЕКТРОННАЯ БИБЛИОТЕКА

   Добро пожаловать!

Pages:     || 2 | 3 | 4 | 5 |   ...   | 25 |

Ф. Уоссермен

Нейрокомпьютерная техника:
Теория и практика

В книге американского автора в общедоступнойформе излагаются основы построения нейрокомпьютеров. Описаны структуранейронных сетей и различные алгоритмы их настройки. Отдельные главы посвященывопросам реализации нейронных сетей.

Для специалистов в области вычислительнойтехники, а также студентов соответствующих специальностей вузов.

Перевод на русский язык, Ю. А. Зуев,В. А. Точенов, 1992.

ОГЛАВЛЕНИЕ

Предисловие 4

БЛАГОДАРНОСТИ 4

Введение 5

ПОЧЕМУ ИМЕННО ИСКУССТВЕННЫЕ НЕЙРОННЫЕСЕТИ 5

СВОЙСТВА ИСКУССТВЕННЫХ НЕЙРОННЫХСЕТЕЙ 5

ИСТОРИЧЕСКИЙ АСПЕКТ 7

ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИСЕГОДНЯ 10

ПЕРСПЕКТИВЫ НА БУДУЩЕЕ 11

ВЫВОДЫ 12

Глава 1. Основы искусственных нейронныхсетей 14

БИОЛОГИЧЕСКИЙ ПРОТОТИП 14

ИСКУССТВЕННЫЙ НЕЙРОН 16

ОДНОСЛОЙНЫЕ ИСКУССТВЕННЫЕ НЕЙРОННЫЕСЕТИ 19

МНОГОСЛОЙНЫЕ ИСКУССТВЕННЫЕ НЕЙРОННЫЕСЕТИ 20

ТЕРМИНОЛОГИЯ, ОБОЗНАЧЕНИЯ И СХЕМАТИЧЕСКОЕИЗОБРАЖЕНИЕ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ 22

ПРОЛОГ 25

Глава 2. Персептроны 26

ПЕРСЕПТРОНЫ И ЗАРОЖДЕНИЕ ИСКУССТВЕННЫХНЕЙРОННЫХ СЕТЕЙ 26

ПЕРСЕПТРОННАЯ ПРЕДСТАВЛЯЕМОСТЬ 28

ОБУЧЕНИЕ ПЕРСЕПТРОНА 36

АЛГОРИТМ ОБУЧЕНИЯ ПЕРСЕПТРОНА 37

Глава 3. Процедура обратногораспространения 41

ВВЕДЕНИЕ В ПРОЦЕДУРУ ОБРАТНОГОРАСПРОСТРАНЕНИЯ 41

ОБУЧАЮЩИЙ АЛГОРИТМ ОБРАТНОГОРАСПРОСТРАНЕНИЯ 42

Обзор обучения 44

ДАЛЬНЕЙШИЕ АЛГОРИТМИЧЕСКИЕРАЗРАБОТКИ 51

ПРИМЕНЕНИЯ 52

ПРЕДОСТЕРЕЖЕНИЕ 52

Глава 4. Сети встречногораспространения 55

ВВЕДЕНИЕ В СЕТИ ВСТРЕЧНОГОРАСПРОСТРАНЕНИЯ 55

СТРУКТУРА СЕТИ 55

НОРМАЛЬНОЕ ФУНКЦИОНИРОВАНИЕ 56

ОБУЧЕНИЕ СЛОЯ КОХОНЕНА 58

ОБУЧЕНИЕ СЛОЯ ГРОССБЕРГА 64

СЕТЬ ВСТРЕЧНОГО РАСПРОСТРАНЕНИЯПОЛНОСТЬЮ 64

ПРИЛОЖЕНИЕ: СЖАТИЕ ДАННЫХ 66

ОБСУЖДЕНИЕ 67

Глава 5. Стохастические методы 68

ИСПОЛЬЗОВАНИЕ ОБУЧЕНИЯ 68

ПРИЛОЖЕНИЯ К ОБЩИМ НЕЛИНЕЙНЫМ ЗАДАЧАМОПТИМИЗАЦИИ 75

ОБРАТНОЕ РАСПРОСТРАНЕНИЕ И ОБУЧЕНИЕКОШИ 76

Глава 6. Сети Хопфилда 81

КОНФИГУРАЦИИ СЕТЕЙ С ОБРАТНЫМИСВЯЗЯМИ 82

ПРИЛОЖЕНИЯ 88

ОБСУЖДЕНИЕ 88

ВЫВОДЫ 88

Глава 7. Двунаправленная ассоциативнаяпамять 88

СТРУКТУРА ДАП 88

ВОССТАНОВЛЕНИЕ ЗАПОМНЕННЫХАССОЦИАЦИЙ 88

КОДИРОВАНИЕ АССОЦИАЦИЙ 88

ЕМКОСТЬ ПАМЯТИ 88

НЕПРЕРЫВНАЯ ДАП 88

АДАПТИВНАЯ ДАП 88

КОНКУРИРУЮЩАЯ ДАП 88

ЗАКЛЮЧЕНИЕ 88

Глава 8. Адаптивная резонанснаятеория 88

АРХИТЕКТУРА APT 88

РЕАЛИЗАЦИЯ APT 88

ПРИМЕР ОБУЧЕНИЯ СЕТИ APT 88

ХАРАКТЕРИСТИКИ APT 88

ЗАКЛЮЧЕНИЕ 88

Глава 9. Оптические нейронныесети 88

ВЕКТОРНО-МАТРИЧНЫЕ УМНОЖИТЕЛИ 88

ГОЛОГРАФИЧЕСКИЕ КОРРЕЛЯТОРЫ 88

ЗАКЛЮЧЕНИЕ 88

Глава 10. Когнитрон инеокогнитрон 88

КОГНИТРОН 88

НЕОКОГНИТРОН 88

ЗАКЛЮЧЕНИЕ 88

Приложение А. Биологические нейронныесети 88

ЧЕЛОВЕЧЕСКИЙ МОЗГ: БИОЛОГИЧЕСКАЯМОДЕЛЬ ДЛЯ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ 88

ОРГАНИЗАЦИЯ ЧЕЛОВЕЧЕСКОГО МОЗГА 88

КОМПЬЮТЕРЫ И ЧЕЛОВЕЧЕСКИЙ МОЗГ 88

Приложение Б. Алгоритмы обучения 88

ОБУЧЕНИЕ С УЧИТЕЛЕМ И БЕЗУЧИТЕЛЯ 88

МЕТОД ОБУЧЕНИЯ ХЭББА 88

ВХОДНЫЕ И ВЫХОДНЫЕ ЗВЕЗДЫ 88

ОБУЧЕНИЕ ПЕРСЕПТРОНА 88

МЕТОД ОБУЧЕНИЯ УИДРОУ-ХОФФА 88

МЕТОДЫ СТАТИСТИЧЕСКОГО ОБУЧЕНИЯ 88

САМООРГАНИЗАЦИЯ 88

    1. Предисловие

Что такое искусственные нейронные сети Чтоони могут делать Как они работают Как их можно использовать Эти и множествоподобных вопросов задают специалисты из разных областей. Найти вразумительныйответ нелегко. Университетских курсов мало, семинары слишком дороги, асоответствующая литература слишком обширна и специализированна. Готовящиеся кпечати превосходные книги могут обескуражить начинающих. Часто написанные натехническом жаргоне, многие из них предполагают свободное владение разделамивысшей математики, редко используемыми в других областях.

Эта книга является систематизированнымвводным курсом для профессионалов, не специализирующихся в математике. Всеважные понятия формулируются сначала обычным языком. Математические выкладкииспользуются, если они делают изложение более ясным. В конце глав помещенысложные выводы и доказательства, а также приводятся ссылки на другие работы.Эти ссылки составляют обширную библиографию важнейших работ в областях,связанных с искусственными нейронными сетями. Такой многоуровневый подход нетолько предоставляет читателю обзор по искусственным нейронным сетям, но такжепозволяет заинтересованным лицам серьезнее и глубже изучитьпредмет.

Значительные усилия были приложены, чтобысделать книгу понятной и без чрезмерного упрощения материала. Читателям,пожелавшим продолжить более углубленное теоретическое изучение, не придетсяпереучиваться. При упрощенном изложении даются ссылки на более подробныеработы.

Книгу не обязательно читать от начала доконца. Каждая глава предполагается замкнутой, поэтому для понимания достаточнолишь знакомства с содержанием гл. 1 и 2. Хотя некоторое повторение материаланеизбежно, большинству читателей это не будет обременительно.

Книга имеет практическую направленность. Еслиглавы внимательно изучены, то большую часть сетей оказывается возможнымреализовать на обычном компьютере общего назначения. Читателю настоятельнорекомендуется так и поступать. Никакой другой метод не позволит добиться стольже глубокого понимания.

      1. БЛАГОДАРНОСТИ

Прежде всего самую глубокую признательность яхотел бы выразить своей жене Саре за то, что она воодушевляла меня, а также заее терпение в течение тех месяцев, которые я провел за пишущеймашинкой.

Я хотел бы поблагодарить моих друзей иколлег, которые так великодушно дарили мне свое время и знания, исправляли моиошибки и создавали атмосферу, способствующую развитию идей. Я хотел бы выразитьмою особую признательность Dr. Surapol Dasananda, Santa Clara University;Dr. Elizabeth Center, College of Notre Dame; Dr. Peter Rowe, College of NotreDame; Caries Rockwell, Microlog Corp.; Tom Schwartz, The Schwartz Associates;Dennis Reinhardt, Dair Corp.; Сое Miles-Schlichting; and Douglas Marquardt.Благодарю также Kyla Carlson и Nang Cao за помощь в подготовкеиллюстраций.

На мне лежит, разумеется, ответственность завсе оставшиеся неисправленными ошибки, так как мои друзья и коллеги не моглиопекать меня ежеминутно.

    1. Введение
      1. ПОЧЕМУ ИМЕННО ИСКУССТВЕННЫЕ НЕЙРОННЫЕСЕТИ

После двух десятилетий почти полного забвенияинтерес к искусственным нейронным сетям быстро вырос за последние нескольколет. Специалисты из таких далеких областей, как техническое конструирование,философия, физиология и психология, заинтригованы возможностями,предоставляемыми этой технологией, и ищут приложения им внутри своихдисциплин.

Это возрождение интереса было вызвано кактеоретическими, так и прикладными достижениями. Неожиданно открылисьвозможности использования вычислений в сферах, до этого относящихся лишь кобласти человеческого интеллекта, возможности создания машин, способностькоторых учиться и запоминать удивительным образом напоминает мыслительныепроцессы человека, и наполнения новым значительным содержанием критиковавшегосятермина «искусственный интеллект».

      1. СВОЙСТВА ИСКУССТВЕННЫХ НЕЙРОННЫХСЕТЕЙ

Искусственные нейронные сети индуцированыбиологией, так как они состоят из элементов, функциональные возможности которыханалогичны большинству элементарных функций биологического нейрона. Этиэлементы затем организуются по способу, который может соответствовать (или несоответствовать) анатомии мозга. Несмотря на такое поверхностное сходство,искусственные нейронные сети демонстрируют удивительное число свойств присущихмозгу. Например, они обучаются на основе опыта, обобщают предыдущие прецедентына новые случаи и извлекают существенные свойства из поступающей информации,содержащей излишние данные.

Несмотря на такое функциональное сходство,даже самый оптимистичный их защитник не предположит, что в скором будущемискусственные нейронные сети будут дублировать функции человеческого мозга.Реальный «интеллект», демонстрируемый самыми сложными нейронными сетями,находится ниже уровня дождевого червя, и энтузиазм должен быть умерен всоответствии с современными реалиями. Однако равным образом было бы невернымигнорировать удивительное сходство в функционировании некоторых нейронных сетейс человеческим мозгом. Эти возможности, как бы они ни были ограничены сегодня,наводят на мысль, что глубокое проникновение в человеческий интеллект, а такжемножество революционных приложений, могут быть не за горами.

        1. Обучение

Искусственные нейронные сети могут менятьсвое поведение в зависимости от внешней среды. Этот фактор в большей степени,чем любой другой, ответствен за тот интерес, который они вызывают. Послепредъявления входных сигналов (возможно, вместе с требуемыми выходами) онисамонастраиваются, чтобы обеспечивать требуемую реакцию. Было разработаномножество обучающих алгоритмов, каждый со своими сильными и слабыми сторонами.Как будет указано в этой книге позднее, все еще существуют проблемыотносительно того, чему сеть может обучиться и как обучение должнопроводиться.

        1. Обобщение

Отклик сети после обучения может быть донекоторой степени нечувствителен к небольшим изменениям входных сигналов. Этавнутренне присущая способность видеть образ сквозь шум и искажения жизненноважна для распознавания образов в реальном мире. Она позволяет преодолетьтребование строгой точности, предъявляемое обычным компьютером, и открываетпуть к системе, которая может иметь дело с тем несовершенным миром, в котороммы живем. Важно отметить, что искусственная нейронная сеть делает обобщенияавтоматически благодаря своей структуре, а не с помощью использования«человеческого интеллекта» в форме специально написанных компьютерныхпрограмм.

        1. Абстрагирование

Некоторые из искусственных нейронных сетейобладают способностью извлекать сущность из входных сигналов. Например, сетьможет быть обучена на последовательность искаженных версий буквы «А». Послесоответствующего обучения предъявление такого искаженного примера приведет ктому, что сеть породит букву совершенной формы. В некотором смысле она научитсяпорождать то, что никогда не видела.

Эта способность извлекать идеальное изнесовершенных входов ставит интересные философские вопросы. Она напоминаетконцепцию идеалов, выдвинутую Платоном в его «Республике». Во всяком случаеспособность извлекать идеальные прототипы является у людей весьма ценнымкачеством.

        1. Применимость

Искусственные нейронные сети не являютсяпанацеей. Они, очевидно, не годятся для выполнения таких задач, как начислениезаработной платы. Похоже, однако, что им будет отдаваться предпочтение вбольшом классе задач распознавания образов, с которыми плохо или вообще несправляются обычные компьютеры.

      1. ИСТОРИЧЕСКИЙ АСПЕКТ

Людей всегда интересовало их собственноемышление. Это самовопрошение, думание мозга о себе самом является, возможно,отличительной чертой человека. Имеется множество размышлений о природемышления, простирающихся от духовных до анатомических. Обсуждение этоговопроса, протекавшее в горячих спорах философов и теологов с физиологами ианатомами, принесло мало пользы, так как сам предмет весьма труден дляизучения. Те, кто опирался на самоанализ и размышление, пришли к выводам, неотвечающим уровню строгости физических наук. Экспериментаторы же нашли, чтомозг труден для наблюдения и ставит в тупик своей организацией. Короче говоря,мощные методы научного исследования, изменившие наш взгляд на физическуюреальность, оказались бессильными в понимании самого человека.

Нейробиологи и нейроанатомы достиглизначительного прогресса. Усердно изучая структуру и функции нервной системычеловека, они многое поняли в «электропроводке» мозга, но мало узнали о егофункционировании. В процессе накопления ими знаний выяснилось, что мозг имеетошеломляющую сложность. Сотни миллиардов нейронов, каждый из которых соединен ссотнями или тысячами других, образуют систему, далеко превосходящую наши самыесмелые мечты о суперкомпьютерах. Тем не менее мозг постепенно выдает своисекреты в процессе одного из самых напряженных и честолюбивых исследований вистории человечества.

Лучшее понимание функционирования нейрона икартины его связей позволило исследователям создать математические модели дляпроверки своих теорий. Эксперименты теперь могут проводиться на цифровыхкомпьютерах без привлечения человека или животных, что решает многиепрактические и морально-этические проблемы. В первых же работах выяснилось, чтоэти модели не только повторяют функции мозга, но и способны выполнять функции,имеющие свою собственную ценность. Поэтому возникли и остаются в настоящеевремя две взаимно обогащающие друг-друга цели нейронного моделирования: первая– понятьфункционирование нервной системы человека на уровне физиологии и психологии ивторая – создатьвычислительные системы (искусственные нейронные сети), выполняющие функции,сходные с функциями мозга. Именно эта последняя цель и находится в центревнимания этой книги.

Параллельно с прогрессом в нейроанатомии инейрофизиологии психологами были созданы модели человеческого обучения. Однойиз таких моделей, оказавшейся наиболее плодотворной, была модель Д. Хэбба,который в 1949г. предложил закон обучения, явившийся стартовой точкой дляалгоритмов обучения искусственных нейронных сетей. Дополненный сегоднямножеством других методов он продемонстрировал ученым того времени, как сетьнейронов может обучаться.

Pages:     || 2 | 3 | 4 | 5 |   ...   | 25 |



© 2011 www.dissers.ru - «Бесплатная электронная библиотека»

Материалы этого сайта размещены для ознакомления, все права принадлежат их авторам.
Если Вы не согласны с тем, что Ваш материал размещён на этом сайте, пожалуйста, напишите нам, мы в течении 1-2 рабочих дней удалим его.