Основы теории нейронных сетей

       

Упрощенная архитектура APT


На рис. 11.2 показана упрощенная конфигурация сети APT, представленная в виде пяти функциональных модулей. Она включает два слоя нейронов — так называемые "слой сравнения" и "слой распознавания". Приемник 1, Приемник 2 и Сброс обеспечивают управляющие функции, необходимые для обучения и классификации. Перед рассмотрением вопросов функционирования сети в целом необходимо рассмотреть отдельно назначения модулей; далее обсуждаются функции каждого из них.

Упрощенная архитектура APT

Рис. 11.2. 

Слой сравнения. Слой сравнения получает двоичный входной вектор

Упрощенная архитектура APT
и первоначально пропускает его неизмененным для формирования выходного вектора
Упрощенная архитектура APT
. На более поздней фазе в распознающем слое вырабатывается двоичный вектор
Упрощенная архитектура APT
, модифицирующий вектор
Упрощенная архитектура APT
, как описано ниже.

Каждый нейрон в слое сравнения (см. рис. 11.3) получает три двоичных входа (0 или 1): (1) компонента

Упрощенная архитектура APT
входного вектора
Упрощенная архитектура APT
; (2) сигнал обратной связи
Упрощенная архитектура APT
— взвешенная сумма выходов распознающего слоя; (3) вход от Приемника 1 (один и тот же сигнал подается на все нейроны этого слоя).

Упрощенная архитектура APT

Рис. 11.3. 

Чтобы получить на выходе нейрона единичное значение, как минимум два из трех его входов должны равняться единице; в противном случае его выход будет нулевым. Таким образом, реализуется правило двух третей. Первоначально выходной сигнал

Упрощенная архитектура APT
Приемника 1 установлен в единицу, обеспечивая один из входов, необходимых для возбуждения нейронов, а все компоненты вектора
Упрощенная архитектура APT
установлены в 0; следовательно, в этот момент вектор
Упрощенная архитектура APT
идентичен двоичному входному вектору
Упрощенная архитектура APT
.

Слой распознавания.

Слой распознавания осуществляет классификацию входных векторов. Каждый нейрон в слое распознавания имеет соответствующий вектор весов

Упрощенная архитектура APT
. Только один нейрон с весовым вектором, наиболее соответствующим входному вектору, возбуждается; все остальные заторможены.

Как показано на рис. 11.4, нейрон в распознающем слое имеет максимальную реакцию, если вектор

Упрощенная архитектура APT
, являющийся выходом слоя сравнения, соответствует набору его весов; следовательно, веса представляют запомненный образ или экземпляр для категории входных векторов.




Такие веса являются действительными числами, а не двоичными величинами. Двоичная версия этого образа также запоминается в соответствующем наборе весов слоя сравнения (рис. 11.3); этот набор состоит из весов связей, соединяющих определенные нейроны слоя распознавания, по одному весу на каждый нейрон слоя сравнения.

Упрощенная архитектура APT

Рис. 11.4. 

В процессе функционирования каждый нейрон слоя распознавания вычисляет свертку вектора собственных весов и входного вектора
Упрощенная архитектура APT
. Нейрон, веса которого наиболее близки вектору
Упрощенная архитектура APT
, будет иметь самый большой выход, тем самым выигрывая соревнование и одновременно затормаживая все остальные нейроны в слое. Как показано на рис. 11.5, нейроны внутри слоя распознавания взаимно соединены в латерально-тормозящую сеть. В простейшем случае (единственном, рассмотренном в данной работе) предусматривается, что только один нейрон в слое возбуждается в каждый момент времени (т. е. только нейрон с наивысшим уровнем активации будет иметь единичный выход; все остальные нейроны будут иметь нулевой выход). Эта конкуренция реализуется введением связей с отрицательными весами
Упрощенная архитектура APT


с выхода каждого нейрона
Упрощенная архитектура APT
на входы остальных нейронов. Таким образом, если нейрон имеет большой выход, он тормозит все остальные нейроны в слое. Кроме того, каждый нейрон имеет связь с положительным весом со своего выхода на свой вход. Если нейрон имеет единичный выходной уровень, эта обратная связь стремится усилить и поддержать его.

Приемник 2.
Упрощенная архитектура APT
, выход Приемника 2, равен единице, если входной вектор
Упрощенная архитектура APT
имеет хотя бы одну единичную компоненту. Более точно,
Упрощенная архитектура APT
является логическим ИЛИ от компонента вектора
Упрощенная архитектура APT
. Приемник 1. Как и сигнал
Упрощенная архитектура APT
, выходной сигнал
Упрощенная архитектура APT


Приемника 1 равен 1, если хотя бы одна компонента двоичного входного вектора
Упрощенная архитектура APT


равна единице; однако, если хотя бы одна компонента вектора
Упрощенная архитектура APT


равна единице,
Упрощенная архитектура APT
устанавливается в нуль. Таблица, определяющая эти соотношения:

ИЛИ от компонента вектора XИЛИ от компонента вектора RG1
000
101
110
010


Сброс. Модуль сброса измеряет сходство между векторами
Упрощенная архитектура APT
и
Упрощенная архитектура APT
. Если они отличаются сильнее, чем требует параметр сходства, вырабатывается сигнал сброса возбужденного нейрона в слое распознавания.

В процессе функционирования модуль сброса вычисляет сходство как отношение количества единиц в векторе
Упрощенная архитектура APT
к их количеству в векторе
Упрощенная архитектура APT
. Если это отношение ниже значения параметра сходства, вырабатывается сигнал сброса.


Содержание раздела