Структура ДАП

На рис. 10.1 приведена базовая конфигурация ДАП. Она выбрана таким образом, чтобы подчеркнуть сходство с сетями Хопфилда и предусмотреть увеличения количества слоев. На рис. 10.1 входной вектор

$Структура ДАП$

обрабатывается матрицей весов

$Структура ДАП$

сети, в результате чего вырабатывается вектор выходных сигналов нейронов

$Структура ДАП$

. Вектор

$Структура ДАП$

затем обрабатывается транспонированной матрицей

$Структура ДАП$

весов сети, которая вырабатывает новые выходные сигналы, представляющие собой новый входной вектор

$Структура ДАП$

. Процесс повторяется до тех пор, пока сеть не достигнет стабильного состояния, в котором ни вектор

$Структура ДАП$

, ни вектор

$Структура ДАП$

не изменяются. Заметим, что нейроны в слоях 1 и 2 функционируют, как и в других парадигмах, вычисляя сумму взвешенных входов и вычисляя по ней значение функции активации

$Структура ДАП$

. Этот процесс может быть выражен следующим образом:

$Структура ДАП$

или в векторной форме:

$Структура ДАП$

где

$Структура ДАП$

— вектор выходных сигналов нейронов слоя 2,

$Структура ДАП$

— вектор выходных сигналов нейронов слоя 1,

$Структура ДАП$

— матрица весов связей между слоями 1 и 2,

$Структура ДАП$

— функция активации.

Рис. 10.1.

Аналогично,

$Структура ДАП$

где

$Структура ДАП$

является транспозицией матрицы

$Структура ДАП$

Как отмечено нами ранее, Гроссберг показал преимущества использования сигмоидальной (логистической) функции активации

$Структура ДАП$

где

$Структура ДАП$

— выход нейрона

$Структура ДАП$

— взвешенная сумма входных сигналов нейрона

$Структура ДАП$

— константа, определяющая степень кривизны.

В простейших версиях ДАП значение константы

$Структура ДАП$

выбирается большим, в результате чего функция активации приближается к простой пороговой функции. В дальнейшем будем предполагать, что используется пороговая функция активации.

Примем также, что существует память внутри каждого нейрона в слоях 1 и 2 и что выходные сигналы нейронов изменяются одновременно с каждым тактом синхронизации, оставаясь постоянными в паузах между этими тактами. Таким образом, поведение нейронов может быть описано следующими правилами:

$Структура ДАП$

где

$Структура ДАП$

представляет собой величину выходного сигнала нейрона

$Структура ДАП$

в момент времени

$Структура ДАП$

Заметим, что, как и в описанных ранее сетях, слой 0 не производит вычислений и не имеет памяти; он является только средством распределения выходных сигналов слоя 2 к элементам матрицы

$Структура ДАП$

Содержание раздела

Главная сайта