Основы теории нейронных сетей


         

Как объяснялось ранее, веса возбуждающих


Таким образом,



где
,
— возбуждающий вес
.

Процедура обучения.

Как объяснялось ранее, веса возбуждающих нейронов изменяются только тогда, когда нейрон возбужден сильнее, чем любой из узлов в области конкуренции. Если это так, изменение в процессе обучения любого из его весов может быть определено следующим образом:



где
— тормозящий вес связи нейрона
в слое 1 с тормозящим нейроном
,
— выход нейрона
в слое 1,
— возбуждающий вес
,
— нормирующий коэффициент обучения.

Изменение тормозящих весов нейрона
в слое 2 пропорционально отношению взвешенной суммы возбуждающих входов к удвоенному тормозящему входу. Вычисления проводятся по формуле



Когда возбужденных нейронов в области конкуренции нет, для изменения весов используются другие выражения. Это необходимо, поскольку процесс обучения начинается с нулевыми значениями весов; поэтому первоначально нет возбужденных нейронов ни в одной области конкуренции, и обучение производиться не может. Во всех случаях, когда победителя в области конкуренции нейронов нет, изменение весов нейронов вычисляется следующим образом:



где
— положительный обучающий коэффициент, меньший, чем
.

Приведенная стратегия настройки гарантирует, что узлы с большой реакцией заставляют возбуждающие синапсы, которыми они управляют, увеличиваться сильнее, чем тормозящие синапсы. Верна и обратная зависимость: узлы, имеющие малую реакцию, вызывают малое возрастание возбуждающих синапсов, но большее возрастание тормозящих синапсов. Таким образом, если узел 1 в слое 1 имеет больший выход, синапс


возрастет больше, чем синапс
. И наоборот, узлы, имеющие малый выход, обеспечат малую величину для приращения
. Однако другие узлы в области связи будут возбуждаться, тем самым увеличивая сигнал INHIB и значения
.

В процессе обучения веса каждого узла в слое 2 настраиваются таким образом, что вместе они составляют шаблон, соответствующий образам, которые часто предъявляются в процессе обучения. При предъявлении сходного образа шаблон соответствует ему и узел вырабатывает большой выходной сигнал.


Содержание  Назад  Вперед