Кодировка ассоциаций
Обычно сеть обучается распознаванию множества образов. Обучение производится с использованием обучающего набора, состоящего из пар векторов
![](../../../../img/tex/5/7/9/579ccfc016adc91d1f9de5b90cb9f24b.png)
![](../../../../img/tex/6/1/8/618a48ba286743cf6db5b9a0318c4d70.png)
![](../../../../img/tex/e/2/b/e2b9c5a14189069e362cfa5199a5a8cb.png)
Предположим, что все запомненные образы представляют собой двоичные векторы. Это ограничение будет выглядеть менее строгим, если вспомнить, что все содержимое Библиотеки Университета может быть закодировано в один очень длинный двоичный вектор. Показано, что более высокая производительность достигается при использовании биполярных векторов. При этом векторная компонента, большая чем 0, становится
![](../../../../img/tex/d/1/d/d1da40811ba5af961c454b307c6cfc2f.png)
![](../../../../img/tex/1/0/3/1037c52e28b1cefc100063ed0101df9d.png)
Предположим, что требуется обучить сеть с целью запоминания трех пар двоичных векторов, причем векторы
![](../../../../img/tex/a/3/c/a3c52966cfc18dcc553f41c4efa44c42.png)
![](../../../../img/tex/8/e/b/8eb30e2b9367857b8be226cee55de52d.png)
Исходный вектор | Ассоциированный вектор | Бинарная версия | |
![]() | ![]() | ![]() | ![]() |
![]() | ![]() | ![]() | ![]() |
![]() | ![]() | ![]() | ![]() |
Вычисляем весовую матрицу:
![](../../../../img/tex/2/d/e/2de40aa3cad96ba9ea018f7a386ca561.png)
![](../../../../img/tex/f/0/2/f02295e285d4243417da443ebe432d2f.png)
Далее, прикладывая входной вектор
![](../../../../img/tex/3/9/3/3938bc2cd140dc44435438c7d9f3679b.png)
![](../../../../img/tex/0/9/6/09688a10a38e089656daaf7388859341.png)
![](../../../../img/tex/0/7/a/07a7c3db0e0132308489878c59f0eff1.png)
Используя пороговое правило,
![](../../../../img/tex/a/6/4/a64ec4c645dfe78d1d3e32961b56ba49.png)
![](../../../../img/tex/7/6/6/76646a586d356783f72b9ff43badbbdc.png)
![](../../../../img/tex/c/1/b/c1bf8d4afb3336f4f61d573a1b373c16.png)
![](../../../../img/tex/3/8/7/38751d5ff7af3ce2ee0858c58b535693.png)
![](../../../../img/tex/e/3/b/e3b8abfeb4282e1355f75d5fb027afe5.png)
![](../../../../img/tex/1/c/c/1cc47a725329c0b578d5ed913b89b837.png)
вычисляем
![](../../../../img/tex/6/c/c/6cc950b9e36d446b6ee005d8d6e305f9.png)
что является требуемой ассоциацией. Затем, подавая вектор
![](../../../../img/tex/2/f/4/2f41b32352840271802cac4423d71618.png)
через обратную связь на вход первого слоя к
![](../../../../img/tex/f/b/c/fbc8e1c1b009757b8e3cf61220e2b01d.png)
![](../../../../img/tex/f/2/4/f2467c2b6ef96b2501cac85a203c6190.png)
что дает значение
![](../../../../img/tex/4/3/b/43b0c5c22c6fb8250465bd8868811c15.png)
![](../../../../img/tex/e/5/2/e52372adc603dc9f5a58e8d96e5816da.png)
Этот пример показывает, как входной вектор
![](../../../../img/tex/5/7/9/579ccfc016adc91d1f9de5b90cb9f24b.png)
![](../../../../img/tex/b/0/7/b07e53e2778fbfd087e9fe13f44cbb02.png)
![](../../../../img/tex/6/1/8/618a48ba286743cf6db5b9a0318c4d70.png)
![](../../../../img/tex/6/1/8/618a48ba286743cf6db5b9a0318c4d70.png)
с использованием матрицы
![](../../../../img/tex/f/b/c/fbc8e1c1b009757b8e3cf61220e2b01d.png)
![](../../../../img/tex/5/7/9/579ccfc016adc91d1f9de5b90cb9f24b.png)
ДАП обладает способностью к обобщению. Например, если незавершенный или частично искаженный вектор подается в качестве
![](../../../../img/tex/5/7/9/579ccfc016adc91d1f9de5b90cb9f24b.png)
![](../../../../img/tex/6/1/8/618a48ba286743cf6db5b9a0318c4d70.png)
![](../../../../img/tex/5/7/9/579ccfc016adc91d1f9de5b90cb9f24b.png)
Системы с обратной связью могут иметь тенденцию к колебаниям; это означает, что они могут переходить от состояния к состоянию, никогда не достигая стабильности. Доказано, что все ДАП безусловно стабильны при любых значениях весов сети. Это важное свойство возникает из отношения транспонирования между двумя весовыми матрицами и означает, что любой набор ассоциаций может быть использован без риска возникновения нестабильности.
Существует взаимосвязь между ДАП и рассмотренными на предыдущих лекциях сетями Хопфилда. Если весовая матрица
![](../../../../img/tex/b/0/7/b07e53e2778fbfd087e9fe13f44cbb02.png)
является квадратной и симметричной, то
![](../../../../img/tex/6/4/e/64e2b15d37456a17ea489415210c2941.png)