Целочисленность весов персептронов
Для ответа на вопрос о количественных характеристиках вектора w рассмотрим следующую теорему.
Теорема. Любой персептрон можно заменить другим персептроном того же вида с целыми весами связей.
Доказательство.Обозначим множество примеров одного класса (правильный ответ равен 0) через
![](../../../../img/tex/f/f/4/ff47e7fec24084cfd10481615e2518c5.png)
![](../../../../img/tex/3/9/c/39c4b5a898cdcd85dec487c9700f8500.png)
![](../../../../img/tex/2/1/f/21f9dbbb8e166ad4637a63aae8df1fcb.png)
Определим допуск
![](../../../../img/tex/b/a/7/ba7a6d2b4e41fa8ab810b70a43d6652a.png)
![](../../../../img/tex/8/3/2/83272dcf2353e85043a7e5b25ef8d486.png)
![](../../../../img/tex/b/5/9/b595d94209a24b91de72f27599110876.png)
![](../../../../img/tex/0/9/7/097e3112ae41983daa5b8fb582215f44.png)
![](../../../../img/tex/4/5/e/45e0a56d6836f59bc5c6a7f8b3a8272e.png)
![](../../../../img/tex/6/3/4/6340ec0d87e406c7c38e90704096a1a8.png)
![](../../../../img/tex/4/9/1/491401232ee4306ff86ad6e61afaf250.png)
![](../../../../img/tex/b/d/9/bd9e4e4bf4a22e057c1c45a1fa5ab831.png)
Из этих неравенств следует, что при использовании весов
![](../../../../img/tex/a/a/5/aa59c38d3c0a2f5702eb20cdb2bdc9ce.png)
персептрон будет работать с теми же результатами, что и первоначальный персептрон. Действительно, если правильным ответом примера является 0, имеем
![](../../../../img/tex/1/0/f/10f63a81feb59f23c1a93f5deb4bf2b3.png)
Подставив новые веса, получим:
![](../../../../img/tex/c/7/6/c76ad468b4b687747c675a5aa2738581.png)
Откуда следует необходимое неравенство
![]() |
(2) |
Аналогично, в случае правильного ответа равного 1, имеем
![](../../../../img/tex/4/6/2/462406a3860d419a048d54d01bb99745.png)
![](../../../../img/tex/a/2/c/a2c48fd83c454b56cb0fb3649c25e024.png)
Отсюда следует выполнение неравенства
![]() |
(3) |
Неравенства (2) и (3) доказывают возможность замены всех весов и порога любого персептрона рациональными числами. Очевидно также, что при умножении всех весов и порога на одно и то же ненулевое число персептрон не изменится. Поскольку любое рациональное число можно представить в виде отношения целого числа к натуральному числу, получим
![]() |
(4) |
где
![](../../../../img/tex/3/4/e/34e336756301607b59b1e7197681695a.png)
![](../../../../img/tex/6/1/7/61746ec236f295c3ee62bd4c465e0d74.png)
произведение всех знаменателей:
![](../../../../img/tex/2/d/f/2dfb99f04b89db2b4058d53a42452b86.png)
![](../../../../img/tex/6/1/7/61746ec236f295c3ee62bd4c465e0d74.png)
![](../../../../img/tex/c/e/0/ce06bbcfcfdd03d683d2d54997f15989.png)
![](../../../../img/tex/8/7/6/876efdb6faf3edd3d060395a6230e05f.png)
что и завершает доказательство теоремы.
Поскольку из доказанной теоремы следует, что веса персептрона являются целыми числами, то вопрос о выборе шага при применении правил обучения решается просто: веса и порог следует увеличивать (уменьшать) на единицу.