Вернуться на страницу <Model Vision Studium>
В начало

Модели нейронных сетей. Персептрон Розенблата.

• Простой метод.
• Метод обучения Уидроу-Хоффа.

1. Простой метод.

Персептрон является двухуровневой, нерекуррентной сетью, вид которой показан на рис. ниже. Она использует алгоритм обучения с учителем; другими словами, обучающая выборка состоит из множества входных векторов, для каждого из которых указан свой требуемый вектор цели. Компоненты входного вектора представлены непрерывным диапазоном значений; компоненты вектора цели являются двоичными величинами (0 или 1). После обучения сеть получает на входе набор непрерывных входов и вырабатывает требуемый выход в виде вектора с бинарными компонентами.

(Однослойная нейронная сеть)

 Обучение осуществляется следующим образом:

Рандомизируются все веса сети в малые величины.

На вход сети подается входной обучающий вектор Х и вычисляется сигнал NET от каждого нейрона, используя стандартное выражение

.

Вычисляется значение пороговой функции активации для сигнала NET от каждого нейрона следующим образом:

OUT_j = 1, если NET_j больше чем порог θ_j,

OUT_j = 0 в противном случае.

Здесь θ_j представляет собой порог, соответствующий нейрону j (в простейшем случае, все нейроны имеют один и тот же порог).

Вычисляется ошибка для каждого нейрона посредством вычитания полученного выхода из требуемого выхода:

error_j = target_j – OUT_j.

Каждый вес модифицируется следующим образом:

W_ij(t+1) = w_ij(t) +a x_ierror_j.

Повторяются шаги со второго по пятый до тех пор, пока ошибка не станет достаточно малой.

2. Метод обучения Уидроу-Хоффа.

Как мы видели, персептрон ограничивается бинарными выходами. Уидроу вместе со студентом университета Хоффом расширили алгоритм обучения персептрона на случай непрерывных выходов, используя сигмоидальную функцию. Кроме того, они разработали математическое доказательство того, что сеть при определенных условиях будет сходиться к любой функции, которую она может представить. Их первая модель – Адалин – имеет один выходной нейрон, более поздняя модель – Мадалин – расширяет ее на случай с многими выходными нейронами.

Выражения, описывающие процесс обучения Адалина, очень схожи с персептронными. Существенные отличия имеются в четвертом шаге, где используются непрерывные сигналы NET вместо бинарных OUT. Модифицированный шаг 4 в этом случае реализуется следующим образом:

4. Вычисляется ошибка для каждого нейрона посредством вычитания полученного выхода из требуемого выхода:

error_j = target_j – NET_j.

В начало
Вернуться на страницу <Model Vision Studium>