Купить Matlab  |  Mathematica  |  Mathcad  |  Maple  |  Statistica  |  Другие пакеты Поиск по сайту
Internet-класс  |  Примеры  |  Методики  |  Форум  |  Download
https://hub.exponenta.ru/


 
Моделирование процессов обучения в нейронных сетях
выполнил: студент В.Борисов
Санкт-Петербургский Государственный Технический Университет
Кафедра распределенных вычислений и компьютерных сетей
Санкт-Петербург
2001

Вернуться на страницу <Model Vision Studium>
В начало

Моделирование процесса обучения (метод Уидроу – Хоффа).

В данном параграфе рассматривается расширение простого метода обучения однослойного персептрона. Отличие состоит в том, что на выходе мы можем получить любой вещественный вектор, а не двоичный, как в предыдущем случае. В данном случае, требуемый выход задается с наперед заданной точностью. Интерес, опять же представляет время обучения. Ниже представлена структурная схема.

Ввиду похожести схемы мы опишем только отличия ее от предыдущей. Во-первых, вход не подается на блок, формирующий весовые коэффициенты (s – слой). Это связано с той абстракцией, о которой мы говорили – дифференциальные уравнения могут с успехом работать и без знания входов. В остальном s – слой работает также. A – слой работает абсолютно также за исключением того, что в качестве активационной функции взята сигмоидальная функция. Основной интерес здесь представляет появившийся R – слой. Он масштабирует выходной сигнал сети до заданных значений в зависимости от ошибки. Дело в том, что как бы мы не изменяли весовые коэффициенты, выход A –слоя не может быть иным, кроме как из промежутка (0,1). А мы задались целью выдавать абсолютно любой выход. С этой целью в R – блоке введены свои коэффициенты и свои состояния, которые изменяются в зависимости от ошибки и от выхода слоя A. Интерес представляет тот случай, когда все весовые коэффициенты R – слоя положительны, а выход требуется получить отрицательным. Ясно, что в таком случае дифференциальными уравнениями мы можем добиться лишь "0" выхода (одно из неудобств). Требуется поменять знак выхода R – блока. Для этого вводится порог выхода A – блока (в нашем случае – 0,001), как только выход A – блока становится меньше, то система запрашивает пользователя о продолжении эксперимента (дело в том, что возможно пользователь и хотел получить "0" выход). Если эксперимент продолжается, то блок переходит в другое состояние, меняет знак выходного сигнала и в дальнейшем достигает необходимого выхода. Ниже представлена управляющая структура R – блока.

Здесь r – масштабирующие коэффициенты R – слоя, out1 – выход A – слоя, Out1 – выход сети.

Моделирование производилось на различных входных и выходных векторах. Ниже представлен случай, охватывающий большинство интересных ситуаций.

Ступеньки в графиках 2,4,5 связаны как раз с ожиданием системы того, момента, когда выход A – слоя перешагнет пороговое значение.

В начало
Вернуться на страницу <Model Vision Studium>

| На первую страницу | Поиск | Купить Matlab

Исправляем ошибки: Нашли опечатку? Выделите ее мышкой и нажмите Ctrl+Enter


Copyright © 1993-2024. Компания Softline. Все права защищены.

Дата последнего обновления информации на сайте: 04.03.17
Сайт начал работу 01.09.00