Совершенствование алгоритмов обучения сетей радиальных базисных функций для решения задач аппроксимации

Категория: физико-математические науки
Авторы (ПГУ): Горбаченко Владимир Иванович [100] , Алкезуини Мухи Муртада Мухи [0] 
Аннотация: Перспективным инструментом решения задач аппроксимации, в том числе задач бессеточной аппроксимации, являются сети радиальных базисных функций, которые представляют специальный вид нейронных сетей. Решение задачи формируется в процессе обучения сети. Но в настоящее время отсутствуют быстрые и достаточно простые алгоритмы обучения сетей радиальных базисных функций. Цель данного исследования - разработка и экспериментальное исследование новых быстрых алгоритмов обучения сетей радиальных базисных функций при решении задач аппроксимации. Материалы и методы. Реализация поставленных задач достигнута за счет использования для обучения сетей радиальных базисных функций современных ускоренных градиентных методов первого порядка и адаптации метода Левенберга - Марквардта. Результаты. Для обучения сетей радиальных базисных функций впервые разработаны алгоритмы на основе методов первого порядка: градиентный спуск с импульсом (импульсный метод), алгоритм ускоренного градиента Нестерова и RMSProp в сочетании с ускоренным градиентом Нестерова. Показаны преимущества последовательной настройки параметров в каждом итерационном цикле обучения сети. Разработана реализация метода Левенберга - Марквардта для обучения сетей радиальных базисных функций. Получены формулы для расчета параметров сетей при реализации алгоритмов. Даны рекомендации по выбору параметров обучения сетей. Показана связь между методом Левенберга - Марквардта и методом доверительных областей. Таким образом, алгоритмом Левенберга - Марквардта можно достичь тех же результатов, что и более сложным алгоритмом метода доверительных областей. Создан комплекс программ в системе MatLab, реализующий разработанные алгоритмы. Проведены экспериментальные исследования разработанных алгоритмов. Выводы. Для решения задач аппроксимации на сетях радиальных базисных функций можно рекомендовать адаптированный в работе алгоритм Левенберга - Марквардта. Если в алгоритме Левенберга - Марквардта возникают проблемы с плохой обусловленностью системы линейных алгебраических уравнений, то можно рекомендовать алгоритм ускоренного градиента Нестерова.
Тип: Статья
Вид: электронная копия бумажного издания
Количество частей: 1
Год издания: 2017
Издательство: Общество с ограниченной ответственностью "Центр анализа и развития кластерных систем" (Пенза)
Место опубликования: Журнал
Индексация: ВАК (или закрытый сборник научных работ)
Целевая аудитория: Исследователь, Преподаватель, Учащийся
Целевое назначение: Научное
Лицензия: Нет ограничений
Ограничения: Нет ограничений
Правообладатель: Общество с ограниченной ответственностью "Центр анализа и развития кластерных систем" (Пенза)
УДК: 004.032.26
Библиографическая ссылка: Алкезуини М. М., Горбаченко В. И. Совершенствование алгоритмов обуче-ния сетей радиальных базисных функций для решения задач аппроксимации // Модели, системы, сети в экономике, технике, природе и обществе. — 2017. — № 3 (23). — C.123–138.
Внешняя веб-ссылка: https://elibrary.ru/item.asp?id=30675076
Язык: Русский
Место хранения:Вне ПГУ
Дата загрузки ИР: 17.11.2018Владелец ИР: Горбаченко Владимир Иванович
Ссылка на ресурс: