Исследование гибридных и робастных математических методов и алгоритмов машинного обучения многослойных функциональных сетей

Объектом исследования являются методы и алгоритмы конструктивного машинного обучения, основанного на использовании градиентного бустинга, логического анализа данных, методах кластеризации, нейросетевых методов. Цель работы: разработка новых и переработка существующих алгоритмов машинного обучения многослойных функциональных (в том числе нейронных) сетей для повышения их устойчивости к существенным искажениям в исходных данных. В результате проведенных исследований была предложена новая схема для построения алгоритма градиентного бустинга с целью эффективного решения задач регрессии и классификации с использованием данных, содержащих выбросы. В качестве оценок среднего значения данный подход использует дифференцируемые усредняющие агрегирующие функции, являющиеся нечувствительными или малочувствительными к выбросам. Рассматриваемые функции применяются при построении робастного функционала эмпирического риска и дают хороший результат при нахождение искомой зависимости по данным содержащим до 40% выбросов. Для получения полного множества решений не найденных нейронной сетью, но присутствующих в структуре исследуемых данных, предлагается метод построение дискретной функции по результатам анализа весов и структуры нейронной сети, адекватно отражающей все логические закономерности в данных. Её реализация предложена в качестве логических нейронных сетей, выступающих корректорами для исходных нейронных решателей. Оптимизирована структура логического классификатора. Реализован алгоритм кластеризации данных, основанный на разбиении пространства признаков. Исследованы методы нейроуправления и методы оптимизации на основе роя частиц для задач управления техническими объектами.