СИСТЕМА МАШИННОГО ОБУЧЕНИЯ С ОБЕСПЕЧЕНИЕМ ИНТЕРПРЕТИРУЕМОСТИ, ОСНОВАННАЯ НА ОПТИМАЛЬНЫХ АНСАМБЛЯХ С РАЗЛИЧНОЙ АРХИТЕКТУРОЙ

Объектом исследования являлись методы машинного обучения. Цель работы заключалась в совершенствование ансамблевых методов для обеспечения точности и прозрачности прогнозирования в различных областях науки (медицине, химии, материаловедении и т.д.). При реализации проекта наряду со стандартными методами статистического анализа, машинного обучения и интеллектуального анализа данных при работе над проектом использовались оригинальные авторские разработки. Математическими результатами проекта являются создание новых методов поиска полностью верифицированных закономерностей; разработка новых подходов к построению многомерных аналогов преобразования Хафа и вейвлет-преобразования в задачах обнаружения параметрических закономерностей в прикладных данных; создание нового ансамблевого регрессионного метода. При этом под полностью верифицированной закономерностью (ПВЗ) понимается статистическая модель, связывающая целевую переменную с комбинациями объясняющих факторов, все элементы которой являются статистически значимыми. Для оценки статистической значимости использовались перестановочные тесты в сочетании с принципом бритвы Оккама. Была разработана модификация метода, в которой использовались статистики критерия, являющиеся функцией p-значений, вычисляемых с помощью стандартных параметрических критериев. Проведение поиска всевозможных ПВЗ позволяет частично решить проблему достижения прозрачности и интерпретируемости машинного обучения. Разработанный метод поиска ПВЗ был использован при решении задачи прогнозирования результатов лечения шизофрении по результатам теста «Тромбодинамика», а также при решении других биомедицинских задач. Разработан новый ансамблевый регрессионный метод, основанный на новом способе генерации регрессионных деревьев, нацеленном не только на достижении наилучшей аппроксимации зависимости целевой переменной от признаков, но и на достижение максимальной расходимости прогнозов. Причиной использования такого способа генерации является структура ошибки произвольной выпуклой комбинации прогностических алгоритма. Такая ошибка включает выпуклую комбинацию ошибок отдельных алгоритмов комбинации, из которой вычитается дисперсия прогнозов. Разработанный метод был использован для решения задач прогнозирования свойств неорганических соединений. Эксперименты показали, что эффективность разработанного метода превосходит одновременно эффективность случайного регрессионного леса и градиентного бустинга, которые в настоящее время считаются наиболее эффективными инструментами прогнозирования.