РИД
№ 622011200386-3«Guardiann»
12.01.2022
«Guardiann» — инструмент для обучения устойчивых к атакам нейросетевых моделей классификации изображений.
Особенностями инструмента являются:
— поддержка моделей пользователя, реализованных с помощью фреймворка глубокого обучения PyTorch;
— реализация новейших (2020 год) методов быстрого и «бесплатного» состязательного обучения;
— использование набора продвинутых атак AutoAttack для тестирования устойчивости;
— визуализация метрик обучения в интерфейсе TensorBoard.
Инструмент «Guardiann» разработан ИСП РАН в рамках мероприятия «Исследование угроз, специфичных для технологий искусственного интеллекта» Программы центра ИИ «Разработка методов и технологий создания систем доверенного искусственного интеллекта» по направлению «Доверенный искусственный интеллект»
ГРНТИ
28.23.29 Программная реализация интеллектуальных систем
Ключевые слова
обучение нейросетевых моделей
устойчивость к атакам
нейросетевые модели классификации изображений
состязательное обучение
Детали
НИОКТР
Тип РИД
Программа для ЭВМ
Сферы применения
повышение устойчивости нейросетевых моделей классификации изображений к различным видам атак
Ожидается
Исполнитель
Исполнители
Федеральное государственное бюджетное учреждение науки Институт системного программирования им. В.П. Иванникова Российской академии наук
Заказчик
АВТОНОМНАЯ НЕКОММЕРЧЕСКАЯ ОРГАНИЗАЦИЯ "АНАЛИТИЧЕСКИЙ ЦЕНТР ПРИ ПРАВИТЕЛЬСТВЕ РОССИЙСКОЙ ФЕДЕРАЦИИ"
Похожие документы
Программа для анализа уязвимости нейросетевых моделей YOLO к атаке Fast Sign Gradient Method
0.820
РИД
Модуль противодействия состязательным атакам на модели искусственного интеллекта
0.819
РИД
Модуль защиты нейронных сетей от компьютерных backdoor-атак (PROTECA)
0.819
РИД
Программа состязательной защиты и случайного изменения обучающих выборок для вычислительных моделей интеллектуальной обработки знаний
0.816
РИД
«Инфраструктура доверенных фреймворков машинного обучения»
0.812
РИД
Интерактивная демонстрационная платформа для изучения принципов объяснимого ИИ через моделирование состязательных атак
0.810
РИД
Разработка и тестирование прототипа облачной платформы для IT-приложений на основе моделей машинного обучения
0.805
НИОКТР
Программный модуль детектирования состязательных атак в нейронных сетях для задач компьютерного зрения
0.802
РИД
Программа состязательной защиты и случайного изменения обучающих выборок для вычислительных моделей интеллектуальной обработки знаний
0.802
РИД
Программный инструмент автоматизированного тестирования безопасности моделей машинного обучения
0.802
РИД