«Инфраструктура доверенных фреймворков машинного обучения»

14.01.2023

Программа позволяет проводить статический анализ кода фреймворков машинного обучения (TensorFlow и PyTorch) с помощью инструмента Svace. Разметка предупреждений осуществляется в веб-интерфейсе Svacer. Код фреймворков с исправлениями хранится в зеркале. Также поддерживается динамический анализ фреймворков с использованием инструментов Sydr-fuzz и Casr. Артефакты динамического анализа сохраняются в веб-интерфейсе. Инфраструктура предоставляет доверенные фреймворки TensorFlow и PyTorch. Программа разработана ИСП РАН в рамках мероприятия «Создание доверенных, с точки зрения безопасности исходного кода, версий выбранных открытых фреймворков с интеграцией предложенных исправлений в соответствии с ТЗ» Программы центра ИИ «Разработка методов и технологий создания систем доверенного искусственного интеллекта» по направлению доверенный искусственный интеллект.

ГРНТИ

50.41.17 Системное программное обеспечение

Ключевые слова

доверенный фреймворк

статический анализ

динамический анализ

TensorFlow

PyTorch

Детали

НИОКТР

№ 121121500186-8

Тип РИД

Программа для ЭВМ

Сферы применения

Программа будет использоваться для поиска программных ошибок в фреймворках доверенного искусственного интеллекта. Обнаружение и исправление ошибок позволит повысит доверие к технологиям искусственного интеллекта и ускорить внедрение.

Ожидается

Исполнитель

Исполнители

Федеральное государственное бюджетное учреждение науки Институт системного программирования им. В.П. Иванникова Российской академии наук

Заказчик

АВТОНОМНАЯ НЕКОММЕРЧЕСКАЯ ОРГАНИЗАЦИЯ "АНАЛИТИЧЕСКИЙ ЦЕНТР ПРИ ПРАВИТЕЛЬСТВЕ РОССИЙСКОЙ ФЕДЕРАЦИИ"

Похожие документы

«Разработка методов и технологий создания систем доверенного искусственного интеллекта» (Программа Центра «Исследовательский центр доверенного искусственного интеллекта» ИСП РАН)

0.863

НИОКТР

Модуль защиты нейронных сетей от компьютерных backdoor-атак (PROTECA)

0.852