Разработка системы кибербезопасности доверенных моделей машинного обучения в среде с многократным биометрическим предъявлением

Искусственный интеллект (ИИ) в настоящее время завоевал фактически все сферы человеческой деятельности от технологической до социальной и претендует в будущем на роль самого лучшего помощника и друга. Статистика подтверждает не только увеличение сфер применения ИИ, но количество преступлений совершенных с помощью ИИ. На сайте https://www.tadviser.ru приведены результаты исследования, отражающие число судебных разбирательств вокруг использования ИИ в России: за год количество преступлений выросло на 60%. Другая сторона вопроса затрагивает степень доверия к системам искусственного интеллекта, их результатам, этике его использования и достоверности используемых данных и моделей машинного обучения. С 2020 по 2024 гг. проведена большая работа в сфере стандартизации систем искусственного интеллекта в различных областях. Большинство стандартов отражают качественные и отчасти количественные характеристики, отражающие эффективность использования систем использования ИИ. Особенно стоит отметить в настоящее время фактическое отсутствие описания вопросов компрометации ИИ, отравления данных, состязательных атак, а вследствие чего и освещение вопросов оценки кибербезопасности систем ИИ и объектов на которых они используются. Поэтому возникает необходимость разработки функциональных показателей оценки доверия ИИ с точки зрения кибербезопасности. Кроме того Правительством РФ утверждена Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники, где определено «Приоритетной целью регулирования отношений в сфере искусственного интеллекта и робототехники на данном этапе их развития является стимулирование разработки, внедрения и использования таких технологий, создания систем искусственного интеллекта и робототехники в доверенном и безопасном исполнении, которое будет способствовать достижению высоких темпов экономического роста, повышению благосостояния и качества жизни граждан, обеспечению национальной безопасности и правопорядка, достижению устойчивой конкурентоспособности российской экономики, в том числе лидирующих позиций в мире в области искусственного интеллекта». Все вышеперечисленное определяет актуальность решения следующих задач: - обеспечение безопасности алгоритмов искусственного интеллекта; - верификации данных, используемых системами искусственного интеллекта; - мониторинг действий скомпрометированных систем искусственного интеллекта; - оценка последствий применения отравленных систем ИИ. Решение этих задач возможно созданием мультиагентной систем оценки моделей и алгоритмов ИИ, функционирующей на основе экспертных моделей и моделей машинного обучения кибербезопасности искусственного интеллекта. Основная цель такой системы создание комплекса моделей ИИ, обеспечивающих требуемый уровень доверия к системам ИИ на основе существенных характеристик безопасности (согласно ГОСТ Р 59276— 2020). Научная новизна исследования представляет собой комплекс следующих положений: - создание методики оценки безопасности систем ИИ на основе разработанных функциональных показателей кибербезопасности для систем с биометрическим предъявлением; - разработка алгоритмов и принципов функционирования информационной системы оценки доверия к системам ИИ на основе распределенной интеллектуальной мультиагентной системы, к которой каждый агент представляет собой некоторую функциональную характеристику; - апробация системы на основе реальных ситуаций на примере атак на модели машинного обучения с многократным биометрическим предъявлением.