«Разработка и тестирование прототипа сервиса автоматического анализа и модерации профилей пользователей с использованием искусственного интеллекта» (договор №4740ГС1/79602 от 11.10.2022) (заключительный)

Отчет 70 с., 1 кн., 16 рис., 3 таб. АВТОМАТИЧЕСКАЯ МОДЕРАЦИЯ ПОЛЬЗОВАТЕЛЕЙ, АВТОМАТИЧЕСКАЯ МОДЕРАЦИЯ ПОЛЬЗОВАТЕЛЕЙ, ВЕБСЕРВИС, SAAS, АНАЛИЗ ПРОФИЛЯ ПОЛЬЗОВАТЕЛЯ, ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ, КОМПЬЮТЕРНОЕ ЗРЕНИЕ, ОБРАБОТКА ЕСТЕСТВЕННОГО ЯЗЫКА, AI, CV, NLP Цель НИОКР: Разработать и протестировать прототип сервиса автоматического анализа и модерации профилей пользователей с использованием искусственного интеллекта. Задачи этапа НИОКР: 1. Исследование существующих алгоритмов машинного зрения для распознавания объектов на изображениях. 2. Разработка модели нейронной сети для определения наличия людей и лиц людей на изображениях. 3. Подготовка набора данных для обучения модели нейронной сети для анализа изображений. 4. Обучение нейронной сети для анализа изображений. 5. Тестирование нейронной сети для анализа изображений. 6. Разработка и тестирование веб-сервиса для модерации изображений через REST API 7. Исследование существующих алгоритмов обработки естественного языка. 8. Разработка модели нейронной сети для обработки естественного языка. 9. Подготовка набора данных для обучения модели нейронной сети для обработки естественного языка. 10. Обучение нейронной сети для обработки естественного языка. 11. Тестирование нейронной сети для обработки естественного языка. 12. Доработка веб-сервиса для работы с моделью нейронной сети для обработки естественного языка через REST API. В ходе выполнения НИОКР был разработан веб-сервис, позволяющий выполнять автоматический анализ и модерацию профилей пользователей с использованием искусственного интеллекта. Разработанный сервис позволяет обрабатывать загружаемые изображения анализировать введенный текст на русском языке и обеспечивает выполнение следующих функций: - Прием данных профиля для анализа - через REST API сервиса; - Анализ следующих типов пользовательских данных: 1) Изображения (аватар пользователя); 2) ФИО; 3) Дата рождения; 4) Пол; 5) Страна и город; 6) Место работы и должность; 7) Текстовое описание пользователя о себе. 8) Дополнительная текстовая информация (проверка внесенной пользователем информации на наличии в ней запрещенных паттернов (нецензурная лексика, оскорбления)); 9) Дополнительная графическая информация (проверка дополнительных фотографий, загружаемых пользователем, на наличие откровенного или запрещенного контента). Данные параметры достигаются проверкой, с помощью искусственного интеллекта, вводимой и загруженной информации по следующим критериям: 1) Проверка изображения пользователя на наличие человека на изображении; 2) Проверка изображения пользователя на наличие лица на изображении; 3) Проверка текстовых данных на корректность заполнения и наличия смысла; 4) Проверка текстовых данных на отсутствие нецензурных и оскорбительных выражений. После анализа данных искусственным интеллектом пользователь получает сообщение об успешной регистрации или отказа регистрации. Сервис позволяет обрабатывать не менее 10 запросов одновременно и ожидание одного запроса не превышает 30 секунд. Разработанный сервис предназначен и может быть использован для автоматической проверки и модерации профилей пользователей социальных сетей, сайтов знакомств и прочих сервисов и систем, в которых пользователям необходимо зарегистрироваться и заполнять свой профиль. Актуальность разработанному сервису придает быстрый рост социального трафика и популярности социальных платформ, который привел к появлению фальшивых профилей и профилей, не соответствующих требованиям платформ/сервисов, которые представляют значительный риск для безопасности пользователей и дискредитации самой системы. Такие профили могут использоваться для массовых спам-рассылок, серого маркетинга, фрод-систем, разжиганию межнациональной ненависти и других серых и черных схемах. Кроме того, фальшивые профили могут создавать недоверие к самой социальной сети и уменьшать ее привлекательность для пользователей. Ручная модерация профилей занимает много времени и требует человеческого труда, а на определенных этапах развития и вовсе может оказаться невыполнимой для социальной сети или другого сервиса. В связи с этим разработанный сервис по автоматической модерации пользователей может частично решить данную проблему. Однако для конкуренции с мировыми аналогами (Sift Science, Google Perspective API, Microsoft Content Moderator, Jigsaw, Visier) необходимо расширять возможности сервиса по виду обрабатываемой информации, включив дополнительно обработку аудио и видеоконтента, расширить возможности по классам определяемой информации, обучения сервиса воспринимать текстовую информацию не только на русском, но и на других языках. Кроме того, сервис еще не прошел обкатку при реальной нагрузке, что может выявить новые методы обхода защиты, предлагаемой системы. Связи с этим планируется дальнейшая подача на программу «Старт 2» Фонда содействия развитию малых форм предприятий в научно-технической сфере (Фонд содействия инновациям), что позволит доработать проект для его дальнейшей массовой коммерциализации. По итогу выполнения НИОКР было зарегистрировано 1 РИД: - программа для ЭВМ, Сервис модерации контента "NeuroModerator" регистрационный № 2023669292 от 13.09.2023. Все поставленные задачи в рамках данного НИОКР были успешно выполнены в срок и в полном объеме.