Разработка методов поиска уязвимостей интерфейсов взаимодействия человека с искусственным интеллектом транспортной среды «умного города»

В последние годы наблюдается значительный рост количества транспортных средств в городах как в России, так и за рубежом и при этом в мире ведется большое количество исследований в области беспилотных транспортных средств. Так, в настоящее время в мировом сообществе ведутся активные исследования по таким тематиками как: умный город, большие данные, машинное обучение, интеллектуальные транспортные системы. Данные исследования позволяют выделить новый класс методов, ориентированных на поиск уязвимостей интерфейсов взаимодействия человека с искусственным интеллектом в транспортной среде умного города. Именно этим методам и посвящен данный проект. При этом под человеком в рамках проекта понимается пользователь, который принимает непосредственное участие в операционной деятельности (например, водитель такси) и оператор, который осуществляет мониторинг за состоянием пользователя и искусственного интеллекта (например, оператор автопарка таксомоторной компании, целью которого является мониторинг за состоянием водителей такси для соблюдения режима работы и отдыха). Таким образом в рамках проекта различается взаимодействие пользователя с искусственным интеллектом и взаимодействие оператора с искусственным интеллектом. В рамках проекта предполагается разработать комплекс моделей и методов, ориентированных на поиск уязвимостей при таком взаимодействии. Предполагается, что устранение этих уязвимостей позволит снизить риски, связанные с финансовыми потерями, потерями времени, а также здоровья людей.