Лаборатория надежного, адаптивного и доверительного Искусственного Интеллекта

Глобальной целью проекта является разработка целостного и комплексного подхода к проблеме надежного, адаптивного и доверительного искусственного интеллекта (ИИ) и созданию соответствующей теории, методов, алгоритмов, а также практических приложений основанных на разработанной строгой теории. Практическое апробирование новой теории, технологии, методов и алгоритмов, планируется на основе работы с нашими индустриальными партнерами а также в рамках софинансирования проекта (AIRI). Иными словами, разработка новых практических инструментов создания технически-доверительного надежного и безопасного ИИ является неотъемлемой частью предлагаемого проекта. Успешная реализация проекта создаст условия для широкого практического применения систем ИИ в таких критически важных и общественно-значимых сферах, как медицина, здравоохранение, право и безопасность. Важность и актуальность создания теории, методов и практики разработки надежных, адаптивных и достоверных систем ИИ обуславливается тем, что многие современные технологии и системы ИИ, включая нейроморфные технологии, имеют серьезные недостатки. К последним относятся: 1. Ненадежность, обусловленная нестабильностью ИИ, то есть, чувствительностью решений и предсказаний ИИ к малым возмущениям данных или модели 2. Неконтролируемые ошибки (неизбежно появляющиеся из-за статистической природы и неопределенности данных, неконтролируемого изменения среды и проч.), что требует решения проблемы гарантированного и эффективного устранения выявленных ошибок, без масштабных и дорогостоящих перенастроек 3. Отсутствие прозрачности (объяснимости) результатов и, как следствие, неизбежная склонность системы к «галлюцинациям» (т.е. ложным представлениям) и непредсказуемости 4. Непрактичность, а в некоторых случаях, и отсутствие гарантий точности и достоверности предсказаний ИИ при решении научных и технических задач, таких как моделирование сложных физических и социо-экономических процессов, в которых интересующие нас явления происходят одновременно в широком диапазоне пространственных и временных масштабов. Это создает значительные препятствия для расширения использования ИИ в важных социально-значимых областях, включая промышленность и науку, государственное управление, правоохранительные органы, здравоохранение. Неконтролируемые и необъяснимые ошибки и неустойчивость могут иметь значительные негативные юридические (например, автоматические решения, не поддающиеся объяснению) или угрожающие здоровью (такие как ложный диагноз) последствия. В связи с этим, первостепенное значение приобретает задача обеспечения технической доверительности и надежности ИИ и его функционирования в соответствии с замыслом разработчика. В дополнение, сегодняшняя геополитическая ситуация вызывает настоятельную необходимость в разработке отечественных программно-аппаратных средств, способных обеспечивать не только высокую производительность и функциональность, но и быть надежно защищенной доверенной системой. Это особенно важно при использовании аппаратного и программного обеспечения на стратегических промышленных объектах а также, в соответствующих системах управления и автоматизации, где недопустима малейшая утечка информации и неконтролируемые сбои. Для ответа на эти фундаментальные и практические вызовы требуется новое видение, теория и практика, позволяющие рассматривать проблему надежности и доверительности ИИ во всем ее многообразии (т.е. холистически) и в комплексе. Ответ на поставленные фундаментальные вопросы, как положительный, так и отрицательный, позволит выработать подходы и приблизить решение 18-й проблемы Смейла из списка математических проблем 21-го века о формализации и понимании пределов и границ возможности ИИ.