Моделирование сценариев деструктивного воздействия на целостность моделей машинного обучения

А. Б. Менисов, А. Г. Ломако

Военно-космическая академия им. А. Ф. Можайского

Аннотация: Статья посвящена разработке моделей деструктивного воздействия на целостность моделей машинного обучения на основе SIR-прогнозирования масштаба угроз и рисков при различных сценариях развития компьютерных атак. В статье представлена оригинальная модель угроз информационной безопасности техническим компонентам искусственного интеллекта в условиях разнородно массовых компьютерных атак, отображающая уязвимые места и способы возможных действий злоумышленников. Авторами разработана методология адаптации модернизированных SIR-моделей природных эпидемий для выявления подобия и аналогов в характере распространения деструктивных сбоев в системах ИИ, вызванных разнородно-массовыми и таргетированными воздействиями. Выявленные закономерности позволили оценить риски возможного ущерба целостности и разработать эффективные стратегии предотвращения и исправления искажений моделей машинного обучения.

Ключевые слова: искусственный интеллект, целостность моделей машинного обучения, доверие, информационная безопасность, диагностическое тестирование, тестовая среда.

DOI: 10.15514/ISPRAS-2025-37(3)-4