Информационно-вычислительные системы

Особенности использования марковских процессов принятия решений при моделировании атак на системы искусственного интеллекта

И. А. Ветров^a, В. В. Подтопельный<sup>b

a</sup> Балтийский федеральный университет имени И. Канта, г. Калининград, Российская Федерация
^b Калининградский государственный технический университет (КГТУ), г. Калининград, Российская Федерация

Аннотация: В данной работе проводится исследование особенностей моделирования атак на системы искусственного интеллекта. При построении модели используются марковские процессы принятия решений. Предлагается многоуровневый подход к интерпретации состояний системы, включающий несколько этапов детализации состояний. Этот подход основан на методологии MITRE ATLAS и Методике оценки угроз ФСТЭК. При формировании вектора учитывается специфика модели нарушителя и рассматриваются два основных режима моделирования: on-time и off-time. Описывается порядок формирования наград на абстрактном уровне (без конкретизации действий злоумышленника) построения модели.

Ключевые слова: сетевая атака, уязвимость, марковские процессы моделирования, стратегия, политика, метод обучения.

УДК: 004.056.5:378.3

Поступила в редакцию: 14.10.2024
Принята в печать: 25.11.2024

DOI: 10.18287/2541-7525-2024-30-5-147-160