Анализ безопасности проекта национального стандарта «Нейросетевые алгоритмы в защищенном исполнении. Автоматическое обучение нейросетевых моделей на малых выборках в задачах классификации»

Г. Б. Маршалко, Р. А. Романенков, Ю. А. Труфанова

Технический комитет по стандартизации «Криптографическая защита информации»

Аннотация: В работе предложен метод проверки принадлежности обучающей выборке для нейросетевого алгоритма классификации из проекта национального стандарта, разработанного Омским государственным техническим университетом под эгидой Технического комитета по стандартизации «Искусственный интеллект» (ТК 164). Указанный метод позволяет определить, использовались ли данные при обучении нейронной сети, и направлен на нарушение свойства конфиденциальности обучающей выборки. Полученные результаты показывают, что описываемый стандартом механизм защиты нейросетевых классификаторов не обеспечивает заявленных свойств. Полученные результаты первоначально анонсированы на конференции Рускрипто’2023.

Ключевые слова: Статистическая классификация, нейронные сети, информационная безопасность, обучающая выборка, атака проверки принадлежности обучающей выборке, конфиденциальность, стандартизация

DOI: 10.15514/ISPRAS-2023-35(6)-11