SLAP – простая линейная атака на персептрон

А. И. Перминов

Институт системного программирования им. В.П. Иванникова РАН

Аннотация: В статье представлен новый подход атаки на нейронные сети на основе перцептрона с кусочно-линейными функциями активации с использованием базовой линейной алгебры. Атака формулируется как система линейных уравнений и неравенств и демонстрирует упрощённый и эффективный в вычислительном отношении подход к созданию разнообразных наборов состязательных примеров. Алгоритмы предлагаемой атаки реализованы в коде, доступном в репозитории с открытым исходным кодом. В исследовании подчёркивается серьёзная проблема, которую представляет предлагаемая методология атаки для современной защиты нейронных сетей, подчеркивая острую необходимость в инновационных стратегиях защиты. Благодаря всестороннему изучению состязательных уязвимостей это исследование способствует повышению состязательной устойчивости машинного обучения, открывая путь для разработки более надежных и заслуживающих доверия систем искусственного интеллекта в реальных приложениях.

Ключевые слова: нейронные сети, состязательная атака, линейная алгебра, доверенный искусственный интеллект

DOI: 10.15514/ISPRAS-2024-36(3)-6