Эта публикация цитируется в 2 статьях

Тематический выпуск

Атаки на модели машинного обучения, основанные на фреймворке PyTorch

Т. М. Биджиев, Д. Е. Намиот

Московский государственный университет им. М.В. Ломоносова

Аннотация: Рассматриваются последствия использования облачных сервисов для обучения нейронных сетей с точки зрения кибербезопасности. Ресурсоемкость обучения нейронных сетей создает проблемы, что приводит к росту зависимости от облачных сервисов. Однако такая зависимость создает новые риски кибербезопасности. Исследование посвящено новому методу атаки, использующему веса нейронных сетей для незаметного распространения скрытых вредоносных программ. Рассматриваются семь методов встраивания и четыре типа триггеров для активации вредоносного программного обеспечения. Представлен фреймворк с открытым исходным кодом, автоматизирующий внедрение кода в весовые параметры нейронных сетей, что позволяет исследователям изучать и противодействовать этому новому вектору атак.

Ключевые слова: нейронные сети, вредоносное программное обеспечение, стеганография, триггеры.

Статья представлена к публикации членом редколлегии: А. А. Галяев

Поступила в редакцию: 08.07.2023
После доработки: 24.10.2023
Принята к публикации: 20.01.2024

DOI: 10.31857/S0005231024030038

 Англоязычная версия: Automation and Remote Control, 2024, 85:3, 263–271