ГИБРИДНЫЙ МЕТОД ВЫЯВЛЕНИЯ АТАК УКЛОНЕНИЯ, НАПРАВЛЕННЫХ НА СИСТЕМЫ МАШИННОГО ОБУЧЕНИЯ

Представлен анализ существующих методов, обеспечивающих выявление атак укло-
нения в системах машинного обучения. Выполнена экспериментальное сравнение данных мето-
дов. Метод Uncertainty является универсальным, однако в нем трудно определять такие границы
степени неопределенности для состязательных образцов, которые позволяли бы более точно
идентифицировать атаки уклонения, что приводит к более низким показателям эффективно-
сти относительно атак SGM, MS, BA, чем у других методов. Разработан новый гибридный метод,
который представляет собой двухэтапную проверку входных данных, дополненную предвари-
тельной обработкой. В новом методе граница степени неопределенности для состязательных
образцов стала различимой и быстро вычислимой. Гибридный метод позволяет выявлять атаки
уклонения OOD с точностью не ниже 80%, атаки SGM, MS и BA — с точностью 93%.