Конфиденциальность моделей машинного обучения

Работа посвящена задаче обеспечения конфиденциальности моделей при использовании систем машинного обучения. Целью работы является обеспечение конфиденциальности проприетарных моделей систем машинного обучения. В ходе работы был проведен анализ атак, направленных на нарушение конфиденциальности моделей систем машинного обучения, а также способов защиты от данного типа атак, в результате чего задача защиты от таких атак поставлена как поиск аномалий во входных данных. Предложен способ выявления аномалий во входных данных на основе статистических данных с учетом возобновления атаки под другой учетной записью злоумышленника. Полученные результаты могут быть использованы в качестве основы для проектирования компонентов систем защиты машинного обучения.