Защита систем федеративного обучения AI/ML от атак отравления

Системы федеративного обучения искусственного интеллекта подвержены атакам, позволяющим злоумышленнику изменить их поведение, как и обычные AI/ML решения. Наиболее эффективной является атака отравления. При этом защита систем федеративного обучения усложняется возможностью сговора между участниками. В таких условиях обнаруживать и предотвращать атаки становится особенно трудно. Решение этой задачи является целью работы. Исследование предлагает метод обеспечения защиты систем федеративного обучения от атак отравления с использованием сговора, основанный на комбинации известных и доказавших свою эффективность методов защиты. Выбранные методы фильтрации и надежной агрегации модифицированы для учета возможного сговора участников обучения. Корректность и эффективность предложенного метода подтверждается практическими экспериментами, позволяющими не только доказать результативность, но и выявить ограничения разработанного решения.