Исследование производительности конфиденциальных контейнеров при туманных вычислениях в задачах обнаружения объектов

Предложена и формализована новая актуальная для распределенных туманных сред с интеллектуальными edge/fog-узлами общая задача — безопасного масштабирования, обновления и (до)обучения развернутых ML-моделей (Secure Scale Machine Learning — SSML). В рамках решения SSML для безопасного обнаружения объектов в туманных инфраструктурах систем видеонаблюдения предложена методика определения оптимального ансамбля из ML-детектора и ML-фреймворка, учитывающего особенности анклава Intel SGX. Предложенная методика дополнительно в ходе эксперимента позволяет оценить готовность/неготовность edge/fog-узлов к обнаружению объектов в реальном времени. Имплементация методики на выделенном fog-узле с анклавом SGX и использовании SCONE в аппаратном режиме продемонстрировала, что безопасный инференс имеет почти 5-кратное увеличение задержки для TensorFlow-интерпретатора и более чем 50-кратное — для TеnsorFlow Lite. Выявлено, что основной причиной высоких накладных расходов является ограничение размера страниц кеширования защищенной памяти и связанные с этим интенсивные операции переключения страниц. Абсолютные значения задержки на безопасный инференс для лучшего из исследованных конфиденциальных контейнеров (на базе ансамбля — TinyYolo_v3, TensorFlow, SGX) составили 331 мс на кадр видеопотока. Подчеркнуто, что для конфиденциального логического вывода в реальном времени требуются как специализированные сборки ML-фреймворков, так и модификации архитектур ML-детекторов.