Когда: В четверг 11 сентября 2025 г. в 17:00
Где: в 615 аудитории ИППИ (ссылка для подключения онлайн:
https://telemost.yandex.ru/j/63389006341822)
Тема семинара: Устойчивость моделей глубокого обучения
Докладчик: Корж Дмитрий Сергеевич, младший научный сотрудник научной
группы «Доверенные и безопасные интеллектуальные системы» AIRI
Аннотация: В последнее время модели глубокого обучения получили повсеместное применение. Однако уязвимость к малозаметным состязательным атакам, чувствительность к естественным шумах и
семантическим возмущениям и рост рисков подделки голоса является актуальной проблемой, особенно для высокорисковых приложений, как медицина или биометрия.
Целью исследования является разработка новых сертифицируемых (доказуемых) и эмпирических методов, обеспечивающих устойчивость, доверенность и приватность моделей без существенных ограничений для их
применения. Методологическая основа включает развитие сертификации классификаторов изображений к композициям семантических возмущений и
прототипических векторных моделей к аддитивным возмущениям на основе случайного сглаживания и статистических методов, а также проектирование универсальных состязательных возмущений для приватности
(анонимизации) говорящего и развитие моделей голосового антиспуфинга.
По результатам работы предложен новый вычислительно-аналитический метод сертификации устойчивости классификаторов изображений к широкому классу композиционных преобразований на основе анализа Липшицевости модели относительно параметров возмущения. Получены улучшенные гарантии сертификации прототипических моделей и впервые для задач идентификации говорящего. Также представлен способ анонимизации речи с использованием экспоненциальной общедисперсионной функции потерь и новой стратегии добавления возмущений. Более того, предложены новые архитектуры детекции синтетической речи на основе сетей Колмогорова-Арнольда.
Вы можете ознакомиться с авторефератом работы в приложенном файле.
| 08.09.2025 | Кириллова Варвара Артуровна |