Совместный семинар Центра структурных методов анализа данных и оптимизации (СТРАДО) и лаборатории ПреМоЛаб (МФТИ)

Руководители семинара: Спокойный Владимир Григорьевич, Голубев Георгий Ксенофонтович 

Тематика семинара: современные проблемы математической статистики и теории оптимизации.

Семинар проходит по средам, в 17⁰⁰, в аудитории 615 ИППИ РАН.

2015

Ближайшее заседание: 

27 мая

Алексей Зайцев

Байесовская оценка параметров регрессионной модели на основе гауссовских процессов

Регрессия на основе гауссовских процессов широко используется для построения нелинейных регрессионных моделей в инженерной практике. В частности, регрессия на основе гауссовских процессов позволяет строить регрессионные модели в случае, если выборка содержит разноточные данные. Для оценки параметров модели в регрессии на основе гауссовских процессов используют алгоритм максимума правдоподобия или байесовский подход. 
Мы изучаем свойства апостериорного распределения параметров ковариационной функции для регрессии на основе гауссовских процессов (априорное распределение параметров предполагается неинформативным): мы получаем свойства оценки максимума правдоподобия и байесовской оценки параметров и описываем взаимосвязь этих оценок теоремой Бернштейна-фон Мизеса. Мы показываем, что предположения, при условии которых имеет место теорема, выполнены для широко используемого на практике класса ковариационных функций. 
Классическая версия теоремы Бернштейна-фон Мизеса получена для стандартных параметрических предположений: размер выборки стремится к бесконечности и выполняется априорное параметрическое предположение о модели (истинная модель лежит во введённом параметрическом семействе). В свою очередь доказанная нами версия теоремы Бернштейна-фон Мизеса работает в случае конечных выборок и возможной неправильной спецификации параметрической модели.

Прошедшие заседания: 

6 мая

Александр Прусаков (НИЦ "Курчатовский институт")

Универсальная модель обучения организма несмещённому предсказанию

Делается попытка приблизиться к точной формулировке задачи универсального (т.е. безмодельного) машинного обучения. Обозначается направление работ имеющих целью установить формальную связь между проблемой сложности конечных математических объектов и корректной постановкой задачи предсказания на основе прецедентов. Уточнение задачи машинного обучения намечается путём формулировки гипотезы об ограниченной сложности совокупности возможных выходов сенсора, который «погружен» в реальную физическую среду. Доклад, постановочный, с упором на критику и ограниченность современных методов машинного обучения и прежних попыток построить «универсальный предсказатель». 

Юрий Калнишкан 

Предсказание с использованием экспертов-специалистов

Теория предсказаний с использованием советов экспертов строит предсказательные стратегии, аггрегирующие предсказания экспертов. В качестве экспертов могут выступать произвольные предсказатели, рассматриваемые как черные ящики – алгоритмы, люди и т.д. Теоретические результаты гарантируют, что аггрегированная стратегия будет не сильно уступать любому из экспертов по качеству предсказаний, измеренному кумулятивными потерями. 
Специалисты (или спящие эксперты) это эксперты, которые могут воздерживаться он предсказания (спать) на некоторых шагах. Теоретические гарантии в этом случае распространяются только на те шаги, на которых эксперт не спит. Специалисты впервые введены в статье [Freund et al, 1997], но предложенные методы работы с ними были довольно громоздкими. В статье [Chernov and Vovk, 2009] методы были значительно упрощены. 
В докладе будет рассказано о приложениях специалистов к проблеме отбора релевантной информации. Проблема состоит в следующем. Иногда полезными являются только самые недавние наблюдения; в этой ситуации можно применить скользящее окно. Однако иногда старая информация снова становится релевантной. Скажем, в ситуации экономического кризиса может быть полезным посмотреть на старые данные времен последнего спада, а не на более свежие данные, описывающие экономический подъем. Эксперты-специалисты могут применяться для динамического отбора релевантной старой информации. 
В докладе будут рассмотрены два применения этой идеи: предсказание подразумеваемой волатильности опционов и предсказание правильности ответов школьников на вопросы теста. 

25 марта

Юрий Максимов (PreMoLab, ИППИ, ВШЭ)

Статистическое обучение в задачах с большим числом классов: геометрия данных и функций 

В докладе будут представлены некоторые результаты в области решения задач классификации с большим числом классов. Особое внимание будет уделено оценкам качества классификаторов (обобщающей способности, избыточного риска) учитывающим свойства класса функций, в рамках которого выбирается оптимальный классификатор, и геометрии выборки.

11 марта

Александр Шаповал

Эволюция солнечной активности или скачкообразные изменения режимов? 

Анализ солнечного динамо принципиально важен для прогноза солнечной активности и оценки влияния Солнца на жизнедеятельность человека (климат, экологию, телекоммуникационные системы и др.). Солнечная активность демонстрирует определенные квази-регулярности, среди которых наиболее известны примерно одиннадцатилетние осцилляции, называемые циклами Швабе. В ряде работ ученые сообщают, что последние циклы Швабе характеризуются разными аномалиями, описываемые как непосредственно с помощью корреляционной функции, так и существенно более сложными методами. Видимо, в настоящее время имеет место переход от эпохи высокой солнечной активности к эпохе низкой солнечной активности. Изменение солнечной активности в течение ближайших циклов Швабе представляется ожидаемым, поскольку согласуется с циклами Гляйсберга, продолжающиеся около ста лет. Однако количественные показатели наступающей эпохи низкой солнечной активности остаются предметом широкой научной дискуссии. 
В настоящей работе мы оцениваем иррегулярность ежедневных солнечных индексов с помощью показателя Ляпунова, адаптированного к особенностям рассматриваемых временных рядов. Установлено, что иррегулярность ежедневных чисел Вольфа (одного из самых популярных солнечных индексов, отражающего количество солнечных пятен) изменилась на два цикла Швабе раньше, чем началось общее повышение солнечной активности. Возвращение иррегулярности на уровень, соответствующий низкой солнечной активности, видимо, произошел в минимуме между последними циклами Швабе. Указанное свойство может являться дополнительным свидетельством предстоящего падения солнечной активности. 
Основываясь на модели солнечных индексов - модулированном авторегрессионном процессе первого порядка, который обладает свойствами показателя Ляпунова, найденных для ежедневных индексов, - мы собираемся различать стохастическую и детерминированную составляющую солнечных индексов и уточнять модели солнечного динамо. 
Авторы исследования: J.-L. Le Mouël, V. Courtillot (оба - Парижский институт физики Земли, IPGP), М. Г. Шнирман (Институт теории прогноза землетрясений РАН)

4 марта

Майя Жилова

Simultaneous likelihood-based bootstrap confidence sets for misspecified models

We consider a multiplier bootstrap procedure for construction of likelihood-based confidence sets for finite samples and a possible model misspecification. The approach is also generalized for the case of simultaneous confidence sets, when the number of parametric models is allowed to be exponentially large w.r.t. the sample size. Theoretical results justify the bootstrap consistency for a fixed sample size. Convincing numerical performance of the bootstrap procedure is demonstrated with experiments for misspecified regression models.

This is a joint work with Vladimir Spokoiny.

18 февраля

Владимир Спокойный (ИППИ, WIAS)

Multiscale change-point detection

Будет рассмотрен общий подход к обнаружению разладки на основе многоуровневых скользящих окон, а также описаны основные подходы к калибровке метода и его теоретическому исследованию

11 февраля 

Максим Панов (ИППИ)

Semiparametric Bayesian inference: non-asymptotic approach

The classical parametric and semiparametric results of an asymptotic normality of the posterior distribution (Bernstein - von Mises theorem) will be reconsidered in a non-classical setup allowing finite samples and model misspecification. In the case of a finite dimensional nuisance parameter we obtain an upper bound on the error of Gaussian approximation of the posterior distribution for the target parameter which is explicit in the dimension of the nuisance and target parameters. This helps to identify the so called critical dimension of the full parameter for which the BvM result is applicable. The results are extended to the case of infinite dimensional parameters with the nuisance parameter from a Sobolev class. The general results will be accompanied with specific examples illustrating the theory.

Прошедшие заседания - 2014

Прошедшие заседания - 2013

Прошедшие заседания - 2012