Семинар лаборатории 1
23 июня 2009 (вторник), в 14:00, ИППИ РАН, ауд.307
Докладчик: Юрий Калнишкан (Royal Holloway College, UK)
"Введение в методы конкурентного предсказания"
В докладе будет рассказано про аггрегирующий алгоритм Вовка и его применение для построения универсальных алгоритмов особого типа.
Аггрегирующий алгоритм был предложен для решения следующей задачи, называемой предсказанием с использованием советов экспертов. Статистик должен предсказывать некоторые последовательно происходящие события; качество его работы оценивается кумулятивными потерями (в простейшем случае - суммой уклонений предсказаний от истинных исходов). Каждый раз перед тем, как выдать своё предсказание, он получает версии других статистиков, называемых экспертами. Необходимо смешивать предсказания экспертов так, чтобы нести потери не сильно большие, чем у наиболее успешного из них. Аггрегирующий алгоритм даёт весьма общее решение этой задачи, являющееся в сильном смысле оптимальным.
Аггрегирующий алгоритм можно применить к параметризованному классу предсказательных стратегий. В результате мы получаем универсальный непараметрический алгоритм, гарантировано работающий не намного хуже каждой из стратегий. Важно отметить, что на данные при этом не накладывается никаких ограничений (исходы, например, не должны быть независимыми и одинаково распределёнными). Универсальный алгоритм в любом случае способен успешно конкурировать со всеми алгоритмами исходного семейства и несёт низкие потери если только какой-то из них способен предсказывать успешно. В этом его отличие от стандартных статистических методов.
В докладе будут рассмотрены следующие алгоритмы, построенные таким образом:
Аггрегирующий алгоритм был предложен для решения следующей задачи, называемой предсказанием с использованием советов экспертов. Статистик должен предсказывать некоторые последовательно происходящие события; качество его работы оценивается кумулятивными потерями (в простейшем случае - суммой уклонений предсказаний от истинных исходов). Каждый раз перед тем, как выдать своё предсказание, он получает версии других статистиков, называемых экспертами. Необходимо смешивать предсказания экспертов так, чтобы нести потери не сильно большие, чем у наиболее успешного из них. Аггрегирующий алгоритм даёт весьма общее решение этой задачи, являющееся в сильном смысле оптимальным.
Аггрегирующий алгоритм можно применить к параметризованному классу предсказательных стратегий. В результате мы получаем универсальный непараметрический алгоритм, гарантировано работающий не намного хуже каждой из стратегий. Важно отметить, что на данные при этом не накладывается никаких ограничений (исходы, например, не должны быть независимыми и одинаково распределёнными). Универсальный алгоритм в любом случае способен успешно конкурировать со всеми алгоритмами исходного семейства и несёт низкие потери если только какой-то из них способен предсказывать успешно. В этом его отличие от стандартных статистических методов.
В докладе будут рассмотрены следующие алгоритмы, построенные таким образом:
- коверовские портфели (стратегия инвестирования)
- аггрегирoванная регрессия (аналог гребневой регрессии)
- аггрегированная регрессия для меняющихся зависимостей.
| 18.06.2009 | Петров Леонид Александрович |