Алексей Чернов (Royal Holloway College, UK)
" Решение задачи "диалоговой" регрессии с помощью универсально хорошо калиброванных предсказаний "
Рассматривается задача: на каждом шаге n мы получаем вектор x_n и должны приписать ему "метку" u_n - действительное число из фиксированного отрезка; после этого мы узнаём правильную метку y_n. Качество наших меток измеряется суммой квадратов отклонений sum(y_n-u_n)^2. Мы будем сравнивать качество наших меток u_n с качеством меток f(x_n), порождённых некоторой фиксированной функцией f. Оказывается, можно так выбирать u_n, чтобы они были неплохи по сравнению сразу со всеми функциями из заданного подходящего класса (а именно, класс функций должен быть гильбертовым пространством с воспроизводящим ядром). Точнее, для наших u_n на каждом шаге N будет выполнено:
sum(y_n-u_n)^2 < sum (y_n-f(x_n))^2 + O(||f||sqrt{N})
для всех функций f. (Константа в O() зависит только от выбранного функционального класса и длины отрезка, которому могут принадлежать метки y_n.). Построение u_n опирается на вспомогательную задачу "универсальной калибровки": в таком же диалоговом режиме для y_n построить такие p_n, что sum f(p_n)(y_n-p_n) растёт как корень из числа шагов для всех
функций f.
| 04.08.2009 | |