|
Тут будут заметки, касающеся спецкурса "Теория стохастического оптимального управления" для 509 группы мехмата МГУ осенью 2026 г. Материалы будут выкладываться на облако (яндекс диск).
Линк: https://disk.yandex.ru/d/doGRwuJhFwAnPw
Второй линк: https://disk.yandex.ru/d/Cek6MiE6d4esHw (все материалы перемещаются сюда)
04.09.2026: Пока в этой папке только первые две главы на повторение из весеннего курса СДУ, которые мы, скорее всего, пройдем за одну лекцию. Отнеситесь серьезно, они весьма важны для всего дальнейшего.
04.09.2026: На первой лекции (онлайн) повторили первые две главы. Запись встречи (телемост) выложена на облако.
06.09.2026: Выложена предварительная версия главы 3: уравнения Беллмана. Это будет тема следующей лекции. Название файла указывает, что ожидается продолжение - главы 4 и 5.
08.09.2026: Добавлен пока только два первых раздела главы 4 - об алгоритме Ховарда.
10.09.2026: Добавлены четыре раздела главы 4 - об алгоритме Ховарда. (Всего их будет, кажется, пять.)
11.09.2026: Прошли главу 3 об уравнении Беллмана. Она выложена на "второе облако" (см. выше). Тема следующей лекции - алгоритм Ховарда.
18.09.2026: Лекция отменена "по техническим причинам". Следующая лекция 24.10.2026 будет в аудитории.
25.09.2026: В аудитории "прошли" алгоритм Ховарда по модулю технической леммы 32; она будет доказана на следующем занятии, а возможно, и на следующем после следующего (по-другому). Основной пафос пройденного - переход к пределу в линейном уравнении Пуассона, когда в пределе получается нелинейное уравнение, эквивалентное уравнению Беллмана. Важный момент: сходимость производных последовательных приближений к функции выигрыша к одному и тому же пределу.
09.10.2026 (заметки перед лекцией): На предыдущей лекции прошли упрощенное доказательство леммы 32 (без дисконтирования). Начали уравнение Беллмана на бесконечном интервале времени с дисконтированием. Впереди нас ждет "настоящее" доказательство леммы 32 при наличии (неотрицательного, $c\ge 0$) дисконтирования, или "убивания".
09.10.2026 (заметки после лекции): Прошли полное доказательство леммы 32 с дисконтированием "по Крылову" (Управляемые процессы диффузионного типа, лемма 1.4.6), по модулю нескольких явных интегрирований от экспонент, которые в книге оставлены на проверку читателю; в классе мы их почти сделали, остальное проверьте дома. [Для тех, кто не был на лекции, добавлю, что в конспект перенесен более-менее такой же текст, как в книге, без подробностей, так что вам придется проделать самостоятельно некоторые вычисления: изложение у К. очень кратко.] С этой леммой мы еще встретимся: в какой-то момент нам понадобится зависимость констант в ее неравенствах от отрезка, на котором рассматривается уравнение, если этот отрезок менять.
|