Цель курса дать слушателем представление о современном состоянии теории машинного обучения, а также об эффективных на практике методах и подходах. Особый акцент будет сделан на регуляризующие свойствах алгоритмов, как ключевых факторов эффективного применения методов машинного обучения. В курсе будет проводится связь с классической теорией регуляризации и будут намечены пути для расширения взаимодействия классической теории и машинного обучения.
В курсе:
- слушатели получат представление о современных эффективных методах машинного обучения с подробным теоретическим обоснованием;
- будет проведена связь методов машинного обучения с классическими математическими областями, а также разобраны перспективные направления теоретических и практических математических методов
- применение разобранных методов будет проиллюстрировано на приложениях, имеющих большой практический интерес.
Подготовительная часть
- Вводная лекция, важность регуляризации в AI, перспективные направления развития AI
- Основы классической регуляризации Тихонова и связь ее с различными статистическими подходами
- Оценка ошибок различных регуляризирующих алгоритмов, понятие вертикального разрешения и средних ядер.
- Ансамбли моделей, разложение ошибки на смещение и разброс для суперпозиции алгоритмов и для отдельного обратного оператора.
Базовая теория
- Метод релевантных векторов (RVM)
- От EM алгоритма к двойному стохастическому вариационному выводу
- Вариационные вывод и вариационные автокодировщики (VAE)
- Скрытые переменные и manifold learning
Перспективные методы машинного обучения
- Гауссовские процессы
- Диффузионные модели
- Основы топологического анализа данных (TDA)
- Оптимальный транспорт в приложении к статистике и анализу данных
Различные приложения и расширение кругозора
- Аддитивная регуляризация и задачи тематического моделирования
- Использование нейросети в качестве сглаживающего регуляризатора при обработке данных лазерного радарного зондирования
- Анализа данных и задачи георазведки
- От рекуррентных нейросетей к языковым моделям (на примере ChatGPT)
Занятия проводятся на физическом факультете МГУ им. М. В. Ломоносова
В программе курса 18 занятий: 12 лекций и 6 семинаров
Старт курса: 10 февраля 2023 года
Занятия будут проходить:
по пятницам 9:00 - 10:35, ауд. 4-46;
(вторая пара на четной неделе) 10:50 - 12:25, ауд. 5 -48
Форма записи на курс
Набор на курс 2023 года закрыт