Вычислительная статистика

О курсе

Этот курс является дополнением к классическим курсам по Вероятности и Статистике. Темы, с которыми студент был ознакомлен ранее, будут развиты в следующем смысле: мы научимся оценивать вероятности простых и сложных моделей с помощью программирования, а именно метода Монте-Карло, который по сути является обобщением закона больших чисел. Мы будем изучать алгоритмы, позволяющие генерировать сложные вероятностные модели, оценивать для них вероятности, решать оптимизационные задачи с помощью вероятностных алгоритмов, тестировать статистические гипотезы используя бутстреп и перестановки в данных

Цели курса

Научиться генерировать сложные вероятностные распределения/модели и рассчитывать вероятности для них

Изучить основные вероятностные методы для решения оптимизационных задач

Узнать и опробовать компьютерные методы для тестирования различных гипотез, так называемые перестановочные тесты

Вы научитесь

1. Моделировать многомерные распределения, используя алгоритм Метрополис-Гастингса, например, моделировать случайные графы Эрдоша-Реньи и модель Изинга

2. Применять вероятностный метод кластеризации в модели смеси Гауссовских распределений

3. Улучшать и объединять оценки, анализировать свойства получаемых оценок, корректировать смещение оценок бутстрепом

4. Применять перестановочные тесты для проверки статистических гипотез

Программа обучения

Тема 1. Моделирование случайных величин и векторов. Методы Монте-Карло

Генераторы случайных чисел. Генерирование равномерного распределения. Метод обратного преобразования. Генерирование дискретных случайных величин. Генерирование абсолютно непрерывных случайных величин. Метод выборки с отклонением. Генерирование стандартного нормального распределения и двумерного Гауссовского вектора. Проблема “проклятья размерности” в этих задачах. Генерирование смеси распределений. Моделирование случайных векторов через условное распределение. Оценивание параметров и интегрирование методом Монте-Карло. Выборка по значимости (importance sampling).

Тема 2. Марковские цепи. MCMC. Алгоритм имитации отжига

Переходные матрицы и плотности вероятностей Марковских цепей. Стационарное распределение Марковской цепи. Уравнение баланса. Монте-Карло с помощью Марковских цепей (MCMC). Алгоритм Метрополис-Гастингса. Моделирование многомерных распределений. Семплинг по Гиббсу. Модель Поттса (в частности, модель Изинга) и ее моделирование. Случайные графы Эрдоша-Реньи и их моделирование. Алгоритм имитации отжига для ускорения MCMC и в применении к оптимизационным задачам. Задача коммивояжера. Стохастический градиентный спуск в сравнении с MCMC.

Тема 3. Ресемплинг. Метод складного ножа и бутстреп

Идеальный бутстреп. Бутстреп для оценки среднего, дисперсии и других параметров выборки. Доверительные интервалы параметров с помощью бутстрепа. Свойства получаемых оценок. Коррекция смещения бутстрепом. Сравнение метода складного ножа и бутстрепа. Их асимптотические свойства. Bootstrap aggregating (bagging).

Тема 4. Ресемплинг: перестановочные тесты для проверки различных статистических гипотез

Нахождение p-значения перестановками из исходной выборки. Перестановочные тесты на однородность. Задача валидация модели. Перестановочные тесты для проверки независимости. Точный тест Фишера

Тема 5. Проверка гипотез с помощью бутсрепа. Проверка гипотез с помощью симуляций

Нахождение p-значения симуляциями, бутстрепом. Точный тест для пропорций

Преподаватель

Шмилева Елена Юрьевна
Департамент математики: Доцент

Для кого

Для слушателей с основательной математической подготовкой, которым было бы интересно рассмотреть знакомый материал по Теории Вероятностей и Статистике с иного ракурса, ракурса программировани

Документ об окончании

После успешного освоения материалов курса выдается сертификат установленного НИУ ВШЭ образца

Задать вопрос

Формат обучения

Лекции

Онлайн (Яндекс Телемост)

Семинары

Онлайн (Яндекс Телемост)

Промежуточный контроль

Планируются две лабораторных работы по курсу (одна по вероятностным алгоритмам и одна по статистическим методам)

Итоговый контроль

Экзамен будет заключаться компьютерном решении четырёх задач по четырём различным темам курса

Стоимость и условия

8 тыс. ₽

Полный доступ к материалам курса + сертификат

Записаться

Бесплатно

Только лекции