Современные методы машинного обучения

2020/2021

Учебный год

RUS

Обучение ведется на русском языке

5

Кредиты

Кто читает:

Кафедра прикладной математики и информатики (Нижний Новгород) (Факультет информатики, математики и компьютерных наук (Нижний Новгород))

Статус:

Майнор

Когда читается:

1, 2 модуль

Преподаватели

Казаков Максим Анатольевич

Модвала Сергей Жоржович

Шимко Алексей Андреевич

Программа дисциплины

Аннотация

Изучение дисциплины «Современные методы машинного обучения» нацелено на освоение продвинутых методов и алгоритмов машинного обучения с применением языка программирования Python. Курс является третьим в майноре «Интеллектуальный анализ данных». Предполагается, что в результате освоения курса студенты будут способны самостоятельно выбирать методы машинного обучения для решения сложных задач анализа данных.

Цель освоения дисциплины

• Знать: основные понятия и методы машинного обучения; о месте и ценности методов машинного обучения и разработки данных в современной науке и практической деятельности; основные каналы научной и прикладной информации по анализу данных и машинному обучению.
• Уметь: использовать освоенные методы машинного обучения для обработки конкретных наборов данных, анализировать результаты, делать выводы; формализовать конкретную задачу и разработать алгоритм решения.
• Владеть: методами программирования, отлаживания и тестирования современных алгоритмов машинного обучения.

Планируемые результаты обучения

• Понимает общие принципы построения ансамблей классификаторов.
• Знает основные типы ансамблей классификаторов и основанные на них алгоритмы машинного обучения.
• Знает и может использовать программные реализации алгоритмов ансамблей классификаторов для решения задач машинного обучения
• Понимает концепцию многослойного персиптрона, сверточной нейронной сети
• Знает основные слои, использующиеся в архитектурах глубоких (в.т.ч. сверточных) нейронных сетей; методы регуляризации; алгоритм обратного распространения ошибки.
• Знает и умеет использовать фреймворки глубокого обучения для решения задач распознавания изображений.

Содержание учебной дисциплины

• Ансамбли классификаторов
  Ансамбли классификаторов. Общие принципы. Причина успеха. Bias-variance tradeoff (компромисс между сдвигом и разбросом). Бэггинг, бустинг. Бутстрэп. Блендинг алгоритмов. Сравнение с Random Forest. Оценка out-of-bag. Алгоритм AdaBoost. Различные функции потерь для бустинга. Градиентный бустинг.
• Нейронные сети
  Простейшие однослойные и многослойные нейронные сети, функции активации. Алгоритм обратного распространения ошибки для обучения нейронной сети. Регуляризации. Глубокие сети. Cвёрточные слои, пулинг, нормализации.

Элементы контроля

• Контрольная работа
• Лабораторная работа
  Тема лабораторной: Ансамблевые модели.
• Лабораторная работа
  Тема лабораторной: Нейронные сети.
• Экзамен

Промежуточная аттестация

• Промежуточная аттестация (2 модуль)
  0.1 * Контрольная работа + 0.2 * Лабораторная работа + 0.2 * Лабораторная работа + 0.5 * Экзамен

Список литературы

Рекомендуемая основная литература

• Aggarwal C. Data Mining: The Textbook. Springer International Publishing, 2015. DOI: 10.1007/978-3-319-14142-8
• Ian Goodfellow and Yoshua Bengio and Aaron Courville. Deep Learning, 2016. URL: http://www.deeplearningbook.org

Рекомендуемая дополнительная литература

• Hastie, T., Tibshirani, R., Friedman, J. The elements of statistical learning: Data Mining, Inference, and Prediction. – Springer, 2009. – 745 pp.
• Mirkin, B. Core concepts in data analysis: summarization, correlation and visualization. – Springer Science & Business Media, 2011. – 388 pp.
• Глубокое обучение : погружение в мир нейронных сетей, Николенко, С., 2018