• A
  • A
  • A
  • АБВ
  • АБВ
  • АБВ
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта
13
Сентябрь

Информационный поиск и извлечение данных

2026/2027
Учебный год
RUS
Обучение ведется на русском языке
4
Кредиты

Программа дисциплины

Аннотация

Дисциплина предназначена для студентов 4-го курса направления "Фундаментальная и прикладная лингвистика". Рассматриваются различные вопросы работы с большими языковыми моделями: от подготовки данных на основе открытых источников, представленных на платформе HuggingFace, до оценки качества модели на наборе автоматических метрик и тонкой донастройки модели на специфической задаче.
Цель освоения дисциплины

Цель освоения дисциплины

  • Уметь подготавливать датасет для оценки качества языковой модели
  • Уметь осуществлять инференс языковой модели
  • Уметь осуществлять оценку качества языковой модели
  • Уметь проводить тонкую настройку языковой модели
  • Уметь проводить оптимизацию языковой модели для её инференса
Планируемые результаты обучения

Планируемые результаты обучения

  • уметь определить тип задачи, описать интерфейс нейросетевой модели, решающей эту задачу
  • уметь подготавливать датасет в вид, необходимый для последующей оценки качества модели
  • уметь осуществить инференс модели
  • уметь осуществить оценку качества большой языковой модели
  • уметь осуществить тонкую настройку большой языковой модели
  • уметь осуществить оптимизацию большой языковой модели
Содержание учебной дисциплины

Содержание учебной дисциплины

  • Современные задачи в области NLP
  • Датасеты в экосистеме HuggingFace
  • Инференс языковых моделей
  • Тонкая настройка языковых моделей с помощью метода LoRA
  • Оценка качества работы языковых моделей
  • Оптимизация инференса языковых моделей
Элементы контроля

Элементы контроля

  • неблокирующий Лабораторная работа. Тонкая настройка больших языковых моделей
  • неблокирующий Лабораторная работа. Оценка качества большой языковой модели
  • неблокирующий Экзамен
Промежуточная аттестация

Промежуточная аттестация

  • 2026/2027 3rd module
    0.24 * Лабораторная работа. Тонкая настройка больших языковых моделей + 0.36 * Лабораторная работа. Оценка качества большой языковой модели + 0.4 * Экзамен
Список литературы

Список литературы

Рекомендуемая основная литература

  • Нейронные сети. Полный курс : пер. с англ., Хайкин, С., 2018

Авторы

  • Демидовский Александр Владимирович
  • Климова Маргарита Андреевна