AI04
Дообучение открытых больших LLM под прикладные задачи
Длительность обучения: 5 дней
Записаться на курс
Описание
курса
Материал данного курса охватывает полный цикл пост‑тренинга открытых больших языковых моделей под конкретный класс прикладных задач: подготовку данных, supervised fine‑tuning и parameter‑efficient методы (LoRA, QLoRA), оптимизацию по предпочтениям и обучение с подкреплением (GRPO), оценку качества и продуктивную эксплуатацию. По итогам обучения слушатель строит воспроизводимый пайплайн «данные → обучение → оценка → квантизация → API» и достигает измеримого улучшения качества на собственной задаче.
Аудитория курса
ML‑инженеры, исследователи, инженеры прикладного ИИ, технические руководители, отвечающие за качество и стоимость инференса, а также разработчики, внедряющие локальные модели в корпоративный контур.
Предварительные требования
Как устроено
обучение
Онлайн-курс
Онлайн-курс предполагает групповые занятия с инструктором через систему видеоконференцсвязи, кроме того, домашние задания и экзамен. Слушателям предоставляются учебные пособия и дополнительные материалы
Для корпоративных клиентов
Обучение для корпоративных клиенов включает в себя онлайн-курсы и курсы самообучения, а также дополнительные сервисы,необходимые корпоративным клиентам: организация планов обучения для подразделений клиента, проведение оценки эффективности обучения и т.д.
программа
курса
• Выбор стратегии адаптации модели в логике prompt engineering → RAG → SFT → preference optimization → reinforcement fine‑tuning.
• Настройка рабочего окружения (CUDA, PyTorch, Transformers, PEFT, bitsandbytes, accelerate, Unsloth, TRL).
• Базовый бенчмарк качества до обучения и сравнительный анализ MoE‑ и dense‑моделей при фиксированном бюджете VRAM.
• Принципы качества обучающих корпусов: разнообразие, консистентность, сложность, edge cases, баланс объёма и предметной плотности.
• Синтетическая генерация данных с использованием сильной модели‑учителя; формирование задач из корпоративных документов.
• Одновременная подготовка трёх типов данных: пары для SFT, пары предпочтений и программные верификаторы.
• Очистка, дедупликация, корректное разбиение train/val/test с контролем утечек.
• Математика и практика LoRA и QLoRA, выбор rank, alpha и target modules; альтернативы (DoRA, LongLoRA).
• Ключевые гиперпараметры (learning rate, batch size, gradient accumulation, warmup, число эпох) и стратегии предотвращения катастрофического забывания.
• Серия экспериментов с мониторингом метрик в Weights & Biases, экспорт и слияние адаптеров с базовой моделью.
• GRPO как опорный метод 2026 года, обучение с программной верификацией (RLVR), стабилизация длинных цепочек рассуждений (DAPO).
• Проектирование reward‑функций под прикладную задачу и защита от reward hacking.
• Сравнительный анализ стадий base → SFT → preference → GRPO с интерпретацией приростов качества и сопутствующих рисковю.
• Serving‑стек (vLLM, llama.cpp, SGLang, Ollama), structured output и constrained decoding; оптимизация KV‑кэша и prefix caching.
• Нагрузочное тестирование по показателям latency и throughput.
• Упаковка пайплайна как воспроизводимого проекта и непрерывный цикл «обратная связь → инкрементальный GRPO».
• Защита итогового результата с метриками «до/после» и демонстрацией работающей модели.
Варианты
покупки курса
индивидуальное
Стоимость курса — 121 296,00 ₽
Групповые онлайн-занятия
Бессрочный доступ ко всем материалам
Живые вебинары с преподавателем
Домашние задания
Экзаменация с выдачей сертификата
Для уточнения даты проведения курса, пожалуйста, заполните форму.
Оставить заявку
корпоративное
Стоимость курса от 121 296,00 ₽
Для получения данных о конечной стоимости и уточнения даты проведения курса, пожалуйста, заполните форму.
Оставить заявку
