Программа и содержание

LLM Driven Development Разработка и эксплуатация AI: полный курс для профессионалов (2025)

Слив курса LLM Driven Development Разработка и эксплуатация AI: полный курс для профессионалов [OTUS] [Владимир Елфимов]

Для кого этот курс?

Этот курс для вас, если вы хотите внедрить AI на основе LLM в свой проект или сервис, но не знаете, как это сделать.

Python-разработчики, желающие выйти за рамки классического программирования и освоить прикладное AI

DevOps-инженеры, которым важно понять, как разворачивать и поддерживать крупные AI-системы

Data-инженеры, аналитики данных и специалисты по Data Science, стремящиеся глубже интегрировать языковые модели в пайплайны и сервисы

Необходимые знания:

Желательно базовое знание Python. Многие темы курса на курсе не требуют знания языков программирования, но отдельные примеры работы будут именно на Python

Что даст вам этот курс:

Курс охватывает полный цикл разработки и внедрения больших языковых моделей — от основ архитектуры AI и подготовки данных до тонкостей MLOps, мониторинга и оптимизации. Программа основана на реальных кейсах и инструментах, которые уже сейчас востребованы в индустрии.

На курсе вы:

Изучите фундаментальные принципы AI-архитектуры и трансформеров

Освоите практики LLMOps: от развёртывания и автоматизации до мониторинга и обновления крупных моделей

Разберётесь в токенизации, контекстных окнах и научитесь эффективно управлять памятью для больших LLM

Освоите фреймворки для интеграции LLM (LangChain, LlamaIndex, vllm и другие) и научитесь работать с мультиагентными системами

Научитесь применять retrieval-augmented generation (RAG) вместе с векторными базами данных и внедрять AI-функциональность в классические backend-проекты

Поймёте, как проводить fine-tuning и оптимизацию LLM, включая вызов внешних функций

Узнаете о когнитивных архитектурах, принципах мультимодальных моделей и методах тестирования AI-решений

После курса вы будете готовы внедрять LLM-сервисы в реальные продукты: разрабатывать, тестировать, поддерживать и оптимизировать AI-приложения на продвинутом уровне.

Программа:

Архитектура трансформеров

В этом модуле вы научитесь анализировать архитектурные ограничения RNN и преимущества self-attention, объяснять механику трансформеров и интерпретировать работу attention-слоёв.

Тема 1: Базовые принципы трансформеров (от RNN к Self-Attention)

Тема 2: Token Embedding, позиционные вектора и QKV

Тема 3: Визуализация Attention и эволюция (BERT, GPT, T5) // ДЗ

Введение в AI Engineering

В этом модуле вы освоите выбор и адаптацию русскоязычных LLM под прикладные задачи. А также рассмотрите LLM-пайплайны и применение инженерных практик в работе с моделями.

Тема 1: Эволюция AI и фундаментальные модели (ChatGPT, Mistral, Llama, Deepseek)

Тема 2: Подходы к локализации (SberGPT, YandexLLM, ruGPT-3)

Тема 3: Работа с данными в Python и подготовка данных для LLM // ДЗ

Основы LLMOps

В этом модуле вы научитесь настраивать мониторинг и отслеживание работы LLM, использовать соответствующие инструменты и интегрировать модели в CI/CD-процессы для обеспечения надёжной и стабильной эксплуатации.

Тема 1: Принципы LLMOps, автоматизация развертывания

Тема 2: Оптимизация и поддержка LLM

Тема 3: CI/CD для LLM и инструменты (Triton, MLflow, vLLM) // ДЗ

Оценка, токенизация и контекст

В этом модуле вы овладеете методами оценки качества генерации, применением метрик и управлением длиной контекста и token streaming.

Тема 1: Специализированные бенчмарки и метрики (GLUE, SQuAD и др.) // ДЗ

Тема 2: Токенизация, контекстные окна, test time scaling

Интеграция и практика

В этом модуле вы научитесь конструировать и защищать промпты, реализовывать Retrieval-Augmented Generation и интегрировать LLM через API и middleware.

Тема 1: Работа с фреймворками и агентами (LangChain, LlamaIndex, Ollama, Haystack) // ДЗ

Тема 2: Мониторинг моделей с LangChain Observability, LangSmith, Langfuse

Тема 3: Векторные БД и Retrieval Augmented Generation (Pinecone, Chroma, Milvus, Clickhouse) // ДЗ

Тема 4: Промпт-инжиниринг (Chain-of-thought, защита от некорректных промптов)

Разработка и оптимизация LLM

В этом модуле вы изучите, как дообучать и оптимизировать LLM, расширяя их функциональность через Fine-tuning, вызов внешних функций, локальный запуск и извлечение информации из текста.

Тема 1: Fine-tuning (LoRA, PEFT) и вызов внешних функций из LLM // ДЗ

Тема 2: Локальное использование LLM (CPU/GPU), оптимизация

Тема 3: Извлечение данных из текста (NER, IE), разработка приложений // ДЗ

Тема 4: Автоматизация тестирования LLM, CI/CD жизненного цикла // ДЗ

Когнитивные архитектуры и RAG

В этом модуле вы научитесь строить когнитивные системы на базе Retrieval-Augmented Generation (RAG), проектировать архитектуры AI-приложений с учётом профилирования производительности и обеспечением надёжности, а также оптимизировать отклик и мониторинг.

Тема 1: Основы RAG, онтологические графы, LangGraph

Тема 2: Проектирование когнитивных архитектур (QA, чат-боты, документооборот)

Тема 3: Архитектуры AI-приложений, профилирование inference

Тема 4: Тестирование AI-приложений (мониторинг, оптимизация задержек)

Продвинутые архитектуры и паттерны

В этом модуле вы изучите современные подходы к построению эффективных и масштабируемых LLM-систем: от сжатия и оптимизации моделей до внедрения мультимодальности и реализации семантического поиска.

Тема 1: Сжатие моделей: квантование (GGUF, AWQ), дистилляция, pruning

Тема 2: Семантический поиск и мультимодальность (текст + изображение/аудио) // ДЗ

Тема 3: Продвинутое обучение (contrastive fine-tuning, in-context learning), интерпретируемость (SHAP, LIME)

Проектная работа

Заключительный месяц курса посвящен проектной работе. Проект – это самая интересная часть обучения. Вы будете разрабатывать его на основе полученных на курсе навыков и компетенций. В процессе работы над проектом можно получить консультацию преподавателей.

Тема 1: Выбор темы и организация проектной работы // Проект

Тема 2: Консультация по проектам и домашним заданиям

Тема 3: Защита проектных работ

Тема 4: Подведение итогов курса

Старт занятий 26 июня 2025г.