Генеративный ИИ с LLM
В курсе «Генеративный ИИ с большими языковыми моделями» (LLM) вы изучите основы того, как работает генеративный ИИ и как его развертывать в реальных приложениях.
Пройдя этот курс, вы научитесь:
- Глубокое понимание генеративного ИИ, описание ключевых этапов типичного жизненного цикла генеративного ИИ на основе LLM: от сбора данных и выбора модели до оценки производительности и развертывания.
- Подробно опишите архитектуру трансформатора, на котором работают LLM, как они обучаются и как точная настройка позволяет адаптировать LLM к различным конкретным случаям использования.
- Используйте эмпирические законы масштабирования для оптимизации целевой функции модели с учетом размера набора данных, вычислительного бюджета и требований к выводу.
- Применяйте самые современные методы обучения, настройки, вывода, инструментов и развертывания, чтобы максимизировать производительность моделей в рамках конкретных ограничений вашего проекта.
- Обсудите проблемы и возможности, которые генеративный ИИ создает для бизнеса, выслушав истории отраслевых исследователей и практиков.
Разработчики, которые имеют хорошее базовое понимание того, как работают LLM, а также лучшие практики их обучения и внедрения, смогут принимать правильные решения для своих компаний и быстрее создавать рабочие прототипы. Этот курс поможет учащимся обрести практическое понимание того, как лучше всего использовать эту захватывающую новую технологию.
Неделя 1
Варианты использования генеративного ИИ, жизненный цикл проекта и предварительное обучение модели
Цели обучения
- Обсудите предварительное обучение модели и ценность продолжения предварительного обучения по сравнению с точной настройкой.
- Дайте определение терминам «Генераторный искусственный интеллект», «большие языковые модели», подскажите и опишите архитектуру преобразователя, лежащую в основе LLM.
- Описать этапы типичного жизненного цикла генеративной модели искусственного интеллекта на основе LLM и обсудить ограничивающие факторы, которые определяют решения на каждом этапе жизненного цикла модели.
- Обсудите вычислительные задачи во время предварительного обучения модели и определите, как эффективно уменьшить объем памяти.
- Дайте определение термину «закон масштабирования» и опишите законы, обнаруженные для LLM, связанные с размером набора обучающих данных, вычислительным бюджетом, требованиями к выводу и другими факторами.
Лабораторная работа 1. Вариант использования генеративного ИИ: подведение итогов диалога
Викторина 1 недели
Неделя 2
Точная настройка и оценка больших языковых моделей
Цели обучения
- Описать, как точная настройка с помощью инструкций с использованием наборов данных подсказок может повысить производительность при выполнении одной или нескольких задач.
- Определить катастрофическое забывание и объяснить методы, которые можно использовать для его преодоления.
- Дайте определение термину «Точная настройка с эффективным использованием параметров» (PEFT).
- Объясните, как PEFT снижает вычислительные затраты и преодолевает катастрофическое забывание.
- Объясните, как точная настройка с помощью инструкций с использованием наборов данных может повысить производительность LLM на одном или нескольких объектах.
Лабораторная работа 2. Точная настройка генеративной модели ИИ для обобщения диалогов.
Викторина 2 недели
Неделя 3
Обучение с подкреплением и приложения на базе LLM
Цели обучения
- Описать, как RLHF использует обратную связь с людьми для повышения производительности и согласованности больших языковых моделей.
- Объясните, как данные, полученные от людей-маркировщиков, используются для обучения модели вознаграждения для RLHF.
- Определите подсказки по цепочке мыслей и опишите, как их можно использовать для улучшения способностей LLM к рассуждению и планированию.
- Обсудите проблемы, с которыми сталкиваются студенты LLM из-за нехватки знаний, и объясните, как методы поиска и увеличения информации могут преодолеть эти проблемы.
Лабораторная работа 3. Точная настройка FLAN-T5 с помощью обучения с подкреплением для создания более позитивных резюме.
Викторина 3-й недели
