Generative KI mit LLMs
In „Generative KI mit großen Sprachmodellen“ (LLMs) lernen Sie die Grundlagen der Funktionsweise generativer KI und wie Sie sie in realen Anwendungen einsetzen.
Durch die Teilnahme an diesem Kurs lernen Sie:
- Verstehen Sie die generative KI tiefgreifend und beschreiben Sie die wichtigsten Schritte in einem typischen LLM-basierten generativen KI-Lebenszyklus, von der Datenerfassung und Modellauswahl bis hin zur Leistungsbewertung und Bereitstellung
- Beschreiben Sie detailliert die Transformatorarchitektur, die LLMs antreibt, wie sie trainiert werden und wie die Feinabstimmung es ermöglicht, LLMs an eine Vielzahl spezifischer Anwendungsfälle anzupassen
- Nutzen Sie empirische Skalierungsgesetze, um die Zielfunktion des Modells hinsichtlich Datensatzgröße, Rechenbudget und Inferenzanforderungen zu optimieren
- Wenden Sie modernste Schulungs-, Optimierungs-, Inferenz-, Tools- und Bereitstellungsmethoden an, um die Leistung von Modellen innerhalb der spezifischen Einschränkungen Ihres Projekts zu maximieren
- Besprechen Sie die Herausforderungen und Chancen, die generative KI für Unternehmen mit sich bringt, nachdem Sie Geschichten von Branchenforschern und Praktikern gehört haben
Entwickler, die über ein gutes grundlegendes Verständnis der Funktionsweise von LLMs sowie der Best Practices für deren Schulung und Bereitstellung verfügen, werden in der Lage sein, gute Entscheidungen für ihre Unternehmen zu treffen und schneller funktionierende Prototypen zu erstellen. Dieser Kurs unterstützt die Lernenden dabei, ein praktisches Verständnis dafür zu entwickeln, wie sie diese aufregende neue Technologie am besten nutzen können.
Woche 1
Anwendungsfälle für generative KI, Projektlebenszyklus und Modellvorschulung
Lernziele
- Besprechen Sie das Vortraining des Modells und den Wert eines fortgesetzten Vortrainings im Vergleich zur Feinabstimmung
- Definieren Sie die Begriffe „generative KI“, „große Sprachmodelle“ und „Prompt“ und beschreiben Sie die Transformatorarchitektur, die LLMs antreibt
- Beschreiben Sie die Schritte in einem typischen LLM-basierten, generativen KI-Modelllebenszyklus und diskutieren Sie die einschränkenden Faktoren, die Entscheidungen in jedem Schritt des Modelllebenszyklus beeinflussen
- Besprechen Sie rechnerische Herausforderungen während des Modell-Vortrainings und ermitteln Sie, wie Sie den Speicherbedarf effizient reduzieren können
- Definieren Sie den Begriff „Skalierungsgesetz“ und beschreiben Sie die Gesetze, die für LLMs in Bezug auf die Größe des Trainingsdatensatzes, das Rechenbudget, die Inferenzanforderungen und andere Faktoren entdeckt wurden
Labor 1 – Anwendungsfall generative KI: Dialog zusammenfassen
Quiz Woche 1
Woche 2
Feinabstimmung und Bewertung großer Sprachmodelle
Lernziele
- Beschreiben Sie, wie eine Feinabstimmung mit Anweisungen mithilfe von Eingabeaufforderungsdatensätzen die Leistung einer oder mehrerer Aufgaben verbessern kann
- Definieren Sie katastrophales Vergessen und erläutern Sie Techniken, mit denen es überwunden werden kann
- Definieren Sie den Begriff Parametereffizientes Feintuning (PEFT)
- Erklären Sie, wie PEFT die Rechenkosten senkt und katastrophales Vergessen verhindert
- Erklären Sie, wie die Feinabstimmung mit Anweisungen mithilfe von Eingabeaufforderungsdatensätzen die LLM-Leistung bei einem oder mehreren verbessern kann
Labor 2 – Feinabstimmung eines generativen KI-Modells für die Dialogzusammenfassung
Quiz Woche 2
Woche 3
Reinforcement Learning und LLM-gestützte Anwendungen
Lernziele
- Beschreiben Sie, wie RLHF menschliches Feedback nutzt, um die Leistung und Ausrichtung großer Sprachmodelle zu verbessern
- Erklären Sie, wie von menschlichen Etikettierern gesammelte Daten zum Trainieren eines Belohnungsmodells für RLHF verwendet werden
- Definieren Sie die Aufforderung zur Gedankenkette und beschreiben Sie, wie sie verwendet werden kann, um die Denk- und Planungsfähigkeiten von LLMs zu verbessern
- Besprechen Sie die Herausforderungen, mit denen LLMs aufgrund von Wissenskürzungen konfrontiert sind, und erläutern Sie, wie Techniken zum Abrufen und Erweitern von Informationen diese Herausforderungen bewältigen können
Labor 3 – Optimieren Sie FLAN-T5 mit Reinforcement Learning, um positivere Zusammenfassungen zu erstellen
Quiz Woche 3
