Ein paar FMOps

Dieses Repository enthält Referenzarchitekturen und Testfälle für Foundation Model Operations (FMOps) auf Amazon EKS.

Foundation Model Operations (FMOps) umfasst die End-to-End-Prozesse bei der Verwaltung von Foundation-Modellen, vom ersten Vortraining bis zur Bereitstellung und Überwachung. Dieses Repository soll die Verwendung verschiedener Frameworks in jeder Phase des Lebenszyklus des Basismodells und der End-to-End-Pipeline veranschaulichen. Konkret umfassen FMOps in diesem Repository die folgenden vier Phasen: kontinuierliches Vortraining, Feinabstimmung, Evaluierung und Bereitstellung. Im folgenden Abschnitt „Phasen des Foundation Model Operations“ werden die einzelnen Phasen näher erläutert. Jedes Unterverzeichnis dieses Repositorys (Pretraining, Finetuning, Evaluation, Deployment) enthält Testfälle für jede Phase.

Unsere Infrastruktur wird mit Terraform bereitgestellt. Den Leitfaden zur Infrastruktureinrichtung finden Sie im Bereitstellungsleitfaden.

Phasen des Foundation-Modellbetriebs

Foundation Model Operations (FMOps) umfassen die Prozesse und Praktiken, die mit dem (kontinuierlichen) Vortraining, der Feinabstimmung, der Bewertung und der Bereitstellung von Foundation Models verbunden sind.

FMOps

1. (Kontinuierliches) Vortraining ist die Anfangsphase, in der das Basismodell anhand eines breiten und vielfältigen Datensatzes trainiert wird, um allgemeines Wissen zu erlernen. In dieser Phase wird mithilfe umfangreicher Daten ein Modell entwickelt, das sich über verschiedene Aufgaben und Domänen hinweg verallgemeinern lässt. Der Vortrainingsprozess ist oft kontinuierlich, was bedeutet, dass das Modell regelmäßig mit neuen Daten aktualisiert wird, um seine Leistung zu verbessern.

2. Bei der Feinabstimmung wird das vorab trainierte Basismodell an bestimmte Aufgaben oder Domänen angepasst. Diese optionale Phase kann in zwei Unterphasen unterteilt werden:

Anweisungsoptimierung : Bei diesem Prozess geht es darum, die Fähigkeit des Modells, bestimmten Anweisungen oder Aufforderungen zu folgen, zu verfeinern und seine Leistung bei bestimmten Aufgaben durch die Bereitstellung zusätzlicher aufgabenspezifischer Daten und Anweisungen zu verbessern.
Ausrichtung : Diese Unterstufe stellt sicher, dass die Ergebnisse des Modells mit den gewünschten Verhaltensweisen und ethischen Richtlinien übereinstimmen. Dazu gehört die Anpassung des Modells, um Verzerrungen zu reduzieren, die Sicherheit zu verbessern und sicherzustellen, dass es die spezifischen Anforderungen der Anwendungsdomäne erfüllt.

3. Die Evaluierung ist eine kritische Phase, die sowohl nach dem Vortraining als auch nach der Feinabstimmung stattfindet. Dabei wird die Leistung des Modells anhand standardisierter Benchmarks und Metriken bewertet. Die Auswertung hilft, den Fortschritt des Modells zu verfolgen, Verbesserungsmöglichkeiten zu identifizieren und sicherzustellen, dass das Modell die gewünschten Leistungskriterien erfüllt.

4. Die Bereitstellung ist die letzte Phase, in der das Basismodell in Produktionsumgebungen integriert wird. Diese Phase umfasst:

Bereitstellung : Bereitstellung des Modells für den Einsatz in realen Anwendungen, um sicherzustellen, dass es die erforderliche Last bewältigen kann und zeitnahe Antworten liefert.
Überwachung : Kontinuierliche Verfolgung der Leistung und des Verhaltens des Modells in der Produktion, um Probleme wie Leistungseinbußen oder unerwartete Ausgaben zu erkennen und zu beheben. Zur Überwachung gehört auch die Aktualisierung des Modells nach Bedarf, um seine Wirksamkeit und Relevanz aufrechtzuerhalten.

Durch die Befolgung dieser Phasen können Unternehmen grundlegende Modelle effektiv entwickeln, verfeinern, bewerten und einsetzen und so sicherstellen, dass sie eine hohe Leistung erbringen und den beabsichtigten Anwendungsfällen und ethischen Standards entsprechen.