structured generation benchmark
1.0.0
Um Large Language Models (LLMs) effektiv und zuverlässig nutzen zu können, ist die Einbeziehung strukturierter Generierungstechniken unerlässlich. Die Möglichkeit, Ausgaben wie reguläre Ausdrücke, JSON oder ein Pydantic-Datenmodell zu erhalten, ist der Schlüssel zur Entwicklung nützlicher Software.
Aber was ist der eigentliche Effekt, wenn man Bibliotheken wie Outlines oder Instructor verwendet, um dieses Ziel zu erreichen?
Zur Beantwortung dieser Frage hat dieses Repositorium Auswertungen zusammengestellt.
Die Fähigkeit des LLM, Funktionen aufzurufen.
AST simple
auszuführen.Verwendung eines LLM zur Erstellung künstlicher Daten.