langfuse

Langfuse: Open Source LLM Engineering -Plattform

LLM Observability, prompt Management, LLM -Bewertungen,
Datensätze, LLM -Metriken und promptierter Spielplatz

Anmelden · Self Host · Demo (Live -Daten)

DOCS · BEGEBRAUCHE · Feature -Anforderung · ChangeLog · Roadmap · Zwietracht

Langfuse verwendet GitHub -Diskussionen für Support- und Feature -Anfragen.
Wir stellen ein. Nehmen Sie mit uns in Produkttechnik und Entwicklerbeziehungen teil .

Langfuse -Übersicht

Aufschlussvideo für Voice-Over

Langfuse-Overview-3Min.mp4

Entwickeln

• LLM -Beobachtbarkeit: Instrument Ihrer App und beginnen Sie mit der Einnahme von Spuren von Langfuse (QuickStart, Integrationsverfolgung)
• Langfuse UI: Komplexe Protokolle inspizieren und debuggen (Demo, Verfolgung)
• Eingabeaufforderungsverwaltung: Verwalten, Versionen und Bereitstellen von Eingabeaufforderungen in Langfuse (Eingabeaufforderungsverwaltung)
• Schnelltechnik: Testen Sie und iterieren Sie Ihre Eingabeaufforderungen mit dem LLM -Spielplatz

Monitor

• LLM Analytics: Verfolgung von Metriken (Kosten, Latenz, Qualität) und Gewinne Erkenntnisse aus Dashboards und Datenexporten (Analytics)
• LLM -Bewertungen: Sammeln und berechnen Sie Punkte für Ihre LLM -Abschlüsse (Bewertungen und Bewertungen)
  • Ausführen (modellbasierte Bewertungen) und LLM-AS-A-Judge innerhalb von Langfuse
  • Sammeln Sie Benutzer -Feedback (Benutzerfeedback)
  • Manuell in Langfuse ausgängen LLM -Ausgänge (manuelle Bewertungen)

Prüfen

• Experimente: Verhalten und testen Sie das App -Verhalten, bevor Sie eine neue Version bereitstellen
  • Mit Datensätzen können Sie die erwarteten und Ausgabepaare und die Benchmark -Leistung vor der Bereitstellung testen (Datensätze)
  • Verfolgen Sie Versionen und Veröffentlichungen in Ihrer Anwendung (Experimentieren, Umlaufmanagement)

Fangen an

Langfuse Cloud

Verwaltete Bereitstellung durch das Langfuse-Team, großzügige Freistufe (Hobbyplan), keine Kreditkarte erforderlich.

»Langfuse Cloud

Open Source LLM-Beobachtbarkeit mit Langfuse selbst veranstalten

Localhost (docker)

 # Clone repository
git clone https://github.com/langfuse/langfuse.git
cd langfuse

# Run server and database
docker compose up -d

→ Erfahren Sie mehr über die Bereitstellung lokal

SelbstHost (Docker)

Langfuse ist einfach zu veranstalten und auf dem Laufenden zu bleiben. Derzeit sind nur ein einzelner Docker -Container und eine Postgres -Datenbank erforderlich. → Self -Hosting -Anweisungen

Vorlagenbereitstellungen: Eisenbahn, GCP, AWS, Azure, Kubernetes und andere

Fangen an

API -Schlüssel

Sie benötigen einen öffentlichen und geheimen Schlüssel in Langfuse, um loszulegen. Melden Sie sich hier an und finden Sie sie in Ihren Projekteinstellungen.

Daten einnehmen · Instrumentierung Ihrer Anwendung · LLM -Beobachtbarkeit mit Langfuse

HINWEIS: Wir empfehlen, unsere vollständig asynchronisierte, eingeführte SDKs zu verwenden, mit denen Sie jede LLM -Anwendung mit jedem zugrunde liegenden Modell instrumentieren können. Sie sind in Python (Dekoratoren) und JS/TS erhältlich. Die SDKs werden immer die am besten vorgestellte und stabilste Art sein, Daten in Langfuse aufzunehmen.

Siehe → QuickStart, um Langfuse zu integrieren.

LLM -Beobachtbarkeitsintegrationen

Integration	Unterstützung	Beschreibung
SDK	Python, JS/TS	Manuelle Instrumentierung mit den SDKs für die volle Flexibilität.
Openai	Python, JS/TS	Automatisierte Instrumentierung mit Drop-In-Austausch von OpenAI SDK.
Langchain	Python, JS/TS	Automatisierte Instrumente, indem Sie den Rückruf -Handler an die Anwendung von Langchain weitergeben.
Llamaindex	Python	Automatisierte Instrumentierung über das Lamaindex -Rückrufsystem.
Heuhaufen	Python	Automatisierte Instrumente über das Haystack -Inhaltsverfolgungssystem.
Litellm	Python, JS/TS (nur Proxy)	Verwenden Sie einen beliebigen LLM als Ersatzabfall für GPT. Verwenden Sie Azure, Openai, Cohere, Anthropic, Ollama, VllM, Sagemaker, Huggingface, Replicate (100+ LLMs).
Vercel ai sdk	JS/TS	TypeScript-Toolkit, mit dem Entwickler AI-betriebene Anwendungen mit React, Next.js, Vue, Svelte, Node.js. erstellen sollen.
API		Rufen Sie die öffentliche API direkt an. OpenAPI Spec verfügbar.

Pakete in Langfuse integriert:

Name	Beschreibung
Lehrer	Bibliothek, um strukturierte LLM -Ausgänge zu erhalten (JSON, Pydantic)
Schwierig	Open Source LLM App-Entwicklungsplattform mit No-Code Builder.
Ollama	Führen Sie Open Source LLMs einfach auf Ihrer eigenen Maschine aus.
Mirascope	Python Toolkit zum Erstellen von LLM -Anwendungen.
Fluss	JS/TS No-Code Builder für angepasste LLM-Ströme.
Langflow	Python-basierte UI für Langchain, die mit React-Flow entwickelt wurde, um eine mühelose Möglichkeit zum Experimentieren und Prototypen zu bieten.

Fragen und Feedback

Ideen und Roadmap

• Roadmap
• Github -Diskussionen
• Feature -Anfragen

Unterstützung und Feedback

In der Reihenfolge der Präferenz ist der beste Weg, um mit uns zu kommunizieren:

• Github -Diskussionen (bevorzugt): Ideen, Supportanfragen und Meldefehler beibehalten
• Zwietracht: Community -Unterstützung
• Privat: Kontakt bei Langfuse dot com

Beitrag zu Langfuse

• Stimmen Sie über Ideen ab
• Erhöhen und kommentieren Sie Fragen
• Eröffnen Sie eine PR - siehe Beitrags.md für Einzelheiten zum Einrichten einer Entwicklungsumgebung.

Lizenz

Dieses Repository ist mit Ausnahme der ee -Ordner MIT lizenziert. Weitere Informationen finden Sie unter Lizenz und Dokumente.

Miser

Lassen Sie die API Ihre Daten exportieren

Holen Sie sich Routen , um Daten in nachgeschalteten Anwendungen zu verwenden (z. B. eingebettete Analyse). Sie können auch bequem über die SDKs (DOCS) auf sie zugreifen.

Sicherheit und Privatsphäre

Wir nehmen Datensicherheit und Privatsphäre ernst. Weitere Informationen finden Sie in unserer Seite für Sicherheit und Datenschutz.

Telemetrie

Standardmäßig meldet Langfuse automatisch grundlegende Nutzungsstatistiken von selbst gehosteten Instanzen an einem zentralisierten Server (Posthog).

Dies hilft uns zu:

1. Verstehen Sie, wie Langfuse verwendet wird, und verbessern Sie die relevantesten Funktionen.
2. Verfolgen Sie die Gesamtnutzung der internen und externen Berichterstattung (z. B. Fundraising).

Keine der Daten wird an Dritte weitergegeben und enthält keine sensiblen Informationen. Wir möchten darüber sehr transparent sein und Sie können die genauen Daten finden, die wir hier sammeln.

Sie können sich anmelden, indem Sie TELEMETRY_ENABLED=false einstellen.

Sterngeschichte