letta

Letta (zuvor memgpt)

Homepage // Dokumentation // Letta Cloud

? Letta ist ein Open -Source -Rahmen für den Aufbau staatlicher LLM -Anwendungen. Sie können Letta verwenden, um staatliche Agenten mit fortgeschrittenen Argumentationsfunktionen und transparentem Langzeitgedächtnis aufzubauen. Das Letta-Framework ist White Box und Modell-Agnostic.

Notiz

Auf der Suche nach Memgpt? Du bist am richtigen Ort!

Das MEMGPT -Paket und das Docker -Bild wurden in letta umbenannt, um die Unterscheidung zwischen MEMGPT -Agenten und der API -Server / der Laufzeit zu klären, die LLM -Agenten als Dienste ausführt.

Sie verwenden das Letta -Framework , um Memgpt -Agenten zu erstellen. Lesen Sie hier mehr über die Beziehung zwischen Memgpt und Letta.

⚡ QuickStart

Die beiden wichtigsten Möglichkeiten zur Installation von Letta sind über PYPI ( pip ) oder über Docker :

• pip (Leitfaden unten) - Der einfachste Weg, um Letta zu versuchen, wird standardmäßig SQLite und Chromadb für die Datenbank -Backends verwenden
• Docker (Handbuch hier) - Für die Produktionseinstellungen empfohlen, wird standardmäßig Postgres (+ PGVector) für das Datenbank -Backend verwenden

Schritt 1 - Installieren Sie Letta mit pip

$ pip install -U letta

Schritt 2 - Stellen Sie Ihre Umgebungsvariablen für Ihre ausgewählten LLM / Einbettungsanbieter ein

$ export OPENAI_API_KEY=sk-...

Für Ollama (siehe unsere vollständige Dokumentation für Beispiele für die Einrichtung verschiedener Anbieter):

$ export OLLAMA_BASE_URL=http://localhost:11434

Schritt 3 - Führen Sie die Letta Cli aus

Sie können Agenten erstellen und über das Letta Cli -Tool ( letta run ) mit ihnen chatten:

$ letta run

 ? Creating new agent...
? Select LLM model: letta-free [type=openai] [ip=https://inference.memgpt.ai]
? Select embedding model: letta-free [type=hugging-face] [ip=https://embeddings.memgpt.ai]
->  ? Using persona profile: 'sam_pov'
->  ? Using human profile: 'basic'
->    8 tools: send_message, pause_heartbeats, conversation_search, conversation_search_date, archival_memory_insert, archival_memory_search, core_memory_append, core_memory_replace

? Created new agent 'InspiringSpinach'

Hit enter to begin (will request first Letta message)

? User engaged. Recognize as Chad. Acknowledge presence and establish connection. Explore interests and engage in meaningful discourse.
? Hello, Chad. It's nice to meet you. I am keen on learning and exploring new ideas and concepts. Is there a specific topic you'd like to discuss today?

> Enter your message: my name is Brad, not Chad...

? A discrepancy in identity. Reflect this change in core memory. Apologize for the oversight, and rectify the error.
⚡? [function] updating memory with core_memory_replace
         First name: Chad
        → First name: Brad
? Apologize for the mistake in recognizing his name, and begin the conversation anew, addressing him by the correct name this time.
? I apologize for the oversight, Brad. Let's restart. It's a pleasure to meet you, Brad. Is there a specific topic you'd like to discuss today?

> Enter your message:

Schritt 4 - Führen Sie den Letta -Server aus

Sie können den Letta -API -Server mit letta server starten (siehe die vollständige API -Referenz hier):

$ letta server

 Initializing database...
Running: uvicorn server:app --host localhost --port 8283
INFO:     Started server process [47750]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://localhost:8283 (Press CTRL+C to quit)

Wenn Sie den Letta -API -Server starten, ist die ADE (Agent Development Environment) unter http://localhost:8283 verfügbar:

In Letta werden alle Agenten in derselben Datenbank gespeichert/bestehen, sodass die in der CLI erstellten Agenten über die API und ADE zugänglich sind und umgekehrt. Schauen Sie sich den QuickStart -Leitfaden in unseren Dokumenten an, um ein Tutorial zu erhalten, in dem Sie einen Agenten in der Letta CLI erstellen und über die Letta -API denselben Agenten senden.

? Wie man beiträgt

Letta ist ein Open -Source -Projekt, das von über hundert Mitwirkenden erstellt wurde. Es gibt viele Möglichkeiten, sich am Letta OSS -Projekt zu beteiligen!

• Zum Projekt beitragen : Interesse an beitragen? Lesen Sie zunächst unsere Beitragsrichtlinien.
• Stellen Sie eine Frage : Schließen Sie sich unserer Community über Discord an und richten Sie Ihre Fragen an den #support -Kanal.
• SSUSes melden oder Funktionen vorschlagen : Haben Sie ein Problem oder eine Funktionsanforderung? Bitte senden Sie sie über unsere Seite mit GitHub -Problemen.
• Entdecken Sie die Roadmap : Neugierig über zukünftige Entwicklungen? Sehen Sie sich unsere Projekt -Roadmap an und kommentieren Sie sie.
• Schließen Sie sich Community -Events an : Bleiben Sie mit dem Veranstaltungskalender auf dem Laufenden oder folgen Sie unserem Twitter -Konto.

---

Rechtsbekanntmachungen : Durch die Nutzung von Letta und verwandten Letta -Diensten (z. B. den Letta -Endpunkt oder den gehosteten Dienst) stimmen Sie unseren Datenschutzrichtlinien und unseren Dienstleistungsbedingungen zu.