letta
v0.5.3
Page d'accueil // Documentation // Cloud Leta
? Letta est un cadre open source pour construire des applications LLM avec état. Vous pouvez utiliser Letta pour construire des agents avec état avec des capacités de raisonnement avancées et une mémoire à long terme transparente. Le framework letta est la boîte blanche et l'agnostique du modèle.
Note
Vous cherchez Memgpt? Vous êtes au bon endroit!
Le package MEMGPT et l'image Docker ont été renommés letta pour clarifier la distinction entre les agents MEMGPT et le serveur API / Runtime qui exécute les agents LLM en tant que services .
Vous utilisez le framework letta pour créer des agents memgpt . En savoir plus sur la relation entre Memgpt et Letta ici.
Les deux principales façons d'installer letta sont via PYPI ( pip ) ou via Docker :
pip (Guide ci-dessous) - Le moyen le plus simple d'essayer Letta, sera par défaut en utilisant SQLite et ChromAdb pour les backends de la base de donnéespip $ pip install -U letta$ export OPENAI_API_KEY=sk-...Pour Olllama (voir notre documentation complète pour des exemples de comment mettre en place divers fournisseurs):
$ export OLLAMA_BASE_URL=http://localhost:11434 Vous pouvez créer des agents et discuter avec eux via l'outil Letta CLI ( letta run ):
$ letta run ? Creating new agent...
? Select LLM model: letta-free [type=openai] [ip=https://inference.memgpt.ai]
? Select embedding model: letta-free [type=hugging-face] [ip=https://embeddings.memgpt.ai]
-> ? Using persona profile: 'sam_pov'
-> ? Using human profile: 'basic'
-> 8 tools: send_message, pause_heartbeats, conversation_search, conversation_search_date, archival_memory_insert, archival_memory_search, core_memory_append, core_memory_replace
? Created new agent 'InspiringSpinach'
Hit enter to begin (will request first Letta message)
? User engaged. Recognize as Chad. Acknowledge presence and establish connection. Explore interests and engage in meaningful discourse.
? Hello, Chad. It's nice to meet you. I am keen on learning and exploring new ideas and concepts. Is there a specific topic you'd like to discuss today?
> Enter your message: my name is Brad, not Chad...
? A discrepancy in identity. Reflect this change in core memory. Apologize for the oversight, and rectify the error.
⚡? [function] updating memory with core_memory_replace
First name: Chad
→ First name: Brad
? Apologize for the mistake in recognizing his name, and begin the conversation anew, addressing him by the correct name this time.
? I apologize for the oversight, Brad. Let's restart. It's a pleasure to meet you, Brad. Is there a specific topic you'd like to discuss today?
> Enter your message:
Vous pouvez démarrer le serveur API letta avec letta server (voir la référence API complète ici):
$ letta server Initializing database...
Running: uvicorn server:app --host localhost --port 8283
INFO: Started server process [47750]
INFO: Waiting for application startup.
INFO: Application startup complete.
INFO: Uvicorn running on http://localhost:8283 (Press CTRL+C to quit)
Lorsque vous démarrez le serveur API letta, l'ADE (Agent Development Environment) sera disponible sur http://localhost:8283 : 
Dans Letta, tous les agents sont stockés / persistants dans la même base de données, de sorte que les agents que vous créez dans la CLI sont accessibles via l'API et l'ADE, et vice versa. Consultez le guide QuickStart sur nos documents pour un tutoriel où vous créez un agent dans le letta CLI et envoyez un message au même agent via l'API letta.
Letta est un projet open source construit par plus d'une centaine de contributeurs. Il existe de nombreuses façons de s'impliquer dans le projet de letta OSS!
#support .Avis juridiques : En utilisant les services de letta et les services de letta connexes (tels que le point de terminaison de Letta ou le service hébergé), vous acceptez notre politique de confidentialité et nos conditions de service.
