Página de inicio // documentación // Letta Cloud
? Letta es un marco de código abierto para construir aplicaciones LLM con estado. Puede usar Letta para construir agentes con estado con capacidades de razonamiento avanzado y memoria transparente a largo plazo. El marco de Letta es una caja blanca y agnóstico del modelo.
Nota
¿Buscas MEMGPT? ¡Estás en el lugar correcto!
El paquete MEMGPT y la imagen de Docker han sido renombrados a letta
para aclarar la distinción entre los agentes de MEMGPT y el servidor / tiempo de ejecución API que ejecuta los agentes de LLM como servicios .
Utiliza el marco Letta para crear agentes MEMGPT . Lea más sobre la relación entre MEMGPT y Letta aquí.
Las dos formas principales de instalar Letta son a través de PYPI ( pip
) o a través de Docker :
pip
(Guía a continuación): la forma más fácil de probar Letta, se predeterminará a SQLite y ChromAdB para los backends de la base de datospip
$ pip install -U letta
$ export OPENAI_API_KEY=sk-...
Para Ollama (consulte nuestra documentación completa para ver ejemplos de cómo configurar varios proveedores):
$ export OLLAMA_BASE_URL=http://localhost:11434
Puede crear agentes y chatear con ellos a través de la herramienta Letta CLI ( letta run
):
$ letta run
? Creating new agent...
? Select LLM model: letta-free [type=openai] [ip=https://inference.memgpt.ai]
? Select embedding model: letta-free [type=hugging-face] [ip=https://embeddings.memgpt.ai]
-> ? Using persona profile: 'sam_pov'
-> ? Using human profile: 'basic'
-> 8 tools: send_message, pause_heartbeats, conversation_search, conversation_search_date, archival_memory_insert, archival_memory_search, core_memory_append, core_memory_replace
? Created new agent 'InspiringSpinach'
Hit enter to begin (will request first Letta message)
? User engaged. Recognize as Chad. Acknowledge presence and establish connection. Explore interests and engage in meaningful discourse.
? Hello, Chad. It's nice to meet you. I am keen on learning and exploring new ideas and concepts. Is there a specific topic you'd like to discuss today?
> Enter your message: my name is Brad, not Chad...
? A discrepancy in identity. Reflect this change in core memory. Apologize for the oversight, and rectify the error.
⚡? [function] updating memory with core_memory_replace
First name: Chad
→ First name: Brad
? Apologize for the mistake in recognizing his name, and begin the conversation anew, addressing him by the correct name this time.
? I apologize for the oversight, Brad. Let's restart. It's a pleasure to meet you, Brad. Is there a specific topic you'd like to discuss today?
> Enter your message:
Puede iniciar el servidor API Letta con letta server
(consulte la referencia de API completa aquí):
$ letta server
Initializing database...
Running: uvicorn server:app --host localhost --port 8283
INFO: Started server process [47750]
INFO: Waiting for application startup.
INFO: Application startup complete.
INFO: Uvicorn running on http://localhost:8283 (Press CTRL+C to quit)
Cuando inicie el servidor API Letta, el ADE (entorno de desarrollo de agentes) estará disponible en http://localhost:8283
:
En Letta, todos los agentes se almacenan/persisten en la misma base de datos, por lo que se puede acceder a los agentes que crea en la CLI a través de API y ADE, y viceversa. Consulte la guía QuickStart en nuestros documentos para obtener un tutorial en el que cree un agente en el Letta CLI y envíe un mensaje al mismo agente a través de la API de Letta.
Letta es un proyecto de código abierto construido por más de cien contribuyentes. ¡Hay muchas maneras de involucrarse en el proyecto Letta Oss!
#support
.Avisos legales : mediante el uso de Letta y los servicios de Letta relacionados (como el punto final de Letta o el servicio alojado), usted acepta nuestra política de privacidad y los términos de servicio.