letta
v0.5.3
Página inicial // Documentation // Letta Cloud
? A Letta é uma estrutura de código aberto para a criação de aplicativos estabelecidos LLM. Você pode usar a Letta para criar agentes com estado com recursos avançados de raciocínio e memória transparente de longo prazo. A estrutura de Letta é a caixa branca e o modelo-agnóstico.
Observação
Procurando MEMGPT? Você está no lugar certo!
O pacote MEMGPT e a imagem do Docker foram renomeados para letta para esclarecer a distinção entre agentes do MEMGPT e o servidor / tempo de execução da API que executa agentes LLM como serviços .
Você usa a estrutura Letta para criar agentes do MEMGPT . Leia mais sobre o relacionamento entre MEMGPT e Letta aqui.
As duas maneiras principais de instalar Letta são através do Pypi ( pip ) ou do Docker :
pip (Guia abaixo) - A maneira mais fácil de experimentar o Letta, o padrão de usar o SQLite e o Chromadb para o banco de dados backand -endspip $ pip install -U letta$ export OPENAI_API_KEY=sk-...Para Ollama (consulte nossa documentação completa para obter exemplos de como configurar vários fornecedores):
$ export OLLAMA_BASE_URL=http://localhost:11434 Você pode criar agentes e conversar com eles através da ferramenta Letta CLI ( letta run ):
$ letta run ? Creating new agent...
? Select LLM model: letta-free [type=openai] [ip=https://inference.memgpt.ai]
? Select embedding model: letta-free [type=hugging-face] [ip=https://embeddings.memgpt.ai]
-> ? Using persona profile: 'sam_pov'
-> ? Using human profile: 'basic'
-> 8 tools: send_message, pause_heartbeats, conversation_search, conversation_search_date, archival_memory_insert, archival_memory_search, core_memory_append, core_memory_replace
? Created new agent 'InspiringSpinach'
Hit enter to begin (will request first Letta message)
? User engaged. Recognize as Chad. Acknowledge presence and establish connection. Explore interests and engage in meaningful discourse.
? Hello, Chad. It's nice to meet you. I am keen on learning and exploring new ideas and concepts. Is there a specific topic you'd like to discuss today?
> Enter your message: my name is Brad, not Chad...
? A discrepancy in identity. Reflect this change in core memory. Apologize for the oversight, and rectify the error.
⚡? [function] updating memory with core_memory_replace
First name: Chad
→ First name: Brad
? Apologize for the mistake in recognizing his name, and begin the conversation anew, addressing him by the correct name this time.
? I apologize for the oversight, Brad. Let's restart. It's a pleasure to meet you, Brad. Is there a specific topic you'd like to discuss today?
> Enter your message:
Você pode iniciar o servidor API da Letta com letta server (consulte a referência completa da API aqui):
$ letta server Initializing database...
Running: uvicorn server:app --host localhost --port 8283
INFO: Started server process [47750]
INFO: Waiting for application startup.
INFO: Application startup complete.
INFO: Uvicorn running on http://localhost:8283 (Press CTRL+C to quit)
Quando você inicia o servidor API da Letta, o ADE (Agendment Development Ambient) estará disponível em http://localhost:8283 : 
Em Letta, todos os agentes são armazenados/persistidos no mesmo banco de dados; portanto, os agentes que você cria na CLI são acessíveis por meio da API e ADE e vice -versa. Confira o Guia do Quickstart em nossos documentos para um tutorial, onde você cria um agente na CLI da Letta e envie o mesmo agente através da API da Letta.
Letta é um projeto de código aberto construído por mais de cem colaboradores. Existem muitas maneiras de se envolver no projeto Letta OSS!
#support .Avisos legais : usando os Serviços Letta e Letta relacionados (como o Letta Endpoint ou o Serviço hospedado), você concorda com nossa Política de Privacidade e Termos de Serviço.
